美国该规范晶片供应链！OpenAI 执行长赴国会听证

▼

美国时间 5 月 16 日，开发出 ChatGPT 的 OpenAI 执行长奥特曼（Sam Altman），和 IMB 的首席隐私与信任长蒙哥马利（Christina Montgomery）、纽约大学教授暨创业家马库斯（Gary Marcus），共同出席了由参议院隐私科技与法律的立法小组召开的听证会，作证的时间长达三小时。在这三小时中，除了维持一贯论调，呼吁官方部门应该监管人工智慧的发展以外，奥特曼还说了什么？

AI操纵人心、影响行为，奥特曼担心恶梦成真

对现场的参议员和线上收看的观众来说，这都是一场奇妙的听证会。面对不同参议员或友善或强硬的诘问，奥特曼的答案始终没有改变。在介绍OpenAI向大众公布GPT-4模型之前，为确保其安全性所做的诸多努力后，奥特曼真诚地邀请官方部门监管，他主张官方部门的监管介入，能够有效地缓解新技术带来的风险，他甚至勾勒出一定的框架，让不熟悉相关技术的参议员们可以参考。

参议院中民主党党鞭德宾（Dick Durbin）就说，这是历史性的（historic）的听证会，“我无法回想起，上次有大企业的代表，或者私部门的人恳求我们管制他们，”他说奥特曼的做法就像是呼喊着，在我们创新之前，停下我们的脚步吧。IBM的代表蒙哥马利在听证会上认为，官方不用成立新单位管制人工智慧，为什么奥特曼的反应，和这些科技巨头有这么大的不同？

被问及他个人对于生成式AI的前景，有什么可能想过的“恶梦”，奥特曼表示，他认为这类技术非常强大，如果不幸走偏了，那后果将一发不可收拾。后续回应参议员时，他列举了不同的恶意用途，包含被用来操纵与说服，甚至是提供一对一互动式的虚假讯息，这些ChatGPT现阶段能够做到的事情，有可能影响人们行为与信念，若在选举场景之中使用，危害甚大。

替参议员想好如何管制自己，奥特曼被邀请一起工作

讨论管制时，共和党籍的葛瑞姆（Lindsey Graham）回忆起立法者在社群媒体上犯的错误，他认为《通讯规范法》中第230条的安全港条款（Communications Decency Act Section 230）让社群媒体得到免死金牌，只要立意良善、积极行事，就不用对用户的言论负起责任。

葛瑞姆进一步说，技术是双面刃，当有人想要建造核能发电厂，需要得到核能监管委员会的同意，AI似应比照办理。他问奥特曼，你认同有一个专门的机构发放许可制度给人工智慧技术的相关企业吗？

影响算力甚钜的晶片，也需比照核能制定标准

针对提问，奥特曼先是强调，OpenAI并没有引用安全港条款，因为ChatGPT并不适用这个框架，他很乐意和官方探索新的法律规范方式。至于许可制度与专责机构，奥特曼想得更远。

他指出，以核能为例，国际上有国际能源总署（IEA）促进跨国合作、提出建议，他认为人工智慧领域之中，包含晶片的供应链、数量有限的GPU在内，美国有权力、也有能力制定国际标准。

美国官方有三件事情可以施行，首先是创立一个全新机构（agency）按照一定规范发放许可（licensing），若是不符规定则要收回许可；接着是具体制定安全标准，他也介绍了OpenAI内部会做的测试，例如系统是否会自我复制或是有资料渗透的情形；最后则是建立起第三方的检核机制，避免企业违规。

或许是因为奥特曼的计划太过完整，共和党籍、和甘迺迪家族没有关系的参议员甘迺迪 (John Kennedy)甚至问奥特曼，“你愿意来执行你刚提的这些任务吗？”对此，奥特曼的回答是，他很热爱自己的工作。

近半年内没有要开发GPT-5的计划

除了讨论管制以外，听证会上也讨论到先前马斯克（Elon Musk）在内发起的停止开发先进AI系统的联名信。奥特曼表示，他并不认同联名信中的诉求，因为“停下时钟”的意义不大，他更偏好OpenAI在训练模型过程中展现的严谨，像是开发GPT-4时他们检查了6个月才释出。

另外，他也提到现在OpneAI在接下来的六个月之中，都没有训练第5代GPT（GPT-5）的打算。

为何各地区官方都在讨论监管？主要是人工智慧正以肉眼可见的方式，在我们的生活中展现它的影响。小至孩子因为以文算图的工具，正在思考是否要学习绘画，大到好莱坞编剧的罢工因为片商不愿意明确规范AI的使用。在这场听证会后，已可看出美国的重视，看到OpenAI也没有要积极开发新模型，或许能够让人短时间安心了。

（本文由 远见杂志 授权转载；首图来源：达志影像）

延伸阅读：

• AI 若出问题会很严重，ChatGPT 执行长建议官方成立专责单位管理

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。