大语言模型要凭证才能开发？至少 OpenAI 这样建议监管者
▼
有趣的一幕发生了。16 日上午，在美国国会针对人工智慧监管的听证会开始时，参议员理察布鲁蒙索（Richard Blumenthal）“讲”了一段宣言。他的声音在大厅里响起： “我们经常看到技术超过监管时会发生什么。会加深对个人数据的无节制利用、虚假讯息的氾滥和社会不平等。”
然而镜头扫到他时，他的嘴并没有动。直到最后他忍不住发出笑声，才颇为得意地揭晓这段音频是用语音程式根据他在参议院的演讲资料生成，而文本，当然是他用OpenAI的ChatGPT编写的。
所有人的目光都转向了OpenAI的首席执行长Sam Altman （以下简称奥特曼）。此时他正坐在证人席上准备提供证词，旁边还有IBM的首席隐私和信任长Christina Montgomery。参议员布鲁蒙索说，人工智慧能够制作出如此逼真的音频片段真是太神奇了，但潜在的应用可能是可怕的。
参议院司法小组委员会的乔希霍利也在听证会开始时警告说，生成式人工智慧“至少在规模上类似于网络的发明”。他说这可能是“人类历史上”最重要的技术创新之一，但它可能会产生像原子弹一样的严重后果。
AI的势头如此之猛，几个月之内，它的诞生从“iPhone时刻”上升到了“原子弹时刻”，而背后最大的推手，奥特曼也在此时来到美国国会，接受议员们的质询。
然而，和之前硅谷各巨头因为用户隐私和数据安全问题受到激烈批评不一样，奥特曼这次显然受到更友好的待遇。议员们基本上没有批评OpenAI的做法，而是非常友善地征求奥特曼和其他证人对ChatGPT等生成人工智慧的潜在监管的意见。奥特曼也出乎意料地配合，多次主动要求监管介入，甚至还主动提出了要求官方成立监管机构的想法，让AI领域也开始“凭证入场”。
Sam Altman (co-founder of OpenAI and former president of Y Combinator) pic.twitter.com/sR4IBf9BfY
— Dripped Out Technology Brothers (@TechBroDrip) May 16, 2023
自我监管凭证入场
说奥特曼是科技公司高层里最配合、甚至是最主动要求监管介入的绝不为过。他反复强调，AI的强大，让监管从现在起就非常重要，而且他很同意需要一个新的机制来处理AI的监管问题。他甚至有备而来地在这次听证会上建议美国官方应该如何监管像OpenAI的公司，包括提出了三点计划：
- 组建一个新的官方机构，负责为大型AI模型颁发许可证，如果有公司模型不符合官方标准，该机构可以撤销该公司的许可证。
- 为AI模型创建一套安全标准，包括对其危险能力的评估。模型必须通过某些安全测试，例如它们是否可以“自我复制”和“随意渗透”，即开始自主行动不受控制。
- 要求独立专家对模型在各种指标上的表现进行独立审计。
不过，对于当下开源界和企业界对AI模型最大的争议之一──训练数据是否应该透明化的问题，他却没有正面回答；也没有对另外一些颇有争议的问题提出回应，比如AI是否可以基于有版权的作品进行训练，以及AI开发者该如何补偿这些作品的创作者。
奥特曼这样配合的态度，无疑让议员们十分满意。毕竟在此之前，几乎没有发生过网络科技业高层主动呼吁监管。甚至有参议员直接问奥特曼本人是否有资格来担任AI监管机构的工作。当然奥尔特曼婉拒了这一邀请，他说他喜欢目前的工作，不过OpenAI可以提供一些不错的候选人名单。
奥特曼之前曾表示， “需要一部针对人工智慧的新法律”。而这次，他也非常清楚地表明，230条款不是正确的监管人工智慧的框架。（美国《通信规范法案》第230条被视为网络科技行业的法律基石：如果用户在网站上发布虚假、有害内容，网站无需对用户发布的有害讯息承担连带责任）。
奥特曼还警告说，如果AI出错了，那后果会非常严重。“对于一项非常新的技术，我们需要一个新的框架。“ 当然，我们这样的公司对我们推出的工具负有很多责任，但用户也一样。”
不过网友也不全像议员们那样买帐。有Twitter网友就讽刺说，奥特曼的实际想法其实是，“现在OpenAI领先了，官方快来管管我们的竞争者吧”， 许多AI研究人员也认为这是一种反竞争行为，因为“凭证入场”对大公司有利，却可能难倒小公司、研究人员和免费的开源替代方案。
OpenAI CEO Sam Altman on AI: “If this technology goes wrong, it can go quite wrong.”
In other words, now that OpenAI is in the lead, Congress needs to regulate their competitors pic.twitter.com/LZ8XH9tVtF
— Genevieve Roch-Decter, CFA (@GRDecter) May 16, 2023
拒绝暂停开发AI
AI发展如此之快，但是奥特曼再一次在听证会上公开拒绝了暂停人工智慧开发的呼吁。
有议员提到之前伊隆马斯克联合众多业内人士签署的要求暂停比GPT-4更强的AI模型研发，暂停时间至少为6个月时，奥特曼也表示，这个呼吁的框架是错误的。
他说，审计、测试、安全标准这些才是重要的，而日期上的暂停毫无意义。“我们暂停6个月，然后呢？我们再暂停6个月？”他说，OpenAI应用在GPT-4上的标准是一个正确的方向，他们会继续这么做，而不是根据一个日期上的开发暂停。
但是，他也没有否认，或许暂停开发会在未来的某一天到来。“我相信会有一天我们觉得不了解在开发的东西了，我们会需要确实暂停一下， 但不是现在。”
垄断与竞争
几位参议员也对人工智慧市场的垄断竞争敲响了警钟，警告说少数科技公司可能会主导这些工具。
有参议员表示，他对AI“最大担忧”之一是“这种大规模的模型技术集中在少数企业手上”。他以OpenAI与微软的合作为例，表示“看到现在很少有公司控制和影响我们这么多人的生活，而这些公司越来越大，越来越强大，这真的很可怕。”
奥特曼回应，他确实认为“能够开发出大模型的企业数量相对较少”，但只有少数参与者可能会让监管变得容易。
“你真正需要关注的人越少……那就有好处。但我认为需要有足够的竞争，而且肯定一定会有。”他说。
无法承诺ChatGPT 无广告
当有议员在询问OpenAI是否会涉足广告业务时，奥特曼也对这种可能性持开放态度。毕竟OpenAI烧钱的速度在那里。之前有消息称，ChatGPT每天的开销就高达70万美元，ChatGPT Plus每月20美元的订阅费对此无疑是杯水车薪。2022年OpenAI的亏损大约翻了一倍，达到约5.4亿美元。奥特曼甚至提过OpenAI可能会在未来几年尝试筹集多达1,000亿美元的资金。
所以，对于广告模式，尽管奥特曼说“真的很喜欢”拥有订阅模式，但他没办法承诺“永远不会有广告”，而是暗示说，可能对于有些潜在客户，广告会是唯一能从他们身上获得收入的办法。
这也意味着，如果找不到其他赚钱办法，免费版本的ChatGPT（GPT-3.5）最终还是有可能会迎来广告。奥特曼的回答也表明，OpenAI至少没有完全否定在ChatGPT免费版中投放广告以从其免费用户那里赚钱的可能性。
不过，说到依靠投放广告赚钱，谁会比Google和微软更在行呢？微软的Bing Chat已经开始出现广告的痕迹，Google的Bard虽然目前还没有广告，但是谁都知道，这只是时间的问题。
而奥特曼也借此次听证会再一次重申，他在OpenAI没有任何的股权，他做这些“只是因为我真的热爱”。
（本文由 品玩授权转载；首图来源：shutterstock）
延伸阅读：
- AI 若出问题会很严重，ChatGPT 执行长建议官方成立专责单位管理
▼
特别声明 本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。
