马斯克带头呼吁暂停开发 AI，科技巨头、新创企业听得进去吗？

AI与大数据 4小时前 0

▼

特斯拉执行长马斯克（Elon Musk）、苹果共同创办人 Steve Wozniak 及多位 AI 研究人员连署公开信，呼吁所有 AI 实验室暂停训练比 GPT-4 更先进的模型至少 6 个月，以免对社会和人类构成威胁。

目前这封公开信有 1.35 万多个签名，表示担心 ChatGPT、Bing 和 Bard 等程式带来“危险竞赛”，若不加以控制，可能产生负面的后果，从虚假资讯到将人类工作遭到机器取代。

比尔盖兹对此表示，不认为要求某特定群体暂停就能解决这些挑战，况且很难在全球产业中要求暂停执行，但他也同意 AI 产业需要更多研究来确定棘手的领域。

从公开信来看，AI 系统往往带有程式设计偏见和潜在隐私问题，会传播错误资讯，尤其是遭到恶意使用时。此外，目前大家也担心 AI 语言系统会取代人类的工作。

目前义大利已经暂时禁止 ChatGPT，因为 OpenAI 数据泄露引发隐私问题；英国官方也公布监管建议，欧洲消费者联盟（BEUC）也呼吁欧洲各地区的立法者加强监管；美国部分国会议员已经呼吁制定新法来监管AI 技术。

虽然许多公司开始投入研发 AI 技术，不过 AI 新创公司 Anthropic 认为目前的技术没有构成迫在眉睫的担忧，但可以肯定的是，未来 AI 系统会变得更加强大，现在建立护栏能帮助减少风险，“但问题是目前没有人清楚护栏该是什么样子”。

部分研究人员认为，暂停研究可能会扼杀产业快速进步，也让允许开发 AI 系统的专制地区获得进展。另一间新创公司认为，一直强调 AI 的潜在威胁可能鼓励不良分子出于邪恶目的来拥抱这项技术。

不过照目前看来，科技巨头和新创企业都不太可能自愿停止工作，信中呼吁官方加强监管倒是较为可行的方式。加利福尼亚大学电脑科学家、AI 研究员 Stuart Russell 表示，这些努力需要在技术进一步发展前到位。

不过双方似乎都同意，必须预防 AI 快速发展下的最坏情况，例如必须透明化以保护用户免于诈骗，又或者阻止AI 系统达到人类智力水平，并有效控制。

比尔盖兹早在 2015 年告诉英国广播公司（BBC），“一旦你开始制造在智力上与人类匹敌和超越的机器，我们将难以生存。这是无法避免的状况”。

Elon Musk wants to pause ‘dangerous’ AI development. Bill Gates disagrees—and he’s not the only one

（首图来源：Unsplash）

▼

特别声明本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。