Anthropic 告诉美参议员：坏人恐利用 AI 制造生化武器

▼

彭博社报道，Anthropic 联合创办人兼执行长 Daniela Amodei 7 月 25 日在美国参议院司法委员会小组会议上表示，人工智慧（AI）比预期更接近超越人类智慧，甚至可能协助生产大规模杀伤性武器，中期而言、恶意行为者恐将利用 AI 制造生化武器。

Amodei呼吁美国透过立法以避免全球面临电脑系统风险，称AI演算法创造者可能也无法理解这些风险。他并且建议美国采取行动，确保AI供应链（从运算力供应到最终模型）安全无虞。

techcrunch.com报道，25日出席美国参议院听证会的专家小组成员还包括加州大学柏克莱分校电脑科学教授Stuart Russell以及2018年与AI教父辛顿（Geoffrey Hinton）、Meta首席AI科学家杨立昆（Yann LeCun）一同获得电脑科学界最高荣誉“图灵奖”（Turing Award）的蒙特娄大学知名AI学者班吉欧（Yoshua Bengio）。

Russell 25日呼吁将任何能够做出杀人（无论规模大小）决策的演算法视为违法、并强制关闭任何违反法令的电脑系统。他并且指出，内地仿冒的大型语言模型（LLM）不会对OpenAI、Anthropic等公司构成威胁，但可以预见的是，内地的AI监控技术处于遥遥领先地位。

英国金融时报2021年11月报道，Russell在BBC电台播出的讲座中发出警告，AI武器不再是科幻小说，而是正在完全不受监管的情况下迅速发展。

Russell、班吉欧皆参与人工智慧安全中心（Center for AI Safety, CAIS）以及《生命未来研究所》（FLI）关于AI风险示警的公开信连署。

BBC News 5月报道，班吉欧受访时表示，军队不该拥有AI能力。

CNBC报道，Anthropic是由OpenAI前研究高阶主管于2021年成立，金主包括Google、Salesforce以及Zoom。

（本文由MoneyDJ新闻授权转载；首图来源：shutterstock）

延伸阅读：

• 学者：AI 武器已成真，物体辨识能力达到超人等级
• 马斯克带头呼吁暂停开发 AI，科技巨头、新创企业听得进去吗？

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。