AI 专家和学者看 OpenAI“Q*”传闻：不会对人类带来威胁
▼
ChatGPT 开发商 OpenAI 是否开发出日后足以威胁人类的 AI 技术？我们不得而知，但这引起专家和学者提出不同看法。
《路透社》日前独家报道 OpenAI 研究人员发信警告董事会，宣称公司内部一项 AI 新专案“Q*”（念做 Q-Star）有重大突破，恐怕威胁人类，同时演变成董事会解雇执行长 Sam Altman 其一催化剂。
OpenAI 及其董事会并未证实是否有收到来自研究人员的信，国外媒体 The Verge 引述知情人士的消息指出，他们并没有收到信。
然而抛开前述 Q* 争论，这项传闻的 AI 新专案实际上可能不具威胁性，甚至不是什么新鲜事。包括 Meta 首席 AI 科学家 Yann LeCun（杨立昆）等 AI 研究人员，纷纷质疑 Q* 只不过是 OpenAI 及其研究室现有工作延伸，并非日后可能威胁人类的崭新技术。
讨论大型语言模型和机器学习的自媒体 Coding with Intelligence 作者 Rick Lamers 也在一篇文章提到，OpenAI 共同创办人 John Schulman 7 年前麻省理工学院讲座曾谈道一个名为 Q* 的数学函数。
Please ignore the deluge of complete nonsense about Q*.
One of the main challenges to improve LLM reliability is to replace Auto-Regressive token prediction with planning.Pretty much every top lab (FAIR, DeepMind, OpenAI etc) is working on that and some have already published…
— Yann LeCun (@ylecun) November 24, 2023
▲ Yann LeCun 对 Q* 传闻提出质疑。
一些 AI 研究人员认为，Q* 的 Q 字可能指“Q-learning”，是一种 AI 技术，透过采取特定的正确行动并获得奖励，可帮助 AI 模型学习和改进特定任务。此外，* 可能引用自“A*”，A* 是一种用于检查组成图表的节点并探索这些节点之间路线的演算法。
2014 年，Google DeepMind 应用 Q-learning 建构一种能以人类水准玩雅达利 2600（Atari 2600）游戏主机的 AI 演算法。至于 A* 起源于 1968 年发表的一篇学术文章，几年前美国加州大学尔湾分校研究人员尝试以 Q-learning 改进 A*，这可能正是 OpenAI 现阶段追求的目标。
艾伦人工智慧研究所（Allen Institute for AI）科学家 Nathan Lambert 认为，与 AI 方法相关的 Q* 主要用于研究高中数学问题，而不是毁灭人类，乔治亚理工学院电脑科学教授 Mark Riedl 也批评外媒对 Q* 报道过于夸大。两位学者皆没有猜测 Q* 是否需要 Q-learning 或 A*，无论涉及其中一项，抑或两者结合，都符合目前 AI 研究趋势。
专家和学者认为，无论 Q* 本身和它所能解决的数学方程式出现什么结果，都不至于对人类带来厄运，现阶段担心电影中的“天网”快要到来恐怕还太早。经历与董事会意见分歧的一连串纷争，Sam Altman 等人已经重返公司领导团队，未来仍期待这家掀起 AI 热潮的公司如何继续推进技术发展。
- Contrary to reports, OpenAI probably isn’t building humanity-threatening AI
（首图来源：pixabay）
延伸阅读：
- OpenAI 员工超高兴、全硅谷精疲力尽，混沌时代就要开始
- 路透社曝解雇 Sam Altman 可能原因：AI 新专案“Q*”恐威胁人类
- Sam Altman 回任 OpenAI 执行长，董事会任命新成员
▼
特别声明 本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。
