现在 AI 没意识，不代表以后没有！图灵奖得主 Bengio 最新论文：技术已不是障碍
▼
人工智慧会发展出意识吗？今年初 ChatGPT 热潮席卷全球时，一度是许多人关心的问题（另一个问题则是 AI 会不会让自己失业）。这种恐惧和危机感，很快就被各种眼花缭乱的大模型产品取代，多数人在焦虑未来和关注眼前之间选择了后者。
不过59岁的Yoshua Bengio依然关注这件事，22日他和19人团队公布长达88页的重磅论文，论证现在AI是否可能拥有意识。Bengio曾于2018年因深度学习研究获图灵奖，是人工智慧领域先驱者；其他作者都是人工智慧、神经科学和哲学领域教授和专家。
先看结论：论文认为，目前没有具意识的AI，但以现在技术条件，创造出有意识的AI不成问题。
光这句话就让人汗毛直竖。就好像昨天还在谈虚拟小镇相安无事像真人生活的 AI 代理人（AI Agents），明天这群AI代理就开始想说小镇外面有什么、真正的人类世界是什么样等等等了……
是福还是祸，就先来看论文的研究方法吧。
首先说明什么是“意识”，虽然每人都能大概讲出自己的理解，但在学术界，意识概念长达几世纪定义都不同，哲学家、神学家、语言学家和科学家数千年分析、界定、诠释和辩论，但意识的本质唯一统一结论是还有争议。
人工智慧领域对人工意识的理解也经历漫长演进。
20世纪，以艾伦图灵为代表的行为主义者贡献最具影响力的定义，也就是着名的“图灵测试”──如果测试者对无法确认身分的两个对象（一人一机器）提出相同问题，答案让他无法区分谁是机器谁是人，就认为机器通过图灵测试，拥有意识。
行为主义的特点是，将意识解释成一系列能外部观察的行为，以行为定义意识。但这方法忽略心理现象，无法解释智力。
功能主义后来取代行为主义，成为定义人工意识的新主导理论。和行为主义相比，功能主义更关注大脑做什么及大脑功能对什么起作用──如果有任何东西能模仿特定心理状态与计算过程因果关系，意识就可实现。功能主义也对事物如何运作、什么物质组成等外在体现不感兴趣，就好比任何能报时的东西都说是时钟，而时钟是什么制成的并不重要，只要能报时就行。
尽管功能主义也认为有无法体现事物思考性等问题，但依然是现在人工智慧领域较主流衡量AI是否有意识的依据。后来美国哲学家、计算机科学家Hilary Putnam又将功能主义与计算概念结合，提出心智计算主义。简而言之，心智计算主义认为，精神世界是基于使用资讯、计算（思考）、记忆（储存）和回馈等概念的物理系统（即计算机）。
Bengio等人论文，对AI有无意识基础的判断依据正是心智计算主义。
基础原则确定后，接下来进入更细致的“评分”。之前学术界对意识研究有公认结果，如科学家和哲学家对意识必要条件的主张等，论文作者做的事就是，从过往意识研究成果取部分科学理论，当成判断AI是否有意识的评估依据和指标。
论文介绍循环加工理论（Recurrent Processing Theory，RPT）、全局工作空间理论（Global Workspace Theory，GWT）和计算高阶理论（Computational Higher-Order Theories，HOT）三种科学理论。
以循环加工理论（RPT）为例，研究者分成RPT-1和RPT-2两个指标：RPT-1指“使用算法循环的输入模组”，RPT-2指“产生有组织、整合感知表示的输入模组”。
（Source：arxiv，下同）
衡量AI有无意识时，就是将性能和这些指标比对。以下是论文详列的其他科学理论指标：
当然并不是真的评分某AI，而是要看AI同时满足多少指标。研究者指出，判断AI有无意识并没有绝对答案：
为了方便起见，我们通常把意识说得好像全有或全无，但我们对此可能性持开放态度：一个AI系统可能部分有意识，或不是完全有意识也不是完全无意识。许多属性有“模糊”边界，就像衬衫可能介于黄X和绿色之间，这就没有它是否为黄X的事实。
论文也提到研究使用偏理论法，也和心智计算主义原则对应，偏理论指的是评估AI是否满足科学理论指标功能或架构条件，而不是去找某些具体行为特征，“对AI意识研究来说，重理论法十分必要，重理论法是专注系统如何工作，而不是是否显示可能视为有意识存在特征的外在行为形式”。
以上便是论文的研究方法。
论文下半部也提出案例，说明判断特定AI系统是否有意识的研究过程，包括基于Transformer的大型语言模型和Perceiver架构，还分析DeepMind的Adaptive Agent（在3D虚拟环境运行的强化学习AI代理）和Google的PaLM-E（经训练可操纵机器人的多模组视觉语言模型）。
不过最终结果显示，这些AI系统都没有显示出明显的有意识倾向。研究者说：“研究证据表明，如果心智计算主义正确，有意识的AI系统近期就能建立。”
论文发表后，NVIDIA首席AI科学家Jim Fan第一时间转发，表示他对研究团队的敬佩：
“意识”一直都是AI领域讳莫如深的话题。这篇图灵奖得主Yoshua Bengio参与撰写的88页论文，是对意识科学理论及人工智慧堆栈可能达成的系统调查，我称赞他们有勇气解决这个大多数研究员都会回避的争议性话题。
“Consciousness” has been the taboo “C-word” in AI.
This 88-page paper, coauthored by Turing Prize laureate Yoshua Bengio, is a systematic survey of the scientific theories of consciousness, as well as possible implementations in today’s AI stack.
I commend their courage to… pic.twitter.com/XRJmHRZRz7
— Jim Fan (@DrJimFan) August 21, 2023
身为世界级人工智慧专家和深度学习先驱，Bengio近年研究课题许多都和人工智慧意识相关：
2017年，刊登于arXiv的〈意识先验〉（The Consciousness Prior）论文；2019年NeurIPS大会，发表“从System 1深度学习到System 2深度学习”主题演讲，提出令人印象深刻的观点：深度学习正从直觉、无意识静态资料库学习，转向有意识、推理和逻辑的新型架构。
3月Bengio也参与轰轰烈烈的反对各家人工智慧实验室搞AI“军备竞赛”、要求暂停至少六个月比GPT-4更强模型研发的运动，和超过千名产业和学术人士连署；两个月后又发表一篇系统分析〈危害人类的AI如何出现〉文章。
直到这次联合发表论文，Bengio一直不遗余力当那个想警告大家AI未来该何去何从的人。
就像论文说“这篇报告还远未对这些（AI有无意识的）话题下定论。我们强烈建议支持意识科学及AI应用研究。我们也呼吁，社群应尽快将建立有意识AI系统的道德和社会风险纳入考量（尽管这并不是这篇报告的主题）”。
（本文由 品玩 授权转载；首图来源：shutterstock）
延伸阅读：
- 像素风西部世界现身，AI 居民甚至会看《1984》
▼
特别声明 本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。
