OpenAI 创办人 Karpathy：为何我们对 AI 代理人最感兴趣
▼
OpenAI 联合创办人 Andrej Karpathy 最近于开发者活动简短谈论自己和 OpenAI 对 AI Agents（AI 代理人）的看法。
Andrej Karpathy比较过去开发AI Agent的困难和现在新技术工具开发，他还调侃去特斯拉工作的日子是“被自动驾驶分心”，他认为自动驾驶和VR都是糟糕的AI Agents例子。Andrej Karpathy认为此刻正是再次回归神经科学寻找灵感的时刻──就像深度学习发展早期。
另一方面，Andrej Karpathy认为普通人、创业者和geeks构建AI Agents比起OpenAI等公司更有优势，大家都是平等竞争，因此他很期待看到更多成果。他透露，如果某论文提出某种不同训练法，OpenAI的Slack讨论常常嗤之以鼻，认为都是他们玩剩下的，但当新AI Agents论文出现，都会认真兴奋的讨论。以下编译Andrej Karpathy演讲以飨读者。
大家好。
我受邀就AI Agents主题说些激励的话。我认为AI Agents某种程度与我很接近。非常早期的OpenAI，约2016年公司只有十几个人，潮流是RL Agents（强化学习代理人）。
每人都对建立代理人非常感兴趣，但当时主要是基于游戏，围绕像Atari这类游戏公司，我当时计划将RL Agents重点放在键盘和鼠标和电脑，而不是游戏。我想让它们更有用，可做更多工作，专案称为World of Bits。
我和同事最后有发表论文，不算令人惊艳，因基于RL强化学习法。网页非常简单，可让人订机票或食物，但显然行不通，因技术还没准备好，那时做这些东西不太明智。事实也证明，应该完全忘记AI Agents这件事，去做语言模型。
五年后我们回到这里，中间我被自动驾驶分心，但现在AI Agents重新变酷，而工具箱也完全不一样，处理问题的方式也完全不同。所有人都在研究AI Agents，但可能没有用到任何强化学习法，这太疯狂了，我不认为我们当时有预见这点。
我会花一点时间谈谈为什么AI Agents这么红。我想很明显，对很多人来说，AGI（通用人工智慧）可充分利用AI Agents的能力，不是一个而是很多个，也许会出现数位实体的组织或文明，我认为非常有鼓舞性，甚至有点疯狂。
不过我也要泼冷水。有类问题很容易想像、构建、展示，但很难制作成产品，很多事都属这类，自动驾驶就是之一。
自动驾驶很容易想像，也很容易构建汽车绕街区行驶，但将之变成产品需要十年。同样道理，VR也是如此，发挥作用约要十年。我认为AI Agents某种程度也是如此，很容易想像应用场景，非常激发我们兴奋起来，但如果真正参与，应该投入十年让它能发挥作用。
另一件事是，我认为现在回到神经科学并获得灵感很有趣，深度学习早期就受神经科学启发。思考人机关系非常有趣，特别是我认为很多人都把语言模型当成解决方案，但如何构建完整、有人类所有认知能力的数位实体？
显然，我们都认为需要某种潜在系统规划、思考和反思正在做的事，这就是神经科学发挥作用的地方，如海马回非常重要，AI Agents什么东西能发挥海马回作用，做到储存记忆、标记检索等功能？
我们大致了解如何构建视觉和听觉皮层，但还有许多东西我们不知道AI Agents会意味什么，如视觉游戏在AI Agents眼中是什么样子？潜意识所在地“丘脑”对AI Agents又等于什么？
这非常有趣。我今天带了一本神经科学的书，David Eagleman的《Brain and Behavior: A Cognitive Neuroscience Perspective》（大脑与行为），我发现这本书非常有趣和有启发性。从神经科学汲取灵感，就像早期我们设计单神经元时，今天我们也许应该再次这样做。
最后我想用鼓励的话结尾。有趣但不明显的事是，你们（现场观众）构建的AI Agents处于当代AI Agents最前线，所有大型LLM公司如OpenAI、DeFi等，我怀疑他们都还没走到最前线。
你们正在最前线。
OpenAI非常擅长训练Transformer大语言模型，如果某论文提出不同训练法，OpenAI的Slack群组讨论会类似：哦，有人两年半前试过，没用，我们对这种方法的来龙去脉非常了解。
但当新AI Agents论文出现，我们非常感兴趣，觉得很酷，因我们团队并没有花五年研究这个，我们不比别人掌握更多，只是与所有人一起竞争。这就是我为什么认为你们处于AI Agents最前线的原因，这对AI Agents发展非常重要。
（本文由 品玩 授权转载；首图来源：shutterstock）
▼
特别声明 本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。
