硅谷人都爱聊的 AI“末日值”是什么？名人末日值多少？

▼

“你的‘末日值’是多少？”据说已成了硅谷科技圈新贵近期最常挂在嘴边的问候语，对于身处 AI 产业的人来说，这更是一个无法含糊其词糊弄过去、避而不谈的议题。“末日值”到底是什么？询问他人“末日值”的意义何在？

所谓的“末日值”（probability of doom，也写做“p(doom)”），指的就是你个人认为AI可能带领人类走向末日的机率。

若不相信AI会导致世界末日，那你的末日值就会趋近0。相反的，若你坚信AI终将导致人类社会灭亡，那你的末日值就会趋近100。

据《纽约时报》科技专栏作家鲁斯（Kevin Roose）观察，末日值这一概念及名词，大概源自于硅谷科技产业的圈内人社群平台交流版“LessWrong”，最早可追溯至十余年前的一则版上贴文。

当时就已开始研究AI技术的几名网友发文分享各种“AI导致人类灭亡”的情境，并分享自己所认定的“末日值”。令人意想不到的事，这则半开玩笑的贴文在ChatGPT等生成式AI崛起后，竟成了人们十分严肃看待、热衷讨论的议题。

而“LessWrong”创办人、AI学者尤德考斯基（Eliezer Yudkowsky）则是出了名的“AI末日论者”（doomer），自认末日值高达95。

科技业名人末日值各有不同

在科技业、AI产业有名有姓的各路人马的末日值，分别都是多少？

鲁斯在《纽约时报》专栏中写道，被誉为“深度学习教父”的AI学者辛顿（Geoffrey Hinton）以及班吉欧（Yoshua Bengio）都曾呼吁业界提高警惕，加强对AI技术的管控。

辛顿认为，若不严格监管，AI在未来30年内导致人类灭绝的机率为10％，而班吉欧则在一次访谈中表示， AI灾难性事件发生的机率大概为20％。

财经新闻网《商业内幕》（Business Insider）指出，曾在ChatGPT开发商OpenAI担任研究员、2023年入选美国《时代》（Time）杂志“百大最具影响力的AI圈内人”榜单的克里斯基亚诺（Paul Christiano），一度在播客节目中坦言：“我认为AI完全掌控人类社会的机率大概为10％到20％，到时候会有很多人、甚至是绝大多数人类死亡。这对我来说，是需要严肃看待的问题。”

美国商业新闻杂志《快公司》（Fast Company）则报道，近期一项针对40名AI工程师所进行的问卷调查结果显示，他们的平均末日值为40，也就是业界普遍认为AI导致人类灭亡的机率为40％。

再像特斯拉（Tesla）创办人马斯克（Elon Musk）刚成为“2023年财富增长最多的人”，则曾公开表示自己的末日值为20至30左右。而AI新创公司Anthropic执行长阿莫迪（Dario Amodei）的末日值为10到25之间。

▲ 马斯克曾公开表示自己的末日值为20至30左右。（Source：Flickr/Steve Jurvetson CC BY 2.0）

有趣的是，《快公司（Fast Company）》形容美国联邦贸易委员会（Federal Trade Commission）主席可汗（Lina Khan）是“最常打着‘反AI’旗帜的人物”，但她的末日值却相当低，认为AI会导致世界末日的机率仅为15％。

末日值可助判断他人的态度

严格来说，末日值是一个相当主观的存在，它并没有一套可量化的衡量标准，甚至连业界约定俗成的标准都没有。

但鲁斯在报道中指出，末日值存在的意义并不在于有多准确，毕竟人们询问他人的末日值时，并没有事先设定好“末日”的定义。

“如果一半的人类因为AI崛起而死去，这可以算是‘末日’吗？那万一大家都没有因为AI而死掉，只是都集体失业了、过得很不快乐，这是否为末日的一种？AI具体会如何征服全世界？”鲁斯写道。

与其说末日值有任何实际学术价值，它其实更像人们心中的一把尺，可帮助一个人判断周围的人对AI的看法及态度。鲁斯形容末日值为某种“社交标志”，让参与对话的人可以快速找到在AI议题上志同道合的人。

鲁斯在报道中写道，OpenAI日前人事风波闹得满城风雨，董事会当时宣布将由直播平台Twitch创办人席尔（Emmett Shear）接替奥特曼（Sam Altman）出任OpenAI执行长，不久后就有员工分享一支影片，指席尔在录制一场播客节目时提及自己的末日值高达50，让员工纷纷担忧这位“空降”到公司的执行长会出于对AI技术的不信任，而要求团队放慢研发新产品的步伐。

由此可见，一个人的末日值多多少少会直接影响他欲树立的个人形象，最终可决定他可以融入到哪些圈子当中。

（本文由 远见杂志 授权转载；首图来源：shutterstock）

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。