硅谷人都爱聊的 AI“末日值”是什么?名人末日值多少?

硅谷人都爱聊的 AI“末日值”是什么?名人末日值多少?

“你的‘末日值’是多少?”据说已成了硅谷科技圈新贵近期最常挂在嘴边的问候语,对于身处 AI 产业的人来说,这更是一个无法含糊其词糊弄过去、避而不谈的议题。“末日值”到底是什么?询问他人“末日值”的意义何在?

所谓的“末日值”(probability of doom,也写做“p(doom)”),指的就是你个人认为AI可能带领人类走向末日的机率。

若不相信AI会导致世界末日,那你的末日值就会趋近0。相反的,若你坚信AI终将导致人类社会灭亡,那你的末日值就会趋近100。

据《纽约时报》科技专栏作家鲁斯(Kevin Roose)观察,末日值这一概念及名词,大概源自于硅谷科技产业的圈内人社群平台交流版“LessWrong”,最早可追溯至十余年前的一则版上贴文。

当时就已开始研究AI技术的几名网友发文分享各种“AI导致人类灭亡”的情境,并分享自己所认定的“末日值”。令人意想不到的事,这则半开玩笑的贴文在ChatGPT等生成式AI崛起后,竟成了人们十分严肃看待、热衷讨论的议题。

而“LessWrong”创办人、AI学者尤德考斯基(Eliezer Yudkowsky)则是出了名的“AI末日论者”(doomer),自认末日值高达95。

科技业名人末日值各有不同

在科技业、AI产业有名有姓的各路人马的末日值,分别都是多少?

鲁斯在《纽约时报》专栏中写道,被誉为“深度学习教父”的AI学者辛顿(Geoffrey Hinton)以及班吉欧(Yoshua Bengio)都曾呼吁业界提高警惕,加强对AI技术的管控。

辛顿认为,若不严格监管,AI在未来30年内导致人类灭绝的机率为10%,而班吉欧则在一次访谈中表示, AI灾难性事件发生的机率大概为20%。

财经新闻网《商业内幕》(Business Insider)指出,曾在ChatGPT开发商OpenAI担任研究员、2023年入选美国《时代》(Time)杂志“百大最具影响力的AI圈内人”榜单的克里斯基亚诺(Paul Christiano),一度在播客节目中坦言:“我认为AI完全掌控人类社会的机率大概为10%到20%,到时候会有很多人、甚至是绝大多数人类死亡。这对我来说,是需要严肃看待的问题。”

美国商业新闻杂志《快公司》(Fast Company)则报道,近期一项针对40名AI工程师所进行的问卷调查结果显示,他们的平均末日值为40,也就是业界普遍认为AI导致人类灭亡的机率为40%。

再像特斯拉(Tesla)创办人马斯克(Elon Musk)刚成为“2023年财富增长最多的人”,则曾公开表示自己的末日值为20至30左右。而AI新创公司Anthropic执行长阿莫迪(Dario Amodei)的末日值为10到25之间。

硅谷人都爱聊的 AI“末日值”是什么?名人末日值多少? AI与大数据 图2张

▲ 马斯克曾公开表示自己的末日值为20至30左右。(Source:Flickr/Steve Jurvetson CC BY 2.0)

有趣的是,《快公司(Fast Company)》形容美国联邦贸易委员会(Federal Trade Commission)主席可汗(Lina Khan)是“最常打着‘反AI’旗帜的人物”,但她的末日值却相当低,认为AI会导致世界末日的机率仅为15%。

末日值可助判断他人的态度

严格来说,末日值是一个相当主观的存在,它并没有一套可量化的衡量标准,甚至连业界约定俗成的标准都没有。

但鲁斯在报道中指出,末日值存在的意义并不在于有多准确,毕竟人们询问他人的末日值时,并没有事先设定好“末日”的定义。

“如果一半的人类因为AI崛起而死去,这可以算是‘末日’吗?那万一大家都没有因为AI而死掉,只是都集体失业了、过得很不快乐,这是否为末日的一种?AI具体会如何征服全世界?”鲁斯写道。

与其说末日值有任何实际学术价值,它其实更像人们心中的一把尺,可帮助一个人判断周围的人对AI的看法及态度。鲁斯形容末日值为某种“社交标志”,让参与对话的人可以快速找到在AI议题上志同道合的人。

鲁斯在报道中写道,OpenAI日前人事风波闹得满城风雨,董事会当时宣布将由直播平台Twitch创办人席尔(Emmett Shear)接替奥特曼(Sam Altman)出任OpenAI执行长,不久后就有员工分享一支影片,指席尔在录制一场播客节目时提及自己的末日值高达50,让员工纷纷担忧这位“空降”到公司的执行长会出于对AI技术的不信任,而要求团队放慢研发新产品的步伐。

由此可见,一个人的末日值多多少少会直接影响他欲树立的个人形象,最终可决定他可以融入到哪些圈子当中。

(本文由 远见杂志 授权转载;首图来源:shutterstock)

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。