当世界末日来临，“超智慧”将取代人类？量子经济如何打造新乌托邦？

▼

当我们谈论“世界末日情境”时，我们真正想表达的是什么？从小行星到超级火山，有一长串潜在的世界末日事件，可能导致人类灭绝或摧毁地球上所有或大部分的生命。末日情境往往是灭绝情境，无论是人类自己有意或无意造成的。此乃符合未来反乌托邦愿景的情境，是我们本来可以阻止但却未阻止。为了避免世界末日的到来，我们需要公开谈论不同的观点和可能的结果，并尝试了解如果我们不够谨慎时可能会发生的后果。

詹姆斯．卡斯(James P. Carse)在1986年出版的《有限与无限的赛局：生命的机会》(Endliche und unendliche Spiele: Die Chancen des Lebens)一书中，对博弈论中区分了无限系统与有限系统：“有限赛局是为了赢得胜利，无限赛局是为了继续留在赛局中。”

有限赛局包括从体育到社交游戏再到选举政Z等活动。参与者遵守固定的规则，清楚界限，最终并宣布赢家和输家。相反地，无限赛局无所不做，包括改变规则与打破界限，只为了继续进行赛局。这里提出的世界末日情境似乎是合理的， 因为我们的大多数经济、社会及政Z结构被建构成好像是有限的赛局，而实际上它们应该被建构为无限的赛局 。举一个最明显的例子。几十年来，我们一直过度开发自然资源，将环境视为垃圾场。我们因此大规模地摧毁了后代的生计，当他们努力让人类赛局继续进行时，将发现资源不仅变少，且世界的污染程度还更严重。

诚如我在本书开头即指出，两种最合理的末日情境之一是我们的地球生态完全崩溃。在短短几十年中，世界大部分地区将变成沙漠。随着海平面上升，地球的整个群岛和广阔的沿海地区将从地图上消失。如果南极冰盖继续融化，海平面可能会上升十五至二十公尺或更多，全世界的主要人口中心将因此消失。随着气温升高，整个生态系统可能会崩溃，因为食物链和栖息地遭破坏的速度超过进化的速度。地球上许多地区的温度可能会上升到超出人体所能容忍的程度。天气状况将发生剧烈且不可预测的变化，威胁粮食供应并传播新疾病。人类的生存将因此受到影响。唯有依靠新技术来降低并阻止排放量，甚或加强力道扭转全球暖化，我们才能希望至少减缓或控制这些变化。好消息是，我们仍然有机会阻止生态系统完全崩溃，以及随之而来的地球彻底毁灭。坏消息是，我们只有三到五年的时间扭转趋势，十年的时间来解决根本问题。

这些都是老生长谈。至少从1970年4月22日第一个全球“地球日”开始，全球暖化即被列入政Z议程。然而，随着时间的推移，越来越多的证据显示气候灾难对人类构成生存威胁。官方间气候变化专门委员会(Weltklimarat)最新报告列出人类所面临的巨大挑战：到2030年，全球二氧化碳排放量必须减少40％至50％。目前该排放量仍持续上升，2019年已经达到2078年的预测值。无论原因为何，看来我们必须竭尽全力来扭转这个趋势。这意味着，气候变迁是否为人类行为后果的争论根本不重要。天气越来越热，我们麻烦大了。

图／ unsplash

如果我们无法解决这个问题呢？ 如果政Z无意解决这个问题？ 或者权力和当局继续玩着有限的赛局，那该怎么办？ 难道这是一场官方机关为了捍卫自己的统治地位而进行的零和赛局，结果是空气因此继续遭受污染，环境遭受破坏？ 当部分生态系统崩溃，它的影响将透过社会中相互交织的复杂结构层层扩散。全世界越来越多的人将死于饥渴、疾病及中暑。一旦冰川融化，即便是在中欧，饮用水也将变得稀缺，全球农业产量将大幅下降，来自越来越不适合居住地区的移民将会增加。补偿和控制局势的企图将会破坏其他地区的稳定，导致革命与战争。

然而，也许最紧迫且最现实的末日情境是数位超智慧的发展，是一个由于某种原因决定消灭人类生命的外部通用人工智慧。这可能是一个简单的编写程式错误结果，就像“回纹针最大化器”的情境。

或者通用人工智慧可能被证明对人类有敌意，我们对终结者的恐惧变成现实。在任何情况下，重要的是，人工智慧的发展，以及任何具有指数级潜力的技术，都必须得到控制。

曾有亿万富翁向我征求意见。当气候崩溃、地区和社会系统崩溃、数以百万计的人逃离家园时，保护自己的最佳方法是什么？ 我们应该适时组建一支私人安全部队，还是依靠人工智慧控制的战斗机器人来抵御攻击者才是最好的生存之道呢？ 哪个提议更值得信赖？ 乘坐太空探索公司SpaceX创办人伊隆．马斯克的火箭搬迁至火星？ 还是居住在配置人工海洋系统的海底太空舱？ 这些超级富豪显然认为人类生存之战已经失败。他们尽其所能地想成为被选中的一员，获得第二次机会。

至少在短时间内，我们似乎将不得不习惯生活在一个日益反乌托邦的环境中。即使我们设法阻止环境完全崩溃，但在不久的将来，气候将变得更加极端，地球将更不适合人类生活。即使我们能够控制指数技术，控制人工智慧的发展，我们仍会看到它们以不可预测和破坏性的方式扩散至世界各地，永远有办法突破我们设定的界限。 即使我们有幸躲避灭绝，我们仍发现到，一小部分特权群体设法为自己创造一个人为的乌托邦，而其他人却在一个被污染和贫困的反乌托邦中挣扎求生。

被淘汰的人：没有人需要我们

从我的角度来看，第二个情境同样合理，历史的演变将人类世界变成了动物园，或者说是智慧白痴社会。我已经暗指这种情境是最后一种自恋疾病。这将是一个若不是通用人工智慧以“仁慈的”外部超智慧角色登场，就是我们自己与通用人工智慧融合为一体的世界。在此情境中，这种新的数位超智慧将成为我们地球上的主导物种，透过微妙的操纵而不是真正的暴力，来征服多数的正常人类。

这种超智慧─或人与机器融合而成的合成智慧─在物种排名中处于领先地位。在这里，我们的自然智慧和人类意识在全球决策上失去意义。社会上的所有人并非都能平等地获得这种超级智慧，因此可能创造出一个拥有全新能力的技术官僚特权小圈子。

凭藉自然智慧和人类意识，我们在物种排名中将获得第二名。从人类角度来看，虽然我们在自然状态下比黑猩猩、鲸鱼及乌鸦等下一等级更聪明。但从通用人工智慧的角度来看，我们并不比婴儿或小狗来得聪明。在这种情境中，我们所认识的人类将不复存在：最理想的状况将是一小群可能缺乏我们所承认的人类意识的后人类，控制我们世界的未来。相较于此，我们的愿望和决定、我们的梦想和计划，基本上将是多余的。我们变成被淘汰的人。

图／ maxuser via shutterstock

　
因此，人文主义时代紧接着将是后人文主义时代。问题是我们是否觉得这是个理想的发展。无论我们是否随后被引导至某种更高的意识层面，或者就此消失，我们是否不应花太多时间寻找出路，亦即听天由命。如果指数加速定律继续运行下去，那么到了2030年时，机器的智商将达到3200，而我们尚不清楚这究竟代表着何种意义。

由于人工智慧、生物及奈米科技的结合，人与机器之间的界限在不久的将来变得模糊。举例来说，将我们的思想上传后安装在由奈米碳管制成的机器人身体中的想法，似乎不再是纯粹的虚构，而是理由和时间的问题。在遥远的未来，我们甚至可以在自己的生物大脑和身体中旅行，并在不同的内地甚至多个星球上同时拥有自己的分身。

毋庸置疑，与技术融合或将权力委托给一个“仁慈的通用人工智慧”也能带来巨大的好处。革命性的疗法和心智操纵，将赋予我们治愈无数疾病和精神障碍的能力。一个高度组织化和理性的通用人工智慧，可以帮助解决气候危机，并为世界带来和平。借助大脑应用程式和“应用程式商店”强化大脑，我们甚至可能可以立即获取所有人类知识。然而，这里的挑战在于确定界限。这样的进步可能会以牺牲我们的自由意志为代价，因为我们的思想和情感是由奈米机器人控制的演算法所驱动。如果我们正在变异为纯粹的反应生物，完全由一个超智慧所控制，甚至可能意识不到自我，我们为什么要选择这条路？

因此，未来的世界很有可能看起来像一个已实现的乌托邦，一个似乎所有人类梦想都实现的完美世界。超智慧技术或许能够解决生态崩溃问题，结束饥饿、贫困和死亡，向我们呈现许多美好事物。但问题是：是否有人能够真正地经历它所描述的世界？ 未来的世界也可以很容易变成一个已成真的反乌托邦，一个完美模拟的僵尸世界，没有人可以再真实、有意识地感知物理现实。我们看似如最古老神话中的众神般强大，仅需弹指间，就可以随意改变我们周围的虚拟现实与内心感受。我们再也没有不快乐，再也不会生病，终于能长生不死。但我们是全能超智慧手中无形线上的那个傀儡；我们自己只是个无意识的模仿机器人。

图／ RikoBest via shutterstock

量子乌托邦：人类开始新的历史

面对这些巨大的挑战，我们迫切需要强化注意力，寻找在未来几年可以积极期待的未来愿景。为此，我们应该转向至少可以追溯到西元前六世纪的哲学思想，如当时的老子、释迦牟尼(又称佛陀)及毕达哥拉斯。如果我们文明所立基的系统─生态、社会、经济、科学─的部分崩溃是无可避免，至少我们应该确定崩溃风险最高的子系统，以及我们可以继续仰赖的子系统，以及那些作为新事物基础的子系统。唯有如此，我们才能在衰退中创造与发展新的结构。安迪．威尔(Andy Weir)在其描述未来星球亚提弥思(Artemis)的小说中总结了这些挑战：“洁思，建立文明是肮脏的，但另一种
选择是没有文明。”

因此，什么是我们可以相信的积极故事？ 为什么我们不在看似黑暗的未来中创造充当一个灯塔的故事？ 是否仍然有可能创造一个乌托邦世界？ 还是我们已经错失良机？ 我们如何才能创造一个(新的)黄金时代？ 一个所有生物都受到尊重的和平世界？ 我们如何才能写出一部新的历史，让人类的希望和信念再次夺回所有人的目光？ 我们如何才能克服自己的不足和弱点，战胜我们目前的痛苦？

我不知道这些问题的答案，而且我们可能无法就共同的答案达成一致。但我们每个人至少应该尝试回答这些问题。努力改善我们的未来，追求理想的目标，确实可以赋予我们人生的意义。但重要的是要记住，乌托邦梦想的最终状态将永远是一种幻想。它不是目标，而是灯塔：它是未来的一个积极愿景，指引我们前进的道路。

在我们称之为量子乌托邦愿景中，人类与自然及技术和谐共处。我们享受指数技术带来的好处，却不受它们的控制，智人仍然掌权。 这是一个政Z稳定、全球和平的公正世界，一个没有教条或文化、宗教、种族主义和性别歧视的世界。事实证明，爱是一种更好的方式。所有人只要遵循量子乌托邦的核心思想，便可在其他方面自由发展。

我们坚持“人类相互依存宣言”，这提醒我们，人类事实上是一个相互关联整体的一部分。

美国哲学家暨历史学家威尔．杜兰特(Will Durant)早在1944年即提出第一个相互依存宣言。1992年，环保活动家大卫．铃木(David Suzuki)发起一项生态倡议，并推出他自己的版本，该版本目前已被翻译成22种语言。管理大师亨利．明兹伯格(Henry Mintzberg)和几位同事最近以“我们相互依存关系宣告”(Die Erklrungunserer gegenseitigen Abhngigkeit)为题，发表一个整体性方法。现在是集中资源发起这项全球倡议的时候了。

通往量子乌托邦的道路是由一种建立在无限、循环及相互依存基础上的态度所驱动。量子乌托邦是我们必须努力实现的愿景，理解一切事物均与其他事物相互关联，以确保共同利益与个人自由的特权。资本主义仍然以某种形式存在，但我们不会因为对社会的贡献而受到惩罚，这是一种人文主义。相反地，我们将为(过度)消费和资源开发付出代价。

我们过着不断给予和索取的生活，一切都是无限的，对整体的所有付出都会得到回报。

这听起来像是一次精神之旅的深奥尝试，或者至少是一个过于雄心勃勃的目标。但我们也从量子物理学中了解到，我们生活在一个充满潜力的宇宙中，我们每个人都是一个宇宙。重要的是，我们如何将这些宇宙连接成一个共同体，在这个共同体中，所有部分的总和转变成对每个人来说都更加美好的量子乌托邦。

许多人已经对这个遵循统一核心思想的基本思想产生义务感，而且人数正在快速地增加。这个基本思想为什么不应该是我们的目标？ 因为我们现在可以作为一个物种共同成长。为什么我们无力改变经济的基础制度，从而超越满足我们的基本需求，为启蒙、精神福祉和更高的生存层面而共同奋斗？我们在科学与技术领域也发现了类似的想法。

透过结合自然与人工智慧、推理和应用数学，我们将能够解决所有迄今为止仍无法解决的问题。以此作为基础，我们可以创造一个人类与机器和谐共处的世界，造福人群，前提是我们要厘清“作为人类”的真正含义。

设计经济系统是迈向量子乌托邦的重要一步：在量子经济这种后物质主义和永续的经济系统中，商品将更公平地分配，不再需要目前形式的货币。透过从根本上改变经济，我们将创造一个艺术、科学和个人主义比当今世界更受尊重的社会 ，如此一来，物质产品即失去其意义。因为不是人类主动去追求幸福和繁荣，而是让自己被幸福发现，感知整体的繁荣。

在通往量子乌托邦的道路上，我们抛开单调、疏离的工作，将经济目标转向改善所有人的生活。 这意味着透过更高度的自愿性来减少胁迫，共同因应挑战，并降低个人收益以支持共同利益。

这个量子乌托邦之旅是我的第三个未来情境，它与其他两个情境具有相同的合理性。我们可以实现这个愿景，而且不同于已过时的僵尸世界，它值得我们努力。如果我们成功地点燃一场全球性的意识革命，就能用新乌托邦的核心理念来激励全世界的人们。

在通往量子乌托邦的道路上，我们透过教育和激发真正的顿悟来创造一个心灵社会，这种顿悟专注于理性而非自我。我们正在远离今天的“必须社会”(Muss-Gesellschaft)，即一切都受到强制统治，走向一个我们有意识和自由塑造的“自主决定社会”(Kann-Gesellschaft)。这是我们避免变成“被支配社会”(Wird-Gesellschaft)被淘汰情境的机会，在这种情境中，一切都已预先写入程式并由演算法决定。我们必须驯服物质主义的涡轮资本主义，并将其发展为后物质主义的量子资本主义。如果我们这样做，将成功创造一个公正的社会，让所有人都能在繁荣与和谐中和平共处。

因此，现在我们必须决定自己想要的未来，是人类的灭亡、过时的伪乌托邦，或者选择量子经济之路，作为通往量子乌托邦的第一阶段。如果你已意识到其中的利害关系，实际上仅能选择第三种情境。量子经济是整个社会的任务，就像通往量子乌托邦的道路一样。它将由你、由我，由我们所有人共同创造。它的诞生是为了延续人类的生命，将我们从问题中解放出来，并确保这个星球，或任何其他星球上的子孙后代能够生活在一个人道的世界里。

图／ 商周出版

本文授权转载自《量子经济时代：数位化后的未来世界？》，Anders Indset着，商周出版

责任编辑：苏柔玮

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。