OpenAI 执行长专访：推出 ChatGPT 就是要让世界看见它的坏处
▼
人工智慧如何改变人类社会这个问题，已经随着 ChatGPT 的惊人表现再次浮现到我们眼前，OpenAI 执行长 Sam Altman 在一个专访中，深入讨论了 AI 对于搜寻、工作甚至是资本主义可能带来的革命。想要了解 ChatGPT 推手如何看待未来，绝对不能错过这篇深度访谈。
继 2016 年，人工智慧 AlphaGo 战胜棋王李世乭后，OpenAI 推出的 ChatGPT 对话式 AI，再度让全世界陷入人工智慧狂潮。纽约教育局全面禁止学生使用、Gmail 开发者警告 Google 搜寻将被摧毁，微软海砸 100 亿美元投资 OpenAI，并将功能整合到 Bing 搜寻引擎，这些都是 ChatGPT 带来的产业海啸。
在这篇 Forbes 的专访中，OpenAI 执行长 Sam Altman 深入畅谈 ChatGPT 的推出过程，以及他们如何治理公司，甚至是对于人类社会可能带来的冲击（本文为摘要编译，原文全文请看文末连结）。
问：ChatGPT 为何在一夜之间突飞猛进？
Sam Altman：很多人都不相信，但我要再说一次，ChatGPT 使用的依然是 GPT-3 模组，从 2020 年就发表了，但很多人都误以为这是 GPT-4，它并不是。严格来说，我们其实只做了一点点微调，改变了它回应问题的方式，就造就了现在的成果，我们自己也很意外。
▲ OpenAI 执行长 Sam Altman。（Source：OpenAI）
事实上，团队里有许多人甚至认为这个版本根本不值得发表，对于正式发表他们甚至一点都不兴奋。但我只是不断鼓吹他们，就试试看，看看接下来会怎么样，毕竟我真的认为 ChatGPT 可以成功。
虽然 ChatGPT 距离完美的人工智慧还有很长的距离，许多公司也有类似的语言模组，但 Google 和其他实验室并不打算公开，而我们则认为提早公开，能够让社会看见人工智慧能够带来什么好处，更重要的是，让大家看到人工智慧的坏处和它的限制，唯有如此才能让人类社会跟人工智慧共同成长，而不是陷入无知的恐惧中。
问：OpenAI 会开发出“天网”，变成最危险的公司？
因为对人工智慧不理解，许多人会害怕 AI 统治世界甚至消灭人类，也有人害怕 OpenAI 或是我们的投资者强大到设计出 AGI（通用式人工智慧）足以控制世界。我们从很多方面下了功夫，来避免走向糟糕的未来。
▲ 全知全能的人工智慧，是许多人害怕的原因。（Source：Unsplash）
首先从公司架构来说，我们设计了算是世界上最独特的分润模式，以微软来说，他们可以获得 75% 公司的利润，但当他们回收了投资成本后，公司股权就会重组，微软取得 49%，其他投资者 49%，OpenAI 则拥有 2%。
OpenAI 是非营利目的公司，但如何在庞大资本之中拿捏平衡点持续前进，是共同创办人和所有投资人共同考量的难题，无论如何，我们都不期望任何企业能够掌控 AI 世界。这也算是一个暖身，万一哪天 AGI 真的诞生了，我们的分润方式和企业架构可以做为它的参考，那对全人类会是一件好事。
从 AI 层面来说，为了避免 AI 暴走而造成更多攻击性言论，ChatGPT 导入 Overton Window 模组，让电脑能够理解当前的法律架构和社会普世价值，而不会给出可怕的回应。这也是为何我们希望大众能够赶快接触到 ChatGPT，如此我们才能真正理解会发生什么事，我们又该如何与电脑角力，导引出更好的成长。
在确保尽可能做出安全回应的前提下，透过开放 API 和语言模组，让 AI 可以快速接触到图像、声音和程式语言等领域，尝试各种内容创作，同时也是在进一步摸索安全的平衡点。
问：ChatGPT 会取代 Google 搜寻吗？
单纯回答这个问题的话，我认为答案是否。ChatGPT 不会取代 Google 搜寻，但未来的某一天，生成式人工智慧将会做到。
但我认为更重要的不是“取代”搜寻这件事，而是我们如何重新思考这件事，然后用一个更酷、更有效率，而且截然不同的方式去满足需求。想想看，在用 Google 之前，我们是如何找答案的？也许得要去图书馆，或是透过大英百科全书，回过头看，如果有人说，我要做出一个更棒的百科全书来取代大英百科全书，是不是有点好笑？
我个人认为，这样新体验会比 AGI 更早实现。
问：人工智慧会如何改变世界？
以目前 ChatGPT 能达成的许多事情来说，我个人最有感的是它的“摘要”能力，不管是一篇文章或是超长的 email，它都能够快速的帮我整理出重点。当然，在写程式和 debug 的时候，人工智慧也让我感觉有个程式设计大师在旁边当顾问，能够解决非常多问题。
▲ 输入自然语言描述功能，AI 就能帮你写出一段 Python 程式码。（Source：OpenAI）
另一方面我们也看到负面影响，其中一个我非常担忧的就是“复仇式色X”，这样的情形在一些开源的生成模组不断出现，造成很大伤害，虽然这也是可以预期的现象（编注：revenge porn 复仇式色X，利用某人的照片生成裸照，用以伤害对方名誉和公众形象）。
我们当然希望指着这些服务供应商说，“嘿，你不能这样做”，但在开源软件的发展里，有时候这似乎是必要之恶，多数软件在开源之后都会带来伟大的成就，但也伴随着一些坏事。因此我认为，不久之后，必然会形成一个互相约束，并要求开发者责任的联盟。
至于更久之后的未来，我完全相信人工智慧能够带来的好处，它可以解放人类，不再被工作和经济压力绑住，而有更多心力和时间投入自己的兴趣，我们现在还处于这个变革的开端而已。
- Exclusive Interview: OpenAI’s Sam Altman Talks ChatGPT And How Artificial General Intelligence Can ‘Break Capitalism’
（首图来源：Unsplash）
▼
特别声明 本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。
