成为全球最具价值新创，却被纽约教育局列入黑名单──OpenAI 与 ChatGPT 的两难
▼
OpenAI 最新推出的对话大模型 ChatGPT 的爆红带来许多新应用的想像，却也带出 AI 伦理的问题，例如纽约市教育局认为这提供了新的作弊捷径，宣布要将 ChatGPT 赶出校园。
虽说如此，OpenAI的进展仍没有停下脚步，除了原有股东微软要将ChatGPT整合到其作业系统Office 365以及搜寻引擎Bing当中；更传出与创投Thrive Capital和Founders Fund洽谈以公开收购的方式出售现有股份的消息，如果成真，此次交易将使OpenAI的估值来到290亿美元，使其成为全球最有价值的美国新创公司之一。
▲ ChatGPT超过100万用户的背后，同时带给世人诸多想像及争议。（Source：ChatGPT）
究竟这头AI巨兽正面临什么样的关卡？教育界反对OpenAI的声浪又是从何而来？
纽约市教育局将ChatGPT逐出校园、研究人员随之禁用
纽约市教育局率先开了反弹ChatGPT的第一枪，宣布纽约市公立学校全面禁止师生在校园网络及装置上使用ChatGPT。纽约市教育局发言人Jenna Lyle表示：“虽然ChatGPT这类AI助理可以提供快速且简单的答案，但它不能培养教育所强调的批判性思考和问题解决的能力。”无独有偶，国际机器学习会议（ICML）也表明，除非生成的文本做为论文的实验分析，否则禁止作者使用ChatGPT等人工智慧工具撰写论文的立场。
总结外界对ChatGPT的质疑，大致有二：
1. 版权归属不易
由于ChatGPT所接受的公共数据培训，通常是在未经原创作者同意的情况下搜集，使得AI生成的文本究竟是属于谁的，是提供数据的原创者、生成文本的机器还是下指令的使用者，依然是现行法规下尚未被规制的灰色地带，版权归属的议题尚未有定论。
2. 回答不精准、复制社会刻板印象
ChatGPT是受“从人类反馈中强化学习”的机器学习技术所训练而成，虽然可以模拟对话、回答问题，但却难以掌控参考的资料库从何而来，也就是说ChatGPT编写的可能只是听起来似是而非的答案，无法保证真实性，甚至有可能成为假新闻的帮凶。
再者，ChatGPT的技术也尚未纯熟，只要稍加改写问题，就会得到同一问题但截然不同的回答。OpenAI共同创办人Sam Altman也在推特上表示：“ChatGPT仍有很多限制，并可能产生误导，全然依赖它的回答是错误的。”另外赤裸裸地反映文化或性别偏见、复制并误用社会刻板印象等原因也鼓动着反对的声浪。
微软看好OpenAI持续加码，将推出推新版Bing搜寻引擎
值得注意的是，即便世人对ChatGPT引发的AI伦理辩论尚未停止，市场上对ChatGPT的反应却依然热络，根据《华尔街日报》的报道，OpenAI正在洽谈向Thrive Capital和Founders Fund出售价值3亿美元的股票，若此次交易成交，OpenAI的估值可望成长至约290亿美元。
而曾于2019年投资OpenAI 10亿美元，近期可能再次投资100亿美元的微软，也传出将把ChatGPT整合至旗下搜寻引擎Bing中的消息，虽然确切导入的时间未知，不过据科技媒体《The Information》的报道，具备AI对话能力的新版Bing搜寻引擎最快可能将在今年3月底前问世，让人期待占据9%搜寻引擎流量的Bing，是否将步步蚕食占据83%流量的Google，翻写搜寻引擎的新篇章。
▲ 曾于2019年投资OpenAI10亿美元资金的微软，传出将把ChatGPT整合至旗下搜寻引擎Bing中的消息。（Source：Flickr/Schrift-Architekt.de CC BY 2.0）
OpenAI是否朝向它的最终目标──“做人类能做的一切事”迈进，同时谨守AI伦理的分际也值得关注。毕竟从OpenAI曾经为了确保旗下的人工智慧产品能与人类价值观保持一致，而聘请社会科学家一举，可以推知OpenAI对于AI伦理议题并非没有意识。
若从技术中立理论（注）的角度切入思考AI伦理议题，也就是说，技术的好坏是基于使用者如何使用，是相对美好的想像，不论什么样的科技都难保有心人士的恶意操弄。虽然不能期待所有使用者积极自律的使用科技，甚至规则也难保误用的发生，但在AI伦理更明确的落实之前，身为使用者现阶段能做的，确实也只有在合理的范围内享受技术的便利。
诚如ChatGPT针对教育界禁令一事所给出的回答：“重要的是要考虑在教育中使用ChatGPT的风险和好处，并在做出决定之前仔细权衡证据。倾听教育工作者、学生和家长等利害关系人的观点，以便做出明智和公平的决定。”
注：技术中立理论是指技术或工具的发明者，无法控制科技或使用者如何使用该项科技工具。
- Exclusive: ChatGPT owner OpenAI projects $1 billion in revenue by 2024
- OpenAI Chatbot Spits Out Biased Musings, Despite Guardrails
- NYC Bans Students and Teachers from Using ChatGPT
- Top AI conference bans use of ChatGPT and AI language tools to write academic papers
- The scary truth about AI copyright is nobody knows what will happen next
（本文由 创业小聚 授权转载；首图来源：shutterstock）
延伸阅读：
- 传加码投资 OpenAI，微软宣布扩大 ChatGPT 存取权限
- ChatGPT 成为行销利器！连“死侍”雷诺斯也用它为自家 Mint Mobile 打广告
- ChatGPT 太夯！传微软计划向 OpenAI 投资 100 亿美元
- 人工智慧沦为写作业神器，纽约公立学校禁用 ChatGPT
- 人工智慧参赛还帮你写论文？AI 可以取代人类工作吗？
▼
特别声明 本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。
