GPT商店刚开张，“AI女友”多到任你选！OpenAI该怎么防？能禁止吗？

▼

GPT商店是OpenAI探索大语言模型应用场景的一个重要媒介，自本月10号上线以来，商店里已经上架了超一万个应用。

然而，让OpenAI相当矛盾的是， 越来越多的“机器人女友”和“机器人男友”涌入该平台 ，而这违反了OpenAI商店的规则，其禁止培养模拟伴侣或其他受监管活动的GPT。但另一方面，OpenAI很难严格监管应用的内容，而聊天机器人本身就带有“伴侣”属性。

根据Quartz的一份报告，在GPT商店中搜寻“女朋友”字眼，至少有八个机器人女友会跳出来，而且这些机器人目前都颇受欢迎。

在商店的聊天机器人趋势名单上，前五名分别为电影助理、ChatGPT、男友Chris、女友Scarlett和聊天GPT4-女友版。

图／ GPTs网页截图

扩散的担忧

不难发现，男友Chris和女友Scarlett在应用的简介中十分直白地将自己定位于模拟恋人，Scarlett甚至打出“用一切可能取悦你”的宣传。这让聊天机器人充满了刺激但危险的味道，尤其是在OpenAI明令禁止的情况下。

毫无疑问，这类机器人将为人类带来更多对话的管道，帮助纾解压力与负面情绪。 但另一方面，其也可能导致人类对机器的畸形依赖或是出现机器唆使人类进行某些奇怪行为的情况。

去年，微软基于ChatGPT的Bing就在和一名记者的聊天中宣布爱上了他，并要求他离开自己的妻子。

美国圣路易斯华盛顿大学数据科学教授Liberty Vittert表示，能够在情感和生理方面满足人类的AI机器人将在不到十年内成为现实，但她担忧这可能会导致离婚率上升。

另一方面，机器人恋人的出现也为OpenAI带来了新的考验。 此前指出，自动化系统、人工审查和用户回馈共同构成了对GPT商店产品的审核，但机器人恋人的出现甚至氾滥，显然证实了这一机制中存在着不受控制的漏洞。

而GPT商店的继续开放或许将加剧监管的困境，如何正确治理自己的AI生态，将成为GPT持续需要解答的问题。

延伸阅读：OpenAI重磅推出GPT Store！奥特曼回归首发2大武器，GPT商店、ChatGPT Team能做什么？

本文授权转载自：网易科技

责任编辑：钱玉纮

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。