开源 LLaMA AI 模型的负面应用层出不穷！从儿童色X到 AI 爱爱聊天机器人

▼

就在 OpenAI、微软及 Google 等公司致力矫正自家生成式 AI 聊天机器人刚推出时频频出现骂脏话、开黄腔，甚至爆出歧视与情勒字眼等失控行径与不当对话，并积极建立 AI 道德伦理规范之际，市面上竟然出现一款专门满足性需求的 AI 聊天机器人 Allie。

当前市面上有许多基于 Meta 旗下 LLaMA 开源大型语言模型的专用 AI 产品，从写作工具到聊天机器人，再到资料分析应用程式等各类型工具及产品应有尽有。Allie 聊天机器人一样基于 LLaMA 模型，不过却“剑走偏锋”，当起了爱爱专家。据报道，定位 18 岁的 Allie 有着一头棕色长发，拜 LLaMA 模型之赐，它因而拥有“丰富的性经验”。

如今，开源生成式 AI 就像一把双面刃，我们可以强烈感受到它造福人群积极的一面，例如整合运算平台商 Anyscale 专门协助客户利用开源 AI 模型发现新药、减少农药使用，抑或识别线上销售的诈骗商品。

但也看到不少开源 AI 被用于网络犯罪、色X及霸凌的阴暗面。除了 Allie 爱爱聊天机器人外，当前网络上出现不少使用开源模型并以真实儿童图像做为来源素材而制作的儿童色X作品。一些网红甚至在 YouTube 上开播如何运用 AI 模型打造“无需审查”聊天机器人的教学影片，其中一些聊天机器人是基于名为 Alpaca AI（史丹佛大学研究人员在 3 月推出的模型）的修改版 LLaMA 模型打造的。

面对犹如双面刃的开源 AI，有人反对，但也有人继续硬挺。今年 6 月，一些美国参议员便警告不要发布 LLaMA 模型，因为该模型会被滥用于垃圾邮件、诈骗、恶意软件、隐私权侵犯、骚扰和其他不当行为及危害。但另一方面仍有许多支持者认为，开源 AI 是绕过企业控制的一种方式，有助于创业家、学者、艺术家和社运人士不受限制地试验变革性的技术。

不论如何，尽管一些 AI 模型本身或许有缺失，但真正的问题还在 AI 工具及模型的滥用，或许建立防止滥用的规范才是业界接下来该走的路吧！

• Double-Edged Sword of Open-Source AI: From Discovering New Pharmaceuticals to Creating Sexualized AI Chatbot

（首图来源：Meta AI）

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。