AI 艺术污染工具 Nightshade 大受欢迎，发表五天下载达 25 万次

▼

生成式 AI 使用了不少艺术家作品训练，引起艺术族群不满。某研究团队去年推出工具Nightshade，作品可加入“毒素”，一旦拿去训练就会污染资料库，推出五天下载量就高达 25 万次。

芝加哥大学电脑科学研究人员 Ben Zhao 领导团队开发 Nightshade 工具，原理是像素层级加入数据，不论人类还是 AI 系统也无法简单辨识，但如果哪拿去训练 AI 模型，可让模型分析能力下降，做出错误判断。如果加入 Nightshade 作品够多，可对 AI 训练造成一定妨碍。

（Source：arxiv.org）

Ben Zhao 表示，开发 Nightshade 目标是让艺术家有反击工具，提升未经许可使用内容去训练的成本，让 AI 开发商选择支付艺术家合理授权费。团队去年也推出 Glaze 工具，同样可加入隐藏像素避免风格被机器学习算法复制。他们正在开发结合 Glaze 和 Nightshade 的工具，仍需更多测试才可推出。

• AI poisoning tool Nightshade received 250,000 downloads in 5 days: ‘beyond anything we imagined’

（本文由 Unwire Pro 授权转载；首图来源：Unsplash）

延伸阅读：

• 反击 AI！新工具帮艺术家“毒害”训练数据

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。