热门生成式 AI 平台推新赏金功能，失控引发深度伪造名人爱爱照热潮
▼
Civitai 是一个热门的 AI 模型分享市集，并且被评为市场上第七大最受欢迎的生成式 AI 平台。该平台最近推出一项备受争议的“赏金”（bounties）功能，鼓励使用者创作栩栩如生的真人深度伪造（Deepfake）图像。表现最好的创作者可以获得该平台发行的虚拟货币“Buzz”。
然而有点失控的是，该平台上的许多赏金都专注在复制名人或社群媒体网红的外表，尤以女性为然。据报道，绝大多数所生成的深伪内容皆被归类为“未经同意的性图像。还有一些赏金会要求锁定较少网络活动的个人，这无疑加剧了人们对自身隐私的担忧。
虽然大多数赏金的请求都会避免露骨阐述对性内容的渴望，而采用模棱两可的用语。但也有人在祭出赏金的同时直白发出“堕落请求”的字眼，乃至对女性身体的评论。
自从 Civitai 推出“赏金”新功能以来，该平台针对生成女性名人和社群媒体网红图像的请求大幅激增。根据最早进行相关报道的 404 Media 发现，至少有一笔赏金锁定的对象是一位很少上网的个人，这突显了滥用个人图像的可能性。
Civitai“赏金”功能的失控，不但突显出文字转图像 AI 工具随手可得的现况，也让我们看到为特定个人生成 AI 模型的简便性，乃至 Civitai 平台上非自愿性内容的获利模式。如果再不找到良好的反制方案，恐将引发从名人扩展到个人隐私的全面失控。
- Popular AI platform introduces rewards system to encourage deepfakes of real people
（首图来源：Civitai）
▼
特别声明 本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。
