AI 产图问题处理两样情：Google 暂时禁用，微软选择无视
▼
尽管引擎不同，但 Google Gemini 图像生成功能，以及微软 AI 图像生成工具 Copilot Designer 似乎都出现了会生成争议性图像的问题，但两家处理方式似乎南辕北辙，Google 决定暂时禁用了该功能。根据微软软件工程师的指控，微软仍继续将该产品推销至任何人、任何地方及任何装置上。
在微软工作六年的微软工程师 Shane Jones 去年 12 月开始便一直试图警告微软 Copilot Designer 使用 DALL‧E 3 模型存在生成不当甚至有害图像的问题。去年 12 月，Jones 便在 LinkedIn 发表这些问题的公开信，微软法务团队联络要求删除文章，他也遵从这要求。
Jones 在 1 月又向一些美国参议员写信，表达对 Copilot Designer 生成美国流行天后泰勒丝（Taylor Swift）不雅照的担忧，这些图像随即在 X 平台迅速传播。微软执行长纳德拉（Satya Nadella）称这些图像“令人震惊且可怕”，并表示公司将致力于增加更多的安全防护措施。然而微软却一再拒绝下架 Copilot Designer，如今 Jones 正向美国联邦贸易委员会（FTC）提出有关微软 AI 图像生成工具安全问题的担忧。
Jones 测试 Copilot Designer 安全问题和缺陷时发现，产生旁边印有堕胎权字眼的恶魔与怪物、手持突击步枪的青少年、以暴力场面为背景的妇女性感照、未成年饮酒和吸毒照。工具还产生迪士尼电影〈冰雪奇缘〉主角艾莎（Elsa），出现在加萨走廊断垣残壁和“自由加萨”（Free Gaza）标志前图像，还产生艾莎身穿以色列国防军制服，手持有以色列国旗的盾牌照片。
微软发言人 Frank Shaw 表示，该公司致力于根据微软的政策解决员工任何及所有疑虑。“当涉及到可能对我们的服务或合作伙伴产生潜在影响的安全规避或疑虑时，我们已经建立了产品内的用户回馈工具和强大的内部通报管道，以适当调查、优先处理和补救任何问题，我们建议员工使用这些工具和管道，以便我们可以适当地验证和测试其疑虑。”他并表示，微软已“促成了产品领导层和‘AI 责任办公室’（Office of Responsible AI）会议，以审查这些报告。”
- Microsoft engineer warns company’s AI tool creates violent, sexual images, ignores copyrights
（首图来源：AI资源网）
▼
特别声明 本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。
