AI 音讯工具沦 deepfake 帮凶，网友借名人声音骂脏话

▼

英华人工智慧（AI）公司Eleven Labs的音讯工具被人用来仿制名人的声音、让他们说一些种族歧视和恐同字眼后，公司 1 月 31 日表示，正在检讨自身“防护措施”。

法新社报道，Eleven Labs推文称，公司度过一个“疯狂周末”，并坦承在公布这款工具的试用版几天后，就发现“愈来愈多仿制声音的滥用案例”。

Eleven Labs未提供这些案例的细节，但它表示，网络论坛4chan涌入假借名人声音来骂种族、性别歧视和恐同字眼的深度伪造（deepfake）之作。

许多贴文都提到Eleven Labs，一些用户宣称已被这家公司禁绝，另一些人则提供这款工具的试用版连结。

4chan论坛充斥冒犯他人的笑话而恶名昭彰。被论坛用户盗用声音的名人包括“哈利波特”（Harry Potter） 电影的影星们，以及电影导演昆汀塔伦提诺（Quentin Tarantino）、乔治卢卡斯（George Lucas）等人。

Eleven Labs号称自家声音仿制技术具备潜力，“可革新多种产业的内容制造、表达和互动方式”。

Eleven Labs曾制作一段宣传影片，内容仿制其他名人的声音来替影星李奥纳多狄卡皮欧（Leonardo DiCaprio）配音。

Eleven Labs 1月31日推文称自家技术“绝大多数被用于正向用途”，但仍需要“额外防护措施”，考量中的选项包括手动核对每个仿制要求，或是让帐户认证措施变得更严格。

（译者：杨昭彦；首图来源：pixabay）

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。