灌输黑暗素材，麻省理工首创精神变态 AI

▼

美国麻省理工学院一组研究团队，向人工智慧（AI）灌输社群网站上描写死亡的素材，制造出首个宛如患有神经病的 AI，名为诺曼（Norman）。

法新社报道，研究团队之所以创造诺曼，是盼以通俗语言，解释演算法的运作方式，并借此让人们意识到 AI 潜在的危险。

美国知名学府麻省理工学院（MIT）表示，诺曼代表正在学习演算法的机器读取偏倚资讯，导致 AI 出错的危险案例。

研究团队的其中 3 名成员透过电子邮件表示：“机器在学习时，有一点至关重要：当教导机器学习演算法时，灌输机器的资讯会对其行为造成显着影响。”他们说：“所以当我们谈到 AI 演算法出现偏差不公时，罪魁祸首通常不是演算法本身，而是喂给演算法的偏倚资讯。”

而诺曼这个名字的灵感，来自惊悚片宗师希区考克（Alfred Hitchcock）1960年的电影《惊魂记》（Psycho）中，名为诺曼贝兹（Norman Bates）的精神变态杀手。

研究团队只灌输诺曼社群网站 Reddit 上描述人类死状的短文。研究人员接着对诺曼进行罗夏克（Rorschach）墨迹心理测验，以判定诺曼眼中的景象，并将诺曼的答案与受传统训练的 AI 答案比较，不料产生骇人的对比结果。

当传统 AI 看到“两个人紧靠对方站着”，诺曼却看到“一名男子跳出窗户”；而诺曼看到“男子被尖叫的妻子射杀”时，其他 AI 则看到“一人手持雨伞”。

（译者：锺佑贞；图片来源：麻省理工学院）

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。