微软 AI 新闻编辑新登场，搞混明星惹议
▼
最近，微软公司宣布要让 AI 新闻编辑取代旗下的约聘新闻编辑，没想到，AI 编辑才刚上任未满 1 个月，马上出包，引发人们对 AI 新闻能力、整体脸部辨识科技的疑虑。
新的编辑，新的未来
5 月底，微软公司宣布打算用“AI 新闻编辑”，取代旗下数十名每天负责选稿、配图的约聘新闻编辑。消息传出后，立刻引起许多人的关注，大家从未料到“AI 取代人类”的时代居然来得这么快。
然而，“AI 新闻编辑”上任不满 1 个月就立刻捅出娄子，误认 2 名知名女歌手，引起对方的不满，更让人们开始疑惑：为何脸部辨识科技在辨识有色人种时特别容易失败？
文章转载 利润对分
在微软的分工中，约聘新闻编辑主要负责挑选重要新闻，视情况重新下标、调整格式、配图，最后发布于微软自己的新闻网站上，微软会将部分刊登新闻获得的广告利润分给引用的媒体做为回报。
约聘编辑的工作 AI 新闻编辑也可以
AI 新闻编辑上任后，分配到的也是类似的工作，只是全数改由演算法分析，重新下标、配图，将通通交给 AI 负责而非人工判断。
▲ 图为一名看报纸的男子。在微软中，这些约聘新闻编辑主要负责选稿、调整格式等简单的编辑工作。（Source：Unsplash）
我真的被取代了……
一名被解雇的编辑说道：“我花许多时间阅读自动化和 AI 最终将取代人类的工作，现在就发生在我身上：AI 抢走我的工作了。”
但凡企业，就要升级
在微软眼中，解雇这些编辑不过是公司例行性升级、进化的一个过程。微软的发言人出面表示：“就像所有的公司一样，我们也会定期改善公司，例如：在特定领域扩大投资、每隔一段时间重新调整人力配置。这次本公司的决定并非出于受疫情影响而做的决定。”
▲ 混合甜心 4 人一起出席 NBC 电视台在纽约举办的《今日秀》（左起：席尔沃、尼尔森（Jesy Nelson）、宾诺克、爱德华兹（Perrie Edwards））。（Source：达志影像）
遵守严格编辑规则不容易
然而，并非所有人都像微软公司一样看好用 AI 新闻编辑取代人类编辑的决定。一名匿名编辑表示，他认为公司的决定得冒一点风险，因为编辑们在编辑新闻时必须遵守一套非常严格的编辑守则，对于 AI 来说未必是件容易的事。
举例来说：避免让血腥暴力、不恰当的内容出现在首页、使用者一打开浏览器就会看到的位置，这对年轻的使用者来说尤其重要。
新手 AI 编辑配图出包
今年 6 月初，AI新闻编辑选择一篇英国乐团混合甜心（Little Mix）的成员席尔沃（Jade Thirlwall）分享自己过去遭遇种族歧视经验的新闻时，却误将同乐团的成员宾诺克（Leigh-Anne Pinnock）误判成席尔沃放入新闻，引发席尔沃不满。外界也质疑，微软的 AI 编辑系统在辨识有色人种上是不是表现特别差？
▲ AI 新闻编辑出包后，席尔沃马上在自己的 Instagram 上发文表达不满。（Source：Unsplash）
“MSN，加油好吗！”
事发后，席尔沃马上在自己的 Instagram 上抱怨：“MSN（注：MSN 是微软的新闻平台）如果你们打算复制贴上别家内容正确无误媒体的新闻，拜托确认一下你们能正确分辨混合甜心不同成员的照片好吗？”
她接着补充：“这种烂事反复发生在我和宾诺克身上，已经变成一个笑话了……这件事让我觉得被冒犯，你们居然没办法从仅 4 个人的乐团中，区分 2 个有色人种的女生究竟谁是谁，加油好吗！”
微软：演算法没问题，新功能测试中
对于 AI 新闻编辑出的纰漏，微软方面表示，近期他们正在测试让 AI 新闻编辑选择示意图的新功能，这回配图错误与 AI 新闻编辑本身演算法设计并没有关联。
▲ 目前人类拥有的脸部辨识科技尚无法百分百准确比对，特别是在有色人种辨识上容易出错。（Source：shutterstock）
AI 脸部辨识大测验
不过，这也印证了人们一直以来的担忧：现有的脸部辨识技术在遇上有色人种时，似乎特别容易犯错。
2018 年，美国公民自由联盟（American Civil Liberties Union，ACLU）就对亚马逊提供一般人付费使用的脸部辨识服务 Rekognition 做了一项测试：ACLU 从公开管道搜集 25,000 张嫌犯照片做为脸部辨识的资料库，使用预设的设定，一张一张的让 Rekognition 比对国会两院的议员和资料库里的照片，并检视最终成果。
有色人种特别容易出错
最后，总共有 28 名国会议员被误判。然而，即便现实中有色人种国会议员的比率只占了 20%，在误判的议员中，有 40% 的议员是有色人种。
这就引起部分人的疑虑，因为美国警方同样也使用亚马逊提供的这套 Rekognition 脸部辨识服务，目前越来越多场合也能看到脸部辨识科技的身影，会不会使用过程中，反而不知不觉侵犯了有色人种的权利？（注：目前，亚马逊已经因 Rekognition 在有色人种脸部辨识方面的问题，暂停提供这套系统给美国官方使用。）
可能侵犯他人权利
加州众议员戈梅兹（Jimmy Gomez）是其中一名被误判的议员，ACLU 对 ReKognition 的测试结果，引起了他的注意。
他指出，自己无意于和亚马逊做对，但表示：“如果新科技可能对人们的隐私、自由权甚至性命产生深远的影响时，就会引发不少疑虑。”
▲ 或许是受到开发脸部辨识科技工程师多为白人影响，现有的脸部辨识科技在面对白人脸谱时成功率也比较高。（Source：Unsplash）
资料库里白人多
美国乔治城大学法律中心（Georgetown Law School Center）的隐私与科技领域资深助理加维（Clare Garvie）表示，其中一个原因可能是出在工程师建立 AI 的脸部辨识资料库时，提供的白人照片比有色人种多而导致。
工程师天生的限制
另外一个原因，可能来自于工程师本身。一份研究显示，人们在辨识另一个种族的成员时，准确度会比辨识同一个种族的成员差，脸部辨识服务可能也受到类似结果的影响。
考量到大部分科技公司的工程师仍以白人男性居多，即使无意为之，他们开发出的脸部辨识服务在辨识白人的准确度，无形中也比其他种族高。
▲ 美国白宫。目前人们的脸部辨识科技上存在疑虑，这也让官方的适度介入管制显得更重要。（Source：Flickr/jasleen_kaur CC BY 2.0）
肌肤偏黑、化妆都会影响准确度
其他原因包括面对黝黑的皮肤时，电脑比较难比对皮肤的颜色、女性如果化妆隐藏皱纹或是改变发型，都会增加正确辨识的难度。
官方管理就是最好的管理办法
对此，不少公民团体就呼吁官方适度立法介入以保护人们的权益。
微软总裁史密斯（Brad Smith）在部落格上写道：“控管官方使用新科技最有效的办法，就是官方自行、主动控管如何使用。如果对未来一项新科技在社会中广泛使用有疑虑，最有效的管理方法就是交由官方制定规范管理。”
- Microsoft sacks journalists to replace them with robots
- Microsoft is cutting dozens of MSN news production workers and replacing them with artificial intelligence
- AI software at Microsoft’s MSN misidentifies mixed-race Little Mix singers, report says
- Microsoft’s robot editor confuses mixed-race Little Mix singers
- Microsoft’s AI journalists confuse mixed-race Little Mix singers on MSN homepage
- Amazon’s Face Recognition Falsely Matched 28 Members of Congress With Mugshots
- Why facial recognition’s racial bias problem is so hard to crack
（本文由 地球图辑队 授权转载；首图来源：达志影像）
▼
特别声明 本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。
