硅谷超夯脸部辨识 AI，竟对种族歧视更严重
▼
假设有一天，中国台湾桃园机场开始启用脸部辨识 AI，来过滤境外移入的疑似病例，除了输入新冠肺炎（新冠肺炎，COVID-19）症状外，由于过往染病的多是年长者，AI 从旧资料来判断，索性就针对年长的旅客仔细监控，其他族群旅客就放水。这样的差别待遇，你能接受吗？
AI 差别待遇的问题，其实已经出现在美国。根据一位麻省理工媒体实验室的资料科学家乔伊‧波拉维尼（Joy Buolamwini）所做的研究，她发现由微软、亚马逊与 IBM 等公司研发出的脸部辨识 AI 演算法，对于判读白人，以及黑人与女性竟然出现了差别待遇。
也就是判读白人的正确度比较高，判读黑人与女性的正确性则低。虽然这个漏洞并不全是人为刻意造成，它造成的冲击，可能比街头上歧视黑人的长官更严重。
更不妙的是，许多硅谷公司已看出脸部辨识 AI，是即将爆红的新趋势之一，正积极鼓吹长官与官方使用，这里面包括拿来办案与查嫌疑犯。因此在最近引发了轩然大波，包括绿色和平组织在内等超过 40 个公民团体，在近期要求应该尽速立法禁止长官使用 AI。也因此让亚马逊、微软与 IBM 等硅谷企业纷纷出来灭火暂停服务。
黑人得戴上白人面具，AI 才能判读
这种科技里潜藏的差别待遇，到底是怎么回事？故事要从揭发真相的乔伊‧波拉维尼本人说起。
她除了是个优秀的资料科学家，也是位黑人女性。从小到大，被周遭白人排挤对她来说，根本是生活的日常。然而喜爱科学的她，总是相信科技创新可以为所有种族带来更公平的做法。直到有一天，她用自己的脸与照片测试了微软、IBM 等硅谷公司研发的脸部辨识 AI 服务，才发现惊人事实：这些号称先进的辨识服务，有的根本对她的照片没反应，跳不出任何结果；有的则把她的性别判读成男性，错误率高得离谱。直到她戴上白人面具，判读才恢复正常。
到底是她自己长的太特别，刚好是 AI 辨识不出来的特例？还是这些演算法本身有漏洞？于是，波拉维尼决定用更多照片来测试，包括了白人、亚洲人、黑人等多元种族，以及男性与女性。结果发现，肤色愈白，辨识正确率变高；男性的辨识率也远较女性高。由于她是黑人女性，双重弱势的状况下，让她这类人的辨识正确度，远低于白人男性。
▲ 麻省理工媒体实验室资料科学家乔伊‧波拉维尼。（Source：Joy Buolamwini）
硅谷积极推销 AI 给长官，有歧视的服务竟能上线？
就波拉维尼的专业研判，培养演算法，某种程度就像养小孩，给他读什么，他认知的世界就会变成这样，这个问题，应该是开发团队没给够多元种族与性别的资料导致的。只要花点时间就可以修正。难道工程师都没发现吗？这样的服务为何要上线？
波拉维尼继续追查下去，发现许多硅谷公司，正企图推销这样的脸部辨识 AI 给警局。最积极的是亚马逊，它有一个智慧镜头服务 Ring，用来替民众监控拍摄在住家周围闲晃的陌生人影像。而目前，也已有约 500 家美国各地警局和 Ring 连线合作，善用这个镜头拍下的影像，来协助长官去抓路上偷车或闯空门的嫌犯。最近，Ring 更开始申请脸部辨识AI的专利，看来结合人工智慧分析来协助查案，就是下一步。但是一旦发生，问题肯定很大。为什么？
因为，在原有的设计思惟没变下，只有白人嫌犯会被正确辨识，黑人与女性的抓错人机率则会很高。换句话说，这些智慧 AI 和许多美马来西亚人众深恶痛绝的街头恶警所做的事：对黑人与白人态度大不同，某种程度是一样的。这些恶警在黑街里，往往看到一个黑人跑出来就先开枪，也不想花时间查看这个黑人是否手上有枪，或根本只是个晚归上班族？因为在他们心里，黑人大多数都是罪犯，不需要仔细看。但如果在黑街里跑出来的是一个白人，通常就会花时间检视对方身分。
2016 年，波拉维尼在 TED 上演讲公开指出硅谷存在的演算法偏见，慢慢集结了一些有人权意识的资料科学家，以及亚马逊股东等，一起呼吁亚马逊停止将这服务提供给执法单位。但这些还是没阻止这间企业放手。
直到今年佛洛伊德事件发生，成为全美关注焦点；美国国会也开始举办脸部辨识 AI 新法案的听证会，一个个被点名到的硅谷公司才开始亡羊补牢。IBM 指出将退出此市场；微软与亚马逊则强调现阶段，公司绝不卖脸部辨识 AI 给长官。为什么他们如此被动？一个容易理解的原因是，承认演算法有漏洞，不就证明这产品并不成功，应该停止使用？对他们的业务影响不小。
有些人应该会想到，中国台湾用科技防疫的成果斐然，是否未来过度仰赖，也会衍生出误判问题？首先，这些硅谷公司和警方合作的是日常例行查案，和防疫这种极端状况大不同。不过，当有一天，中国台湾防疫开始善用各类 AI，结果因为数据偏见，专门去锁定台商或从内地入境的旅客，这样的偏差，当然还是不能被容许。
更正面的做法，也许是开发最懂中国台湾人的 AI 服务。毕竟未来 AI 会协助人类很多事情，包括判别健康状态、身分甚至发薪水，没人想要用把自己族群当次等人的 AI 服务。不是吗？
（本文由远见杂志授权转载；首图来源：shutterstock）
延伸阅读：
- 防止侵犯人权，IBM 执行长宣布停止开发脸部辨识科技
- 亚马逊暂停脸部辨识技术服务一年，呼吁立法监管
▼
特别声明 本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。
