挑战业界底线?大华监控摄影机被指在西方市场推销肤色分析

挑战业界底线?大华监控摄影机被指在西方市场推销肤色分析

美国监控技术业研究机构说,内地大华公司承认监控镜头产品自带“肤色分析”功能,并销售产品至欧洲,引发人权运动人士的担忧。

大华欧洲销售监控镜头可辨识肤色

总部设在美国的监视器技术业研究机构IPVM本周报告,指内地监视镜头生产商大华在欧洲销售几款监视器含肤色辨识分析功能。

IPMV给美国之音的报告显示,大华智慧物联综合管理平台(ICC平台)应用程式设计介面(API)人体特征指引包括肤色类。大华产品平台“数据字典”,肤色属性有黄、黑、白和未辨识四种定义。报告还说,大华内地市场推广智慧园区解决方案产品,人员布控类也提到肤色。

挑战业界底线?大华监控摄影机被指在西方市场推销肤色分析 AI与大数据 图2张

▲ 大华“ICC开放平台”肤色分析功能介绍。

报告作者之一、IPVM调查记者查理斯罗莱(Charles Rollet)解释:“影片分析是如果开启功能,镜头会自动辨识行人肤色,只要镜头有拍到。这代表镜头会猜测或试图确定这些人……皮肤是黑白或黄X。”

有肤色监控分析功能的大华监视摄影机有在德国、法国和荷兰销售。

IPMV:大华不再否认

大华承认产品有肤色分析功能,甚至表示这是监控领域的基本功能。IPMV认为大华以前长期否认,现在态度转变。

大华给IPVM的声明说,大华不会“针对任何特定种族、族裔或民族群体建立解决方案”,“对可观察特征如身高、体重、头发和眼睛颜色及肤色等,是智慧安全解决方案的基本功能”。

基于人工智慧的监控特征日趋广泛,如辨识人是否戴口罩、辨识和统计车子品牌和颜色等。但观察人士表示,西方肤色分析有争议已久,以肤色区分族群是许多社会经济领域的禁区,监控应用辨识肤色可能造成人权与民权弊端,不是西方市场监控产品的主流功能。

罗莱说:“肤色分析很不寻常,因是充满争议和道德问题的领域。”

大华之前一直否认监控产品有种族辨识和肤色分析功能。美国官网大华都表示,“从未开发辨识或以其他方式针对特定种族群体的产品或解决方案”。

不过大华早在2020年就受指控产品有辨识维吾尔人的功能。2021年2月IPVM和《洛杉矶时报》报道大华摄影机提供内地警方监控系统就有“维族人员即时警报”。IPVM曾于2018年发表统计报告,自2016年,海康威视和大华共获新疆官方10亿美元合约。

美国部分禁用

美国官方将大华等内地监控设备企业都列入禁止交易黑名单。联邦通讯委员会(FCC)2022年认定,海康威视、大华等科技企业产品对美国地区安全构成威胁,禁止这些公司产品在美国销售。禁止交易范围限于“公共安全、官方设施安全、关键基础设施的实体安全监控及其他地区安全目的”领域,并非全面销售禁令。

欧洲尽管大华监控产品销售未面临美国FCC黑名单阻碍,但欧盟6月通过《人工智慧法》草案修订,计划全面禁止公共场所使用脸部辨识。德国籍欧洲议会议员斯文加哈恩(Svenja Hahn)提案投票前对政Z新闻网站Politico说:“我们知道内地使用脸部辨识监控人民,这技术在民主地区没有立足之地。”

分析:肤色辨识可能助长歧视

西方地区辨识种族的AI软件也不断发展,集中商业市场行销。《华尔街日报》2020年报道,美国化妆品公司露华浓(Revlon)曾使用AI新创Kairos的辨识软件,分析各种族消费者如何使用化妆品,但引发研究员对导致种族歧视的担忧。

美国官方一直禁止医疗、银行等部门基于种族区分客户。IBM、Google和微软限制提供执法部门脸部辨识服务。美国维权网站“禁止脸部辨识”(Ban Facial Recognition)统计,美国24州、县、市级官方禁止官方机构脸部辨识监控。俄勒冈州波特兰市、纽约市和巴尔的摩甚至限制私人公司使用脸部辨识。

民权运动人士认为,种族辨识技术容易出错,可能对监控对象造成不利后果。罗莱说:“如果镜头晚上拍摄,或周围有阴影,可能会错误分类。”

华盛顿智库战略与国际研究中心(CSIS)科技法规研究员陈智美(Caitlin Chin)说,监控系统纳入肤色考量,几乎是缺乏人性的做法。与西方科技企业不同之处在于,西方脸部辨识主要用于商业,但内地科技企业往往乐于协助官方机构监控大众。

她说:“这非常没有人性,从人权角度看也非常令人担忧,部分原因是这技术有错的话,可能导致抓错人,也可能造成歧视。我认为这种仅凭肤色分类人的功能几乎不可避免导致有些人被歧视。”执法和监控人民方面,深皮肤族群更常受监视:“大华镜头透过肤色更容易分类人。”

美马来西亚人权组织公民和自由联盟给IPVM的声明说:“影片分析有可能导致更普遍监控;肤色分析为工具的一部分,将确保种族歧视成为(监控)的一部分。维吾尔人监测分析是内地官方压迫基础设施的一部分,历史清楚提醒我们,丑恶后果也可能在民主地区发生。”

(本文由 美国之音 授权转载;首图来源:大华技术)

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。