麻省理工学院做了一件 T 恤，穿上就能在 AI 镜头前“消失”

▼

近日内地发生“脸部辨识第一案”，浙江理工大学一位教授因不满杭州野生动物世界强制要求年卡用户注册脸部辨识，因此将动物园告上法庭。

随着脸部辨识技术普及，生活中很多时候都不知道自己的脸什么时候被辨识了。尽管美国旧金山等城市推出脸部辨识禁令，但在更多地区和城市，相关法律政策还没跟上。

对可能无处不在的脸部侦测系统，除了呼吁完善监管，还能做些什么？最近西北大学和麻省理工学院的华森人工智慧实验室（MIT-IBM Watson AI Lab）开发出印有特殊图案的 T 恤，只要穿上就能躲过 AI 系统的监控，让一个大活人在监控镜头前“消失”。

这是怎么做到的？其实原理并不复杂，研究人员使用称为生成对抗网络的方法来欺骗 AI，因为电脑视觉辨识系统依赖大量资料训练提高辨识准确率，透过同样方法也能找出可欺骗系统的图案。

（Source：OpenAI）

早在 2014 年，Google 和纽约大学的研究就证明，物体和脸部辨识演算法容易受到以生成对抗网络为基础的攻击。今年 4 月比利时鲁汶大学（KU Leuven）的研究人员就透过这原理，用一张贴纸成功骗过 AI 系统。

但这种欺骗 AI 系统的方式有个缺陷，只要图案角度和形状变化，就会轻易识破。因为过去都是用硬纸板、停车牌或玻璃款等硬物当载体。

这次麻省理工研发的 T 恤突破点在于，即便衣服图案随着人的姿势变化而变形，一样能骗过 AI 系统。

研究人员指出，生成对抗网络经常用于欺骗电脑视觉系统，但还难以随着运动变形的衣服建模，因此他们采用叫“薄板样条线”（TPS）的资料内插和平滑技术，模型可转换并建模具重复射（保留点、直线、平面）和非仿射分量的座标。

简单来说，这项技术让柔性物体也能模拟刚性物体的对抗性学习，进而欺骗 AI 。

从图片可看到，这种 T 恤印有黑白棋盘格子样式的图案，系统辨识时每个格子之间会出现红色小点，这就是成薄板样条线（TPS）转换的控制点。

研究人员分别在现实和虚拟环境测试这种 T 恤，准确率分别达 63% 和 79%。不过如果在同一画面出现两个或更多穿着 T 恤的人，成功率反会降低。

这方式一样有局限性，只能骗过特定辨识演算法，对 Amazon Web Services、Google Cloud Platform 和 Microsoft Azure 等辨识系统并不能使用。但研究人员表示这只是“迈向对抗性可穿戴装置的第一步”，为针对 AI 的对抗性干扰提供启发。

当脸部辨识等 AI 演算法与人类的矛盾日渐突显，未来这种欺骗 AI 的需求可能会越来越多，甚至成为新职业。

（本文由 爱范儿 授权转载；首图来源：shutterstock）

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。