Uber 自驾车死亡事故调查新发现：斑马线外的行人不是人？

▼

Uber 自驾测试车撞死路人的 20 个月后，美国地区运输安全委员会（NTSB）公布了让人不安的发现──Uber 的自动驾驶系统是“看”到推着单车过马路的受害者，但由于她不是走在斑马线上，系统无法辨识她是人。

NTSB 长达 400 页的调查报告，可了解事故发生的详尽过程。

2018 年 3 月 18 日晚上，自驾车在亚利桑那州坦佩市以时速 43.5 英里（约 70 公里）行驶。49 岁的 Elaine Herzberg 正推着单车横越马路，她离最近的人行穿越道约 109 公尺。

事故发生前 5.6 秒，自动驾驶系统首次“看”到 Herzberg。

出于设计缺陷，自动驾驶系统并没有赋予辨识人行穿越道以外的路人。于是，系统猜她也许是“车辆”，然后依次将判断改为“其他”→“车辆”→“其他”→“单车”→“其他”，但最后决策落在“单车”。

自动驾驶系统“改变想法”时，每改变一次“主意”，系统就得重新估算眼前物体的移动趋势。

事故发生前 1.2 秒，系统确认将撞上 Herzberg，想绕开又不可行，于是系统决定，得刹车了。

这时，另一个被诟病的功能开始作用──行动抑制机制（action suppression）。

出现需刹车的情况，“行动抑制机制”会将紧急停车的动作延后 1 秒，以二次确认“风险本质”，规避误判。同时，这也是安全驾驶员可直接刹车的时间，只是当时驾驶正在看手机，并没有留意到眼前的行人。

事故发生前 0.2 秒，自动驾驶系统发出警告声，安全员接手方向盘。

车撞上 Herzberg 近 1 秒后，安全驾驶员才踩刹车。

从很多方面来看，Uber 的自动驾驶技术无法考虑人类实际行为。

《Wired》评论。

此外，NTSB 指出，Uber 当时并没有为自动驾驶设立独立安全部门，设计正式的安全规划、作业准则或任命专门负责防止事故的管理者，只有向全公司员工传递的价值，譬如“做对的事情”（do the right thing）。

Uber 表示，当时有安全规定和作业流程，只是没有正式安全规划。

NTSB 虽然描绘自动驾驶的安全问题，但并没有直接指出车祸发生的原因。NTSB 将于 11 月 19 日在华盛顿举办会议，届时，调查员将发表车祸的完整报告并公布最后的调查结果，判定意外到底是谁／什么的责任，并为官方管理者和科技公司提供建议。

我们很重视 NTSB 对车祸的详尽调查，期待在月底 NTSB 会议后了解他们的建议。

Uber 官方回应。

车祸发生后，有报道指时任 CEO Dara Khosrowshahi 曾考虑取消自动驾驶项目，但最后还是没有这样做。

事故发生后 9 个月，Uber 宣布重启自动驾驶路测。

▲ 重新上路的 Uber 自驾测试车。（Source：Mashable）

Uber 保证在车上配备两位安全员，且不会在晚上及天气恶劣时测试。此外，Uber 也放弃“行动抑制机制”，新设定下，汽车会提早 4 秒刹车。

自动驾驶已成为科技公司、汽车公司甚至零售业（自动车配送）都不愿放过的研发方向时，Uber 的坚持也不意外。毕竟，自动驾驶未来是千亿美元级别的市场。

但也正是激烈的竞争下，《卫报》科技编辑 Alex Hern描绘的情况尤其让人担忧。

我们曾讨论未来自驾车也许会面临困扰哲学家数十年的“电车难题”：面对车祸，自动驾驶系统是应该救乘客，还是行人？

但 Hern 看来，自动驾驶业真正的困局是另一个：

自动驾驶的冲突从未像“电车难题”。产业面对的哲学难题只有一个：

如果你做好安全测试，竞争对手也许会抢在你之前进入市场。拉下这杠杆，把人命输入系统，你也许能赢。

（本文由 爱范儿 授权转载；首图来源：shutterstock）

▼

   特别声明    本页内容仅供参考，版权终归原著者所有，若有侵权，请联系我们删除。