首次披露 Uber 自动驾驶事故内部调查:「这可能会杀死一个蹒跚学步的孩子」

软件技术的不成熟、对技术的理解欠佳、对安全建制的 Diss 几乎注定了 3 月那场车祸的发生。然而,ATG团队激进的文化价值观才是所有这些混乱背后的原因。

2018 年 3 月 26 日,一辆 L4 自动驾驶汽车(改造于沃尔沃 XC90)在亚利桑那州的公共道路上撞击一位行人并致其死亡。这也是世界首例 L4 车辆因车祸致人死亡事件。

今天,在采访 Uber 多名公司员工(包括前任员工),查看内部文件(邮件、会议记录等)后,外媒 Business Insider 首次披露事故发生前后的诸多细节:管理混乱、内讧猖獗、同时肩负极大竞争压力...... 有员工甚至在采访中直言,事故发生前的自动驾驶系统「可能会杀死一个蹒跚学步的孩子」。

美国国家运输安全委员会调查人员正在检查Uber一辆发生致命事故(2018年3月20日发生于美国亚利桑那州坦佩市)的自动驾驶汽车。 来源/路透社

一个礼拜前,苹果联合创始人 Steve Wozniak 公开表示, 自动驾驶汽车不可能在不久的将来实现,并且还直言「我不相信自动驾驶汽车」。然而,有关 Uber 的这篇报道表明,尽管当前软件技术不成熟,但是,让自动驾驶技术变得危险的恰恰是人。一个激进、对这个高风险应用领域缺乏敬畏之心的文化,才是 3 月那起车祸的元凶,是它关闭了汽车的自动刹车功能。

软件技术不成熟,装备也欠佳

所有受访员工表示,工程师们都清楚一点,在各种情况下都无法识别或预测包括行人在内的各种物体的路径。

比如,两名知情人士证实,这辆车在「近距离感应」方面装备欠佳,因此它并非总是能探测到车附近几米以内的物体。

「这可能会杀死一个在停车场蹒跚学步的孩子。当然,这是我们的假设。这是一场没有发生、但可能发生的事故。」一名软件开发员称。而且,树枝阴影、成堆树叶都会把汽车弄晕。

软件团队的领导者每周都会听取数百个问题的简报,但是问题并不总是那么容易解决。

在安全都成问题的情况下,奢谈用户体验

然而,在清楚软件技术不成熟,连安全问题都没法得到很好保证的情况下,公司将用户体验放到了更重要的位置。

科斯罗萨西接手时,曾考虑过关闭这个项目,因为它可能要花费数十亿美元,《纽约客》的一篇特写文章中谈到。因此,Uber 自动驾驶汽车研发部门ATG(Advanced Technologies Group)的负责人及其高管团队希望通过一些展示,给这位新任 CEO 留下深刻印象,否则,他们的优厚待遇将会不复存在。多名员工表示,高级工程师的薪酬超过 40 万美元,主管薪酬(包括工资、奖金和股票期权)高达 100 万美元。

同时,作为全球最大的网约车服务公司,Uber 深信给客户提供良好体验的必要性。如果乘客们打算接受无人驾驶汽车,这段旅程就不能让人觉得太糟糕。

因此,在科斯罗萨西上任 1 个月后,产品团队高管埃里克·汉森(Eric Hansen)就发布了「产品需求文件」,要求工程师考虑「乘客体验指标」,并要求年终大型演示只能有一次「糟糕体验」。这个高标准让一些专注于解决安全相关问题的工程师感到非常震惊。

消息人士解释说,工程师可以「调整」无人驾驶汽车,使其驾驶更加顺畅,但使用的是不成熟的软件,这意味着, 不允许汽车对它看到的一切做出反应,无论真实与否。这是相当危险的。

「如果把一个人放到车里,死亡几率达 12%,你就不应该优先讨论任何关于用户体验的事情,而是专注于安全。」一位工程师说。

两个安全驾驶员裁减为一个,分心驾驶

让安全问题雪上加霜的是,公司决定开始使用一个驾驶员,而不是两个。

过去,一位驾驶员负责记录里程,另一位负责将汽车的问题记录到 iPad 应用程序中,并处理汽车识别路上物体的请求。现在只有一位安全驾驶员,这意味着,他需要负责所有这些工作,公司这样做的目的主要是想有更多的人来记录里程。但是,公司内部许多人认为, 这会导致驾驶员分心,不安全。

而当天事故视频也验证了这一危险。视频中,我们可以看到:那位汽车驾驶员向下看了几秒钟,可能是看了看仪表板 iPad,然后抬起头来看路,但是太晚了,根本来不及反应,一张脸扭曲成震惊的表情。

如此追求里程数也与公司过于简单的自动驾驶性能衡量标准观念有关:ATG 认为, 汽车在没有人类帮助的情况下行驶的距离越长,它就会变得越聪明。但现在整个行业都意识到,这种衡量办法过于简单。

Uber 现在表示,当其无人驾驶汽车再次上路时,该公司计划恢复两个安全驾驶员的配置。

有毒文化

然而,在出现上述安全隐患后,ATG 管理层却反应迟钝,甚至不予理睬。

比如,针对安全驾驶员剪裁导致的隐患问题,高层并未认真对待来自安全驾驶员的愤怒电子邮件。在安全测试工作上,每个项目团队都按照自己的方式做事,没有人监督整体测试。团队与团队之间也充满嫌隙。比如,从卡耐基梅隆大学挖来的团队与旧金山的团队并不能相处融洽。

优步 ATG 在匹兹堡的办公室。 来源:Business insider / danielle Muoio

至于团队管理层为什么会主动做出如此充满风险的决定,可能与这个团队的激进文化和目标有关。

「现在的问题不是公司能否生产一辆自动驾驶汽车,而是它能否快速、廉价地生产一辆自动驾驶汽车,以解决 Uber 的收入问题。」ATG 负责人在接受《纽约客》采访中曾经说道。

事发后,「我们的车撞了人, 但 ATG 内部没有人承认『我们做错了什么,我们应该改变这些行为。』一位受访员工遗憾地表示。

不过,报道透露, 目前团队的核心管理层并未换血,团队也再度被告知:

「我们需要在 2019 年前公开展示某些新东西。」

事件回放

2018 年 3 月 26 日,一辆 L4 自动驾驶汽车(改造于沃尔沃 XC90)在亚利桑那州的公共道路上撞击一位行人并致其死亡。这也是世界首例 L4 车辆因车祸致人死亡事件。

5 月,美国国家交通安全局发布的关于 Uber 事故的初步报告中指出,Uber 的自动驾驶软件没能在 Herzberg(受害者)横穿马路时准确识别出来。报告同时指出,当 Uber 的系统出现任何问题或突发状况时,其系统完全依赖于集中注意力的操作人手动介入。

5 月 24 日,据路透社报道,当地时间周三,Uber 宣布关停在亚利桑那州的自动驾驶汽车项目,同时伴随着近 300 名员工被裁,其中大多数是测试驾驶员或者「车辆操作员」。

事故后四个月内,亚利桑那州州政府也禁止 Uber 开展任何无人驾驶测试。尽管 Uber 取得了加州政府的同意,其并未在加州开展任何测试,并同时取消了匹兹堡自动驾驶研究中心附近路段的公路测试。

8 月 3 日,Uber 负责自动驾驶业务的总裁 Eric Meyhofer 在个人博客中宣布:Uber 的自动驾驶汽车将会重回匹兹堡。目前,自动驾驶汽车在路上将会被设置为人工模式,路上行驶仅为机器训练和地图收集信息数据。

产业自动驾驶Uber
相关数据
自动驾驶技术技术

从 20 世纪 80 年代首次成功演示以来(Dickmanns & Mysliwetz (1992); Dickmanns & Graefe (1988); Thorpe et al. (1988)),自动驾驶汽车领域已经取得了巨大进展。尽管有了这些进展,但在任意复杂环境中实现完全自动驾驶导航仍被认为还需要数十年的发展。原因有两个:首先,在复杂的动态环境中运行的自动驾驶系统需要人工智能归纳不可预测的情境,从而进行实时推论。第二,信息性决策需要准确的感知,目前大部分已有的计算机视觉系统有一定的错误率,这是自动驾驶导航所无法接受的。

自动驾驶汽车技术

自动驾驶汽车,又称为无人驾驶汽车、电脑驾驶汽车或轮式移动机器人,是自动化载具的一种,具有传统汽车的运输能力。作为自动化载具,自动驾驶汽车不需要人为操作即能感测其环境及导航。

推荐文章
暂无评论
暂无评论~