英特尔官网来源晏奇编译

Mobileye CEO谈Uber事故: 传统经验仍很重要,尤其在性命攸关的领域

现在,是时候对自动驾驶车辆的安全性展开重要讨论了。

一直以来,社会都期待自动驾驶汽车的技术能够超越人类司机的驾驶水平。但是,随着上周 Uber 自动驾驶汽车在美国亚利桑那州撞倒一位行人并致其死亡(事故发生时,汽车处于自动驾驶状态,受害者名为 Elaine Herzberg)惨剧的发生,我们有必要审视一下相关传感与决策技术安全性。

Amnon Shashua 教授,他是英特尔公司的高级副总裁,也是 Mobileye(英特尔的子公司)的首席执行官与首席技术官。


首先,解读传感器信息很有挑战性。

警方公布的视频证实,即使是自动驾驶系统最基本的组成部件,其探测和分类物体的能力都很富挑战性。而这一能力,确实当今先进自动驾驶辅助系统(ADAS)的核心,包括诸如自动紧急刹车(AEB)、车道保持等功能。

正是 ADAS 系统内部高精度的感知系统,提供了生命保障功能。在系统有能力解决更难的问题之前,这种技术也是全自动驾驶汽车必不可少的基本组成部分。

为了展示目前 ADAS 技术的能力,我们给自己的软件输入了警方公布的事故车辆监控视频。

尽管实验条件比不上真实场景(那些存在于真实场景下的高动态范围数据可能已经丢失),但在距离撞击受害者前一秒的时间,系统仍然成功探测到了受害者。

从下方展示的三张视频截图中,我们可以看到:系统将侦测到的自行车与受害人用识别框标注了出来。

探测结果来自两个独立的探测源。模式识别,该过程可以生成识别框以及可通行空间(free-space)的探测模块,它可以生成一个水平图,用红色区域表示「道路使用者」出现在前方。

第三个模块借助基于「平面+视差」技术区分道路目标。这个模块会验证之前模块探测到的那些具有低信度(low confidence)物体,它们会被之前的模块打上标注「fcvValid: Low」,并将其显示在画面的左上角。

之所以会产生低信度,因为缺失通常在量产车上可以搜集到的信息以及低质量的成像设置,因为录像来自车载摄像头拍摄的画面,会受到某些未知的降采样影响。

上图展示了 Mobileye 公司的 ADAS 系统根据警方公布的行车录像进行分析的截图。绿色和白色的识别框代表系统的自行车和行人探测模块的输出结果。水平图界定了道路与障碍物之间的可通行空间(free-space)。

目前市面上装有 ADAS 系统的汽车,使用的就是本次实验中的这个软件,其性能已经得到了消费者们数十亿英里驾驶范围的验证。

最近人工智能的发展,诸如深度神经网络,已经让很多人相信:我们可以很容易地开发出一个具有高精准物体识别性能的系统,现有的、有着十多年计算机视觉经验的专家似乎变得没那么重要了。

虽然整个领域有了很多新变化,不过笔者以为,这些新技术虽然十分有用,但如何识别并关闭数以百计极端情况、对成千上万英里的道路画面数据进行标注、在几十个量产 ADAS 项目上进行具有挑战性的量产前验证测试等传统经验和做法,不能跳过。

经验很宝贵,特别是性命攸关的领域。

第二点,有关透明性的问题。

人人都认为,「安全是我们最关注事情,」但是,笔者团队相信,为了得到公众的信任,必须让这份安全声明更加透明才行。

2017 年 10 月,Mobileye 发布 RSS(https://www.mobileye.com/responsibility-sensitive-safety/)模型时,我曾表示系统的决策必须要遵照人类的常识判断。我们提出了一套有关常识的数学定义,涉及到诸如「危险情形」、「恰当的反应」等等,然后开发了一个可以按照这些定义行动的系统。

第三点,与冗余(redundancy)有关。

真实的感知系统冗余,必须依赖独立的信息源:摄像头、雷达和激光雷达。将这些信息融合到一起,虽然可以便于系统的驾驶操作,但是,系统的安全性无法得到保障。

在 Mobileye,为了获得真正的冗余,我们分别发开了独立的端到端摄像头系统,激光雷达系统以及雷达系统。

更多类似上周发生的事件,将会危害消费者对自动驾驶本就脆弱的信心,还会催生不适当的监管,阻碍自动驾驶研发。

正如在介绍 RSS 时提到的,我坚信,现在正是需要对全自动驾驶汽车的安全验证框架进行有意义讨论的时候。唯有这样,我们才能一同解决这些重要的问题。

产业
暂无评论
暂无评论~
返回顶部