人工智能也有「盲区」:MIT新模型如何治疗AI的「视而不见」?

人工智能系统能通过大量的重复学习来认识现实世界的情景,并对不同情景做出判断。美中不足的是,AI的判断并不总是准确。麻省理工学院(MIT)和微软公司的研究者近日开发了一个全新的学习训练模型,希望能借助人工的输入来解决训练自动驾驶AI的缺陷

图片来源:Pixabay

自动驾驶的实现离不开AI。通常来说,AI首先要经受模拟驾驶场景的训练,以准备应对道路上的实际情况。但是,模拟训练并不足够。在实际驾驶中,面对未知的突发情况,AI很可能做出不安全的驾驶操作,并将这种不安全的驾驶行为保留下来。

举个例子,当隔壁车道有一辆白色汽车并排行驶时,自动驾驶系统不会采取任何措施,因为这是常见的驾驶情况。然而,当这辆车变成一辆救护车时,情况就完全不同了。救护车理应优先通行,可AI未必会让路。因为在AI的眼里,救护车只不过是另一辆寻常的白色汽车罢了

研究人员期望向AI输入更多人工经验来解决更多类似的问题。

传统的自动驾驶测试会通过人工辅助来获取反馈:如果辅助驾驶员没有对AI驾驶做出修正,那么表明AI的驾驶是安全的;若辅助驾驶员干预了AI的驾驶动作,比如帮AI踩了一脚刹车,那么说明AI发生了误判,做出了有危险的驾驶行为。

可是,这个反馈机制的问题在于:它只能用这些反馈来更新AI系统的动作,而不能真正让AI理解引发辅助动作的问题所在,比如说忽视了盲区里的一台白色救护车

人工可以辅助修正潜在的驾驶安全问题,却不见得能改变AI驾驶的判断逻辑。我们再次以白车并行为例,如果10次并行经历中,驾驶员仅在唯一一次和救护车并行时采取了刹车的干预措施,算法仍然可能以简单多数的原则认定“与白车并行”是一个安全的行为。可实际上,安全隐患仍然存在,并可能造成严重的事故,尽管几率很小。

某种意义上,无法意识到自动驾驶操作潜在的风险,也是自动驾驶AI的一个运算“盲区”。

研究人员采用了Dawid-Skene算法,这个机器学习算法运用众包来处理多种混乱的标签。Dawid-Skene算法会将复杂的驾驶环境和被标注为“安全”和“不安全”的驾驶行为进行运算,并区分出真正安全的驾驶行为和那些看似安全实则危险的驾驶行为。

即便有些看似危险的驾驶操作仅有10%的危险概率,也能够被算法揪出,并让人们知道,AI对这个驾驶行为没有十足的信心。最后,算法能根据运算的结果制出一幅各类驾驶行为安全性的热图,并标出每个AI驾驶“盲区”发生的可能性。

这个新模型可以运用在很多领域,自动驾驶之外,自动机器人系统也亟需解决自动操作的”盲区问题”。“它可以帮AI认清自身能力有几斤几两”,研究的参与者之一,MIT计算机科学博士生Ramya Ramakrishnan先生如此评价道,“架起连接人类知识和AI学习的桥梁可以让AI减少犯错的几率,变得更加安全。”

参考资料:

[1] Identifying artificial intelligence 'blind spots'. Retrieved Jan 28, 2019 from https://www.eurekalert.org/pub_releases/2019-01/miot-iai012419.php

药明康德AI
药明康德AI

药明康德微信团队专业打造。当人工智能遇上大健康,带你看全AI时代的智慧之光。

专栏二维码
产业机器学习自动驾驶微软MIT
相关数据
微软机构

微软是美国一家跨国计算机科技公司,以研发、制造、授权和提供广泛的计算机软件服务为主。总部位于美国华盛顿州的雷德蒙德,最为著名和畅销的产品为Microsoft Windows操作系统和Microsoft Office办公室软件,以及Xbox的游戏业务。微软是美国《财富》杂志2015年评选的世界500强企业排行榜中的第95名。

https://www.microsoft.com/en-us/about
自动驾驶技术技术

从 20 世纪 80 年代首次成功演示以来(Dickmanns & Mysliwetz (1992); Dickmanns & Graefe (1988); Thorpe et al. (1988)),自动驾驶汽车领域已经取得了巨大进展。尽管有了这些进展,但在任意复杂环境中实现完全自动驾驶导航仍被认为还需要数十年的发展。原因有两个:首先,在复杂的动态环境中运行的自动驾驶系统需要人工智能归纳不可预测的情境,从而进行实时推论。第二,信息性决策需要准确的感知,目前大部分已有的计算机视觉系统有一定的错误率,这是自动驾驶导航所无法接受的。

机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

逻辑技术

人工智能领域用逻辑来理解智能推理问题;它可以提供用于分析编程语言的技术,也可用作分析、表征知识或编程的工具。目前人们常用的逻辑分支有命题逻辑(Propositional Logic )以及一阶逻辑(FOL)等谓词逻辑。

推荐文章
暂无评论
暂无评论~