离开Uber后的Gary Marcus:人工智能远比你想象的要难

Gary Marcus 曾是 Uber 人工智能实验室的负责人,他在去年 12 月把自己的创业公司 Geometric Intelligence 卖给 Uber,并帮助 Uber 组建了人工智能研究团队。仅仅过去四个月,Marcus 就宣布从 Uber 离职。作为纽约大学科学家, Gary Marcus 是人工智能领域的一名反叛者。


640-9.jpeg

Gary Marcus 说,不是机器有多智能,而是在何种程度上我们可以控制它们。(图片来自 Flickr 用户 normalityrelief)


正如媒体所渲染的,为了让纽约成为人工智能领域的「首都」城市,纽约大学 Tandon 学院正在不断加大投入的步伐。来自 NYU Future Labs 孵化器的初创公司 Geometric Intelligence 就是成果之一,这家公司已在该领域取得了巨大飞跃:去年 12 月,Uber 收购了 Geometric Intelligence,其创始人 Gary Marcus 也加入了 Uber,并为这家公司组建了人工智能研究与开发实验室。


基于这些成就,你也许会认为 Marcus,这名纽约大学的心理学教授,是一位发掘人工智能潜力的主流领袖之一。相反,他却不断地给媒体界关于人工智能宏大叙事的炒作泼冷水。


IBM Watson 可能已经在 Jeopardy! 上打败了 Ken Jennings。但在 Marcus 看来,人工智能系统并不比一个五年级的小学生聪明:它无法抽象思考,也不能自然地交流。


Marcus 上个月离开了 Uber,目前正在制定自己的下一步计划;同时,关于其产业的所有炒作,他有很多话要说。


Technical Brooklyn 以如何合理发展机器智能为主题与 Marcus 展开了讨论。


TB(Technical Brooklyn):虽然其他人也承认通用人工智能还很遥远,但总体情绪比你更乐观,你觉得自己有一点反叛吗?


Gary Marcus:是的,我的意思是,采取反叛的视角毫无问题。我的观点,对于仅代表了我们真正需要达成的东西的一部分,人们总是非常有热情。很明显,不同的人强调不同的事情。我的研究领域是语言习得,其核心问题是一个两三岁的小孩如何真正学习理解世界并交谈。


我觉得机器在这些事情上迈不开步子。它们也取得了进步,比如识别语音,但是那不关乎语言理解,仅仅是一种转录。


TB:对于通过调节方法而更快地实现通用人工智能的做法,你怎么看?


Gary Marcus:我在该领域呼吁的方法是更加认真地对待认知科学,尤其是发展心理学和发展认知科学。我认为人类孩童能做很多机器无法做到的事情,比如从少量信息中获得推断,学习非常复杂的语言。他们似乎有很多天生的内在结构帮助其开始——至少在我的观点看来是这样。当下机器学习领域的主导方法是找出没有很多先验知识的统计近似值,我不认为其在语言和日常常识推理等方面比孩童更具优势。


640-10.jpeg


TB:在 AI Summit 的演讲中,你曾提到自动驾驶汽车的进展缓慢,你认为这一领域在近期是否乐观?


Gary Marcus:毫无疑问,自动驾驶汽车最终会变得足够安全可靠,基本代替人类驾驶员的位置。但我认为目前的发展还没有人们想象的那么快。我认为人类距离自动驾驶并不是一两年,而是十年左右的距离。


问题在于现实环境中存在的大量非常规情况(edge case)。


训练神经网络在路况良好的高速公路中学会驾驶是很容易的一件事。但这并不意味着它们同时就能够应付那些非常规路况了,比如一辆在路口左转的卡车(就像特斯拉「自动驾驶死亡事件」,注:在美国国家公路交通安全管理局最近的报告中,特斯拉洗清了罪责)。所以我认为自动驾驶汽车距离真正可靠还有很长一段距离。


TB:人工智能拥有无限潜力,但能力也带来了潜在的隐患。其中一个就是人工智能偏见,一些智能软件(如财务系统)可能会放大人口统计学的偏差。你所倡导的类脑方法能否规避这些潜在风险?


Gary Marcus:在消除偏见的问题上,我们没有灵丹妙药,每个算法都有偏差。如果人脑中的某个机制被理解并泛化,它或许对医学非常有用,但这并不能解决人工智能的所有问题。如果严谨地看,所有系统都存在偏见,这是由自然决定的,无论是人还是机器都会存在偏见。


TB:在减少偏见方面,你认为人工智能比人类具有更高效的潜力吗?


Gary Marcus:如果你知晓偏见的存在,那么你就可以减少它。所以我认为计算机是减少偏见的有效工具,但这并不等价于偏见可以被简单地消灭。被我们忽视的偏见或许永远不会被消除,我认为在这里没有灵丹妙药。


640-11.jpeg


TB:除了像机器学习偏见这样已经出现过的问题以外,有关人工智能末日的预测还有很多不同的版本。但看起来你对此不以为然?


Gary Marcus:我不认为事情将会是他们想象的那样,很多人都把人工智能的危险与超级智能画上等号。但我得说问题并不出在机器智能化的程度上;而是有关机器掌握了多少权力,它们在何种程度上直接掌控电网、股票市场等等。在这些方面,即使人工智能还处在初级阶段,仍有某些风险。


在这里,我们可以类比人类的青少年,他们或许不是最聪明的人,在情感上也没有发展完备,但是他们的力量却不可忽视。所以我们或许需要在某种程度上担心「青少年智能机器」的不稳定性:例如拥有强大的认知能力,伦理能力却受到限制。


TB:最后一个问题,你目前的研究方向是什么?


Gary Marcus:我对一系列问题都很感兴趣,其中一个当然是通用人工智能——如何让计算机从很少数据中学到知识,另外还有探究大脑运行的机制。我认为在这两个方向上还有很多工作要做,而我正在选择下一步要发展的方向。 


原文链接:https://technical.ly/brooklyn/2017/04/10/nyu-gary-marcus-artificial-intelligence-contrarian/


神经认知+人工智能,Gary Marcus 还想分享更多!


「认真地对待认知科学,尤其是发展心理学和发展认知科学。」在机器之心 GMIS 2017 全球机器智能峰会上,这位对人工智能发展有不同思考的人将会为我们带来更多技术和研究方面的精彩分享。


640-12.jpeg


2017 全球机器智能峰会(GMIS 2017)是由机器之心主办的关注全球人工智能及相关领域的行业盛会,将于 5 月 27 日至 28 日在北京 898 创新空间举行。

本次大会将邀请海内外众多嘉宾及机构,将权威、系统地介绍机器智能相关技术的前沿研究,探讨如何将技术转化成产品和应用等问题,这些嘉宾包括加州大学伯克利分校人工智能中心创始人兼计算机科学专业教授 Stuart Russell、LSTM 之父兼 DalleMolle 人工智能研究所副主任 Jürgen Schmidhuber、香港中文大学教授兼第四范式联合创始人杨强在内的众多人工智能领域大咖。

精彩的主题演讲、首次多平台直播的人机对战及本次大会特设的智能机器展览会(Intelligence Machine Exhibition, 简称 IME),均可以帮助观众近距离地体验前沿人工智能技术与现代消费生活交互融合。

有关 GMIS 2017 大会的更多亮点,我们将持续为大家揭晓展现。在机器智能时代,机器之心诚邀人工智能从业者及爱好者参会。获取大会详情及购票信息,请点击查看大会官网。

产业人工智能访谈心理学产业局限性Gary Marcus