杰瑞·卡普兰:我们对人工智能过于乐观也过于悲观

杰瑞·卡普兰是斯坦福大学的人工智能专家,1972 年本科毕业于芝加哥大学历史与科学哲学专业,之后考入宾夕法尼亚大学计算机科学专业,后进入斯坦福大学人工智能实验室工作。目前,卡普兰担任的是斯坦福大学人工智能与伦理学教授。在进入斯坦福大学之前,卡普兰是计算机技术公司 Go 的创始人,该公司设计了世界上第一台笔触式计算机。作为硅谷最传奇的连续创业家,卡普兰分别创立了全球第一家 B2C 电子商务公司 Onsale、社交游戏网站 Winster 等。


image-1.jpg


今年 6 月,卡普兰带着他的新书《人工智能时代》(Humans Need Not Apply)来到中国,机器之心也在此期间对卡普兰进行了一次专访。卡普兰认为人工智能在未来将会对交通领域产生重大影响,并认为我们同时对人工智能过于乐观和过于悲观。以下是机器之心对杰瑞·卡普兰的采访实录:


机器之心:你第一次听说「人工智能」这个词是在什么时候?


杰瑞·卡普兰:对于我来说,大概是在 1970 年我上大学的时候。这个词是约翰·麦卡锡(John McCarthy)在 1956 年提出来的,所以我大概是在这个词出现后 15 年才第一次了解到它。


机器之心:在那个时候,「人工智能」这个词的含义和现在有什么不同?


杰瑞·卡普兰:当然在那个时候这个词的含义和现在有一些不同。它的发明者约翰·麦卡锡提出这个概念时,他认为真正的人工智能应该能够理解人的天性,而通过对机器编程来模拟人类的智商是可行的。他当时提出了一种开发人工智能的方法,当然现在这个方法已经被否定了。当时计算机几乎完全是为了数字计算而设计的,所以他觉得我们可以用所谓的「象征化过程」来让计算机的计算过程变得理性化,从而让计算机能够参与到逻辑推论的过程中。


机器之心:作为斯坦福大学的教授和一名连续创业者,你如何平衡学术研究和企业管理之间的关系?你在创业过程中遇到的问题有没有对你的学术研究有所影响?


杰瑞·卡普兰:事实上我进入学术圈之前是企业家,所以这两者并没有什么冲突。但是我曾经是企业家的经历对我的学术研究的确有很多影响,这让我很好地明白了技术应该通过何种方式来被社会所接受,以及技术应该如何产生价值。企业家的经历也让我有了写这本书的素材,这对我来说非常重要。


机器之心:在 WaitButWay.Com 网站的一篇文章里,作者 Tim Urban 写道,当人们预测未来的时候,他们总是低估了未来。他还在文章中画了一张非常有名的曲线图,显示人工智能有可能正处在一个爆发式增长的前夜。根据你对人工智能的了解,现在的人工智能到底发展到了哪一个阶段呢?


image.png


杰瑞·卡普兰:你说的是这个几何级数式增长曲线图是吧。我认为最可笑的事情是,我们有的时候太乐观了,有的时候又太悲观了。我们经常认为人工智能很快就要来了,但同时又不理解它对人类的长期影响,所以我们才会低估了它的影响。但是我认为我们又高估了人工智能的发展速度。这就是我对这件事情的看法。另外,这张几何级数式的增长曲线图实际上描述了一个非常复杂的情况,我们目前还难以理解。实际上我们对于新技术的发展速度过于乐观了,人们总会认为五年内所有的司机都会失业,因为自动驾驶汽车已经快被研发出来了。的确这种情况在很多年后会发生,而且起影响也会非常大。我认为人们最低估了的一件事情就是人工智能对劳动市场的影响,我认为在未来 10 到 15 年内,很多工作都会被自动化的机器人取代,因此工作的性质也会改变,而人类则会因此变得更加富有。


机器之心:伊隆·马斯克几周前在 Code Conference 上说:「我们在人工智能领域的进步有可能把人类带向一个变成人工智能宠物的境地。」这和你在你的新书《人工智能时代》的最后提出的问题「如果机器圈养了人类」很类似。你同意马斯克的这种观点吗?


杰瑞·卡普兰:完全不同意。我不认为有什么能让人类变成宠物,相反地,人工智能以后还是会和冰箱或者汽车的地位一样。基本上我认为我们正在将任务变得自动化的过程中,人工智能只会做那些有经济价值的任务。马斯克和其他人提出的对机器人统治人类的恐惧其实是很没有意义的,而且这种情况也没有发生。

 

机器之心:那么他提出来的解决方法呢?(注:马斯克在会场提出的解决方案是:神经织网(Neural Lace)。马斯克认为,只要透过颈部静脉就可安装植入神经织网,若人类能利用自己的数码分身创造宽频的神经界面,就有可能避免被高级人工智能所奴役。

 

杰瑞·卡普兰:这就是他脑子里防止机器人统治人类的方法是吧?但是我不认为我们需要担心这个问题,我们让机器取代人类去做那些我们以前做的工作就好了。机器统治人类是完全没有道理的。什么机器将让人类变成宠物之类的话实在是太傻了,用作写耸人听闻的文章的素材倒是个不错的选择。

 

机器之心:从技术上来讲,你认为在未来的 3 到 5 年内人工智能将会走到哪一步?

 

杰瑞·卡普兰:3 到 5 年内应该不会有什么明显的变化,新技术从出现到应用需要花很长时间的。例如智能手机从出现到真正成为主流设备大概花了 15 年时间。所谓我认为在未来 3 到 5 年内,我们看到的情况应该和今天一样。

 

机器之心:那未来的 15 年内呢?


杰瑞·卡普兰:嗯,这就会有所不同了。我认为在未来 15 年里,改变最大的将会是交通领域。未来的交通工具将不需要人类驾驶,这会改变很多事情,例如人们可能不需要购买汽车了。所以汽车领域会是影响最大的,而其他领域则会相对小一些。另外,在 15 年内人工智能也可能在工业以外的领域有一些戏剧性的影响,我认为是在那些需要人工劳动的领域,例如农业和装修。我认为会出现这样一些人工智能设备来完成这些任务,而且其价格也不会很高。

 

机器之心:很多人认为图灵测试不能反映人工智能的真实发展状态,而你在《人工智能时代》这本书里提到说图灵测试不仅仅是一项测试,而是一种人们重新理解诸如「思考」和「智能」这类词的方法。你能更详细地解释这一观念吗?

 

杰瑞·卡普兰:当然。如果你真的读过艾伦·图灵的论文《计算机器和智能》的话,你会发现人们误解了图灵测试。这篇论文非常具有可读性,而且你会对其中的一些观点感到惊奇。人们会觉得所谓「图灵测试」是一个有趣的测试,但实际上在这篇论文里,他表达的观点是:去研究机器能不能思考本身就是没有意义的。但是他猜想,在 50 年内,人们将能够和机器进行交流,而且这个机器看起来会「思考」。现在已经过了 50 年,他说对了。我们现在能够和智能手机或者自动驾驶汽车或者其他智能机器交流了。但在这个过程中,机器并没有真正地「思考」,真正发生改变的是词语的涵义。图灵说的是当我们把「思考」、「智能」等词语应用到机器身上时,它们就会产生新的意义。例如当你学习哲学的时候,你是在「学习」,而当机器在学习识别一只猫的图片时,它也是在「学习」。但这两种「学习」的本质时不同的,这并不意味着机器正在和人类一样「学习」。

 

机器之心:自从人类发明智能工具之后,我们就进入了一个所谓的「人机共生」的阶段,如果哪一天人类发明出了真正的人工智能,你认为这种「人机共生」的状态会发生何种改变?

 

杰瑞·卡普兰:首先,我不认为真正的人工智能会出现。但我认为一件很有趣的事情是我们正在和机器一起完成很多事情,例如你会用机器画画,你会把手机放在你的脑袋边上。所以当机器真正进入我们的身体并和我们达到一种「共生」状态的时候,我不会觉得奇怪。机器在我们身体以外工作和以内工作对于我来说都是一样的,因为它们本质上是一样的。


机器之心:你认为人工智能能在诸如艺术、发明创造和学术研究等方面取代人类吗?


杰瑞·卡普兰:我认为在艺术领域,人工智能可能会生产出杰出的艺术,例如它会演奏出很优美的小提琴曲子,但这不是艺术,因为它没有人类演奏的音乐那样有艺术上的意义。没有人会想去北京剧院去听机器人拉小提琴的,它可能会拉得很好,但这不会产生和人类演奏一样的意义。在学术方面,我觉得人工智能可以表现得很好,因为在学术研究里,我们只注重结果而不是过程,更谈不上什么意义。


机器之心:我听说你是《2001太空漫游》的粉丝。在那部电影里,人工智能 HAL 9000 为了完成任务不惜杀死了自己的人类伙伴,你认为 HAL 9000 的主要缺陷是什么?(注:电影中,人工智能机器人 HAL 随人类宇航员一起远征土星,在任务快要完成时,HAL 发现人类宇航员似乎想要关闭自己,所以决定先发制人杀死宇航员。幸存的宇航员大卫·鲍曼在彻底关闭 HAL 前看到了从地球带来的视频指令,原来地球上的指挥人员在飞船离开地球前告诉 HAL 要使用一切办法完成任务。)


image-2.jpg


杰瑞·卡普兰:我很喜欢这个问题。我认为是 HAL 的程序设计者没有考虑到它会采取这种措施,设计者也没有采取措施来保护 HAL 的人类同伴的安全。但我不认为 HAL 的设计是完全错误的,只是它身上存在一些问题,就像汽车的轮子脱落了一样。我认为 HAL 杀死它的人类同伴之间事情应该判处它的设计师进监狱,因为他没有很好地设计 HAL。

 

机器之心:你认为问题出在程序设计上还是人的命令上?因为人在下达命令时要求 HAL 采取一切必要手段完成任务。

 

杰瑞·卡普兰:呃……程序当然是好的,但是他们没有考虑到这个程序会在极端情况下做出那种事情。这个问题我们到现在还得面对,例如在无人驾驶汽车上,比如说当计算机程序必须决定路人的生死的时候。所以设计程序的工程师需要考虑到社会道德因素,确保自己的产品做出正确是非常重要的。


机器之心:最后一个问题。自从 AlphaGo 和李世石的人机围棋大战之后,人工智能在中国引发了很多讨论。那么关于人工智能和机器人,你有什么想对你的读者分享的?


杰瑞·卡普兰:当然,我认为人们从一场人和机器之间的围棋比赛中引发担忧是非常没必要的,这并不代表什么东西。这并不意味着机器和人类一样聪明了,这只能说明 AlphaGo 这个程序被很好地设计并能够完成围棋这一特定游戏。这就是我认为人们误解的人工智能的原因,它只是一种人类思维的延伸而已。AlphaGo 打败了李世石只能说明我们在人工智能领域有了一个突破。在 1997 年,IBM 的「深蓝」计算机打败了当时世界第一的国际象棋棋手加里·卡斯帕罗夫,那时人们也有过类似的反应。人们说:「我的天呐,机器要统治人类了。」但现在 20 年过去了,我们知道这种情况并没有发生。


image-3.jpg杰瑞·卡普兰新书《人工智能时代》

理论产业杰瑞·卡普兰专访人工智能
返回顶部