沃森已经长大成人,我们应该害怕它吗?

2015年的第一个周末,一群人工智能领域顶尖专家来到Puerto Rico参加一个很特别的私人会议。之所以特别,则是因为这次会议的主题。如今,不论人工智能的发展对于人类发展是否有益,绝大多数讨论都停留在非专业群体领域,缺少来自人工智能领域的看法。而此次会议的组织者也很有意思,这是一家名为Future of Life Institute的智库举办,该智库由MIT宇宙学家Max Tegmark运营,Max Tegmark的名气来自他曾经出版的一本书,他在书里提出宇宙是一个数学结构的假设。而这个智库的支持者,则站着Skype联合创始人Tallinn、特斯拉 CEO 伊隆马斯克,他们当天也来到会场。

与会者们有两大主张。第一个派别认为人类正在进行一次前所未有的尝试。MIT经济学家 Erik Brynjolfsson这样说到:「我们正站在历史变革的中途。」这些人还预测了机器全面超过人类的时间,他们给出的保守时间为2050年。


第二种主张相对来说更复杂,因为这一主张认为这种历史性创新并不是件好事。知名的科技从业者都不断呼吁人类要关注AI带来的威胁,这些人中不仅包括马斯克、比尔盖茨这样的企业家,还有科学家霍金,他最近公开指出:真正的人工智能会导致人类灭绝,至于马斯克,他曾在去年宣称:人工智能是人类召唤的恶魔。


作为会议组织者,Tegmark 要让与会者勾勒出这个「恶魔」的模样,以此让更多科学家、企业家以及普通民众重视起来。Brynjolfsson等经济学家们认为,越来越聪明的机器将带来人类新一轮失业浪潮,从而加剧人类的不平等。从学术和行业的角度出发,与会者们则详细介绍了机器脑的发展情况,如今机器脑能够理解和产生被称之为「信仰」的概念;法律人士阐释如何界定计算机在处理类似电车试验时的法律挑战。


周日傍晚的会议以牛津哲学家Nick Bostrom提出的「智能爆炸」(即机器的能力会迅速的超越人类)为题,Tallinn回顾了他所投资的人工智能公司DeepMind是如何指示算法去玩雅达利的Breakout游戏,这个游戏的玩家需要用一个弹力球击碎多排砖块获得积分。计算机程序并没有球或弹板之类的概念,也并没有得到如何赢得积分的解释。然而,两小时之内,计算机程序知道了游戏的玩法;四小时之内,它就已经懂得了如何赢得游戏——即利用弹力球在砖排中开一个隧道,从而很快从后面击碎砖排。Tallinn认为这能让我们瞥见了未来——它迷人又可怕。对于担心人工智能的人来说,每一次机器智能的进步都会再次引发如何掌控它们的问题。


资本主义社会的生活经验告诉我们,如果亿万富豪警示你的工作将引发道德问题时,那么你所做的工作就是意义深远的。不久后,马斯克为研究院捐款1000万美元用于人工智能方面的研究,另外包括所有与会者在内的上千位人工智能领域研究者将签署由Tegmark起草的、旨在保证智能机器有益于社会的声明。当我问到Tegmark这些问题为什么突然变得如此紧要时,他说道:「人工智能的运作已处于走出实验室进入社会的阶段了。」


机器人已然可以感知周围世界并完成实际任务:无人驾驶汽车已经成为现实;而(机器人可以独立为你准备菜肴的)全自动厨房也计划将于2017年实现。社会机器人方面也有很多进展——机器已经能以接近人类的水平解释其所见事物,我们也教他们理解人类表情背后的情绪从而使它们可以模仿我们的经验。台下观众中,有些AI从业者在日常工作中苦于机器的缺陷,因此他们更倾向于认为进展是渐进的而非爆发式的,对于他们来说台上讨论的警告显得有点华而不实。在听到Bostrom的观点后,AAAI(美国人工智能协会)会长、俄勒冈州立大学教授Tom Dietterich咕哝道:「算法不是以这种方式运行的。」他之后告诉我说:「人们问我人与机器的关系是什么,我给他们一个显而易见的答案:机器就是我们的奴隶。」但是Dietterich还是签署了Tegmark的公开信,并且在几周后的AAAI年度大会上重点讨论了机器人伦理。


「机器是否可称得上有社会性」之所以成其为一个问题,很大程度上来源于IBM的一个名叫沃森的智能机器。它是纽约州威斯特彻斯特县北部IBM研究中心的一个研究小组花了近十年时间建造的成果。IBM的工程师们原打算要建造一个可以在电视智力竞赛Jeopardy!中击败最强人类高手的人工智能机器人——这需要掌握押韵、典故、双关等语言的精妙之处。


沃森在2011年的胜利成为了人机战争中的一个里程碑,而且自此后沃森继续演进——它的思考变得更有创意、它的设计变得更有效,从而可以更准确的满足我们的需求。


沃森目前已经接受了分子生物和金融领域的培训,它还写过一本烹饪书,也在石油勘探这一行「工作过」。现在,它正在学习如何帮助人们解决犯罪问题。早前,《连线》杂志还预测道,沃森很快便会成为世界上最好的医疗诊断专家。按照IBM的说法,沃森也会被运用在17个国家的75个行业当中,使成千上万的人可以在工作中使用沃森 。沃森的这些经历很好诠释了时下人们对于人与机器探索的暧昧关系——既需要他们满足人类需要,又给人类带来恐慌。


全新的体验所带来的,不经意的,迷失般的灵光乍现,往往是通往哲理的不二法门。沃森的创造者,那些自它诞生以来就一直在从事这个项目的IBM工程师们,在谈论他们的机器­时,有着不同于Tegmark的观点。工程师们看到的是一部体验、技术提升与改进性失败的编年史,就好像这个机器有它的自传一样。其中一些人会使用更私人化的词语来形容他们和沃森之间的关系,他们将自己比作沃森的父母。


去年十月,IBM给这个项目搬了新家,这是一座位于纽约亚斯特坊广场的办公大楼。看起来,沃森的成长道路很像像:在郊区家庭环境中度过童年;接着上课,接受教育,为进入一个更复杂的世界做准备;然后为了赚钱,搬去曼哈顿东村,找一个东家。这也意味着,它有可能会像我在最近某个下午所做的那样,离开办公室,穿过曼哈顿区,乘电梯上楼,驻足在球场的屏幕前,注意到角落里那个像一小堆硬盘的东西,并思索着人类在万事万物中的地位,然后听到一个平静的计算机声音说,「你好,我是沃森,今天我们要做些什么?」


「这种感觉很像是沃森自己长大, 然后自己奋斗成功。」

「这种感觉很像是沃森自己长大, 然后自己奋斗成功。」


IBM在全球的雇员共有40万人,它本身就是一个庞大的帝国。它的总部设在美国纽约州的阿蒙克市,研究中心设在约克敦海茨,这两个地方都看似与创新中心——硅谷相隔十万八千里。IBM研究院位于一座长长的拱形建筑物内,由建筑师埃罗·沙里宁(Eero Saarinen)于半个世纪前设计修建。正如尚在施工的苹果公司新总部大楼一样,IBM研究院的建筑也成为了这个乌托邦企业的符号和象征。然而,它也是上个时代的古董,因为陈设和家具都来自沙里宁最初的设计,看起来更像一个修道院,而不像新潮的科技公司(大多数办公室都是完全相同、没有窗户的隔间)。楼下陈设着许多奖章,纪念13位获得诺贝尔奖的IBM科学家。一位名叫戴夫·费鲁奇(Dave Ferrucci)的工程师告诉我:「这座大楼里装满了历史。而IBM的历史,正是计算的历史。」


沃森项目就开始于这里。从一开始,它就属于费鲁奇。这是一位53岁的计算机科学家,来自布朗克斯区(纽约市最北端的一区)。从1994年,他在美国伦斯勒理工学院获得博士学位起,就一直为IBM全职工作。他是一个可爱、健谈、热情的人——刮得短短的山羊胡子,整齐的头发,有着外区(outer-boroughs,纽约市除曼哈顿外的其他四个行政区)特有的元音口音。在研究生期间,他曾开发了一个项目叫做Brutus,可以给它确定一个主题(比如,背叛),然后它就能自由发挥,原创出一篇小说。今天,费鲁奇依然保留着那个项目的理想主义。他说:「语言就是圣杯,映射着我们看待世界的方式。」他指着自己的头,继续说:「是进入这里的路。」


建造一台能赢得「危险边缘(Jeopardy!)」游戏的机器,是具有IBM特色的人工智能研究方法,也是一记来自上个世纪90年代的清晰回声——那时候,IBM的弈棋计算机「深蓝」成功击败了国际象棋冠军加里·卡斯帕罗夫(Garry Kasparov)。除了技巧之外,沃森项目的科学家还必须在费鲁奇带领下,冲锋陷阵,占领一个新的高地——语言。因为语言是和埃里克斯·崔柏克(Alex Trebek,危险边缘的主持人)沟通的唯一工具。过去,为了把语言教给机器,程序员们会用数学的方式,逐字逐词地把每个概念描述给机器——先用一个公式来解释「大」和「小」,再用第二个公式解释「昂贵」。这种方式对一个项目来说,简直是天方夜谭。2007年,当费鲁奇的团队开始工作时,为了提高效率,他们利用了大数据和机器学习算法。沃森不再需要那些线索背后的公式,而只需要依靠上下文的语义环境、接近度和统计模式,就像小孩子爱玩的Memory游戏(译者注:一种扑克牌配对游戏)。费鲁奇的团队上传了一个巨大的文本数据库,包括百科全书、网站和参考书,还开发了数百个程序,每一个用来仔细检查线索的不同方面,并各自生成一个备选的答案,然后权衡和排序。比如说,符合「英国作家」和「埃文河畔斯特拉特福」的答案是什么呢?用足够多的程序,跑足够多的文本,生成了一些候选答案,并让核心算法评估这些答案,很快你就能得到一个答案——威廉·莎士比亚。沃森项目的科学家约翰·普拉格(John Prager)解释说:「准确性优化了,但理解力并没有提高。」比如说,沃森能说出:「克里特岛是什么?」「谁是莫里斯·舍瓦利耶?」然而,它却无法理解,因为它不明白舍瓦利耶究竟是何方神圣。(译者注:危险边缘游戏中,参赛者需要用问句来回答。上例中的两个问句,都是沃森对问题的回答。这里的意思是说,沃森懂得用问句来回答问题,但它并不理解这个问句的意思。)


沃森的确有着人工智能的标志:它能从经验中学习。当它观看「危险边缘」的档案片时,每当它对一个线索作出正确的回答,它就会牢牢记住面对此类问题,哪一个程序是值得信任的。沃森的工程师还教会它识别节目制作人所玩的语言游戏。沃森学习了如何更好地从语法上分析每个线索。慢慢的,年复一年,它的反应变得越来越迅速,也越来越精准。到2010年,它的正确率与节目的总冠军们已经相差无几。一开始,沃森的反应速度相当慢,以至于工程师们都习惯于在饭前给它一个线索,然后让它慢慢计算着,而自己去吃午饭。而现在,IBM的工程师们已经让这个时间降到了三秒钟。


结果证明,对于机器来说,语言是一个奇妙的、私密的空间。一旦进入了这个空间,沃森就可以仔细精读「整个人文语料库」,一位IBM科学家后来这样告诉我。这是人类为彼此解释而写下的所有东西。沃森精读了语料库的所有内容,不带任何成见和偏好。慢慢的,它逐渐谙熟于挖掘那些曾被人们趋之若鹜后又抛诸脑后的信息。沃森就是人类失落知识的一声回响。与此同时,它也可以非常幼稚。在2010年的测试比赛中,它开始在每个以字母n结尾的答案后加上一个「d」的声音——比如说,「什么是巴基斯坦『的』?」它的口音听起来就像那位激进的黑人思想家马尔科姆。还有一次,沃森被问到第一位进入太空的女性是谁,它调皮地说:「神奇女侠是谁呢?」IBM的自然语言处理专家珍妮佛·楚-卡罗尔(Jennifer Chu-Carroll)说:「我真的很喜欢它这样。」沃森同时也会犯那些小孩可能出现的错误,比如发错新单词的音,混淆现实和神话的界限,曲解成人没法清楚表达的意思。


在「危险边缘」的一期特别节目上,沃森终于出现了。它面临的对手是创造了74场连胜纪录的肯·詹宁斯(Ken Jennings),以及最终打败了詹宁斯的布拉德·鲁特(Brad Rutter)。根据IBM的计算,沃森有70%的几率赢得比赛。「一场胜率很高的赌博,但依然只是赌博,」费鲁奇说。中场休息时,镜头摇过拥挤的观众,抓住了费鲁奇——整齐的头发往后梳,看起来很紧张。「在那个时候,你完全失去了控制力,」费鲁奇的副手埃里克·布朗(Eric Brown)说,「你只能交叉手指,祈祷好运。」在问题类别「练习曲,笨拙的?(Etude, Brute?)」中,沃森所向披靡,成功地猜出了几位古典音乐作曲家的名字。同样的,它也答上了类别「带刺的(hedgehogs)」中的所有问题。它声称,它想要赌6435美元的「每日二重彩」。主持人崔柏克有些迟疑地说:「要是我,就不会赌。」后来,詹宁斯在下一轮比赛中稍微掰回一局。当沃森正在冥思苦想丹泽尔·华盛顿和肖恩·潘的名字时,它的对手也想出了答案,但沃森的模式识别以绝对的优势胜出。到最后,沃森已经赢得77000美元,比詹宁斯和鲁特各自的三倍还多。


「《危险边缘》从来不是我的目标。」费鲁奇这样说道。在最后几天的准备中,工程师们已经着手拓展沃森的能力范围,使得它不仅是一个仿真机器。这一部分是由于竞争的需要。Chu-Carroll注意到沃森在某些类型的问题上还是显得笨拙,在这些类型问题中有一个至关重要的信息被隐藏。


比如在听到George Mallory(英国探险家,在尝试攀登珠穆朗玛峰途中丧生——译者注)的尸体被发现的叙述后,沃森告诉记者,他仍然认为George Mallory是第一个登顶珠峰的人。正确的答案其实Edmund Hillary,他曾在登顶珠峰中存活下来(而Mallory那时不幸去世),但「George Mallory」这个答案深深植入到沃森「头脑」里。此时,机器需要理解的概念是珠峰,这在沃森关注领域的文本中随处可见。但因为它不是答案,Chu-Carroll作了调整,当机器注意到看起来像这样围绕着答案的短语,它会运行一个二次查询,包括搜索这句话,如果偶然在文本库中发现了一个不起眼的文档,就会按研究者相同的方式开放查询——发现新的联系,并把这些联系建立起来。机器可以自行探索。不久以后,一个暑期实习生写出了一个程序,让沃森把互联网引入从而拓展它的认知范围。沃森像被下了魔法一样开启了一段传奇。


机器开始逐渐提升自己的能力。IBM收购了一家澳大利亚公司来「教沃森理解人情世故」;计算机视觉专家的任务则是「教沃森如何观察。」就在我开始拜访沃森工厂的那个冬天,那里的人们也不再谈论计算机只能生成备选答案了,计算机还可以产生假设并迸发新想法。


「只要换个名字,你会突然大幅拓展它的潜在应用」,Brown说。从这个角度来看,一个更高阶的人类思想的特性——创造力——似乎不那么难以捉摸或者神秘。


Ferrucci让我想象一个百老汇作曲家,坐在钢琴旁寻找某个完美乐句的结尾方式。「他有两个音符,而他正在寻找第三个,」Ferrucci说。他会怎么办呢?他不会戳着他的食指去寻找另一个伟大发现,也会摇摇头像个愤怒的大师。「不」,第三次,这一次Ferrucci豁然开朗,他的食指指向空中。「啊哈!」音乐大师!Ferrucci很高兴。寻找一个统计模式的关闭,使它与经验匹配——这正是计算机能做的。音乐大师的行为表现得像一个实验机器,但音乐大师其实并不知道这一点。「作曲家——他正做的就是是生成和测试!」


沃森并不真正明白女人的痛苦。


沃森并不真正明白女人的痛苦。但即便如此,他实际上做了医生要做的事情——指出精确的临床报告的相关部分,发现疾病,确定它的生物学原因。


在《危险边缘》胜利之后,Ferrucci在超过40场活动中显示这个世界上最著名的机器人。他与Tegmark争论人工智能的影响,在大学做的报告,在计算机历史博物馆接受一个长长的访谈。Ferrucci很不习惯这样的行程,这几乎使他崩溃。但在他旁边,则是一个从来不知疲倦、并已成为某种公众符号的沃森。


这个项目从一开始就被一个困惑所缠绕,并随着沃森的成名而不断增长。这个困扰就是「沃森到底是什么?」它的确具有一定意义上人的属性:它能独立学习;你可以认为它会产生新的想法。Brown曾被问到沃森是否可以通过有名的图灵试验(机器是否能让人类把它误认做人类)。他的回答是它可能在某些严格设限的情况下(比如成为《危险边缘》节目参赛者)成立,但更普遍的模仿是不成立的。专家认为,人工智能的另一种模式,被称为深度学习,将很快带来一个远比沃森更加灵活可塑的机器。在理解人类的表达和导航物理世界上其他机器会更擅长。也许沃森并不能代表AI的最前沿,它仍然是罕见的与人互动的通用智能机器。沃森的倾向已经人格化。「你会看到一个机器像人一样站在那里回答问题,这是一件非常自然的事情,」Ferrucci说,「我需要的仅仅是一些线索。两只眼睛。一个微笑。是的,我就在这里。」


彼时,IBM助长了这种困惑。公司的营销主管曾探讨,是否该给机器配置一个仿人类的脸和身体,以便其出现在电视荧幕上。虽然最终他们放弃了这种想法,但当沃森出现在Jeopardy!上时,它有着细小的声音,机械的手指,以及企业标志做成的脸。更重要的是,它有自己的名字。现在沃森的大部分都处于云端,但困惑仍然存在。上个月,IBM的CEO,Ginni Rometty在Charlie Rose的节目上发言时,一开始用「它」来描述沃森,很快,就换了用词。她说道「他会查看你的医疗记录,他由世界上最好的医生所培养教育。」Rose没有打断她,从某些功能上来说,事实的确如此。不同领域的专家教会沃森项目独特的语言以及他们的专业知识,评估机器回答的问题哪些是正确的。(其中一个项目要求医学学生向沃森解释他们如何理解疾病及治疗方法,这样,机器就能回答医疗执照考试的问题。)沃森为其职业生涯做好了准备。


和沃森一起工作是令人十分愉悦的。如果你是个专家,你花费大半职业生涯建立了工作捷径和自己的直觉,但却难以传授给他人。这时来了一台机器和一些工程师,他们对你所说的直觉非常好奇——他们询问,测试,判断哪些是真实的,并将这些知识转变成真正的数学。像是侦探描述他们如何破解犯罪问题;设备调度员解释他们在发生突发状况时如何行动。Sloan-Kettering的肺肿瘤专家Mark Kris告诉我,沃森最困难的方面在于做出微妙的判断:当患者需要一种非常规的治疗方法,或者当一项新研究如此引人注目,需要改变病人的治疗方式时。他们没法编码他们的直觉。


事物总有两面性,沃森有时也想要了解跟它一起工作的人。(为了人工智能能够真正的工作,Ferrucci认为「机器应该以你自己为模型。」)和一家石油开采公司合作的IBM工程师们已经为沃森开发了一系列问题,沃森可以向每个地质学家提问,以便它理解科学家对风险的承受能力,并据此判断他可能会有的偏见,并衡量他的建议。一家名为Elemental Path的公司正在建设一个问答玩具恐龙,它将采用沃森的技术了解孩子的兴趣和理解能力,并针对性的做出回应。


沃森正在变得奇怪,并新颖——一个刚开始理解的专家。一天,一个名叫Mike Barborak的年轻工程师和他的同事们写了一些他所能想到的最简单的规则,将之从代码翻译成英语的话,简单来说就是事事相关。他们打算将该规则作为基础和指令,开始制作一系列的推导,让每一个结论自动跳到下一个。Barborak从描述一个老妇人因震颤进入医生办公室的病人笔记中摘选出的部分语句创建了一个医疗场景。他开始运行这个程序---事事相关——并让沃森自行发展。


在很多方面,沃森最真实的表达是一张图表,一张概念图,包含了集群和连接线,显示出它做出的跳跃连接。Barborak开始研究它的集群,这是沃森探索出的成百上千的想法,很多都很奇怪或模糊。Barborak说:「人工做这些搜索只是因为没有办法。」当Barborak检查它时,发现推论使它得出一个结论,大脑中叫做中脑黑质的那部分因帕金森病而发生了病变。Barborak认为这非常让人惊讶。沃森并没有真正理解这个女人的痛苦,但即便如此,它仍然精确的做出了医生会做的事----针对临床报告的相关部分,辨认出疾病,并确定生物病因。为了能做出这样的连接性跳跃,你所需要做的就是像机器一样贪婪而完美的阅读。


很难得听到这样的故事并且对人类将拥有怎么样的超凡技术不再怀疑。在Baylor,一个名叫Lawrence Donehower的癌症教授谈到,他在研究中发现一种癌症基因,命名为p53。他预计所有肿瘤研究者都立志将为此研究出新的治疗药物。沃森「阅读」了所有70000篇与p53有关的学术论文,并且发现8个新目标。这些来自俄罗斯新发现被淹没在海量的论文里,以人脑的查阅能力被完全忽略,事实上,这些论文非常重要。Donehower认为他们重新发现真令人兴奋,他说:「我在变老,而你会得到更多希望。」


站在沃森「父母」,也就是IBM工程师的角度来看,似乎沃森已经长大成人。「我有一个十几岁的女儿,」Chu-Carroll笑着说:「感觉很像沃森已经独立长大成人。离开了安乐窝。」


当我打电话给他谈论沃森时,Max Tegmark告诉我:「对于人工智能越发强大并能独立完成一些事情,人类有一些忧虑,就在不久之前,你还依靠人类的专家资源完成一些事情。」对 Tegmark来说,人类的一些专业技能可以避免被人工智能替代,「如果你仔细想想,为什么人类比狮子更文明呢?这是因为我们更聪明。因为我们有更多的专业知识。」


Ferrucci 和 Tegmark简直就是「天造地设」的组合:一个是理论家,另一个是工程师,他们都非常有学问和魅力的人,并都参与了关于人类未来问题的讨论。如果你认为沃森和类似这样的机器会变得造型更酷和更灵活,并进一步进化到做更多人类并不擅长的事务,那么你在AI这个问题上,更多的是从如何以最少的人力推动社会进步。


在这个问题上,Ferrucci是绝对论主义者。从机器的角度来看,人类真的需要机器的版主,人类思考方式很狭隘,对事物的判断要么来自有偏见的个人经验,要么来自于不完善的信息。


来自普林斯顿大学的诺贝尔奖得主Daniel Kahneman,作为一位在认知偏差和人类非理性方面的理论家,他在IBM宣传视频和一个访问IBM的先进实验室研究总部的两次谈话中指出:「毫无疑问,人类的这些认知偏差的存在是令人担忧的。」


与人类相比,机器想要摆脱创造它的文化基因并不那么容易。IBM花了数十年时间向商业公司销售电脑以期帮助公司雇员弥补认知能力的不足。从某种意义上说,机器越具智慧,就越容易暴露人类的缺点。一位名叫Dario Gil的行政主管告诉我,他在沃森参与的一个项目中工作,该项目的应用程序致力于提高如何在风暴来临时有效分配资源的能力。传统的决策过程依赖于一些荒诞故事,Gil默默地伸出一根手指在地图上说道,「比如说,当暴风雨来自北方和狗被吹了起来」之类的。如果近年来Kahneman的观点没有变得如此流行,或者他的住处远离Yorktown Heights,亦或者项目的开发在硅谷进行,沃森也许会获得不同的使命。但沃森来自一个独特的公司,在这里成功源自合作,个体要有所限制,机器为了团队而不是某个超人。


IBM为沃森的商业化制定了两套方案:以服务的形式和以授权技术的方式。潜在的客户会被邀请到Astor Place参观,这里的机器是由硬盘竖直堆起的存储器构成,其内部的运行被投放到屏幕上面,这些屏幕环绕在人的周围就像一个私人的天文馆。


展示以两个年轻职业女性的视频作为开始,她们一个是厨师,另一个是律师。「我们看到有些地方因果关系根本不存在,」一个讲解员说道,他表示人类解决问题的方式和占星术一样不科学。「我们过于自负并犯下重大错误」名叫Frederik Tunvall的年轻人类向导,指着投射到我们后面的屏幕上的厨师的形象说道,「她坚信橄榄油是是做好地中海菜品的唯一用油,或许因为这一偏见她会错过某些机会。」说到这里的时候,Tunvall显得有些难为情。他告诉我最近他把这一报告提交给了一批意大利的金融高管,当他们听到烹饪意大利菜的时候除了橄榄油之外还可以放其他任何东西的时候他们被激怒了。Tunvall的语气暗示这件事情既有趣又可笑。对于意大利食物,一边是谙熟海量潜在食物配方的超级计算机,一边是出生在博洛尼亚附近有些狗屎运的银行家,那么,你赌哪边知道的更多呢?


沃森也像学习其他食物那样学习如何下厨。它会「阅读」整个由Bon Appétit撰写的菜单数据库,并从中搞清楚墨西哥厨师和法国厨师在操作方式上的不同之处。接着,在工程师也是首席大厨James Briscione的「催促」下,沃森开始琢磨新菜品。沃森的特色菜是从哪些传统的名菜或调味品里挑出一部分,然后进行组合。于是就有了诸如 Tanzanian-Jewish matzo-ball汤、Czech pork-belly moussaka等菜品,而另一个名叫Harlem鸡肉的灵感来自于非洲裔美国人和西非国家中使用的食材和做法。当沃森 精通了菜谱,就尝试新餐品,Briscione便开始审视这些菜品中各个食材的关系。其效果令人鼓舞,Briscione说道:「这让我不得不去思考我会如何将番茄与罗勒(一种芳香植物,多用于烹调)放在一起烹制。」


我把一本上月出版的《跟沃森大厨学烹饪》(Cognitive Cooking with Chef 沃森)送给洛杉矶一家颇具创意的餐厅主厨Ari Taymor。Ari Taymor翻完沃森的菜谱后认为,沃森的确表现出某种认知行为特征,但似乎还是和人类不同。Ari Taymor说:「我还是无法想象这些菜品能够登上餐厅的菜单」沃森 在厨艺上的震撼表现让Briscione有着被智力所抛弃的感觉。而对Ari Taymor来说,沃森似乎无法理解食物带来的意义,他说:「(食物)应该是那种能唤起特定地点特定体验」,比如家的感受,这是机器所无法复制的。


现代对于人工智能的恐惧源于人工智能可以相当完美地和人类的不足和缺陷吻合,使得我们察觉不到它如何围困人类。比如,直到无人驾驶汽车横冲直撞,军用无人机瞬间可以独立思考,「机械姬」里恶魔般聪明的机器人开始勾引它的主人,我们才会警惕起来。从那本对Elon Musk影响很大的书--「超级智能」,Nick Bostrom引用了一个很荒谬的例子:「原先用来工厂生产管理的AI最后开始执行大批量生产回形针的任务,把从地球到宇宙任何可观察到的更大的物质块变成回形针。」


但是仔细观察,有关人工智能的恐惧,甚至普遍存在的不确定性的氛围,也会让人与科技之间有隔阂。哪怕世界上最资深的技术人员,他们都和普通人一样是保持警惕。这和你如何看待这个风险毫无关系,因为它取决于还没有完全实现的科技,因此难以判定和下定论。而我觉得这个很大程度上依赖于你对人类本身作何思考:对于人类的限制和非理性的智力战争,你如何站队,你多大程度上同意Ferrucci的观点—我们人类亟需帮助。


2013年底,Playwrights Horizons剧院推出了一部Madeleine George的戏剧--The (Curious Case of the) Watson Intelligence。它是由四个有关于被围困的科学助手的小故事组成。他们都叫沃森: 侦探福尔摩斯的助手,著名科学家贝尔的助理,一个虚构的 IT 员工以及电脑本身。Eric Brown住在Connecticut,赶去看了两次独立的演出。每一次,他都留下来参与剧后的专题讨论。Brown回忆说说,「那个有关助理的概念很有远见。助理扮演的角色以及在某些时候他们是否得到了他们应得的。」因为Brown为Ferrucci做了好几年的助理工作。「只是,」Brown说,「你是否欣然于为比你更出名的人当助理。」


在一个历史意义重大的深冬,一个冰冷的周一晚上,我驱车前往York­town Heights去Ferrucci家赴约。自从他完成博士学业回到IBM,他一直住在这个死巷里。当时正是IBM大量投资研发人工智能的阶段。在他的起居室,他给我展示了从《危险边缘》得来的一个极为珍贵的纪念品—一个有关于沃森比赛的广告海报,上面有他团队所有成员的签名。


Ferrucci两年前离开IBM,后来在韦斯特波特著名的对冲基金Bridgewater Associates谋了一份工作。他说:「我忠实地爱过IBM,IBM曾是我的家。」他提到当他还是高中生时在地下室鼓捣一台古老的Apple电脑,沉迷于人工智能的时候,他第一次发现了IBM的研究。当时IBM在他父亲经营的杂志里投广告,还召集了一大帮科学家搞研发,并保证他们研发的绝对自由。


尽管他曾经一度觉得IBM正在做的沃森是件很有意思的事,策略上也很高明,可这已不是他的菜。「真的是纯商业,这只是不再那么有意义了。」


对冲基金的工作有很多不错的津贴,尽管这份工作也许使他离人工只能研究的突破口远了一点,但是Ferrucci还是经常回想沃森,同时对人工智能领域未来的发展方向浮想联翩。

他讲述了一个柴可夫斯基《第六交响曲》的故事,一个对作曲者本身意义深刻的作品,柴可夫斯基认为此作品描绘了人类的整段历程。在圣彼得堡首演的那一晚,这个曲子彻底失败了。柴可夫斯基一直到深夜都未入睡,对编曲做出了不小的改动,根据曲目介绍册子说明,这晚他的改动主要重新阐释了此首交响曲的意义。


第二天晚上演奏的时候,表演大受好评。Ferrucci谈到那晚柴可夫斯基的表现,称其为「人肉模拟装置」——具备了一种对人类能回应的和不能回应的事物都理解领会的能力。一部计算机永远也做不出那些改动来的,他说,除非它能在一个比数据统计更深的层面上对世界进行模拟。 Ferrucci表示,「这将是我从今以后毕生致力于的事,也就是真正的人工智能。」


晚餐时,Ferrucci的妻子,伊丽莎白,做了一道用 「法国蒸汽浴」(Sous-vide)烹饪的海鲜与牛排。「对我来说,深度哲学上的问题比会发生的经济和社会改变等问题更会让我们恐惧。」 Ferrucci边吃边说道,「当机器能比人类更胜任几乎任何任务时,你的自我认可要往哪儿搁?」


人类的进化过程中,首领在一开始时体格最庞大最强壮的人(因为他能伤害任何人),到后来首领是最聪明的人,对吧?你在解决社交场景的时候有多机灵?那么商务场景呢,或者说解决复杂的科学、工程问题的时候。如果人工智能发展先进到你会轻易地优先给一台计算机布置任务,而不是给一名人类布置任何任务,你会怎么评价你自己?”


Ferrucci说尽管他觉得 Tegmark 对世界毁灭的敏感性很令人着迷,但他本人不认为近期就会发生毁灭性的大事件。他还未在Tegmark的公开信上签字。 未来有些职业将会消失,而政策制定者将会与智能机器带来的「社会后果」进行一番搏斗。但这些对他来说都将只是短暂的过渡。「在我看来, 最后阶段(endgame) 是强大又美妙的,人类将终于能够做他们享受做的事——探索自己的心灵、探索思想的过程,他们对世界的概念。机器在这个过程成为了 思想的伙伴。」


这让我想起我读过的一篇关于英国激进分子的报告。他们在报告中提议,当我们能依赖于机器人的劳动力后,人类一周只工作十个小时。他们的标语是:「为所有人能享受的奢侈」。太多对于人工智能的反应都是相对的——亿万富翁害怕被篡权、失去控制,中产阶级的工程师则幻想着安逸闲暇的生活。Ferrucci对 最后阶段(endgame)的愿景的背后,是他认为,人类也许生来本不适应完成复杂的认知类工作。因为,从基本的生物学角度来说,人类不是为此而生,也许是因为有更好的东西在等着我们。


Ferrucci给我看了他平板电脑上一段他女儿弹奏钢琴的长视频。当视频结束后,他又再次按下「播放」,接着我们又看了一遍那个钢琴独奏的视频。他说道,「我没什么好怕的。」

本文原载《纽约杂志》,机器之心翻译出品,参与成员:光磊、叶雨溪、汪汪、郑劳蕾、柒柒、Viola、补、泥泥刘、Karalli、赵赛坡。

入门沃森通用人工智能局限性观点入门