《纽约书评》:机器人和算法如何「统治」人类?

编者按:如果你读过《浅薄》一定对其作者Nicholas Carr不陌生,如今,Carr的新书《The Glass Cage: Automation and Us》再次引发热议。

Nicholas Carr在它的新书《The Glass Cage: Automation and Us》中对人类未来做出了惨痛的沉思,而就在这本书出版前的一年(该书出版于2014年9月——译者注),2013年9月,两位牛津学者——Carl Benedikt Frey和Michael Osborne——发布了一篇研究报告,该报告预测在未来20年内,美国将有约50%的工作岗位因机器人而消失。他们观察了700种职业,发现最易受自动化影响的职业包括信贷员、前台接待、律师助理、店员、出租车司机和保安。就算是靠写算法为生的计算机程序员也没有幸免。根据Frey和Osborne的计算,在今后的二十几年内,50%的编程工作也会外包给机器人。

image (4)

事实上,这种情况已经开始变成现实。一方面,程序员越来越依赖「自我纠错」式代码,这是一种可以自己发现错误并自动修正的代码,另一方面,他们也正在创造那种可以学会工作的机器。这些机器自身还无法思考,却非常擅长处理海量数据,而且速度奇快。通过这些数据,机器还能执行多重任务,例如医疗诊断、航海、翻译,甚至更多。此外,在一些比较危险的环境(例如,核电站与塌方矿)中,只要有需要,这些可以自我修复的机器人可以在无需人为干预的情况下执行任务。且最近的大部分迭代都已经是机器人自己设计的了。在未来,甚至机器人专家都会发现自己无事可做了

当人类劳动力被机器取代时,我们该说些什么呢?在凯恩斯1930年发表的论文《我们后代的经济前景》中,他将这种情形称之为「技术性失业」。当时,凯恩斯认为技术性失业是一种暂时情况,「一种适应不良导致的短暂过程,也是人类发现节省劳动力方法的速度、超过发现劳动力新用途的速度的结果。」

就在凯恩斯写出这篇论文的同时,美国铁路的机器化运动造成了近五十万工人失业。与此类似的情形还有:转盘电话淘汰了接线员;机器化收割、耕种与联合农业取代了传统农场工人。这一切和当年蒸汽拖拉机取代马和牛几乎一模一样。机器的效率如此惊人,以致于时任美国总统的罗斯福在1935年向国民发表演说称,(以当时的)经济情况可能永远无法重新让那些被机器替代的工人再就业。而当时的《纽约时报》则抱有更乐观的态度,指责总统正变成「乌鸦嘴」(calamity prophets)。

事后看来,凯恩斯的预见非常准确。1932年的失业率达到了24%,在随后的十几年中,这一比例下降了不到5个百分点。这时,一种舆论再次占据上风:20世纪的这次经济重创,自动化是一个很重要的根源。财经评论认为,工作现在是回不来了,但只要经济反弹自然会带来就业,届时那些令人神经紧张的「机器接管人类」的讨论都会烟消云散。

1958年和1961年,当经济衰退,美国国会曾两次提及「自动化问题」,并通过了《人力发展与培训法案》(Manpower Development and Training Act)。1962年,肯尼迪总统在国情咨文中做出解释,他表示该法意味着「要结束对有意愿且有能力工作的劳动力的浪费,但仅指那些因机器替代、工厂搬家或矿山倒闭而闲置的劳动力。」两年后,约翰逊总统成立了技术、自动化与经济进程委员会,组织评估自动化与技术变革的经济效应。但颇具讽刺意味的是,到1966年委员会评估报告公布时,美国经济却开始走向充分就业。机器人取代工人的舆论褪去,委员会也随之解散。

然而这种恐惧却没有消失,而仅仅是潜伏起来了。《时代周刊》在1980年刊登了一篇名为《机械革命》的文章,向公众展示了一个机器人正在用双手扼杀人类劳动力的景象。而这在三年后被一位来自MIT的叫做Harley Shaiken的经济学家所证实:

经济复苏的进程受到了越来越多的关注。一千一百万民众继续处于失业状态。在这种背景下,无处不在的技术变革所引起的焦点问题,不再是在将来的十年中会有多少人被取代,而是会有多少人将继续失去工作。

然而不幸的是,当时失业率达到了10%,而后在80年代末期降低了一半,这又一次使机器人问题退出公众的视野。但紧接着,在2008年金融危机期间,一项来自美联社的调查再一次地将这一问题拉回到了公众的视野。

在大萧条开始之后的五年,丧钟格外响亮:西方国家无数的工作岗位消失,但这次的情况更加严峻,大多数工作将不会回来,这个数字将达到百万,一位研究劳动力市场的专家说到。它们这些正在被技术所消除。数年之后,那些在电脑以及其他机器设备上运行的软件将会变得更加复杂,这些软件性能强大、并且可以更加有效率的完成那些以前只属于人类的任务。数十年间,科幻小说不断提到这样的一个未来——那时我们将慢慢发现自己已经过时,不断被周围的机器所替代。而美联社提到,这样的未来已经来临。


法国科幻杂志Galaxie1959年某期的插图

法国科幻杂志Galaxie1959年某期的插图

这就是将来(或者也可以说现在)要发生的事情:银行、物流、外科手术和药品保存这些岗位都已经被机器所占据。制造业对机械化和自动化倾心已久,随着机械成本的持续下降,这种情况会愈演愈烈。波士顿顾问集团的一项最新研究指出:机器人现在完成着制造业中10%的工作,而在2025年之前,这一比例将上升到25%(想要理解这种转变的经济学意义,我们只需要想一下美国汽车工业的例子,在那里每位点焊工的工资是每小时 $25,而机器点焊工却是$8,而且机器点焊工更加迅速和精确)。波士顿顾问集团预测在自动化领域的增长将主要集中在运输设备、电子计算机、电子产品、电子设备和机械。

与此同时,程序和算法正在撰写着大部分公司的报告、为NSA和CIA分析情报数据、分析乳房X光片、进行分级实验以及寻找抄袭的作品。电脑可以驾驶飞机——Nicholas Carr指出每位驾驶员在每次航班上平均只驾驶3分钟的飞机—它们甚至可以创作音乐以及挑选出哪个流行歌曲是根据之前的即兴演奏创作的。电脑也可以用于药品研发——在英国一个名叫Eve的机器人发现了一种新的化合物来治疗疟疾——这种药品可以用来大规模生产。

Xerox在筛选话务中心的员工时,使用电脑而非员工对申请者进行筛选;零售业巨头亚马逊「雇佣」了一万五千个仓储机器人从仓库或集装箱往外搬运东西;无人驾驶汽车已经在进行道路测试;很多酒店使用机器人进行前台服务和房间清洁。机场在使用机器装置进行泊车服务;MIT的个人机器人研究团队领导者Cynthia Breazeal在众筹网站Indiegogo发起的项目在短短六天内就募集到了100万美金,此后又得到了风险投资资金两千五百万美元投资,「世界上第一款社交机器人」Jibo问世并投入市场。

什么是社交机器人?用《纽约时报》记者John Markoff的话来说,「就是有一点人类特点的机器人。」它能够给你的孩子讲睡前故事、在你不想做饭时替你叫外卖、知道除了百事可乐以外你所偏好的饮品,替你在重要的人生时刻留下照片——这样你就不必为照片操心。在其他领域,由Lethal Autonomous Robots (LARs)在19世纪设计制造的自动枪械,能够不用人动手操作自动扫射。(与此相比,那些遥控飞机即使没有操作面板,也还是需要人进行遥控。)以上这些产业(正在出现),而现在的失业率低于6%。

当然,总失业率这个数据可能具有迷惑性。他们无法算出有多少人在寻找工作的道路上放弃努力,或者多少人处在半失业状态,又或者谁在失去高收入职位后被迫屈就。而且它们无法反映出哪里有工作需求,或者这些地方有哪些职位,或者哪个年龄阶段的人群在努力求职,哪个年龄段的人群没有努力。另外,这些数据模型看上去如此熟悉,这种焦虑随处可见,机器的确对劳动力形成了压迫。财政部部长Lawrence Summers去年七月在华尔街日报发表过类似观点的文章:

未来的经济挑战将不只是产能是否充足的问题,而是会涉及到能否提供足够多的优质工作。今天,有很多领域失去的就业机会比他们创造的更多。软件技术的普遍应用意味着工业生产和工作机会的创造不会一直存在。进一步而言,既有Jibo和组装汽车设备等的物理机器人,也有许多虚拟机器人,它们其实是在计算机底层每天执行无数任务的算法,从自动驾驶汽车(软件),到谷歌搜索,再到网上银行。这些都是自动化的化身,它们正在改变工作性质,不仅可以胜任某些重复性的物理工作,还包括一些那些迄今为止只有人类才能完成的智力工作。

它们共同定义了「第二次机器革命」的特征,使这个时刻脱颖而出的是科技自身变化的速度以及其改变社会的速度。如果「悲观论者」(美国俚语,指对未来失去信心的人)最终是正确的,那么这次机器将赢得胜利。这不仅体现了电脑如何渗透进我们生活的各个方面,还说明了它们如何悄无声息的加速进化。这不仅是生命必须要加速前进的问题,而是它们已经开始了这个成长过程。这种存在和渗透的过程,体现了生命本身的意义。

就像计算机硬件发展所遵循的摩尔定律——计算能力每18个月翻一番,计算机容量和功能亦是如此。以法律调查过程为例。Carr是这么写的:

计算机能在几秒内解析数千页的数字文件。借助基于语言分析算法的电子调查软件,计算机不仅能识别相关的词汇和短语,还能理解事件链、人际关系,甚至是情感和动机。一台电脑就能取代十几个高薪专家。


「奇异之人」,Giovanni Battista Bracelli的蚀刻版画,1624年。

「奇异之人」,Giovanni Battista Bracelli的蚀刻版画,1624年。

再看看自动驾驶汽车。它能察觉到周围所有车辆,能对交通管制和突发情况做出反应,适时刹车,知道何时该给轮胎充气、打转向灯,永远也不会收到超速罚单。Volvo预测到2020年,该品牌旗下的车将免受堵车之苦。不过即便是现在,有些车能够自动泊车,现有的技术也相当不赖。

自动泊车和自动驾驶的目标,和将工厂、药物探索或者手术自动化的目标无异,不过是将过程合理化,更为高效、高产和划算。这也就意味着,对某些人而言,自动化会让很多工作变得方便。尽管很多人被认为享受到自动化带来的福利,比如手术台上的病人、在亚马逊购物的人或者是谷歌搜索用户,但实际上,自动化带来的好处最大程度地直接流向了自动化系统的所有者(比如说是亚马逊的大老板Jeff Bezos,而非亚马逊金牌会员)。

用机器劳动力取代人力不是自动化的附带损害,事实上,这正是自动化的应有之义。无论何时劳动力让位给自动化,必定会伴随着或长或短的技术性失业。MIT经济学家 、自动化的拥趸Eric Brynjolfsson 和 Andrew McAfee(这两位仁兄写过一本论述人与机器关系的书《与机器赛跑》)明确地陈述了这一观点:

即便是最有益的进步也会带来令人不快的需要妥善处理的后果……技术进步在其飞奔向前的过程中注定会把一些人,也可能是许多人抛在身后。

Brynjolfsson 和 McAfee也表达了类似观点:尽管技术进步迫使许多人的行动受到严密监督控制,他们的生产力会被精确测量,但这一进步也会使得一些人,可能仅仅是一些人(比如说上文提到的亚马逊的老板贝索斯)受益。而这显然就是正在发生的情况。最富裕的15名美国人中,6个人拥有数字技术公司,这些公司中最有历史的微软也不过诞生于1975年。另外6个人则是某个家族的成员,拥有庞大零售帝国沃尔玛的 Waltons家族,其臭名昭著的低薪意味着人比仓储机器人更为廉价和易耗。即便如此,沃尔玛也得益于自动化的销售管理系统point-of-sale system,这使业主们能准确知道何时何地销售什么,这样一来就能避免滞销品库存,从而在库存方面比竞争对手占用更少的钱。

正如Paul Krugman 多年前在《纽约时报》中写的那样:

智能机器会使更高的GDP成为可能,但它们也会减少对人的需求,聪明人也不能幸免。因此我们会看到一个空前富裕的社会,但是所有的财富收益将被那些拥有机器人的人悉数收入囊中。

在美国,尽管企业利润不断飙升,但工人的基本薪资仍停留在40年前。截止到2014年,18岁至54岁之间的美国人中,有16%的男性和30%的女性处于失业状态,其中有超过1/3的人属于技术性失业。正如2014年初《经济学人》的报道:

最近研究表明,自动化取代人类劳动力已渐成趋势,这导致了自1980年以来,资本持有者占据世界绝大多数的收益,但劳动力获取的利润在下降。

以Google联合创始人拉里·佩奇为代表的一些人(这是一群正在进行的数据化及自动化来获取利润的人)认为,工作机会的淘汰伴随着效率的提升,这把有闲阶级从繁重的工作中解放出来。暂且抛开这群幸运儿如何生存的问题,相信大多数人除了在家穿着睡衣看一整天电视之外,没什么更好的生活方式了,这也是现在许多失业者所做的事情。

但佩奇们显然严重误解了工作的价值。工作是一种赋予身份的方式,都柏林城市大学Michael Doherty教授调查了爱尔兰工人,包括那些仓储员和公交司机甚至工作本身就缺乏保障的人,试图找出工作是否仍是「个人身份的重要定位」,他总结道「简单来说:『工作很重要』。

尽管所谓的「工作」没有量化标准,但华盛顿经济和政策研究中心联合执行官Dean Baker给出的一个数字令人触目惊心。他在《纽约时报》的一篇文章中指出:

假如年纪比较大的工人从未失业,面对随之而来的失业浪潮, 他们的死亡率会上升到50%甚至100%。

究其原因,《The Psychology of Optimal Experience 》一书的作者Mihaly Csikszentmihalyi研究发现,「相较于闲暇时,人们在工作中更容易快乐,更容易从他们所做的事情中获得满足。」

即使自动化无法完全取代人工,它也改变了工作方式。Carr列举了一系列具有说服力的事例说明自动化使人类变得愚蠢,技术化消除了人们对专注、创造、复杂思维及快速反应的能力。现在的飞行员启动自动化驾驶飞行,花大多数时间盯着操控室的电脑屏幕,只花不到3分钟手动操纵飞机。结果就是,他们过度依赖自动化,即使遭遇恶劣的飞行环境,他们也倾向于信任大数据,这样是危险的。Carr引用了一段Matthew Ebbatson的人为因素研究:

飞行员的控制能力与飞行员的人工操作时间有直接关联——「人工飞行技能的快速消退源于没有相对频繁的练习『可容性』操作」。

与此同时,2013年美国联邦航空管理局(FAA)针对驾驶舱自动化发布了一份报告,表明超过一半的坠机与过度信赖自动化驾驶有关。

如果把航空业的例子和使用Google 搜索引擎相比,就显得没有那么有说服力了,毕竟总的说来大部分的自动化应用让飞行更加安全,也让其变成了大众化的出行方式。按照Carr的说法,完全依靠网络获取事实和数据让我们变得盲目且懒惰。一篇来自《科学》杂志的研究指出,正因为互联网上大量容易得到的信息让人们不愿意去记忆那些他们已经查出来的东西。Carr同时也摘录了对Google引擎设计工程师Amit Singhal采访时的一段话。Amit Singhal表示,借助智能搜索,如果搜索引擎预测越精确,人们问的问题就会越简单愚蠢。

这一切因智能化带来的懒惰和懈怠最终都会导致一个结果,就是Carr 定义的「去技能化」,因为专业能力和熟练技能的丧失,我们被迫将主动权交给机器:医生不得不依靠机器去理解X-ray和做出诊断;建筑设计师越来越多地依靠电脑辅助设计软件(CAD)来完成项目;企业市场部门的人依靠算法来决定广告的投放;交易员不再(自主)交易,因为他们依靠别人的经验来规避经验中可能存在的问题,或者他们从来不自己去尝试。就像Carr 预言的那样:

越多的技能被机器化所代替(假设越多的工作被机器化控制),那么人们将拥有越少的机会去培养自身能力(比如理解和判断的能力)。让自动化水平达到了足够高的水平是,当他们可以指挥工作时,这些工人只能无处可去而被淘汰。

但是自动化同时也带来了很多显而易见的好处,比如提高了药物生产的速度,加强了高速公路的安全,提高了医药诊断的精确度,降低了材料成本,提高了能源利用率。面对这些自动化的优势,已经很少有人能像Nicholas Carr这样向大家发出警示的声音,提醒大家思考自动化到底对我们人类社会带来了什么,是什么造就了我们,我们又是谁。

在这本《The Glass Cage: Automation and Us》出版后不久,特斯拉创始人Elon Musk带领的超过100名的硅谷杰出人物,包括理论力学科学家史蒂芬霍金,都对那些把自动化尊为圣杯、把人工智能高高供奉的人们发出了良知的呼唤。用Musk的话来说,他们是在召唤恶魔,而按照霍金的预测,人工智能最终会超过人类自身的发展速度并取代人类。在这里我摘抄一段他们信的内容(回复「公开信」可获取机器之心翻译的公开信全文),之所以引用这些话,是因为如果我们对于那些自以为是用程序操纵我们未来的行为不加以监督,这些机器造出来的便不是神,而是「有生命的假人」(Golem,希伯莱传说中用粘土、石头或青铜制成的无生命的巨人,注入魔力后可行动,但无思考能力。)

人工智能在很多方面都取得了显著成就,比如语音识别,图像分类、无人驾驶、即时翻译、机械代步,还有智能回答。正因为在这些方面的成就和各种可能的潜力,无论是实验室的研究还是具有经济价值的各种科技,人们都愿意投入更大的资金在研发上,哪怕只是为了一点小小的进步。

这种潜在收益将非常大,因为文明提供给我们的每样东西都是人类智慧的产物。我们无法预测在人工智能的帮助下人类还将取得怎样的成就,但我们可以知道根除疾病和贫困是可以做到的。因为人工智能巨大的潜能,所以去了解它、研究它非常重要,我们要让人工智能在帮助人类发展的同时避免潜在危险。

人类对人工智能的研究不仅要尽快扩大其应用范围,还要考虑如何实现其对社会发展的正面作用。现在,人工智能扩张的一个重要因素取决于「技术是中立」这一原则。我们建议扩大旨在确保人工智能健康发展同时又造福社会的研究:我们的人工智能系统,必须按照我们的意愿工作。

在这里所谓的「我们」到底是指谁呢?我并不同意如Nicholas Carr所言,这里的「我们」是公众,我更倾向于另一个答案,伴随Musk、霍金公开信发布的还有一篇人工智能研究论文,该论文认为:技术工作者需要对人工智能的发展负责。的确,没有人会比设计这套系统的人更熟悉也更适合去建造一套安全控制体系了。然而所谓安全的标准是什么?研究的目标是什么?这是另一层面的问题了。就目前来看,人工智能的研究在释放经济价值最大化的同时也在努力消除不公平和失业率。

但整个研究的优先级是显而易见的:经济效益第一,公众第二。或者考虑一下这篇人工智能研究论文里一句意味深长的话「比如像一些组织所认为的那样,自主武器应该被禁止,那么是否能对自动化的概念有一个精确定义……?」该论文作者们承认:「将人工智能的价值与人类福祉统一起来是十分复杂的。」尽管这个问题可以通过建立一个可实时学习的系统来解决,但还需要指出一点,论文里并没有阐述这些所谓的「价值」到底是什么,又是谁的「价值」。

我们生活在一个技术至上的时代。我们依赖那些为我们服务的数字设备,并为那些互联网的亿万富翁们欢呼鼓掌——是他们带领我们走向新的道路。当然,我们还拥有一位设立新部门国家机器人计划(National Robotics Initiative)的总统奥巴马,这个机构旨在研发下一代机器人技术。即使如此,你也不能真正相信政府有能力这么做,更不要说他们在控制机器人的部署和发展、自动生成算法以及人工智能方面能达成一致立场。政府各部门之间对于技术发展的态度并不一致,甚至彼此冲突。私营企业天然是自利并抗拒管制的,而我们这样的普通人,现在只能依靠自己,但如果人工智能开发者们未来做的够好的话,那么很快我们也将不会孤单。

本文系《纽约书评》撰写的书评,由机器之心独家翻译。参与成员:关雪菁、小勺、XW奇、salmoner、艾萧Rita、电子羊。

入门机器人算法书评入门
PSI内容合伙人
PSI内容合伙人

机器之心编辑