当机器智能超越了人类智能时会发生什么？人工智能会拯救人类还是毁灭人类？
牛津大学人类未来研究院院长尼克‧波斯特洛姆在他的《超级智能》一书中表示，超级智能对人类将是巨大的威胁。
2014 年 8 月，特斯拉创始人兼 CEO 伊隆·马斯克深受此书影响，在推特上呼吁人们警惕人工智能的威胁，从此，「人工智能威胁论」便深植他的脑中，成为他鼓吹的一贯观点。
当地时间 2017 年 7 月 15 日，在美国全国州长协会（NGA）大会上，马斯克在台上再次将人工智能描述为「人类文明面临的最大风险」。
几天后的 7 月 23 日，Facebook 创始人兼 CEO 马克·扎克伯格在自家后院一边烤肉一边直播，称人工智能会使我们的生活更加美好，而末日设想论不负责任。两天后，扎克伯格再次在文章中阐述他对人工智能的乐观态度。
马斯克对扎克伯格的言论进行了回应。「人工智能威胁论」在硅谷一直都有争议，而这次明星企业的创始人隔空喊话，将此争论推向了高潮，专家、学者、企业家纷纷对人工智能的影响发表了自己的看法。
本文基于他们的观点，试图梳理人工智能正在发挥的作用以及未来的影响。
AI 达到人的智慧，至少需要 50 年
在马斯克发出警告两天之后，《MIT 科技评论》旧金山总编辑 Tom Simonite 用极具戏谑的口吻调侃马斯克，批评他异想天开，不切实际，「不去解决真正的 AI 问题，却被杀手机器人吓尿了」。
Rodney Brooks 是机器人领域的知名专家、MIT 计算机科学与人工智能实验室的创始主任，也是图灵奖得主，他则解释了为什么很多人，包括斯蒂芬·霍金、马丁·里斯爵士等声称 AI 是人类存在的威胁的原因，这是因为他们不在 AI 领域工作，对他们来说，仅仅通过产品级别的东西就搞清楚 AI 是怎么一回事，是很困难的。
当他们看见 DeepMind 开发的 AlphaGo 接连战胜韩国和中国的冠军，就会产生这样的误解：机器太聪明了，简直是无所不能。他们会根据某个领域的某个 AI 成果，就推断出 AI 会在很多领域超过人类。但今天的 AI，只是在某一个狭窄领域基于大数据优化的表现优秀的模式识别引擎，要做到通用的、无所不能的 AI，根本不知从何开始。
新南威尔士大学人工智能领域教授 Toby Walsh 同样批评马斯克的评论是在危言耸听。在他对 300 位人工智能领域研究人员做的一个调查中，大多数被调查者认为，机器达到人类智慧水平，至少还要花上 50 年，伊隆·马斯克担心的问题并不是一个需要马上引起注意的问题。
艾伦人工智能研究所 CEO、华盛顿大学计算机科学教授 Oren Etzioni 则坦率地表示，我们需要分清科学和科幻，在科幻中，AI 经常被刻画成企图夺取世界的坏人，但在现实中，AI 只是一种工具。公众需要了解的是 AI 带来的积极影响和消极影响分别是什么。而马斯克的人工智能威胁论正在分散人们对 AI 真正影响的关注。
人工智能只是在细分领域解决问题，未来将成为基础设施
在《连线》杂志创始主编、《失控》、《必然》的作者凯文·凯利看来，人工智能的发展方向并不是开发出和人一样思考的 AI，而是在各个细分领域能帮助到人们的智能。当使用 AI 的人越来越多时，AI 就会变得更加聪明，从而推动更多的人使用 AI。在未来，AI 会成为一种基础服务，而这种基础服务会像电力一样通过网络进行传输，人们对待 AI 也会像对待日用品一样顺手。
的确，就目前来说，人工智能技术其实已经充斥于我们的日常生活，我们经常使用它，却从未感知到。
以巨头为例，多年前，谷歌在搜索引擎中加入「知识图谱」技术。「知识图谱」中储存着的海量信息，可以帮助用户更快、更精准地进行搜索，给用户更全面的摘要。谷歌在搜索引擎中加入人工智能算法 RankBrain，能够「猜测」或「联想」用户想要查找的真正内容，从而决定展示哪些搜索结果以及它们如何排序，而不再像以往那样单纯根据输入的关键词输出搜索结果。这不仅让搜索变得更加智能，同时也让搜索结果更具有深度和广度。
在 iOS 10 的照片功能中，相册中的人物可以自动分类，而新增的「回忆」功能，也可以基于照片中的位置、人、场景和主题，归纳在一起，再选择背景音乐，创建视频或者电影。这背后就是利用了深度学习以及计算机视觉技术中的人脸识别和物体识别，自动识别图片内容，从而给相册中的照片分类而做到的。
Google Photos 能做的更多，它不仅能基于时间、地点、人物，智能地创建一条故事线，自动基于人像制作 Gif 动图，将内容相似的照片，自动合成全景照片。还能智能搜索照片，比如你以「去年 6 月的照片」作为关键词，就能将这个月的照片归纳在一起，如果再搜索「荷花」，就能将有关荷花的照片展示给你。
而在 2017 年 5 月的 Google I/O 大会上，Google Photos 增加了一条新功能——通过图像识别照片中拍摄的人脸分别是谁，如果你将这些人和通讯录对应，Google Photos 会向你建议哪些照片应该分享给谁。如果你将分享设置成自动模式，则能自动将照片中的人分享给你想分享的人。谷歌还正在尝试运用 AI 技术，将零碎的街景图片自动加工成高质量的自然景观，并自动添加光影效果和滤镜。
我们日常使用的背后包含人工智能技术的产品并不只是搜索和照片管理，还有机器翻译、语音转文字等应用。实际上，人工智能技术的应用远远不是这些，它正在各行各业中发挥作用。
自动驾驶正在积极推动，低速无人驾驶已有落地案例。在大多数电商分拣中心，使用机器人自动分拣打包已成为趋势。内部配备快递盒，微型无人车快递机器人，也正在推出，用来解决物流最后一公里难题。会折叠、熨烫衣服的机器人已经面世。汽车巨头丰田还发布了行走辅助机器人，用于照顾受伤老兵，协助他们的日常生活。机器人进入事故后的日本福岛核电站，进行清理工作。
在工厂中，机器不仅能进一步代替工人，替代重复性的机械劳动，而在最近，日本 IT 大厂 NEC 推出的「视觉检测技术」可以逐一检测生产线上的产品，比如金属、人工树脂、塑胶等产品，快速侦测出不合格品，提升出厂产品的合格率。
一家日本食品制造公司丘比目前正在使用谷歌的深度学习系统 Tensorflow 快速检测婴儿食品中看似反常的原料，比如不合格的马铃薯，除此之外，还能在不影响食品质量的前提下，提升食品加工速度。
一家专注体育技术、数据及智能领域的公司 STATS 能够通过人工智能技术，快速搜索球队的视频片段并加以分析，帮助俱乐部更有效地对球队进行评估。
一家位于宾夕法尼亚州的公司 QuantaVerse 通过训练大量的银行数据，可以及时发现异常的账户和潜在的可疑交易，将传统的反洗钱系统只能监测 90 天的数据，延长至两到三年。
波士顿一家预测分析平台 DataRobot 最近发布了新功能，能够通过新算法更为精确地对保险进行定价，同时还能按照相关法规为产品经理和精算师生成可以直接提交给保险监管部门的评级表。
一家营销公司 Conversica 推出的智能营销工具，能够在人类销售人员介入之前对潜在客户进行初选。
一家伦敦的金融科技初创公司 Cleo 开发的智能聊天机器人，能帮助用户进行财务管理，类似的应用程序还有 Plum、Chip、Ernest 等，竞争非常激烈。
类似这样的应用不胜枚举。
扎克伯格表示，「我对人工智能持乐观态度的一个原因是：基础研究的进步改善了人工智能在许多领域的表现，从诊断疾病维持健康，到更安全的自动驾驶汽车；从更高质量的新闻推送内容，到更具相关性的搜索结果。每一次我们提高人工智能技术后，相关的应用都会变得更好。对于人工智能所取得的所有进步，以及让世界变得更美好的潜力，我感到兴奋。」
「人工智能是新的电力，一百多年前，电力的使用改变了一切，产生了许多意料之外的后果，例如，电力让冰箱成为可能，冰箱改变了食品供应系统，发电机也改变了产业建立方式。我认为，人工智能也会产业相似变革影响。」Coursera 联合创始人，前谷歌大脑创始人，前百度首席科学家吴恩达在接受机器之心的一次采访中如此表示。
然而，吴恩达也表示，「作为一名人工智能从业人员，我开发和推出了多款人工智能产品，但没有发现人工智能在智力方面超过人的可能性。我认为，工作岗位流失是个大问题，希望我们能致力于解决这一问题，而非考虑那些科幻作品中才可能出现的场景。」
区分科幻与现实，关注就业与教育
每一次技术革命都会大规模地颠覆就业版图，被誉为第四次工业革命的人工智能潮也不例外，随着它在各个行业的深度应用，一大批人的工作岗位将受到挑战。
随着自动驾驶的落地，运输业和物流业的出租车司机、运货司机毫无疑问将会受到影响，接待员、保安同样可能会被计算机取代。然而，销售业和服务业的收银员、柜台人员、电话推销员的工作都面临着被取代的风险，甚至是股票和债券交易员、律师助理、放射科医生、审计师等都面临着威胁。
麦肯锡公司曾经发布一份题为《资本市场的认知技术》报告。报告称，60% 的华尔街工作将会受到自动化技术的影响，其中 30% 的工作可以实现「技术上的完全自动化」。
吴恩达认为，在此前，农业逐渐被机器取代，农民们还可以继续耕作，让他们的后代学习别的技能。而人工智能带来的失业潮，可能会比以往蔓延得更加迅速。工作受到挑战的这些人，可能有生之年就会面临失业。
「每个人都有通过自己的努力来创造更好的生活的权力。对于因智能系统的普及而失业的人来说，让他们能够学习其它更加需要人类的技能，能够帮助他们继续他们个人的发展。」对此，吴恩达认为，对于结构性失业的人，不发放「失业补助」，而是发放「学习补助」，让人们通过学习来赚钱。
在吴恩达看来，如同所有的技术革命，人工智能会代替很多职位，但也会创造很多职位，随着技术的快速更新换代，最重要的是拥有学习能力，如此才能不断适应环境的变化，始终在需要人类的岗位上发挥价值。
「为了保持竞争力，并为低技术工人和高技能工人都提供最好的通向成功的机会，经济需要在人们的工作生活中提供培训和以职业为重点的教育。」《经济学人》曾经撰文指出。
警惕武器，人工智能需要监管
制造 AK-47 的俄罗斯军火商 Kalashnikov 在最近宣布，成功研发以一系列神经网络为基础的全自动武器模块，利用人工智能技术识别目标并自主决策是否进行攻击。
在这之后，俄罗斯战术导弹公司宣布计划打造使用机器学习算法的人工智能导弹。而目前美国也正在研发取代海军「鱼叉」(Harpoon) 反舰导弹系统的「远程反舰导弹」(LRASM)。该导弹据称不需遥控, 并在敌方多种干扰措施下, 即可自主识别、猎杀目标。
最近，科技评论员 Tom Simonite 在《连线》的一篇文章中指出，人工智能将对战争产生影响。无人机、机器黑客、能够生成以假乱真视频的模型都会对国防安全提出新挑战。AI 和相关技术能够让较小的国家与组织能够更轻易地获得威胁超级大国、破坏国际权力平衡的能力。另一方面，自动武器的研发则触发了一个道德敏感点：机器是否能够决定人的生死。
对于大范围在军事领域应用人工智能技术，很多意见领袖持怀疑态度。早在 2015 年，包括霍金和马斯克在内的逾 1,000 名科学家、研究人员、企业家联名签署公开信，警告人类重视将人工智能技术应用到战争中所带来的风险。公开信中提到：「若任何主要军方推进 AI 武器的研发，一场全球军备竞赛在所难免。显而易见，这场竞赛的终点将是，全自动武器成为明天的 Kalashnikovs。」
对于马斯克人工智能威胁论的观点，美军空军四星上将 Paul Selva 在回答关于美国国防部一道指令的相关问题时，就表达了对马斯克的支持。他认为，当自动机器能够杀死敌军士兵时，人类操控者必须介入这一决策过程。
「在战争中，军队在恰当的位置坚守道德准则非常重要，否则我们可能会同胞放出了一群自己控制不了的机器人。」Paul Selva 说，「在我看来 AI 就属于这种非常罕见的情况，我们需要主动、提前去监管，而不是被动地去反应。在我们需要对 AI 的监管进行反应时，已经太晚了。」
尽管新南威尔士大学人工智能教授 Toby Walsh 认为马斯克的言论危言耸听，但他同样认为：「不过伊隆在一件事上说对了：我们需要政府现在就开始对 AI 进行管控。然而，需要开始管控的是今天我们所用的傻瓜人工智能，比如带有偏见的算法、开发「杀手机器人」的军备竞赛、科技公司对于个人、医疗数据隐私的威胁。」
「不管是斯坦福、谷歌还是特斯拉，每个技术专家都有责任去开发那些『善意』的技术，来让我们的社会变得更好。」谷歌云人工智能/机器学习首席科学家李飞飞说。
