李泽南 路 张倩参与

「不再作恶」:谷歌决定 2019 年后退出军事项目Project Maven

据国外媒体 Gizmodo 报道,今天,谷歌云首席执行官 Diane Greene 在与员工的一次内部会议上宣布,谷歌决定于 2019 年后退出饱受争议的军事项目 Project Maven。Greene 告诉员工,公司内部的抵制是谷歌决定不再续签合同的主要原因。在长达两个月大量员工的抵制之下,谷歌似乎正准备放弃潜在收入可达每年上亿美元的军事 AI 领域。

今天,谷歌云首席执行官 Diane Greene 在与员工的一次内部会议上宣布,该公司与五角大楼 Project Maven 的合同将于 2019 年到期,并决定不再续约。该项目中谷歌帮助美国政府利用人工智能分析无人机拍摄画面,引发了大量争议。该决定发布的前几天,The Verge 报道称谷歌将发布新的道德准则来指导军事 AI 发展,这份准则定于下周公布。谷歌没有立即发表评论。

这项决定或许可以平息谷歌最近的动荡局面。自从 Gizmodo 在 3 月份的一项调查中披露谷歌与 Project Maven 的关系以来,这种动荡已经持续了数月。调查报告指出,当时听闻谷歌正在利用公司开发的软件协助政府的无人机在海外杀人,该公司的员工非常「愤怒」。

在事件演变的过程中,谷歌一直在试图消解公司与员工之间的内部争议。谷歌云首席执行官 Diane Greene 曾在一次公司集会上表示:「该合同仅价值 900 万美元。」对于谷歌这样的科技巨头来说,这是一个很小的数字。

Diane Greene,谷歌云 CEO。谷歌在参与军事无人机项目上遭遇了公司内外的强大压力。

面对 Project Maven 事件,谷歌高管们曾在内部讨论过公司在公共关系上遭遇困难的可能性,是否公开这一合同是讨论的核心问题之一。「这对于媒体而言就是一枚重磅炸弹,他们可以据此找到大量攻击谷歌的方式,」谷歌云首席科学家李飞飞表示。「你可能听说过伊隆·马斯克有关第三次世界大战起于 AI 的言论。」

「我不知道如果媒体开始将这样的内容——谷歌正在秘密构建 AI 武器——作为主题,会发生什么,」李飞飞说道。「自 2017 年起,谷歌云一直在努力构建『AI 民主化』的新图景,Diane 和我也一直在讨论面向企业的人性化 AI。我会非常小心地维护这些积极的方面。」

然而,据 Gizmodo 报道,谷歌明显是把这份合同当作获取更多利润丰厚的五角大楼合同的重要途径,这份合同涉及向政府提供谷歌的开源软件 TensorFlow 平台。The Intercept 近期获取的泄露邮件显示,尽管谷歌低估了参与 Project Maven 的重要性,但它期望能从类似的 AI 项目中获利。谷歌的业务发展部门预测,与军事无人机相关的人工智能项目带来的收入有望从每年 1500 万美元增加至 2.5 亿美元。

事实上,在 3 月底谷歌签署合约的消息爆出之后,五角大楼在 Project Maven 项目上又追加了 1 亿美元的投入。

谷歌的内部通讯还指出,另外几家美国科技巨头也参与了 Project Maven 的竞标。一位参与该项目谈判的谷歌高管表示:其他科技公司,如亚马逊也正在参与其中。谷歌高管表示,这一项目并不仅仅是军方对于先进技术的小规模实验,而是与其他硅谷科技巨头正在争夺的、价值数十亿美元的云计算项目「密切相关」的项目。

尽管参与 Project Maven 并不意味着谷歌开发的软件会被用于驾驶或以任何积极形式参与美国的作战无人机活动,但毫无疑问,谷歌仍会提供图像分析的工具和专业技术。从表面上看,Project Maven 致力于让攻击型无人机以及其他种类的作战无人机更加平民化。计算机视觉算法(人工智能领域中机器学习的一大分支)在理论上可以为使用者更好地分辨目标,减少附带伤害,然而谷歌对 Project Maven 的参与程度在这里从未明确。「这项技术旨在标记图像以供人类审阅,它可以拯救人的生命,并让使用者无需参与繁琐的识别工作。」谷歌曾在今年 4 月的一份声明中这样告诉《纽约时报》。

但是,谷歌任何使用 AI 来帮助或增强硬件或政府武器的举措,不管其最终目的如何,都遭到了谷歌员工和技术批评家的强烈抵制,技术批评家认为自动硬件是危险的堕落,并涉及复杂的伦理问题。今年 4 月,超过 3000 名谷歌员工签署致谷歌 CEO Sundar Pichai 的公开信,建议谷歌退出 Project Maven,信中写道:「谷歌不应该参与战争。」

「该合同危及到谷歌的声誉,并与我们的核心价值相悖,」抵制信中这样写道,「开发该技术来帮助美国政府进行军事侦察及其可能导致的致命结果,都是不可接受的。」5 月初,Gizmodo 报道十余名员工因谷歌对此事的不作为及继续参与 Project Maven 怒而辞职。

现在,来自谷歌内外的压力最终使得这家公司明确立场。据 Gizmodo 报道,Greene 告诉员工,抵制是谷歌决定不再续签合同的主要原因。凑巧的是,5 月 18 日,谷歌更新了其行为准则,删除了该公司一贯的座右铭「不作恶」(Don't be evil),换成了「做正确的事」(Do the right thing)。

参考内容:https://theintercept.com/2018/05/31/google-leaked-emails-drone-ai-pentagon-lucrative/

                 https://www.theverge.com/2018/6/1/17418406/google-maven-drone-imagery-ai-contract-expire

产业谷歌抵制
相关数据
计算机视觉技术
Computer Vision

计算机视觉(CV)是指机器感知环境的能力。这一技术类别中的经典任务有图像形成、图像处理、图像提取和图像的三维推理。目标识别和面部识别也是很重要的研究领域。

无人机技术
Drones

无人机(Uncrewed vehicle、Unmanned vehicle、Drone)或称无人载具是一种无搭载人员的载具。通常使用遥控、导引或自动驾驶来控制。可在科学研究、军事、休闲娱乐用途上使用。

机器学习技术
Machine Learning

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

TensorFlow技术
TensorFlow

TensorFlow是一个开源软件库,用于各种感知和语言理解任务的机器学习。目前被50个团队用于研究和生产许多Google商业产品,如语音识别、Gmail、Google 相册和搜索,其中许多产品曾使用过其前任软件DistBelief。

推荐文章