谷歌员工千人上书CEO皮查伊:抵制五角大楼AI项目Project Maven

作为拥有先进技术的科技巨头,谷歌这样的公司不免会与军事计划产生联系。在有侵犯隐私、违背伦理的风险下,是否应该接下巨额合同?最近,听闻公司正在参与美国国防部「Project Maven」AI 军事计划,很多谷歌员工发起了抵制,他们上书 CEO Sundar Pichai 的公开信现在已经获得了数千人的联名签署。

五角大楼项目「Project Maven」主要应用深度学习计算机视觉技术,旨在帮助国防部门从图像和视频中提取值得注意的对象。该项目是在 2017 年 4 月由时任副国防部长 Bob Work 在一份备忘录中首次披露的。目前,美国已经成立了一个算法战争混合任务团队(Algorithmic Warfare Cross-Functional Team),由国防情报局副部长监督。

数千名谷歌员工签署了一封致 CEO Sundar Pichai 的信函,抗议谷歌参与一个旨在提高无人机打击能力的项目。(图源:Michael Short/Bloomberg)

近日,数千名谷歌员工(包括数十名高级工程师)签署了一份联名信函,抗议该公司参与五角大楼的一个项目,该项目利用人工智能解读视频图像,旨在提高无人机打击的精准度。

该信函在谷歌内部迅速流传开来,已有超过 3100 人签名,反映了硅谷与联邦政府之间的文化冲突。随着人工智能前沿技术越来越多地用于军事领域,这种冲突可能会愈演愈烈。

信是写给谷歌 CEO Sundar Pichai 的。信中写道:「我们认为谷歌不应卷入战争。」信中要求谷歌撤出五角大楼的试点项目 Project Maven,并宣布永远不会「发展战争技术」。

当然,这种理想主义的想法并不是所有谷歌员工都认同的,但对于一家以「不作恶」(信中也有引用)为座右铭的公司来说,提出这种想法是很正常的。但这显然与华盛顿庞大的国防工业不同,当然也与五角大楼不同。现任美国国防部长 Jim Mattis 经常说,五角大楼的中心目标是提高美国军队的「杀伤力」。

从早期开始,谷歌就鼓励员工就涉及公司的问题发表意见。该公司提供了内部留言板和社交网络,员工可以在这些平台上就公司的产品和政策向管理层或同事提出意见。最近,围绕谷歌努力打造一支更加多元化的员工队伍的激烈辩论日益公开化。

谷歌员工已就一系列问题发出了抗议请愿书,包括该公司落后于 Facebook 的社交网站 Google Plus 以及谷歌对保守政治行动会议(CPAC)的赞助。

在最近的一次公司会议上,员工就谷歌参与 Project Maven 提出质疑。当时,谷歌云基础设施业务主管 Diane Greene 为这一项目辩护,并试图安抚相关员工。公司发言人表示,抗议信上的大多数签名是在公司对此情况进行解释之前收集的。

该公司随后将 Project Maven 的工作描述为「非攻击性的」,尽管五角大楼的视频分析通常用于反暴动和反恐行动,国防部也曾发文表示该项目用于支持这些行动。谷歌和五角大楼都表示,谷歌的产品不会创造出无需人类操作者就能开火的自主武器系统,自主武器系统在人工智能应用中也有很大争议。

对无人机视频做进一步分析,可以挑选出人类目标并实施袭击,换个角度来说,这也有助于更好地分辨出平民,以减少无辜者被意外杀害的风险。

谷歌周二发布的一项声明并未直接提及这份致 CEO Sundar Pichai 的信函,声明中提到:「任何机器学习的军事化应用都会导致人们的合理担忧,这是自然的。我们正在公司内部积极鼓励对该重要议题进行充分讨论。」谷歌称这种交流「非常重要,也非常有益」,而熟知信件内容的多名谷歌员工仅在匿名条件下发声,并表示这是因为担心被报复。

该声明称谷歌在 Project Maven 中所参与的部分「仅限于非攻击性的目的」,虽然官方拒绝提供相关的合同内容。美国国防部称由于谷歌是主承包商 ECS Federal 在 Project Maven 的分包商,它不能提供谷歌合同或合同内容。ECS Federal 尚未回应该询问。

谷歌称五角大楼在使用基于未分类数据且「对任何谷歌云客户开放的开源目标识别软件」。谷歌表示,「这项技术用于标记图像,以帮助人工审查,其目的是把人们从高度单调的工作中解放出来。」

谷歌部分高管和五角大楼有密切联系。该公司前执行董事长 Eric Schmidt(目前仍是谷歌母公司 Alphabet 的执行董事会成员)为五角大楼顾问团 Defence Innovation Board 的成员,该顾问团还包括谷歌副总裁 Milo Medin。

在 11 月份的一个采访中,Mr. Schmidt 承认「技术社区普遍担心军工行业会使用他们的成果去错误地伤害人类」。他说他将在董事会中「至少起到交流作用」,并且建议军方「使用这些技术来帮助保护国家安全」。

谷歌这一小部分对军事合同感到不安的员工(超过 70000 名)也许并不能对公司的发展造成大的阻碍。但在人工智能研究领域中,谷歌正忙于和其它技术公司激烈「抢人」,因此如果某些候选者被谷歌的辩解所推迟,这将会造成人事聘用上的麻烦。

谷歌在内部异议中为国防合同辩护,但与此同时它的竞争对手并不羞于宣传自己的国防项目。亚马逊向国防部大力宣传其图像识别研究成果,而微软则表示他们的云技术已经与美国政府签订合同,为军事和国防机构处理机密信息。

当前的争论由 Gizmodo 首次报道,主要集中在 Project Maven。该试点项目于去年开始,旨在找到加速军方应用最新 AI 技术的方式。五角大楼发言人表示,预计该项目第一年花费不到 7000 万美元。但谷歌公开信的签名者明确希望阻止谷歌参与更大规模的五角大楼合同(人工智能国防应用不断发展)。

外界普遍认为,目前谷歌正与其他科技巨头(如亚马逊和微软)竞争一份为期多年、价值数十亿美元的国防部云服务合同。国防部首席管理官 John Gibson 在三月份的一次讲话中提到:「联合企业国防基础设施云(Joint Enterprise Defense Infrastructure Cloud)」采购计划的部分目的是「提升杀伤力和做好准备」,这凸显了将软件、云服务等相关服务与实际商业战争之间分开的难度。

谷歌员工写给 Pichai 的公开信已经在谷歌内部通信系统中传播了数周,信中认为,参与军事项目可能会疏远用户,甚至影响未来的人才引进。

「这一计划将不可挽回地损害谷歌的品牌和人才吸引力,」信中提到,「由于人们越来越担心人工智能的偏见与武器化,谷歌争取用户信任的道路已经越来越难走了。」在未来,谷歌或许会被视为加入雷神、通用动力以及 Palantir 这样的国防承包商行列。

「其他大型科技公司如微软和亚马逊也参与了这一项目,但这并不会让谷歌承担的风险变小。」信中说,「谷歌拥有独特的历史,它的座右铭是『不作恶』(Don't Be Evil),谷歌直接触及数十亿用户的生活,这让它与众不同。」

和其它新贵最终成为了强大的硅谷巨人一样,谷歌也正被迫面对早年引导公司的理念。Facebook 开始时的使命是连接世界上所有的人,但是最近因为虚假消息渠道和被俄罗斯用来影响 2016 年的选举而受到抨击,此外,它同样还被指控在美国选民中传播异议。

考虑到谷歌的历史和五角大楼目前在军事方面对 AI 的强烈需求,前五角大楼的官员和「Army of None」的作者 Paul Scharre 表示,这在谷歌内部是不可避免的。

华盛顿新国家安全中心的高级成员 Scharre 说:「技术开发者之间存在着强烈的自由主义精神,并且对政府使用技术会感到担忧。目前,人工智能突然且快速地从实验室走出来,迈进了现实生活,这尤其加剧他们的担忧。」

公开信原文:

亲爱的 Sundar:

我们认为谷歌不应卷入战争。因此,我们请求公司撤销 Project Maven,同时起草、公布并执行一项明确的决策:谷歌及其合约商永不发展战争科技。

谷歌目前正在实施 Project Maven,这是一个定制的 AI 监控引擎,它使用美国政府获取的「广域运动图像(Wide Area Motion Imagery)」来检测汽车和其他物体并追踪其运动,检测和追踪结果提交给国防部。

最近,谷歌员工在公司内部表示了对 Maven 的担忧。Diane Greene 在回应中保证该技术不会「在无人机上运行」,也「不会被用于武器开发」。虽然这排除了极小部分的直接应用,但该技术是为军事用途而开发,一旦交付,就会轻易被用于这些任务的辅助工作。

这一计划将对谷歌的品牌及人才吸引力造成不可挽回的伤害。随着对 AI 偏见化和武器化的恐惧日益加剧,谷歌谷歌争取用户信任的道路已经越来越难走了。而签署这份协议,谷歌将加入 Palantir、雷神、通用动力等公司的行列。其他大型科技公司如微软和亚马逊也参与了这一项目,但这并不会让谷歌承担的风险变小。谷歌拥有独特的历史,它的座右铭是『不作恶』,谷歌直接触及数十亿用户的生活,这让它与众不同。

我们不能把技术的道德责任外包给第三方。谷歌宣扬的价值观清晰地表明:每一个用户都在给予我们信任,永远不要辜负这一点。这个合同使谷歌的名誉受到威胁,而且与我们的核心价值观相悖。发展一项技术协助美国政府进行军事监控,而且该技术可能造成致命结果,这是不可接受的。

考虑到谷歌的道德伦理责任,以及这对谷歌名誉的潜在危害,我们请求你:

1. 立即取消这一项目。

2. 起草、公布并执行一项明确的策略,声明谷歌及其合约商永远不会染指军事技术。

参考原文:https://www.nytimes.com/2018/04/04/technology/google-letter-ceo-pentagon-project.html

感兴趣的读者可以查看hacker news上对此事的热烈讨论:https://news.ycombinator.com/item?id=16755530

产业
暂无评论
暂无评论~
返回顶部