Medium 来源四月编译

亚马逊员工自白信:我们不应该向军方出售人脸识别技术

「我是亚马逊的员工,我们不应向军方出售人脸识别技术。」

这是一封字句之间充满震撼、愤怒以及失望的员工自白信。追随谷歌员工、微软员工的脚步,亚马逊内部正在积极联名劝阻公司停止向美国军方和政府出售 AI 技术项目。

当下,致贝佐斯的百名员工联名信现在已经获得超过 450 名员工的签名。但是,亚马逊「坚定」支持政府项目的表态却仍未见松口。在谷歌不抵员工「起义」刚刚放弃五角大楼百亿美元云计算合同之后,亚马逊已经成为该项目的最佳候选人。只是,在亚马逊员工看来,这一切已经与亚马逊所倡导的价值观背道而驰。

「如果我们要成为具备领军力的公司,我们必须在民众利益与公司利润之间做出选择。我们可以向军方和政府出售具备威胁性的监控系统,或者,我们也可以坚持正确的做法。但是,我们永远做不到两者兼顾。」

该匿名身份的真实性由Medium的编辑进行确认。

当一家公司将新技术带进这个世界时,它就有责任和义务权衡这项技术可能带来的后果。我所供职的公司亚马逊正在允许美国各地的执法部门购买其面部识别产品 Rekognition,我和其他员工要求这项业务立即停止。

几周前,我和我的同事们向杰夫·贝佐斯及其他高管发出了一封联名信,包含 450 多名亚马逊员工的签名。这封信还呼吁停止对数据分析公司 Palantir 提供支持,并建立员工监督公司道德决策机制。

Palantir 通过亚马逊的云服务业务与 ICE (Immigration and Customs Enforcement,美国移民和海关执法局)签订了大量合同,为 ICE 大部分的人员驱逐和追踪项目提供技术支持。(Palantir 是一家在 2003 年创立的大数据公司,主要为美国执法部门提供预测性警务工具。)

贝佐斯清楚地知道这些项目的用途以及存在的风险,他正在积极地与行业各界进行对话。面向公众舞台,贝佐斯承认新型科技产品可能被独裁者多度使用,甚至被滥用。但在公司内部,他仍然建议我们静观其变,等待民众接受这种担忧的「免疫反应」,而不是有意识地解释亚马逊将如何采取行动防止我们的技术被滥用。

如果亚马逊继续无所作为,我们认为「伤害」在所难免。

毕竟,这种担忧不只是「将来时」。现在,亚马逊正在研发、营销和销售危险人物监控系统(类似于国内的「黑名单监控系统」)。亚马逊官方宣传称,该系统一次能够存储和搜索数千万张人脸。执法部门已经开始使用该套系统,却几乎没有成形的监管机制对该系统的使用进行限制。

佛罗里达州的奥兰多市正在通过城市监控摄像头的实时视频输入测试 Rekognition 项目。俄勒冈州的治安官部门目前正在使用 Rekognition 项目,现场执法的官员将照片与数据库的人脸图像进行比对。这不再是一个对于未来假设情况的探讨。

如果我们要成为具备领军力的公司,我们必须在民众利益与公司利润之间做出选择。

从过往的案例中可以看到,因为缺乏监督机制,国家将手中的强大监视工具用来瞄准那些可能是无辜的人。在美国,缺乏公共问责制已经导致有色人种、移民和那些正在行使美国宪法权利的人们遭受过度监控和过度干扰。

当政府和执法机构在部署强大先进技术的同时,却忽略了这些亟待解决的社会问题是危险和不负责任的。

当亚马逊 AWS 全球公共部门副总裁 Teresa Carlson 公开表态,亚马逊将会「坚定不移地支持」为美国国防和情报客户执法时,我们感到失望。即使我们还不知道「他们所知道的一切」。

亚马逊还建议将 Rekognition 项目与军用人体摄像头系统进行联结,这将把军方用于问责罪犯的工具变成转向普通民众的移动监控设备。

我们为什么要这样做?

我们都有权在不受政府监控的情况下生活。像我们这样的公司不应该去协助专制和监控,现在没有理由这样做,未来也没有理由。但是看看当下,Rekognition 项目正通过从单帧视频中提取数十个面部人脸特征,并将其存储起来供以后使用或立即将它们与数百万张图片的数据库进行比对。

亚马逊出售这套系统和其所倡导的价值观背道而驰。

我们称自己是一家以客户为中心的公司,贝佐斯表明过对于移民不公平政策的态度:他直接反对针对移民的不道德政府政策,如穆斯林禁令。

我们无法以牺牲社会利益为代价来换取从部分大客户中获利,我们也无法避开内部员工对于这种行为的审视。我们销售的产品隐含缺陷技术,因为它可以被强加上既成的偏见。

研究表明,面部识别更容易误认皮肤较黑的人。最近一项针对 Rekognition 项目的测试清楚地证明了这一点。该测将每一位国会议员的人脸与罪犯照片进行比对,其中有 28 项错误匹配,在错误识别的结果中有色人种不成比例地过高。

退一步说,即使这些不准确性得到解决,允许政府使用人脸识别软件仍然是不负责任、危险和不道德的。产生种族偏见等的更底层偏见实际上存在于更广泛的社会架构和司法体系中,而人脸识别系统的使用只会不断放大和推进这种偏见生成机制。

考虑到美国目前的政治环境,警方加大了对黑人家庭的监控力度,特朗普政府正在继续对移民进行全面管制,这使向政府出售人脸识别项目的做法更加令人反感。

我们不想以任何方式加入到快速推进的监控安防政策中。对于亚马逊来说,尽管我们要求 Rekognition 客户遵守法律,但这并不能完全保证保护公民的自由。所以,不参与是避免对该技术负面影响担责的一种方式。

我们跟随 Google 员工的反对 Maven 项目和正在反对 JEDI 项目的微软员工的脚步。无论我们对军队的看法如何,都不应该从「增加军队的杀伤力」这件事中获利。

无论是在我们国家还是在其他国家,我们都不会对于制造压迫和杀害人的技术保持缄默。在亚马逊所倡导的领导力价值中,「如果我们要成为具备领军力的公司,我们必须在民众利益与公司利润之间做出一个选择。」

我们可以向军方和政府出售具备威胁性的监控安防系统,或者,我们也可以坚持正确的做法。但是,我们永远做不到两者兼顾。

产业安防亚马逊
2
相关数据
来也机构

「来也」是国内领先的人工智能交互平台,由常春藤盟校(Ivy League)归国博士和MBA团队发起,核心技术涵盖自然语言处理(NLP)、多轮对话控制和个性化推荐系统等。公司已获得数十项专利和国家高新技术企业认证。 来也的愿景是通过AI赋能,让每个人拥有助理。C 端产品小来是智能化的在线助理,通过业内创新的AI+Hi模式,提供日程、打车、咖啡、差旅和个性化查询等三十余项技能(覆盖400w用户和数十万服务者),让用户用自然语言发起需求并得到高效的满足。B端品牌吾来输出知识型的交互机器人和智能客户沟通系统,帮助各领域企业客户打造行业助理。目前已经在母婴,商旅,金融和汽车等行业的标杆企业实现商业化落地。

https://www.laiye.com/
人脸识别技术

广义的人脸识别实际包括构建人脸识别系统的一系列相关技术,包括人脸图像采集、人脸定位、人脸识别预处理、身份确认以及身份查找等;而狭义的人脸识别特指通过人脸进行身份确认或者身份查找的技术或系统。 人脸识别是一项热门的计算机技术研究领域,它属于生物特征识别技术,是对生物体(一般特指人)本身的生物特征来区分生物体个体。

云计算技术

云计算(英语:cloud computing),是一种基于互联网的计算方式,通过这种方式,共享的软硬件资源和信息可以按需求提供给计算机各种终端和其他设备。

大数据技术技术

大数据,又称为巨量资料,指的是传统数据处理应用软件不足以处理它们的大或复杂的数据集的术语。

推荐文章
暂无评论
暂无评论~