迄今最激进的人脸识别禁令来了!企业在公共场所也不得使用

与以往城市仅止步于限制政府部门的人脸识别应用不同,波特兰市在公共和私人场合的双重禁止人脸识别的应用,可能为其他城市开辟类似的数字隐私政策提供了一个路线图,这也是隐私倡导者所希望的结果。

撰文 | 微胖

飞机飞过天空,天空之火,不过,那是硅谷的山火。在山火引发世人关注的同时,位于美国西北部俄勒冈州波特兰市的糟糕局势也在引发各方密切关注,甚至惊动联合国。

自5月底黑人男子弗洛伊德被暴力执法致死,引爆新一轮全美反种族主义示威以来,近期,俄勒冈州波特兰市一名白人男子在示威活动中被枪杀。三个月来,持续升温的民愤、种族主义和警察暴力犹如一道道旋涡, 搅得时局天翻地覆,但更让人惊讶的是,就在这样的混乱中,本周三,波特兰市议会却通过了一项立法,该立法被广泛认为是迄今为止最激进的人脸识别技术市政禁令。


两项法令不仅禁止波特兰所有市政部门使用人脸识别技术,还禁止私人公司在公共场所使用这项技术。

人脸识别系统在美国基本上不受监管,特别是私人企业的使用。奥克兰、旧金山和波士顿也只是禁止政府部门使用人脸识别技术,而波特兰禁止企业在公共场所使用该技术的禁令可谓开创先河。

 一 为什么禁止所有市政部门使用?

全面禁止市政部门使用该技术,背后逻辑既与当前糟糕局势有关,更与「市情」密切相关。

市议会委员Jo Ann Hardesty将对高科技执法工具的担忧,与波特兰持续了三个多月的抗议活动联系起来。就在上个月,警方承认曾使用一架小型飞机监视波特兰市中心穆尔特诺玛县司法中心附近的示威人群。

对于波特兰市来说,禁止当地执法部门使用面部识别技术的决定「尤其重要」,「任何人都不应该因为技术算法误判了无辜的人而被不公平地推入刑事司法系统。」

不过,更重要的因素应该是该市的人口组成情况,种族和民族的多样化也使得政策制定者更加难以处理国家面对的挑战。事实上,这也是仅有几个禁止政府使用人脸识别的城市包括诸如奥克兰、旧金山这些城市的原因。

比如,《美国新闻》曾在2018年计算了 30 万及以上人口的美国城市在其法定范围内的种族多样性,位居前十最具种族多样性的城市大部分集中在了加州,比如奥克兰。虽然未进前十,但旧金山也以种族多样化著称。

而波士顿的种族主义问题甚至传递到了体育运动中。麻省理工学院城市研究与规划系教授Ceasar McDowell曾表示,种族主义行为已经是「內嵌成这个城市的DNA。」

维基百科显示,波特兰市内77.91%人口是白人,6.64%是非裔美国人,1.06%是美洲土著人,6.33%的人是亚裔美国人,0.38%的人来自太平洋岛屿,3.55%的人是其他人种,4.15%的人是混血儿。6.81%的人是西班牙和拉丁美洲后裔。

近些年,波特兰的种族多样化不断加强,更多年轻人进入城市,而白人家庭则移居郊区。新移民中60%不是白人。

波特兰市认识到,「这些技术对黑人,妇女和老年人的偏见已经得到了证明。尤其是在执法中,这类技术的使用可能会由于错误的人脸识别而造成不可挽回的损害。」

在主要科学根据方面,波特兰市提到2019下半年,国际权威人脸识别供应商测试Face Recognition Vendor Test (FRVT)发布的一些研究结果,特别是第三部分谈到了这些技术在人口统计学上的影响,结果发现:

与白脸相比,这些算法中的许多算法错误识别黑脸或东亚脸的照片的可能性要高10到100倍。在搜索数据库中查找给定的面孔时,大多数人在黑人女性中选择的不正确图像的比例大大高于其他人口统计学中的比例。

值得注意的是,FRVT 由美国国家标准技术研究院(NIST)管理,主要目的在于测试人脸识别算法水平,由于是相对独立的第三方测试,受商业因素影响较小,因此,结果相对比较公平和公正。

除了权威测评,波特兰市立法机构也注意到,研究人员甚至美国联邦政府也都看到了这些系统存在的偏见证据。

比如,广为流传的2018年麻省理工学院媒体实验室和斯坦福大学的一篇论文,针对来自三家主要商业公司发布的面部分析程序分析发现,人脸识别系统显示出皮肤类型和性别偏见。

在研究人员的实验中,三家公司的人脸识别系统在确定浅肤色男人的性别方面的错误率从未低于0.8%。但对于肤色较黑的女性,错误率急剧上升,其中一种错误率超过20%,另一种错误率超过34%。

事实上,微软公司已经宣布将会暂停对警察机构提供人脸识别技术服务。而备受争议的亚马逊也曾发布声明,将会暂时禁止警方使用该公司的人脸识别技术,这份禁令将会实施一年。不过,该公司不会完全放弃人脸识别,将继续允许其人脸识别技术应用于失踪儿童寻找等方面。

 二 为什么禁止企业在公共场合使用?

至于为何禁止企业在公共场合使用该技术禁令,波特兰市认识到,除了已经被证明的偏见,这里还涉及敏感信息。

「任何人都不应该将像自己的脸这样私密的东西拍照、储存,然后卖给第三方获利。」Hardesty认为。

现在公司们并没有一个可以用于评估、确定技术解决方案信任度的清晰流程,这就为潜在歧视和伤害埋下了可能,因为人脸识别不仅会搜集敏感信息,还会导致那些蒙受技术偏见的人受到不利后果。

所以,作为避免伤害的预防措施,波特兰市禁止在波特兰市管辖范围内的私人使用面部识别技术,而这些技术对所有波特兰人来说都是常用的。

事实上,上文提及的FRVT测试是完全自愿的,提交其算法的组织往往是试图向政府出售服务的企业供应商,或者是学者测试新的、实验性的模型。除此之外,除了少数小公司,几乎没有一家大型的商业科技公司愿意提交。

不过,这并不影响研究人员的发现,他们仍然找到了这些商用人脸识别系统中的偏见问题,而且权威媒体记者也曾曝光过企业在公共场合应用中存在的偏见问题。

路透记者曾历时大半年采访四十多人发现,过去八年时间,美国连锁药店Rite Aid悄然在全美200家商店中部署了人脸识别系统,这也是迄今为止美国零售行业规模最大的人脸识别部署项目之一。

部署目的主要用于防止偷盗导致的损失。一些店面的安全专员向记者展示了系统的运作原理:

摄像头会为进入店铺的顾客建立一个独特的面部轮廓,然后与数据库中有嫌疑、甚至有前科的人脸进行「特征匹配」。发现可疑分子时,系统会对安全专员手机发出警报,专员在判断比对准确性后,决定是否要求该客户离开。

不过,在任何被认为是「经常不诚实顾客」的人的资料上做标记并添加到监控名单,必须得到经理的批准,会基于「多层有意义的人工评论。」

通常,新面孔会被添加到现有个人资料库中,如果没有发现任何可疑情况,十天后,该资料会被删除。

然而,调查发现,在诸如纽约和洛杉矶这样的大都会,位于收入较低或白人较少社区的店面更有可能部署人脸识别,其可能性是富裕社区的三倍多。

比如,位于贫困社区的25家商店中,有17家部署了人脸识别。而在较富裕地区,这一比例为40%。(还有10家商店位于财富状况不清楚的地区,有六家门店部署了人脸识别)。

路透社将上述调查结果发送给零售商Rite Aid之后,该公司现在表示,已停止使用该人面部识别软件,新领导团队正在评估该做法,称「这是被终止的众多项目之一」。后来,公司又表示所有摄像头都已关闭。

实践中,与微软、亚马逊等公司放弃程度不同,IBM公司直接宣称其将放弃人脸识别业务,关停研发并表示不会再提供人脸识别技术。该公司还呼吁美国国会做出新的努力来确保公平正义与种族平等,理由是「反对将技术用于种族歧视和大规模监视」。

 三 禁令阵列

应该说,美国公民自由联盟(ACLU)在呼吁全美警惕人脸识别应用过程中,处在非常重要的地位。ACLU的积极活动也是上述美国连锁药店最终低调处理人脸识别技术的重要因素之一。

比如,ACLU 曾在博客 Are Stores You Shop at Secretly Using Face Recognition on You? 中公开过调查发现,并表示很少有零售商愿意公开谈论人脸识别的应用情况。

本周三,该联盟也庆祝了这项胜利,并认为这是一次历史性的数字隐私胜利。「通过今天的投票,社区清楚地表明,我们在这座城市拥有真正的权力,」俄勒冈州ACLU临时执行董事简·卡森(Jann Carson)说。

「我们不会让波特兰变成一个监视州,警察和公司都可以跟踪我们,无论我们走到哪里。」

在公共和私人场合的双重禁止人脸识别的应用,可能为其他城市开辟类似的数字隐私政策提供了一个路线图,这也是隐私倡导者所希望的结果。

「现在,全国各地的城市必须向波特兰看齐,通过自己的禁令,」「为未来而战」组织的Lia Holland说。「我们有动力,也有意愿击退这种危险且带有歧视性的技术。」

2019 年 5 月,美国旧金山市对人脸识别技术发出了禁令,禁止该技术在政府机关和执法机关中使用,从而成为全球首个对人脸识别技术发出禁令的城市。

7月,全美第二个禁止面部识别技术的城市出现了马萨诸塞州的萨默维尔市。新政策生效后,该市各机构、分局或下属部门,均不得在公共场所使用面部识别技术。

除了禁止市政部门积极使用人工智能外,该法令还禁止在刑事调查或法律诉讼中使用面部识别软件系统产生的数据或证据。不过,当地法律没有限制州或联邦执法部门使用面部识别的范围。

2020年7月16日,位于美国加利福尼亚州的奥克兰市投票通过了一项法令——禁止市政机构使用人脸识别技术。此举使奥克兰市成为继旧金山市和萨默维尔市之后,美国第三个禁止人脸识别的城市。

奥克兰市禁止市政机构使用人脸识别技术的理由是这项技术通常不准确、可能具有入侵性且缺乏标准。根据一致通过的条例,包括市警察在内的市政机构将被禁止获得或使用这项技术。

另外,美国波士顿的市议会也以13票赞成、0票反对的结果通过了《波士顿禁止人脸监控技术条例(Ordinance Banning Face Surveillance Technology in Boston)》。

依据该条例,波士顿市的任何市政机关和公务员均不得获取、保留、拥有、使用人脸监控系统,以及通过此类系统获得的信息,且不能通过与第三方合作绕过条例。违反条例规定获取的人脸监控数据将被视为违法数据,一经发现即会被删除。从源头掐断波士顿市政机关使用人脸识别技术的渠道。

至此,美国已知的、公开表示禁止人脸识别技术的城市已经达到8个。

参考资料:

https://techcrunch.com/2020/09/09/facial-recognition-ban-portland-oregon/?utm_source=feedburner&utm_medium=feed&utm_campaign=Feed%3A+Techcrunch+%28TechCrunch%29

产业特征匹配人脸识别
相关数据
IBM机构

是美国一家跨国科技公司及咨询公司,总部位于纽约州阿蒙克市。IBM主要客户是政府和企业。IBM生产并销售计算机硬件及软件,并且为系统架构和网络托管提供咨询服务。截止2013年,IBM已在全球拥有12个研究实验室和大量的软件开发基地。IBM虽然是一家商业公司,但在材料、化学、物理等科学领域却也有很高的成就,利用这些学术研究为基础,发明很多产品。比较有名的IBM发明的产品包括硬盘、自动柜员机、通用产品代码、SQL、关系数据库管理系统、DRAM及沃森。

https://www.ibm.com/us-en/
相关技术
人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

人脸识别技术

广义的人脸识别实际包括构建人脸识别系统的一系列相关技术,包括人脸图像采集、人脸定位、人脸识别预处理、身份确认以及身份查找等;而狭义的人脸识别特指通过人脸进行身份确认或者身份查找的技术或系统。 人脸识别是一项热门的计算机技术研究领域,它属于生物特征识别技术,是对生物体(一般特指人)本身的生物特征来区分生物体个体。

规划技术

人工智能领域的「规划」通常是指智能体执行的任务/动作的自动规划和调度,其目的是进行资源的优化。常见的规划方法包括经典规划(Classical Planning)、分层任务网络(HTN)和 logistics 规划。

数据库技术

数据库,简而言之可视为电子化的文件柜——存储电子文件的处所,用户可以对文件中的数据运行新增、截取、更新、删除等操作。 所谓“数据库”系以一定方式储存在一起、能予多个用户共享、具有尽可能小的冗余度、与应用程序彼此独立的数据集合。

逻辑技术

人工智能领域用逻辑来理解智能推理问题;它可以提供用于分析编程语言的技术,也可用作分析、表征知识或编程的工具。目前人们常用的逻辑分支有命题逻辑(Propositional Logic )以及一阶逻辑(FOL)等谓词逻辑。

会搜机构
推荐文章
暂无评论
暂无评论~