大西洋月刊来源宇多田编辑高璇翻译

一个本意美好的市政AI项目是如何荒腔走板的?

编者按:弗林特的这个案例让一直在考察 AI 如何落地的我们眼前一亮。因为有太多阻碍是人之常情,不同的身份,会把技术放在一个完全不同的位置。

作为技术工作者,需要对项目效果和成本负责;

作为政府工作者,需要对基建成本与大众意向(在美国,这意味着选民票数)做出平衡;

作为居民,会把自己个人及家庭的生活体验与安全放在首位。

三者之间,甚至相同身份的不同团队之间,都存在各种各样的分歧。

因此,AI 技术就像是一块未经打磨的原石,你无法确认它每一步的凿砌过程与环境所施加的作用力,也就无从知晓它最后究竟会变成一把实用的斧头,还是一块只具观赏性的摆件。

但唯一能确定的是,最后的结果,往往会脱离最初的本意。

故事始末

在美国密歇根州弗林特的用水问题成为「国民新闻」一千多天后,该市数以千计的房屋仍然有含铅管道,这意味着有毒金属可以通过管道渗入居民的供水系统。

为了解决这个问题,政府需要用更安全的铜管替换铅管。

这听起来很简单,但要确定哪些房屋有铅管却是个难题。更困难的是,由于该市的记录文件不完整且不准确,挖掘所有管道会耗费大量的人力和物力。

显然,需要自动化的时候到了。

计算机科学家们在谷歌的资助下,设计了一种机器学习模型,用来预测哪些房屋可能有铅管。

根据预想,人工智能技术本应帮助施工人员只在最有可能含有毒管道的地方进行挖掘。

事实证明,一直到 2017 年,该计划也一直在发挥作用。工人们检查了 8833 所房屋,其中有 6228 所房屋更换了管道,预测准确率达到 70%。

因此,进入 2018 年,该市与一家大型国家工程公司 AECOM 签署了一份价值 500 万美元的合同以「加速」该计划的实施。他们甚至召开了一场活跃的社区会议,预示着这支「装甲部队」即将抵达弗林特。

很少有城市能够大刀阔斧地实施管道更换项目,更不用说这座不得不应对种族歧视、环境种族主义以及中西部上游工业崩溃等种种时代问题的城市了。

(这里涉及到弗林特这座城市的背景信息:

这是一座老牌汽车工业城市,然而随着制造业转移到海外,该城市陷入衰退状态,而工业发展的后遗症也慢慢显露出来——输水系统老化且含铅量较高;河水污染严重。

此外,由于弗林特的非籍人口众多,水危机甚至引发了对弗林特地区种族歧视的探讨,这也让弗林特的水危机事件登上过时代杂志封面,而政府也不得不采用各种办法应对难题。)

目前,弗林特共计有 18786 个家庭知晓自家管道安全情况,因为这些管道已经被挖出并会被确认是否为铜制;若这些管道含铅或是镀锌钢制,就会被替换成铜的。

「我认为事情进展得非常顺利,」弗林特市市长 Karen Weaver 告诉记者。「我们比计划提前了一年,也没有超出预算。」

然而,就在 2018 年,奇怪的事情发生了:

随着越来越多的房屋在 2018 年接受管道评估,被发现的铅管数量越来越少。

相反,2017 年 11 月,当地新闻媒体 MLive 的 Zahra Ahmad 根据获得的会议记录报道,该市的公共工程负责人曾估计,弗林特约有 10000 间房屋仍有铅管,与其他专家估算的数量大致相同。

也就是说,新承包商没有及时发现这些管道。

截至 2018 年 12 月中旬,虽然已勘探了 10531 处房产,但其中只有 1567 处需要更换的铅管。铅管的勘测准确率仅为 15%,远低于 2017 年的水平。

专业用户独享

本文为机器之心深度精选内容,专业认证后即可阅读全文
开启专业认证
产业人工智能应用
2
相关数据
机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

规划技术

人工智能领域的「规划」通常是指智能体执行的任务/动作的自动规划和调度,其目的是进行资源的优化。常见的规划方法包括经典规划(Classical Planning)、分层任务网络(HTN)和 logistics 规划。

数据库技术

数据库,简而言之可视为电子化的文件柜——存储电子文件的处所,用户可以对文件中的数据运行新增、截取、更新、删除等操作。 所谓“数据库”系以一定方式储存在一起、能予多个用户共享、具有尽可能小的冗余度、与应用程序彼此独立的数据集合。

准确率技术

分类模型的正确预测所占的比例。在多类别分类中,准确率的定义为:正确的预测数/样本总数。 在二元分类中,准确率的定义为:(真正例数+真负例数)/样本总数

暂无评论
暂无评论~