DeepMind与NHS合作引论文质疑:作者要求公开回应

By 吴攀2017年3月20日 16:25

22-4.jpg

日前一篇学术论文《Google DeepMind and healthcare in an age of algorithms》指出,谷歌的人工智能公司 DeepMind 与英国国家医疗服务体系(NHS)之间的合作存在严重「不足(inadequacies)」。

为了构建一个应用程序,NHS 已向 DeepMind 共享了逾一百万条患者记录。该应用可以针对存在急性肾损伤(AKI)风险的患者向医生发出提醒。

该论文的作者认为,这种不告知患者将如何使用他们的数据的行径「不可原谅(inexcusable)」。

而 DeepMind 认为这篇报告存在「重大错误(major errors)」。

BBC 了解,它将做出针对性的分析和反驳,而作者对此表示欢迎。

2016 年 2 月,伦敦的 Royal Free 医院和 DeepMind 的合作被公开——这是在收集数据大约三个月后,这引起了对于共享患者信息量及缺乏公众咨询的争议。

New Scientist 的前记者 Hal Hodson 与合著者剑桥大学学者 Julia Powles 说,这个合作仍存在许多仍待解答的问题。

他们写道:「为何 DeepMind 作为由数据挖掘与广告巨头谷歌全资拥有的人工智能公司,却能成为构建这种应用程序(主要用作数据集成用户的接口)的不错选择?对于这一点,DeepMind 和 Royal Free 都未给出令人信服的解释」。

尽管 DeepMind 表示希望将来能结合人工智能技术来改良这项提醒程序,但它目前并未包含任何人工智能。

这篇论文做出以下批评:

DeepMind 和 Royal Free 发表了一项联合声明作为回应:

这篇文章完全扭曲了 NHS 如何使用技术处理数据的事实。

它假设这种数据协议是前所未有的,从而产生了一系列事实与分析上的错误。

事实上,国内的每个信托基金会都会在相同的法律与监管制度下,通过使用 IT 系统来帮助临床医生获取患者当前及历史的信息。

该论文的作者要求二者在一个「公开论坛」上作出回应,并补充道:

显然我们都在关心谷歌和 DeepMind 进入医疗保健这件事,因为它打破了常规。

这些公司与专业的医疗 IT 和基础设施提供商截然不同,并且这种强行类比损害了公众的利益。

调查

NHS 确实与一系列第三方公司签订了信息共享协议,但这是与美国大型科技公司的首次此类交易。

DeepMind 最初表示,NHS 已经与处理患者数据的第三方组织签署了 1500 项其他协议,但 NHS 认为它所言「并不准确」。BBC 被告知并不存在有关协议数量的中央数据库。

该应用程序目前是信息专员公署(ICO)的调查项目,同时负责保护健康数据的国家数据保护局(NDG)也在进行调查。

ICO 在一份声明中称:

我们对 Royal Free 、国家医疗服务基金会(NHS Trust)和 DeepMind 之间关于患者信息共享的调查已接近尾声。

我们将继续与国家数据保护局合作,并会与提供 Streams 开发相关信息的 Royal Free 和 DeepMind 定期联系。

我们已经将其作为调查的一部分进行了详细审查,并且企业和组织有责任遵守数据保护法。

国家数据保护局补充道:

NDG 及其小组已将患者对于良好关怀和信息保密的合理期望作为讨论重点,而我们需要找到能从根本上解决问题的方法。

为了协助 ICO 的调查,NDG 提出了些许意见,并期望此事尽快了结。

护理改善

DeepMind 一直在努力澄清:它并未向谷歌共享任何为应用程序收集的数据。

AKI 这类疾病十分严重,它与英国每年 4 万例的死亡案例相关,并会导致从轻微的肾功能障碍到需要透析和移植等其他一系列健康问题。

DeepMind 在 2 月发布了关于应用程序如何改善患者护理的详细信息。

它表示,Royal Free 有 26 多名医生和护士正在使用 Streams,并且它每天都会向 11 名有患 AKI 风险的患者发出提醒。

Sarah Stanley 是一位领导有风险的患者进行复苏的团队的咨询护士,他说:「Streams 每天都会为我们节省大量时间,对最危险患者的即时提醒意味着我们能够更快地对特定患者采取恰切的护理。」

DeepMind 承认,在使用患者的数据时,本应与他们更妥善地进行沟通;并且在这些批评的影响下,它同意设立患者论坛。

它发表了一项关于未来患者参与的策略,其首句是:「当患者和临床医生共同做出决定时,结果将会更好。」

声明:本文由机器之心编译出品,原文来自 BBC,译者:侯楚韵,转载请查看要求,机器之心对于违规侵权者保有法律追诉权。