阿克琉斯之踵：人工智能的道德准则

尽管人工智能已经热潮已经持续了一段时间，但针对于人工智能系统的道德研究依然很少有人去关注。在过去，这很大程度上是由于人工智能系统还不够先进和完善，其应用也很有限。但是，随着人工智能系统被越来越多的应用到诸如司法和政府等领域，它对普通人影响愈发重要，这也使得人们对于人工智能道德的关注越来越多。

在过去两周里，麻省理工学院两个重要的实验室同时发布了他们关于人工智能系统道德体系的研究项目。由于其在商业场景上的应用回报小，大多数商业公司都不会投入精力来研究人工智能的道德问题，而这也可能是为什么麻省理工学院会成为传播人们对于人工智能道德关注的重要发源地。

在这两个项目中，一个让普通的网民参与到与一个机器人进行辩论的过程，另一个项目则致力于证明目前常见的商用人工智能系统中的种族歧视问题：被测试的人工智能算法包括微软、旷视等 —— 这些公司的人脸识别算法无一例外地出现了对不同种族和性别人员的区别对待问题。

我们怎样才能在忠实于我们的道德义务的同时，实现人工智能技术？这不仅仅是人类道德上的要求，而且对于人工智能企业来说也是至关重要的。Huffington Post 认为，开发一款产品然后发现它会对整个行业产生负面影响，这是没有意义的。所以一个企业要从一开始就运用道德准则明智地分配资源。

在斯坦福大学的《百年人工智能研究》中，其提出了两个基本要素来保证人工智能系统的道德性：1. 监督保障。你的公司道德是一种协作的努力。因此，你的道德委员会应该有一系列的制衡机制。2. 风险评估标准。每项创新都应满足基本要求，以确保降低风险。这些要求应该来自于你的道德委员会、开发人员、设计团队、高管层和利益相关者之间的讨论。

同时这一报告认为，要对人工智能进行充分监管是不可能的。风险和机会因范围和领域而异。2016 年 5 月，欧盟法律事务委员会发布《就机器人民事法律规则向欧盟委员会提出立法建议》的报告草案，探讨如何从立法角度避免机器人对人类的伤害。有效应对未来风险挑战需强化立法研究，明确重点领域人工智能应用中的法律主体以及相关权利、义务和责任，建立和完善适应智能时代的法律法规体系。在政府做出人工智能规范化努力的同时，科技企业也应该承担起相应的责任。