MIT和哈佛大学等成立基金会:将投入2700万美元推动人工智能伦理研究

istock-487568314.jpg

人工智能基金的伦理和治理(Ethics and Governance of Artificial Intelligence)将会投入 2700 万美金来「推进人工智能伦理在公共利益领域的发展」。

ZDnet 报道,在人们担忧人工智能对社会的种种影响的同时,一个由科技业界大佬以及哈佛、麻省理工学院支持的新基金已然被建立。基金会将会投入 2700 万美金去支持有关人工智能基金的伦理和治理的工作,从而「推进人工智能伦理在公共利益领域的发展」。

EBay 创始人 Pierre Omidyar 的慈善基金会 Omidyar Network、LinkedIn 创始人 Reid Hoffman、Knight 基金会以及其他一些基金会都参与了捐款。麻省理工学院的媒体实验室和哈佛的 Berkman Klein 网络与社会中心将作为主办机构。Omidyar Network 在新闻稿中列出了这一情况:

一般而言,由大数据和深度学习系统推动的人工智能和复杂算法正迅速改变着我们的生活和工作方式——从所见的新闻故事,到所承担的贷款,再到我们所做的工作。正是由于这种「润物细无声」的影响,人工智能的研究和开发必须整合社会科学家、伦理学家、哲学家、信仰领袖、经济学家、律师和决策者等各种阶层人士的见解,而不仅仅囿于工程师和人工智能公司。

基金的目标是发展向公众诠释人工智能的最佳方式;设计人工智能的伦理框架; 通过适当的控制来推进「负责任和公正的人工智能」; 帮助人工智能企业家和工程师在服务于公众利益的同时茁壮成长; 并通过让更多的选区了解人工智能。

去年,人工智能比任何其他科技潮流更引人注目。MIT 媒体实验室的主任 Joi Ito 在一份声明中表示人工智能开发的快速发展表明出现了必须进行审查的风险:

「例如,最关键的挑战之一便是我们如何确保所培训的机器不会固化并强化对那些扰乱社会的人群偏见?」

根据 一份 FAQ 文件,该基金在第一年将会重点关注实验和迭代项目,包括一类麻省理工学院和哈佛大学的「人工智能研究员」。

该基金不是围绕人工智能和伦理问题召开的第一个组织。电气和电子工程师协会在上个月发布了人工智能伦理设计初步指南的草案。除此之外,谷歌、Facebook、亚马逊、IBM 和微软也建立了人工智能联盟。

但该基金能在其他方面中发挥重要作用,在 FAQ 常见问题页中写道:

我们相信,通过支持公正、可持续的、以证据为基础的、以解决方案为导向的跨越学科跨越部门的工作,来为不断丰富的人工智能生态系统添加独特内涵。在两个锚定学术机构(哈佛大学 Berkman Klein 网络与社会中心和麻省理工学院的媒体实验室)落实这一举措,将使我们能够汇集各种观点,这些观点可能不会与工业驱使的或其他方面的观点相符合。

分析:人工智能伦理方面所具有的大量空间

Constellation Research 副总裁兼首席分析师 Steve Wilson 指出,MIT 和 BKC 正在组建的一个基础广泛的卓越团队:「它指出了深刻的跨学科系统思维被应用于机械化伦理的问题。」

威尔逊调查了算法的伦理影响。他的研究表明,存在对可计算的问题种类的数学限制,并得出结论:在早期阶段,例如驾驶汽车这类复杂的人类任务可能并不会完全自动化。而我们现有的法律和法院等社会制度对人工智能所带来的问题并不是完备的,也许会发生不可预料的失败情况。

Wilson 最近在由韩国数字亚洲中心(Berkeman Klein 中心的子区域)组织的一次法律会议上介绍了他目前的一些工作,Constellation 将会推出新的观点研究报告。

Wilson 说:「令技术专家大为惊讶的是,一些伦理问题永远不会完全解决。这就是为什么审判过程已经可以拍成电视剧了。法庭案件并非总可预测,顶级的律师有时也会犯错,而总会出现的法律先例代表着我们之前未曾想过的事情。」

他补充道:「这与算法非常不同,在算法中,所有预期的输入都应可知,并且在代码编写时加以设计。」

Wilson 说:「我不知道未来的人工智能会如何应对前所未有的事件。机器学习经过发展,也许可以处理『惊喜』,但总有一些『元惊喜』是现有的编程机器无法处理的。所以很高兴看到 MIT 和 BKC 把如此大量的资源和人才用于人工智能和伦理方面」。

总体而言,Constellation 认为,关于人工智能的伦理和社会影响的辩论以及透明度至关重要,因此,新基金很欢迎新成员加入讨论。该基金与世界上最有信誉,最独立和最有影响力的两个学术研究机构的合作只有少许帮助。

同样,该基金会有别于其他组织是显而易见的事实。因为他直接资助创新和多样化的人工智能研究,而不仅仅是产生一个很快就会被人遗忘的意见书或者开几场学术研讨会。这正是这场人工智能伦理辩论所需要的。大家将在 7 月的一次活动中更深入地了解基金动向,Constellation 也将会持续跟踪。

入门MIT理论哈佛大学人工智能伦理
暂无评论
暂无评论~