OpenAI呼吁人工智能警察,反对恶意代码

Elon Musk 启动的 OpenAI 项目想公开它的人工智能研究,还想确保人工智能不会被用于邪恶的目的。这就是为什么它想创造一种新的警察部队:人工智能警察。

随着 OpenAI 的顶尖研究团队帮助促进人工智能技术的传播, 这家非同寻常的创业公司担忧这种技术可能传播得太快——其他某些人会暗地里取得重大突破,并用其「达到不可告人的邪恶目的。」所以, OpenAI 正号召其他顶级研究员加入它不断扩展的运动中,并开发以某种方式监测这些重大突破是否在真实世界被恶意利用的新技术。

OpenAI 创始人们相信人工智能可以让世界变得更好,但是他们也担心会造成严重破坏。「随着人工智能系统变得越来越能干和强大,我们将看到人们以各种方式利用人工智能,而一些方式是非常有违道德的。」 Greg Brockman 是知名的支付创业公司 Stripe 的前任首席技术官,现在管理 OpenAI 。他说,「世界越清楚正在发生什么——即监督审查越多——世界也就越好。」

开放悖论


特斯拉 CEO Elon Musk 和 Y Combinator (美国著名创业孵化器)董事长 Sam Altman 和领域内的几位最优秀的研究员(包括从谷歌和 Facebook 的挖来的)联合成立了 OpenAI 。他们旨在迅速加快人工智能的进程,同时保护世界免受快速发展的人工智能带来的剧烈冲击。Musk 和 Altman 去年十二月揭开这个公司的面纱,他们说他们愿意与世界上任何想使用人工智能技术的人免费分享——而且这将有益于防止歹徒误用人工智能。

其实它没有看起来那么矛盾。Musk 和 Altman 相信,如果你将人工智能技术分享给所有人,就会有更多人做好与坏蛋斗争的准备。按照这种思路,与其完全信任那一两家超级公司开发的人工智能技术,我们更需要具备阻止程序代码变成邪恶的无赖的能力。尽管这个想法有许多局限——你不可能分享所有东西,以免它们落入坏人手中——但是许多人相信 OpenAI 可以通过减少「超级人工智能被垄断的可能性」(按照人工智能哲学家 Nick Bostrom 的说法),来监督像谷歌和 Facebook 那样的人工智能巨头公司。Bostrom 今年春季告诉我,开放地分享人工智能技术,「可以消除一个关于为什么一些组织或团队拥有比其他任何人都先进的人工智能技术的可能理由。」

对人工智能警察的呼吁揭开了该哲学理念付诸实践的序幕。OpenAI 不仅想开发新的人工智能技术并将它分享给世界,还想主动追捕坏蛋。出于上周晚些时候在自己网站上对人工智能警察部队的呼吁,OpenAI 正在尝试探索人工智能警察系统具体该如何运作。

「我们还没有好主意,」最近从谷歌跳槽到 OpenAI 的 Ian Goodfellow 说。「这也是我们寻求专业研究帮助的原因之一。」但是 OpenAI 确实提出了一些出发点。

选择之一是回归金融市场,网络游戏,和网络新闻服务——这些领域已经应用了人工智能技术。跟踪这些应用领域——可能会用更多传统的研究方法,比如构建几个人工智能去跟踪其他人工智能——能让警察了解该技术在现实应用中发展如何,以及这些应用是否不太道德。例如,Goodfellow 怀疑有些金融公司已经在通过不易察觉的小把戏来愚弄竞争对手的人工智能系统,并从中获利了。

同时,Brockman 担心媒体的发展。「想想通过社交媒体来操控社会舆论。随着你使用更多强大的自动化系统,这种可能性与能力也在增加。」他说。关于 Facebook 的秘密算法是如何影响用户在新闻推送( News Feeds )中看到的内容的近期辩论,Brockman 指出,「学习系统(已经实现了)是一个好的起点。」他承认检测恶意行为非常困难,但是这也是 OpenAI 呼吁研究员开始探索其可能性的原因。「思考你想去哪里是非常重要的——这是越来越重要的问题。」他说。

同时,Brockman 和该公司正在呼吁研究者以更积极的气氛来开发新项目。和许多人一样,他们想构建出能独立维护网络安全的人工智能。并且,他们还想建造出能赢得在线编程比赛的人工智能,类似于谷歌开发的能玩通围棋这种古老游戏的系统。「显然,一个可以写程序的程序会十分强大。」他们说。

确实它会的。但是它也可能非常危险。OpenAI 正在利用这种系统获益和尽可能保证该技术不被恶意使用之间寻求平衡点。

入门
暂无评论
暂无评论~
返回顶部