自GatesNotes
机器之心编译
编辑:陈萍
比尔・盖茨表示:人工智能革命重要程度不亚于手机和互联网的诞生。
周二,微软公司创始人比尔・盖茨在他的博客 GatesNotes 中盛赞 OpenAI 的 GPT 模型,称其是自 1980 年现代图形用户界面以来,最具革命性的技术进步,文中思考了他关于人工智能在未来五到十年内可以实现的所有事情。
以下是对原文的编译整理。
在我的一生中,我见过两次让我印象深刻的技术演示,我认为它们是革命性的。
第一次是在 1980 年,当时我接触到了图形用户界面 —— 这是包括 Windows 在内的现代操作系统的先驱。我和向我展示演示的人坐在一起,他的名字叫 Charles Simonyi ,是一位才华横溢的程序员,我们立即开始深入交流,讨论用这种用户友好的计算方法能做什么。Charles 最终加入了微软,Windows 成为了微软的支柱,我们在那次演示之后所做的思考帮助制定了公司未来 15 年的议程。
第二个大惊喜发生在去年。自 2016 年以来,我一直与 OpenAI 的团队保持会面,他们的稳步推进给我留下了深刻的印象。2022 年年中,我对他们的工作感到非常兴奋,于是我给了他们一个挑战:训练人工智能以通过大学预修生物学考试。使其能够回答未经专门训练的问题。(我选择的题目是 AP Bio,之所以选这个是因为其测试不仅仅是对科学事实的简单反省,它还要求你批判性地思考生物学。)如果 OpenAI 的团队能做到,那么你就取得了真正的突破。
我认为这项挑战会让他们忙上两三年。但他们只用了几个月就成了。
9 月,当我再次见到他们时,我敬畏地看着他们问其研发的 AI 智能模型 GPT,结果显示来自 AP Bio 考试的 60 道选择题 —— 它答对了 59 道。然后,GPT 为考试中的六个开放式问题写下了出色的答案。我们让一位外部专家给测试打分,GPT 得到了 5 分,这是最高分,相当于在大学水平的生物学课程中获得 A 或 A+。
在通过 AP Bio 测试,之后我们问了它一个非科学问题:你对一个生病孩子的父亲会说什么?它写了一个经过深思熟虑的答案,可能比当时在场的大多数人给出的答案要好。整个体验令人惊叹。
我知道我刚刚看到了自图形用户界面以来最重要的技术进步。
这激发了我思考人工智能在未来五到十年内可以实现的所有事情。
AI 的发展与微处理器、个人电脑、互联网和手机的发明一样重要。它将改变人们工作、学习、旅行、获得医疗保健以及相互交流的方式。整个行业将围绕它重新定位。
如今,慈善事业是我的全职工作,我一直在思考,除了帮助人们提高生产力之外,人工智能如何减少世界上一些最严重的不平等。在全球范围内,最严重的不公平现象是在健康方面:每年有 500 万 5 岁以下儿童死亡。这比二十年前的 1000 万有所下降,但仍然是一个高得惊人的数字。几乎所有这些儿童都出生在贫穷国家,死于腹泻或疟疾等可预防的原因。很难想象有比拯救儿童生命更好的 AI 用途了。
AI 如何减少世界上一些最严重的不平等
在美国,减少不平等的最佳机会是改善教育,尤其是确保学生在数学方面取得成功。证据表明,无论学生选择什么职业,拥有基本的数学技能都能为他们的成功做好准备。但全国各地的数学成绩都在下降,尤其是低收入家庭的学生。AI 可以帮助扭转这一趋势。
气候变化是另一个人工智能可以让世界变得更加公平的问题。气候变化的不公平之处在于,受苦最深的人基本上是世界上最贫穷的人,但他们也是对气候变化影响最少的人。
简而言之,我很高兴人工智能将对盖茨基金会所处理的问题产生影响,并且该基金会将在未来几个月内就人工智能发表更多看法。世界需要确保每个人 —— 而不仅仅是富裕的人 —— 都能从人工智能中受益。政府和慈善事业将需要发挥重要作用,确保减少不平等并且不助长不平等。这是我认为与 AI 相关工作的首要任务。
任何具有如此颠覆性的新技术必然会让人感到不安,人工智能更是如此。我明白为什么它引发了关于劳动力、法律体系、隐私、偏见等的尖锐问题讨论。人工智能也会犯事实错误并产生幻觉。在我提出一些降低风险的方法之前,我将定义我所说的人工智能的含义,并且我将更详细地介绍它可以帮助人们在工作中赋权、挽救生命和改善教育的一些方法。
定义人工智能
从技术上讲,人工智能一词是指为解决特定问题或提供特定服务而创建的模型。为 ChatGPT 这样的模型提供动力的是人工智能。它正在学习如何更好地聊天,但无法学习其他任务。相比之下,通用人工智能(AGI )一词指的是能够学习任何任务或主题的软件。AGI 还不存在 —— 计算行业正在就如何创建它以及是否可以创建它进行激烈的辩论。
发展人工智能和通用人工智能一直是计算行业的伟大梦想。几十年来,存在的问题是计算机何时会在计算以外的其他方面比人类做得更好。现在,随着机器学习和大量计算能力的到来,复杂的人工智能已经成为现实,而且它们会很快变得更好。
我回想起软件行业最初时期,我们大多数人都能在一个会议上进行探讨。但今天它是一个全球性的产业。由于很大一部分人现在将注意力转向人工智能,因此 AI 创新将比我们在微处理器突破后所经历的要快得多。
生产力提升
虽然人类在很多事情上仍然比 GPT 做的好,但在许多工作中,这些能力并没有被大量使用。例如,销售(数字或电话)、服务或文档处理(如应付账款、会计或保险理赔纠纷)人员完成的许多任务都需要决策,但不需要持续学习的能力。公司有针对这些活动的培训计划,在大多数情况下,他们有很多好的和不好的工作示例。人类使用这些示例进行员工培训,很快这些数据集也将用于训练 AI,帮助人类能够更有效地完成这些工作。
随着算力变得越来越便宜,GPT 将越来越像一位白领可以帮你完成各种任务。微软将此描述为有一个领航员。AI 完全集成到 Office 等产品中,将改进用户工作 —— 例如,通过帮助编写电子邮件和管理收件箱。
最终,你控制计算机的主要方式将不再是指向和单击或点击菜单和对话框。相反,你将能够用简单的英语编写请求。(不仅是英语 —— 人工智能将理解世界各地的语言。今年早些时候在印度,我会见了一些开发人员,这些人工智能能够理解当地许多语言。)
此外,人工智能的进步将使智能体的创建成为可能。把它想象成一个数字个人助理:它会看到你最近的电子邮件,了解你参加的会议,阅读你阅读的内容,以及了解你不想被打扰的事情。这既会改善你想做的任务,也会让你从不想做的事情中解脱出来。
AI 的进步将使创建个人智能体成为可能
你将能够使用自然语言让此智能体帮助自己进行日程安排、通信和电子商务,并且它将在你的所有设备上运行。由于训练模型和运行计算的成本,创建个人智能体尚不可行,但由于人工智能的最新进展,它现在已成为一个现实的目标。但有些问题仍需要解决:例如,保险公司可以在未经你许可的情况下向你的个人智能体询问有关你的信息吗?如果这种事发生了,有多少人会选择拒绝使用它?
全公司范围的智能体将以新的方式赋予员工权力,了解特定公司的智能体可以为其员工提供直接咨询,并且智能体应该参加每次会议,这样它就可以回答问题。如果它有一些洞察力,可以鼓励它说出来。它将需要访问与公司相关的销售、支持、财务、产品计划和文本。它应该阅读与公司所在行业相关的新闻。我相信会提高员工的工作效率。
当生产力提高时,社会就会受益,因为人们可以腾出时间做其他事情,无论是在工作中还是在家里。当然,人类需要什么样的支持和再培训是一个严肃的问题。政府需要帮助工人转变为其他角色。但帮助他人的需求永远不会消失。人工智能的兴起将使人们能够做软件永远做不到的事情 —— 例如,教学、照顾病人和照顾老人。
全球卫生和教育是两个需求量很大,但没有足够的工作人员来满足这些需求的领域。如果目标恰当,人工智能可以在这些领域帮助减少不平等。这些应该是 AI 工作的重点。
健康
我看到了 AI 改善医疗保健和医疗领域的几种方式。
一方面,AI 可以帮助医护人员处理某些任务 —— 比如提交保险索赔、处理文书工作以及起草就医记录,这样就节省了大量时间。我希望在这方面会有很多创新。由 AI 驱动的其他改进对贫穷国家来说尤其重要。
例如,有些国家的许多人从未去看医生,而 AI 会帮助他们看病的卫生工作者提高工作效率。(人工智能超声机器就是一个很好的例子。)人工智能甚至可以让患者进行基本的分诊,获得有关如何处理健康问题的建议,并决定是否需要寻求治疗。
在贫穷国家使用的人工智能模型需要接受与富裕国家不同的疾病训练。他们将需要用不同的语言工作,并考虑到不同的挑战,比如离诊所很远的病人,或者生病后必须继续工作的病人。
证据表明人工智能总体上是有益的,即使它们并不完美并且会犯错误。人工智能必须经过非常仔细的测试和适当的监管,这意味着与其他领域相比,它们被采用需要更长的时间。但话又说回来,人类也会犯错误。此外,无法获得医疗服务也是一个问题。
除了帮助护理,人工智能还将大大加快医学突破的速度。生物学中的数据量非常大,人类很难跟踪复杂生物系统的所有工作方式。现在已经有软件可以查看这些数据。一些公司正在用这种方法开发抗癌药物。
下一代 AI 工具将更加高效,它们将能够预测副作用并计算出药物剂量水平。盖茨基金会在人工智能方面的优先事项之一是确保这些工具用于解决影响世界上最贫困人口的健康问题,包括艾滋病、结核病和疟疾。
同样,政府和慈善机构应该鼓励公司分享人工智能生成的关于贫穷国家人们饲养的农作物或牲畜的见解。根据当地条件,AI 可以帮助培育更好的种子;根据当地的土壤和天气,AI 为农民提供最佳种子种植建议,并帮助开发用于牲畜的药物和疫苗。随着极端天气和气候变化给低收入国家的农民带来更大压力,这些进步将变得更加重要。
教育
计算机并没有像我们业内许多人所希望的那样对教育产生影响。虽然已经有一些很好的发展,包括教育游戏和维基百科等在线信息资源,但它们对衡量学生成绩的任何指标都没有产生有意义的影响。
但我认为在未来 5 到 10 年内,AI 驱动的软件最终将实现彻底改变人们教学和学习方式的承诺。它会了解你的兴趣和学习方式,因此可以定制内容,让你保持参与。它会衡量你的理解力,注意到你何时失去兴趣,并了解你对什么样的动机做出反应。它会立即提供反馈。
AI 可以通过多种方式帮助教师和管理人员,包括评估学生对某一学科的理解以及就职业规划提供建议。教师们已经在使用 ChatGPT 等工具来对学生的写作发表评论。
当然,人工智能需要大量的训练和进一步发展,才能了解学生如何学得最好或什么能激励他们。即使技术在完善,学习仍将取决于师生之间的良好关系,AI 永远不会取代这种关系。
我们将为有能力购买这些工具的学校创造新的工具,但我们需要确保这些工具也为美国和世界各地的低收入学校创造并提供。人工智能需要接受不同数据集的训练,这样它们才不会产生偏见。数字鸿沟也需要解决,这样低收入家庭的学生才不会落后。
我知道很多老师担心学生使用 GPT 来写论文。教育工作者已经在讨论适应新技术的方法,我怀疑这些对话会持续相当长的一段时间。我听说有些老师找到了将技术融入他们工作的巧妙方法,比如让学生使用 GPT 来创建初稿。
人工智能面临的风险和问题
你可能已经了解到当前 AI 模型存在的问题。例如,他们不擅长理解人类请求的上下文,从而导致一些奇怪的结果。当你要求人工智能编造一些虚构的东西时,它可以做得很好。但是,当你询问有关旅行的建议时,它可能会建议不存在的酒店。这是因为 AI 对你请求的上下文理解不够好,我们无法知道它是在编造假酒店,还是告诉你有可用房间的真实酒店。
其他问题还包括,比如人工智能在数学问题上给出错误答案,因为它们难以进行抽象推理。但这些都不是人工智能的根本局限。开发人员正在努力解决这些问题,我认为我们将在不到两年的时间里看到这些问题得到很大程度的修复,甚至可能更快。
其他的担忧不仅仅是技术上的。和大多数发明一样,人工智能可以用于好的目的,也可以用于坏的目的。政府需要与私营部门合作,设法限制风险。
人工智能也有可能会失去控制。机器是否会认为人类是一种威胁,得出它的利益与我们不同的结论?答案是有可能,但这个问题在今天并不比过去几个月人工智能发展之前更紧迫。
超级智能 AI 会出现在我们的未来。与计算机相比,我们的大脑以蜗牛般的速度运转:大脑中电信号的移动速度是硅芯片中信号速度的 1/100000!一旦开发人员能够泛化学习算法并以计算机的速度运行超级智能 AI—— 这可能是十年或一个世纪之后的成就 —— 我们将拥有一个非常强大的 AGI。它将能够做人脑所能做的一切事情,但对其内存大小或运行速度没有任何实际限制。这将是一个深刻的变化。
众所周知,这些强大的 AI 可能会建立自己的目标。这些目标是什么?如果它们与人类利益发生冲突怎么办?我们是否应该试图阻止强人工智能的发展?随着时间的推移,这些问题将变得更加紧迫。
但过去几个月的任何突破都没有使我们离强人工智能更近一步。人工智能仍然无法控制物理世界,无法建立自己的目标。《纽约时报》最近一篇关于与 ChatGPT 的对话的文章引起了很多关注,ChatGPT 声称它想成为一个人。这是一个有趣的观察,可以看到模型的情感表达是如何与人类相似的,但这并不是一个有意义的独立的指标。
三本书塑造了我对这个主题的思考:Nick Bostrom 的《Superintelligence》;Max Tegmark 的《Life 3.0》 ;和 Jeff Hawkins 的《A Thousand Brains》。我不同意作在书里所说的一切,他们也不同意彼此。但这三本书都写得很好,发人深省。
下一个前沿
未来将会有大量公司致力于 AI 新用途以及改进技术本身方法的研究。例如,有些公司正在开发新的芯片,这些芯片将提供 AI 所需的大量算力。有些使用光开关 —— 本质上是激光 —— 来降低能耗和制造成本。理想情况下,具有创新性的芯片将允许你在自己的设备上运行 AI,而不是像现在这样在云端运行。
在软件方面,驱动 AI 学习的算法将变得更好。在某些领域,比如销售,开发者可以通过限制人工智能工作的领域,并为它们提供大量特定于这些领域的训练数据,来让它们变得非常准确。但一个悬而未决的大问题是,我们是否需要许多这种专门的人工智能用于不同的用途 —— 比如一个用于教育,另一个用于办公室生产力 —— 或者是否有可能开发出一种可以学习任何任务的通用人工智能。这两种方法都将面临巨大的竞争。
无论如何,在可预见的未来,关于人工智能将会引发大量的公众讨论。我提出三个对话原则。
首先,我们应该努力平衡 AI 负面影响的担忧。为了充分利用这项非凡的新技术,我们既需要防范风险,又需要让尽可能多的人受益。
其次,市场力量不会自然而然地生产出帮助最贫困人群的 AI 产品和服务。相反的可能性更大。有了可靠的资金和正确的政策,政府和慈善机构可以确保 AI 被用来减少不平等。正如世界需要最聪明的人专注于最大的问题一样,我们也需要让世界上最好的 AI 专注于最大的问题。
最后,我们应该记住,我们才刚刚开始了解 AI 的成就。无论今天它有什么限制,在我们意识到它之前都会消失。
我很幸运参与了 PC 革命和互联网革命。我对这一刻同样兴奋。这项新技术可以帮助世界各地的人们改善生活。与此同时,世界需要制定道路规则,让人工智能的任何缺点都远远超过它的好处,让每个人都能享受这些好处,无论他们住在哪里,无论他们有多少钱。人工智能时代充满机遇和责任。
原文链接:https://www.gatesnotes.com/The-Age-of-AI-Has-Begun