机器之心原创

2021/12/09 09:45

杜伟、陈萍编辑

用Transformer定义所有ML模型，特斯拉AI总监Karpathy发推感叹AI融合趋势

特斯拉 AI 总监 Andrej Karpathy 连发多条推文表示，AI 不同领域（视觉、语音、自然语言等）正在打通，融合速度令人惊叹。

今日，特斯拉 AI 总监、Autopilot Vision 团队领导人 Andrej Karpathy 在推特上发文，对 AI 领域正在进行中的融合（consolidation）表示惊叹。

他表示，「10 年前，视觉、语音、自然语言、强化学习等都是完全分离的，甚至没有跨领域的论文。方法也完全不同，通常不是基于机器学习。」

从 2010 年开始，视觉、语言、自然语言、强化学习等领域的壁垒逐渐打破，它们开始转向同一个技术方向，即机器学习，特别是神经网络。它们使用的网络架构具有多样性，但至少论文开始读起来更加相似，基本上都用到了大型数据集和网络优化。

随着 AI 技术的发展，近两年，不同领域模型架构似乎也变得相同起来。很多研究者开始专注于 Transformer 架构，在此基础上做较小的改动以进行研究。

例如 2018 诞生的 GPT，1.17 亿参数；2019 年 GPT-2，15 亿参数；2020 年更是将其扩展到 1750 亿参数 GPT-3。Karpathy 基于 PyTorch，仅用 300 行左右的代码就写出了一个小型 GPT 训练库，并将其命名为 minGPT，这个 minGPT 能够进行加法运算和字符级的语言建模，而且准确率还不错。核心的 minGPT 库包含两个文档：mingpt/model.py 和 mingpt/trainer.py。前者包含实际的 Transformer 模型定义，大约 200 行代码，后者是一个与 GPT 无关的 PyTorch 样板文件，可用于训练该模型。

部分代码截图。

197 行完整代码：https://github.com/karpathy/minGPT/blob/master/mingpt/model.py

随着模型架构的融合，现在，我们可以向模型输入词序列、图像 patch 序列、语音序列、强化学习序列（状态、行为、奖励）。我们可以在条件设置中添加任意 token，这种模式是极其简单、灵活的建模框架。

即使是在某个领域（如视觉）内部，过去在分类、分割、检测和生成任务上存在一些差异。但是，所有这些也正在转换为相同的框架，例如 patch 的检测 take 序列和边界框的输出序列。

现在，区别性特征主要包括以下几个方面：

1）数据

2）将自身问题映射到向量序列以及从向量序列映射出自身问题的输入 / 输出规范

3）位置编码器的类型以及注意力 mask 中针对特定问题的结构化稀疏模式

所以，从技术上来说，AI 领域的方方面面，包括前景、论文、人才和想法突然之间变得极其相关。每个人基本上都在使用相同的模型，大多数改进和想法可以快速地在所有 AI 领域「复制粘贴」（copy paste）。

正如其他很多人注意到并指出的那样，新大脑皮质（neocortex）在其所有的输入模态中也有一个高度统一的架构。也许自然界偶然发现了一个非常相似的强大架构，并以类似的方式复制了它，并只在一些细节上做了改变。

这种架构上的融合将使我们专注于软硬件和基础设施建设，进一步加速 AI 领域的进展。「无论如何，这是激动人心的时刻。」

对于 Andrej Karpathy 描述的 AI 融合趋势，网友也纷纷发表意见。

推特网友 @Neural Net Nail 表示，「这是一个有价值的见解。融合将加速 AI 领域的创新步伐，在边缘端使用 AI 的尖端产品变得更加可行。我想，变化（variation）才是质量的最大敌人。」

网友 @sisil mehta 也认为，「ML 基础设施迎来了激动人心的时刻。随着模型架构的融合，建模框架和基础设施也将融合。我当然希望 PyTorch Lightning 也会这样。」

网友 @Marcos Pereira 表示，「一方面，处处都在用 transformers，我们已经遇到了障碍，需要创新；另一方面，处处都在用 transformers，所以跟上来吧。」

原文出自 @Andrej Karpathy 的推特：https://twitter.com/karpathy/status/1468370605229547522

理论Andrej KarpathyTransformer

相关数据

机器学习技术

机器学习是人工智能的一个分支，是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论，机器学习与推断统计学联系尤为密切，也被称为统计学习理论。算法设计方面，机器学习理论关注可以实现的，行之有效的学习算法。

来源：Mitchell, T. (1997). Machine Learning. McGraw Hill.

参数技术

在数学和统计学裡，参数（英语：parameter）是使用通用变量来建立函数和变量之间关系（当这种关系很难用方程来阐述时）的一个数量。

来源：维基百科

神经网络技术

（人工）神经网络是一种起源于 20 世纪 50 年代的监督式机器学习模型，那时候研究者构想了「感知器（perceptron）」的想法。这一领域的研究者通常被称为「联结主义者（Connectionist）」，因为这种模型模拟了人脑的功能。神经网络模型通常是通过反向传播算法应用梯度下降训练的。目前神经网络有两大主要类型，它们都是前馈神经网络：卷积神经网络（CNN）和循环神经网络（RNN），其中 RNN 又包含长短期记忆（LSTM）、门控循环单元（GRU）等等。深度学习是一种主要应用于神经网络帮助其取得更好结果的技术。尽管神经网络主要用于监督学习，但也有一些为无监督学习设计的变体，比如自动编码器和生成对抗网络（GAN）。

来源：机器之心

准确率技术

分类模型的正确预测所占的比例。在多类别分类中，准确率的定义为：正确的预测数/样本总数。在二元分类中，准确率的定义为：(真正例数+真负例数)/样本总数

来源：Google ML Glossary

映射技术

映射指的是具有某种特殊结构的函数，或泛指类函数思想的范畴论中的态射。逻辑和图论中也有一些不太常规的用法。其数学定义为：两个非空集合A与B间存在着对应关系f，而且对于A中的每一个元素x，B中总有有唯一的一个元素y与它对应，就这种对应为从A到B的映射，记作f：A→B。其中，y称为元素x在映射f下的象，记作：y=f(x)。x称为y关于映射f的原象*。*集合A中所有元素的象的集合称为映射f的值域，记作f(A)。同样的，在机器学习中，映射就是输入与输出之间的对应关系。

来源：Wikipedia

强化学习技术

强化学习是一种试错方法，其目标是让软件智能体在特定环境中能够采取回报最大化的行为。强化学习在马尔可夫决策过程环境中主要使用的技术是动态规划（Dynamic Programming）。流行的强化学习方法包括自适应动态规划（ADP）、时间差分（TD）学习、状态-动作-回报-状态-动作（SARSA）算法、Q 学习、深度强化学习（DQN）；其应用包括下棋类游戏、机器人控制和工作调度等。

来源：机器之心

GPT-2技术

GPT-2是OpenAI于2019年2月发布的基于 transformer 的大型语言模型，包含 15 亿参数、在一个 800 万网页数据集上训练而成。据介绍，该模型是对 GPT 模型的直接扩展，在超出 10 倍的数据量上进行训练，参数量也多出了 10 倍。在性能方面，该模型能够生产连贯的文本段落，在许多语言建模基准上取得了 SOTA 表现。而且该模型在没有任务特定训练的情况下，能够做到初步的阅读理解、机器翻译、问答和自动摘要。

来源：OpenAI博客