2023/07/27 15:44

对标Llama 2，OpenAI开源模型G3PO已在路上

为了对抗 Meta 的开源大模型系列，OpenAI 也计划推出自己的开源模型。

这一次，OpenAI 成了跟进者。

上个星期，Meta 在微软大会上发布的 Llama 2 被认为改变了大模型的格局，由于开源、免费且可商用，新版羊驼大模型立刻吸引了众多创业公司、研究机构和开发者的目光，Meta 开放合作的态度也获得了业内的一致好评，OpenAI 面临着回应 Meta 开源人工智能技术战略的压力。

GPT-4 虽然被一致认为能力领先，但 OpenAI 却并不是唯一一个引领方向的公司。在大模型领域，开源预训练模型一直被认为是重要的方向。

GPT-4 因为不提供开源版本而时常受到人们诟病，但 OpenAI 并不一定会坚持封闭的道路，其正在关注开源的影响。两个月前，有消息称该公司打算发布自己的开源模型以应对竞争。近日，据外媒 Information 报道，OpenAI 内部已有具体计划，未来即将开源的大模型代号为「G3PO」。

此前，Meta 的开源策略在机器学习的很多领域取得了成功。起源于 Meta 的开源软件项目包括 React、PyTorch、GraphQL 等。

在开源问题上，OpenAI 尚未准备好承诺发布自己的开源模型，并且内部尚未决定开源的时间表。

众所周知，大模型领域最近的发展速度极快。OpenAI 虽然已经转向，但并没有快速出手回应 Llama 系列，Information 在此引用了两个可能的驱动因素：

OpenAI 的团队规模较小，并不专注于推出为客户提供定制化大模型的商店。虽然这将是吸引开发者，并抵御 Meta 和 Google 的另一种途径。
OpenAI 还希望打造个性化的 ChatGPT Copilot 助手。据消息人士透露，推出真正的「Copilot」将使 OpenAI 与微软直接竞争，有一些左右互搏的意思，而且这一努力「可能需要数年时间」。

开源的 OpenAI 版大模型可能会在不久之后问世，但 OpenAI 仍然希望坚持「开发先进闭源模型和非先进开源模型」的思路，这将产生足够收入，形成技术开发的正循环，并且更容易让开发者倾向于为最先进模型付费。

不过正如 Llama 2 推出时人们所讨论的，大模型的发展并不一定会朝着科技巨头 + 高投入 + 闭源的方向一直前进下去，随着利用 Llama 2 的商业应用程序开始传播，大模型技术的世界可能会发生重组。

在 OpenAI 看来，开发人员快速采用开源模型已经被视为一种威胁，目前该公司也正在尝试一系列方向。

最近，OpenAI 成立了一个新的小组 Superalignment，希望在四年内实现 AGI（通用人工智能）。此外，有传言称 OpenAI 可能很快就会推出应用程序商店和个性化版本的 ChatGPT。所以目前来说，G3PO 只是他们众多未来项目之一。

谁将首先实现 AGI？看起来这个问题目前还没有明确的答案。

参考内容：

https://www.theinformation.com/articles/pressure-grows-on-openai-to-respond-to-metas-challenge/

https://www.reddit.com/r/ChatGPT/comments/158qjrg/openais_upcoming_opensource_llm_is_named_g3po_but/

理论Llama 2

相关数据

机器学习技术

机器学习是人工智能的一个分支，是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论，机器学习与推断统计学联系尤为密切，也被称为统计学习理论。算法设计方面，机器学习理论关注可以实现的，行之有效的学习算法。

来源：Mitchell, T. (1997). Machine Learning. McGraw Hill.

人工智能技术

在学术研究领域，人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体（intelligent agent）

来源：Russell, S., & Norvig, P. (2003). Artificial Intelligence: A Modern Approach.

通用人工智能技术

通用人工智能（AGI）是具有一般人类智慧，可以执行人类能够执行的任何智力任务的机器智能。通用人工智能是一些人工智能研究的主要目标，也是科幻小说和未来研究中的共同话题。一些研究人员将通用人工智能称为强AI（strong AI）或者完全AI（full AI），或称机器具有执行通用智能行为（general intelligent action）的能力。与弱AI（weak AI）相比，强AI可以尝试执行全方位的人类认知能力。

来源：wikipedia

Infor机构

Infor是一家跨国企业软件公司，总部设在美国纽约市。Infor专注于通过云计算作为服务交付给组织的业务应用。最初专注于从财务系统和企业资源规划(ERP)到供应链和客户关系管理的软件， Infor在2010年开始专注于工业利基市场的软件，以及用户友好的软件设计。Infor通过Amazon Web Services和各种开源软件平台部署云应用。

www.infor.com