Auto Byte

专注未来出行及智能汽车科技

微信扫一扫获取更多资讯

Science AI

关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展

微信扫一扫获取更多资讯

Graphcore发布全新IPU芯片产品Bow系列:性能提升达40%

3 月 3 日,Graphcore 正式发布全新 IPU 系统产品:Bow 系列。

Bow Pod 系统产品采用了全球首款 3D Wafer-on-Wafer 处理器 Bow IPU,后者为新一代 Bow Pod AI 计算机系统核心。与上代产品相比,它可为实际 AI 应用提供高达 40% 的性能提升和 16% 的电源效率提升,同时价格保持不变,且无需更改现有代码。

Bow 的名称源于伦敦的一处地名。

同时,Graphcore 将于 2024 年交付全球首台超级智能计算机 Good Computer。Graphcore 正在开发新一代 IPU 技术,为这款 Good Computer 提供超过 10 Exa-Flops 的 AI 浮点计算;最高可达 4PB 的存储,带宽超过 10PB / 秒;支持超过 500 万亿参数的 AI 模型;3D Wafer-on-Wafer 逻辑栈;同时获得 Poplar SDK 的完全支持。该计算机预计价格在 100 万美元至 1.5 亿美元(取决于配置)。这款超未来的智能计算机之所以被命名为 Good,是向计算机科学家先驱 Jack Good(杰克 · 古德)致敬。

Graphcore 大中华区总裁兼全球首席营收官卢涛表示:「随着 AI 计算市场的整体快速发展,客户需要兼顾性能、效率和可靠性的计算机系统。我们发布新一代 IPU,正是为了支持全球技术开发者和创新者在 AI 计算领域取得新的技术突破,实现高质量发展。我们希望不断开拓 IPU 在中国的 AI 应用场景,通过 IPU 赋能高效 AI 计算,支持中国创新者不断推进机器智能的边界。」

Bow Pod 性能

旗舰产品 Bow Pod256 提供超过 89 PetaFLOPS 的 AI 计算,而超大规模 Bow Pod1024 可提供 350 PetaFLOPS 的 AI 计算,支持机器学习工程师在 AI 模型规模呈指数增长的情况下仍可领先一步,在机器智能领域取得新的技术突破。

Bow Pod 旨在为各种 AI 应用大规模提供真实世界的性能,从用于自然语言处理的 GPT 和 BERT 到用于计算机视觉的 EfficientNet 和 ResNet,再到图神经网络和许多其他应用。

在与配有 Bow Pod 系统的 Mk2 IPU-Pod 系统相同的峰值功率范围内,客户发现各种 AI 应用的性能提升高达 40%。

对于最先进的计算机视觉模型 EfficientNet,Bow Pod16 性能比同类 Nvidia DGX A100 系统提升 5 倍以上,而价格只有一半,因而总体拥有成本提升高达 10 倍。

与上代产品相比,除了 40% 的性能提升,Bow Pod 系统还可以大幅提高电源效率。经过一系列实际应用测试表明,Bow Pod 的每瓦性能最高可提升 16%。

Wafer-on-Wafer 创新技术

Bow Pod 系统核心的 Bow IPU 处理器采用了全球首项 3D 半导体技术,从而支持 Bow Pod 系统实现了巨大的性能提升和更高的电源效率。Wafer-on-Wafer 3D 技术由 Graphcore 与台积电合作开发。Wafer-on-Wafer 技术有潜力在硅片之间提供更高的带宽,从而优化电源效率,在晶圆级别提升 Colossus 架构的功率。

Bow IPU 中的 Wafer-on-Wafer,两个晶圆结合在一起,产生一个新的 3D 裸片。其中一个晶圆用于 AI 处理,在架构上与 GC200 IPU 处理器兼容,拥有 1472 个独立的 IPU-Core tile,能够运行超过 8800 个线程,具有 900MB 的处理器内存储,而第二个晶圆拥有供电裸片。

通过在供电裸片中添加深沟槽电容器,位置在处理内核和存储旁,我们能够更高效地供电,从而实现 350 TeraFLOPS 的 AI 计算,实现 40% 的性能提升。通过与台积电紧密合作,我们充分验证了整套技术,包括背面硅通孔(BTSV)和 Wafer-on-Wafer(WoW)混合键合中的多项突破性技术。

作为 Bow Pod 系统的组成部分,最新 Bow-2000 IPU Machine 采用了与第二代 IPU-M2000 machine 同样强大的系统架构,但现在配备了四个强大的 Bow IPU 处理器,可提供 1.4 PetaFLOPS 的 AI 计算。

Bow-2000 可以完全向后兼容现有的 IPU-POD 系统,其高速、低时延的 IPU 结构和灵活的 1U 外形尺寸保持不变。Bow-2000 是整个 Bow Pod 系列的基础组成部分。Bow-2000 可安装在戴尔、Atos、Supermicro、浪潮和联想等领先品牌的主机服务器上,从而组成 Bow Pod 系统。整个 Bow Pod 系列包括 Bow Pod16(4 台 Bow-2000 和一台主机服务器)、Bow Pod32(8 台 Bow-2000 和一台主机服务器)、Bow Pod64 以及更大的旗舰系统 Bow Pod256 和 Bow Pod1024。

Graphcore 在发布活动中表示,最新 Bow Pod 系统现已上市,并开始在全球范围内发货。

产业GraphcoreAI 芯片技术
暂无评论
暂无评论~