7 月 4 日,Graphcore(拟未)正式发布其参与 MLPerf 测试的最新结果。本次提交中,Graphcore 使用新发布的 Bow 系统分别在图像分类模型 ResNet-50 和自然语言处理模型 BERT 上实现了和上次提交相比高达 31% 和 37% 的性能提升。
此外,Graphcore 还新增了语音转录模型 RNN-T 的提交。
本次 MLPerf 提交中,首次有第三方使用了 Graphcore 的系统。百度飞桨使用 Graphcore 系统进行了 BERT 的提交,并展现出和 Graphcore 的 BERT 提交几乎一致的性能,证明了 Graphcore 的 IPU 所提供的性能可以有效地跨框架复现,以及 IPU 生态进一步繁荣的潜力。
Graphcore 此次在封闭分区面向 ResNet-50 和 BERT 两个模型提交了以 3D WoW 处理器 Bow IPU 为核心的 Bow 系统,包括 Bow Pod_16、Bow Pod_64、Bow Pod_128 和 Bow Pod_256。和前代产品相比,Bow 系统在提供更优性能的同时价格保持不变,进一步提升了 Graphcore 系统的性价比优势。
结果显示,与上次提交相比,ResNet-50 的训练时间提升高达 31%,BERT 的训练时间提升高达 37%。
在 GPU 占据优势的模型 ResNet-50 上,Bow Pod_16 仅耗时 19.6 分钟,表现优于 NVIDIA 的旗舰产品 DGX-A100 640GB 所需的 28.7 分钟,再一次体现了 Bow 系统的性价比优势。
除此之外,Graphcore 还提交了 RNN-T 在开放分区中的结果。RNN-T 是一种进行高度准确的语音识别的精密方式,在移动设备上被广泛使用。在 Bow Pod_64 上,RNN-T 的训练时间可以从原本的几周缩短到几天。
Graphcore 中国工程副总裁、AI 算法科学家金琛表示:“对于本次 MLPerf 取得的出色成绩,我们感到非常自豪,这与 Graphcore 始终坚持创新密不可分。我们也非常高兴能够与百度飞桨联合进行提交,通过与百度飞桨的合作加速 IPU 生态系统的扩展,为产业赋能,推动各领域产业 AI 化转型和升级。未来我们也将继续创新,应对不断增长的 AI 计算挑战,助力 AI 计算的演进。”
在本次 MLPerf Training 2.0 的提交中,百度飞桨使用 Bow Pod_16 和 Bow Pod_64 进行了 BERT 在封闭分区的提交,结果与 Graphcore 使用 PopART 进行提交的结果几乎一致。这充分证明了 Graphcore IPU 性能的跨框架复现能力。这一能力的实现得益于 Graphcore 灵活的硬件系统、持续优化的软件、强大的本地支持和合作伙伴的支持。正如此次提交,百度将 Graphcore 的 Poplar与飞桨软件框架相结合,实现了出色的性能结果。
百度飞桨产品团队负责人赵乔表示:“百度飞桨与 Graphcore 的合作,在本次 MLPerf 上获得了十分优秀的成果。Graphcore 的 IPU 系统在合作中展现了出色的性能,在许多应用场景都展现出了巨大的应用潜力。我们期待进一步加深与 Graphcore 在硬件生态共创计划中的合作,以创新的技术加速 AI 产业落地,推动 AI 产业变革。”
百度飞桨已经实现了对于 IPU 的全面支持。Graphcore 是百度飞桨硬件生态圈的创始成员,并在 2022 年 5 月正式加入了百度飞桨发起的硬件生态共创计划。据悉,Graphcore 和百度飞桨的合作是多方面的。
首先,双方将继续携手推进技术创新上的工作;
其次,在 MLPerf 等生态方面展开技术合作,在开发者层面希望和 Graphcore 一起以飞桨平台为依托提供更好的产品化的开发者专区或社区,让更多开发者使用飞桨加上 Graphcore 的方案;
最后,在商业落地和信息生态方向,在百度智能云或外部一些商业用户聚焦整体的飞桨 + Graphcare 产品方案的情况,此外还关注 AI for science 领域如生物制药等。