9 月 3 日上午,国内高端芯片设计公司瀚博半导体在 2022 世界人工智能大会 WAIC 上亮相。
会上,瀚博半导体创始人兼 CEO 钱军发布了瀚博统一计算架构、全新数据中心推理卡载天 VA10、边缘 AI 推理加速卡载天 VE1 和瀚博软件平台 VastStream 扩展版,并预览了国产 7nm 云端 GPU 芯片 SG100。
统一计算架构、AI 芯片和软件平台
瀚博提出了自主研制的统一计算架构(Vastai Unified Compute Architecture)。该架构整合了多款高性能计算引擎,拥有高效统一的存储管理、一致性接口和低链接延迟、完整的虚拟化功能、统一的底层软件设计、模块化的上层计算算子库和功能模块。
瀚博统一架构让计算密集型的 AI、视频、渲染任务性能得到最大化硬件加速,同时端到端缩小延时,一体化助力云端实时图形渲染、AI 增强处理、视频编解码等需求。
在活动中,瀚博发布了数据中心推理卡 VA10。这款加速卡搭载瀚博自研的超低延时超高吞吐 AI 引擎,最大的亮点在于,Int8 峰值算力达 400 TOPS,刷新了业界纪录。VA10 功耗 150 瓦,最高吞吐率却达到同功耗主流 GPU 的 2 倍,且延时不到后者的 5%。在低延时场景(低于 1 毫秒的 ResNet50 分类算法场景)下,吞吐率达到了同功耗市场主流 GPU 的 3~4 倍。
VA10 的整体推理性能,也超过了市面上功耗更大的双宽旗舰推理 GPU 性能,适合多种需要高实时性的云端 AI 应用部署,如直播视频增强、智慧交通管理、实时语义理解等场景。
在边缘算力方面,瀚博发布了首款面向边缘大算力场景的 VE1 系列。值得关注的是,VE1 兼具超低时延与超高吞吐量,吞吐量达到主流 GPU 的 2 倍,最高吞吐量下时延仅为主流 GPU 的 1/5,高并发低延时等特性,使得 VE1 非常适用于智慧交通 / 全息路口、工业质检等复杂场景。
更重要的是,VE1 功耗低、算力大,在 40~65 瓦功耗下,INT8 峰值算力达 100 TOPS,这款极速卡支持 60 路 1080P 视频实时解码,支持主流 AI 框架的模型和融合、自定义算子,提供从模型编译到推理优化的全流程低代码开发框架,为客户提供端到端的 AI 推理解决方案。其主动和被动散热设计,可胜任各种复杂环境。
基于超高吞吐量和超低时延的优势,VE1 可在众多关键场景发挥重要作用,比如高速公路事件检测、人车非视频结构化、大数据研判等超高数据并发场景;再比如,道路实时动态信息交互、消费电子产品的缺陷检测等场景,VE1 均发挥出色,因此在智慧交通、智慧城市、工业质检等领域极富竞争力。
硬件要发挥最佳性能,更需要软件的同步支持。因此,瀚博新发布的统一软件平台 VastStream 应运而生,这一软件平台功能强大,可加速各类 AI 应用部署,包括计算机视觉、视频处理、自然语言处理、搜索与推荐、算子自定义扩展等。
VastStream 的新软件组件,提供系统管理等三大管理工具,方便客户部署,同时其基础软件栈功能丰富加强,特性包括通用 AI 计算、多路高效视频转码 + AI 增强、易编程快迁移、工具链完备等。
截至目前,瀚博已形成一条涵盖了芯片、推理加速卡、一体机的加速计算产品线和软件整合解决方案。成立三年多来,瀚博半导体已成功推出近十款产品,进一步加大了国产 AI 芯片行业的领先优势。
预览首款国产 7nm 云端 GPU
近一段时间,国内芯片厂商纷纷投入 GPU 技术的研发。会上,瀚博半导体创始人兼 CEO 钱军展示了云端 GPU 芯片 SG100 的部分技术细节。这款芯片拥有业界第一的超高吞吐、超高质量、低延时的编码能力,具备业界领先的图形渲染性能,集渲染、AI、视频于一体,为云游戏、云手机、云桌面、云计算等元宇宙关键性应用场景提供深度优化。
同时,SG100 提供世界一流的 SR-IOV 虚拟化支持,具备极佳用户视觉体验,集成 AI 视频增强与高质量视频编码,端到端整体提升用户视觉体验。
瀚博 CEO 钱军在活动中
瀚博半导体 CEO 钱军曾是 AMD 高管,在创办瀚博半导体之前,他曾带领 AMD 中国团队设计量产了业界第一颗 7 纳米图形处理器和第一颗 7 纳米 GPGPU 架构的 AI 芯片。据悉,瀚博的核心研发团队拥有 15 年以上高端芯片设计和量产的经验。
SG100 的到来,标志着瀚博正式迈入了 GPU 公司行列。未来瀚博将基于 GPU 和 AI 芯片带来更多产品组合,更好地满足市场、客户的需求。
打造应用生态
在人工智能、元宇宙等领域快速发展的今天,AI 芯片作为新型算力基础设施,将发挥至关重要的作用。瀚博半导体在积极研制业界领先的 AI 芯片的同时,一直在积极部署产业落地,助推数字经济发展。
2022 年以来,瀚博先后与福建大数据集团、国宁瑞能,高新兴、超聚变等行业领先企业,在智慧城市、智慧政务、智慧交通、智慧园区、智慧能源等多元场景,开展深入合作,为企业智能化、数据化提供国产 AI 算力解决方案。为了促进技术生态的发展,瀚博也联合全球顶级的技术、人才、机构和高校建立了合作关系。
会上,瀚博与上海交通大学人工智能研究院签约,宣布开展校企合作,瀚博希望通过产学研用联盟的方式,吸引更多优秀人才,推动技术进步、人才培养、科研成果转化,建立智能芯片生态。