寓扬作者

AI芯片最重要的是什么?Arm中国:背后的软件生态

「在2020年之前,对整个产业来说谁的软件好用,谁就能真正的掌控市场。」


撰文 | 寓扬

去年11月份,面向广阔的物联网市场,Arm中国推出人工智能平台「周易」,它主要包括人工智能处理单元(AIPU),以及软件框架Tengine。当时Arm中国称,通过周易平台,能够把芯片的开发周期缩减3-5倍,提升人工智能应用开发的生产效率。

值得一提的是,2018年Arm在中国进行业务分拆后,Arm中国成为中方占主导的合资公司。周易平台也是由Arm中国自主研发。

在最近的一次媒体沟通会中,Arm中国进一步介绍了周易平台,尤其是AIPU的特性,并着重介绍了周易平台的落地应用情况,以及相比时下火热的RISC-V架构的优势。

AI芯片最重要的是什么?Arm中国给出的答案是,芯片背后的整套软件工具链。可以预测,在2020年之前,对整个产业来说谁的软件好用,谁就能真正的掌控市场。

1  周易平台降低AI芯片研发门槛 

软银董事长孙正义曾预测,2035年全球将有万亿级IoT设备在线。相比而言,PC时代的容量大约为10亿台,智能手机的容量约为60亿部,而物联网所带来的设备体量将会是成百上千倍的增长。

Arm中国每年的销量统计数据也有力的支撑这一预测。Arm中国生态发展副总裁、OPEN AI LAB创始人兼CEO金勇斌也介绍道,从1991年到2017年,Arm花了近26年实现了1000亿基于Arm芯片的设备。但从2017年开始每年有250亿台基于Arm芯片的设备,预计到2020年,这4年就会实现第二个1000亿。以此估算,到2035年达到1万亿连接设备,这一观点并不激进。

正是看到AI与IoT领域的市场前景,去年在世界互联网大会期间,Arm中国推出AI平台「周易」。它主要包括两部分,一部分是平台上的软件框架Tengine,用来承载算法应用;另一部分是AI处理单元AIPU,专门处理深度神经网络为代表的AI计算。可以说,Tengine软件框架和AI处理单元构成了周易平台的核心要素。 

其中,Tengine框架不依赖于AIPU或者专用AI芯片,现有的成熟芯片通过Tengine框架可以把算力提取出来,在本地进行一些AI应用的处理,从而提高了芯片性能,并降低成本。

据金勇斌介绍,现在很多基于周易平台Tengine的使用场景已经落地,比如行车记录仪、ADAS、安防中的人脸识别门禁和闸机等。

他举例介绍道,一个客户开发了一套智能人口管理系统,在单元楼下安装摄像头后,以前需要将采集的人脸数据传到后端数据中心进行处理。现在通过Tengine架构,不需要改动硬件,摄像头就可以自动在前端进行人脸识别,这样大大减少了网络部署成本。据他估算,周易平台所带来的效率提升,可节省近10倍成本。

整体而言,金勇斌称,通过周易平台可以降低AI芯片开发的两个门槛:第一个是SoC集成AI功能的设计门槛,Arm中国可以提供参考设计,提供IP;第二点是降低上层软件的开发门槛,因为仅有芯片还远远不够,芯片之上的软件框架,以及这背后的整套软件工具链都尤为关键。软件最终决定能不能大规模使用,对整个产业来说谁的软件好用,谁就能真正地掌控市场。 

2  DSP的局限

周易平台的另一个核心要素是人工智能处理单元AIPU,Arm中国重点介绍了AIPU的特性,以及它相对于市面上另一种流行架构DSP的优势。

Arm中国资深产品经理高锦炜介绍道,AIPU的最大特点是拥有一套AI和神经网络优化指令集,这个指令集也遵循Arm一直以来的生态方式,接下来的每一代处理器都会向前兼容这个指令集,从而保证整体软件生态的延续。此外,周易AIPU还支持可扩展的指令集。

在硬件设计上,周易AIPU兼顾了神经网络处理器所需要的高效率,以及编程的灵活性。目前AI算法迭代很快,基本以一年为开发周期,而芯片的开发周期往往至少要3年。这种不对等性,就需要保持AI处理单元具有灵活的可编程性,从而适应不同的算法。

在软件方面,周易平台提供了一整套完整的工具链,从IP开发到软件开发,包括编译器、性能优化库等,从而提供一键式开发服务。

针对周易AIPU的落地情况,他称目前已经有唱衰基于AIPU做芯片设计,最快明年年中可以看到芯片推出。

目前产业界不少企业用DSP来做AI处理,针对这种状况,高锦炜提出了他的看法。他认为DSP跟CPU一样已经发展了二十几年,但一直没有形成一个比较好的生态,这是因为DSP在设计过程中存在一些缺陷。

一方面,目前存在多个DSP架构,不同DSP架构之间并不兼容,这分散了整个产业软件投入的资源和开发精力;另一方面,DSP的开发没有软件生态维护的概念,这会造成即使是同一个厂家,第一代DSP的指令集或者软件程序,无法使用在第二代DSP上。这对于软件开发来说可能是灾难性的。

3  软件生态决定市场走向

 随着物联网的蓬勃发展,新的开源指令集架构RISC-V在芯片江湖可谓声名鹊起。拥抱RISC-V的一种观点称,「RISC-V是IoT时代最适合的处理器架构」,因为从技术的角度来讲,RISC-V具备延展性,非常灵活,既可以做低功耗,也可以做复杂的AI计算。此外,它还具备更强的成本优势。

周易平台则是Arm架构从移动互联网向物联网的延伸,Arm中国又如何看待RISC-V架构的兴起?

金勇斌称,CPU做好其实并不容易,早期CPU有各种各样的架构,RISC-V也不是第一个开源的架构。世界上很多老牌的CPU厂商,包括TI、高通、海思等,他们原来也自己设计CPU,但后来都用了Arm架构,这取决于Arm在低功耗、高性能上的显著优势。AIoT时代,CPU要求更低的功耗,特别是芯片上面需要有软件生态,而RISC-V的软件生态什么时候形成还不清楚。

显然他想表达Arm在架构以及软件生态上的优势,接下来Arm也会依托这也优势进军IoT市场。

面对一个新的IoT市场,新的架构、新的芯片都会涌现,然而做一款芯片只是第一步,背后的软件生态和工具链将会决定这个市场的走向。

产业ARMAI芯片
1
相关数据
来也机构

「来也」是国内领先的人工智能交互平台,由常春藤盟校(Ivy League)归国博士和MBA团队发起,核心技术涵盖自然语言处理(NLP)、多轮对话控制和个性化推荐系统等。公司已获得数十项专利和国家高新技术企业认证。 来也的愿景是通过AI赋能,让每个人拥有助理。C 端产品小来是智能化的在线助理,通过业内创新的AI+Hi模式,提供日程、打车、咖啡、差旅和个性化查询等三十余项技能(覆盖400w用户和数十万服务者),让用户用自然语言发起需求并得到高效的满足。B端品牌吾来输出知识型的交互机器人和智能客户沟通系统,帮助各领域企业客户打造行业助理。目前已经在母婴,商旅,金融和汽车等行业的标杆企业实现商业化落地。

https://www.laiye.com/
高通机构

高通公司(英语:Qualcomm,NASDAQ:QCOM)是一个位于美国加州圣地亚哥的无线电通信技术研发公司,由加州大学圣地亚哥分校教授厄文·马克·雅克布和安德鲁·维特比创建,于1985年成立。两人此前曾共同创建Linkabit。 高通公司是全球3G、4G与5G技术研发的领先企业,目前已经向全球多家制造商提供技术使用授权,涉及了世界上所有电信设备和消费电子设备的品牌。根据iSuppli的统计数据,高通在2007年度一季度首次一举成为全球最大的无线半导体供应商,并在此后继续保持这一领导地位。其骁龙移动智能处理器是业界领先的全合一、全系列移动处理器,具有高性能、低功耗、逼真的多媒体和全面的连接性。目前公司的产品和业务正在变革医疗、汽车、物联网、智能家居、智慧城市等多个领域。

人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

人脸识别技术

广义的人脸识别实际包括构建人脸识别系统的一系列相关技术,包括人脸图像采集、人脸定位、人脸识别预处理、身份确认以及身份查找等;而狭义的人脸识别特指通过人脸进行身份确认或者身份查找的技术或系统。 人脸识别是一项热门的计算机技术研究领域,它属于生物特征识别技术,是对生物体(一般特指人)本身的生物特征来区分生物体个体。

神经网络技术

(人工)神经网络是一种起源于 20 世纪 50 年代的监督式机器学习模型,那时候研究者构想了「感知器(perceptron)」的想法。这一领域的研究者通常被称为「联结主义者(Connectionist)」,因为这种模型模拟了人脑的功能。神经网络模型通常是通过反向传播算法应用梯度下降训练的。目前神经网络有两大主要类型,它们都是前馈神经网络:卷积神经网络(CNN)和循环神经网络(RNN),其中 RNN 又包含长短期记忆(LSTM)、门控循环单元(GRU)等等。深度学习是一种主要应用于神经网络帮助其取得更好结果的技术。尽管神经网络主要用于监督学习,但也有一些为无监督学习设计的变体,比如自动编码器和生成对抗网络(GAN)。

深度神经网络技术

深度神经网络(DNN)是深度学习的一种框架,它是一种具备至少一个隐层的神经网络。与浅层神经网络类似,深度神经网络也能够为复杂非线性系统提供建模,但多出的层次为模型提供了更高的抽象层次,因而提高了模型的能力。

物联网技术技术

物联网(英语:Internet of Things,缩写IoT)是互联网、传统电信网等信息承载体,让所有能行使独立功能的普通物体实现互联互通的网络。物联网一般为无线网,而由于每个人周围的设备可以达到一千至五千个,所以物联网可能要包含500兆至一千兆个物体。在物联网上,每个人都可以应用电子标签将真实的物体上网联结,在物联网上都可以查出它们的具体位置。通过物联网可以用中心计算机对机器、设备、人员进行集中管理、控制,也可以对家庭设备、汽车进行遥控,以及搜索位置、防止物品被盗等,类似自动化操控系统,同时通过收集这些小事的数据,最后可以聚集成大数据,包含重新设计道路以减少车祸、都市更新、灾害预测与犯罪防治、流行病控制等等社会的重大改变,实现物和物相联。

推荐文章
暂无评论
暂无评论~