人工智能时代,硬件、算法、行业怎么变?这里是英特尔中国研究院院长的答案

12 月 17 日,来自英特尔中国研究院的宋继强院长,在 2016 中国人工智能产业大会现场做了题为《英特尔人工智能赋予明日精彩体验》的主题分享。

从人工智能火热的催生、要不要提供人工智能专用芯片,到接下来人工智能可能应用的行业和方式,再到英特尔对硬件及算法的思考,宋继强院长都给出了中肯的分析和案例。

以下为机器之心整理的现场分享内容,以飨读者。

数据洪流催生的人工智能火热


最近人工智能是一个非常非常火的词,从通过人工智能去玩游戏,到通过人工智能下象棋;从无人驾驶,到智能机器人,都非常非常火。人工智能突然变到一个非常高的高度,实际上跟数据有很大的关系。

目前我们正处在数据洪流中,2020 年会有 500 亿的智能设备连入互联网,包括个人、日常生活的周遭、环境中、车里面、医院里、交通工具和工厂等等,都在大量使用智能设备。

这些智能设备会产生各种各样的数据,数据促使我们训练人工智能的算法,同时这些数据也通过训练好的人工智能算法产生更大的增值价值。这也是为什么人工智能吸引了这么多科研人员和企业,大家一起把资源贡献出来。

如何把握好人工智能的应用,跟怎么能够驾驭数据洪流非常有关系。我们认为,关键是搞好端到端的集成。那么多不同种类的设备,个头有大有小,采集来的数据种类很多,通常不是传统的结构化数据。怎样很好的利用云端和终端协同计算能力,让他们之间无缝并保持高速的传输能力、存储能力,从而构建端到端的解决方案行程良性循环,这是我们深刻相信的未来场景。

英特尔也在为这件大事进行布局,从终端到云端,包括中间的通讯链路、存储都有解决方案。我们收购了前端的视觉芯片深度学习公司,也有云端专门根据人工智能做定制芯片的公司,后面我会逐步介绍一下。

现在,是不是制造人工智能专用芯片的时间节点?


人工智能已经发展了 60 年,但在历史发展的长河中仍处在早期阶段。怎么看一个技术是否已经达到成熟阶段?至少有三点:第一,看它的应用是否已经普及到各行各业,即应用的广泛度;第二,是否已经有标准,不管是国家标准还是行业标准,是否已经有标准开始在制定和落地;第三,是否已经有专用的硬件开始在市面上使用,这一点是比较重要的。大家都知道做硬件第一是费钱,第二是周期长。在产业没起来之前,硬件厂商是不会铺进去的。

Robert Noyce 是英特尔的创始人之一,也是硅谷之父。他很早就研究脑科学,那时的计算机技术都用来为大脑建模,观察人脑是怎么工作的。反过来怎么利用我们在脑科学上得到的一些认知和新奇的想法,去促进计算机科学或者计算架构的发展,为这个领域提供更好的计算能力,也是我们正在考虑的事。

以深度学习举例,我们训练出一个很广、很深的深度学习模型,直接变成一个硬件是不太可能的,而且也是低效的。高效的办法是什么?我们去分析这个模型,找到懂这个模型的人把它通过硬件描述出来,然后产生硬件的抽象,抽象出里面的数据流。数据是怎么流的,中间的流水线上有哪些重要处理模块,他们各自的时间、带宽要求是怎么样,有哪些计算的语言。里面的计算内核是非常重要的,而且是否有大规模运行和反复运用的机会。在这样的基础上,再做硬件芯片就会有很好的认识。同时我们看哪些放在硬件里面固化,哪些让它去灵活使用。

有这样的认知以后,我们才到了第三步,可以产生出一个针对这种工作负载优化的硬件。这个硬件也不是很快达到要求,一个很好的例子是视频加速芯片。从早期标准,到一代一代每一代都有专用芯片,都有专用的认知。如果这个产业真的发展到了各行各业都要去使用的状态,那这个行业就需要专业模型,而不是在通用的芯片上做模拟。

现在做人工智能的应用,或者说部署云端人工智能计算还是很少。英特尔分析,现在是云端提供绝大部分的计算资源,AI 计算的份额在 10% 左右,还是比较少,但是是会飞速发展的。到 2020 年,AI 计算量将会增长 12 倍。节省电力、体积和资源,我们要不断推动技术创新,不能停留在今天这个阶段,后面有更多的优化方案等着我们。

AI副本.jpg

从英特尔对人工智能的分析来看,人工智能从在学术界开始,定义其目标是让机器具备人的智能处理的能力。哪些能力很重要?三大能力——感知能力、推理能力和行动能力,这三大能力决定了机器人能不能根据外界环境做出智能的决策,同时把决策反馈到外部世界,而且比较稳定。还有一个就是适应性,适应不停变化的环境,有持续、自主、不断增强的学习能力。记忆是目前大家想得比较少的。但是在一个真正的自主系统里记忆非常重要,它帮助你把感知、推理、行动串起来,去适应新的环境。

具体的方法工具上,首先要有大量的数据才能把知识和规则提取出来,才能为我们所用,处理新的数据。第二类是知识驱动,不在于你有多大的数据,可能用很少但非常关键和精准,能推出一个完备的系统。这两部分应该是齐头并进的,不能说哪一块优于另外一块,而是应该互相结合的去做。

Lake Crest,为深度学习量身定制的专用芯片


深度学习目前非常火,原因是什么?因为最近这几年首先有 ImageNet 等提供了大量数据,计算能力大幅提升,存储能力也大幅度提升。这使得我们可以通过深度学习,在某些领域取得比较大的突破。比如视觉识别,计算机人脸识别的能力已经可以超过人。目前在语音的识别和视觉的物体识别两个领域有非常大的突破,我们也看到了这个突破,通过深度学习可以增加性能,而不是把数据增加一百倍,把训练时间增加一百倍。

增加处理器数量是希望能大幅度缩减训练时间,但是光增加处理数量行吗?不行,你会需要一个平台,因为处理器与处理器之间需要通讯,这些通讯有时候是数据通讯,有时候是控制通讯。当通讯的到达瓶颈时,再增加处理器也缩短不了时间。这就是为什么在使用某些架构的时,再增加处理器训练时间也不会减少。这时需要有更高效的技术,同时增加计算密度和通讯带宽,这样才能达到线性增长。

Lake Crest 是英特尔今年 11 月份刚刚对全球发布的代号,这个代号是专门为深度学习定制的一款芯片。这款芯片有几大特色:第一,它的运算设计是为深度学习量身定制,同时它的计算密度也非常高;第二,它把多节点之间的数据访问瓶颈优化掉了,能支持高速内存,同时这个高速内存直接封装在芯片中。这会带来什么好处?在做深度学习训练时,神经网络的每一个节点里既有计算也有数据,而且有的数据还是浮点型。现在,我们可以通过这个硬件技术让每个计算节点有自己的内存接口,这意味着设计模型在做算法训练时,尺寸大小不受太大的限制。

Lake Crest副本1.jpg

这是它的架构图,中间那些绿色的是计算处理单元,提供了我们称为基于张量架构的单元。张量计算架构可以很快速直接进行块运算,比用处理器快很多,Flexpoint 技术也提供很好计算密度。同时这四个黄块直接在一个芯片中封装在一起,有各自独立的 IO 接口,而且距离主芯片非常近。上面的蓝块 ICL,是私有定制芯片间的通讯链路,速度非常快、带宽也很高。12 个 ICL 意味着什么?它可以跟 12 个芯片连接,可以构成一个 12 维的超网络支持运算。这就是有一定灵活性的深度学习计算架构。

我们之前的包括至强融核(Xeon Phi)技术,继续做通用计算的加速。Arria FPGA 可以在功耗和性能优化的情况下做加速,这在 2016 年就实现了。

面对人工智能,算法、终端以及数据库的相应变化


有了硬件,要注意不能放松对算法的研究。所以英特尔内部也和学术界合作,在这几个前沿的领域快速推进深度学习领域的算法和研究。包括怎么更快的训练,怎么更好的利用少一些的数据和监督达到训练的特性,怎么把记忆元素加进去。记忆其实是通过对历史数据的分析和挖掘找出的开展模式,这些模式可以用来大幅提高对训练的指导。

还有怎么把大模型稀疏化和修剪。现在模型和参数非常多,千万、甚至上亿级别的都有,有用的没有那么多。大量参数是为零的,为他存储和计算是在浪费资源。所以要做好模型的稀疏化,让硬件的利用效率最高。另外就是怎么支持更大规模的计算,包括在云端有更多的批量同时运算,在每个节点可以用更高阶的方法做处理。

通过这些技术可以大幅增加模型的并行化计算能力。到了 2020 年,英特尔要在这个软硬件方案集成下,把训练时间相对于今天缩减 100 倍。


刚才讲的是云端。云端训练得非常好、有了模型,但我们在使用时接触到的是终端设备,怎么在终端设备上去部署、使用这些能力呢?这点非常重要,如果云端做得非常好,任何一个数据都需要终端设备采集送到云端再返回,使得设备非常依赖依赖网络,对实时交互来说是无法接受的。我们另一个杀手锏就是在终端这一侧也有很好的硬件方案。我们最近收购了 Movidius,它能提供保留了一定可编程能力的硬件芯片解决方案。低功耗、平台是比信用卡还小的板子、终端嵌入 AI,有更高的能效,更低的宽带需求。同时,延迟更少,对存储开销更少,容错连续性更好。

刚才讲的主要是深度学习。推理也很重要,而且未来越来越依赖推理来降低对大数据的依赖。现实生活中不可能各个应用都有大数据,需要逐步个性化收集记忆和规则,去做人工智能应用的增强。

英特尔有一个 Saffron 的方案,它是一个自然智能平台。在英特尔收购之前,Saffron 专门给波音这种大企业提供零件维修库,这个零件坏了,接下来什么零件可能很快就要坏了,还有每年要定时去检测哪几个零件。这些预防性的知识支持,来自一个独特的、能够记录很多事件的数据库。这个数据库不光可以很好的记录这些事件,分门别类做表述,同时上面也有统计量,这样可以利用机器学习、数据挖掘提取出可以称之为记忆的东西。相似性上可以做一些自动的分类,关联性可以用来看什么趋势、规则、模式,并利用这些趋势做预测。看到前面的事情发生,就知道后面的事情在未来的什么时间点很有可能发生。如果发生了,那就是预测成功,如果没发生,就是一次异常。实际上是在提供基于记忆的一整套方法。

AI 市场仍处在婴儿期


AI 的整个市场仍处于婴儿期,对于想投身于利用 AI 做各种产业的公司和学者来说时尤未晚,还有很多事情可以做。

在英特尔看来,会重度利用 AI 的行业有几个:一个是智能制造会对 AI 有很大的需求,它产生的数据量太多了;第二是智能零售,这里面有人消费的记录、有商品之间关联被购买的信息,有很多的数据;无人驾驶也是非常大的一块,英特尔把无人驾驶也是提升到很高的高度,认为无人驾驶是几年后一个最大的智能平台,可以承载很多种不同业务。但是首要是要把车做出来,让它安全可用,这也会用到很多人工智能技术。同时,精准医疗、智慧城市、互联网金融和体育,都会非常多的应用人工智能的。


举两个例子,其中一个是零售。我们知道零售业是端到端的产业,从生产、仓储到发布广告做推销、推广,看用户体验的反馈再到把货物送到客户手里,是一个很长的链条,整个链条里都有人工智能可以加速的地方。在今年双十一我们和京东联合做了一些试验,效果很好。没有用到之前说的至强融核的新技术,就是在英特尔至强处理器上做优化,在非法检测图片应用性能提升了 4 倍,图片版权保护应用也提升了 2 倍。

另外一个全球性领域——医疗,也是数据非常多的行业。为什么说中国区有很好的机会呢?华大基因做了很好的基因测序工作,而且这个工作在全世界是领先的。英特尔的目标是精准医疗,大幅缩短使用周期和成本。现在针对类似癌症的定制化个性化医疗方案,不光要花不少钱做基因测序,还要等一星期,结果才能出得来。我们的目标是到 2020 年,和行业伙伴一起把这个时间缩短到一天,价格也大幅下降。一天之间做基因测序、分析、并将其他医学影像处理分析,根据这些数据做个性化诊疗,给出个性化的医疗方案,这个对于大众来讲有非常重要的意义。

一个面向所有人的人工智能学院


目前英特尔推出了 Nervana 人工智能学院,是我们同全球领先的行业、企业领袖和学术界的重要教授们一起合作的结果。除了硬件方面的支持之外,还会给大家展示怎样做解决方案,而且这个解决方案一定是端到端平台支持的,不能只提供一个模块。因为这个模块的用户很多不知道嵌入到系统里怎么做,怎么做到最好,所以端到端的方案是非常有用的。同时,要对这个算法有广泛的支持,能够适应新算法。深度学习也好,人工智能也好,由于大量的精英加入算法更迭速度是很快的,通常一个星期就有一些新算法出来。怎么支持到这些广泛算法,这是软硬件系统、不是一个硬件公司自己推动的事,要结合产业界很多做软件的思路。还要把它提供出来,跨行业合作。

为了能够更广泛支持行业里各种开源的深度学习框架,我们通过 Nervana Neon 框架做跟硬件无关的适配,可以利用它的图编译器。深度学习 SDK 可以帮助数据科学家分析哪些数据比较有用,怎么产生一个好的模型;支持这些非深度学习专家把模型整合到方案中去,最终支持很方便的测试看部署以后的效果,并形成一个好的迭代。这些都是我们非常想与整个生态一起合作共赢的事情。

对英特尔来讲,主要提供的是两层东西:最底层就是硬件支持,我们会长期提供各种层级、端到端的硬件支持,而且不只是芯片还包括了存储和网络方面的能力;第二是我们会提供一个中间层,保证现在开源的内容在平台上可以很容易使用起来,不会增加开发人员、研究人员重新学习平台的负担。有这样的支持以后,我们相信再往上去做几个比较主流的行业应用的时候,大家会更得心应手,也会提高整个人工智能去推动行业应用的普及率和速度。

希望大家有时间都去看一看我们的人工智能学院,这是最近才开始上线的,里面逐步会有更多东西放出来,也希望大家多关注英特尔在这方面的动向,我们既然承诺了到 2020 年要提升 100 倍,也欢迎大家来监督我们怎么实现它,谢谢大家。

入门
暂无评论
暂无评论~
返回顶部