唐杉作者 StarryHeavensAbove来源

AI芯片在5G中的机会

虽然也算是通信行业的老兵,但我也已经有段时间没有跟踪5G的最新进展了。之前我也看到一些AI和5G结合的讨论,当时感觉还有点遥远。不过最近的一些观察引发了我对这个问题的兴趣,也对AI芯片在5G中的机会进行了一些思考。5G从技术到生态是一个很大的话题,和AI结合的机会也非常多。能力所限,本文只从两个局部出发分享一些个人浅见。本文由机器之心经授权转载自 StarryHeavensAbove(ID:StarryHeavensAbove),未经授权禁止二次转载。

AI和5G的交点:MEC(Multi-access Edge Computing

第一个吸引我注意的点是ARM发布Infrastructure IP品牌Neoverse时提到的一个目标场景。在这个场景中,大家可以看到5G和ML Accelerator同时出现。

source: www.anandtech.com

ARM所描述的这个解决方案,针对Edge compute,也就是我们常说的边缘计算。如果我们进一步的研究,可以看到在5G中,一个非常重要的内容就是所谓的MEC。最早,MEC是Mobile Edge Computing的缩写;后来,在标准化组织ETSI中,叫法改变为Multi-access Edge Computing。两者基本概念相同,后者更强调除了蜂窝移动网络之外的接入方式,比如WiFi。下图是ETSI定义的MEC参考架构。

source: etsi.org

对于不熟悉标准语言的读者,这个图读起来比较困难。简单来说,MEC就是边缘计算的概念和移动网络结合的产物,主要是通信运营商提供边缘服务。出发点也很简单,就是尽量在离用户(终端设备)“近”(通信上的概念)的地方给用户提供服务。一个比较贴切的说法是“It’s like having a wireless supercomputer follow you wherever you go.”这样可以分担云端的压力,减少和云端大量传输数据的需求;更重要的是能够让终端设备以最低的延时获得服务。同样的服务,如果是在云端完成,需要经过很长的通信路径,时延和抖动都会很大。这对于某些场景来说是不能接受的,一个最好的例子就是车联网的应用。比如下图,如果要实现实时的路况分享,进而辅助汽车驾驶(包括辅助自动驾驶汽车对环境进行感知),则要求很低的延时,必须在最近的位置(比如通信基站)中进行处理和发送。一些观点认为V2X是自动驾驶最终能够真正实现的关键技术之一。


Source: nokia.com

在[2]里大家还可以看到一些其它MEC和车联网结合的例子。总得来说,需要高带宽和低延时的应用都是MEC的目标应用,AR/VR应用也是典型的例子。

MEC框架本身是独立于具体的接入技术的,4G,5G,WiFi都可以。但是,MEC,特别是和AI结合的智能化的MEC可以说对5G的成功至关重要。对于这个问题,[2]中有比较详细的讨论。从技术角度,AI和边缘计算对于5G网络架构的优化有重大意义,边缘计算结合5G特有的网络切片技术(Network Slicing)能让5G网络更好的提供满足多种服务质量的服务。而对于5G网络这种高度复杂的网络来说,AI可以在网络自组织,自优化,动态配置,资源管理,流量优化,成本控制等方面帮助运营商提高效率。从经济角度,目前通信运营商面对的一个重大问题是管道化问题,在5G上的巨大投资如何产生收益还带着一个巨大的问号。因此,运营商希望能够通过提供差异化的服务或者拓展新的业务来获得更高的利润。而MEC和AI是最有前景的方向。通过MEC和AI结合,运营商就有可能在网络设备(比如基站)“附近”提供更多服务,比如数据的智能处理等等。如果下图的愿景能够实现,运营商就有可能从这些新的服务中获得更高的利润。

source: nokia.com

到这里我们回到AI芯片的话题。在未来的5G网络中MEC设备的需求量应该是相当巨大的,MEC Server可能直接融合在网络设备中,比如基站(包括小基站);也可能是独立的设备。我们看ARM的方案,既包括了5G/4G的基带处理,又包括多核CPU和网络加速功能。在此基础之上,主芯片还可以通过高速接口外接其它芯片,实现网络,存储,安全功能,以及AI功能。这些功能组合起来就可能实现MEC和基站的结合。当然这只是一种方案,相信未来的MEC方案会有多种形式。如果考虑到其它接入方式,未来的WiFi接入点或者Router等设备也可能增加Edge server的功能,同样有融合AI处理能力的需求。因此,就如同AI芯片和IP在云端和终端设备中越来越普遍,未来AI芯片或者IP在这些Edge设备当中也会有很多机会。

那么,下一个问题就是,Edge设备中的AI芯片或IP有什么特殊挑战?我认为一个关键的要求是Virtualization(虚拟化)。对于一个Edge Server来说,需要服务的用户需求是多种多样,且不断变化的,特别是考虑到IoT的环境。在这种情况下,如果不能够实现资源(比如AI运算资源)的虚拟化,就很难实现资源的合理应用和快速切换。其实,目前在云端,也有资源使用不均衡的情况,很多AI应用包括training和inference都存在很高的peak-to-average rate。而对于Edge Server来说这个情况会更加严重。此外,虚拟化还有很多的好处,比如便于业务的部署等等。因此虚拟化也是MEC架构中的一个关键技术。不过,要实现虚拟化,特别是专用硬件的虚拟化,并不是简单的事情。在Edge server中实现对延时敏感的业务的时候,目前常用的虚拟化方法的开销是无法接受的。总得来说,Edge Computing来也会是AI芯片和IP的一个重要战场,对大家也会提出一些新的挑战,当然也意味着机会。

•••

AI实现5G基带处理

前一段时间,东南大学的尤肖虎教授等专家撰写了一篇文章“基于AI的5G技术——研究方向与范例”,“非常完整的梳理了AI技术在5G系统设计与优化方面富有发展前景的若干发展方向,并给出了有关5G网络优化、资源最优分配、5G物理层统一加速运算以及端到端物理层联合优化等若干典型范例”。其中,在“5G网络优化、资源最优分配”中使用AI技术是比较容易理解和期待的,因为这些复杂优化问题本质上就非常适合用AI方法来解决。但“5G物理层统一加速运算以及端到端物理层联合优化”这两个问题是否能用AI来解决就有比较大的疑问了。

有过相关经验的同学应该知道,目前无线通信基带处理(特别是物理层)芯片包括了非常复杂的算法链路,每个部分都经过了大量的研究和实践优化,基本已经达到了工程实现的极限。用AI方法来替代这种已经高度优化和专业化的硬件架构真能实现性能或效率上的优势吗?如上述文章所说“移动通信系统通常存在性能界(如香农容量限),现有的方法经过精心设计已经可以充分逼近上述性能界。...这意味着,即使采用先进的AI学习技术,也无法超越这些经典算法。”“与经典的方法相比,AI学习算法的计算复杂度通常较高,如果不能带来性能上的明显提升,其本身显然不具备足够的竞争力。”这其实也是我的第一感觉,所以当时也没有太认真的思考这个问题。直到最近,我看到CEVA的5G基带信号处理方案中专门加入了AI processor(如下图),这个问题就显得越来越有趣了。

source: www.ceva-dsp.com

简单来说,在CEVA的方案中,使用了AI(神经网络)算法实现了5G NR中的CSI计算和上报功能,并使用专门的AI processor来支持相关的神经网络计算。感兴趣的同学可以看看他们的white paper:“PENTAG™ AI PROCESSOR FOR CSI REPORTING IN 5G NR - WHITE PAPER”。这里我就不讨论技术细节了。

在传统的基带处理当中,CSI计算有专门的算法,使用专门的硬件或者DSP来实现。在5G NR当中,由于复杂度的增加,传统算法的代价很高,反而不如通过训练一个神经网络实现的性能和效率更高。

虽然这只是整个基带信号处理的一小部分,但它出现在产品级的方案中,还是让我们有理由开一下脑洞。虽然目前使用AI方法还很难和传统方法在性能和实现效率(比如完成同样功能所需要的计算量,或芯片面积和功耗)上竞争,但如果真的能通过合理的神经网络设计和大量的训练,实现和传统方法有一定可比性的结构,那么可能会给这个领域带来很大的变化。

首先,目前的基带处理器设计,是非常复杂的工作,需要投入大量资源,还需要大量的现场测试来支持。因此,目前能设计5G NR基带处理器的公司可以说屈指可数,也都经过了多年的积累。但如果AI方法成功,那么我们可能就不再需要对各个计算模块进行细致的优化,而是端到端的直接“训练”完整的接收机。对于这种端到端的训练,输入数据可以直接使用现实环境的信号,预期的输出则可使用实际的发送信号,训练数据的获取并不是很困难。如果这条路能走通,基带处理器设计的门槛就会大大降低,算法用神经网络实现,硬件用AI处理器支持。

这样还带来另一个好处,硬件设计的问题转化为AI处理器设计问题,可以充分利用这个领域的技术革新(包括新架构,新器件等等)。而AI处理器的规则结构,要比目前的基带处理器的高度专用结构具有更好的灵活性和扩展性。

最后,传统的基带处理器为了简化问题采取了分层和分块的设计方法,因此也限制了端到端和跨层优化的可能。也许AI方法能够改变这种情况,发现新的优化机会。

以上讨论虽然有一定的“科幻”成分,但谁又能说AI一定不能在这个领域给我们带来惊喜呢。

•••

目前,大家做AI芯片主要是在几个比较拥挤的领域竞争。随着AI在更多领域的应用,未来的各种设备当中,AI处理所占的比例(或者芯片面积)会越来越大,我们也会发现更多的机会。

Reference:

[1]. ETSI,“Multi-access Edge Computing (MEC); Study on MEC Support for V2X Use Cases”

[2]. Susan Welsh de Grimaldo, "AI + Edge Computing Essential in the 5G Era" 

本文由机器之心经授权转载自 StarryHeavensAbove(ID:StarryHeavensAbove)

原文链接:https://mp.weixin.qq.com/s/6MK3hD8LTxhN9gY6PDJQTA

产业芯片5G
4
相关数据
来也机构

「来也」是国内领先的人工智能交互平台,由常春藤盟校(Ivy League)归国博士和MBA团队发起,核心技术涵盖自然语言处理(NLP)、多轮对话控制和个性化推荐系统等。公司已获得数十项专利和国家高新技术企业认证。 来也的愿景是通过AI赋能,让每个人拥有助理。C 端产品小来是智能化的在线助理,通过业内创新的AI+Hi模式,提供日程、打车、咖啡、差旅和个性化查询等三十余项技能(覆盖400w用户和数十万服务者),让用户用自然语言发起需求并得到高效的满足。B端品牌吾来输出知识型的交互机器人和智能客户沟通系统,帮助各领域企业客户打造行业助理。目前已经在母婴,商旅,金融和汽车等行业的标杆企业实现商业化落地。

https://www.laiye.com/
自动驾驶技术技术

从 20 世纪 80 年代首次成功演示以来(Dickmanns & Mysliwetz (1992); Dickmanns & Graefe (1988); Thorpe et al. (1988)),自动驾驶汽车领域已经取得了巨大进展。尽管有了这些进展,但在任意复杂环境中实现完全自动驾驶导航仍被认为还需要数十年的发展。原因有两个:首先,在复杂的动态环境中运行的自动驾驶系统需要人工智能归纳不可预测的情境,从而进行实时推论。第二,信息性决策需要准确的感知,目前大部分已有的计算机视觉系统有一定的错误率,这是自动驾驶导航所无法接受的。

感知技术

知觉或感知是外界刺激作用于感官时,脑对外界的整体的看法和理解,为我们对外界的感官信息进行组织和解释。在认知科学中,也可看作一组程序,包括获取信息、理解信息、筛选信息、组织信息。与感觉不同,知觉反映的是由对象的各样属性及关系构成的整体。

自动驾驶汽车技术

自动驾驶汽车,又称为无人驾驶汽车、电脑驾驶汽车或轮式移动机器人,是自动化载具的一种,具有传统汽车的运输能力。作为自动化载具,自动驾驶汽车不需要人为操作即能感测其环境及导航。

边缘计算技术

边缘运算(英语:Edge computing),又译为边缘计算,是一种分散式运算的架构,将应用程序、数据资料与服务的运算,由网络中心节点,移往网络逻辑上的边缘节点来处理。边缘运算将原本完全由中心节点处理大型服务加以分解,切割成更小与更容易管理的部分,分散到边缘节点去处理。边缘节点更接近于用户终端装置,可以加快资料的处理与传送速度,减少延迟。在这种架构下,资料的分析与知识的产生,更接近于数据资料的来源,因此更适合处理大数据。

神经网络技术

(人工)神经网络是一种起源于 20 世纪 50 年代的监督式机器学习模型,那时候研究者构想了「感知器(perceptron)」的想法。这一领域的研究者通常被称为「联结主义者(Connectionist)」,因为这种模型模拟了人脑的功能。神经网络模型通常是通过反向传播算法应用梯度下降训练的。目前神经网络有两大主要类型,它们都是前馈神经网络:卷积神经网络(CNN)和循环神经网络(RNN),其中 RNN 又包含长短期记忆(LSTM)、门控循环单元(GRU)等等。深度学习是一种主要应用于神经网络帮助其取得更好结果的技术。尽管神经网络主要用于监督学习,但也有一些为无监督学习设计的变体,比如自动编码器和生成对抗网络(GAN)。

信号处理技术

信号处理涉及到信号的分析、合成和修改。信号被宽泛地定义为传递“关于某种现象的行为或属性的信息(如声音、图像和生物测量)”的函数。例如,信号处理技术用于提高信号传输的保真度、存储效率和主观质量,并在测量信号中强调或检测感兴趣的组件。我们熟悉的语音、图像都可以看做是一种信号形式。因此,对于语音、图像的增强、降噪、识别等等操作本质上都是信号处理。

推荐文章
暂无评论
暂无评论~