英伟达总监Soma Velayutham:AI在5G时代将带来哪些变革?

NVIDIA电信AI及加速业务全球主管Soma Velayutham

在今年 GTC 中国场的分会场,英伟达电信业 AI 及加速计算计划全球行业发展总监 Soma Velayutham 介绍了在 5G 时代,GPU 和 AI 技术的组合将为电信行业带来的变革与支持,以及开发人员、合作伙伴和生态系统如何协作构建 AI 和加速工程应用程序。

在 AI 时代,英伟达的身份早已不是一家单纯的游戏 GPU 公司,随着 GPU 在高性能计算、深度学习、AI 人工智能等行业的应用,英伟达的触角已经伸向了各行各业。5G 时代已经近在眼前,英伟达的下一个目标也锁定在电信运营商市场。

5G 网络不仅速度更快,承载的业务也越来越多,对计算能力的要求也会极速增加,英伟达认为,GPU 比传统 CPU、FPGA 更能胜任这些应用。在电信行业,电信运营商将 GPU 加速 AI、深度学习和分析技术融为一体,致力于构建并优化智能化电信网络,同时为 5G 无线网络的商用提供了智能化支持。

在今年 GTC 中国场的分会场,英伟达电信业 AI 及加速计算计划全球行业发展总监 Soma Velayutham 介绍了在 5G 时代,GPU 和 AI 技术的组合将对电信行业带来的变革与支持,以及开发人员、合作伙伴和生态系统如何协作构建 AI 和加速工程应用程序。

Soma 是一位成绩斐然的串行技术专家,拥有 20 多年的软件和电信行业经验。Soma 在数据科学和无线通信领域拥有多项专利,并在突破性创新成果方面保持着良好几率,他经历过完整产品生命周期的原型思考,曾担任战略、商业管理、产品管理和创新孵化项目的带头人。

Soma 谈到,GPU 计算现在已经在图形、HPC、AI 等行业带来了革命。未来的电信市场需要承载云 AR/VR、协助型机器人、智能城市、联网汽车以及智能园区等等业务,前景广阔。未来每个客户需要的网络处理、流量都在增加,问题是每个客户带来的营收会持平,爆炸性增长的成本就成了问题。

Soma 认为,5G 时代电信行业将面临四大新挑战:

1)100Gbps 的高吞吐量;

2)边缘计算效率提升 100 倍;

3)小于 1ms 的低时延服务,这对频谱效率要求非常高;

4)数据量爆发,100 倍的扩张。

目前,中国移动、AT&T、沃达丰等运营商正在提供多元化的数字生活服务,包括视频、云服务、IoT、AR/VR、移动游戏等等。为了降低成本,英伟达使用了虚拟化、SDN 软件定义网络、5G 及边缘计算等新技术,这些技术可以带来相比以前三到四倍的成本节省。

Soma 认为,4G 技术不仅仅只是带来了网络联通的便捷性,还改变了我们的消费习惯,因为云计算和移动设备的组合,打车、外卖等移动应用软件大量涌现。运营商的价值已经转移到 OTT 公司当中,电信公司失去的市场和份额实际上被移动应用公司拿走了。

在 5G 时代,Soma 预测了未来智能汽车、手机需要的网络流量,目前智能手机每月只有 1-2GB 流量生产,2050 年智能汽车每小时流量就能产生 40TB,每月需要 50-500GB 流量,智能汽车未来的无线数据流量会从现在手机流量的 17EB 大幅增长到 5000EB。

Soma Velayutham 谈到近 5 年来 GPU 计算的崛起速度:

5 年来 GPU 开发者增加了 10 倍、CUDA 下载量增长了 5 倍、GTC 注册者增加了 4 倍、HPC 中 TOP50 系统的 GPU 性能增长了 15 倍。

与此同时,GPU 计算性能也在不断增长:

传统使用 CPU 簇的超算中,600 台双路 CPU 服务器功耗高达 360KW,现在使用 Tesla V100 服务器只要 30 台四路服务器即可,功耗也降至 48W,成本是之前的 1/5,占用面积是之前的 1/7,功耗也是之前的 1/7。

Soma 认为,网络优化可以通过 AI 来实现,使用传统的 CPU 虽然可以通过虚拟化技术来执行复杂的网络任务,但也可以通过 GPU 加速来提升速度。5G 时代,随着 SDN 的应用,英伟达可以通过 GPU 实现低延迟、高带宽及高效率的网络任务。根据 Soma Velayutham 所说,未来手机上都可以实现 8K 视频及 VR。

电信行业还可以使用 DL 深度学习来提供网络质量,提前预测网络故障。目前,中移动、SK 电讯、AT&T、Docomo 等公司及机构都跟英伟达达成了这方面的合作。 

Soma 举例,在美国莱斯大学的一份研究中,使用英特尔至强处理器,5G 网络的延迟、速度是 15.65 毫秒、103Mbps 速率;使用英伟达 Tesla V100 则可以实现 0.864 毫秒的延迟及 995Mbps 的速度,整体速度提升了 14 倍。

Ribbon 公司通过 GPU 来实现防火墙,之前用 DSP 来实现,我们的性能高出 3.5 被,比 CPU 高出 9 倍;并行的需求,GPU 是最好的方案。不需要每年软件重新,DSP、CPU,每年需要做调整。不需要做升级。

Soma 谈道,在 3G、4G 时代,FPGA 可以应对处理时延和灵活性;但在 5G 时代,网络需求变换更加频繁,应用负载更多。与 ASIC 及 FPGA 等加速方案相比,Soma 认为 GPU 加速更容易升级,扩展性更灵活,在 5G 需求日益增加的情况下,GPU 将方案显然更有优势。

此外,Soma 强调,GPU 的产品线足够丰富:从 15-7w 低功耗的嵌入式 Xavier 到可提供云服务级的 Tesla。在这些芯片中,防火墙、软件定义网络功能均可部署。

Soma 认为,5G 作为服务将需要在云端原生,5G 在端和云可以兼容。

考虑投资收益,Soma 分享了他与全球顶级运营商交流后,运营商使用 GPU 最为核心的需求:

1)降低成本,提高效率,基于多运算的并行性,来提高网络效率;

2)通过 AI 和深度学习技术,减少网络的复杂性,用 GPU 进行图像的渲染,用户提供沉浸式的服务。

Soma 表示,在和爱立信、华为等运营商建立 GPU 电信网络的过程中,双方会共同探讨 GPU 核心部件的使用方式,以提高基础设施的效率。

谈到 AI 对于电信行业的机会,Soma 表示,其中一个最为重要的就是基于 AI 算法对于 5G 通信的信道参数的准确估计,这是实现系统相干接收的必要条件。它需要根据 5G 系统所发送的导频信号估计出无线信号传播从发射端到接收端所经历的信道畸变,目前,算法经过 AI 技术的转换后提升效率非常高。

作为普适性的机器学习技术,AI 可以广泛应用于 5G 系统设计和优化的各个缓解,此外还包括组合优化问题、检测问题。5G NR(无线接入技术)的资源分配问题就是一个典型的组合优化问题。它需要从资源池中穷举出一组最优的资源配置方式,并据此将资源分配给网络覆盖范围内的多个用户,最大化资源利用率。

Soma 举例美国最大电信运营商 Verizon 的应用,他表示,AI 算法目前能够提前 6-7 天的资源分配情况,机器学习通过前期的大量运营数据学习后可转换为其长期记忆,以解决网络质量下降的问题。

此外,5G 通信最优接收机的设计就是一个典型的检测问题,其目标是对接收信号进行辨识,确定对应的发射信号,并使检测错误概率最低。

产业硬件芯片英伟达5G
11
相关数据
英特尔机构

英特尔(NASDAQ: INTC)是全球半导体行业的引领者,以计算和通信技术奠定全球创新基石,塑造以数据为中心的未来。我们通过精尖制造的专长,帮助保护、驱动和连接数十亿设备以及智能互联世界的基础设施 —— 从云、网络到边缘设备以及它们之间的一切,并帮助解决世界上最艰巨的问题和挑战。

https://www.intel.cn/content/www/cn/zh/homepage.html
相关技术
深度学习技术

深度学习(deep learning)是机器学习的分支,是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。 深度学习是机器学习中一种基于对数据进行表征学习的算法,至今已有数种深度学习框架,如卷积神经网络和深度置信网络和递归神经网络等已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。

机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

参数技术

在数学和统计学裡,参数(英语:parameter)是使用通用变量来建立函数和变量之间关系(当这种关系很难用方程来阐述时)的一个数量。

数据科学技术

数据科学,又称资料科学,是一门利用数据学习知识的学科,其目标是通过从数据中提取出有价值的部分来生产数据产品。它结合了诸多领域中的理论和技术,包括应用数学、统计、模式识别、机器学习、数据可视化、数据仓库以及高性能计算。数据科学通过运用各种相关的数据来帮助非专业人士理解问题。

边缘计算技术

边缘运算(英语:Edge computing),又译为边缘计算,是一种分散式运算的架构,将应用程序、数据资料与服务的运算,由网络中心节点,移往网络逻辑上的边缘节点来处理。边缘运算将原本完全由中心节点处理大型服务加以分解,切割成更小与更容易管理的部分,分散到边缘节点去处理。边缘节点更接近于用户终端装置,可以加快资料的处理与传送速度,减少延迟。在这种架构下,资料的分析与知识的产生,更接近于数据资料的来源,因此更适合处理大数据。

云计算技术

云计算(英语:cloud computing),是一种基于互联网的计算方式,通过这种方式,共享的软硬件资源和信息可以按需求提供给计算机各种终端和其他设备。

推荐文章
我要去买5G的手机😄