英伟达:远程办公时代,你需要虚拟 GPU

疫情迫使我们将工作搬到了家里,于是我们看到了各种居家办公带来的问题:开会听不到、人不齐,网络延迟、卡顿,但这些还算小问题。对于需要渲染视频、训练深度学习模型的人来说,没有 GPU 才是大问题。居家等于直接被剥夺了生产工具。

那有没有什么来解决这个问题?答案是虚拟 GPU(vGPU)。

虚拟 GPU 是几年前就已经提出的概念,但随着远程办公需求的激增,这一概念开始变得更加深入人心。

如何理解虚拟 GPU?我们以微信小程序为例。一些功能强大的手机可能有 128G、256G 甚至更高的存储空间,但有些手机可能只有 8G、16G。为了让每款手机都能使用一些功能强大的应用,开发者将其做成了微信小程序,使得用户无需本地安装、运行就能用上这些功能,节省硬件成本。虚拟 GPU 也是一样,它可以让你随时随地调用数据中心的 GPU 资源,将原有的硬件基础设施利用到极致,远程办公也能享受到数据中心的算力资源。

虚拟 GPU 需求的激增也给英伟达带来了新的机遇和挑战。

在这次疫情之前,我们看到的虚拟化更多的是虚拟 CPU,在这样的虚拟机里面,我们看不到虚拟 GPU,因此无法完成视频或者动画的加速、渲染或者基于 AI 超算的任务。所以在这个时间点上,英伟达建议用户在使用虚拟机技术的时候、不仅要有虚拟化的 CPU,更重要的是要有一个虚拟化的英伟达 GPU。它可以让用户在虚机上体验到以前实体工作站或者实体图形工作站上才能享受到的 GPU 加速性能。

英伟达虚拟 GPU 软件由 NVIDIA GPU 加速,可提供图形丰富的虚拟桌面和工作站。在虚拟机上运行人工智能 (AI)、深度学习、数据科学和高性能计算 (HPC) 等计算密集型服务器工作负载,并利用可管理性和安全性提升带来的优势。很多 CPU 上的应用程序已经可以转移到 GPU 上加速,从而实现数倍、数十倍、甚至上百倍的应用程序的加速。

按照需求的不同,这些软件可以分为三个类型:

  • NVIDIA GRID:通过为知识工作者提供虚拟化系统和应用程序来实现响应性 VDI。
  • NVIDIA Quadro 虚拟数据中心工作站(vDWS):为使用高级图形应用程序的创作者提供工作站级性能。
  • NVIDIA Virtual Compute Server:借助 GPU 加速服务器虚拟化,支持虚拟机上计算最为密集的工作流程,例如 AI、深度学习和数据科学。

以 NVIDIA Quadro vDWS 为例。基于 NVIDIA 虚拟化 Quadro vDWS,公司可以将其拥有的英伟达 GPU 性能推送到每一个工作流或工作负载中去,包括 NVIDIA Quadro 特性、传统的 ISV 认证以及企业级的高可信度、可依赖性的高级功能。而在用户的使用和体验中,这些和传统的实体工作站、实体的超算平台没有什么本质上的分别。

考虑到这些 vGPU 技术是放在云端的,英伟达也增强了对于用户安全性的考量,使用了端到端加密等技术。

此外,企业用户可能更加注重「高集成度」的资源管理工具,而英伟达可以帮助他们的 IT 管理人员通过一些管理工具以及英伟达推出的快速划分、快速迁移 GPU 的程序,来分析其 GPU 分区。这些管理工具都是实时在线的,不需要重启服务器就可以让前端的用户获得算力的提升。

随着技术的迭代,Quadro vDWS 也增加了一些此前的虚拟化技术做不到的特性。如「反向虚拟化 GPU」。以前的虚拟化技术只能把一个 GPU 虚拟成多个,然后分给多个用户去使用。但今天,Quadro vDWS 可以把多个物理的 GPU 虚拟成一个更大、更强劲的 GPU 给一个特定的用户使用。也就是说,它既可以分散 GPU 负载、也可以堆叠。

当然,企业最关心的一个问题是,使用英伟达的虚拟 GPU 是否会增加额外的成本?英伟达表示,过去很多用户在虚拟化的时候,只虚拟化了 CPU、并没有考虑对 GPU 有大量的使用需求,这就意味着他们要部署大量的 CPU 节点服务器。而虚拟化 GPU 之后就不需要那么多 CPU 节点,因此反而可以节省成本。

GPU 的虚拟化对企业的管理人员提出了更高的要求,他们要使用以前没有使用过的软件、管理模式以及管理工具。对此,英伟达推出了各式各样的线上课程,帮助企业的管理人员更好地使用他们的 GPU。相关资源可以在网上找到。

如今国内网络的带宽已经大大增加,但将 GPU 虚拟化到桌面仍然面临着巨大的挑战,其中的难点除了带宽,还有网络延迟。而且,每一个指令都要从本地端传到云端、再传输到实体的桌面端、客户端。所以英伟达要做的是降低延迟,减少用户的等待时间。

针对上述问题,英伟达也提出了全新的解决方案。他们在 Quadro RTX 以及硬件上做了全新一代的升级,最大可以支持实时 8K 的 RED 格式的加密和解密,因此虚拟化到桌面的一些问题得到了缓解。随着 5G 的发展与普及,这一问题将得到进一步解决。

产业GPU英伟达
1
暂无评论
暂无评论~