陈萍编译

450刀的eGPU vs 谷歌Colab,谁更划算?

eGPU 与谷歌 Colab 的运算差异性如何?

众所周知,深度学习 “炼丹” 成本极高。即使是最简单的任务,GPU 也是绝对的选择。

对于那些想要最佳按需处理能力的人来说,一台新计算机的成本将高达 1500 美元。而如果借用云计算服务,每月将很容易花费 100 美元以上。对企业而言,这样的花费没问题,但对于普通个人而言,过于昂贵。

在近期比较火的一篇 medium 文章中,作者 Jeremy DiBattista 进行了实验,先前买了小型较旧的 GPU XPS 15,之后又购买了 Razer core+ NVIDIA GTX 1080,该设备提高了 4 倍的处理能力,花费不到 450 美元。

在这篇文章中,他对比了 eGPU 与谷歌 Colab 运算差异性。

首先 Jeremy DiBattista 对 Colab 进行了一些介绍。Colab 是 Google Research 开发的产品,可执行 Python 代码。它完全在浏览器中运行,并使用 google drive 作为其主要云存储服务,轻松共享并且完全在云中运行。但它也存在着问题,计算资源得不到保证,如果暂时不使用 Colab,则资源会被分配给其他人。

Jeremy DiBattista 就如何对其进行测试进行了说明。和 eGPU 一样,他使用 AI Benchmark 进行测试。这是一个非常简单但功能强大的 Python 库,利用 Tensorflow 框架在 19 个不同的部分上进行了 42 个测试,从而为 GPU 提供了出色的通用 AI 评分。接下来,Jeremy DiBattista 进行了 15 次的初始化,每次使用 AI Benchmark 进行测试,记录结果以及分配 GPU —得到了 K80 十次,P100 四次,T4 一次,Jeremy DiBattista 表示从来没有得到 P4,但是应该比 T4 稍差一点,速度对比图如下图:

可以得出:结果之间存在很大差异,顶级 GPU 的运行速度比 Colab 可配给的最慢 GPU 快 4 倍,但是对于免费 GPU 而言,这样的运行速度已经很惊人了。这让 Jeremy DiBattista 很震惊,因为这些都是免费提供的。它们都提供 12+ GB 的 RAM,足以满足大多数项目的需要,而分配给 P100 的速度接近全新 RTX 2070 的速度。即使是最慢、最常见的 K80,其性能比 P100 差一些。而 GTX 1050 Ti 是售价 150 美元的 GPU。

这与 eGPU 相比如何?下面是 Colab 对比 GTX 1080 实验结果!

一般情况下,Colab 将为用户分配一个 K80,而 GTX 1080 的速度大约是它的两倍,这对于 Colab 来说并不是特别好。但是,当分配了 P100 时,P100 是绝对的杀手级 GPU(免费)。由于 P100 的出色表现,平均来看,得出结果没有太大不同,Jeremy DiBattista 的 eGPU 平均仅提高了 15%。

因此,如果有研究者打算进入机器学习(或希望升级设备),应该怎么做?Jeremy DiBattista 的建议是,“如果只是想涉足机器学习,或者对计算资源要求不高,那么 Colab 绝对是明智之选。它免费提供的计算量巨大。”

但是,如果你感觉 Colab 产品提供的不够,需要更快的速度,随时了解用户的资源,需要长时间的训练,想要使用 Python 语言或计划将 GPU 不仅用于机器学习任务时,eGPU(或专用 GPU)可能是更好的选择!

如果想使用 Colab Pro,每月只需支付 10 美元,用户便可以获得更高的使用权限,并在更快的处理器上拥有优先使用权。不用担心它的速度和使用限制,它是云计算的绝佳替代品,而且价格可承受。


原文链接:https://towardsdatascience.com/deep-learning-on-a-budget-450-egpu-vs-google-colab-494f9a2ff0db

入门ColabGPU
相关数据
深度学习技术

深度学习(deep learning)是机器学习的分支,是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。 深度学习是机器学习中一种基于对数据进行表征学习的算法,至今已有数种深度学习框架,如卷积神经网络和深度置信网络和递归神经网络等已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。

机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

云计算技术

云计算(英语:cloud computing),是一种基于互联网的计算方式,通过这种方式,共享的软硬件资源和信息可以按需求提供给计算机各种终端和其他设备。

推荐文章
暂无评论
暂无评论~