众所周知，深度学习 “炼丹” 成本极高。即使是最简单的任务，GPU 也是绝对的选择。对于那些想要最佳按需处理能力的人来说，一台新计算机的成本将高达 1500 美元。而如果借用云计算服务，每月将很容易花费 100 美元以上。对企业而言，这样的花费没问题，但对于普通个人而言，过于昂贵。在近期比较火的一篇 medium 文章中，作者 Jeremy DiBattista 进行了实验，先前买了小型较旧的 GPU XPS 15，之后又购买了 Razer core+ NVIDIA GTX 1080，该设备提高了 4 倍的处理能力，花费不到 450 美元。在这篇文章中，他对比了 eGPU 与谷歌 Colab 运算差异性。首先 Jeremy DiBattista 对 Colab 进行了一些介绍。Colab 是 Google Research 开发的产品，可执行 Python 代码。它完全在浏览器中运行，并使用 google drive 作为其主要云存储服务，轻松共享并且完全在云中运行。但它也存在着问题，计算资源得不到保证，如果暂时不使用 Colab，则资源会被分配给其他人。Jeremy DiBattista 就如何对其进行测试进行了说明。和 eGPU 一样，他使用 AI Benchmark 进行测试。这是一个非常简单但功能强大的 Python 库，利用 Tensorflow 框架在 19 个不同的部分上进行了 42 个测试，从而为 GPU 提供了出色的通用 AI 评分。接下来，Jeremy DiBattista 进行了 15 次的初始化，每次使用 AI Benchmark 进行测试，记录结果以及分配 GPU —得到了 K80 十次，P100 四次，T4 一次，Jeremy DiBattista 表示从来没有得到 P4，但是应该比 T4 稍差一点，速度对比图如下图：
可以得出：结果之间存在很大差异，顶级 GPU 的运行速度比 Colab 可配给的最慢 GPU 快 4 倍，但是对于免费 GPU 而言，这样的运行速度已经很惊人了。这让 Jeremy DiBattista 很震惊，因为这些都是免费提供的。它们都提供 12+ GB 的 RAM，足以满足大多数项目的需要，而分配给 P100 的速度接近全新 RTX 2070 的速度。即使是最慢、最常见的 K80，其性能比 P100 差一些。而 GTX 1050 Ti 是售价 150 美元的 GPU。这与 eGPU 相比如何？下面是 Colab 对比 GTX 1080 实验结果！
一般情况下，Colab 将为用户分配一个 K80，而 GTX 1080 的速度大约是它的两倍，这对于 Colab 来说并不是特别好。但是，当分配了 P100 时，P100 是绝对的杀手级 GPU（免费）。由于 P100 的出色表现，平均来看，得出结果没有太大不同，Jeremy DiBattista 的 eGPU 平均仅提高了 15％。
因此，如果有研究者打算进入机器学习（或希望升级设备），应该怎么做？Jeremy DiBattista 的建议是，“如果只是想涉足机器学习，或者对计算资源要求不高，那么 Colab 绝对是明智之选。它免费提供的计算量巨大。”但是，如果你感觉 Colab 产品提供的不够，需要更快的速度，随时了解用户的资源，需要长时间的训练，想要使用 Python 语言或计划将 GPU 不仅用于机器学习任务时，eGPU（或专用 GPU）可能是更好的选择！如果想使用 Colab Pro，每月只需支付 10 美元，用户便可以获得更高的使用权限，并在更快的处理器上拥有优先使用权。不用担心它的速度和使用限制，它是云计算的绝佳替代品，而且价格可承受。
原文链接：https://towardsdatascience.com/deep-learning-on-a-budget-450-egpu-vs-google-colab-494f9a2ff0db
图解当前最强语言模型BERT：NLP是如何攻克迁移学习的？
