最近,深度学习三巨头联名发表了一篇文章。在文章中,他们回顾了近年来深度学习的基本概念和一些突破性成就,描述了深度学习的起源,还讨论了一些未来的挑战。
监督学习需要太多标记数据,而无模型强化学习需要太多试验。人类似乎能够以少得多的经验很好地概括。
当前的系统对分布变化的鲁棒性不如人类,人类可以通过很少的例子快速适应这种变化。
当前的深度学习在感知任务和通常所谓的 system 1 任务方面最为成功。将深度学习用于需要经过深思熟虑步骤序列的 system 2 任务,是一个仍处于起步阶段的令人兴奋的领域。