AI科技评论来源青 暮作者

吴恩达教你读论文:持续而缓慢的学习,才是正道

人工智能机器学习领域中,了解前沿学者的最新研究的能力是每位严肃认真的机器学习从业人员都应该掌握的一项技能。为了跟上行业前沿并增加知识,机器学习从业人员需要具有学术性的思维和习惯。AI、ML和DL的发展日新月异,我们必须掌握前沿研究的知识,而这些知识只能通过阅读论文才能获得。

CS230是斯坦福大学开设的深度学习课程,由吴恩达主讲,他在第8课中就如何读论文提出了一些建议。

计算机视觉工程师Richmond Alake将课程内容总结为7个建议,写成文章发表在Medium上,短短数日已收获四千赞。

AI科技评论将文章编译,希望为在科研道路上挣扎、或即将进入这个坑的学生,带来一丝启发:

本文将教你如何有效阅读论文,包括系统阅读论文集的方法,以及阅读单篇论文的方法。在阅读论文集时,需要搜集资源、做阅读进度跟踪表格、自己总结。在阅读单篇论文时,需要分层次,按照需求逐渐深入理解论文。在读完论文后,还要回答几个问题,从而对论文的外延相关性有更好的理解。

阅读论文集

我们以“姿势估计”为例子,介绍如何阅读与专业主题相关的研究论文。

1、集中精力阅读领域主题相关的资源,包括研究论文、中篇文章、博客文章、视频、GitHub repo等。

在搜索引擎上输入“姿势估计”就能快速找到热门资源。首要的目标是整理所有相关资源,例如YouTube视频、实现文档以及论文等等。理想情况下,不要限制重要资源的数量,但是一定要创建有用的论文、视频和文章的list。

2、深入研究与主题有关的任何资源。吴恩达建议绘制跟踪对资源的理解水平的增长的表格,类似于下表。如果你对某个资源的理解程度是10%-20%,在第一列打勾,如果理解程度是20%-40%,在第二列打勾,以此类推。

确保浏览每篇论文至少10%-20%的内容,这样可以对已有资源得到足够的大概认识,并能够准确地评估其相关性。

对于相关度更高的论文/资源,要更深入地理解它们。然后,你就可以确定一些适当的资源,这些资源包含你完全可以理解的内容。

那么多少论文/资源才算足够呢?

吴恩达说,理解5到20篇论文后,就能对领域有一个基本认识,也许足够让你做出技术实现。吃透50-100篇论文后,就能对领域有很好的理解。

如果你的理解进度表格看起来是下图的样子,那基本表示你get到了重点。      

3、进行结构化注释,用自己的话总结论文中的关键发现和技术。

阅读单篇论文

想读一遍就理解论文是不可能的,吴恩达说,至少要准备阅读论文三遍,以充分理解。

4、阅读第一遍时,首先阅读标题、摘要和图形。

5、阅读第二遍时,需要阅读引言、结论,第三遍阅读图形和其余部分。

论文的引言和结论部分包含论文的关键信息以及所有研究发现。这两个部分提供的信息通常会忽略附录部分,并且仅包含关键信息。读完这两个部分,就可以为继续阅读其他部分打下基础。

6、第三遍需要阅读论文的全部内容,但可以跳过任何不熟悉的复杂数学公式,而且还可以跳过所有不了解或不熟悉的术语。

7、对于深入研究领域的人而言,可能还需要读多几遍。这几遍将主要集中于对论文中的数学、技术和未知术语的理解。

对于那些出于信息和工程目的阅读论文的人,深入研究可能会非常耗时。

自问自答

在阅读论文时应该问自己以下几个问题,这些问题可以帮助你了解论文中的关键信息。

1、论文作者旨在实现或可能实现的目标是什么?

2、如果在论文中介绍了新方法,那么新方法的关键要素是什么?

3、论文中哪些内容对自己有用?

4、还要阅读哪些参考文献?

结论

“持续而缓慢的学习,而不是临时抱佛脚,才能带来长久的成长。”

——吴恩达

吴恩达说过,他经常随身携带几篇论文,抽空阅读。如果一个人在获取知识时始终如一,无论是哪个领域,都会获得超越普通人的理解和专业知识。

“智慧不是学校教育的产物,而是终身学习的产物。”

——阿尔伯特·爱因斯坦

via https://towardsdatascience.com/how-you-should-read-research-papers-according-to-andrew-ng-stanford-deep-learning-lectures-98ecbd3ccfb3

AMiner学术头条
AMiner学术头条

AMiner平台由清华大学计算机系研发,拥有我国完全自主知识产权。系统2006年上线,吸引了全球220个国家/地区800多万独立IP访问,数据下载量230万次,年度访问量1000万,成为学术搜索和社会网络挖掘研究的重要数据和实验平台。

https://www.aminer.cn/
专栏二维码
理论论文吴恩达
52
相关数据
吴恩达人物

斯坦福大学教授,人工智能著名学者,机器学习教育者。2011年,吴恩达在谷歌创建了谷歌大脑项目,以通过分布式集群计算机开发超大规模的人工神经网络。2014年5月16日,吴恩达加入百度,负责“百度大脑”计划,并担任百度公司首席科学家。2017年3月20日,吴恩达宣布从百度辞职。2017年12月,吴恩达宣布成立人工智能公司Landing.ai,并担任公司的首席执行官。2018年1月,吴恩达成立了投资机构AI Fund。

所属机构
阿尔伯特·爱因斯坦人物

1879-1955,犹太裔理论物理学家,创立了现代物理学的两大支柱之一的相对论,荣获1921年诺贝尔物理学奖,被誉为是“现代物理学之父”及20世纪世界最重要科学家之一。

深度学习技术

深度学习(deep learning)是机器学习的分支,是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。 深度学习是机器学习中一种基于对数据进行表征学习的算法,至今已有数种深度学习框架,如卷积神经网络和深度置信网络和递归神经网络等已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。

机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

计算机视觉技术

计算机视觉(CV)是指机器感知环境的能力。这一技术类别中的经典任务有图像形成、图像处理、图像提取和图像的三维推理。目标识别和面部识别也是很重要的研究领域。

合合信息机构
推荐文章
测试
ok
1