Andy编译

神经网络的叛离:32年前从心理学与生理学分离的瞬间

反向传播算法隶属于深度学习,它在解决模型优化问题的方面有着重要的地位。

这一算法由被誉为深度学习之父的Geoffrey Hinton提出。1986年,他发表了名为Learning representations by back-propagating errors" (Rumelhart, Hinton & Williams, Nature, 1986) 的论文,到目前为止已有将近16000次的引用,可以说是一篇位于神经网络研究金字塔顶端的论文。

但是,学界对这篇代表反向传播算法的论文却态度褒贬不一。反对的声音称,这是一篇有点无聊的论文。

本文作者,谷歌Business Insight团队的数据科学家,Takashi J OZAKI认为,1986年的那篇论文的意义,并不单单只是提出了反向传播,更是“神经网络从心理学和生理学分离,转向机器学习领域的一个重大转折。” 

他将从这篇论文谈起,详细的介绍他对反向传播算法的看法。

下文是作者以第一人称论述反向传播算法的意义,Enjoy!

反向传播简单结构

前不久,@tmaehara 桑在 Twitter 上这样说。

完全搞不懂 back propagation 的原论文有什么创新点… - 原论文感觉就不过用链式法则先微分然后加上梯度法而已...

原论文:

http://elderlab.yorku.ca/~elder/teaching/cosc6390psyc6225/readings/hinton%201986.pdf 

Learning representations by back-propagating errors" (Rumelhart, Hinton & Williams, Nature, 1986) 这篇论文,在 Google Scholar Citation到目前为止已有将近 16000 次的引用,可以说是神经网络研究金字塔顶端的论文。

它在过去无法进行非线性分割的Rosenblatt的感知机(perceptron)中,导入了看似有些奇怪的back propagation(反向传播) 方法,于是让其变得可进行非线性分割。可以说是一次范式转移(根本性突破)的研究。

现在被称为深度学习神经网络已完全被反向传播给占据了。因此或许可以说,如果没有这篇论文也就不会有现在的深度学习热潮了。

换句话说,现在的人工智能热潮,正是从30多年前这篇小论文开始的吧。

但是,如果你实际去读读这篇论文就会发现,正如 @tmaehara 桑指出来的一样,这边论文本身非常无聊。就如很多神经网络教科书里常有的一样,轻描淡写般地,用链式法则先微分然后用梯度法优化,就完了。

读到这里估计会非常疑惑,“为什么这篇无聊的论文会占据金字塔的顶端?”

“Who Invented Backpropagation? (谁发明了反向传播?)” 

Schmidhuber 在批评文中写到,早在上世纪50年代到60年代,在其他领域就有类似想法被提出,甚至70年代还有FORTRAN语言的算法实现。而对于这些研究,Rumelhart和Hinton的团队却连引用都没有,没有给予最基本的敬意。这个指责在一定程度上确实有说服力。

但是,对于从最早的感知机开始到反向传播,再到深度学习的轨迹,我们必须要意识到的是,那是一个“和我们现在所考虑的神经网络完全不同的世界”。

从这个角度看的话,就会发现1986年的那篇论文的意义,并不单单只是提出了反向传播,更是神经网络从心理学和生理学分离,转向机器学习领域的一个重大转折。” 下面,我就基于自己的读到的一些知识,简单解释一下。

  • 过去的神经网络属于心理学与生理学

  • 1986 年 Nature 的论文意味着神经网络从心理学和生理学的分离

  • 于是向着模式识别” “机器学习转移,后进一步成为深度学习

  • 现在神经网络还继续沿用“Neural(神经)”的理由

过去的神经网络属于心理学与生理学

关于联结主义,很多年轻人或许并不太知道,过去一提神经网络就会想到心理学家和生理学家的研究,以及联结主义的基本理论。读读维基百科上联结主义的词条也会明白,本来神经网络就是以“模拟人脑的信号处理”为大前提而建立起来的体系。

它的方法论,有基于认知科学特有的“人体中(某种程度上的)黑箱化”,还有用符合心理学的模型来试图解释人类大脑功能的性质。简单来说,这是支撑神经网络的心理学部分。

另一方面,还有以研究与“人脑”连接相关的生理方面为基础的,被称为“计算神经科学的东西。这个读读维基百科也知道,其实就是用符合生理学的模型来试图解释人类大脑功能。如果说联结主义还有神经网络是一种抽象概念性模型的话,那么可以说计算神经科学是论证人类大脑在多大程度上与神经网络相似(或者不相似)。

本来神经计算学就不仅仅只考虑像神经网络这样大脑的神经模型,它还研究诸如神经元放电模式代表什么信息这样的“神经活动解释”类的课题,有必要特别指出计算神经科学其实是个很大的领域。简单来说,这是支撑神经网络的生理学部分。

其实不管是上面哪种情况,都在某种程度上假设了神经网络=人脑的模仿”。在我看来,至少到 2000 年左右,都还有人认为神经网络和人脑的关系是密不可分的。然而神经网络给我的印象是,其源自生理学或心理学,而后再从工程学和计算机科学的视角进行了二次解读。

于是乎,比如说神经网络原型的感知机,最初就被认为是基于形式神经元的人脑(特别是小脑)学习模型。而且它的构造也和实际的小脑的生理学构造确实挺像,现在都还作为联结主义和计算神经科学的重要范例之一,被记载在比如维基百科的许多文献上。

顺便一提,现在作为机器学习年度峰会而变得有名的顶级会议 NIPS ,也如它全名 Conference on Neural Information Processing Systems (神经信息处理系统大会)一般,过去主要是计算神经科学的会议。

比如说看看1990年该会的记录,绝对是现在完全想象不到的,基本大多都是关于真正人脑的研究。其实我在理研 BSI(理化学研究所—脑科学综合研究中心)还是菜鸟研究员的时候,实验室就是以神经元放电活动的同步”为其中一个研究主题,所以我也就对这方面也有些了解,于是看 NIPS 当时的记录发现,刚才说的神经元放电活动的建模论文也都有些。所以可见,过去的神经网络就是如此带有“浓浓心理学(认知科学)和生理学味”的东西。

于是不可避免的,过去在研究神经网络时,总会想“不管是什么样的新方法,一定也要遵循心理学或生理学”,而这无形中形成了一种制约。

当然,这只是我个人的一些推测。但实际上,我还是神经科学领域菜鸟研究员的时候也有这种心理,在读各种关于人认知机能的计算理论模型论文时,会边读边脑补上 “嗯嗯,这篇论文有生理学的依据,所以很可靠。” 就连视觉神经科学研究的大佬 Zeki 也在其写的经典大作《A Vsion of the Brain》中严厉批评,“David Marr 的视觉信息处理模型没有什么生理学依据,所以没啥用。” 由此也可见当时对生理学根据有无的重视。

此外,如果读读我年轻时这方面的经典著作《脳の計算理論 (脑的计算理论)》,就能深刻体会到当时的氛围。不过这本书已经绝版了,很难入手。

1986 年 Nature 的论文意味着神经网络从心理学和生理学的分离

在这样一个神经网络和心理学还有生理学不可分的时候,正是开头提到的那篇1986年的Nature论文横空出现,将神经网络从中拉了出来。

如果对神经科学有些了解的人,可能知道就连神经科学中,关于对等反向传播的“大脑皮质内从高阶区域向低阶区域的反馈信号”意义的讨论本身,其实也是2000年前后没那么久之前的事情了。从2000年再往前推14年的话,说不定议论反向传播人们只会把你当成怪人。

于是这样,在“这东西不管怎么看也找不到什么生理学的依据”的情况下提出反向传播,对生理学根据基本无视,提出具有范式转移的反向传播机制,还有配套的梯度法进行最优化,并向大家展示了其强大的实用性。这,才是我个人认为1986年 Nature 论文最大的意义。

在最后结论部分,Nature 论文给出了这样的总结:

这样的学习方法,似乎并不是大脑学习的一种合理模型。然而,将这个方法应用在各种各样的任务上后显示,通过权重空间的梯度下降,可以构建出很有趣的内部表征。这表明,很值得在神经网络中找出更有生理可行性的方法来进行梯度下降

这里直接坦言“虽然反向传播没有生理学依据,但很有用”。从另一个角度来看的话,说不定这就是神经网络从不得不有心理学或生理学证据的枷锁中,挣脱的第一步呢。

而且提出这样重要观点的,还不是像应用数学或计算机工程学这样的“外人”,而是联结主义中支柱般存在的 Rumelhart 和 Hinton 二人,这样看来无疑意义更加伟大。并且,虽然Hinton老师现在被认为是深度学习的三始祖之一,还是神经网络机器学习的大牛,但看看维基百科的话就会发现,他本来其实是认知心理学家(Rumelhart 也一样)。

当然,并不是说这之后神经网络就完全和心理学生理学分离了,至少看文献的话大概在2000年之前,仍被纳入联结主义中去。但是,根据已明确表示出来的,神经网络不一定要依赖心理学和生理学的趋势,未来将会更彻底从心理学生理学还有联结主义中分离出来吧。

向着“模式识别” “机器学习”转移,之后进一步成为深度学习

我本科虽然是计算机科学的学生,但在1999年时却记得机器学习这个词并不常见。用的更多的是模式识别这个词。作为参考,看了看维基百科“Pattern recognition”的词条,发现引用里面果然大部分都是在2000年前后,和我当时的印象一致。

顺便一提,这是我本科时上课用到的经典教科书(《好懂的模式识别》)。现在看来似乎这本书的续篇更加有名,但这本书还是将模式识别基本的东西都提到了,是本挺好的入门书。

这本书当然也提到了神经网络和反向传播。此外,过去神经科学等教科书上提到神经网络时,一定会提到从小脑与感知机的异同到神经网络的各种历史,而这本书却没对这方面花太大篇幅。

此外,就如其他各种有名教科书一样,反而是以如何基于链式法则导出反向传播,还有如何实现它为主来说明。顺便一提,我最初开始数据科学家的工作时,就是从书架上抽出这本书,一边看着梯度法的公式,一边从零实现反向传播算法

正如2000年左右,神经网络已被看做脱离了心理学和生理学范畴的模式识别的一种。之后和机器学习的成功一起被看做是统计学习模型的一种,再然后是2006年Hinton老师的Science论文,还有就是通过2012年的 ImageNet Challenge,神经网络和它的终极形态深度学习,慢慢以机器学习王者的姿态稳居宝座之上。

现在的神经网络研究,有着各种奇思妙想的网络模型层出不穷“我想出来的网络才是最好的”乱况,还有不断引入最先端的最优化解法,和利用过去完全想象不到的超大规模并行处理运行的进步,此外也有单作为数学理论分析对象和作为发现新物体性质的应用研究手段等等。神经网络简直慢慢成了将工程学和计算机科学各流派精粹集中在一起的天下第一武道大会。

顺带一提,维基百科日文版的神经网络词条中,也有类似的描述。

Neural Network神经网络,缩写:NN)是一种数学模型,旨在通过计算机模拟表达脑功能中的一些特征。虽然研究起源于对生物体大脑的建模,但由于对神经科学看法的改变,逐渐与大脑模型的差异变得显着。为了区分于生物学和神经科学上的神经网络,所以也称为人工神经网络

人工神经网络(ANN)或联结主义系统,是大致由构成动物大脑的生物神经网络启发的计算系统,人工神经网络最初的目的是想像人脑一样解决问题。但随着时间的推移,注意力重点开始转移到了执行特定任务上去,导致了从生物学的偏离。

这里明确表达了类似神经网络已经脱离了人脑本身”的看法。距离1986年的Nature论文过去32年,神经网络现在已慢慢远离联结主义的起源,开始成为了大家公认的机器学习王者。

虽然开头那句话已说了很多遍了,但是还是要重复一遍:“产生了让神经网络从心理学和生理学分离,并向着机器学习方向转移的契机”,才是1986年那篇 Nature 论文的最大意义。这便是我翻阅神经网络历史后得出的感想。

现在神经网络还继续沿用“神经”的理由

顺带一提,过去作为讨论神经信息处理顶级会议的 NIPS,维基百科英文版最近的描述也已发生巨大的转变。

该会议在2016年有5,000名注册参与者,2017年有8,000名,使其成为人工智能领域最大的会议。除了机器学习神经科学,NIPS 涉及的其他领域包括认知科学,心理学,计算机视觉,统计语言学和信息论

虽然NIPS首字母缩写中的“神经”已成为一种历史残留物,但自2012年后深度学习的复兴,加上高速计算机和大数据的推动,在语音识别,图像物体识别,语言翻译等领域取得惊人的成果。

上面毫不客气地直接写到“NIPS 首字母缩写中的“神经”已成了一种历史残留物”。其实2013年去太浩湖参加那年的 NIPS 时,虽然其中还有部分关于神经活动信号数据分析的研究,好像“神经”尚还健在,但更多还是与深度学习相关的研究。

此后就变得更加多了。

在围棋中的世界冠军级表现,是基于灵感来自视觉皮层(ConvNet)的层次结构的神经网络架构,和受基础神经节启发(时间差分学习)的强化学习

还有“尽管如此,受大脑启发的神经网络(和其综合运用)还是有很大的应用可能性”,我同意这一点。 而且我还认为正因为这点,即使在已不把模仿人脑当做目标的现在,神经网络还继续沿用“神经”这个词。

最后

关于2000年以前的情况,大都是从我碰巧同时学过的神经科学和计算机科学的经验,还有各种文献中参考而得出来的。当然我自身并没有在那个时代去体验这些。如果在文章中关于事件关系还有解释中发现错误的话,非常高兴你能指出来m(_ _)m。

引用

*1:無論その後のHinton先生の2006年のScience論文や2012年のImageNet Challengeも不可欠だと思いますが

*2:ただし書籍の中には手放してもう手元にないものもかなりある汗

*3:ただしこの記事は微妙に悪意ある記述が目立つので取扱注意

*4:小脳パーセプトロン理論は35歳で夭折した天才David Marrが提唱したということもあって、現在でも有名なサクセスストーリーとして語られることが多いようです

*5:例えばこの辺など https://papers.nips.cc/paper/421-analog-computation-at-a-critical-point-a-novel-function-for-neuronal-oscillations.pdf

*6:確か2と1/2次元スケッチモデルのこと

*7:特に各種感覚野など階層的構造を持つことが知られている部位の機能的神経解剖学

*8:Lamme and Roelfsema (Trends Neurosci., 2000)は卒論生当時繰り返し読んだものです http://www.kylemathewson.com/wp-content/uploads/2010/03/LammeRoelfsema-2000-TiN-Reentrant-Vision.pdf

*9:例えば「皮質内領野間におけるニューロン活動と階層間でのフィードバック投射の関係」に関する総説論文はどれほど遡っても2000年前後までに留まる https://www.ncbi.nlm.nih.gov/pubmed/?term=review+%5Bptyp%5D+feedback+%5Bti%5D+neuron+cortex

*10:某勉強会のメインテキストだったので

*11:ただしタイトルに比してわかりやすいという印象はない。。。

*12:あくまでもcoffee breakという挿話のところにMinskyによるパーセプトロン批判とRumelhartによるBP提案という反駁の歴史の話が出てくる程度

*13:例えばVapnik御大が最初にSVMを提案したのが1963年、非線形SVMへの拡張がなされたのが92年なので、実際にはだいぶ以前から工学系分野としての「機械学習」の萌芽は芽生えていた

相关报道:

https://tjo.hatenablog.com/entry/2018/10/23/080000

大数据文摘
大数据文摘

秉承“普及数据思维,传播数据文化,助⼒产业发展”的企业⽂化,我们专注于数据领域的资讯、案例、技术,形成了“媒体+教育+⼈才服务”的良性⽣态,致⼒于打造精准数据科学社区。

理论模式识别机器学习深度学习反向传播算法神经网络
4
相关数据
深度学习技术

深度学习(deep learning)是机器学习的分支,是一种试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的算法。 深度学习是机器学习中一种基于对数据进行表征学习的算法,至今已有数种深度学习框架,如卷积神经网络和深度置信网络和递归神经网络等已被应用在计算机视觉、语音识别、自然语言处理、音频识别与生物信息学等领域并获取了极好的效果。

权重技术

线性模型中特征的系数,或深度网络中的边。训练线性模型的目标是确定每个特征的理想权重。如果权重为 0,则相应的特征对模型来说没有任何贡献。

机器学习技术

机器学习是人工智能的一个分支,是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、计算复杂性理论等多门学科。机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法。因为学习算法中涉及了大量的统计学理论,机器学习与推断统计学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。

感知技术

知觉或感知是外界刺激作用于感官时,脑对外界的整体的看法和理解,为我们对外界的感官信息进行组织和解释。在认知科学中,也可看作一组程序,包括获取信息、理解信息、筛选信息、组织信息。与感觉不同,知觉反映的是由对象的各样属性及关系构成的整体。

人工智能技术

在学术研究领域,人工智能通常指能够感知周围环境并采取行动以实现最优的可能结果的智能体(intelligent agent)

神经科学技术

神经科学,又称神经生物学,是专门研究神经系统的结构、功能、发育、演化、遗传学、生物化学、生理学、药理学及病理学的一门科学。对行为及学习的研究都是神经科学的分支。 对人脑研究是个跨领域的范畴,当中涉及分子层面、细胞层面、神经小组、大型神经系统,如视觉神经系统、脑干、脑皮层。

模式识别技术

模式识别(英语:Pattern recognition),就是通过计算机用数学技术方法来研究模式的自动处理和判读。 我们把环境与客体统称为“模式”。 随着计算机技术的发展,人类有可能研究复杂的信息处理过程。 信息处理过程的一个重要形式是生命体对环境及客体的识别。其概念与数据挖掘、机器学习类似。

联结主义技术

联结主义是统合了认知心理学、人工智能和心理哲学领域的一种理论。联结主义建立了心理或行为现象模型的显现模型—单纯元件的互相连结网络。联结主义有许多不同的形式,但最常见的形式利用了神经网络模型。

计算机视觉技术

计算机视觉(CV)是指机器感知环境的能力。这一技术类别中的经典任务有图像形成、图像处理、图像提取和图像的三维推理。目标识别和面部识别也是很重要的研究领域。

神经网络技术

(人工)神经网络是一种起源于 20 世纪 50 年代的监督式机器学习模型,那时候研究者构想了「感知器(perceptron)」的想法。这一领域的研究者通常被称为「联结主义者(Connectionist)」,因为这种模型模拟了人脑的功能。神经网络模型通常是通过反向传播算法应用梯度下降训练的。目前神经网络有两大主要类型,它们都是前馈神经网络:卷积神经网络(CNN)和循环神经网络(RNN),其中 RNN 又包含长短期记忆(LSTM)、门控循环单元(GRU)等等。深度学习是一种主要应用于神经网络帮助其取得更好结果的技术。尽管神经网络主要用于监督学习,但也有一些为无监督学习设计的变体,比如自动编码器和生成对抗网络(GAN)。

反向传播算法技术

反向传播(英语:Backpropagation,缩写为BP)是“误差反向传播”的简称,是一种与最优化方法(如梯度下降法)结合使用的,用来训练人工神经网络的常见方法。该方法计算对网络中所有权重计算损失函数的梯度。这个梯度会反馈给最优化方法,用来更新权值以最小化损失函数。 在神经网络上执行梯度下降法的主要算法。该算法会先按前向传播方式计算(并缓存)每个节点的输出值,然后再按反向传播遍历图的方式计算损失函数值相对于每个参数的偏导数。

梯度下降技术

梯度下降是用于查找函数最小值的一阶迭代优化算法。 要使用梯度下降找到函数的局部最小值,可以采用与当前点的函数梯度(或近似梯度)的负值成比例的步骤。 如果采取的步骤与梯度的正值成比例,则接近该函数的局部最大值,被称为梯度上升。

大数据技术技术

大数据,又称为巨量资料,指的是传统数据处理应用软件不足以处理它们的大或复杂的数据集的术语。

神经元技术

(人工)神经元是一个类比于生物神经元的数学计算模型,是神经网络的基本组成单元。 对于生物神经网络,每个神经元与其他神经元相连,当它“兴奋”时会向相连的神经元发送化学物质,从而改变这些神经元的电位;神经元的“兴奋”由其电位决定,当它的电位超过一个“阈值”(threshold)便会被激活,亦即“兴奋”。 目前最常见的神经元模型是基于1943年 Warren McCulloch 和 Walter Pitts提出的“M-P 神经元模型”。 在这个模型中,神经元通过带权重的连接接处理来自n个其他神经元的输入信号,其总输入值将与神经元的阈值进行比较,最后通过“激活函数”(activation function)产生神经元的输出。

语音识别技术

自动语音识别是一种将口头语音转换为实时可读文本的技术。自动语音识别也称为语音识别(Speech Recognition)或计算机语音识别(Computer Speech Recognition)。自动语音识别是一个多学科交叉的领域,它与声学、语音学、语言学、数字信号处理理论、信息论、计算机科学等众多学科紧密相连。由于语音信号的多样性和复杂性,目前的语音识别系统只能在一定的限制条件下获得满意的性能,或者说只能应用于某些特定的场合。自动语音识别在人工智能领域占据着极其重要的位置。

物体识别技术

计算机视觉领域的一个分支,研究物体的识别任务

链式法则技术

是求复合函数导数的一个法则, 是微积分中最重要的法则之一。

信号处理技术

信号处理涉及到信号的分析、合成和修改。信号被宽泛地定义为传递“关于某种现象的行为或属性的信息(如声音、图像和生物测量)”的函数。例如,信号处理技术用于提高信号传输的保真度、存储效率和主观质量,并在测量信号中强调或检测感兴趣的组件。我们熟悉的语音、图像都可以看做是一种信号形式。因此,对于语音、图像的增强、降噪、识别等等操作本质上都是信号处理。

强化学习技术

强化学习是一种试错方法,其目标是让软件智能体在特定环境中能够采取回报最大化的行为。强化学习在马尔可夫决策过程环境中主要使用的技术是动态规划(Dynamic Programming)。流行的强化学习方法包括自适应动态规划(ADP)、时间差分(TD)学习、状态-动作-回报-状态-动作(SARSA)算法、Q 学习、深度强化学习(DQN);其应用包括下棋类游戏、机器人控制和工作调度等。

信息论技术

信息论是在信息可以量度的基础上,研究有效地和可靠地传递信息的科学,它涉及信息量度、信息特性、信息传输速率、信道容量、干扰对信息传输的影响等方面的知识。通常把上述范围的信息论称为狭义的信息论,又因为它的创始人是香农,故又称为香农信息论。

图网技术

ImageNet 是一个计算机视觉系统识别项目, 是目前世界上图像识别最大的数据库。

感知器技术

感知器是Frank Rosenblatt在1957年就职于Cornell航空实验室时所发明的一种人工神经网络。它可以被视为一种最简单形式的前馈神经网络,是一种二元线性分类器。 Frank Rosenblatt给出了相应的感知机学习算法,常用的有感知机学习、最小二乘法和梯度下降法。

暂无评论
暂无评论~