思源 一鸣参与

MIT Kleitman 教授:这是初学者该了解的微积分

没有微积分,机器学习也就没有了「学习」。

在机器学习的数学基础中,概率论与线性代数起到了核心作用,但是我们常忽略另一个非常重要的领域:微积分。似乎我们只要了解简单的多元微分,那么也就能学习机器学习了。但这只是一个错觉,我们不论想要具体了解最优化方法,还是希望窥探反向传播的法则,微积分是不可或缺的部分。

此外,整个微积分对于很多学科而言都是最基础的内容,不了解它的思想与做法,有时很难理解当前的研究。例如最近比较受关注的神经微分方程,它就是将残差网络视为一个微分方程,然后该微分方程的解法就相当于整个神经网络的传播结果。

既然微积分这么重要,那我们还需要回去再啃一遍高数上下册?当然能这样是最好的,但这需要花很多时间,我们最好还是通读一些介绍性的教程,做到心中「有数」就可以了。因为目前来看,确实还有很多内容不太能用在机器学习上,例如复杂的多重积分学、三维曲线方程和微分中值定理等等。

本文介绍的就是 MIT 应用数学教授 Daniel Kleitman 写的一本微积分入门书籍,它完全是用英文写的,读者在学数学的过程中还能学学英语的表达呀。

书籍地址:http://www-math.mit.edu/~djk/calculus_beginners/

这个课程里有什么?

课程涵盖了微积分的各个方面,从介绍微积分的意义开始,逐渐深入。课程最后还提供了一些数学工具,帮助读者了解使用。

以第三章的「线性函数」为例:

该章节分为三部分:

  • 函数的定义

  • 线性函数定义和举例

  • 线性本身的概念

如图所示:

使用案例介绍方程的定义

介绍什么是线性和非线性

课程目录

  • Chapter 0: Why Study Calculus?

  • Chapter 1: Numbers

  • Chapter 2: Using a Spreadsheet

  • Chapter 3: Linear Functions

  • Chapter 4: Quadratics and Derivatives of Functions

  • Chapter 5: Rational Functions and the Calculation of Derivatives

  • Chapter 6: Exponential Functions, Substitution and the Chain Rule

  • Chapter 7: Trigonometric Functions and their Derivatives

  • Chapter 8: Inverse Functions and their Derivatives

  • Chapter 9: Numerical Differentiation, and Non-Differentiable Functions

  • Chapter 10: Review of Differentiation

  • Chapter 11: Application of Differentiation to Solving Equations

  • Chapter 12: The Anti-Derivative

  • Chapter 13: Area under a Curve; Definite Integrals

  • Chapter 14: Numerical Integration

  • Chapter 15: Areas and Volumes of Parallel Sided Figures; Determinants

  • Chapter 16: Some Pure Mathematics

  • Chapter 17: Modeling Applications to Physics

  • Chapter 18: Predator Prey Models

  • Chapter 19: Solving Differential Equations

  • Tools

  • Glossary of Notations

  • Index

还有其他入门材料吗?

数理基础对需要入门机器学习的初学者,以及需要加深理解的从业者来说都十分重要。因此,机器之心也为读者整理了一些受到关注和好评的入门级数学课程,帮助大家更好的夯实基础,加深对机器学习的理解,并更好的使用机器学习工具。

其他微积分课程

1. 可汗学院的「微积分预备」课程:这是一个为没有任何数学基础的人准备的微积分预备课程,提供了很多用于学习微积分的预备知识,如极限的相关知识、二项式定理等。

课程地址:https://www.bilibili.com/video/av14223492

2. 3Blue1Brown 的「微积分的本质」课程:本课程以最为简单易懂的方式介绍了微积分的本质原理,没有太多数学公式和枯燥无味的证明。

课程地址:https://www.bilibili.com/video/av24325548

其他线性代数课程

1. 3Blue1Brown 的「线性代数的本质」课程:还是这位大神,强烈推荐!本教程用最简单的方式介绍线性代数的知识。耐心看下去,没有不懂的。

课程地址:https://www.bilibili.com/video/av5987715

2. MIT 的线性代数课程:这是一个极其全面的线性代数课程,从几何空间入手介绍线性代数的原理。Gillbert Strang 老爷子非常有激情,几个小时大课听下来都不觉得很累很难。当然,画质较老,需要适应。

课程地址:https://www.bilibili.com/video/av36568126

入门线性代数微积分MIT
4
相关数据
神经网络技术

(人工)神经网络是一种起源于 20 世纪 50 年代的监督式机器学习模型,那时候研究者构想了「感知器(perceptron)」的想法。这一领域的研究者通常被称为「联结主义者(Connectionist)」,因为这种模型模拟了人脑的功能。神经网络模型通常是通过反向传播算法应用梯度下降训练的。目前神经网络有两大主要类型,它们都是前馈神经网络:卷积神经网络(CNN)和循环神经网络(RNN),其中 RNN 又包含长短期记忆(LSTM)、门控循环单元(GRU)等等。深度学习是一种主要应用于神经网络帮助其取得更好结果的技术。尽管神经网络主要用于监督学习,但也有一些为无监督学习设计的变体,比如自动编码器和生成对抗网络(GAN)。

微积分技术

微积分(Calculus)是高等数学中研究函数的微分(Differentiation)、积分(Integration)以及有关概念和应用的数学分支。它是数学的一个基础学科。内容主要包括极限、微分学、积分学及其应用。微分学包括求导数的运算,是一套关于变化率的理论。它使得函数、速度、加速度和曲线的斜率等均可用一套通用的符号进行讨论。积分学,包括求积分的运算,为定义和计算面积、体积等提供一套通用的方法 。

线性代数技术

线性代数是数学的一个分支,它的研究对象是向量,向量空间(或称线性空间),线性变换和有限维的线性方程组。向量空间是现代数学的一个重要课题;因而,线性代数被广泛地应用于抽象代数和泛函分析中;通过解析几何,线性代数得以被具体表示。线性代数的理论已被泛化为算子理论。由于科学研究中的非线性模型通常可以被近似为线性模型,使得线性代数被广泛地应用于自然科学和社会科学中。

推荐文章
暂无评论
暂无评论~