机器学习的数学基础

机器学习的数学基础高等数学线性代数行列式矩阵向量线性方程组矩阵的特征值和特征向量二次型概率论和数理统计随机事件和概率随机变量及其概率分布多维随机变量及其分布随机变量的数字特征数理统计的基本概念

高等数学

1.导数定义:

导数和微分的概念

(1)

或者:

(2)

2.左右导数导数的几何意义和物理意义

函数处的左、右导数分别定义为:

左导数:

右导数:

3.函数的可导性与连续性之间的关系

Th1: 函数处可微处可导

Th2: 若函数在点处可导,则在点处连续,反之则不成立。即函数连续不一定可导。

Th3: 存在

4.平面曲线的切线和法线

切线方程 : 法线方程:

5.四则运算法则 设函数]在点可导则 (1) (2) (3)

6.基本导数与微分表 (1) (常数) (2) (为实数) (3) 特例:

(4)

特例:

(5)

(6)

(7)

(8) (9)

(10)

(11)

(12)

(13)

(14)

(15)

(16)

7.复合函数,反函数,隐函数以及参数方程所确定的函数的微分法

(1) 反函数的运算法则: 设在点的某邻域内单调连续,在点处可导且,则其反函数在点所对应的处可导,并且有 (2) 复合函数的运算法则:若在点可导,而在对应点()可导,则复合函数在点可导,且 (3) 隐函数导数的求法一般有三种方法: 1)方程两边对求导,要记住的函数,则的函数是的复合函数.例如等均是的复合函数. 对求导应按复合函数连锁法则做. 2)公式法.由,其中,分别表示的偏导数 3)利用微分形式不变性

8.常用高阶导数公式

(1) (2) (3) (4) (5) (6)莱布尼兹公式:若阶可导,则 ,其中

9.微分中值定理,泰勒公式

Th1:(费马定理)

若函数满足条件: (1)函数的某邻域内有定义,并且在此邻域内恒有 ,

(2) 处可导,则有

Th2:(罗尔定理)

设函数满足条件: (1)在闭区间上连续;

(2)在内可导;

(3)

则在内一存在个,使 Th3: (拉格朗日中值定理)

设函数满足条件: (1)在上连续;

(2)在内可导;

则在内一存在个,使

Th4: (柯西中值定理)

设函数满足条件: (1) 在上连续;

(2) 在内可导且均存在,且

则在内存在一个,使

10.洛必达法则 法则Ⅰ (型) 设函数满足条件: ;

的邻域内可导,(在处可除外)且;

存在(或)。

则: 。 法则 (型)设函数满足条件: ;

存在一个,当时,可导,且;存在(或)。

则: 法则Ⅱ(型) 设函数满足条件: ; 的邻域内可导(在处可除外)且;存在(或)。则 同理法则(型)仿法则可写出。

11.泰勒公式

设函数在点处的某邻域内具有阶导数,则对该邻域内异于的任意点,在之间至少存在 一个,使得: 其中 称为在点处的阶泰勒余项。

,则阶泰勒公式 ……(1) 其中 在0与之间.(1)式称为麦克劳林公式

常用五种函数在处的泰勒公式

(1)

(2)

(3)

(4)

(5)