一、前言
神经网络通过前向传播计算预测结果,通过损失函数衡量预测误差。但仅仅知道模型预测得好不好,并不能让模型自动变得更好。
模型还需要知道:
- 哪些参数影响了当前损失?
- 每个参数对损失的影响有多大?
- 应该如何调整参数,才能降低损失?
- 当网络包含几十层甚至上百层时,如何高效计算所有参数的梯度?
这些问题涉及神经网络训练中最核心的机制之一:反向传播(Backpropagation)。
反向传播的数学基础是微积分中的链式法则(Chain Rule)。它通过从输出端向输入端逐层传递梯度,高效计算损失函数对网络中各个参数的偏导数。
本文重点讲解:
- 导数、偏导数与梯度的基本概念。
- 链式法则的数学原理。
- 计算图与梯度传播机制。
- 神经网络反向传播的完整推导。
- 多层网络中的梯度计算。
- 矩阵形式的反向传播。
- 自动微分与反向模式微分。
- 梯度消失、梯度爆炸及其处理方法。
- 反向传播与优化器之间的关系。
二、为什么神经网络需要反向传播?
先回顾神经网络的基本训练过程。
假设模型参数为:
模型接收输入数据 X,通过前向传播得到预测结果:
然后计算损失:
如果损失较大,说明当前模型参数还不够理想,需要调整权重和偏置。
但问题在于,神经网络通常包含大量参数。
例如:
- 一个简单的全连接网络可能有数万个参数。
- 一个深度学习模型可能有数百万甚至数十亿个参数。
- 大语言模型的参数规模可能达到数百亿或更多。
如果逐个参数尝试调整,再观察损失变化,计算成本将非常高。
因此,需要一种高效方法,计算每个参数对最终损失的影响。
这个影响通过梯度表示:
反向传播就是计算这些梯度的核心算法。
2.1 前向传播与反向传播
前向传播:
- 从输入数据开始。
- 按照网络结构逐层计算。
- 得到模型预测结果。
- 计算最终损失。
反向传播:
- 从损失函数开始。
- 根据链式法则计算梯度。
- 从输出层逐步向前传递。
- 得到各层参数的梯度。
两者共同构成神经网络训练中的核心计算过程。
flowchart TB
A["输入数据"]
B["前向传播"]
C["模型预测结果"]
D["计算损失"]
E["反向传播"]
F["计算权重与偏置梯度"]
G["优化器更新参数"]
A --> B
B --> C
C --> D
D --> E
E --> F
F --> G
style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style B fill:#EAF3EC,stroke:#83A995,color:#315D49
style C fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style D fill:#EAF3EC,stroke:#83A995,color:#315D49
style E fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style F fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style G fill:#DCEFE5,stroke:#4F8B70,color:#24563F
需要特别注意:
反向传播负责计算梯度,并不直接负责更新模型参数。
参数更新由 SGD、Adam 等优化器完成。
三、反向传播的数学基础:导数与偏导数
在理解反向传播之前,需要先掌握几个微积分概念。
3.1 导数
导数描述函数在某一点附近的变化率。
假设:
函数对 x 的导数为:
例如:
求导:
当 x=3 时:
这表示在 x=3 附近,输入发生微小变化时,输出的变化率约为 6。
从几何角度看,导数表示曲线在某一点的切线斜率。
3.2 偏导数
当一个函数包含多个变量时,需要使用偏导数描述函数对某一个变量的变化率。
假设:
对 x 求偏导时,将 y 视为常数:
对 y 求偏导时,将 x 视为常数:
神经网络中的损失函数通常依赖大量参数,因此需要计算损失对每个参数的偏导数。
3.3 梯度
假设损失函数为:
它的梯度定义为:
梯度包含了损失函数对所有参数的偏导数。
它具有两个重要含义:
- 梯度方向表示函数局部增长最快的方向。
- 负梯度方向表示函数局部下降最快的方向。
因此,梯度可以为模型参数优化提供方向信息。
3.4 梯度与参数更新
以梯度下降为例:
其中:
- \theta_t:当前参数。
- \eta:学习率。
- \nabla_\theta L:损失梯度。
如果某个参数对应的梯度为正,梯度下降会倾向于减小该参数。
如果梯度为负,梯度下降会倾向于增大该参数。
但具体更新幅度还取决于学习率及优化器的更新规则。
四、链式法则:反向传播的核心数学原理
链式法则是反向传播最重要的数学基础。
它解决的问题是:
当一个变量通过多个函数间接影响另一个变量时,如何计算最终变量对最初变量的导数?
4.1 两个函数的复合求导
假设:
那么:
根据链式法则:
也就是说:
最终输出对原始输入的导数,等于中间各个函数导数的乘积。
4.2 一个简单示例
假设:
当:
首先计算:
根据链式法则:
分别求导:
因此:
代入 u=8:
也可以将原函数展开:
结果同样为 48。
4.3 多层函数的链式求导
如果函数包含多个中间变量:
那么:
这正是神经网络反向传播的核心计算方式。
神经网络的每一层都可以看成一个函数。
最终损失依赖前面所有层的输出,因此可以沿着计算路径逐层应用链式法则。
五、计算图:理解梯度如何传播
计算图(Computational Graph)是一种将数学计算拆解为节点和连接关系的表示方式。
其中:
- 节点表示变量或运算。
- 有向边表示数据依赖关系。
- 前向方向表示数值计算。
- 反向方向表示梯度计算。
5.1 简单计算图
假设:
对应的计算图:
flowchart LR
X["输入 x"]
W["权重 w"]
M["乘法 u=xw"]
B["偏置 b"]
A["加法 y=u+b"]
S["平方 L=y²"]
X --> M
W --> M
M --> A
B --> A
A --> S
style X fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style W fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style M fill:#EAF3EC,stroke:#83A995,color:#315D49
style B fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style A fill:#EAF3EC,stroke:#83A995,color:#315D49
style S fill:#F7F4E8,stroke:#C7B77A,color:#675A2D
假设:
前向计算:
接下来需要计算损失对各个变量的梯度。
5.2 从输出端反向计算
首先:
因此:
由于:
所以:
根据链式法则:
又因为:
所以:
最终:
得到:
| 变量 | 梯度 |
|---|---|
| x | 42 |
| w | 28 |
| b | 14 |
这个示例展示了反向传播的基本机制:
从最终损失开始,沿计算图反方向逐步计算各个变量的梯度。
5.3 梯度累加
计算图中,一个变量可能同时影响多个后续计算节点。
例如:
其中 x 通过两条计算路径影响 u。
根据求导法则:
从计算图角度看,两条路径的梯度需要相加。
这也是反向传播中的重要规则:
当一个变量通过多条路径影响最终损失时,需要将各条路径传递回来的梯度累加。
六、神经网络中的反向传播
现在将链式法则应用到神经网络。
考虑一个简单的两层全连接神经网络:
损失函数:
前向传播完成后,需要计算:
这些梯度用于更新网络参数。
6.1 输出层梯度
首先定义输出层误差项:
如果输出层使用 Softmax,损失函数使用多分类交叉熵,并且标签采用标准独热编码,那么:
这里采用单样本或逐样本计算的表达形式。
对于批量数据,实际还需要考虑损失的求和或平均方式。
输出层权重梯度:
输出层偏置梯度:
对于批量平均损失,偏置梯度需要沿批量维度求和并除以批量大小。
6.2 隐藏层梯度
输出层的梯度计算完成后,需要继续向前传递。
隐藏层激活值为:
因此:
根据链式法则:
其中:
- \delta^{[2]}:输出层误差项。
- W^{[2]}:输出层权重。
- f'(Z^{[1]}):隐藏层激活函数的导数。
- \odot:逐元素乘法。
隐藏层权重梯度:
隐藏层偏置梯度:
对于批量输入,偏置梯度需要对批量维度进行求和或平均。
6.3 反向传播的整体流程
flowchart TB
A["前向传播完成"]
B["计算输出层误差项"]
C["计算输出层权重梯度"]
D["计算输出层偏置梯度"]
E["梯度传递到隐藏层"]
F["结合激活函数导数"]
G["计算隐藏层权重梯度"]
H["计算隐藏层偏置梯度"]
I["得到全部参数梯度"]
A --> B
B --> C
B --> D
C --> E
D --> E
E --> F
F --> G
F --> H
G --> I
H --> I
style A fill:#DCEFE5,stroke:#4F8B70,color:#24563F
style B fill:#EAF3EC,stroke:#83A995,color:#315D49
style C fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style D fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style E fill:#EAF3EC,stroke:#83A995,color:#315D49
style F fill:#EAF3EC,stroke:#83A995,color:#315D49
style G fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style H fill:#F5F8F4,stroke:#B5CBBB,color:#40594A
style I fill:#DCEFE5,stroke:#4F8B70,color:#24563F
七、反向传播的完整数学推导
为了更深入地理解反向传播,下面从一个具体的神经网络出发,推导各参数的梯度。
假设网络包含:
- 两个输入特征。
- 两个隐藏层神经元。
- 一个输出神经元。
- 隐藏层使用 ReLU。
- 输出层使用线性激活。
- 损失函数使用均方误差。
7.1 前向计算
输入:
隐藏层:
输出层:
损失:
这里使用带 1/2 系数的平方误差,目的是简化求导表达式。
7.2 计算输出层梯度
首先对损失求导:
由于输出层为线性变换:
因此:
7.3 计算隐藏层梯度
隐藏层输出:
ReLU 的导数为:
在 z=0 处不可导,实际实现通常采用约定的次梯度。
隐藏层误差项:
于是:
至此,所有参数的梯度都已经计算完成。
7.4 为什么需要从后往前计算?
隐藏层参数并不直接参与最终损失计算。
它们通过隐藏层输出影响输出层,再影响最终损失。
因此,必须先计算输出层梯度,再根据链式法则将梯度传回隐藏层。
这就是反向传播采用逆向计算顺序的原因。
八、多层神经网络中的反向传播
对于包含 L 层的神经网络,可以将每一层的计算统一表示为:
其中:
最终输出:
反向传播从最后一层开始计算误差项。
定义:
对于隐藏层:
权重梯度:
偏置梯度:
以上公式采用单样本或未对批量求平均的形式。
对于批量大小为 m 的数据:
这里假设批量损失采用样本平均,并且每个样本的误差项按对应损失定义计算。
8.1 反向传播的递归关系
从数学结构上看,反向传播具有递归特征:
- 最后一层的梯度由损失函数直接计算。
- 当前层梯度依赖后一层梯度。
- 每一层结合自身激活函数导数。
- 梯度逐层向前传播。
这种递归关系使多层神经网络能够采用统一的计算规则完成梯度求解。
8.2 参数梯度与误差项的区别
这两个概念容易混淆。