反向传播可视化

传播方向对比

前向传播(数据流)
反向传播(梯度流)
输入 x
隐藏层 h
输出 y
损失 L
∇L/∇x
∇L/∇h
∇L/∇y
∇L/∇L=1

网络可视化

步骤演示

1. 前向传播
2. 计算损失
3. 输出层梯度
4. 隐藏层梯度
5. 更新参数

计算详情

输入值
[1.0, 0.5]
隐藏层输出
[0.73, 0.88]
预测输出
0.82
真实标签
1.0
当前步骤:前向传播
数据从输入层流向输出层

链式法则

∂L/∂W
=
∂L/∂y
×
∂y/∂z
×
∂z/∂W

梯度通过链式法则逐层传递,从输出层向输入层反向计算