2018-12-20 神经网络反向传播算法

反向传播算法

“反向传播”是用于最小化我们的成本函数的神经网络术语，就像在逻辑和线性回归中使用梯度下降一样。 

梯度计算-前向传播

表示第L层节点j的误差

.*表示点乘，是指对应的元素相乘

表示求导的导数

不需要计算，第一层是输入层，不存在误差。

梯度计算-后向传播

△表示大写的，是累加求和的意思。

后向传播

例题

例题