卷积神经网络（三）—— 反向传播

在卷积神经网络(CNN)前向传播算法中，我们对CNN的前向传播算法做了总结，基于CNN前向传播算法的基础，我们下面就对CNN的反向传播算法做一个总结。在阅读本文前，建议先研究DNN的反向传播算法：深度神经网络（DNN）反向传播算法(BP)

1. 回顾DNN的反向传播算法

2. CNN的反向传播算法思想

3. 已知池化层的δ^l，推导上一隐藏层的δ^l-1

4. 已知卷积层的δ^l，推导上一隐藏层的δ^l-1

这里有对矩阵反转180度更细节的写法：https://blog.csdn.net/zy3381/article/details/44409535

5. 已知卷积层的δ^l，推导该层的W, b的梯度

6. CNN反向传播算法总结

参考：

1. 博客 http://www.cnblogs.com/pinard/p/6494810.html