8- 深度学习之神经网络核心原理与算法-卷积神经网络

卷积神经网络(CNN)

神经网络不是一种具体的算法，而是一种模型构建思路或方式。

我们之前已经成功的构建了BP网络，BP网络的每个神经元是由线性分类器+激励函数形成的。每个神经元前后首尾连接，形成一个网络结构。

BP网络的局限性。是否可以做一些新的逻辑单元或构建方式。绝大部分的模式识别都借鉴了卷积神经网络的关键组件。

与全连接网络的对比

全连接网络(Full Connect Network)

每一个神经元节点的出入都来自于上一层的每一个神经元的输出。(全连接)

优点: 每个维度的信息都会传播到其后的任何一个节点中去。(让网络不会漏掉这个维度贡献的因素)
缺点: w和b 格外的多，更新(权重太多)慢，收敛慢

如果使用全连接网络来做图像识别这种输入维度很高的就不太可行了。因为电脑的计算力不足。

卷积神经网络同样也是一种前馈神经网络。

卷积神经网络的神经元可以响应一部分覆盖范围内的周围的单元。
对于大规模的模式识别是非常好的，性能表现不错，尤其是对于大规模的图像处理效率，卷积神经网络它的效率是非常高的。

两大特点:

• 有至少一个卷积层，用来提取特征
• 卷积层通过权值共享，减少权值w的数量，加快收敛速度。

权值减少了之后，这样卷积神经网络会快于BP神经网络收敛。

卷积网络主要用来识别位移，缩放，以及其他形式的扭曲不变性二维图形。
那么由于我们之前介绍的比较大的特点。卷积网络在特征检测层通过训练数据进行学习。

所以在使用卷积神经网络时，你就可以避免显示的去提取特征。而可以隐式的从训练数据中进行学习。

再者，由于同一特征映射层面上的神经元，它使用的是权值共享的方式，所以网络可以并行的学习，这也使得卷积神经网络，相对于神经元彼此相连的网络，具有更大优势。