[Deep Learning] 卷积神经网络 CNNs

2018-08-14 本文已影响0人舒也ella

本文是Deep Learning Course总结翻译系列的第二篇，主要课程内容是卷积神经网络。讲义参考：Feedforward Nets and Conv Nets (lecturer: Dario Garcia)和Stanford cs231n视频课程。
本系列第一篇传送门： [Deep Learning] 神经网络基础

本文对卷积神经网络（Conv Neural Networks）的主要内容进行简要介绍，感兴趣部分可根据参考论文进行详细学习。

卷积神经网络 Convolutional Neural Networks

虽然反向传播算法在20世纪80年代就被提出后，但直至2006年才出现第一篇由Hinton和Salakhutdinov发表的论文^[1]，提出我们能够训练一个深度神经网络。这篇论文仍与现在的深度网络训练有所不同，它对初始化值的要求非常高，在预训练阶段每个隐层需要分别通过受限玻尔兹曼机得到某些初始的权重值，然后再进行整个网络的反向传播微调权值。2010年，Acoustic Modeling using Deep Belief Network^[2]一文的发表使深度神经网络在语音识别领域获得显著应用效果。2012年，Alex发表Imagenet classification with deep convolutional neural networks^[3]一文，AlexNet大幅降低了图像分类误差基准，成为图像分类发展的里程碑。

CNN原理 CNN from the Inside

卷积神经网络基于生物学的原理，20世纪50年代，Hubel和Wiesel通过实验获取接收视觉刺激时猫脑的电信号并分析神经元对其反应，得到结论：

在大脑皮质的映射中，相近区域的细胞对应着实际视觉中同样相近的区域。
视觉皮层映射
2.神经元具有层次结构
从边缘轮廓到方向角落、Blob（图像中具有相似颜色、纹理特征的连通域）等，下图对神经网络卷积filter进行可视化，每一方格展示了能够使各神经元的输出获得最优值时的输入，也即生物视觉神经中神经元正在寻找的东西。不同的filter用于实现不同的效果，例如将每个像素与周围像素平均可以模糊图像，将中心像素值与其他像素比较可以检测边缘。通常第一层的filter类似于Gabor滤波器，获取图像基础特征，之后越深的层进行特征的结合，学习更复杂的模式。
卷积层filter层次结构设计
滤波器可视化工具Deep Visualization Toolbox video

CNN卷（volumes）
卷积层
保存图像的空间结构，多次滑动不同的filter分别在全深度上进行点乘（点乘时实际上也会将三维的图像和filter拉伸为一维向量）。卷积层的输入没有类似于全连接层的连接权重，而是使用上一层的输出图像使用filter进行本地连接，因此得到的激活函数map相当于其中每一个神经元与输入的一小片区域相连，所有神经元共享权重。
不严格卷积操作
在边缘增加一层扩充（zero-padding）后输出图像长宽大小为：
$OutputSize = \frac{InputSize-KernelSize+2*Padding}{Stride}+1$
因此步长为1时输出图像大小和原始一致，深度的大小为filter的种类个数。通常，第一层使用RGB通道深度为3，之后每层的深度由filter所需检测的特征种类个数决定。
ConvNet

1*1 卷积
只改变通道数降维

池化层/子取样Subsampling
缩小长宽，深度不变，池化层不padding不overlay。

MaxPooling

pooling提供 translation inviaration
在每个channel上pooling
spatial pyramid pooling实现 multi scale
全连接层
32323 image -> stretch to 3027*1
CNN参数

卷积层参数个数

CNN训练
在线demo（https://cs.stanford.edu/people/karpathy/convnetjs/demo/cifar10.html）

CNN架构 CNN Architectures

通常的架构为[(CONV-RELU)N-POOL]M-(FC-RELU)*K,SOFTMAX

CNN架构
激活函数单独作为一层列出是因为输出要由深度方向上各个神经元共同决定。

ReLU输入值

总结：
https://www.cnblogs.com/guoyaohua/p/8534077.html
https://medium.com/@sidereal/cnns-architectures-lenet-alexnet-vgg-googlenet-resnet-and-more-666091488df5
https://my.oschina.net/u/876354/blog/1637819

LeNet
LeCun识别手写数字
AlexNet
五层卷积池化层，三全连接层，ReLU，Dropout 0.5，最后Softmax或SVM进行分类

AlexNet

ZFNet
减少卷积核大小和步长较大的kernel破坏局部连接性假设
增大filter（通道数），提供更好的表征能力

ZFNet
VGG
VGG16/19由Oxford Visual Geometry Group 提出^[4]^[5]，主要思想是通过增加层数扩大感受野同时提高非线性拟合能力（Stack of three 3x3 conv (stride 1) layers has same effective receptive field as one 7x7 conv layer），但网络层数太深需要pre-training。
与AlexNet不同，VGG去掉了Local Response Normalization：

AlexNet和VGG的一个共同问题是全连接层参数量巨大

VGG

GoogleNet
GoogleNet^[6]，延伸版本Inception^[7]^[8]
深度加深至22层，是首个
引入NIN的思想，在每个module中stack不同size的kernel
但通道数爆炸，引入1*1卷积进行通道降维

Inception-v3
借鉴Encoder-Decoder思想，将33卷积改为31和1*3卷积，感受野不变，但表达能力增强？？

HIghway Networks
ResNet
微软提出，引入残差框用H(x) - x取代H(x)做目标h解决梯度消失问题^[9]
残差网络有显著的冗余
ResNeXt
DenseNet
引入密度网络
不同dense block之间通过conv pooling降维
shuffle net
空间复杂度
1*1

通道复杂度
传统conv的主要性能瓶颈在通道
-> group conv -> depth-wise conv

Advanced CNN Module

Transpose Convolution
上采样和卷积结合(通常也称为转置卷积Transpose Convolution、不严格的解卷积"Deconv"、Upconv、分数步长卷积Fractionally strided conv、Backward strided conv

参考 Vincent Dumoulin, Francesco Visin: A guide to convolution arithmetic for deep learning.
3D Convolution
3DCNN
经常需要group conv
Graph Convolution
图神经网络
非grid data 非欧式空间流形学习

CNN应用 CNN Applications

目前卷积神经网络可以用于图像分类（数据集MNIST、CIFAR (10或100类低分辨率图像)、ImageNet (1,000类包括难以辨别的相似类型)）、检索retrieval/释义captioning、检测分割bounding box->segmentation（PASCAL VOC数据集^[10]）、自动驾驶、视频分类、人脸识别、姿势识别、结合增强学习玩游戏（ATARI videogames or the GO boardgame）等应用中。