LeNet-5

LeNet-5结构

C1参数：(5×5+1)×6 = 156
S2参数：(1+1)×6 = 12 %每次池化乘一个系数再加一个偏置
C3参数：(5×5×3+1)×6 + (5×5×4+1)×9 + (5×5×6+1)×1 = 1516 %具体连接方式如下图

S2(6)-C3(16)连接方式

S4参数：(1+1)×16 = 32
C5参数：(5×5×16+1)×120 = 48120
F6参数：(120+1)×84 = 10164

AlexNet

AlexNet结构

前五层是卷积层，详解如下图：

卷积部分

全连接层详解如下图：

全连接部分

VGGNet

VGGNet

VGG16的构架如下图：

VGG16

GoogLeNet

GoogLeNet

GoogLeNet一共22层，在大部分卷积操作前，通过加入1×1卷积减少通道数，从而降低参数量（即inception结构）。此外，从网络中间引出两个辅助loss，参与反向传播时loss的计算，缓解深度网络的梯度消失问题。具体的网络架构如下图：

GoogLeNet

ResNet

ResNet