cnn

卷积神经网络（Convolutional Neural Networks, CNN）是一类包含卷积计算且具有深度结构的前馈神经网络，是深度学习（deep learning）的代表算法之一，它与普通神经网络非常相似，都由具有可学习的权重和偏置常量(biases)的神经元组成。卷积神经网络具有表征学习能力，能够按其阶层结构对输入信息进行平移不变分类（shift-invariant classification），因此也被称为“平移不变人工神经网络（Shift-Invariant Artificial Neural Networks, SIANN）” 。

典型结构

典型的卷积神经网络结构如下：

卷积神经网络 LeNet－5

LeNet－5主要是用来辨识手写数字，样本来自MNIST数据库，输入为一张32×32像素的图像，而输出为图像为十个数字的概率。具体的过程如下：
a、首先，图像经过卷积层（C1），C1层上的点是由5x5的卷积核跟输入层（INPUT）卷积得到的。卷积核按顺序扫描输入图像不停地进行卷积操作，一次移动一个像素（Stride＝1），如此即可产生一张特征图（C1）。C1层一共有六组卷积核，因此一共可以生成六张28×28像素的特征图。
b、然后，对C1层进行池化操作。常用的方式有Max Pooling，经过池化操作后图像的长宽都减为一半，成为S2层。
c、接着，对S2层继续进行卷积操作，用16组3×3卷积核进行卷积，得到C3层，共有16组10×10像素的特征图。
d、然后，再对C3层进行池化操作产生S4层，得到16组5×5像素的特征图。
e、最后，再用16组5×5卷积核对S4层的16个特征图进行卷积，再用传统全链接神经网络进行链接，最后再和输出层（OUTPUT）的十个输出点进行全连结，并正规化输出得到各输出的概率。

卷积操作

CNN发展

• LeNet-5
• AlexNet
• VGG-16
• Inception-v1
• Inception-v3
• ResNet-50
• Xception
• Inception-v4
• Inception-ResNets

• ResNeXt-50

  
  cnn结构演化

PyTorch构建CNN

pytorch的CNN模型如下：

import torch
torch.manual_seed(0)
torch.backends.cudnn.deterministic = False
torch.backends.cudnn.benchmark = True

import torchvision.models as models
import torchvision.transforms as transforms
import torchvision.datasets as datasets
import torch.nn as nn
import torch.nn.functional as F
import torch.optim as optim
from torch.autograd import Variable
from torch.utils.data.dataset import Dataset

# 定义模型
class SVHN_Model1(nn.Module):
    def __init__(self):
        super(SVHN_Model1, self).__init__()
        # CNN提取特征模块
        self.cnn = nn.Sequential(
            nn.Conv2d(3, 16, kernel_size=(3, 3), stride=(2, 2)),
            nn.ReLU(),  
            nn.MaxPool2d(2),
            nn.Conv2d(16, 32, kernel_size=(3, 3), stride=(2, 2)),
            nn.ReLU(), 
            nn.MaxPool2d(2),
        )
        # 
        self.fc1 = nn.Linear(32*3*7, 11)
        self.fc2 = nn.Linear(32*3*7, 11)
        self.fc3 = nn.Linear(32*3*7, 11)
        self.fc4 = nn.Linear(32*3*7, 11)
        self.fc5 = nn.Linear(32*3*7, 11)
        self.fc6 = nn.Linear(32*3*7, 11)
    
    def forward(self, img):        
        feat = self.cnn(img)
        feat = feat.view(feat.shape[0], -1)
        c1 = self.fc1(feat)
        c2 = self.fc2(feat)
        c3 = self.fc3(feat)
        c4 = self.fc4(feat)
        c5 = self.fc5(feat)
        c6 = self.fc6(feat)
        return c1, c2, c3, c4, c5, c6
    
model = SVHN_Model1()

训练代码：

# 损失函数
criterion = nn.CrossEntropyLoss()
# 优化器
optimizer = torch.optim.Adam(model.parameters(), 0.005)

loss_plot, c0_plot = [], []
# 迭代10个Epoch
for epoch in range(10):
    for data in train_loader:
        c0, c1, c2, c3, c4, c5 = model(data[0])
        loss = criterion(c0, data[1][:, 0]) + \
                criterion(c1, data[1][:, 1]) + \
                criterion(c2, data[1][:, 2]) + \
                criterion(c3, data[1][:, 3]) + \
                criterion(c4, data[1][:, 4]) + \
                criterion(c5, data[1][:, 5])
        loss /= 6
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()
        
        loss_plot.append(loss.item())
        c0_plot.append((c0.argmax(1) == data[1][:, 0]).sum().item()*1.0 / c0.shape[0])
        
    print(epoch)