轻量级网络 ShuffleNet_v1及v2

参考资料：

『高性能模型』轻量级网络ShuffleNet_v1及v2

ShuffleNet_v2 的网络结构：

ShuffleNet_v2 的基本单元（图中的 c 和 d ，a 和 b 则是 ShuffleNet_v1 的基本单元）：

看点如下：

从（a）和（c）的对比可以看出首先（c）在开始处增加了一个channel split操作，这个操作将输入特征的通道分成c-c’和c’，c’在文章中采用c/2，这主要是和第1点发现对应

然后（c）中取消了1*1卷积层中的group操作，这和第2点发现对应，同时前面的channel split其实已经算是变相的group操作了

channel shuffle的操作移到了concat后面，和第3点发现对应，同时也是因为第一个1*1卷积层没有group操作，所以在其后面跟channel shuffle也没有太大必要

最后是将element-wise add操作替换成concat，这个和第4点发现对应。

多个（c）结构连接在一起的话，channel split、concat和channel shuffle是可以合并在一起的。（b）和（d）的对比也是同理，只不过因为（d）的开始处没有channel split操作，所以最后concat后特征图通道数翻倍