深度网络压缩

1.网络裁剪： 将网络模型中接近于0的极小值设置为0，然后重新训练网络。这个过程来回几个循环。

2.权重共享： 每一层的参数采用K-MEANS聚类，将拥有同一个聚类中心的参数共享同一个值。这个过程来回几个循环。

3.加强L2正则化：让模型参数更多的值接近于0，增强网络裁剪比例。

4.网络精简：精简卷积层，采用速度更快的网络，比如引入fire module、NIN、除全连接层等一些设计思想。。。