深度学习综述
2019-05-12 本文已影响0人
浅枝
综述类文献意义:形成基本学术界图景/指导文献查找
I 引言
A 深度学习方法
1.监督学习(supervised learning)
2.半监督学习(semi-supervised learning)
3.无监督学习(unsupervised learning)
4.深度强化学习(deep reinforcement learning)(基本上归类到半监督学习)
B 特征学习
C when and where to apply DL
D state-of-the-art performance in DL
E why deep learning
通用性 鲁棒性 泛化
F challenge of DL
II DNN
A DNN发展历史
B 梯度下降
C 随机梯度下降
D 向后传播
E 使用动量
F 学习率
G 权重衰减
III CNN
A CNN概述
B 比较有名的CNN框架
LeNet
AlexNet
ZFNet / Clarifai
VGG Net
Google Net
Residual Network
Densely Connected Network (DenseNet)
C CapsuleNet
D Comparison on different models
IV ADVANCED TRAINGING TECHNIQUES
预处理数据集
网络初始化
批量正则化
Alternative Convolutional methods
激活函数
Sub-sampling layer or pooling layer
Regularization approaches for DL
Optimization methods for DL
[1]论文|Recent Advances in Deep Learning: An Overview
[2]论文|The History Began from AlexNet:A Conprehensive Survey on DeepLearning