1738: 自编码器、迁移学习、机器学习概览、RNN入门

本周学习时间分布非常不均匀，周一到周四0，周五2h，周六2-3h,周日6-7h，这样效率是比较低的。学习内容比较泛，都没有深入，周六得知RNN的课程开放了，把机器学习整体了解的计划就搁置了，直接开始学习RNN，因为觉得还是带着明确的目标去学习会比较好。

自编码器

就一个encoder-decoder模型，将输入通过encoder得到一个值，然后再通过decoder还原，可用于图片降噪。

迁移学习

迁移学习是指，由于模型训练需要大量的时间和较强的计算能力，所以可以借助比人训练好了的模型，将输出层改一下，然后用于自己的用途。

机器学习概览

看了几本书的目录和序言之类的，有了个大概了解。

RNN

RNN花的时间最多。RNN是深度学习的重要部分，很有用。主要用于处理有时间顺序的数据，比如自然语言，每个字的前后关系是非常重要的，比如电影，帧与帧之间是有联系的。这是CNN所做不到的。它的结构如下：

RNN

RNN有个问题，它容易导致梯度消失或者梯度爆炸。有个变种的RNN叫LSTM能够解决这个问题，它的结构如下：

LSTM