LSTM

2020-12-02  本文已影响0人  来到了没有知识的荒原

视频:https://www.bilibili.com/video/BV1Rv411y7oE?p=72
源码:https://github.com/dragen1860/Deep-Learning-with-PyTorch-Tutorials

vanilla RNN

LSTM的三道门

Forget Gate
input gate
input gate output

intuitive pipeline

设计初衷


intuitive解释LSTM怎么解决了梯度爆炸

从之前的W_{ih}^k变成了累加,从幂乘变成了求和,就不会出现数值过大的情况

上一篇下一篇

猜你喜欢

热点阅读