深度神经网络为什么难以训练

2018-07-11  本文已影响0人  snowhou

消失的(不稳定的)梯度问题

在深度神经⽹络中的梯度是不稳定的,在前⾯的层中或会消失,或会激增。这种不稳定性才是深度神经⽹络中基于梯度学习的根本问题。

上一篇下一篇

猜你喜欢

热点阅读