2019-11-01第二课二周优化算法

2019-11-01  本文已影响0人  呼噜毛_

指数加权平均:

动量梯度下降法:

减少梯度下降中某一方向的波动

RMSprop:和动量梯度下降法相似

adam优化算法:将动量梯度下降法和RMSprop结合在一起

学习率衰减:

上一篇 下一篇

猜你喜欢

热点阅读