Day 4 Project 预测你的下一道世界料理
2018-09-01 本文已影响0人
瑶瑶_2930
附:每日一题
几句话简述什么是梯度下降法,优点是什么,缺点是什么?
解答:
梯度下降算法数学原理为,梯度方向是函数值变化率最大的方法,故沿着代价函数的梯度方向走,就能更快地接近函数地最小值,其公式如下:

- 优点:
- 容易并行,因为每次迭代过程开销较小 - 缺点:
- 收敛速度较慢。梯度下降是线性收敛,而有些算法诸如牛顿法是超线性收敛。而且梯度下降算法在远离极小值的地方下降很快,而在靠近极小值的地方下降很慢