牛顿迭代和梯度下降

2019-01-11  本文已影响0人  yesski

整体对比是参考的这篇文章
https://www.cnblogs.com/lyr2015/p/9010532.html
但是扩展了牛顿迭代法
https://blog.csdn.net/ccnt_2012/article/details/81837154
牛顿迭代法的收敛条件就是 海森矩阵要存在
牛顿迭代法的思想就是找函数得极值点,用切线来逼近曲线
当切线为0时,即f'(x)=0,导数为0 有极值点
梯度下降则是沿着梯度的方向,函数值下降得最快,本质是贪心算法,
求每次迭代时的最优情况

上一篇 下一篇

猜你喜欢

热点阅读