二分法、牛顿法、梯度下降法求解开根号

2021-04-12 本文已影响0人星光下的胖子

二分法
- 1）迭代公式： $x = (a + b) / 2$
- 2）令 $f(x) = x ^ 2 - v$ ，若 $f(x)>0, b=x$ ；若 $f(x)<0, a=x$ 。
- 3）重复1）、2）过程，直到 $f(x)=0$ 或 $|f(x)|<\epsilon$ ( $\epsilon$ 是一个很小的正数)。
- $f(x) = x ^ 2 - v$
牛顿法
- 迭代公式： $x = x - f(x) / f'(x)$
- $f(x) = x ^ 2 - v$
梯度下降法
- 迭代公式： $x = x - lr * f'(x)$ ，lr是学习率
- $f(x) = x ^ 2 - v, loss = (x ^ 2 - v) ^ 2$