线性回归python实现
2019-04-15 本文已影响0人
simple的课
参考书籍:机器学习-周志华
参考链接:https://www.cnblogs.com/sumai/p/5211558.html(代码不行有错误)
代码参考:https://www.jianshu.com/p/b476707a7e3c,感谢!
线性回归是一类回归算法,通过数据学得一个线性模型以尽可能准确地预测值。
损失函数:均方误差:
均方误差对应了常用的欧几里得距离。
模型求解方法:
①正规方程法(normal equations): 最小二乘法:均方误差最小化
![](https://img.haomeiwen.com/i2902852/e3d4f47dfd2e5fe1.png)
![](https://img.haomeiwen.com/i2902852/34c4da2039b90743.png)
![](https://img.haomeiwen.com/i2902852/be1e8e7edbf49728.png)
②批量梯度下降法(batch gradient descent):通过迭代求解
![](https://img.haomeiwen.com/i2902852/0cb397169918be03.png)
![](https://img.haomeiwen.com/i2902852/824c936508236762.png)
![](https://img.haomeiwen.com/i2902852/06c187b726ac3348.png)
![](https://img.haomeiwen.com/i2902852/0d6892403e4f1c06.png)
![](https://img.haomeiwen.com/i2902852/be8ac4e11051ab26.png)
![](https://img.haomeiwen.com/i2902852/57fd4e6c150a3c99.png)