线性回归算法学习总结

2020-08-31 本文已影响0人 Elena_fan

数据分析方法-线性回归算法学习总结

老师指路->

博客园：https://www.cnblogs.com/pinard/category/894692.html

B站视频推导：https://www.bilibili.com/video/BV1hW41167iL

简书文章：https://www.jianshu.com/p/4afe1d310377

知识点补充：

最小二乘法

图像拟合

线性回归：画出直线去拟合数据点

假设有数据集 $D=\left\{ (x_{1},y_{1} ),(x_{2},y_{2} ),...,(x_{N},y_{N} ) \right\}$

$x_{i}\in R^p$ 为p维列向量， $y\in R$ 为实数， $i=1,2,...,N$

(公式的矩阵画法没找到，图片代替)

最小二乘法估计（涉及矩阵求导）：

公式推导

由公式推导得 $L(W)=W^TX^T XW-2W^TX^TY+YY^T$

（没找到公式求导符号，继续手写）

根据已知条件代入公式，得到W，可得到线性回归公式。