极大似然推导最小二乘(线性回归误差平方和损失)
2018-10-10 本文已影响0人
0过把火0
序
线性回归中的的误差函数使用的是误差平方和,那么为什么是2次方而不是其他次方呢?其实就是通过极大似然估计得到的。
推导
重点在于:
误差项是服从正态分布的独立随机变量,即:
这个假设并没有严格的证明,但是根据大量的观察,发现大部分干扰项的随机变量符合正态分布,并且这个假设也能使得我们的拟合足够地精确,所以选择相信该假设。
线性回归中的的误差函数使用的是误差平方和,那么为什么是2次方而不是其他次方呢?其实就是通过极大似然估计得到的。
重点在于:
误差项是服从正态分布的独立随机变量,即:
这个假设并没有严格的证明,但是根据大量的观察,发现大部分干扰项的随机变量符合正态分布,并且这个假设也能使得我们的拟合足够地精确,所以选择相信该假设。