2018-12-03线性回归之代价函数

代价函数

我们可以使用代价函数衡量我们的假设函数的准确性。 

此函数另外称为“平方误差函数”或“均方误差”。

平均值减半为便于计算梯度下降，因为平方函数的导数项将抵消。其实这里无论除以2m还是m，代价函数最优化的结果θ都是相同的。

数学计算的方便：之后利用梯度下降法对J求导，如果是2m，求导结果为：

这里正好除以m，便于计算。

下图总结了代价函数的作用：

事实上，我们之所以要求出误差的平方和是因为误差平方代价函数对于大多数问题，特别是回归问题都是一个合理的选择。还有其他的代价函数也能很好地发挥作用。但是平方误差代价函数可能是解决回归问题最常用的手段了。我们刚刚讲的选择是对于大多数线性回归问题非常合理的。