机器学习欠拟合和过拟合—Apple的学习笔记

1. 什么是欠拟合和过拟合

先看三张图片，这三张图片是线性回归模型 拟合的函数和训练集的关系

第一张图片拟合的函数和训练集误差较大，我们称这种情况为 欠拟合

第二张图片拟合的函数和训练集误差较小，我们称这种情况为 合适拟合

第三张图片拟合的函数完美的匹配训练集数据，我们称这种情况为 过拟合

2. 如何解决欠拟合和过拟合问题

欠拟合问题，根本的原因是特征维度过少，导致拟合的函数无法满足训练集，误差较大。

欠拟合问题可以通过增加特征维度来解决。

过拟合问题，根本的原因则是特征维度过多，导致拟合的函数完美的经过训练集，但是对新数据的预测结果则较差。

解决过拟合问题，则有2个途径：

[if !supportLists]1.     [endif]减少特征维度; 可以人工选择保留的特征，或者模型选择算法

[if !supportLists]2.     [endif]正则化; 保留所有的特征，通过降低参数θ的值，来影响模型

3. 正则化

回到前面过拟合例子, h(x) = θ0 + θ1x1 + θ2x2 + θ3x3 + θ4x4

这样在求解最小化代价函数的时候使得参数θ3, θ4接近于0。 正则化其实就是通过对参数θ的惩罚来影响整个模型