Andrew Ng ML(4)——过拟合&正则化

2018-12-19 本文已影响0人 tmax

特征过多会导致过拟合（或者说训练样本太少）

线性回归中的过拟合

逻辑回归中的过拟合

1.减少特征（人工或者用算法）2.正则化（可以保留所有特征）

对所有θ正则化（除θ_0(Ng说这个是习惯)）

Ng给出的示例中正则化参数 $\lambda=1000$ ，但是 $\lambda$ 取值过大会导致欠拟合（偏见性很强）

λ取值过大会导致θ1~θn均趋于0，而使假设函数h变成一条直线

P.S.需要对 $\theta_0$ 做特殊处理（由于没有对θ_0做正规化）