损失函数：L1 loss, L2 loss, smooth L1
2022-10-16 本文已影响0人
Joyner2018
L1 loss
平均绝对误差
平均绝对误差（MAE）是另一种用于回归模型的损失函数。MAE是目标变量和预测变量之间绝对差值之和。因此它衡量的是一组预测值中的平均误差大小，而不考虑它们的方向（如果我们考虑方向的话，那就是均值误差（MBE）了，即误差之和）。范围为0到∞。
L1 loss公式
L1 loss.jpg
L1 loss曲线
L1 loss曲线.jpg
L2 loss
均方误差（MSE），二次损失
均方误差是最常用的回归损失函数，它是我们的目标变量和预测值的差值平方和。
L2 loss公式
L2 loss.jpg
下图是均方误差函数图，其中目标真值为100，预测值范围在-10000到10000之间。均方误差损失（Y轴）在预测值（X轴）=100处达到最小值。范围为0到∞。
L2 loss曲线.jpg
smooth L1 loss
公式（6）衡量x的较大和较小的分界线是x=1，当然也可以采用其它值来做这个临界点。设\delta作为衡量预测值和真实值的差值x的阈值，则公式（6）变为更一般的形式：
