为什么在分类问题中常用交叉熵而不是MSE或者平均误差?

2020-12-11 本文已影响0人 syat_e6da

交叉熵可以在得到正确结果的同时衡量模型的好坏；
交叉熵在模型不能很好拟合的似乎求的偏导大，而模型拟合的差不多之后偏导变小。对比之下，MSE在训练一开始就偏导趋近于0，不好训练。
交叉熵和sigmoid一起用，求导形式非常简洁。
https://zhuanlan.zhihu.com/p/35707643
https://zhuanlan.zhihu.com/p/35709485