4归一化

2018-10-14 本文已影响0人 Rooooooooong

深度学习中为什么需要归一化？
加速优化过程的速度
什么情况下需要归一化？
当不同维度之间的数据的范围差距过大，比如
$x1\in[-1,1]$
$x2\in[1,2]$
$x3\in[1,1000]$
这种情况必须要对 $x1,x2,x3$ 做归一化
一个很重要的问题
对训练集和测试集要一视同仁，测试集也要用训练集的 $mean,standard\_error$ 做归一化。而不是简单的调用scaler完成这件小事。