softmax函数讲解及推导

softmax函数

softmax用于多分类过程中，它将多个神经元的输出，映射到（0,1）区间内，可以看成概率来理解，从而来进行多分类！

假设有一个数组，j表示数组中的第j个元素，那么这个元素的softmax值就是，那么这个元素的softmax值就是

Loss定义为交叉熵

取log里面的值就是这组数据正确分类的Softmax值，它占的比重越大，这个样本的Loss也就越小。