理解

• Si = exp(Vi) / (exp(V0) + exp(V1) + ... + exp(Vn))
• softmax往往用于分类器的最后输出
• 单个除于总，能算出概率
• 每个分类器输出经过exp，作为e的指数，能扩大其作用，加速分类
• 广泛用于多分类问题(C > 2)

Demo

>>> v=np.array([-3, 2, -1, 0])
>>> np.exp(v)
array([0.04978707, 7.3890561 , 0.36787944, 1.        ])
>>> np.exp(v)/np.sum(np.exp(v))
array([0.0056533 , 0.83902451, 0.04177257, 0.11354962])

该例子中，2在np.array([-3, 2, -1, 0])的概率，经过作为e的指数exp后，放大了作用，加速了和其他数字的差距，起到了分类效果。高中同班同学，经过大学和十几年的工作后，也逐渐分开，站在了社会的不同金字塔层级里，也是借助于某种exp分类了。