Softmax回归
2017-01-09 本文已影响228人
陈继科
0-1回归的延拓，0-1回归是softmax回归输出个数为2的特殊情况
Paste_Image.png
其代价函数
Paste_Image.png
其梯度
Paste_Image.png
特点：
1.参数不独立
2.offset不变性，所有参数同时加一个常数值是不变的，这是指数函数性质，利用这点可以精确化计算（将值offset到）
关于使用softmax回归还是多个0-1回归问题
这要看结果是否是互斥的，若是互斥的，则使用softmax，否则用多个0-1回归
