softmax回归

softmax是逻辑回归的泛化算法

因为逻辑回归只能做二分类或者多个二分类

但是softmax可以直接做多分类

对于逻辑回归

h(w) = y_hat = sigmod(w) = 1/1+e^(-z)

对于softmax回归(因为多个二分类的概率和>1,softmax做了归一化，概率总和=1)

h(w) = y_hat = softmax(w)

实现方式

LogisticRegression(multi_class='multinomail', solver='sag')

multi_class: 

     ovr:多分类转换为多个二分类

    multinomail：softmax