逻辑回归

2019-01-23  本文已影响0人  鬼马星mc

Logistic regression

目的:分类还是回归?经典的二分类算法!

机器学习算法选择:先逻辑回归再用复杂的,能简单还是用简单的

逻辑回归的决策边界:可以是非线性的

Sigmoid 函数

公式:

自变量取值为任意实数,值域[0,1]

解释:将任意的输入映射到了[0,1]区间

我们在线性回归中可以得到一个预测值,再将该值映射到Sigmoid 函数中这样就完成了由值到概率的转换,也就是分类任务

预测函数:

其中

分类任务:

整合:

解释:对于二分类任务(0,1),整合后

y取0只保留

y取1只保留

似然函数:

对数似然:

此时应用梯度上升求最大值,引入J(\theta )= -\frac{1}{m} l(\theta )转换为梯度下降任务

求导过程:

参数更新:

多分类的softmax:

上一篇下一篇

猜你喜欢

热点阅读