tensorflow logistic回归模型
2019-05-10 本文已影响27人
泛酸的桂花酒
logistic定义
对数几率回归（也称“逻辑回归”）（英语：Logistic regression 或logit regression），即对数几率模型。
模型形式
logistic回归是一种广义线性回归（generalized linear model），因此与多重线性回归分析有很多相同之处。它们的模型形式基本上相同，都是y=w‘x+b。
sigmoid函数
sigmoid函数的数学公式如下：
3T$DQ4W}POJG)%8{KA68KSU.png
如下图给出了sigmoid函数在不同坐标尺度下的曲线。随着x的增大，对应的sigmoid值就越来越逼近1，随着x趋近于0，sigmoid也逼近于0。如果横坐标刻度足够大，那么sigmoid看起来就会像一个越阶函数。
[图片上传失败...(image-310c5c-1557476369646)]
损失函数定义
对于分类问题该怎么定义loss函数
logistic回归使用了sigmoid函数把结果限定在了0~1之间，这里使用交叉熵的方式对loss进行定义
交叉熵数学公式：
image.png
交叉熵的数学推导过程：
