逻辑回归

2019-07-24 本文已影响0人南风吹叶落

$h(\theta)=\cfrac{1}{1+e^{-\theta^T x}}$

$J(\theta)=-\cfrac{1}{m}\sum_{i=1}^m[y^{(i)}log(h_\theta(x^{(i)}))+(1-y^{(i)})log(1-h_\theta(x^{(i)}))]$

捕获.jpg

所以梯度：
$\nabla = \cfrac{1}{m}\sum_{i=1}^m[h_\theta(x^{(i)})-y^{(i)}]x_j^{(i)}$
形式上和线性回归的梯度一致

[图片上传失败...(image-6ae24d-1563971880109)]
查全率（召回率 recall）：样本的正例有多少被预测准确了，预测对的正例数占真正的正例数的比率
$查全率 = \cfrac{TP}{TP+FN}$

查准率(精准率，precision)：针对预测结果而言，预测为正的样本有多少是真正的正样本，衡量的是查准率，预测正确的正例数占预测为正例总量的比率：
$查准率 = \cfrac{TP}{TP+FP}$

F1度量：
$F1 =\cfrac{2\times Recall \times Precison}{Recall + Precision}$

image.png