机器学习算法一线性回归，逻辑回归

1. 线性回归(linearregression)

连续值

回归问题

Cost function：均方误差（最小化）

基于均方误差最小化来进行模型求解的方法叫做“最小二乘法”（LeastSquare Method）。在线性回归中，最小二乘法就是试图找到一条直线，使所有样本到直线上的欧式距离之和最小。

2. 逻辑回归（Logistic

regression）

离散值

分类问题

将线性回归模型产生的预测值转换为0/1值。使用的是Sigmoid函数（对数几率函数）

通过极大似然法来估计w和b。

优化算法：梯度下降法，牛顿法