机器学习框架

重温了一下机器学习课，反正每天又再一次知道自己有多菜，想把事情清理一下，让自己休息一下，然后一点点开始学习

class 2：梯度下降

（这是作为一个优化算法）
这一节课主要说的

• 线性回归算法（最小二乘法拟合）
• 梯度下降算法
  • 优化算法：随机梯度下降（减少计算难度），mini-batch 梯度下降（同理，不过随机梯度是一次一个样本，mini-batch是一次一堆样本）
• 正规方程式：逆／伪逆

class 3:欠拟合与过拟合

• 线性回归变体：局部加权回归
• 逻辑回归分类算法
• 感知器

class 4: 牛顿方法

• 逻辑回归
  • 牛顿方法／拟牛顿法
• 指数分布族
• 广义线性模型