简单的线性回归
2017-10-14 本文已影响0人
言雍
回归介绍:
回归(regression)Y变量为连续数值型(continuous numerical variable)
如:房价,人数,降雨量
分类(Classification):Y变量为类别型(categorycal variable)
如:颜色类别,电脑品牌
简单线性回归(Simple Linear Regression)
- 很多做决定过程中通常是根据两个或者多个变量之间的关系
- 回归分析(regression analysis)用来建立方程模拟两个或者多个变量之间如何关联
- 被预测的变量叫做:因变量(dependent variable),y,输出(input)
- 被用来进行预测的变量叫做:自变量(independent variable),x,输入(input)
简单线性回归介绍
- 简单线性回归包含一个自变量(x)和一个因变量(y)
- 以上两个变量的关系用一条直线来模拟
- 如果包含两个以上的自变量,则称作多元回归分析(multiple regression)
简单线性回归模型
- 被用来描述因变量(y)和自变量(x)以及偏差(error)之间关系的方程叫做回归模型
-
简单线性回归的模型是:
其中:β0为参数,ε为偏差
简单线性回归方程

- 这个方程对应的图像是一条直线,称作回归线
其中βo是回归线的截距,β1是回归线的斜率,E(y)是在一个给定x值下y的期望值(均值)
正向的线性关系

负向的线性关系

无关系

估计的简单线性回归方程

这个方程叫做估计线性方程(estimated regression line)
其中,b0是估计线性方程的纵截距
b1是估计线性方程的斜率
^y是自变量x等于一个给定值的时候,y的估计值
线性回归分析流程
根据大量数据x,y算出b0和b1,数据越多b0,b1越精确

关于偏差ε的假定
1. 是一个随机的变量,均值为0
2. ε的方差(variance)对于所有的自变量x是一样的
3. ε的值是独立的
4. ε满足正态分布
简单线性回归模型举例:
汽车卖家做网络广告数量与卖出的汽车数量:

如何练处合适简单线性回归模型的最佳回归线?怎么算出bo和b1呢

使sum of squares最小
计算


