内容正文:
一元线性回归模型描述
1. 一元线性回归模型
古典线性回归模型假设条件
回归方程、回归直线
样本回归方程、样本回归模型
回归分析(Regression)
依据观察数据构建回归方程,即寻找一个适当的数量关系式来描述变量间平均的数量变化关系
对回归方程的可信程度进行检验,并从影响一特定变量的诸多变量中找出哪些变量的影响是显著的,哪些是不显著的
利用经过检验的数量关系式,依据一个或几个变量的取值来解释或预测另一个特定变量的取值
1.被预测或被解释的变量称为因变量(dependent variable)
2.用来预测或用来解释因变量的一个或多个变量称为自变量(independent variable)
回归分析(Regression)
回归分析(Regression)
回归分析类型
一元线性回归分析
当回归分析中仅涉及一个自变量,且自变量与因变量之间为线性关系时称为一元线性回归分析
5
一元线性回归模型
描述因变量 如何依赖于一个自变量 和误差项 的线性方程称为一元线性回归模型
一元线性回归模型可表示为
表示自变量的各个取值
表示对应的因变量取值
误差项 是随机变量
0 和 1 称为模型的参数
6
古典线性回归模型假设条件
假设一:正态性
随机误差项 是一个服从正态分布的随机变量。
假设二:零均值
随机误差项 的数学期望为0。
假设三:同方差
对于所有的 取值,随机误差项 的方差相同。
假设四:独立性
对于一个特定的 ,它所对应的 与其他 所对应的 不相关。
7
回归方程
描述因变量 的数学期望、平均值如何依赖于自变量 的线性方程称为回归方程
一元线性回归方程绘制的是二维坐标系中的一条直线,称为回归直线
0是直线在 轴上的截距
1是直线的斜率, 称为回归系数,表示自变量每变动一个单位时, 的平均变动值。
8
回归方程
利用观察数据计算出 和 的估计量 和 带入到回归方程中,
用 作为回归方程的估计,记为
该方程称为样本回归方程
与考虑随机误差项的回归模型相对应,样本回归模型可记为
其中, 称为残差,是观察数据与估计值之间的误差。
9
小结
1. 一元线性回归模型
古典线性回归模型假设条件
回归方程、回归直线
样本回归方程、样本回归模型
思考练习
1.阐述相关分析与回归分析两种方法间的关系。
2.使用普通最小二乘法估计一元线性回归模型的参数时, 模模型中的随机误差项需要满足哪些条件?
一元线性回归模型构建
1.最小二乘法
2.正规方程组
3.一元线性回归模型构建实例
最小二乘法(Method of Least Squares )
一元线性回归模型
样本回归方程
图 最小二乘法的思路
最小二乘法(Method of Least Squares )
回归直线应满足的条件是:全部观察值与对应的估计值的离差平方和的总和为最小,即残差平方和最小。
此准则称为最小二乘准则或最小平方准则,依据此准则估计回归模型参数 、 的方法就是最小二乘法。
最小二乘法(Method of Least Squares )
15
正规方程组
整理得
16
正规方程组
正规方程组
17
最小二乘估计的性质
18
一元线性回归模型构建实例
【例】一大型牙膏制造公司为了更好地拓展产品市场,有效地管理库存,公司董事会要求销售部门根据市场调查,找出公司生产的牙膏销售量与广告费用之间的关系。为此,销售部门人员收集了过去30个销售周期(每个销售周期为4个星期)公司生产的牙膏销售量与广告费用的数据。以广告费用为自变量,销售量为因变量,构建一元线性回归方程,解释回归系数的意义。
19
一元线性回归模型构建实例
表 牙膏销售量与广告费用的数据
销售周期 销售量/百万支 广告费用/百万元
1 7.38 5.50
2 8.51 6.75
3 9.52 7.25
4 7.50 5.50
5 9.33 7.00
… … …
26 9.21 6.80
27 8.27 6.50
28 7.67 5.75
29 7.93 5.80
30 9.26 6.80
20
一元线性回归模型构建实例
解
表示广告费用, 表示牙膏销售量。利用观察数据计算得到:
21
一元线性回归模型构建实例
解
广告费用对牙膏销售量的样本回归方程为:
回归系数 表示广告费用每增加1百万元,牙膏销售量平均增加1.043百万支;广告费用每减少1百万元,牙膏销售量平均减少1.043百万支。
22
一元线性回归模型构建实例
解
INTERCEPT函数的功能是返回依据观察数据构建的线性回归直线截距,SLOPE函数的功能是返回依据观察数据构建的线性回归直线斜率。二者的语法结构相同,为
INTERCEPT(known_y's,known_x's)
SLOPE(known_y's,known_x's)
其中:known_y's为因变量观察数据所在区域;known_x's为自变量观察数据所在区域。
23
小结
1.最小二乘法
2.正规方程组
3.一元线性回归模型构建实例
思考练习
利用Excel软件中的LINEST函数求解以广告费用为自变量、销售量为因变量的一元线性回归模型中的参数估计值。
X 轴�
Y 轴�
$$