8.2.2一元线性回归模型参数的最小二乘估计（4）课件 -2024-2025学年高二下学期数学人教A版（2019）选择性必修第三册

8.2.2一元线性回归模型参数的最小二乘估计（4） 1. 经验回归方程： 我们将 称为Y关于x的经验回归方程，也称经验 回归函数或经验回归公式，其图形称为经验回归直线. 这种求经验回归方程的方法叫做最小二乘法. 2. 最小二乘估计： 经验回归方程中的参数 计算公式为： 复习引入 3.残差：对于响应变量Y，通过观测得到的数据称为 值，通过经验回归方程得到的 称为 ， 减去 称为残差，即 . 4.残差分析： 是随机误差的估计结果，通过对 的分析可以判断模型刻画数据的效果，以及判 断原始数据中是否存在可疑数据等，这方面工作 称为 . 观测 预测值 观测值 预测值 残差 残差 残差分析 5.残差图法：在残差图中，如果残差点比较均匀地落在 水平的带状区域内，带状区域越窄，则说明拟合效果越好. 3 6.求非线性经验回归方程的步骤： （1）确定研究对象，明确哪个是解释变量，哪个是响应变量； （2）由经验确定非线性经验回归方程的模型； （3）通过变换，将非线性经验回归模型转化为线性经验回归模型； （4）按照公式计算经验回归方程中的参数，得到经验回归方程； （5）消去新元，得到非线性经验回归方程. 编号 1 2 3 4 5 6 7 8 年份 1896 1912 1921 1930 1936 1956 1960 1968 记录/s 11.80 10.60 10.40 10.30 10.20 10.10 10.00 9.95 问题 ：人们常将男子短跑100m的高水平运动员称为“百米飞人”.下表给出了1968年之前男子短跑100m世界纪录产生的年份和世界纪录的数据.试依据这些成对数据，建立男子短跑100m世界纪录关于纪录产生年份的经验回归方程. 以成对数据中的世界纪录产生年份为横坐标, 世界纪录为纵坐标作散点图, 得到下图 令x=ln(t-1895). 通过x=ln(t-1895)，将年份变量数据进行 变换，得到新的成对数据(精确到0.01)，如下表所示. 编号 1 2 3 4 5 6 7 8 x 0.00 2.83 3.26 3.56 3.71 4.11 4.17 4.29 Y/s 11.80 10.60 10.40 10.30 10.20 10.10 10.00 9.95 根据最小二乘法，可得新的经验回归方程为 ① 将x=ln(t-1895)代入(*)式，得到由创纪录年份预报世界纪录的 经验回归方程 (1) 直接观察法 在同一坐标系中画出成对数据散点图、非线性经验回归 方程②的图象(蓝色)以及经验回归方程①的图象(红色)， 如图(5)所示. 我们发现，散点图中各散点都非常靠近② 的图象，表明非线性经验回归方程②对于原始数据的拟 合效果远远好于经验回归方程①. (5) 下面通过残差来比较 这两个经验回归方程 对数据刻画的好坏. 思考：对于男子短跑100m世界纪录关于纪录产生年份关系的问题，我们建立了两个回归模型，得到了两个回归方程，你能判断哪个回归方程拟合的精度更好吗？ 在上表中，用ti表示编号为i的年份数据，用yi表示编号为i的纪录 数据，则经验回归方程①和②的残差计算公式分别为 两个经验回归方程的残差(精确到0.001)如下表所示. 观察各项残差的绝对值，发现经验回归方程②远远小于①，即经 验回归方程②的拟合效果要远远好于①. 编号 1 2 3 4 5 6 7 8 t 1896 1912 1921 1930 1936 1956 1960 1968 0.591 -0.284 -0.301 -0.218 -0.196 0.111 0.092 0.205 -0.001 0.007 -0.012 0.015 -0.018 0.052 -0.021 -0.022 ② ① 编号 1 2 3 4 5 6 7 8 年份 1896 1912 1921 1930 1936 1956 1960 1968 记录/s 11.80 10.60 10.40 10.30 10.20 10.10 10.00 9.95 在一般情况下，直接比较两个模型的残差比较困难，因 为在某些散点上一个模型的残差的绝对值比另一个模型 的小，而另一些散点的情况则相反. 可以通过比较残差 的平方和来比较两个模型的效果. 由 可知Q2小于Q1. 因此在残差平方和最小的标准下，非线性回归模型 的拟合效果要优于一元线性回归模型的拟合效果. （2） 残差分析 通过前面的讨论我们知道，当残差的平方和越小，经 验回归模型的拟合效果就越好，故我们可以用决定系 数R2来验证模型的拟合效果. 决定系数R2的计算公式为 在R2表达式中，由于 与经验回归方程无关，残差 平方和 与经验回归方程有关，因此R2越大，表示 残差平方和越小，即模型的拟合效果越好； R2越小，表 示残差平方和越大，即模型的拟合效果越差. （3) 利用决定系数R2刻画回归效果. 显然0≤R2≤1，R2越接近1，则线性回归刻画的效果越好. 还可以证明，在一元线性回归模型中R2=r2，即决定系数 R2等于响应变量与解释变量的样本相关系数r的平方. 决定系数R2的计算公式为 编号 1 2 3 4 5 6 7 8 t 1896 1912 1921 1930 1936 1956 1960 1968 0.591 -0.284 -0.301 -0.218 -0.196 0.111 0.092 0.205 -0.001 0.007 -0.012 0.015 -0.018 0.052 -0.021 -0.022 由上述残差表可算出经验回归方程①和②的决定系数R2 分别为 由于 因此经验回归方程②的刻画效果比经验回归方程①的好很多. 课本120页 在回归分析中，分析残差能够帮助我们解决哪些问题? 解：分析残差可以帮助我们解决以下几个问题: (1) 寻找残差明显比其他残差大很多的异常点，如果有，检查相应的样本数据是否有错. (2) 分析残差图可以诊断选择的模型是否合适，如果不合适，可以参考残差图提出修改模型的思路. 例：为研究质量x(单位：g)对弹簧长度y(单位：cm)的影响，对不同质量的6个物体进行测量，数据如表所示： (1) 作出散点图，并求经验回归方程； (2) 求出R2； (3) 进行残差分析． x 5 10 15 20 25 30 y 7.25 8.12 8.95 9.90 10.9 11.8 例题 (2) 求出R2； x 5 10 15 20 25 30 y 7.25 8.12 8.95 9.90 10.9 11.8 解：列表如下： 0.05 0.005 －0.08 －0.045 0.04 0.025 －2.24 －1.37 －0.54 0.41 1.41 2.31 解：由残差表中的数值可以看出第3个样本点的残差比较大，需要确认在采集这个数据的时候是否有人为的错误，如果有的话，需要纠正数据，重新建立回归模型；由表中数据可以看出残差点比较均匀地落在不超过0.15的狭窄的水平带状区域中，说明选用的回归模型的精度较高，由以上分析可知，弹簧长度与质量成线性关系． 0.05 0.005 －0.08 －0.045 0.04 0.025 －2.24 －1.37 －0.54 0.41 1.41 2.31 (3) 进行残差分析． (1)确定研究对象, 明确哪个变量是解释变量, 哪个变量是响应变量． (2)画出解释变量与响应变量的散点图，观察它们之间的关系 (如是否存在线性关系等)． (3)由经验确定回归方程的类型． (4)按一定规则(如最小二乘法)估计经验回归方程中的参数. (5)得出结果后需进行线性回归分析. ①残差平方和越小，模型的拟合效果越好. ②决定系数R2取值越大，说明模型的拟合效果越好. 建立线性回归模型的基本步骤： 注意: 若题中给出了检验回归方程是否理想的条件，则根据题意进行分析检验即可. 归纳总结 1.已知某种商品的单价x(单位:元)与需求量y(单位:件)之间的关系有如下一组数据: x 14 16 18 20 22 y 12 10 7 5 3 求y关于x的经验回归方程，并说明回归模型拟合效果的好坏. 解： 练习 列残差表如下： y 12 10 7 5 3 12 9.7 7.4 5.1 2.8 0 0.3 －0.4 －0.1 0.2 4.6 2.6 －0.4 －2.4 －4.4 故回归模型的拟合效果很好. (1)作GDP和年份的散点图，根据该图猜想它们之间的关系可以用什么模型描述； 课本120页 2. 1997-2006 年我国的国内生产总值(GDP)的数据如下: 年份 GDP/亿元 年份 GDP/亿元 1997 79715.0 2002 121727.4 1998 85195.5 2003 137422.0 1999 90564.4 2004 161840.2 2000 100280.1 2005 187318.9 2001 110863.1 2006 219438.5 解：画GDP与年份的散点 图，如图所示，可以观察 到随着年份的增加GDP也 随之增加，GDP值与年份 呈现近似线性关系，可以 用一元线性回归模型刻画. (2)建立年份为解释变量，GDP为响应变量的一元线性回归模型，并计算残差; 课本120页 2. 1997-2006 年我国的国内生产总值(GDP)的数据如下: 年份 GDP/亿元 年份 GDP/亿元 1997 79715.0 2002 121727.4 1998 85195.5 2003 137422.0 1999 90564.4 2004 161840.2 2000 100280.1 2005 187318.9 2001 110863.1 2006 219438.5 解：用y表示GDP的值，t表示年份，用一元线性回归模型拟合数据，用统计软件计算，得到经验回归方程为 残差的计算结果见下表. 年份 1997 1998 1999 2000 2001 2002 2003 2004 2005 2006 残差 17126 7752 -1734 -6873 -11145 -15145 -14296 -4732 5892 23157 (3)根据你得到的一元线性回归模型，预测2017年的 GDP，看看你的预测值与实际的GDP的误差是多少; 课本120页 2. 1997-2006 年我国的国内生产总值(GDP)的数据如下: 年份 GDP/亿元 年份 GDP/亿元 1997 79715.0 2002 121727.4 1998 85195.5 2003 137422.0 1999 90564.4 2004 161840.2 2000 100280.1 2005 187318.9 2001 110863.1 2006 219438.5 解：2017年的GDP预报值为359684亿元，2017年的实际的GDP为820754亿元，预测值比实际值少461070亿元. (4)你认为这个模型能较好地刻画GDP和年份的关系吗? 请说明理由. 课本120页 2. 1997-2006 年我国的国内生产总值(GDP)的数据如下: 年份 GDP/亿元 年份 GDP/亿元 1997 79715.0 2002 121727.4 1998 85195.5 2003 137422.0 1999 90564.4 2004 161840.2 2000 100280.1 2005 187318.9 2001 110863.1 2006 219438.5 解：上面建立的回归方程的R2=0.9213，说明在1997-2006 年内，该模型年份能够解释92.13%的GDP值变化，因此所建立的模型较好地刻画了GDP和年份的关系. 但因为残差呈现一定的规律性，中间是负数，两边是正数，所以可以考虑用非线性回归模型拟合数据. (5)随着时间的发展，又收集到2007-2016年的GDP数据如下: 建立年份(1997-2016)为解释变量，GDP为响应变量的经验回归方程，并预测2017年的GDP，与实际的GDP误差是多少? 你能发现什么? 年份 GDP/亿元 年份 GDP/亿元 2007 270232.3 2012 540367.4 2008 319515.5 2013 595244.4 2009 349081.4 2014 643974.0 2010 413030.3 2015 689052.1 2011 489300.6 2016 744127.2 课本120页 解： 仍用y表示GDP的值，t表示年份，用一元线性回归模型拟合1997- 2016年的数据，用统计软件计算，得到经验回归方程为 利用上述模型，预测2017年的GDP值为704025亿元，而2017年GDP的实际值820754亿元，预测值比实际值少116729亿元通过两个模型预测2017年的GDP值，发现第2个模型预测的更准确，说明建立的模型自变量的取值范围决定了模型的适用范围，通常不能超出太多，否则会出现较大的误差. 在使用经验回归方程进行预测时，需要注意下列问题: (1) 经验回归方程只适用于所研究的样本的总体. 例如，根据我 国父亲身高与儿子身高的数据建立的经验回归方程，不能用来 描述美国父亲身高与儿子身高之间的关系.同样，根据生长在南 方多雨地区的树高与胸径的数据建立的经验回归方程，不能用 来描述北方干旱地区的树高与胸径之间的关系. (2) 经验回归方程一般都有时效性. 例如，根据20世纪80年代的 父亲身高与儿子身高的数据建立的经验回归方程，不能用来描 述现在的父亲身高与儿子身高之间的关系. (3) 解释变量的取值不能离样本数据的范围太远. 一般解释变量 的取值在样本数据范围内，经验回归方程的预报效果会比较好， 超出这个范围越远，预报的效果越差. (4) 不能期望经验回归方程得到的预报值就是响应变量的精确值. 事实上，它是响应变量的可能取值的平均值. 哪位同学建立的回归模型拟合效果最好( ) A.甲 B.乙 C.丙 D.丁 1.甲、乙、丙、丁四位同学在建立变量x，y的回归模型时，分别选择了4种不同模型，计算可得它们的决定系数R2分别如下表：   甲 乙 丙 丁 R2 0.98 0.78 0.50 0.85 解析:决定系数R2越大，表示回归模型的拟合效果越好. 随堂检测 Administrator (A) - 哪位同学的试验结果体现拟合A，B两变量关系的模型拟合精度高(　　) A.甲 B.乙 C.丙 D.丁   甲 乙 丙 丁 散点图 残差平方和 115 106 124 103 3.某工厂为研究某种产品产量x(吨)与所需某种原料y(吨)的相关性，在生产过程中收集4组对应数据(x，y)如下表所示： 5.9 x 3 4 6 7 y 2.5 3 4 m 解析：根据样本(4,3)处的残差为－0.15， 4.某电脑公司有6名产品推销员，其工作年限与年推销金额数据如下表： 推销员编号 1 2 3 4 5 工作年限x/年 3 5 6 7 9 推销金额y/万元 2 3 3 4 5 （1）画出散点图. （2）建立年推销金额 y 关于工作年限 x 的经验回归方程； （3）说明回归模型拟合效果的好坏; （4）若第6名推销员的工作年限为11年，预测他的年推 销金额． 参考数据： 解：(1)以工作年限为x轴，推销金额为y轴，画出散点图如下： 散点大致分布在一条从左下角到右上角的直线附近，表明两个变量线性相关，并且是正相关. (2)设所求的线性回归方程为 ，则 所以年推销金额y关于工作年限x的线性回归方程为 . 所以回归模型拟合效果很好. (3) 所以可以估计第6名推销员的年推销金额为5.9万元. (4)当x=11时， 5.假定小麦基本苗数x与成熟期有效穗y之间存在相关关 系，今测得5组数据如下： x 15.0 25.8 30.0 36.6 44.4 y 39.4 42.9 42.9 43.1 49.2 (1)以x为解释变量，y为预报变量，作出散点图； 解:散点图如下. (2)求y关于x的经验回归方程，对于基本苗数56.7预报成熟期有效穗； 解:由(1)中散点图看出，样本点大致分布在一条直线的附近，有比较好的线性相关关系，因此可以用经验回归方程刻画它们之间的关系. 故估计成熟期有效穗为51.143. (3)计算各组残差，并计算残差平方和； (4)求R2，并说明(2)中求出的回归模型的拟合程度. 课堂小结 课外作业 解：散点图如图所示， 2.甲、乙、丙、丁4位同学各自对A，B两变量进行回归分析， 分别得到散点图与残差平方和eq \o(∑,\s\up20(n),\s\do20(i＝1)) (yi－eq \o(y,\s\up6(^))i)2如下表： 解析：根据线性相关的知识，散点图中各样本点条状分布越均匀， 同时保持残差平方和越小(对于已经获取的样本数据，R2的表达式 中eq \o(∑,\s\up20(n),\s\do20(i＝1)) (yi－eq \o(y,\s\up6(－)))2为确定的数，则残差平方和越小，R2越大)，由回归 分析建立的线性回归模型的拟合效果越好，由试验结果知丁要好些. 则eq \o(b,\s\up6(^))＝2,i)eq \f(\o(∑,\s\up20(5),\s\do20(i＝1))xiyi－5\a\vs4\al(\o(x,\s\up6(－)) )\a\vs4\al(\o(y,\s\up6(－)) ),\o(∑,\s\up20(5),\s\do20(i＝1))x－5\o(x,\s\up6(－))2) ≈0.29，eq \o(a,\s\up6(^))＝eq \o(y,\s\up6(－))－eq \o(b,\s\up6(^)) eq \o(x,\s\up6(－))≈34.70. 故所求的经验回归方程为eq \o(y,\s\up6(^))＝0.29x＋34.70. 当x＝56.7时，eq \o(y,\s\up6(^))＝0.29×56.7＋34.70＝51.143. 设回归方程为eq \o(y,\s\up6(^))＝eq \o(b,\s\up6(^))x＋eq \o(a,\s\up6(^))，又eq \o(x,\s\up6(－))＝30.36，eq \o(y,\s\up6(－))＝43.5， eq \o(∑,\s\up20(5),\s\do20(i＝1))xeq \o\al(2,i)＝5 101.56，eq \a\vs4\al(\o(x,\s\up6(－)) ) eq \a\vs4\al(\o(y,\s\up6(－)) )＝1 320.66，eq \o(x,\s\up6(－))2＝921.729 6，eq \o(∑,\s\up20(5),\s\do20(i＝1))xiyi＝6 746.76. 解:(3)由eq \o(y,\s\up6(^))i＝eq \o(b,\s\up6(^))xi＋eq \o(a,\s\up6(^))，可以算得eq \o(e,\s\up6(^))i＝yi－eq \o(y,\s\up6(^))i分别为eq \o(e,\s\up6(^))1＝0.35， eq \o(e,\s\up6(^))2＝0.718，eq \o(e,\s\up6(^))3＝－0.5，eq \o(e,\s\up6(^))4＝－2.214，eq \o(e,\s\up6(^))5＝1.624， 残差平方和：eq \o(∑,\s\up20(5),\s\do20(i＝1)) eq \o(e,\s\up6(^))eq \o\al(2,i)≈8.43. (4)eq \o(∑,\s\up20(5),\s\do20(i＝1)) (yi－eq \o(y,\s\up6(－)))2＝50.18，故R2≈1－eq \f(8.43,50.18)≈0.832.所以(2)中 求出的回归模型的拟合效果较好. ②残差平方和法：残差平方和eq \o(∑,\s\up20(n),\s\do20(i＝1)) (yi－eq \o(y,\s\up6(^))i)2越小，模型的拟合 效果越好. ③决定系数法：R2＝1－eq \f(\o(∑,\s\up20(n),\s\do20(i＝1)) （yi－\o(y,\s\up6(^))i）2,\o(∑,\s\up20(n),\s\do20(i＝1)) （yi－\o(y,\s\up6(－))）2)越接近1，表明回归 的效果越好. 刻画回归效果的三种方法 ①残差图法：残差点比较均匀地落在水平的带状区域内说明 选用的模型比较合适. 《选择性必修第三册》 “复习巩固”1； “综合运用”5. $$