8.2一元线性回归模型及其应用课件-2023-2024学年高二下学期数学人教A版（2019）选择性必修第三册

8.2 一元线性回归模型及其应用 8.2.1 一元线性回归模型 1. 样本相关系数： 2.相关系数的性质： ① 当r>0时，称成对样本数据正相关；当r<0时，称成对样本数据负相关. ② |r|≤1； ③ 当|r|越接近1时，成对数据的线性相关程度越强；当|r|越接近0时，成对数据的线性相关程度越弱；特别地，当|r|＝0时，成对数据的没有线性相关关系；当|r|＝1时，成对数据都落在一条直线上. 复习回顾 通过前面的学习我们已经了解到，根据成对样本数据的散点图和样本相关系数，可以推断两个变量是否存在相关关系、是正相关还是负相关，以及线性相关程度的强弱等. 进一步地，如果能像建立函数模型刻画两个变量之间的确定性关系那样，通过建立适当的统计模型刻画两个随机变量的相关关系，那么我们就可以利用这个模型研究两个变量之间的随机关系，并通过模型进行预测. 下面我们研究当两个变量线性相关时，如何利用成对样本数据建立统计模型，并利用模型进行预测的问题. 新课引入 问题1：生活经验告诉我们，儿子的身高与父亲的身高相关.一般来说，父亲的身高较高时，儿子的身高通常也较高.为了进一步研究两者之间的关系，有人调查了14名男大学生的身高及其父亲的身高，得到的数据如表1所示. 编号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 父亲身高/cm 174 170 173 169 182 172 180 172 168 166 182 173 164 180 儿子身高/cm 176 176 170 170 185 176 178 174 170 168 178 172 165 182 可以发现，散点大致分布在一条从左下角到右上角的直线附近，表明儿子身高和父亲身高线性相关.利用统计软件，求得样本相关系数为r≈0.886，表明儿子身高和父亲身高正线性相关，且相关程度较高。 问题2：根据表中的数据，儿子身高和父亲身高这两个变量之间的关系可以用函数模型刻画吗？ 列表法是函数的一种表示方法，但并不是所有列表表示的数据都是函数关系，要成为函数关系必须满足函数的定义，即应满足“集合A中的任意一个数，在集合B中都存在唯一的数与它对应”. 编号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 父亲身高/cm 174 170 173 169 182 172 180 172 168 166 182 173 164 180 儿子身高/cm 176 176 170 170 185 176 178 174 170 168 178 172 165 182 表中的数据，存在父亲身高相同而儿子身高不同的情况.例如，第6个和第8个观测父亲的身高均为172cm，而对应的儿子的身高为176cm和174cm；同样在第3，4个观测中，儿子的身高都是170cm，而父亲的身高分别为173cm，169cm.可见儿子的身高不是父亲身高的函数同样父亲的身高也不是儿子身高的函数，所以不能用函数模型来刻画. 编号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 父亲身高/cm 174 170 173 169 182 172 180 172 168 166 182 173 164 180 儿子身高/cm 176 176 170 170 185 176 178 174 170 168 178 172 165 182 问题3：从成对样本数据的散点图和样本相关系数可以发现，散点大致分布在一条直线附近表明儿子身高和父亲身高有较强的线性关系.我们可以这样理解，由于有其他因素的存在，使儿子身高和父亲身高有关系但不是函数关系.那么影响儿子身高的其他因素是什么？ 影响儿子身高的因素除父亲的身外，还有母亲的身高、生活的环境、饮食习惯、营养水平、体育锻炼等随机的因素，儿子身高是父亲身高的函数的原因是存在这些随机的因素. 问题4：由问题3我们知道，正是因为存在这些随机的因素，使得儿子的身高呈现出随机性各种随机因素都是独立的，有些因素又无法量化.你能否考虑到这些随机因素的作用，用类似于函数的表达式，表示儿子身高与父亲身高的关系吗？ 如果用 x 表示父亲身高，Y 表示儿子的身高，用 e 表示各种其他随机因素影响之和，称 e 为随机误差，由于儿子身高与父亲身高线性相关，所以Y=bx+a. Y=bx+a+e.   追问：为什么要假设E( e）=0，而不假设其为某个不为 0 的常数？ 因为误差是随机的，即取各种正负误差的可能性一样，所以它们均值的理想状态应该为0.     若用x表示父亲身高，Y表示儿子身高，e表示随机误差. 假定随机误差e的均值为0，方差为与父亲身高无关的定值σ2，则它们之间的关系可以表示为 我们称(1)式为 Y 关于 x 的一元线性回归模型. 其中，Y 称为因变量或响应变量，x称为自变量或解释变量；a和b为模型的未知参数，a 称为截距参数，b 称为斜率参数；e 是 Y 与 bx+a 之间的随机误差. 模型中的 Y 也是随机变量，其值虽不能由变量x的值确定，但却能表示为 bx+a 与 e 的和，前一部分由 x 所确定，后一部分是随机的. 如果 e=0 ，那么 Y 与 x 之间的关系就可用一元线性函数模型来描述. 一元线性回归模型 你能结合父亲与儿子身高的实例，说明回归模型(1)的意义？     对于父亲身高为xi的某一名男大学生，他的身高yi一定是bxi+a吗？ 模型理解 解：不能. 一是父亲的身高与儿子的身高之间是随机关系，不是函数关系； 二是这组数据仅是总体的一个样本，不一定能很好地描述两个变量之间的关系. 3. 将图8.2-1中的点按父亲身高的大小次序用折线连起来，所得到的图象是一个折线图，可以用这条折线表示儿子身高和父亲身高之间的关系吗？ 课堂练习 课本P107 8.2.2 一元线性回归模型参数的最小二乘估计 在一元线性回归模型中，表达式Y=bx+a+e刻画的是变量Y与变量x之间的线性相关关系，其中参数a和b未知，需要根据成对样本数据进行估计. 由模型的建立过程可知，参数a和b刻画了变量Y与变量x的线性关系，因此通过成对样本数据估计这两个参数，相当于寻找一条适当的直线，使表示成对样本数据的这些散点在整体上与这条直线最接近. 探究 利用散点图找出一条直线，使各散点在整体上与此直线尽可能接近. 方法一：采用测量的方法，先画出一条直线，测量出各点与它的距离，然后移动直线，到达一个使距离的和最小的位置. 然后测量出此时的斜率和截距，就可得到一 条直线，如图(1)所示. 方法二： 在图中选择这样的两点画直线，使得直线两侧的点的个数基本相同，把这条直线作为所求直线，如图(2)所示. 方法三：在散点图中多取几对点，确定出几条直线的方程，再分别求出这些直线的斜率、截距的平均数，将这两个平均数作为所求直线的斜率和截距，如图(3)所示. 上面这些方法虽然有一定的道理，但比较难操作，我们需要另辟蹊径. 先进一步明确我们面临的任务: 从成对样本数据出发，用数学的方法刻画“从整体上看，各散点与直线最接近”. 通常，我们会想到利用点到直线y=bx+a的“距离”来刻画散点与该直线的接近程度，然后用所有“距离”之和刻画所有样本观测数据与该直线的接近程度. 设满足一元线性回归模型的两个变量的n对样本数据为(x1, y1), (x2, y2), ‧‧‧, (xn, yn), 由yi=bxi+a+ei (i=1, 2, ‧‧‧, n)，得 显然|ei|越小，表示点(xi , yi)与点(xi , bxi+a)的“距离”越小，即样本数据点离直线y=bx+a的竖直距离越小，如右图所示. 特别地，当ei = 0时，表示点(xi , yi)在这条直线上. 因此，可以用这n个竖直距离之和 来刻画各样本观测数据与直线y=bx+a的“整体接近程度”. 在实际应用中，因为绝对值使得计算不方便，所以人们通常用各散点到直线的竖直距离的平方之和来刻画“整体接近程度”. 求a, b的值，使Q(a, b)最小 残差平方和： 残差：实际值与估计值之间的差值，即 新知讲解 思考：如何求a,b的值，使 最小？ 记 新知讲解 21 注意到 所以 当 取最小值时， 取最小值0，即 . 此时 新知讲解 22 上式是关于b的二次函数,因此要使Q取得最小值,当且仅当b的取值为 综上，当a,b的取值为 时, Q达到最小. 新知讲解 23 易得:（1）经验回归直线必过样本中心 ; （2） 与相关系数r符号相同. 我们将 称为Y 关于x 的经验回归方程，也称经验回归函数或经验回归公式，其图形称为经验回归直线，这种求经验回归方程的方法叫最小二乘法，求得的 , 叫做b,a的最小二乘估计． 经验回归方程与最小二乘估计： 24 编号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 父亲身高/cm 174 170 173 169 182 172 180 172 168 166 182 173 164 180 儿子身高/cm 176 176 170 170 185 176 178 174 170 168 178 172 165 182 对于上表中的数据，利用公式(2)可以计算出 得到儿子身高Y关于父亲身高x的经验回归方程为 相应的经验回归直线如下图所示. 商店名称 A B C D E 销售额x/千万元 3 5 6 7 9 利润额y/百万元 2 3 3 4 5 例1 某连锁经营公司所属5个零售店某月的销售额和利润额资料如下表: (1) 画出销售额和利润额的散点图； (2) 计算利润额y对销售额x的经验回归直线方程. 解：(1) 散点图如下: 例题 ∴所求经验回归方程为 解1：(2) 商店名称 A B C D E 销售额x/千万元 3 5 6 7 9 利润额y/百万元 2 3 3 4 5 ∴所求经验回归方程为 解2：(2) 商店名称 A B C D E 销售额x/千万元 3 5 6 7 9 利润额y/百万元 2 3 3 4 5 求经验回归方程的步骤： ∴估计女儿的身高为168 cm左右. 2. 假如女儿身高y (单位: cm)关于父亲身高x (单位: cm)的经验回归方程为 已知父亲身高为175 cm，请估计女儿的身高. 解： 课堂练习 课本P113 课堂小结 1. 经验回归方程： 我们将 称为Y关于x的经验回归方程，也称经验回归函数或经验回归公式，其图形称为经验回归直线. 这种求经验回归方程的方法叫做最小二乘法. 2. 最小二乘估计： 经验回归方程中的参数 计算公式为： 思考1:已知儿子身高关于父亲身高x的经验回归方程为 如果一位父亲的身高为176cm，他儿子长大成人后的身高一定是177cm吗? 为什么? 显然不一定，因为还有其他影响儿子身高的因素，父亲身高不能完全决定儿子身高. 不过，我们可以作出推测，当父亲身高为176cm时，儿子身高一般在177cm左右. 实际上，如果把这所学校父亲身高为176cm的所有儿子身高作为一个子总体，那么177cm是这个子总体的均值的估计值. 这里的经验回归方程 其斜率可以解释为父亲身高每增加1 cm，其儿子身高平均增加0.839cm. 分析模型还可以发现，高个子父亲有生高个子儿子的趋势，但一群高个子父亲的儿子们的平均身高要低于父亲们的平均身高，例如 x=185(cm)，则 =184.172(cm). 矮个子父亲有生矮个子儿子的趋势，但一群矮个子父亲的儿子们的平均身高要高于父亲们的平均身高，例如 x=170(cm)，则 =171.587(cm). 残差分析 对于响应变量Y，通过观测得到的数据称为观测值，通过经验回归方程得到的)称为预测值，观测值减去预测值称为残差. 残差是随机误差的估计结果，通过对残差的分析可以判断模型刻画数据的效果，以及判断原始数据中是否存在可疑数据等，这方面工作称为残差分析. 例如，对于下表中的第6个观测，父亲身高为172cm，其儿子身高的观测值为y6=176(cm)，预测值为 残差为176-173.265=2.735(cm). 编号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 父亲身高/cm 174 170 173 169 182 172 180 172 168 166 182 173 164 180 儿子身高/cm 176 176 170 170 185 176 178 174 170 168 178 172 165 182 类似地，我们还可以得到其他的残差，如下表所示. 残差分析 编号 父亲身高/cm 儿子身高观测值/cm 儿子身高预测值/cm 残差/cm 1 174 176 174.943 1.057 2 170 176 171.587 4.413 3 173 170 174.104 －4.104 4 169 170 170.748 －0.748 5 182 185 181.655 3.345 6 172 176 173.265 2.735 7 180 178 179.977 －1.977 8 172 174 173.265 0.735 9 168 170 169.909 0.091 10 166 168 168.231 －0.231 11 182 178 181.655 －3.655 12 173 172 174.104 －2.104 13 164 165 66.553 －1.553 14 180 182 179.977 2.023 为了使数据更加直观，用父亲身高作为横坐标，残差作为纵坐标，可以画出残差图，如图下所示. 残差图： 0 1 2 3 4 5 -1 -2 -3 -4 -5 160 165 170 175 180 185 残差/cm 父亲身高/cm • • • • • • • • • • • • • • 观察残差的散点图可以发现，残差比较均匀地分布在横轴的两边. 说明残差比较符合一元线性回归模型的假定，是均值为0、方差为σ2的随机变量的观测值. 可见，通过观察残差图可以直观判断模型是否满足一元线性回归模型的假设. 思考2: 观察下列四幅残差图，你认为哪一个残差满足一元线性回归模型中对随机误差的假定? 通过观察发现，图(4)的残差比较均匀地分布在以取值为0的横轴为对称轴的水平带状区域内. 所以在四幅残差图中，只有图(4)满足一元线性回归模型对随机误差的假设. 例 经验表明，一般树的胸径 (树的主干在地面以上1.3m处的直径)越大， 树就越高 . 由于测量树高比测量胸径困难，因此研究人员希望由胸径预测树高 . 在研究树高与胸径之间的关系时，某林场收集了某种树的一些数据如下表，试根据这些数据建立树高关于胸径的经验回归方程. 编号 1 2 3 4 5 6 胸径/cm 18.1 20.1 22.2 24.4 26.0 28.3 树高/m 18.8 19.2 21.0 21.0 22.1 22.1 编号 7 8 9 10 11 12 胸径/cm 29.6 32.4 33.7 35.7 38.3 40.2 树高/m 22.4 22.6 23.0 24.3 23.9 24.7 例题讲解 分析：因为要由胸径预测树高，所以要以成对样本数据的胸径为横坐标、树高为纵坐标描出散点，进而得到散点图，再根据散点图推断树高与胸径是否线性相关 . 如果是，再利用公式计算出，即可. 解: 以胸径为横坐标，树高为纵坐标作散点图如下： 在右图中，散点大致分布在一条从左下角到右上角的直线附近，表明两个变量线性相关，并且是正相关，因此可以用一元线性回归模型刻画树高与胸径之间的关系. 用d表示胸径 , h表示树高 , 根据据最小二乘法 , 计算可得经验回归方程为 相应的经验回归直线如图所示. 根据经验回归方程，由胸径的数据可以计算出树高的预测值(精确到0.1)以及相应的残差，如下表所示. 以胸径为横坐标, 残差为纵坐标, 作残差图, 得到下图. 观察残差表和残差图，可以看到，残差的绝对值最大是0.8，所有残差分布在以横轴为对称轴、宽度小于2的带状区域内 . 可见经验回归方程较好地刻画了树高与胸径的关系，我们可以根据经验回归方程由胸径预测树高. 决定系数 决定系数R2常用来比较两个模型的拟合效果 R2越大，表示残差平方和越小，即模型的拟合效果越好； R2越小，表示残差平方和越大，即模型拟合效果越差. 残差平方和 确定的数 即在实际应用中应该尽量选择 R2 大的回归模型. 在使用经验回归方程进行预测时 , 需注意以下问题: 1.回归方程只适用于我们所研究的样本的总体 . 例如，根据我国父亲身高与儿子身高数据建立的经验回归方程, 不能用来描述美国父亲身高与儿子身高之间关系. 同样，根据生长在南方多雨地区的树高与胸径的数据建立的经验回归方程，不能用来描述北方干旱地区的树高与胸径之间的关系. 3. 解释变量的取值不能离样本数据的范围太远. 一般解释变量的取值在样本范围内，经 验回归方程的预报效果会比较好，超出这个范围越远，预报效果越差. 4.不能期望经验回归方程得到的预报值就是响应变量的精确值 . 事实上 , 它是响应 变量的可取值的平均值. 2.经验回归回归方程一般都有时间性 . 例如，根据20世纪80年代父亲身高与儿子身高数 据建立的经验回归方程, 不能用来描述现在的父亲身高与儿子身高之间关系. 一般地，建立回归模型的基本步骤为： （1）确定研究对象，明确哪个变量是解释变量，哪个变量是预报变量. （2）画出解释变量和预报变量的散点图，观察它们之间的关系（如是否存在线性关系等）. （3）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程）. （4）按一定规则（如最小二乘法）估计回归方程中的参数. （5）得出结果后分析残差图是否有异常（如个别数据对应残差过大，残差呈现不随机的规律性等).若存在异常，则检查数据是否有误，或模型是否合适等. 编号 1 2 3 4 5 6 7 8 年份 1896 1912 1921 1930 1936 1956 1960 1968 记录/s 11.80 10.60 10.40 10.30 10.20 10.10 10.00 9.95 问题 人们常将男子短跑100m的高水平运动员称为百米飞人 . 下表给出了1968年之前男子短跑100m世界纪录产生的年份和世界纪录的数据 . 试依据这些成对数据, 建立男子短跑100m世界纪录关于纪录产生年份的经验回归方程. 以成对数据中的世界纪录产生年份为横坐标 , 世界纪录为纵坐标作散点图 , 得到下图. 非线性回归问题 在上图中，散点看上去大致分布在一条直线附近，似乎可用一元线性回归模型建立经验回归方程. 用Y表示男子短跑100m的世界纪录 , t表示纪录产生的年份 , 利用一元线性回归模型来刻画世界纪录和世界纪录产生年份之间的关系 . 根据最小二乘法 , 由表中的数据得到经验回归方程为： 将经验回归直线叠加到散点图，得到下图： 例如，第一个世界纪录所对应的散点远离经验回归直线，并且前后两时间段中的散点都在经验回归直线的上方，中间时间段的散点都在经验回归直线的下方. 这说明散点并不是随机分布在经验回归直线的周围，而是围绕着经验回归直线有一定的变化规律，即成对样本数据呈现出明显的非线性相关的特征. 观察：从图中可以看到 , 经验回归方程较好地刻画了散点的变化趋势 , 请再仔细观察图形 , 你能看出其中存在的问题吗? 思考： 你能对模型进行修改, 以使其更好地反映散点的分布特征吗? 仔细观察右图, 可以发现散点更趋向于落在中间下凸且递减的某条曲线附近. 回顾已有的函数知识，可以发现函数y=-lnx的图象具有类似的形状特征. 注意到100m短跑的第一个世界纪录产生于1896年 , 因此可以认为散点是集中在曲线y=f(t)=c1+c2ln(t-1895)的周围，其中c1、c2为未知参数，且c2<0. 散点集中在曲线y=f(t)=c1+c2ln(t-1895)的周围，其中c1、c2为未知参数，且c2<0. 用上述函数刻画数据变化的趋势，这是一个非线性经验回归函数，其中c1 ， c2是待定的参数 ，现在问题转化为如何利用成对数据估计参数c1和c2. 为了利用一元线性回归模型估计参数c1和c2 ，我们引进一个中间变量x，令x=ln(t-1895)，通过x=ln(t-1895) ，将年份变量数据进行变换，得到新的成对数据，如下表. 编号 1 2 3 4 5 6 7 8 年份/t 1896 1912 1921 1930 1936 1956 1960 1968 x 0.00 2.83 3.26 3.56 3.71 4.11 4.17 4.29 记录/s 11.80 10.60 10.40 10.30 10.20 10.10 10.00 9.95 令x=ln(t-1895) , 则Y=c2 x+c1 . 因此，用一元线性回归模型 拟合上表中的数据，得到经验回归方程 在上图中画出经验回归直线，如图所示. 上图表明 , 经验回归方程对于上表中的成对数据具有非常好的拟合精度 . 将两个回归直 线进行对比, 可以发现x和Y之间的线性相关程度比原始样本数据的线性相关程度强得多. 在同一坐标系中画出成对数据散点图、非线性经验回归方程②的图像(蓝色)以及经验回归方程①的图像(红色)，如图所示. ② 我们发现，散点图中各散点都非常靠近②的图像, 表明非线性经验回归方程②对于原始数据的拟合效果远远好于经验回归方程①. 将x=ln(t-1895)代入 得到由创纪录年份预报世界纪录的经验回归方程. 下面通过残差来比较这两个经验回归方程对数据刻画的好坏 . 用ti表示编号为i的年份数据，用yi表示编号为i的记录数据，则经验回归方程①和②的残差计算公式分别为 观察各项残差的绝对值，发现经验回归方程②远远小于①，即经验回归方程②的拟合效果要远远好于①. 编号 1 2 3 4 5 6 7 8 t 1896 1912 1921 1930 1936 1956 1960 1968 0.591 -0.284 -0.301 -0.218 -0.196 0.111 0.092 0.205 -0.001 0.007 -0.012 0.015 -0.018 0.052 -0.021 -0.022 两个经验回归方程的残差(精确到0.001)如下表所示. 在一般情况下，直接比较两个模型的残差比较困难，因为在某些散点上一个模型的残差的绝对值比另一个模型小，而另一些散点的情况则相反. 可以通过比较残差的平方和来比较两个模型的效果. 由 可知Q2小于Q1，因此在残差平方和最小的标准下，非线性回归模型的拟合效果要优于一元线性回归模型的拟合效果. 也可以用决定系数R2来比较两个模型的拟合效果： 容易算出经验回归方程①和②的R2分别约为0.7325和0.9983， 因此，经验回归方程②的刻画效果比经验回归方程①的好得多. 1.残差平方和： 2.最小二乘法 将 称为Y 关于x 的经验回归方程. 3.判断模型拟合的效果: 残差分析 R2越大，模型的拟合效果越好, R2越小，模型拟合效果越差. 归纳小结 $$