9.1 回归分析的基本概念（课件）- 《概率论与数理统计(第3版) 》同步教学（高教版）

第九章 回归分析 §9.1 回归分析的基本概念与最小二乘法 第九章 回归分析 上一页 下一页 概率论与数理统计（第二版） 目录 结束 返回 §9.1 回归分析的基本概念 现实世界中,某个变量与其它一个或多个变量之间常存在着一定的关系.一般说来,变量之间的关系可分为两类: 确定性的关系(函数关系) 非确定性的关系 第九章 回归分析 上一页 下一页 概率论与数理统计（第二版） 目录 结束 返回 §9.1 回归分析的基本概念 例如: 人的体重与身高 农作物单位面积的产量与施肥量 居民的消费水平与收入水平 这些变量间的关系都很密切,但却不能够用函数关系来表达.变量之间的这种非确定性关系称为相关关系. 第九章 回归分析 上一页 下一页 概率论与数理统计（第二版） 目录 结束 返回 §9.1 回归分析的基本概念 对于具有相关关系的变量,虽然不能找到它们之间的精确表达式,但是通过大量的观测数据,可以发现它们之间存在一定的统计规律性,数理统计中研究变量之间相关关系的一种有效方法就是回归分析. 设有两个变量X 和Y ,其中X 是可以精确测量或控制的非随机变量,而Y 是随机变量, X 的变化将使Y 发生相应的变化,但它们之间的变化关系是不确定的,若当X 取得任一可能值 x 时, Y 相应地服从一定的概率分布,则称随机变量Y 与变量X 之间存在着相关关系. 第九章 回归分析 上一页 下一页 概率论与数理统计（第二版） 目录 结束 返回 §9.1 回归分析的基本概念 设进行n 次独立试验，测得试验数据如下表： 第九章 回归分析 上一页 下一页 概率论与数理统计（第二版） 目录 结束 返回 §9.1 回归分析的基本概念 第九章 回归分析 上一页 下一页 概率论与数理统计（第二版） 目录 结束 返回 §9.1 回归分析的基本概念 第九章 回归分析 上一页 下一页 概率论与数理统计（第二版） 目录 结束 返回 §9.1 回归分析的基本概念 第九章 回归分析 上一页 下一页 概率论与数理统计（第二版） 目录 结束 返回 §9.1 回归分析的基本概念 第九章 回归分析 上一页 下一页 概率论与数理统计（第二版） 目录 结束 返回 §9.1 回归分析的基本概念 第九章 回归分析 上一页 下一页 概率论与数理统计（第二版） 目录 结束 返回 §9.1 回归分析的基本概念 第九章 回归分析 上一页 下一页 概率论与数理统计（第二版） 目录 结束 返回 §9.1 回归分析的基本概念 第九章 回归分析 上一页 下一页 概率论与数理统计（第二版） 目录 结束 返回 §9.1 回归分析的基本概念 第九章 回归分析 上一页 下一页 概率论与数理统计（第二版） 目录 结束 返回 §9.1 回归分析的基本概念 思考题 什么是最大似然估计法？ 最大似然估计法与最小二乘法是否等价？ 当回归函数是参数的线性函数时, 在最小二乘估计中得到了关于参数的线性方程组. 那么, 这个线性方程组有唯一解吗？有唯一解的条件是什么？ 第九章 回归分析 上一页 下一页 概率论与数理统计（第二版） 目录 结束 返回 §9.1 回归分析的基本概念 其中 及 分别是变量 及随机变量 在第 次试验中的观测值 . 通常把点 画在直角坐标平面上,得到散点图如下: 我们的问题是,如何根据这组观测值用“最佳的”形式来表达变量 与 之间的相关关系? 比较合理的想法就是,取 时随机变量 的数学期望 作为 时 的估计值,即 显然,当 变化时, 是 的函数,记作 于是,我们可以用一个确定的函数关系式 大致地描述 与 之间的相关关系,函数 称为 关于 的回归函数,方程 称为 关于 的回归方程.回归方程反映了 的数学期望 随 的变化而变化的规律性. 然而,要找到合适的回归函数 是很困难的,通常总是限制 为某一类型的函数.函数 的类型可以由与被研究问题的本质有关的物理假设来确定;若没有任何理由可以确定函数 的类型,则只能根据在试验结果中得到的散点图来确定. 在确定了函数 的类型后,就可以设 其中 为未知参数. 于是,我们的问题就归结为:如何根据试验数据合理地选择参数 的估计值 EMBED Equation.DSMT4 EMBED Equation.DSMT4 ,使方程 EMBED Equation.DSMT4 EMBED Equation.DSMT4 EMBED Equation.DSMT4 在一定的意义下“最佳地”表现变量 与 之间的相关关系. 解决上述问题的方法,可以利用所谓的最小二乘法