6 参数估计（课件）-《概率论与数理统计（第三版）》同步教学（人民大学）

第6章 参数估计 1 在数理统计的许多问题中，总体的分布类型往往假定是已知的，例如，大批灯泡的寿命服从正态分布，纺织厂细纱机上的断头次数服从普阿松分布，抽检若干件产品中所含的次品数服从二项分布，等等。但仅仅知道分布的类型是不够的，还需确定分布函数中的未知参数，才能求得所要求的概率。这就提出了参数估计的问题。 参数估计分为点估计和区间估计两种。 2 §1 点估计 3 一、矩法(The Method of Moments) 其基本思想是用样本矩估计总体矩 . 它是基于一种简单的“替换”思想建立起来的一种估计方法 . 是英国统计学家 K.皮尔逊最早提出的 . 矩法估计的理论基础是：辛钦大数定律. 4 记总体 k 阶矩为 样本 k 阶矩为 用相应的样本矩去估计总体矩的估计方法就称为矩估计法。 记总体 k 阶中心矩为 样本 k 阶中心矩为 5 比较： 样本方差 6 例 解 例 所以θ的矩估计量为 7 例 解 8 例 解 9 二、最大似然估计法 最大似然法,也叫极大似然法,它最早是由高斯所提出的,后来由英国统计学家费歇(R·A·Fisher)于1912年在其一篇文章中重新提出,并且证明了这个方法的一些性质.最大似然估计这一名称也是费歇给的.它是建立在最大似然原理的基础上的一个统计方法.为了对最大似然原理有一个直观的认识,我们先来看几个例子. (The Method of Maximum Likelihood) 10 最大似然法的基本思想 先看一个简单例子： 一只野兔从前方窜过。 是谁打中的呢？ 某位同学与一位猎人一起外出打猎。 如果要你推测， 你会如何想呢? 只听一声枪响，野兔应声倒下。 11 下面我们再看一个例子，进一步体会最大似然法的基本思想 . 你就会想，只发一枪便打中，猎人命中的概率一般大于这位同学命中的概率。看来这一枪是猎人射中的 . 这个例子所作的推断已经体现了最大似然法的基本思想。 12 设有外形完全相同的两个箱子，甲箱有99个白球1个黑球，乙箱有1个白球99个黑球。今随机地抽取一箱，然后再从这箱中任取一球，结果发现是白球。问这球是从哪一个箱子中取出的? 分析 导致结果是白球的原因有两个，一个是这球从甲箱取的，另一个就是这球从乙箱取的。如果是从甲箱取的，则取得白球的概率为99%；如果是从乙箱取的，则取得白球的概率为1%，由此看到，这球是从甲箱中取出的概率比从乙箱中取出的概率要大得多，因此很自然的，我们认为结论“这球是从甲箱中取出的”比结论“这球是从乙箱中取出的”要合理得多。最后我们作出推断,这球是从甲箱取出的。 13 最大似然估计法的基本思想：根据样本值来选择参数，使该样本发生的概率最大。具体做法如下： 为“似然函数”。 14 求最大似然估计(MLE)的一般步骤是： 取对数， 求得驻点， 即得θ的最大似然估计量。 15 例 解 令 16 令 解得 17 解 例 设一批产品中含有次品，从中随机抽取85件，发现次品10件，试用最大似然估计法估计这批产品的次品率。 似然函数为 18 解 似然函数为 解得 p 的最大似然估计值为 19 解 例 设总体 X 服从指数分布，其密度函数为 (1) (2) 20 (2) 得 21 解 例 设总体 X 的概率密度为 总体 X 的数学期望为 得θ的矩估计量为 22 似然函数为 23 解得θ的最大似然估计量为 比较： θ的矩估计量为 24 例 解 的密度函数为 似然函数为 25 比较： θ的矩法估计量为 26 由上例，我们看到对于同一个未知参数，由不同的方法可以得到不同的估计量。 在本例中，如果X表示乘客的候车时间，随机抽样得到的5位乘客的候车时间为 0.5, 1, 2, 3.5, 8，则其矩估计值为6，而其最大似然估计值为 8。 27 例 解 下面再举两个离散型总体的例子。 概率函数为 似然函数为 28 解得 p 的最大似然估计量为 29 例如，设一批产品中含有次品，且从中随机抽取85件，发现次品10件，则这批产品的次品率的最大似然估计值为 30 解 X 服从几何分布， 所以 p 的矩估计量为 例 设总体 X 的概率密度为 (1) 矩估计法： 31 解得 p 的最大似然估计量为 解 (2) 最大似然估计法： 32 练习： P143 习题六 3. 5. 33 第二节 估计量的评价标准 34 对于同一个参数，用不同的方法可以得到不同的估计量。现在的问题是，当同一参数出现多个估计量时，究竟哪一个更好呢？这就涉及到用什么标准来评价估计量的问题。 确定估计量好坏的标准必须是整体性的，说得明确一点就是，必须在大量观察的基础上从统计的意义上来评价估计量的好