7.1 点估计（课件）- 《概率论与数理统计》同步教学（机工版· 第4版）

《概率论与数理统计》 第七章 参数估计 第七章 参数估计 点估计 估计量的优劣性 一致最小方差无偏估计(UMVUE) 正态总体参数的区间估计 Bayes估计 什么是参数估计？ 参数是刻画总体某方面概率特性的数量. 当此数量未知时,从总体抽出一个样本，用某种方法对这个未知参数进行估计就是参数估计. 例如，X~N( , 2), 若,  2未知, 通过构造样本的函数, 给出 它们的估计值或取值范围就是参数估计 的内容. 点估计 区间估计 参数估计的类型 点估计 —— 估计未知参数的值 区间估计—— 估计未知参数的取值范围， 并使此范围包含未知参数 真值的概率为给定的值. 7.1 点估计 称其为 的一个估计量，记为 注：F(x;)也可用分布律或密度函数代替. 定义 设X1,… ,Xn是总体X的一个样本，其分布函数 为F(x;  ),。其中为未知参数, 为参数空 间, 若统计量g(X1,… ,Xn)可作为的一个估计,则 若x1，… ，xn 是样本的一个观测值， 由于g(X1,… ,Xn) 是实数域上的一个点，现用它来估计， 故称这种估计为点估计。 点估计的经典方法是矩估计法(ME) 与极大似然估计法(MLE)。 称为参数的估计值。 在不致混淆的情况下统称估计量与估计值 为估计，并都简记为 一、矩估计法（简称“矩法”ME） 设总体X的分布函数为F(x, ), 为k维未知参数,并设随机变量X的k阶矩存在，即 存在, 其基本思想是：以样本矩代替相应的总体矩。 矩估计是1900年英国统计学家K. Pearson 提出 的一种统计方法. 上述方程组的解即为参数 的矩估计，记为 注1.用样本矩作为总体同阶矩的估计，即 注2.约定：若 是未知参数的矩估计，则g()的矩估计为g( ). 例1：设X1,… ,Xn为取自总体B(1,p),的样本，其中0<p<1未知，求p的矩估计。 解: E(X)=p, 为参数p的矩估计. 解 例2 设总体X的概率密度为 其中 为未知参数，且 >0，试求 的矩估计. 的矩估计。 解: 例3：设X1,… ,Xn为取自 总体的样本，求参数 例4. 设总体X的概率密度为 解: X1,… ,Xn为样本，求参数的矩估计。 解: 由: 二、极大似然估计法 似然估计得到了广泛的应用。 极大似然估计最早是由高斯1821年提出的，但 一般将之归功于英国统计学家R.A.Fisher，因 为R.A.Fisher在1922年再次提出极大似然估计， 并证明了极大似然估计的一些性质，使得极大 命中了一发，谁射中的？ 1、极大似然思想 有两个射手，一人的命中率为0.9,另一人的命 中率为0.1, 现在他们各向目标射击了一发，结果 假如甲乙两人仅对目标各射击了一次，结果甲击中，而乙未击中目标。请问谁的水平高？ 请回答。 答：甲的技术好于乙。 这虽有片面性，但显然是合理的 又如一件事件A发生的概率为0.1或0.9，仅作一次试验，结果事件A发生了，自然认为事件A发生的概率为0.9，而不是0.1。基于上述基本思想，引入极大似然估计。 一般说，事件A发生的概率与参数有关， 取值不同，则P(A)也不同。因而应记事件A发生的概率为P (A).若仅仅作了一次试验，结果A发生了，则认为此时的值应是在中使P (A)达到最大的那一个。 事件发生的概率为 若总体X是离散型随机变量，其分布律 i=1, 2, … 为待估参数. 是来自总体X的样本，若 是样本的 观察值，则 1 离散型 它是 的函数，称 为样本的似然函数. 由上面的讨论，在 取值的可能范围 内，应选择使概率 达到最大的 的估计，即使 作为 这样得到的 与样本值有关， 称为参数的极大似然估计(MLE)而相应的统计量为 例6.设X1,… ,Xn为取自参数为的泊松分布总体的样本，求的极大似然估计 解: 令 2. 连续型 若总体X是连续型的，其概率分布密度为 根据第二章随机变量性质知，随机 变量X落在(x, x+dx)中的概率近似为 设 是来自X的样本，则 落在(x1, x1+dx1)∩…∩(xn, xn+dxn)中的概率为 称 为样本的似然函数。 与离散型的情况一样，挑选使 达到 最大的 作为 的估计值，即使 的极大似然估计(MLE). 则称 为 注1 求极大似然估计的步骤 (1) 求似然函数 (2)求对数似然函数 (3) 列似然方程, 令 若该方程有解，则其解就是 特别地，若似然函数中含有多个未知参数，则可解方程组 的极大似然估计。 解: 例7：设X1,…