第7章 参数估计（课件）- 《概率论与数理统计》同步教学（机工版）

2024/2/27 CH7 参数估计 1 点估计 2 估计量的优劣性 3 单个正态总体参数的置信区间 4 单侧置信区间 CH7.1 点估计 目录 contents 2024/2/27 1 矩估计 2 最大似然估计与渐近正态性 3 估计量的评选标准 前言 2024/2/27 点估计 区间估计 参数估计 点估计 —— 估计未知参数的值。 区间估计——估计未知参数的取值范围，并使此范围包含未知参数真值的概率为给定的值。 PART 1 7.1 点估计 概念 矩估计的基本思想是“替代”，具体是： ● 用样本矩(即矩统计量)估计总体矩; ● 用样本矩的函数估计总体矩的相应函数。 这里的矩可以是各阶原点矩,也可以是各阶中心矩。这一思想是英国统计学家皮尔逊在1900年提出的。 2024/2/27 7.1.1 矩估计 2024/2/27 设是来自某总体的一个样本，只要该总体的各阶矩存在，都可对总体若干参数用矩法获得矩估计。 7.1.1 矩估计 例7.1.1 设总体，求未知参数的矩估计。 解：设为来自总体的一个样本，由于，则，则令 解得参数λ的矩估计 。 。 7.1.1 矩估计 例7.1.2 设为来自总体的一个样本，只要的各阶矩都存在，则可根据矩估计法，获得的若干参数的矩估计，常用的矩估计有： （1）总体均值的矩估计为。 （2）总体方差的矩估计为，其中，。 （3）总体标准差的矩估计为。 事实上，根据矩估计法可以得到方程组 ， 解上述方程组可得 。 7.1.1 矩估计 例7.1.3 设总体，和均未知，对任意的常数，求的矩估计。 解：对于，有，，根据例2结论 ，， 下面计算的矩估计，由于 ， 所以矩估计为 。 7.1.1 矩估计 2024/2/27 练习1 设是来自均匀分布的一个样本,试求的矩估计。 若从均匀分布获得如下一个容量为的样本:， 求的矩法估计。 7.1.1 矩估计方法 2024/2/27 练习2 设样本来自正态总体)，与未知，求的估计。 从正态总体中获得一个容量为的样本，由样本观察值得到样本均值与样本标准差分别为 和，求的矩法估计。 7.1.1 矩估计 2024/2/27 矩估计的优缺点 优点：统计思想简单明确,易为人们接受，且在总体分布未知场合也可使用。 缺点： 1.不唯一; 2.样本各阶矩的观测值受异常值影响较大,不够稳健，实际中要尽量避免使用样本的高阶矩。 思想：大概率原理 2024/2/27 使得事件A的概率取得最大时对应的参数值就是参数的极大似然估计。 A B C 引例 2024/2/27 设总体 100次观测的结果为：60个“1”，40个“0” 求参数 的估计值。 7.1.2 极大似然估计 2024/2/27 定义7.2.1　 设是来自某分布(密度函数或分布律)的一个样本。在给定样本观察值 时,该样本 的联合分布是的函数，称其为的似然函数,记为,有时还把 省略,记为 若在参数空间上存在这样的,使达到最大,即 则称 为的极大（最大）似然估计,简记为MLE。 7.1.2 极大似然估计 2024/2/27 例7.1.4 设样本来自总体， ，在下面的条件下求的MLE。 （1） ； （2） 。 7.1.2 极大似然估计 解：（1）设为总体的样本，其观察值为且, ，由于，所以，，则 似然函数 ， 对数似然函数 ， 对数似然函数求导 ， 求二阶导数 ， 因此，令解得参数的极大似然估计值为 ， 故，参数的极大似然估计量为。 7.1.2 极大似然估计 （2）设为总体的样本，其观察值为且,由于，所以其概率密度函数为 则似然函数 ， 对数似然函数 ， 对数似然函数求导 ， 求二阶导数 ， 因此，由解得参数的极大似然估计值为 ， 故，参数的极大似然估计量为。 7.1.2 极大似然估计 2024/2/27 例7.1.6 设样本来自总体， 为样本观测值， 求 的MLE。 解：设为总体的样本，其观察值为且,由于，所以其概率密度函数为，则 似然函数 ， 对数似然函数 ， 7.1.2 极大似然估计 令 ， 解得，参数和的极大似然估计值为，。 7.1.2 极大似然估计 2024/2/27 练习 设是来自均匀分布的一个样本观测值，求的MLE。 例7.1.7 设是来自均匀分布的一个样本的观测值，其中可为任意实数, 的MLE。 7.1.2 极大似然估计 解： 设为总体的样本，其观察值为且，,将观测值从小到大依次排序为，由于总体，则似然函数为 该似然函数在不超过或不小于时均可取到最大值，因此和都是的极大似然估计，另外，对于，和凸线性组合 都是的极大似然估计，可见参数的极大似然估计也不具有唯一性