5.2大数定律（课件）- 《概率论与数理统计（第3版）》同步教学（机工版）

第五章知识结构图 概率论的理论结果 大数定律 中心极限定理 切比雪夫大数定理 贝努利大数 定理 辛钦 (大数)定理 独立同分布的中心极限定理 棣莫弗--拉普拉斯中心极限定理 李雅普诺夫中心极限定理 第五章 大数定律及中心极限定理 本章主要讨论如下两个问题： 在一定条件下,一列随机变量的算术平均值 （按某种意义）收敛于所希望的平均值的定理称为 大数定律为概率论所存在的基础提供了理论依据 ———“概率是频率的稳定值” 。 大数定律以严格的数学形式表达了随机现象最根 本的性质之一： 它是随机现象统计规律的具体表现， 也成为数理统计的理论基础。 平均结果的稳定性。 “大数定律” 极限定理 ▲ ▲ 在一定条件下，大量的相互独立的随机变量之和 的概率分布近似于正态分布的定理称为 中心极限定理它以严格的数学形式证明了 随机现象另一个最根本的性质之一： 如果一个量是由大量相互独立的随机因素 的影响所造成，而每一个别因素在总影响 中所起的作用不大，则这种量一般都服从 或近似服从正态分布。 它是随机现象统计规律的具体表现，也成为数理统 计的理论基础。而正态分布又是应用最广的分布。 “中心极限定理” ▲ 大量的随机现象中平均结果的稳定性： 大量抛掷硬币 正面出现频率 字母使用频率 生产过程中 的废品率 …… 第一节 大数定律 大数定律的客观背景 定理1（切比雪夫大数定律） 切比雪夫 一. 切比雪夫大数定律 切比雪夫大数定律表明：独立随机变量序列 { Xn }，如果方差有共同的上界，则： 概率接近于1. 设 X1 , X2, … 是相互独立的随机变量序列，它们都有有限的方差，并且方差有共同的上界，即 D( Xi ) ≤ K， i=1, 2, …，则对任意的 注 算术平 均值 数学期望 是很小的，其概率接近于1。 取值接近于其数学期望的概率接近于 1。 算术平均值 与其数学期望 的偏差 切比雪夫大数定律给出了平均值稳定性的科学描述 定理2（切比雪夫大数定律的特殊情况） 设 X1 , X2, … 是相互独立的随机变量序列，它们具有相同的数学期望与方差： 作前 n 个随机变量的算术平均值： 亦称为独立同分布的大数定律 即当 n 充分大时， 单击此处编辑母版文本样式 第二级 第三级 第四级 第五级 则对任意的 有： 证明: 由切比雪夫不等式可得: 定理2 是定理1中当数学期望和方差给定具体值时的特殊情况。 在数理统计中如不知道 ，则 可用其算术平均值来近似代替 令： 并注意到概率 所以得： ▲ 注 它表明当 n 很大时，随机 的算术平均值在概率意义 变量 下接近于数学期望 其作用： 定理 2 提供了理论依据 依概率收敛的序列具有如下性质: [证明]:（略）见浙大教材P 146 页下方的小字体 记为： 定理2 的结论可叙述为： 依概率收敛于常数 由此， ▲ 设 又设函数 g ( x, y ) 在点 ( a, b ) 处连续， 则有： 指的是：对任意正数 ▲ 称序列 依概率收敛于常数 序列 二. 贝努利大数定理 定理3. (贝努利定理) 设随机变量 相互独立，且同时服从以 p 为参数 的(0 – 1)分布。 或 贝努利 则对任意正数 有： 其中: p 是事件 A 在每次试验 中发生的概率 证明: 则由定理2可得: 服从 分布 其中: n 次独立重复试验中事件A发生的次数 p 是事件 A 在每次试验中 发生的概率。 定理3 表明： 接近于事件 A 发生的概率 P 亦称事件A 发生的频率 依概率收敛于事件A的概率 P . 以用事件发生的频率来近似代替事件的概率。 ▲ ▲ ▲ 问题 定理2，定理3 均为独立同分布的大数定律， 并且均要求随机变量的期望与方差都存在。 如果没有随机变量的方差存在的条件， 那么大数定律的结论是否仍成立？ 注 当 n 很大时,事件A 发生的频率 贝努里大数定律提供了通过试验 来确定事件概率的方法。 ( 证明了频 率的稳定性)。 从而当 n (试验次数) 很大时可 三. 辛钦定理 定理4. （辛钦定理） 则对任意的正数 有: 辛钦 设 相互独立，并且服 从同一分布，且具有数学期望： 辛钦大数定律为寻找随机变量的 期望值提供了 一条实际可行的途径 为人们习惯上经常采用的方法提供了理论依据 : 大数定律从各个角度描述了样本的算术