第5章大数定律与中心极限定理（课件）- 《概率论与数理统计》同步教学（哈工程版）

大数定律与中心极限定理 5.1 大 数 定 律 5.2 中心极限定理 目录 我们知道，随机现象虽然在每次试验中是否出现带有不确定性和偶然性，但在大量的重复试验中呈现一定的规律性.例如，在相同的条件下进行大量的重复试验时，事件A出现的频率随着试验次数的逐渐增大而具有稳定性.实际上，不仅仅随机事件出现的频率具有稳定性，大量随机现象的平均结果也具有某种稳定性，这就是说，不论个别随机现象的结果及它们在进行过程中的个体特征如何，大量随机现象的平均结果实际上与每一个个别现象的特征无关.概率论中用来阐述大量随机现象平均结果的稳定性的理论称为大数定律. 正态分布在概率论中占有特别重要的地位.在实际应用中，许多随机变量是因大量的相互独立的随机因素综合影响而成的，这其中的每个因素在总的影响中所起的作用是微小的.可以证明，这样的随机变量近似地服从正态分布，这就是中心极限定理. 5.1 大 数 定 律 5.1.1 依概率收敛 大数定律在描述这些平均结果的稳定性时，是以研究某些概率接近于1或零的事件的规律的方式进行的.由此引入了概率意义下收敛的概念，本书仅限于讨论其中的依概率收敛的定义. 定义5.1 设 是一个随机变量序列，X是一个随机变量，若对任意的 ，有 ， 则称随机变量序列 依概率收敛到随机变量X，记为 . 特别地，如果存在一个常数a，对于任何的 ，有 ， 则随机变量序列 依概率收敛到常数a，即 .此时说明随着n的增大，与常数a几乎无限接近，即随机变量的取值几乎失去随机性，而是稳定在常数a附近. 5.1.2 大数定律的几种形式 当随机变量序列具有不同的性质时，大数定律也有不同的表示形式，下面我们来介绍大数定律得的几种具体形式. 定理5.1（伯努利大数定律） 设 为事件A在n次独立重复试验中发生的次数，p为事件A在每次试验中发生的概率，则对任意的 ， 有 . 证 （方法一）显然 是一个随机变量，且服从二项分布 ，从而 故 根据切比雪夫不等式 ， 同 时 ，故 . 伯努利大数定理表明，在条件完全相同的独立重复试验中，当试验次数n无限增大时，事件出现的频率 依概率收敛到事件出现的概率p.这就从理论上证明了频率稳定到概率的含义.正是基于这一理论，当n很大时，可以用频率作为概率的近似.同时也说明，如果事件发生的概率较小，则该事件在个别试验中发生的可能性就较小.这就是概率统计中的实际推断原理. 实际推断原理 小概率事件(发生的概率很小的事件)在个别试验中是不可能发生的. 实际推断原理在实际工作中有着广泛的应用.至于概率小到何等程度为小概率事件，则要具体问题具体分析.一般问题中以0.05为界限. 实际推断原理也是第8章中假设检验的理论依据. 人们在实践中还发现，除了频率具有稳定性以外，大量随机现象的平均值也具有稳定性.下面几个大数定律就给出了平均值的稳定性. 5.1.2 大数定律的几种形式 定理5.2（马尔可夫大数定律） 设 是一个随机变量序列，每个随机变量的方差存在，且 ，记 ，则对任意的 ，有