4 大数定律与中心极限定理（课件）-《概率论与数理统计（第三版）》同步教学（人民大学）

第四章 大数定律 及中心极限定理 1 在数学中大家都注意到这样的现象：有时候一个有限的和很难求, 但一经取极限由有限过渡到无限, 则问题反而好办. 例如, 若对某一x,要计算和 而一经取极限，则有 简单的结果 2 事实证明这是可能的，而且在一般情况下和的极限分布就是正态分布，由此可见正态分布的重要性。对和的分布收敛于正态分布的这一类极限定理的研究，在长达两个世纪的时期内成了概率论研究的中心课题，因此得到了“中心极限定理”的名称。本章将列述这类定理中最简单，然而也是最重要的情况。 3 在概率论中，另一类重要的极限定理是所谓“大数定律”。 在第一章中我们已经讨论了“频率的稳定性”。 大量的重复试验中，事件A发生的频率接近某个常数，这个常数实际上就是事件发生的概率。“大数”的意思，就是指试验数目是大量的。 4 §1 切比雪夫不等式 随机变量的方差是刻画它围绕其期望值的离散程度的，因此我们希望用方差来估计随机变量与其期望值之间的偏差大于某一给定正数的概率的上界。 定理 5 证 设X是连续型随机变量，其概率密度为f(x),则 定理 6 上式可改写为 切比雪夫不等式具体地估算了随机变量X取值时，以数学期望E(X)为中心的分散程度。不难看出，方差D(X)越小，则随机变量X的取值越集中在数学期望E(X)的附近，由此可以进一步体会到方差的概率意义，它刻划了随机变量的分散程度。 如取 7 例 已知正常男性成人血液中，每一毫升白细胞数平均是7300，均方差是700 . 利用切比雪夫不等式估计每毫升白细胞数在5200 ~ 9400之间的概率 . 设每毫升白细胞数为X ， 依题意，E(X) = 7300, D(X) = 7002 ， 解 由切比雪夫不等式， 8 例 根据过去统计资料，某产品的次品率为p=0.05，试用切比雪夫不等式估计1000件产品中，次品数在40~60之间的概率. 解 设X表示1000件产品中的次品数，则 由切比雪夫不等式， 9 该数值是非常保守的估计，事实上，由中心极限定理可知，概率约为 注： 10 解 例 11 例 解 12 §2 大数定律 记作 13 几个常见的大数定律 定理1（切比雪夫大数定律） 设 X1,X2, …是相互独立的随机变量序列，它们都有有限的方差，并且方差有共同的上界，即 D(Xi) ≤C，i = 1,2, …， 则对任意的 有 或 依概率收敛 14 证 两边夹,即得结论. 15 解释： 取值接近于其数学期望的概率接近于1. 当n充分大时， 差不多不再是随机的了, 16 定理2（伯努利大数定律） 或 下面给出的伯努利大数定律，是定理1的一种特例。 设nA是n重伯努利试验中事件A发生的次数，p是事件A发生的概率，则对任给的 ,有 17 引入 i =1,2,…,n 则 而 由切比雪夫大数定律， 18 是事件A发生的频率， 伯努里大数定律表明，当重复试验次数n充分大时，事件A发生的频率nA/n与事件A的概率p有较大偏差的概率很小。 这就是频率稳定性的理论解释。 历史上，伯努利第一个研究了这种类型的极限定理，在1713年发表的论文中(这是概率论的第一篇论文!),他建立了以上定理。所以有人认为，概率论的真正历史应从出现伯努利大数定律的时刻算起。 19 下面给出的独立同分布下的大数定律，不要求随机变量的方差存在。 设随机变量序列X1,X2, …独立同分布，具有有限的数学期望 E(Xi) =μ, i=1,2,…， 定理3（辛钦大数定律） 辛钦 辛钦大数定律为寻找随机变量的期望值提供了一条实际可行的途径. 20 例如要估计某地区的平均亩产量，要收割某些有代表性的地块，例如n 块. 计算其平均亩产量，则当n 较大时，可用它作为整个地区平均亩产量的一个估计. 21 例 解 其共同的数学期望为 将一枚均匀对称的骰子重复掷n次，则当n 时，求n次掷出点数的算术平均值依概率收敛的极限． 22 §3 中心极限定理 中心极限定理从理论上证明，对于大量的独立随机变量来说，只要每个随机变量在总和中所占比重很小，那么不论其中各个随机变量的分布函数是什么形状，也不论它们是已知还是未知，而它们的和的分布函数必然和正态分布函数很近似。这就是为什么实际中遇到的随机变量很多都服从正态分布的原因，也正因如此，正态分布在概率论和数理统计中占有极其重要的地位。 下面介绍两个常用的中心极限定理。 23 由于无穷个随机变量之和可能趋于∞，故我们不直接研究n个随机变量之和，本身而考虑它的标准化的随机变量 的分布函数的极限. 24 列维一林德伯