5-1,2大数定律与中心极限定理.ppt

第五章 大数定律与中心极限定理 一、 大数定律 二、 中心极限定理一 * 二、 中心极限定理 一、 大数定律 第一章引入概率概念时，曾经指出，事件发生的频率在一、二次或少数次试验中是有随机性的，但随着试验次数n的增大，频率将会逐渐稳定且趋近于概率。特别，当n很大时，频率与概率会非常“接近”的。这个非常“接近”是什么意思？这与高等数学中的极限概念有否联系？本章将从理论上讨论这一问题。 定理1 设随机变量的数学期望E?= ? ，方差D ? = ? 2,则对任意的正数?，不等式 (1.1) 成立。这个不等式称为契贝雪夫(Cheby shev)不等式。 证 我们仅就连续型随机变量情形加以证明。 设 的概率密度为 f(x)，于是 证毕 式(1.1)表明当D 很小时，概率 更小。这就是说在上述条件下，随机变量 落入E 的 邻域之外的可能性很小，落入E 的 邻域内可能性很大。由此说明 的取值比较集中，也即离散程度较小，这正是方差的意义所在。契贝雪夫不等式在理论研究和实际应用中都有很重要的价值。 例1 已知正常男性成人血液中，每一毫升血液中白细胞的平均数是7300，均方差是700。试估计每毫升血液中白细胞数在5200～9400之间的概率。 解 设每一毫升血液中白细胞数为 ，则由(1.2)式有 契贝雪夫不等式也可以写成如下等价形式 (1.2) 定理2 （伯努利(Bernoulli)大数定律）设 是n次独立重复试验中事件A发生的次数，p是事件A在每次试验中发生的概率，则对任意正数 0，有 (1.3) 或 (1.4) 证 令 则?1，? 2，…，? n是n个相互独立的随机变量，且 易知 于是 由契贝雪夫不等式得 又由?1，? 2，…，? n 的独立性可知 从而有 证毕 上述伯努利大数定律从理论上给出了频率“接近”概率这种“现象”的更加确切的含意，它反映了大数次重复试验下随机现象所呈现的客观规律性。 设 1， 2，…， n，…是一个随机变量序列，a是一个常数，若对任意的正数 ，有 则称随机变量序列{ n}依概率收敛于a，记作 定理2′ 是n次独立重复试验中事件A发生的次数，p是事件A在每次试验中发生的概率，则 定理3（契贝雪夫大数定律）设 1， 2，…， n，…是相互独立的随机变量序列，又设它们的方差有界，即存在常数c0，使得 则对任意的 0，有 证明（略） (1.5) 或 (1.6) 伯努利大数定律是契贝雪夫大数定律的特例, 在它们的证明中, 都是以契贝雪夫不等式为基础的, 所以要求随机变量具有方差。但进一步的研究表明，方差存在这个条件并不是必要的。下面我们介绍独立同分布的辛钦大数定律。 定理4 （辛钦(ХИНЧИН)大数定律）设 是一独立同分布的随机变量序列，且数学期望存在 则对任意的 0，有 证明（略） (1.7) 伯努利大数定律说明了当n很大时，事件发生的频率会非常“接近”概率，而这里的辛钦大数定律则表明，当n很大时， 随机变量在n次观察中的算术平均值 也会“接近”它的期望值，即 这就为寻找随机变量的期望值提供了一条实际可行的途径。 实例: 考察射击命中点与靶心距离的偏差. 这种偏差是大量微小的偶然因素造成的微小误差的总和, 这些因素包括: 瞄准误差、测量误差、子弹制造过程方面 (如外形、重量等) 的误差以及射击时武器的振动、气象因素(如风速、风向、能见度、温度等) 的作用, 所有这些不同因素所引起的微小误差是相互独立的, 并且它们中每一个对总和产生的影响不大. 问题: 某个随机变量是由大量相互独立且均匀小的随机变量相加而成的, 研究其概率分布情况. 下面将要介绍的中心极限定理从理论上阐明了这 样的随机变量总是近似地服从正态分布的。 定理5（独立同分布的林德贝尔格-勒维(Lindeberg－Levy)中心极限定理）设 是相互独立，且服从同一分布的随机变量序列，并具有数学期望和方差： 则对任意的x有 证明（略） 两点说明： （2.1） 1°无论随机变量 服从同一分布的情况如何，只要{ i}满足定理的条件，则随机变量序列 当n无限增大时，总以标准正态分布为