[高等教育]大数定律与中心极限定理.ppt

山东轻院皮革教研室 契比雪夫大数定律的特殊情况 §2.2 独立同分布的中心极限定理 §2.3 二项分布的正态近似 经济管理学院 经济管理学院 §1 大数定律 “概率是频率的稳定值”。前面已经提到，当随机试验的次数无限增大时，频率总在其概率附近摆动，逼近某一定值。大数定理就是从理论上说明这一结果。正态分布是概率论中的一个重要分布，它有着非常广泛的应用。中心极限定理阐明，原本不是正态分布的一般随机变量总和的分布，在一定条件下可以渐近服从正态分布。这两类定理是概率统计中的基本理论，在概率统计中具有重要地位。 大量的随机现象中平均结果的稳定性 大数定律的客观背景 大量抛掷硬币 正面出现频率 字母使用频率 生产过程中的 废品率 …… 定义:设{Xk}是随机变量序列，数学期望E(Xk)(k=1,2,...)存在，若对于任意ε 0，有 则称随机变量序列{Xn}服从大数定律。 §1.1 大数定律的定义 定理(契比雪夫(Chebyshev)大数定律):设{Xk}是两两不相关的随机变量序列,具有数学期望E(Xk)和方差D(Xk),k=1,2,...,若存在常数C,使得D(Xk) ≤C(k=1,2,…),则对于任意给定的ε0,恒有 证明 §1.2 大数定律 独立同分布（iid）大数定律:设{Xk}是独立同分布的随机变量序列,且存在有限的数学期望E(Xk)=μ和方差D(Xk)=σ2(k=1,2,…),则对于任意给定的ε0,恒有 注: 切比雪夫大数定律表明，独立随机变量序列{Xn}，如果方差有共同的上界，则 与其数学期望 偏差很小的 概率接近于1. 随机的了，取值接近于其数学期望的概率接近于1. 即当n充分大时， 差不多不再是 切比雪夫大数定律给出了 平均值稳定性的科学描述 定理(伯努里大数定律):设进行n次独立重复试验，每次试验中事件A发生的概率为p，记μn为n次试验中事件A发生的频率，则对任意的ε0,有 证明 第i次试验事件A发生 第i次试验事件A不发生 则 贝努里 由切比雪夫大数定律有 　伯努利大数定律表明，当重复试验次数n充分大时，事件A发生的频率μn与事件A的概率p有较大偏差的概率很小. 伯努利大数定律提供了通过试验来确定事件概率的方法。（理论保障） §2 中心极限定理（central limit theorem） 在一定条件下,许多随机变量的极限分布是正态分布:“若一个随机变量X可以看作许多微小而独立的随机因素作用的总后果,每一种因素的影响都很小,都有不起压倒一切的主导作用,则X一般都可以认为近似地服从正态分布。” §2.1 中心极限定理的概念 例如对某物的长度进行测量,在测量时有许多随机因素影响测量的结果。如温度和湿度等因素对测量仪器的影响,使测量产生误差X1;测量者观察时视线所产生的误差X2;测量者心理和生理上的变化产生的测量误差X3;…显然这些误差是微小的、随机的,而且相互没有影响。测量的总误差是上述各个因素产生的误差之和,即∑Xi。 观察表明，如果一个量是由大量相互独立的随机因素的影响所造成，而每一个别因素在总影响中所起的作用不大。则这种量一般都服从或近似服从正态分布。 自从高斯指出测量误差服从正态分布之后，人们发现正态分布在自然界中极为常见。 一般地,在研究许多随机因素产生的总影响时,很多可以归结为研究相互独立的随机变量之和的分布问题,而通常这种和的项数都很大.因此,需要构造一个项数越来越多的随机变量和的序列: 我们关心的是当n→∞时,随机变量和∑Xi的极限分布是什么? 由于无穷个随机变量之和可能趋于∞，因此直接研究∑Xi的极限分布不方便,故先将其标准化为: 再来研究随机变量序列{Yn}的极限分布。 定义：设{Xk}为相互独立的随机变量序列,有有限的数学期望E(Xk)=μk和方差D(Xk)=σk2,令 若对于一切实数x,有 则称随机变量序列{Xk}服从中心极限定理。 定理[林德贝尔格-勒维(Lindeberg-Levy)定理] :设{Xk}为独立同分布的随机变量序列,且具有数学期望E(Xk)=μ和方差D(Xk)=σ2 ,则随机变量 的分布函数Fn(x),对于任意x,满足 例: 将一颗骰子连掷100次，则点数之和不少于500的概率是多少？ 解:设Xk为第k 次掷出的点数,k=1,2,…,100,则X1,…,X100独立同分布。 由中心极限定理 例:一加法器同时收到20个噪声电压Vk (k=1,2,…,20),它们相互独立且都在区间[0,10]上服从均匀分布,噪声电压总和V=V1+V2+…+V20,求P{V105}的近似值。 解 易知E(Vk)=5,D(Vk)=100/12,由独立同分布的中心极限定理知 近似服从标