第五章大数定律及中心极限定理.pptVIP

概率论与数理统计 第五章大数定律及中心极限定理 §1 大数定律 在第一章提到过事件发生的频率具有稳定性, 即随着试验次数的增加, 事件发生的频率逐渐稳定于某个常数. 在实践中人们还认识到大量测量值的算术平均值也具有稳定性. 这种稳定性就是本节要讨论的大数定律的客观背景. 定理一(契比雪夫定理的特殊情况) 设随机变量X1,X2,...,Xn,...相互独立, 且具有相同的数学期望和方差: E(Xk)=m, D(Xk)=s2(k=1,2,...), 作前n个随机变量的算术平均 则对于任意正数e, 有 证 由于 由契比雪夫不等式可得 在上式中令n??, 并注意到概率不能大于1, 即得 E(X1)=E(X2)=...=E(Xn)=m. 这种接近是概率意义下的接近. 通俗地说, 在定理的条件下, n个随机变量的算术平均, 当n无限增加时将几乎变成一个常数. 设Y1,Y2,...,Yn,...是一个随机变量序列, a是一个常数. 若对于任意正数e, 有 则称序列Y1,Y2,...,Yn,...依概率收敛于a. 记为 依概率收敛的序列还有以下性质. 证, 由g(x,y)在(a,b)的连续性可知, 任给e0, 必存在d0, 使当|x-a|+|y-b|d时|g(x,y)-g(a,b)|e, 于是 {|g(Xn,Yn)-g(a,b)|?e}?{|Xn-a|+|Yn-b|?d} ?{|Xn-a|?d/2}?{|Yn-b|?d/2}, {|g(Xn,Yn)-g(a,b)|?e}?{|Xn-a|+|Yn-b|?d} ?{|Xn-a|?d/2}?{|Yn-b|?d/2},因此P{|g(Xn,Yn)-g(a,b)|?e}? P{|Xn-a|?d/2}+P{|Yn-b|?d/2} ?0, 当n??亦即 这样, 上述定理一又可叙述为: 定理二(伯努利大数定理) 设nA是n次独立重复试验中事件A发生的次数. p是事件A在每次试验中发生的概率, 则对于任意正数e0, 有 或 证 因为nA~b(n,p), 由第四章§2例6, 有 nA=X1+X2+...+Xn,其中, X1,X2,...,Xn相互独立, 且都服从以p为参数的(0-1)分布. 因而E(Xk)=p, D(Xk)=p(1-p) (k=1,2,...,n), 由(1.1)式即得 率收敛于事件的概率p. 这个定理以严格的数学形式表达了频率的稳定性. 就是说n很大时, 事件发生的频率与概率有较大偏差的可能性很小. 由实际推断原理, 在实际应用中, 当试验次数很大时, 便可以用事件发生的频率来代替事件的概率. 定理一中要求随机变量X1,X2,...的方差存在. 但这些随机变量服从相同分布的场合, 并不需要这一要求, 我们有以下的定理. §2 中心极限定理 在客观实际中有许多随机变量, 它们是由大量的相互独立的随机因素的综合影响所形成的. 而其中每一个别因素在总的影响中所起的作用都是微小的. 这种随机变量往往近似地服从正态分布. 这种现象就是中心极限定理的客观背景. 二项分布的随机变量可看作许多相互独立的0-1分布的随机变量之和, 下面是当x~B(20,0.5)时, x的概率分布图 普阿松分布相当于二项分布中p很小n很大的分布, 因此, 参数l=np当很大时也相当于n特别大, 这个时候普阿松分布也近似服从正态分布, 下面是l=30时的普阿松概率分布图. 在c2(n)分布中, 如果自由度n很大, 也可以认为是多个自由度为1的相互独立的c2(1)分布的随机变量的和, 因此也近似服从正态分布. 下面是c2(60)的概率密度曲线. 定理四(独立同分布的中心极限定理) 设随机变量X1,X2,...,Xn,...相互独立, 服从同一分布, 且具有数学期望和方差E(Xk)=m, D(Xk)=s2, (k=1,2,...). 则随机变量之和X1+X2+...+Xn的标准化变量设为Yn:(近似服从标准正态分布) Yn的分布函数Fn(x)对于任意x满足 证明略. 此定理说明, 均值为m, 方差为s2的独立同分布的n个随机变量(n超过10或者20以上) X1,X2,...,Xn之和X1+X2+...+Xn近似服从正态分布N(nm, ns2). 或者将其标准化有 这样就可以用正态分布对X1+X2+...+Xn作理论分析或作概率计算, 好处是明显的. 将(2.2)式左端改写成 这是独立同分布中心极限定理结果的另一个形式. 这就是说, 均值为m, 方差为s20的独立同分布的随机变量X1,X2,...,Xn的算术平均 m, 方差为s2/n的正态分布. 这一结果是数理统计中大样本统计推断的基础. 定理五(李雅普诺夫定理) 设随机变量X1 ,X2, ...,Xn,..., 相互独立, 它们具有数学期