第六章 大数定理和中心极限定理.docVIP

第六章 大数定律和中心极限定理 研究随机变量序列的各种极限(或收敛性)的理论.我们知道,概率论是研究随机现象统计规律的学科,然而随机现象统计规律性只有在相同条件下进行大量重复的试验或观察才能显现出来,这就要用到极限去刻划.随机现象在大量重复试验中呈现明显的规律性,这只是一个信念,其确切含义和理论根据是什么？现在就来解决这些问题. 极限定理是概率论中最重要的理论.它在概率论与数理统计的理论研究与应用中起着十分重要的作用. 契比雪夫不等式 这里介绍一个重要的不等式--契比雪夫不等式,它是大数定律和中心极限定理的理论基础. 定理 设随机变量存在数学期望和方差,则对任意正数, 成立 , 此式称为契比雪夫不等式. 或等价地 . 证明 (1)当为离散型随机变量, 分布律为 , 则有 ; (2)当为连续型随机变量, 概率密度为, 则有 . 例 , 从上述证明方法中,还可以看出(类似可证),成立 , ;, ; 等形式的不等式. (车贝谢夫,车贝晓夫,切比雪夫) 例 设随机序列和随机变量，如果， 则对任意, 有 。 证明 因为 对任意，成立， 利用条件， 即得成立。 定理 设随机变量的数学期望和方差均存在,且, 则有 . 证明 由车比谢夫不等式 , 得, , ,, 又, , 于是, 即. ( , , ). 大数定律 在第一章中我们指出,随机事件的频率,当时, 具有某种稳定性和统计概率的定义5.它们的真正含义,在当时无法说清楚,现在就来说清楚这个问题.对于这一点, 大数定理将给于理论上的依据.下面只介绍大数定理的最基本情形. 定理一(契比雪夫大数定律) 设是相互独立的随机变量序列,每一个都有有限的方差,且有公共的上界,即 , 则对任意,成立 , . 证明 令 由数学期望的性质,有 , 因相互独立, 由方差的性质,得到 , , 利用契比雪夫不等式,可得 , 在上式中,令,即得 . 定义 依次序列出的随机变量： 简记为,简称随机(变量)序列. 定义 对于随机(变量)序列和随机变量(或常数),若对任意,有 (或) 则称随机(变量)序列依概率收敛于(或常数). (等价于) 简记为 (或) 推论 (辛钦大数定律)若随机变量序列独立同分布,且存在有限的数学期望和方差 , 则对任意,有 , 其中 . 证明 由数学期望和方差的性质及条件,有 , , 对任意,有 , 于是成立 , 即依概率收敛于常数. 这个结论将在第八章中用到,是用样本均值作为总体均值的点估计的理论依据. 定理二(贝努里大数定律 ) 设是次独立重复试验中事件发生的次数,是事件在每次试验中发生的概率, 则对任意,成立 . 证明 引人随机变量 , 则次试验中事件发生的次数 , 由于是独立试验,所以相互独立,且都服从相同的(0—1)分布,即 于是 , 利用契比雪夫大数定律的推论,得 贝努里大数定律表明:事件发生的频率依概率收敛于事件发生的概率.这正是用频率作为概率的估计值的理论依据.在实际应用中,通常做多次试验,获得某事件发生的频率,作为该事件发生的概率的估计值. 中心极限定理 在对大量随机现象的研究中发现,如果一个量是由大量相互独立的随机因素所造成,而每一个别因素在总影响中所起的作用较小,那么这种量通常都服从或近似服从正态分布.例如测量误差、炮弹的弹着点、人体体重等都服从正态分布,这种现象就是中心极限定理的客观背景. 设随机变量独立同分布,且, 记,, 称为的标准化, 则有 对任意实数,有 . 一般地，有下述结果。 定理三(同分布的中心极限定理) 设随机变量独立同分布,且存在有限的数学期望和方差 , 记,, 称为的标准化, 则对任意实数,有 . 定理表明,当充分大时,随机变量近似地服从标准正态分布.因此,近似地服从正态分布.由此可见,正态分布在概率论中占有重要的地位. 定理四(De Moivre-Laplace定理) 设是次独立重复试验中事件发生的次数,是事件在每次试验中发生的概率, 则对任意区间,成立 证明 引人随机变量 , 则次试验中事件发生的次数 , 由于是独立试验,所以相互独立,且都服从相同的(0—1)分布,即 于是 , 由定理三,即得 , 于是对任意区间,有 . 近似计算公式: ， . 例1 某计算机系统有120个终端,每个终端有5%的时间在使用,若各终端使用与否是相互独立的,试求有10个以上的终端在使用的概率. 解 以表示使用终端