第四章大数定律与中心极限定理教材.doc

第四章 大数定律与中心极限定理 一、教学要求 1. 深刻理解并掌握大数定律，能熟练应用大数定律证明题目； 2.理解随机变量序列的两种收敛性，了解特征函数的连续性定理； 3. 深刻理解与掌握中心极限定理，并要对之熟练应用。 二、重点与难点 本章的重点是讲清大数定律与中心极限定理的条件、结论，难点是随机变量序列的两种收敛及大数定律和中心极限定理的应用。 §4.1 大数定律 一、大数定律的意义 1.引入 在第一章中引入事件与概率的概念时曾经指出，尽管随机事件A在一次试验可能出现也可能不出现，但在大量的试验中则呈现出明显的统计规律性——频率的稳定性。频率是概率的反映，随着观测次数的增加，频率将会逐渐稳定到概率。这里说的“频率逐渐稳定于概率”实质上是频率依某种收敛意义趋于概率，这个稳定性就是“大数定律”研究的客观背景。 详细地说：设在一次观测中事件A发生的概率，如果观测了次（也就是一个重贝努利试验），A发生了次，则A在次观测中发生的频率为，当充分大时，频率逐渐稳定到概率。若用随机变量的语言表述，就是：设表示第次观测中事件A发生次数，即 则是个相互独立的随机变量，显然,从而有. 因此“稳定于”，又可表述为次观测结果的平均值稳定于。 现在的问题是：“稳定”的确切含义是什么？稳定于是否能写成 （1） 亦即，是否对， ? （2） 对重贝努里试验的所有样本点都成立？ 实际上，我们发现事实并非如此，比如在次观测中事件A发生次还是有可能的，此时，从而对，不论多么大，也不可能得到成立。也就是说，在个别场合下，事件（）还是有可能发生的，不过当很大时，事件（）发生的可能性很小。例如，对上面的，有 。 显然，当时， ，所以“稳定于”是意味着对，有 （3） （概率上“稳定于”还有其他提法，如波雷尔建立了，从而开创了另一形式的极限定理---强大数定律的研究） 沿用前面的记号，（3）式可写成 一般地，设是随机变量序列，为常数，如果对，有 （4） 即 则称稳定于。 概率论中，一切关于大量随机现象之平均结果稳定性的定理，统称为大数定律。 2．定义 若将（4）式中的换成常数列，即得大数定律的一般定义。 定义4.1 若是随机变量序列，如果存在常数列， 使对，有 成立，则称随机变量序列服从大数定律。 若随机变量具有数学期望，则大数定律的经典形式是： 对，有 这里常数列。 二、大数定律 本段介绍一组大数定律，设是一随机变量序列，我们总假定 存在。 定理4.1（马尔可夫大数定律）如果随机变量序列，当时，有 （*） 证明：服从大数定律。 证明 : 对，由切比雪夫不等式，有 因此 即 故服从大数定律。 ＃ 此大数定律称为马尔可夫大数定律，（*）式称为马尔可夫条件。 定理4.2（切比雪夫大数定律）设是一列独立随机变量列，若存在常数，使有 则随机变量序列服从大数定律，即对，有 证明： 因为为独立随机变量列，且由它们的方差有界即可得到 从而有 满足马尔可夫条件，因此由马尔可夫大数定律，有 ＃ 注：切比雪夫大数定律是马尔可夫大数定律的特例。 例1 设为独立同分布随机变量序列，均服从参数为的泊松分布，则由独立性及知其满足定理4.2的条件，因此有 注：此例题也可直接验证满足马尔可夫条件。 定理4.3（贝努利定理或贝努利大数定律）设是重贝努利试验中事件A出现的次数，又A在每次试验中出现的概率为，则对，有 证明：令 显然. 由定理条件，独立同分布（均服从二点分布）。 且都是常数，从而方差有界。 由切比雪夫大数定律，有 ＃ 贝努利大数定律的数学意义：贝努利大数定律阐述了频率稳定性的含义，当充分大时可以以接近的概率断言，将落在以为中心的内。贝努利大数定律为用频率估计概率（）提供了理论依据。 注1：此定理的证明也可直接验证满足马尔可夫条件。 注2：贝努利大数定律是切比雪夫大数定律的特例。它是1713年由贝努利提出的概率极限定理中的第一个大数定律。 以上大数定律的证明是以切比雪夫不等式为基础的，所以要求随机变量的方差存在，通过进一步研究，我们发现方差存在这个条件并不是必要条件。 定理4.4（辛钦大数定律）设是一列独立同分布的随机变量，且数学期望存在,则对，有 成立。 注：贝努利大数定律是辛钦大数定律的特例。 辛钦大数定律的数学意义：辛钦大数定律为实