大数定理与中心极限定理关系.docVIP

大数定律与中心极限定理的关系 延川中学 白江平 1 引 言 概率论中关于独立随机变量序列的极限理论,已相当完整,各种问题已有了令人满意的回答.但由于一般教材中,特别是工科教材,只介绍了几个最简单的基本定理.至于大数定律的几个常见定律之间有什么关系;中心极限定理的几个常见定理之间有什么关系;以及大数定律的几个常见定律与中心极限定理的几个常见定理之间又有什么关系?还未得到系统地总结.本文将对以上提出的问题进行详细的探讨,最后总结出大数定律与中心极限定理的一般关系. 2 大数定律与中心极限定理的关系 2.1 大数定律与中心极限定理的概念 大数定律: 设为随机变量序列,, 存在,记: ,若依概率收敛于零,即对于任意的,有 . 则称服从大数定律（弱大数定律）. 中心极限定理: 设为随机变量序列,,存在,记 . 若依概率收敛于标准正态分布的随机变量,即对于任意实数,有 . 则称服从中心极限定理. 了解了大数定律与中心极限定理的概念,容易产生这样的问题:大数定律与中心极限定理之间究竟有什么关系?下面将通过讨论来回答这个问题. 2.2 大数定律与中心极限定理的关系 首先给出三个定理: 定理1(格涅坚克) 设有相互独立的随机变量序列.则对0, 的充要条件是. 定理2(马尔科夫) 随机变量序列.若,则对，有 . 定理3（费勒）对相互独立随机变量序列,若常数,使,且,().则服从中心极限定理. 设为相互独立的随机变量序列.以下在中,令取不同的值,以说明不同的情形. 2.2.1 服从大数定律，但不服从中心极限定理 令=0,,,即 ,则 ,可知 . 因.由马尔科夫定理知,大数定律成立,但中心极限定理不成立.这是因为 若服从中心极限定理,则取,有 . 当充分靠近0时,.这就出现了矛盾,所以中心极限定理不成立. 2.2.2 服从中心极限定理，但不服从大数定律 取,,可知 ,又 ,即 ，得,又 . 则由费勒定理知中心极限定理成立,但不服从大数定律.这是因为 为凸函数,由琴生不等式得,而 ， 由格涅坚克定理知,不服从大数定律. 2.2.3 大数定律与中心极限定理都不服从 取,,,可知 ,当充分大时,有,即, 则,得,故 . 可知不服从中心极限定理. 又 . 由格涅坚克定理知不服从大数定律. 2.2.4 大数定律和中心极限定理都服从 若为同分布且有有限期望及大于零的方差,则由大数定律和中心极限定理的概念可知两者都服从.这时有 . 但括号中的事件概率究竟多大?大数定律未能回答.而根据中心极限定理有 ， 其中,这样看来在所假定的条件下,中心极限定理比大数定律更精确. 下面对三个常见的大数定律与三个常见的中心极限定理的关系进行探讨. 3 三个常见的大数定律与三个常见的中心极限定理的关系 定理4(切比雪夫定理) 设独立随机变量序列的数学期望与方差,都存在，并且方差是一致有上界的,即存在某一常数,使得.则对于任意的正数,有 . 定理5(辛钦大数定理) 设独立随机变量序列是独立同分布的随机变量序列,若期望存在.则对于任意的,有 成立. 定理6(伯努利定理) 在独立实验序列中,设事件的概率,则事件在 次实验中发生的频率为,当实验的次数时,按概率收敛于的概率;即对于,有 . 定理7(林德伯格定理) 设独立随机变量,满足林德伯格条件:对于任意的正数,有 , 其中是随机变量的概率密度,.则当时,有 , 其中z是任何实数. 定理8(列维定理)? 设相互独立,服从同一分布,并且具有数学期望和方差： ， 则当时,它们和的极限分布是正态分布,即 ,其中z是任意实数. 定理9(棣莫弗－拉普拉斯定理) 设在独立实验序列中,事件在各次实验中发生的概率为,随机变量表示事件在次实验中发生的次数,则有 . 下面就以上几个常见定理的关系加以说明.根据以上定理的内容,可以得到下图: （:表示A能推出B.没有线和箭头表示二者由于条件不同,无法推出）