第五章大数定律及中心极限定理.docVIP

大数定律及中心极限定理 §1 大数定律 在第一章我们提到过事件发生的频率具有稳定性，即随着试验次数的增加，事件发生的频率逐渐稳定于某个常数．在实践中人们还认识到大量测量值的算术平均值也具有稳定性．这种稳定性就是本节所要讨论的大数定律的客观背景． 下面介绍三个定理，它们分别反映了算术平均值及频率的稳定性． 定理一(契比雪夫定理的特殊情况) 设随机变量相互独立①，且具有相同的数学期望和方差：作前n个随机变量的算术平均 则对于任意正数，有 在证明定理之前，先来解释一下(1．1)式的意义．是一个随机事件，等式(1．1)表明，当时这个事件的概率趋于1．即对于任意正数，当n充分大时，不 ·144· 证 由于 由契比雪夫不等式可得 在上式中令n—oo，并注意到概率不能大于1，即得 定理一表明，当n很大时，随机变量的算术平均接近于数学期望这种接近是在概率意义下的接近．通俗地说，在定理的条件下，n个随机变量的算术平均，当n无限增加时将几乎变成一个常数． 设是一个随机变量序列，a是一个常数．若对于任意正数，有 则称序列依概率收敛于a．记为 依概率收敛的序列还有以下的性质． · 145· 这样，上述定理一又可叙述为： 定理一 设随机变量相互独立，且具有相同的数学期望和方差：，则 定理二(伯努利大数定理) 设是n次独立重复试验中事件A发生的次数．p是事件A在每次试验中发生的概率，则对于任意正数0，有 或 证 因为，由第四章§2例6，有 其中，相互独立，且都服从以p为参数的(0—1)分布．因而，由(1．1)式即得 ·146． 伯努利大数定理表明事件发生的频率依概率收敛于事件的概率p．这个定理以严格的数学形式表达了频率的稳定性．就是说当n很大时，事件发生的频率与概率有较大偏差的可能性很小．由实际推断原理，在实际应用中，当试验次数很大时，便可以用事件发生的频率来代替事件的概率． 定理一中要求随机变量的方差存在．但在这些随机变量服从相同分布的场合，并不需要这一要求，我们有以下的定理． 定理三(辛钦定理) 设随机变量相互独立，服从同一分布，且具有数学期望，则对于任意正数，有 证明略． 显然，伯努利大数定理是辛钦定理的特殊情况．辛钦定理在应用中是很重要的． §2 中心极限定理 在客观实际中有许多随机变量，它们是由大量的相互独立的随机因素的综合影响所形成的．而其中每一个别因素在总的影响中所起的作用都是微小的．这种随机变量往往近似地服从正态分布．这种现象就是中心极限定理的客观背景．本节只介绍三个常用的中心极限定理． 定理四(独立同分布的中心极限定理) 设随机变量相互独立，服从同一分布，且具有数学期望和方差：，则随机变量之和 ·147· 的标准化变量； 的分布函数对于任意x满足 证明略． 这就是说，均值为，方差为的独立同分布的随机变量之和的标准化变量，当n充分大时，有 在一般情况下，很难求出n个随机变量之和的分布函数，(2．2)式表明，当n充分大时，可以通过给出其近似的分布．这样，就可以利用正态分布对作理论分析或作实际计算，其好处是明显的． 将(2. 2)式左端改写成 这样，上述结果可写成：当n充分大时， .148. 这是独立同分布中心极限定理结果的另一个形式．这就是说，均值为卢，方差为的独立同分布的随机变量的算术平均，当n充分大时近似地服从均值为，方差为的正态分布．这一结果是数理统计中大样本统计推断的基础． 定理五(李雅普诺夫(Liapunov)定理) 设随机变量相互独立，它们具有数学期望和方差： 若存在正数，使得当n时， 则随机变量之和的标准化变量： 的分布函数对于任意x，满足 证明略． 定理五表明，在定理的条件下，随机变量 .149. 当n很大时，近似地服从正态分布N(o，1)．由此，当n很大时，从近似地服从正态分布．这就是说，无论各个随机变量服从什么分布，只要满足定理的条件，那么它们的和当n很大时，就近似地服从正态分布．这就是为什么正态随机变量在概率论中占有重要地位的一个基本原因．在很多问题中，所考虑的随机变量可以表示成很多个独立的随机变量之和，例如，在任一指定时刻，一个城市的耗电量是大量用户耗电量的总和；一个物理实验的测量误差是申许多观察不到的、可加的微小误差所合成的，它们往往近似地服从正态分布． 下面介绍另一个中心极限定理，它是定理四的特殊情况． 定理六(棣莫弗一拉普拉斯(DeMoiv