概率论与数率统计第5章.ppt

* 第5章 大数定律及中心极限定理 5.1 大数定律 5.2 中心极限定理 大数律是指随机现象在大量的重复试验或 观察下体现出来的规律，它反应了随机现象 的一个本质特征“平均结果的稳定性”。 5.1 大数定律 则称随机变量序列 Y1 ，…，Yn，…依概率 收敛到常数 a ， 记成： Yn ? a 5.1.1. 依概率收敛 假设 Y1 ，…，Yn，…是一个随机变量组成的 序列，a 是某一个常数。 如果对于任意正数 ? ＞ 0 都满足关系： lim n→∞ P ( | Yn - a | ＞ ? ) = 0 或等价的 lim n→∞ P ( | Yn - a | ≤ ? ) = 1 p 若Xn ? a p Yn ? b p g(x,y)在(a,b)连续，则 g(Xn ,Yn ) ? g(a,b) p (1) 数列 a 1 ，a 2 ，…收敛到常数 a ： 对任意固定的 ? ，当 n充分大时这个数列 从第 n 项以后都落在区间 ( a - ? , a + ? ) 中。 (2) 随机变量序列 Y1 ，Y2 ，… 依概率收敛 到常数 a ： 对任意固定的 ? ，当 n 充分大时这个序列从 第n 项以后基本只在区间( a - ? , a + ? )里取值。 依概率收敛与数列收敛的区别 5.1.2 频率的极限是概率 假设 X1，…，Xn，…是一个独立随机变量 组成的序列，具有相同的期望 ?、方差?2 ， 定义这个随机变量序列的算术平均序列： 则对于任意的正数 ? ＞ 0 都满足关系： lim n→∞ P ( | Yn - ? | ≤ ? ) = 1。 Yn = ————— X1 + … + Xn n 定理 5.1.1 (切比雪夫大数定理) 证明. 定理证明根据数学期望、方差的性质 以及切比雪夫不等式完成。 由于 X1，X2，… 是具有相同期望和方差的 独立随机变量序列，根据Yn 的定义显然： E Yn = ?, DYn = — ; 因此利用切比雪夫不等式， P ( | Yn - ? | ≤ ? ) ≥ 1 - —— ? 1 。 □ ?2 n ?2 n?2 定理 5.1.2 (伯努利大数定理) 假设随机事件A 在一次试验中发生概率是 p， 以 nA 记 n 次独立重复试验里 A 发生的次数， 则对于任意的正数 ? ＞ 0 都有： 伯努利定理说明概率可以利用频率来近似， 它是“概率的频率定义”的理论基础。 lim n→∞ P ( | — - p | ≤ ? ) = 1 nA n 证明. 伯努里定理可看成切比雪夫定理的特例。 A 发生的次数 nA 实际上服从 B(n,p) 。 根据二项分布的分解： nA = X1 + X2 + …+ Xn ， 这里每个 Xk 服从参数 p 的两点分布； 因此由切比雪夫定理得到伯努利定理成立。 □ 定理 5.1.3 (辛钦定理) 假设 X1，…，Xn，…独立同分布，具有相同的期望 ?， Yn = ————— X1 + … + Xn n 则对于任意的正数 ? ＞ 0 都满足关系： lim n→∞ P ( | Yn - ? | ≤ ? ) = 1。 不需要有方差 5.1.3 大数律的应用 1. 近似估计概率 对于任意一个随机事件 A ，独立重复进行 若干次观察或试验，根据A 在这些试验中发生 的次数和总的试验次数之比(即频率)可以近似 得到 P(A)。 试验次数越多，这种估计就越精确。 2. 随机模拟计算(Monte Carlo 方法) 随机生成 n 个服从 (a,b)上均匀分布的随机 变量 X1,…,Xn，因此 f (X1),…,f(Xn) 独立而且 具有相同的数学期望 I/(b-a)。 积分 I 可以通过它们的算术平均近似得到。 5.2 中心极限定理 中心极限定理主要研究随机现象在 什么条件下会服从正态分布。 大数律与中心极限定理讨论的都是随机 变量序列部分和的极限问