李贤平-概率论基础-Chap5.ppt

作为切比雪夫大数定律的特殊情况，有下面的推论. 推论1 (独立同分布下的大数定律） 设 ?1, ?2, …是独立同分布的随机变量序列，且E?i = , D?i = , i =1,2,…, 则对任给 0, 如果在一个独立试验序列中，事件 在第 次试验中出现的概率等于 ，以 记在前n次试验中事件A 出现的次数，则对任意 ，都有 证明：定义 为第k次试验中事件A出现的次数，则 再利用切比雪夫大数定律立刻推出结论。 推论2 (泊松大数定律） 明显，当 泊松大数定律即为伯努利大数定律. 马尔可夫注意到在切比雪夫的论证中，只要 则大数定律就能成立，通常称这个条件为马尔可夫条件，这样我们也就得到了下面的马尔可夫大数定律。 则对任意的 ，皆有 定理 (马尔可夫大数定律) 切比雪夫大数定律显然可由马尔可夫大数定律推出;更重要的是马尔可夫大数定律已经没有任何关于独立性的假定。 对于随机变量列 如果成立 四、Khintchin大数定律 我们前面已经通过切比雪夫不等式建立起多种大数 定律，在那里都假定了方差的存在性，但是在独立同分 布场合，并不需要有这个要求，这就是有名的辛钦大数 定律告诉我们的。 定理 (辛钦大数定律) 设 是相互独立的随机变量序列,它们服从相同的分布,且具有有限的数学期望 ，则对任意的 ，有 即 证明：由于 具有相同分布，故有相同的特 征函数，设为 f (t) ，因为数学期望存在，故 f (t) 可展开成： 而 的特征函数为 对于固定的 t, 极限函数 是连续函数，它是退化分布 所对应的特 征函数。由逆极限定理，有 最后由依分布收敛和依概率收敛的关系定理知： 依概率收敛于常数 a , 从而证明了定理。 利用对随机变量“截尾”的技巧，Kolmogrov 在Khintchine 大数定律的条件下，把结论加强为强收敛；即独立同分布时只要期望存在，序列部分和的算术平均几乎处处收敛。 定理 (Kolmogrov大数定律) 设 是独立同分布(i.i.d)的随机变量序列, 则 当且仅当数学期望 Eξi 存在，且 Khintchin大数定理 Bernoulli大数定理 寻找随机事件概率提供了一条实际可行的途径 为寻找随机变量的期望值提供了一条实际可行的途径 小结： 大数定律的意义 五、大数定律的应用 例1 (用蒙特卡洛方法计算定积分) 为计算积分 可以通过下面的概率方法实现。 任取一列相互独立的，都具有 中均匀分布的随机变量 ， 则 也是一列相互独立同分布的随机变量，而 且 既然 因此只要能求得 ，便能得到 的数值。 为求 ，自然想到大数定律，因为 这样一来，只要能生成随机变量序列 就能对前面的积分进行数值计算。 而生成 的关键是生成相互独立同分布的 ，这里的 服从 上的均匀分布。 这种通过概率论的想法构造模型从而实现数值计算的方法，随着电子计算机的发展，已形成一种新的计算方法------概率计算方法，亦称蒙特卡洛(Monte Carlo)方法。它在原子物理、公用事业理论中发挥了不少作用，这个方法的理论根据之一就是大数定律。 至于计算积分，蒙特卡洛方法的实用场合是计算重积分 其中P是 m维空间中的点。 现在已经可以把上述想法变成现实。这就是在电子计算机上产生服从均匀分布 的随机数 。 强大数律保证了这种算法失效的概率为0. 一、中心极限定律的客观背景 在实际问题中许多随机变量是由相互独立随机因素的综 合（或和)影响所形 成。例如：炮弹射 击的落点与目标的 偏差，就受着许多 随机因素（如瞄准， 空气阻力，炮弹或 炮身结构等）综合影响的。每个随机因素的对弹着点（随机 变量和）所起的作用都是很小的。那么弹着点服从怎样分布 呢 ？ §5.3 中心极限定理(The central limit theory) 定理 (Lindeberg-Levy中心极限定理) 即: 一个由许多独立