大数定律中心极限定理51切比雪夫不等式引理1设随机变量X的数学.PPT

* * 第五章 大数定律和中心极限定理 §5.1 切比雪夫不等式 §5.2 大数定律 §5.3 中心极限定理 概率论与数理统计是研究随机现象统计规律性的学科。随机现象的规律性只有在相同的条件下进行大量重复试验时才会呈现出来，也就是说，要从随机现象中去寻求必然的法则，应该研究大量的随机现象。 研究大量的随机现象时，常常采用极限形式。例如第一章中曾指出频率是概率的反映,随着观察次数的增大，频率将会逐渐稳定于概率。这里的“稳定”是指试验的次数无限增大时, 频率值在某种收敛意义下逼近某一常数。此类极限形式导致了对极限定理进行研究。 本章要解决的问题 为何能以某事件发生的频率 作为该事件的 概率的估计？ 为何能以样本均值作为总体 期望的估计？ 为何正态分布在概率论中占 有极其重要的地位？ 大样本统计推断的理论基础 是什么？ 大数 定律 中心极 限定理 §5.1 切比雪夫不等式 引理1 设随机变量X的数学期望E(X)与方差 D(X)均存在，则对于任意实数 ? 0，有下述不等式成立 或 切比雪夫不等式示意图 E(X) E(X) +e E(X) -e F(x) x ?D(X)/e2 例1 已知E(X)=100, D(X)=30，试估计随机变量X 落在(70,130)内的概率。 解: P{70X130} =P{|X?100|30} 由切比雪夫不等式可得 ?0.967 契比雪夫不等式给出了在随机变量X的分布未知的情况下，事件{ | X?? |? } 或 { | X?? |≥? }的概率的一种估计方法 §5.2 大数定律 概率论中用来阐明大量随机现象的平均结果具有稳定性的一系列定理统称为大数定律。 一般地，不仅随机事件的频率具有稳定性，很多一般的平均结果也都具有稳定性，即无论个别随机现象的结果以及它们在进行过程中的个别特性如何，大量随机现象的平均结果实际上与各个个别随机现象的特征无关，也几乎不再是随机的了。大数定律即是研究这些事实的理论依据。 大量抛掷硬币 正面出现频率 贝努里（Bernoulli）大数定律 定理1 设 nA 是 n 重贝努里试验中事件 A 发生 的次数, p 是事件 A在每次试验中发生的概率， 则对于任意的? 0，有 或 引入随机变量序列{Xk} 由题设X1,X2,?,Xn相互独立 证明： 故n?+?时，结论成立。 由切比雪夫不等式 贝努里（Bernoulli）大数定律的意义 “ 稳定于”事件 A 在一次试验中发生的概率是指： 在概率的统计定义中，事件 A 发生的频率 频率 与 p 有较大偏差 是小概率事件 因而在试验次数 n 足够大时，可用事件发生的频率近似代替事件发生的概率 ，即此类定律说明了大次数的重复试验所呈现的客观规律。同时，频率的这种稳定性也称为依概率稳定。 切比雪夫（Chebyshev）大数定律 定理2 设X1, X2, ... , Xn,...是相互独立的随机变量，且分别具有数学期望E(Xk)和方差D(Xk),（k=1,2,...)。若方差有界，即存在常数C，使得 D(Xk)?C，则对于任意的?0，恒有 切比雪夫大数定律是贝努里大数定律的推广，而贝努里大数定律是切比雪夫大数定律的一个特例。 证明：对于随机变量序列 {Xk} 记 根据切比雪夫不等式可知 n?? 1 由方差和期望的性质可得 均服从同一分布，并且有相同的数学期望? 和方差?2，则对于任意的?0，恒有 或 是相互独立的随机变量， 推论 设 当 n 足够大时，算术平均值几乎是一常数。 具有相同数学期望和方差的独立随机变量序列的算术平均值依概率收敛于数学期望。 算术 均值 数学 期望 近似代替 可被 切比雪夫（Chebyshev）大数定律的意义 辛钦（ХИНЧИН）大数定律 定理3 设随机变量 相互独立， 均服从同一分布，且具有相同的数学期望 E(X k) = ? , k= 1,2,…, 则对任意的 ? 0，均有 §5.3 中心极限定理 在实际问题中，常常需要考虑许多随机因素所产生的总影响。 观察表明，如果一个量是由大量相互独立的随机因素的影响所造成，而每一个随机因素在总影响中所起的作用不大，那么这种量一般都服从或近似服从正态分布。 研究“在一定条件下，大量独立随机变量和的分布是以正态分布为极限分布”的定理统称为中心极限定理。 独立同分布的中心极限定理 的分布函数Fn(x)收敛到标准正态分布函数，即 定理4 设随机变量X1, X2, …, Xn, …相互独立, 服从同一分布,且具有有限的数学期望和方差, E(Xk)=? , D(Xk)=?20 (k=1,2,…) 则随机变量