概率统计第四章.ppt

第四章 大数定律与中心极限定理 大数定律 中心极限定理 切比雪夫不等式 第四章 大数定律与中心极限定理 淮阴工学院本科生课程 概率论与数理统计是研究随机现象统计规律性的学科.只有在相同的条件下进行大量重复试验时, 随机现象的规律性才会呈现出来.也就是说,要从随机现象中寻求必然的法则, 应该研究大量随机现象. 研究大量的随机现象, 极限工具无疑是最有效的方法.这导致了对极限定理的研究. 极限定理包含的内容很广泛,其中最重要的有两类: 大数定律 与 中心极限定理 §4.1 大数定律 §4.1 大数定律 大量抛掷硬币 正面出现频率 字母使用频率 生产中的废品率 n 次重复测量的结果的平均值 n 越大, 对真值 a 的偏差就越小 . 大量随机现象中平均结果的稳定性：由于大量的随机现象中, 个别随机现象所引起的偏差会相互抵消和补偿,致使大量随机现象的共同作用的总平均结果趋于稳定——大数定律的客观背景 一、预备知识 定义 设 X1,X2,… 是一随机变量序列,若存在常数 C, 使得对于任意给定的 ? 0，总有 则称随机变量序列{Xn} 依概率收敛于 C ,记作 切比雪夫不等式 设随机变量 X 有期望和方差，则 ?? 0, 或 在未知分布的情形下 估计 P(|X-EX| ? ) 由切比雪夫不等式可看出：DX 越小,则事件{|X-EX| ? }的概率越大,即随机变量X 集中在期望附近的可能性越大. 由此可体会方差的概率意义：它刻划了随机变量取值的离散程度 §4.1 大数定律 当方差已知时,切比雪夫不等式给出了随机变量X与它的期望的偏差不小于? 的概率的估计式 . 可见，对任给的分布，只要期望和方差? 2 存在，则随机变量X 取值偏离 EX 超过 3? 的概率小于 0.111 . 设 并取 ——在未知分布的情形下估计 P(|X-EX| ?) §4.1 大数定律 Chebyschev 大数定律给出了算术平均值稳定性的科学描述 二、切比雪夫大数定律 定理(Chebyschev大数定律 )： 设 Xn 是相互独立的随机变量序列, 且存在E(Xk )=mk, D(Xk )=s k2, D(Xk ) ≤C (k=1,2, ···),C与k无关，则对于任意e 0,有 特别地, 改方差的限定条件为: 设Xn 独立且有相同的期望 ? 和方差? 2 ,则 ?? 0, 有 在独立和同期望、方差的条件下, n 个随机变量的算术平均值 当 n →∞时, 以概率收敛于它的期望 ? . §4.1 大数定律 三、伯努利大数定律 定理(Bernoulli大数定律 )： 设nA是n 重伯努利试验中事件A 发生的次数, p 是事件A 在每次试验中发生的概率,则 ?? 0, 有 Bernoulli大数定律表明, 当重复试验次数 n 充分大时,事件 A 发生的频率 nA /n 与事件 A 的概率 p 有较大偏差的概率 很小.当试验次数 n →∞时, 事件 A 的频率依概率收敛于事件 A 的概率. Bernoulli大数定律提供了通过试验来确定事件概率方法的理论依据,即用频率估计概率是合理的. 第一个严格说明 频率稳定性的定律 §4.1 大数定律 四、辛钦大数定律 定理(Khinchine大数定律 )： 设随机变量序列X1, X2, … 独立且同分布,具有有限的数学期望 EXi =m, i =1,2, …，则对 ?? 0, 辛 钦 辛钦大数定律为寻找随机变量的期望值, 提供了一条实际可行的途径:若视 Xi 为重复试验中对随机变量 X 的第 i 次观察,则当 n →? 时, 对X 的 n 次观察结果的算术平均值 依概率收敛于 X 的期望值 EX = ? .这为在不知分布的情形下, 取多次重复观测的算术平均值 作为 EX 的较为精确的估计提供了理论保证. 伯努利大数律是辛钦大数律的特例 §4.1 大数定律 自从高斯指出测量误差服从正态分布之后, 人们发现正态分布在自然界中极为常见.观察表明, 如果一个量是由大量相互独立的随机因素的影响所造成,而每一个别因素在总影响中所起的作用不大. 则这种量一般都服从或近似服从正态分布. 我们就来研究独立随机变量之和的规律性问题: 在一般情况下, 我们很难求出 X1 + X2 + … + Xn 分布的确切形式,但当 n 很大时, 可以求出这个和的近似分布. 研究 n 个随机变量之和的标准化随机变量