第四章 大数定律和中心极限定理.docVIP

大数定律和中心极限定理 Chapter Five Large Number Law and Central Limit Theorem 内 容 提 要 本章主要讲述契比雪夫不等式，契比雪夫大数定律，贝努里大数定律和中心极限定理等内容． 重 点 分 析 了解切比雪夫不等式、切比雪夫定理和伯努利定理。 了解独立同分布的中心极限定理和棣莫佛—拉普拉斯定理。 难 点 分 析 1、切比雪夫定理。 2、独立同分布的中心极限定理。 §5.1 大数定律(Large number law) 人们在长期的实践中发现，事件发生的频率具有稳定性，也就是说随着试验次数的增多，事件发生的频率将稳定与一个确定的常数。对某个随机变量进行大量的重复观测，所得到的大批观测数据的算术平均值也具有稳定性，由于这类稳定性都是在对随机现象进行大量重复试验的条件下呈现出来的，因而反映这方面规律的定理我们就统称为大数定律。 一、 契比雪夫不等式（Chebyshev inequality） Theorem 5.1 设随机变量的均值及方差存在，则对于任意正数，有不等式 或 成立。 (If the mean and variance of the random variable are known，then for any value or 我们称该不等式为契比雪夫（Chebyshev）不等式。 Proof: （我们仅对连续性的随机变量进行证明）设为的密度函数，记， 则 从定理中看出，如果越小，那么随机变量取值于开区间中的概率就越大，这就说明方差是一个反映随机变量的概率分布对其分布中心(distribution center)的集中程度的数量指标。 利用契比雪夫不等式，我们可以在随机变量的分布未知的情况下估算事件的概率。 Example 5.1 设随机变量的数学期望，方差，估计的大小。 Solution 因而 不会小于. 二、 契比雪夫大数定律（Chebyshev Law of Large Number） Theorem 5.2 设相互独立的随机变量分别具有均值 及方差，若存在常数，使 ，则对于任意正整数，有 （Let be a sequence of independent random variables with the mean and variance，suppose there exists a constant , such that ，then for any value ， ). Proof： 由于相互独立，那么对于任意的，相互独立。于是 令 ，则由契比雪夫不等式（Chebyshev inequality）有 令， 则有 即 . Corollary 5.1 设相互独立的随机变量有相同的分布，且 ，，存在，则对于任意正整数，有. （Let be a sequence of independent and identically distributed random variables，and ，， exist ,then,for any value ，.） 定理5.2我们称之为契比雪夫大数定理（Chebyshev Law of Large Number），推论5.1是它的特殊情况，该推论表明，当很大时，事件的概率接近于1。一般地，我们称概率接近于1的事件为大概率事件(large probability event)，而称概率接近于0的事件为小概率事件(small probability event)，在一次试验中大概率事件几乎肯定要发生，而小概率事件几乎不可能发生，这一规律我们称之为实际推断原理(fact infer principle)。 三、 贝努里大数定律（Bernoulli Law of Large Number） Theorem 5.3 设是次独立重复试验中事件发生的次数，是事件在每次试验中发生的概率，则对于任意正整数，有 . （Let represents the number of events that occur in the independent trials，represents the probability of events that occur in each trials, then for any value ,.） Proof： 令，是个相互独立的随机变量，且.又 ，因而由推论5.1有 定理5.3我们称之为贝努利大数定律（Bernoulli Law of Large Number），它表明