7.1概率论与数理统计.ppt

§7.1 参数的点估计 1、矩估计法（简称“矩法”ME） 2、极大似然估计法 小 结 * * 第七章 扬州大学数学科学学院 主讲 章山林 第七章 参数估计 点估计 估计量的优劣性 正态总体参数的区间估计 例如，某一型号灯管的寿命X~E(λ) 若λ未知, 通过样本把它们估计出λ,则总体的分布亦已知了.这类问题称为参数估计问题. 样本 总体 在前面一章我们指出: 推断总体的一个基本任务是:当总体的分布类型已知时,估计分布中的未知参数. 它包括参数点估计( 估计参数等于多少)和参数 区间估计 (估计参数的取值范围) 称其为? 的一个估计量，记为 定义 设X1,… ,Xn是总体X的一个样本，其分布函数 为F(x; ? ), 其中?为未知参数, 若统计量g(X1,… ,Xn)可作为?的一个估计,则 仍以上例来说明,具体什么是参数点估计问题. 一.参数的点估计的概念 若x1，… ，xn 是样本的一个观测值， 求参数点估计量的方法有矩估计法(ME) 与极大似然估计法(MLE)。 称为参数? 的估计值。 在不致混淆的情况下统称参数的点估计量 二.参数的点估计量的方法 与参数的点估计值为参数的点 估计，记为 设总体X的分布函数为F(x,? ), ?为k维未知参数,并设随机变量X的k阶矩存在，即 存在, 其基本思想是：以样本矩代替相应的总体矩。 矩估计是1900年英国统计学家K. Pearson 提出 的一种统计方法. 上述方程组的解即为参数? 的矩估计，记为 注1.用样本矩作为总体同阶矩的估计，即 注2.约定：若 是未知参数?的矩估计，则g(?)的矩估计为g( ). 例1：设X1,… ,Xn为取自总体B(1,p),的样本，其中0p1未知，求p的矩估计。 解: ∵E(X)=p, 为参数p的矩估计. 解 例2 设总体X的概率密度为 其中? 为未知参数，且? 0，试求? 的矩估计. 的矩估计。 解: 例3：设X1,… ,Xn为取自 总体的样本，求参数 例4. 设总体X的概率密度为 解: X1,… ,Xn为样本，求参数?的矩估计。 解: 由: 似然估计得到了广泛的应用。 极大似然估计最早是由高斯1821年提出的，但 一般将之归功于英国统计学家R.A.Fisher，因 为R.A.Fisher在1922年再次提出极大似然估计， 并证明了极大似然估计的一些性质，使得极大 命中了一发，中射中的？ （1）、极大似然思想 有两个射手，一人的命中率为0.9,另一人的命 中率为0.1, 现在他们各向目标射击了一发，结果 假如甲乙两人仅对目标各射击了一次，结果甲击中，而乙未击中目标。请问谁的水平高？ 请回答。 答：甲的技术好于乙。 这虽有片面性，但显然是合理的 又如一件事件A发生的概率为0.1或0.9，仅作一次试验，结果事件A发生了，自然认为事件A发生的概率为0.9，而不是0.1。基于上述基本思想，引入极大似然估计。 一般说，事件A发生的概率与参数???有关，? 取值不同，则P(A)也不同。因而应记事件A发生的概率为P? (A).若A发生了，则认为此时的?值应是在?中使P? (A)达到最大的那一个。这就是极大似然思想. 事件发生的概率为 若总体X是离散型随机变量，其分布律 i=1, 2, … 为待估参数. 是来自总体X的样本，若 是样本的 观察值，则 1 离散型 它是 的函数，称 为样本的似然函数. 由上面的讨论，在 取值的可能范围 内，应选择使概率 达到最大的 的估计，即使 作为 这样得到的 与样本值有关， 称为参数的极大似然估计(MLE)而相应的统计量为 例6.设X1,… ,Xn为取自参数为?的泊松分布总体的样本，求?的极大似然估计 解: 令 2. 连续型 若总体X是连续型的，其概率分布密度为 根据第二章随机变量性质知，随机 变量X落在(x, x+dx)中的概率近似为 设 是来自X的样本，则 落在(x1, x1+dx1)∩…∩(xn, xn+dxn)中的概率为 称 为样本的似然函数。 与离散型的情况一样，挑选使 达到 最大的 作为 的估计值，即使 的极大似然估计(MLE). 则称 为 注1 求极大似然估计的步骤 (1) 求似然函数 (2)求对数似然函数 (3) 列似然方程, 令 若该方程有解，则其解就是 特别地，若似然函数中含有多个未知参数，则可解方程组 的极大似然估计。 解: 例7：设X1,… ,Xn为取自 总体的样本，求参数 令 为 的极大似然估计. g( ). 注2：极大似然估计具有下述性质： 若 是未知参数?的极大似然估计，g(?)是? 的严格单调函数，则g(?)的极大似然估计为 例8 设X1,… ,Xn为取自参数为?的指数分