中科大概率统计课件–7–2极大似然估计.pptVIP

极大似然估计法是参数估计的一种方法。已知某个随机样本满足某种概率分布，但是其中具体的参数不清楚，就是通过若干次试验，观察其结果，利用结果推出参数的大概值（参数估计）。它最早由高斯提出。后来为费歇在1912年的文章中重新提出，并且证明了这个方法的一些性质。极大似然估计这一名称也是费歇给的。这是一种目前仍然得到广泛应用的方法。        它是建立在极大似然原理的基础上的一个统计方法。极大似然原理的直观想法是：一个随机试验如有若干个可能的结果A，B，C，…。若在一次试验中，结果A出现，则一般认为试验条件对A出现有利，也即A出现的概率很大。换句话说：已知某个参数能使这个样本出现的概率最大，我们当然不会再去选择其他小概率的样本，所以干脆就把这个参数作为估计的真实值。  三、 极大似然法 思想方法：一次试验就出现的事件有较大的概率 例如: 有两个外形相同的箱子,都装有100个球 一箱 99个白球， 1个红球 一箱 1个白球， 99个红球 现从两箱中任取一箱，并从箱中任取一球， 结果所取得的球是白球。 答 极有可能是第一箱. 问 所取的球来自哪一箱？ 从一个例子入手来了解极大似然估计法的直观想法: 因此极大似然估计法就是要选取这样的数值 作为参数的估计值，使所选取的样本在被选 的总体中出现的可能性为最大.   极大似然估计的基本思想 设总体中含有待估参数　，它可以取很多值，我们要在　的一切可能取值之中选出一个使样本观察值出现的概率为最大的　值作为其估计，并称　为　极大似然估计 第七章 参数估计 §1 点估计 x1, x2,…, xn 设X1, X2,…, Xn为总体 X 的样本, 为总体 X 的样本值, 第七章 参数估计 极大似然法原理： 退 出 前一页 后一页 目 录 第七章 参数估计 §1 点估计 第七章 参数估计 §1 点估计 极大似然法求估计量的步骤：(一般情况下) 说明：若似然方程（组）无解，或似然函数不可导， 此法失效，改用其它方法. 退 出 前一页 后一页 目 录 第七章 参数估计 试求参数 p 的极大似然估计量. 故似然函数为 例1 §1 点估计 退 出 前一页 后一页 目 录 第七章 参数估计 -------它与矩估计量是相同的. §1 点估计 例1（续） 退 出 前一页 后一页 目 录 似然函数为： 例3 退 出 前一页 后一页 目 录 例2 第七章 参数估计 §1 点估计 例3（续） 退 出 前一页 后一页 目 录 例4 第七章 参数估计 §1 点估计 退 出 前一页 后一页 目 录 例4（续） 第七章 参数估计 §1 点估计 退 出 前一页 后一页 目 录 第七章 参数估计 X 的概率密度为： §1 点估计 例5 分析： 似然函数为 但这不能说明不存在极大似然估计量，只是不能由似然方程组求解. 显然，似然方程组无解， 退 出 前一页 后一页 目 录 第七章 参数估计 §1 点估计 解： 例5（续） 则 退 出 前一页 后一页 目 录 第七章 参数估计 §1 点估计 例5（续） 退 出 前一页 后一页 目 录 第七章 参数估计 §2 估计量的的评选标准 无偏性 有效性 一致性 退 出 前一页 后一页 目 录 第七章 参数估计 §2 估计标准 我们注意到，在上一节中对于同一个未知参 数，用不同方法可以得到不同的估计量.究竟采 用哪个为好呢？这就涉及到用什么标准来评价估 计量的问题.我们介绍三个常用的标准： 1）无偏性； 2）有效性； 3）一致性. 退 出 前一页 后一页 目 录 第七章 参数估计 §2 估计标准 一、无偏性 例1 退 出 前一页 后一页 目 录 第七章 参数估计 §2 估计标准 退 出 前一页 后一页 目 录 第七章 参数估计 §2 估计标准 例2 退 出 前一页 后一页 目 录 第七章 参数估计 §2 估计标准 例3 解： 退 出 前一页 后一页 目 录 第七章 参数估计 §2 估计标准 说明： 退 出 前一页 后一页 目 录 第七章 参数估计 §2 估计标准 二、有效性 例1 退 出 前一页 后一页 目 录 例1（续） 第七章 参数估计 §2 估计标准 退 出 前一页 后一页 目 录 第七章 参数估计 §2 估计标准 例1（续） 退 出 前一页 后一页 目 录 第七章 参数估计 §2 估计标准