[课件]概率与统计_7.1_参数的点估计.ppt

参数估计是对已知分布类型的总体，利用样本对其未知参数作出估计. 电子科技大学 参数估计 第七章 参 数 估 计 §7.2 估计量的优良性准则 §7.3 区间估计 §7.1 参数的点估计 参数估计 点 估 计 区间估计 矩 估 计 极大似然估计 本章参数估计有以下内容的介绍： §7.1 参数的点估计 设总体X的分布函数F(x; q )类型已知, q 是未知参数, q 的取值范围Ω称为参数空间. 点估计思想 按一定的优化原则建立一个统计量，将其统计值作为参数θ的估计值. 一、点估计 定义7.1.1（点估计）设总体X的分布函数F(x;q )中的参数q 未知, q ∈W. 由样本X1, X2, …, Xn 建立统计量T(X1,X2, …,Xn),若将其统计值 t=T(x1, x2 , … , xn) 作为θ的估计值，称 为θ的点估计量. 注 总体X的分布函数中可有多个不同未知参数. 二、矩估计法 矩是最简单的数字特征. 设总体X的k阶矩E(Xk) 存在, X1,X2, …,Xn是总体X的样本，有 另一方面,根据辛钦大数定律知 样本矩在一定程度反映了总体矩的特性. 矩估计法的思想简单直观--替换原则: * 用样本矩去替换相应的总体矩； * 用样本矩的函数替换相应的总体矩的同 一函数. 定义7.1.2 设总体X 的分布函数 F(x; q1,q2,…,ql) 中含有l 个未知参数, 假定X的l 阶原点矩存在, 记 由方程组 的矩法估计量. 注 意 样本矩是随机变量,而总体矩是数值 概率的矩估计 指数分布参数矩估计 二、极大似然估计法（M.L.E.) 问题 若随机试验有若干个可能结果: A1, A2, … ,Am，在一次试验中事件A1出现了，关于A1的概率你怎样认为？ 根据小概率事件原理, 应认为A1发生的可能性大. 不合格品率的M.L.E.估计 极大似然估计法基本思想：按照最大可能性准则进行推断. 定义7.1.3 若总体 X 的概率密度函数为f( x,q ) (q 可以是向量), X1 , X2 , ···, Xn为来自X的一个样本, n 维随机变量 ( X1 , X2 , ···, Xn ) 的联合概率密度函数记为 (对于离散型样本,其似然函数为其联合分布律). 称为参数? 的似然函数. 极大似然估计法求参数的估计值，使似然函数达到极大值 定义7.1.4 若 的极大似然估计值. 称为参数?k的极大似然估计量. 相应的估计量 注：lnx 是 x 的严格单增函数，lnL 与L有相同的极大值点，一般只需求lnL 的极大值点. 定义7.1.5 称 为似然方程组. 求极大似然估计量的一般步骤： 写出似然函数 2. 对似然函数取对数 3. 对?j (j =1,…, l)分别求偏导,建立似然方程(组) 解得 分别为 的极大估计值. 指数分布的点估计 均匀分布的极大似然估计 矩估计与似然估计不等的例 4. 写出 的极大估计量. 小 结 1. 矩法估计量与极大似然估计量不一定相同； 2. 用矩法估计参数比较简单,但有信息量损失； 3. 极大似然估计法精度较高,但运算较复杂； 4.不是所有M.L.E都需要建立似然方程求解. 解 例7.1.1. 不合格品率的矩法估计 分析 设总体X为抽一件产品的不合格产品数，相当于抽取了一组样本X1，X2，… ，Xn , 且 因 p=E(X), 故 p 的矩估计量为 设某车间生产一批产品，为估计该批产品不合格品率，抽取了n 件产品进行检查. # (即出现不合格产品的频率). 其中q＞0, m 与q 是未知参数, X1,X2, …, Xn是总体X的一组样本, 求m 与q 的矩法估计量. 解 例7.1.2 设总体X的概率密度为 由方程组 解得 另一种写法： 令 解得相同结果. # 例7.1.3 不合格品率p 的M.L.E.估计 设 总体X是抽一件产品的不合格品数，记 p= P{X=1}=P{产品不合格} 则 X 的分布律可表示为 现得到X的一组样本X1，X2，…,Xn的实际观 察值为 x1, x2, …,xn , 则事件 {X1=x1，X2=x2，…, Xn=xn} 出现的可能性应最大, 其概率为 应选取使L(p) 达到最大的值作为参数 p 的估计. 令 解得 （频率值） 注意到 # 例7.1.4 指数分布的点估计 今取得一组样本数据如下，问如何估计q ? 1100 800 210 1