应用数理统计5.ppt

第二节 点估计量的优良性 定理2 设总体X的分布族为 ，且EXp存在，p是某一正整数,则样本的k阶原点矩(1?k ? p)Ak是总体k阶原点矩的相合估计. 例1 证明正态总体的样本方差是总体方差的相合估计。 均方误差准则 例6 验证当X~N(?,?2)时，样本均值是?的无偏估计，但样本均值的平方就不再是?2的无 偏估计。样本方差S2是?2的无偏估计，但S 不是?的无偏估计。 （4）一般来说，无偏估计量的函数并不是未知参数相应函数的无偏估计量。即 * 无偏性 有效性 相合性 定义1 任一估计序列， 相合估计。 可使用定义、大数定律或契比雪夫不等式。 即大样本性质，一般情形下证明估计的相合性 相合估计(Consistent Estimate) 定理1 相合估计。 且 证明 从而 这样 即就是 定义2 设 是?的估计量，如果对一切 则称 是?的渐近无偏估计量。 定理3 如果Tn是?的渐近无偏估计，且对一切 则Tn是?的相合估计. 注： （1） 这里仅介绍（弱）相合性(依概率收敛)， 还有强相合性(依概率1收敛或几乎必然收 敛)，r阶矩相合估计（特别当r=2时的均方 相合估计很有名）及更多内容，不再论述。 （2） 相合性本身不能说明估计达到某一可靠度 时，样本容量至少为多少。 （3） 对同一参数而言，满足相合性的估计也许 有多个。 （4） 在一定的条件下，可以证明矩估计，极大似然估计都是相合估计。 对于(3)，当存在多个相合估计时，关于它们的优劣往往可通过比较其渐近分布的渐近方差的大小来进行，最常用的渐近分布是正态分布。 定义3 都有 对任意实数 ， 简记为 列， (Asymptotic Normality) 渐近正态性, 渐近正态估计(Asymptotic normal Estimate) ， 的 ～ 渐近均值(Asymptotic Mean)， 渐近方差(Asymptotic Variance)。 注意1： 在一定的条件下，可以证明矩估计、极 大似然估计具有渐近正态性。 定理4 渐近正态估计一定是相合估计. 注意3： 因满 足 和 的任 意序列 也能使定义的条件成立。 这说明渐近正态性并不能确定用 近似概率 达到某精度时样本容量 必须至少是多少。 一般情形下， 可取 计优劣的一个自然准则可定义如下： 称上式为均方误差，简记为MSE。 (Mean Squared Error) 确定，即 其中 偏差。 （bias） 例1 MLE的均方误差。 果对所有 不等式 成立， 则称T比 S好， 也说S是非容许的。 (Inadmissible) 从均方误差可知，我们自然希望估计的 MSE越小越好。 对所有的 成立， 估计。 因为 倘若这样的估计 存在， 不存在。 平凡估计 (Trivial Estimate) 由此可见，均方误差一致达到最小的 最优估计并不存在，那么应如何评判和寻找 优良的估计呢？方法之一是对估计提出一些 合理性的要求，将那些诸如不合理的平凡估 计排除在外，然后在满足合理性要求的估计 类中寻找优良的估计。无偏性便是一种常用 的合理性要求。 定义1 无偏估计量(Unbiased Estimate)。 一 无偏性 例2 试讨论它们的无偏性。 解 容易验证 是无偏的。 因为 ～ 这样 的无偏估计为 然而 例3 设EX2存在，判断均值的矩估计的无偏性。 例4 设X~?(?),判断均值与方差的矩估计的 无偏性。 例5 设X~U[0, ?], 求?的矩估计和极大似然估 计， 并判断其无偏性。再进一步比较两者 均方误差的大小。 估计存在，则称q(θ)是可估的。 注意： （1） 无偏估计可能存在。如果参数q(θ)的无偏 （2） 若无特别声明，均认为 是可估参数。 对可估参数 ，无偏估计一般不唯一。 （3） 无偏估计不一定是好的估计，即它可能 是非容许的。 （5）尽管以往一般将无偏性作为估计量的绝对优良性的标准，但有时一个参数可能不存在无偏估计，或者无偏估计有明显的弊病。因此近来对有偏估计的研究也多了起来。 的有偏估计。 *