概率论与数理统计讲9.docVIP

概率论与数理统计第18讲（夜大） 第五章 参 数 估 计 第一节 点估计 参数估计问题是利用对总体的抽样得到的信息来估计总体的某些参数或者参数的某个函数，如师大学生的身高问题，可以认为服从正态分布，通过参数估计，可以得到均值和方差。 在参数估计问题中，我们总是假定总体具有已知的分布形式，未知的仅仅是一个或几个参数。而总体的真分布完全由这些参数所决定，因此通过估计参数就可以估计总体的真分布。 点估计问题的一般提法如下：设总体X的分布函数的形式为已知，是待估计参数。是X的一个样本，是相应的一个样本值。点估计问题就是要构造一个适当的统计量，用它的观察值作为未知参数的近似值。我们称为的估计量，为的估计值。在不致混淆的情况下统称估计量和估计值为估计。并都简记为。由于估计量是样本的函数，因此对于不同的样本值，的估计值一般是不相同的。 下面介绍两种常用的构造估计量的方法：矩估计法和最大似然估计法。 一、矩估计法 设X为连续型随机变量，其概率密度为，或X为离散型随机变量，其分布律为，其中为待估参数，是来自X的样本。假设总体X的前阶矩 ； 存在。一般来说，它们是的函数。基于样本矩依概率收敛于相应的总体矩，样本矩的连续函数依概率收敛于相应的总体矩的连续函数，我们就可以利用样本矩作为相应的总体矩的估计量，而以样本矩的连续函数作为相应的总体矩的连续函数的估计量。这种估计方法称为矩估计法。 其做法如下：设 这是一个包含个未知参数的联立方程组。一般来说，可以从中解出，得到 以分别代替上式中的，，就以分别作为，的估计量，这种估计量称为矩估计量。矩估计量的观察值称为矩估计值。 例1 设总体X的均值，方差都存在且未知，是来自X的一个样本，试求，的矩估计量。 解： 解得 分别以代替，得到，的矩估计量分别为 ， 结果表明，总体均值与方差的矩估计量的表达式不因不同的总体分布而不同。 二、最大似然估计法 若总体X属于离散型，其分布律的形式已知，为待估参数，是可能的取值范围。设是来自X的样本，则的联合分布律为：。又设是相应于的一个样本值。容易知道样本取到观察值的概率，即事件发生的概率为 这一概率随的取值而变化，它是的函数，称为样本的似然函数（注意这里是已知的样本值，它们都是常数）。 关于最大似然估计法，我们有以下想法：现在已经取到样本值了，这表明取到这一样本值的概率比较大。我们当然不会考虑那些不能使样本出现的作为的估计值，再者，如果已知当时使取很大值，而中其它的值使取很小值，我们自然认为取作为参数的估计值，较为合理。由费舍引进的最大似然估计法，就是固定样本观察值，在取值范围内挑选使似然函数达到最大的参数值，作为的估计值，即取使： 这样得到的与样本值有关，常记为，称为参数的最大似然估计值，而相应的统计量称为参数的最大似然估计量。 若总体X为连续型，概率密度为的形式已知，为待估参数，是的取值范围。设是来自X的样本，则的联合概率密度为： 又设是相应于的一个样本值。则随机点（）落在（）的邻域（边长分别为的维立方体）内的概率近似为：。其值随的取值而变化。与离散型情况一样，我们取的估计值使概率取到最大值，但考虑到不随而变，故只需要考虑函数：，的最大值。这里称为样本的似然函数。若： ，则称为参数的最大似然估计值，而相应的统计量为参数的最大似然估计量。 这样，确定最大似然估计量的问题就归结为求最大值的问题了。 在很多情况下，和关于可微，这时常可从方程解得。由因为与在同一处取到极值，因此，的最大似然估计也可以从方程求得，而后一方程求解往往比较方便。这个方程称为对数似然方程。 最大似然估计法也适用于分布含有多个未知参数的情况。这时，似然函数L是这些未知参数的函数。分别令，解方程组就可以得到各个未知参数的最大似然估计值。这样的方程称为对数似然方程组。 例3 为了估计湖中有多少条鱼，特从湖中捕出1000条鱼，标上记号后又放回湖中，然后在捕150条鱼，发现其中有10条鱼带有记号， 在湖中有多少条鱼，才能使150条鱼中出现10条带有记号的鱼的概率最大？ 第二节 估计量的评选标准 从前面的分析可以看出，对于同一参数，用不同的估计方法求出的估计量可能不相同，此外，原则上任何统计量都可以作为未知参数的估计量。这就产生了问题，采用什么标准来评价估计量的问题。 （1）无偏性 设是总体X的一个样本。是包含在总体X的分布中的待估计参数。 定义：无偏性。若估计量的数学期望存在，且对于任意，有，则称是