第八章 经典估计理论1-1.ppt

第八章 经典估计理论 本章重点： 1、Bayes估计、最大后验估计和最大似然估计三个经典估计准则的内容及应用。 2、估计量的性质:无偏性、一致性、充分性和有效性。 本章难点：运用估计准则求参数估计并分析其性质 8.1 引言 估计理论的研究内容是如何从接收信号的观测值或观测波形出发，来估计信号的未知参量或波形。(随机变量或非随机变量) 在某些通信系统中，接收机中的解调过程就是一种信号参量的估计过程。如在脉冲振幅调制中，相继发送的高频脉冲的振幅包含着有用信息，对脉冲振幅的估计就是一个解调过程。由于接收信号混杂着噪声，使得估计参量的精确度受到一定影响。 估计理论的主要任务：精确地估计信号的各种参量(如振幅、频率、时延等)。 假定接收信号的一组观测值为 记为观测矢量 x 。它具有某种已知形式的统计分布，其中含有一定数目的未知参量 。现要基于观测矢量 x ，按照某种准则来对这些未知参量 进行估计。由于x 是随机矢量，作为 x 的函数，估计量 也是随机变量。 这里产生两个问题: 一是对应某一观测矢量x ，可以提出许多个x 的函数来作为估计量，那么，如何最佳地利用x 来构成估计量？随着“最佳”准则的不同，存在着各种不同的构成估计量的方法，如Bayes估计、最大后验估计、最大似然估计等等。 二是一旦选定了最佳准则构成估计量后，如何来描述和评定估计量本身的统计性质，即估计量的评价问题。 首先讨论各种最佳准则以及构成各种统计量的相应方法，即估计量的构成问题；然后讨论估计量的统计性质，即估计量的评价问题。 8.2 Bayes估计 8.2.1 代价函数的形式 应用Bayes估计准则必须知道信号参量的先验概率密度函数 以及每一对 定义的代价函数为 。 通常将信号估计中的代价函数定义为信号参量估值 和真值 之差的某个函数。 由于 的估计值 与真值 不同，一般都要引入损失，故代价函数 为非负函数。 在很多情况下，代价函数仅取决于估计的误差 ，而且误差越大，代价越大。这种考虑在很多场合下是合理的。 常用的代价函数有绝对误差，平方误差，阱型误差和相对误差平方四种形式。即： （1）绝对误差形式 这种代价函数的代价随误差的绝对值线性变化，如图8.1（a）。 （2）平方误差形式 这种代价函数强调大误差的影响，代价随误差增加而更快增大，且由于数学处理方便，因而应用最为广泛。如图8.1（b）。 （3）阱型误差形式 特点是信号误差超过某个门限值后才付出代价，小于门限值时可以不付出代价，且付出的代价与误差大小无关， 因此代价是均匀的 (又称均匀代价函数), 如图8.1（c）。 （4）相对误差的平方形式 这种代价函数的代价正比于相对误差的平方。如图8.1（d）。 8.2.2 Bayes估计准则 设观测波形在观测时间 内可表示为 式中， 为接收信号波形，它依赖于单个待估计的未知参量 ，先验分布函数为 ； 表示信道上叠加的加性噪声； 观测值（采样值）为 ，写成矢量 。观测矢量 和未知参数矢量 的联合概率密度函数可表示为 给定观测矢量 时， 的条件概率密度函数称为后验概率密度函数，记作 。 估计参量带来的总的平均代价就是条件代价对所有观测值X求平均的结果。即 2种Bayes估计的特例 1．最小均方估计 把平方误差代价函数形式 代入式（8.7），则平均风险为 由于 得 (8.12) 由式(8.12)得出的Bayes估计量 称为最小均方误差估计量，其等效于求 的条件均值。 2．条件中位数估计 将绝对值代价函数形式 代入式(8.8)，得 对 求一阶偏导并令其为零，得 上式意味着 即估计量 是条件分布 的中位数或称后验中值，记为 ，故对于绝对误差代价函数，Bayes估计量就等于条件中位数。如果条件分布 是对称的，则 ，此时条件中位数估计与最小均方估计一致。 8.3 最大后验估计 与检测情况相似，在参量估计问题中，如果不能找到适当的代价函数，则可采用最大后验估计准则。 当无法确定代价函数时，可以使后验概率密度函数达到最大值，以此为准则来选择最佳估计量，称为最大后验估计。 其估计量就是后验概率分布的最大值。 在数学上，要求出最大后验估计量，就必须知道最大值 的位置。如果 具有连