数字信号处理第一章B解读.ppt

§1.4 参数估计理论 参数估计是利用样本数据来估计某些待定的参数，区间估计、点估计属于数理统计的一个分支。 由于存在观测误差，即使待估计量是个确定量，观测数据也是随机的。因此讨论估计问题，不仅包含估计的具体算法，还包括对估计质量的评价。 已知观测数据 用于估计 的均值、方差以及信号模型参数。 设 为真值， 为估计值，若 ,称 为估计子。 一、估计子的性能 估计子最基本的特性体现在偏移量和方差上。 偏移量 若 ，称 为无偏估计 ，称 为有偏估计 无偏估计表示估计量仅在它的真值附近摆动。 渐近无偏估计 ex. 无偏估计 有偏估计 当 ，渐近无偏估计 若两个估计量的观测次数相同，且都是无偏估计，方差更小的估计更为有效。 根据观测数据，对 采用不同的方法进行估计，分别得到 ，若二者都是无偏估计，且 ，则称 比 更有效。 一般，希望 估计的方差反映了每一次估计所得结果，相对于其期望值的平均偏离程度。 估计量的方差 若 都是对于 的估计，且 都是无偏估计，且 比 具有更小的方差，则称 优于 。 若 都是有偏估计，有效性的判定用均方误差，定义 用某一算法得到的估计值，与实际值之间的均方误差，小于用任何其他估计方法的均方误差，则称此估计为有效估计。 一致估计：对于任意的 ，观测N次所得到的估计值 满足 P表示概率， 欧几里德范数。 且 ， 等效于均方误差为零； 以概率1收敛于真值，则称 是 的弱一致估计，简称一 致估计。 若 是 的一个无偏估计或渐近无偏估计，且随着观测次数N趋于无穷大，估计的方差也趋于零，即 则称 是 的一致估计。 二、几种最优估计 根据估计误差的统计规律和被估计量与观测数据的统计特性不同，有最小二乘估计、线性最小方差估计、最小方差估计、最大后验估计以及最大似然估计。 Guass于1795年为测定行星轨道而提出的参数估计算法。 特点：算法简单，不必知道被估计量 与观测量的任何统计信息，但需要知道观测噪声的统计知识，只适用于非随机量的估计。 若 ，X为观测向量，A为系数矩阵，X、A为已知。 未知。 未知参数向量 N维“拟合误差向量” 问题：如何利用X，A来确定 。 最小二乘估计的误差：误差的平方和取最小。 对其中每一个分量求导，各分量求导后得到一个具体的数。 是否奇异，决定Q是否唯一可辨识。 1） 非奇异 2） 奇异 不是唯一可辨识的 最小二乘估计还有加权最小二乘估计，广义最小二乘估计，总体最小二乘估计等。 要求估计量是观测数据的线性函数，需要知道被估计量与观测数据的