信号检测与估计课程教学讨论之最小二乘估计问题.docVIP

信号检测与估计课程教学讨论之最小二乘估计问题 　　摘 要 详细介绍最小二乘方法的优缺点，并提出一种鲁棒性信号参数估计方法，这有助于学生对最小二乘方法的更全面理解，同时拓展学生对信号参数估计方法学习的视野。 　　关键词 信号检测与估计；最小二乘；鲁棒性 　　中图分类号：G642.3 文献标识码：B 　　文章编号：1671-489X（2017）04-0115-03 　　Abstract This paper intends to describe the merits and demerits of least squares method in detail， and to put forward a robust signal parameter estimation method， which hopefully helps students with a 　　more thorough understanding on least squares method and broa-dening their view on signal parameter estimation study. 　　Key words signal detection and estimation； least squares； robustness 　　1 前言 　　信号的检测与估计[1-3]是信号处理的两个最基本的任务。以通信信号处理为例，在接收端对收到的受干扰的信号利用信号概率和噪声功率等信息按照一定的准则判定信号的存在，称为信号检测；在接收端利用收到的受干扰的发送信号序列尽可能精确地估计该发送信号的某些参数值（如振幅、频率、相位、时延和波形等），称为信号估计或参数估计。 　　继本科阶段的随机信号分析后，研究生阶段开设的另一门随机信号统计处理的基础课程为信号检测与估计，该课程更加系统地介绍了噪声背景中信号检测与参数估计的理论和方法。该课程有关信号参数估计的内容，主要介绍了Bayes[4]、最大似然、线性最小均方误差、最小二乘等方法。在这些方法中，最简单且最普遍采用的方法是最小二乘估计方法，它在经济、统计、工程等领域有着广泛应用。然而，最小二乘估计方法有时并非是一种最优的估计方法。另外，最小二乘也是一种非鲁棒性估计方法。最小二乘法的这些特点在信号检测与估计课程并未提及，使得学生并未全面和深入掌握最小二乘估计的理论和方法。从几届毕业论文中也可以发现，许多学生对最小二乘法存在认识上的偏差。本文旨在探讨这方面的问题，并提出一种鲁棒最小二乘估计方法。 　　2 最小二乘法 　　基于最小二乘的信号估计方法，是通过最小化误差的平方和寻找数据的最佳函数匹配，利用它可以简便地求得未知的数据，并使得这些求得的数据与实际数据之间误差的平方和为最小。以一个线性回归模型为例，说明最小二乘的信号估计的基本理论和方法。假设该线性回归模型具有如下形式： 　　其中，ui=[ui，1，ui，2，...，ui，M]T是模型或系统的输入矢量，yi是系统输出，vi是信号的噪声或测量误差，w0=[w0，1，w0，2，...，w0，M]T是信号的待估计参数。最小二乘方法利用一段时间获得的数据{yi，ui，i=1，2，...，n}构造下列代价函数： 　　并通过来获得w0的估计。 　　3 最小二乘方法与最大似然法的关系 　　针对最小二乘法，学生自然会产生一个疑问：为什么最小二乘法对误差的估计要用平方，而不是绝对值或是四次方？要回答学生这个问题，需要让学生明白最小二乘法与最大似然法的关系。简而言之，这个关系是：在高斯测量噪声的前提下，取二次方的时候，对参数的估计是当前样本下的最大似然估计，因此，估计是最优的，且估计值是无偏的。可以给出以下证明： 　　假设测量噪声是高斯的，均值为0，方差为σ2，即vi～N 　　（0，σ2）。这时，输出yi是也满足高斯分布，且均值为， 　　方差为σ2，即yi～N（，σ2），那么可以建立对数似然函数： 　　最大似然函数的方法通过解决对数似然函数L（w）的最大化问题获得w0的估?，即。根据似然函数L（w）的定义，可以获得： 　　由此可以看出，最小二乘法与最大似然法是等价的。 　　但是需要让学生明白的是，并非最小二乘估计与最大似然估计始终是等价的，如果是这样，那就没有必要给这两种等价的方法赋予不同的名称了。实际上，最小二乘法与最大似然法等价是有前提条件的，这个前提就是测量噪声应为高斯分布；否则，最小二乘法与最大似然法不等价，即等式（4）不成立，此时的最小二乘估计也不是最优的。 　　4 最小二乘方法的非鲁棒性 　　最小二乘法代价函数采用的是误差的平方，这使得它对某些异常值非常敏感，是一种非鲁棒性的估计方法。具体来说，对于脉冲