3.1-3.2.1-估计量的性质、最小方差无偏估计.pdf

第三章第三章 估计理论估计理论 什么是“估计”？ 通俗解释通俗解释：：对事物做大致的判断对事物做大致的判断 专业解释：通过一定的技术手段获得关于被估 计事件计事件、、参数参数、、过程的相关信息过程的相关信息，，再对这些信再对这些信 息进行加工、处理获得结果的过程。 3.13.1 引言引言 根据研究对象的不同估计分为二种根据研究对象的不同估计分为二种 参量估计：被估计的对象是随机变量或非随机的未知量 波形估计波形估计：：被估计的对象是随机被估计的对象是随机过程过程或非随机的未知或非随机的未知过程过程 信号参量估计理论 与信号参量估计相关的理论 最佳估计最佳估计 一定准则下的“最好”估计 应用领域 通信系统通信系统、、雷达系统雷达系统、、语音语音、、图像处理图像处理、、自动控制自动控制 3.1.1 估计的数学模型 参量空间、观测空间、概率转换、估计准则 p (x | θ) 概概率率转转换换 估计准则 ˆ θθ((xx)) θ ZZ 参量空间 观测空间 由于估计准则的不同由于估计准则的不同，，构成估计量的方法也不同构成估计量的方法也不同，，如最小如最小 方差无偏估计、最大似然估计、最小二乘估计、贝叶斯估 计和线性最小均方误差估计等计和线性最小均方误差估计等。。 3.1.2  估计量的性质质 假设得到N个观测样本数据为： x [n ] θ+w[n ] n 0,1,…,N =−1 θθ ww[[nn]] 式中式中，， 为待估计参量为待估计参量，， 是观测噪声是观测噪声。。 估计的任务就是利用观测样本数据 x[n] 构造估计量 θ ,获 得估计量 θ后，通常需要对 θ 的质量进行评价,这就需要研 究估计量的主要性质。 估计量 θ也是一个随机变量，具有均值和方差等统计 特征，可以利用其统计特征对估计量的性质进行评价。评价 指标包括：无偏性、一致性、充分性和有效性。 3.1.2  估计量的估计量的性质质 1、无偏性 θ 非随机参量 随机参量 ˆ ˆ 无偏估计无偏估计 EE ((θθ)) θθ EE ((θθ)) EE ((θθ)) ˆ ˆ E θ θ E θ E θ 渐进无偏估计 lim ( ) lim ( ) ( ) N →∞ N →∞ 如果上式不满足，则 θ是一个有偏估计 定义 b(θ) E(θ) =−θ为估计量的偏 估计量的无偏性保证估计量分布在参量真值附近，是衡量 估计量性能优劣的重要指标。然而，一个估计量是无偏的不能 确保就是好的估计量确保就是好的估计量，，它仅能保证估值的均值近似真值它仅能保证估值的均值近似真值。。