第四章(第二版).ppt

* 1) 什么是预报参数辨识方法？ 2) 预报误差法和极大似然法之间的关系? 4.5 预报误差参数辨识方法 * 对于更加一般的系统模型： 其中， 为时刻 系统输出的量测值， 表示 时刻 及以前输出的量测值， 表示 时刻及以前的系统控制向量： 为模型参数， 是均值为零，协方差为 的噪声序列 1) 什么是预报参数辨识方法？ * 对输出 最优的预报： 它使得 常用的预报误差准则： 其中 为预设的正定加权矩阵, 当 时， 将收敛于 * 2) 预报误差法和极大似然法之间的关系? 设 为正态分布的不相关噪声，构造似然函数： 如果 已知： * 根据矩阵迹的运算性质: 结论：当 已知，极大化似然函数 等价于极小化 预报误差准则 * 如果 未知： 利用矩阵迹的微分运算： * 代入 结论：当 未知，极大化似然函数 等价于极小化 预报误差准则 * 综上分析： 当 服从正态不相关随机向量时，预报误差法和极大似然法是等价的。 * 2.2 极大似然法参数辨识的统计性质 极大似然法参数辨识具有良好的统计性质： （1）渐近无偏性 极大似然参数估计值 是 的渐进无偏估计，即： （2）渐近一致性 极大似然参数估计值 几乎必然收敛于 ，即： 其中a.s.表示几乎必然（almost surely） * (3) 渐进有效性 极大似然估计与参数真值 之间的偏差 的协方差阵达到了Cramer-Rao不等式的下界。 称为Fisher矩阵, 其中 2.2 极大似然法参数辨识的统计性质 * 式中 为待估参数，求 的极大似然估计。 例1 是独立同分布随机序列，已知其条件概率密度 函数为: 2.2 极大似然法参数辨识的统计性质 * 取对数 求导 2.2 极大似然法参数辨识的统计性质 * 例2. 已知独立同分布的随机过程 ，在参数 条件下随机变量 的概率密度为： 求参数 的极大似然估计并分析它的无偏性。 2.2 极大似然法参数辨识的统计性质 * ? 考虑到全概率为1，则有 上对 上式两边同时除以 ，并在积分区间 至 积分: 2.2 极大似然法参数辨识的统计性质 * 所以 只是渐近无偏估计量，而不是无偏估计量。 上式等号两边同乘以 ，并考虑 但是 2.2 极大似然法参数辨识的统计性质 * 为梯度阵， 其中， 为Hessian阵。 求偏导 1) Newton-Raphson方法基本原理 ? ? 为对称阵 * 2） Newton-Raphson法应用于极大似然估计求解 ？ * ？ 2） Newton-Raphson法应用于极大似然估计求解 略去二 阶项 * 偏导 ? 设置初始值 2） Newton-Raphson法应用于极大似然估计求解 * ① 确定初始值 先采集一批输入输出数据 、 ，用最小二乘法获得 ，对于 中的 ，可先假定初值； 2） Newton-Raphson法应用于极大似然估计求解 设定初始 和 为方便起见，通常均取零； * ，利用 和 采集一批长度为N的数据 ， ，根据下式计算新的 计算 根据下式计算 2） Newton-Raphson法应用于极大似然估计求解 计算 * 计算 梯度阵 和Hessian阵 2） Newton-Raphson法应用于极大似然估计求解 * 计算新的估值 2） Newton-Raphson法应用于极大似然估计求解 利用所计算的 和 * 取最后 个 和 值，作为下一次迭代的初值， 继续循环，直至满足停止条件。 转到 2） Newton-Raphson法应用于极大似然估计求解 * 停止迭代标准： 经过r次迭代计算后得到 该数值算法即使当系统噪声水平较高时也能获得良好的估