系统辨识si-06.ppt

第六章 最小二乘法的修正算法 第一节 广义最小二乘法 第二节 辅助变量法 第三节 扩充最小二乘法 第四节 相关最小二乘法 第五节 多步最小二乘法 第一节 广义最小二乘法 一、原理 二、整批算法 三、递推算法 四、估计量的性质 第二节 辅助变量法 一、原理 二、W阵的构造 三、递推算法 第三节 扩充最小二乘法 一、原理 二、Φ阵的构造 三、递推算法 第四节 相关—最小二乘法 一、原理 二、应用 第五节 多步最小二乘法 一、原理 二、整批算法 三、递推算法 * 共同特点：将数学模型转换成最小二乘法所面向的ARX模型，从而利用成熟的最小二乘理论和方法来解决问题，使得参数估计量为无偏估计。 Generalized Least Squares Method，简称GLS 一、原理 根据表示定理 广义误差 白化滤波器 所有的数据都经过白化滤波器的过滤而转换成ARX模型 令 为已知时 ARARX模型 二、整批算法 C(q-1)未知时，输出量关于参数非线性。可运用迭代算法，逐次逼近模型参数真值。 AR模型 先用ARX 计算初值 （若对上一次滤波后的数据进行再一次滤波，叫做多级滤波） ⑴ 准则函数J相邻两次差， ⑵ 参数误差绝对值， ⑶ 参数误差相对值， 三、递推算法 四、估计量的性质 ⑴ 广义最小二乘法的估计量与马尔可夫估计量等价：具有一致性，有效性，无偏性。 ⑵ 由于关于参数非线性，可能存在多个局部最优解，就可能收敛不到真值。 ⑶ 收敛速度不高，可适当选取白化滤波的阶次m提高收敛速度，但没有理论方法指导。 ⑷ 如果信噪比大，可以收敛到真值；如果信噪比小，可能趋近错误值。 Instrumental Variable Method，简称IV 一、原理 广义回归模型 两边同乘W 是无偏一致估计。 二、W阵的构造 选择辅助变量的方法有很多种，现介绍辅助模型法 用LS法估计出来 当u(k)持续激励时，一般WT? 非奇异 辅助模型也有不同的选择方法，即有不同的W阵构成方法。 可以看出，LS法是IV的特例，此时 W= ? 三、递推算法 先用递推最小二乘法递推若干步（50—100步），以获得初步的参数估计值?，作为辅助变量法的递推初值。 辅助变量法没有对噪声模型进行估计。与GLS相比，精度稍差，但算法简单。 Extended Least Squares Method，简称ELS 一、原理 是有色噪声，使用LS法估计是有偏的 转换成ARX模型 ARMAX模型 ARX模型 增广最小二乘法 增广矩阵法 二、Φ阵的构造 是上一次估计值 叫做第k-1步对第k步的一步预报值 三、递推算法 Correlation and Least Squares Method，简称CLS 一、原理 该方法也叫做相关分析—最小二乘两步法。 第一步是相关分析法，求出脉冲响应函数或计算出输入信号的自相关函数RU和输入与输出的互相关函数 RUZ 第二步是基本最小二乘法，用LS拟合成参数模型。 计算误差 以下采用LS估计 抑制噪声能力大，是无偏一致估计。 二、应用 Multistage Least Squares Method，简称MLS 一、原理 多步最小二乘法所面向的模型与GLS的模型相同 因为GLS法有迭代运算，计算复杂，且有收敛性问题，所以提出MLS法。 MLS法分为三步，没有迭代运算，计算简单，每一步只采用LS法。 ARARX模型 辅助模型 二、整批算法 1．估计