第5章 矩阵分解.ppt

5.2 矩阵的 QR 分解 例5.2.1 用Householder变换化向量 与e1共线 对向量 ，令 解： 从而得Householder 矩阵 （ 实际上是平面 的法向量） 使得 对向量 ，令 （ 实际上是平面 的法向量） 可得 Householder 矩阵 因此取 从而有 则 特征值问题的QR算法 QR算法是二十世纪十大算法之一，其基本 思想基于QR迭代: (1) 令 ； (2) 对 ，重复 ① 对 做QR分解： ② 令 直至 收敛。 由 知 ，因此 因此迭代序列 保持特征值不变 其中 可以证明，在一定条件下，迭代序列 收敛到上三角矩阵 T 。 这也说明QR迭代也可看成是对 作 Schur 分解。特别地，如果 是Hermite矩阵，那么上三角矩阵 变成对角矩阵。 由于计算成本的缘故，数值实现时一般先将矩阵 变换成上Hessenberg矩阵 (第一条次对角线以下均为零的矩阵)，然后再使用QR迭代。 5.3 矩阵的奇异值分解 从Beltrami (1873)和Jordan (1874)提出奇异值分解(SVD, Singular value decomposition)至今，SVD及其推广已经成为矩阵计算最有用和最有效的工具之一，在最小二乘问题、最优化、统计分析、信号与图像处理、系统理论与控制等领域被广泛使用。 一、从几何观测说起 圆 经过变换 ，变成椭圆 。圆的正交方向 变成椭圆的长、短轴方向 假定矩阵 是列满秩矩阵。 一般地， 维空间中的单位球面 经过变换 变成超椭圆 。正交方向 变成超椭圆的主半轴方向 。称 的 个主半轴的长度 为 的奇异值， 对应的单位向量 为 的左奇异向量(left singular vector)，对应的原象 为 的右奇异向量。相应的空间称为奇异空间 * 第5章 矩阵分解 5.1 矩阵的 分解 本节介绍矩阵的 分解。 分解可用于求行列式、逆矩阵、解线性方程组等。 首先回顾在线性代数中学的初等矩阵的概念。设 是 的矩阵， 是 的初等矩阵， 左乘 ，即是对 作相应的初等行变换，下面以 为例给出初等矩阵的形式。 对应的初等矩阵是 对应的初等矩阵是 对应的初等矩阵是 初等矩阵都是非奇异的，且它的逆即是它定义的初等变换的逆变换。用上面的例子说明这一点。 的逆变换为 的逆变换为 的逆变换为 若用Gauss消去法将矩阵 转化成一个阶梯形矩阵 ，相应的初等变换对应的矩阵为 ，则 例 5.1.1 例 5.1.2 定理5.1.1　设 是 的矩阵，则存在置换矩阵 使得 其中 是 单位下三角阵， 是 的阶梯形矩阵。 例 5.1.3 定理5.1.2　设 是 的对称正定矩阵，则存在 的下三角阵 使得 此分解称为矩阵 的 Cholesky 分解。 例 5.1.4 5.1.2 分解的应用 矩阵的 分解最常应用于求解线性方程组 ，首先我们作分解 ，然后求解方程组 ，求解过程分两步进行： (1) 首先解线性方程组 ，可得 (2) 接着计算原方程组的解 ， 即求解方程组 。 例 5.1.5 例 5.1.6 例 5.1.7 看到上面的例题，大家可能会产生疑问，既然矩阵的