第三章向量范数与矩阵范数解读.pptx

1 第三章 向量范数与矩阵范数 2 内容提要 范数的引入 向量范数的类型、定义与性质 矩阵范数的类型、定义与性质 方阵的谱半径 范数及其应用 3 本讲内容 定义、常见向量范数、性质 向量范数 定义、常见矩阵范数、性质 矩阵范数 矩阵条件数 原因 范数的引入 4 向量范数与矩阵范数 引入 为了研究线性方程组近似解的误差估计和迭代法的收敛性，我们需要对Rn中向量或Rn2中矩阵的“大小”引进某种度量——范数。 5 向量范数 对于实数和复数，由于定义了它们的绝对值或模，这样我们就可以用这个度量来表示它们的大小（几何上就是长度），进而可以考察两个实数或复数的距离。 6 向量范数：向量的长度或模 向量范数：向量的长度或模 8 向量范数 定义：设函数 f : Rn ? R，若 f 满足 f(x) ? 0，? x?Rn , 等号当且仅当 x = 0 时成立 （正定性） f(?x) = |?| · f(x) ， ? x?Rn , ? ??R （齐次性） f(x+y) ? f(x) + f(y) （三角不等式） 则称 f 为 Rn 上的（向量）范数，通常记为 || · || 向量范数 9 向量范数 拓扑空间 线性空间 Hausdorff空间 赋范空间 距离空间 (度量空间) 拓扑线性空间 完备距离线性空间 距离线性空间 内积空间 Hilbert空间 Banach空间 各类空间的层次关系 11 常见向量范数 Rn 空间上常见的向量范数 例 3 设 是内积空间，则由 定义的 是 上的向量范数，称为由内积 导出的范数。这说明范数未必都可由内积导出。例如后面介绍的 和 。 向量范数 向量范数 常见向量范数：2-范数 常见向量范数：p-范数 特别地，p = 1 时，有 常见向量范数：1-范数 常见向量范数：举例 解： 常见向量范数：特殊点 在广义实数范围内，P能否取到正无穷大呢？具体而言，如何计算这种范数呢？ 也就是 常见向量范数：极大范数 常见向量范数：极大范数 这些范数在几何上如何理解呢？ 非常见向量范数 非常见向量范数：加权范数 从而有 此时 为李雅普诺夫（Lyapunov）函数，这里 是正定对称矩阵。大家已经知道，此函数是讨论线性和非线性系统稳定性的重要工具。 在现代控制理论中，称二次型函数 非常见向量范数：加权范数 例 12 （模式识别中的模式分类问题） 最简单的方法是用两向量之间的距离来表示相似度，距离越小，相似度越大。最典型的是Euclidean距离 其他距离测度还包括 以及与椭圆范数类似的Mahalanobis距离： 30 范数性质 范数的性质 (1) 连续性 定理：设 f 是 Rn 上的任一向量范数，则 f 关于 x 的每个分量连续。 (2) 等价性 定理：设 || · ||s 和 || · ||t 是 Rn 上的任意两个范数，则存在常数 c1 和 c2 ，使得对任意的 x?Rn 有 31 定理：设 || · || 是 Rn 上的任意一个向量范数，则 范数性质 (3) Cauchy-Schwarz 不等式 (4) 向量序列的收敛性 定理： 证明：略 定义：设 是 Rn 中的一个向量序列，其中 如果 ，则称 收敛到 ，记为 这个定理的结论是显然的，因为酉变换保持向量的内积不变，自然也保持了Euclid意义下的几何结构（长度、角度或范数等）不变。 范数性质 注意这个结论对无限维未必成立。另外，根据等价性，处理向量问题（例如向量序列的敛散性）时，我们可以基于一种范数来建立理论，而使用另一种范数来进行计算。 范数性质 矩阵范数 35 矩阵范数 定义：设函数 f : Rn?n ? R，若 f 满足 f(A) ? 0，? A? Rn?n , 且 f(A) = 0 ? A = 0 （正定性） f(?A) = |?| · f(A) ， ? A?Rn , ? ??R （齐次性） f(A+B) ? f(A) + f(B) （三角不等式） f(AB) ? f(A)f(B) （相容性） 则称 f 为 Rn?n 上的（矩阵）范数，通常记为 || · || 矩阵范数 36 矩阵范数 37 常见矩阵范数 常见的矩阵范数 (1) F-范数 (Frobenious 范数) (2) 算子范数 (从属范数、诱导范数) 其中 || · || 是 Rn 上的任意一个范数 矩阵不仅仅是向量，它还可以看成变换或算子。 实际中，从算子或变换的角度来定义范数更加有用。 算子范数