第六章范数与极限研究报告.ppt

第6章 范数与极限 （ norm and limit） 理解向量范数、矩阵范数的概念; 掌握几种常用的范数； 理解范数等价的定义，了解矩阵的谱半径及其性质。了解矩阵序列与极限的概念。 了解矩阵的幂级数并掌握敛散性的基本判别方法。; 对于n 维线性空间，定义了内积以后，向量就有了长度（大小）、角度、距离等度量概念，这显然是3维现实空间中相应概念的推广。利用公理化的方法，可以进一步把向量长度的概念推广到范数。 ;§1 向量范数 ;;;几何意义:;;定理5：有限维线性空间V上的任意两个向量范数等价。;;对任意?，??V，定义?与?之间的距离为 d(?，?)=||?-?|| 称为由范数||·||决定的距离。;例（模式识别中的模式分类问题）;定义4 设{x(k)}是Cn中的向量序列，其中 x(k)=(x1(k)，x2(k)，…,xn(k))T,如果当k??时，x(k)的每一个分量xi(k)都有极限xi(i=1,2,…,n),则称向量序列{x(k)}是收敛的，并且向量x=(x1，x2，…,xn)T称为{x(k)}的极限，记为;定理3：向量序列{xk}依坐标收敛于x*的充要条件是;1. （广义）矩阵范数 定义1（广义）矩阵范数 设A∈Cm×n，定义一个实值函数||A||，若满足：;;定理1（等价性定理）：||·||? 与||·||? 是Cm?n,上的矩阵范数， 则存在仅与||·||? ，||·||?有关的正数d1 ，d2 ， 使得?A?Cm?n ，;;;;定义3：设||·||? 与||·||? 分别是Cm与Cn上的两个向量范数， 对A?Cm?n ，令;定理6：设n 阶方阵A = (aij)n?n，则;注：矩阵的m1-范数，m?-范数，F-范数不是算子范数(可由单位矩阵验证),但F-范数的优点是当A左乘或右乘酉矩阵后F-范数的值不变（酉不变性），所以F-范数也是常用的范数之一.;注2：谱范数虽然不便于计算，但它有很多好性质：;例 S={x?P2 | ||x||p=1} 在矩阵 作用下的效果分别为;注：矩阵范数和特征值有个很重要的关系 定理7 对任意的矩阵A?Cn?n，总有 ?(A)?||A|| 其中，?(A)是A的谱半径。 即A的谱半径不会超过A的任何一种范数。;计算 ， ， 和 。 解 ;补充：Hilbert空间;补充：Hilbert空间;举例;在;例3 在;是内积空间U中的标准正交基 ;;3.最佳逼近定理 设 是U中的标准正交基， x?U， 则对于任意 ???组数， 恒有 （***）;该定理说明：U中的任意元x，当用;标准正交基的完全性及完备性;;定理2 H空间中任意两个完全标准正交基;;;; 根据模式识别理论，低维空间线性不可分的模式通过非线性映射到高维特征空间则可能实现线性可分，但是如果直接采用这种技术在高维空间进行分类或回归，则存在确定非线性映射函数的形式和参数、特征空间维数等问题，而最大的障碍则是在高维特征空间运算时存在的“维数灾难”。采用核函数技术可以有效地解决这样问题。;设x,z∈X,X属于R（n）空间,非线性函数Φ实现输入空间X到特征空间F的映射,其中F属于R（m）,nm。根据核函数技术有： K(x,z) =Φ(x),Φ(z) (1) 其中：, 为内积,K(x,z)为核函数。从式(1)可以看出，核函数将m维高维空间的内积运算转化为n维低维输入空间的核函数计算，从而巧妙地解决了在高维特征空间中计算的“维数灾难”等问题，从而为在高维特征空间解决复杂的分类或回归问题奠定了理论基础。 如何定义K(x,z)？ mercer定理：充要条件K(x,z)是对称半正定矩阵;;例1;定理1 矩阵序列 收敛于A的充分必要条件是 其中 为任意一种矩阵范数。 ; （1）一个收敛的矩阵序列的极限是唯一的。 （2）设;定义 设;例2 判断矩阵是否为收敛矩阵; 由 中的矩阵序列 构成的无穷和 称为矩阵级