基于KL展开式的特征提取.pptVIP

第7章基于K-L展开式的特征提取7.1K-L变换的定义与性质7.2K-L变换特征提取的原理及应用7.3利用K-L变换进行人脸识别实现特征提取的途径考虑利用线性变换的方式实现降维本质上说是高维→低维的投影形式上可看是原始向量各分量的线性组合由上章内容，此处关键是选择合适的变换，使变换之后的数据保持足够的类别可分性实现特征提取的途径两类经典的处理方法多重判别分析：考虑模式类可分离性成分分析：用较少数量的特征对样本进行描述，减少或去除冗余信息（去相关、信息压缩）所谓成分分析，即有可能将认为是不重要的成分去除或用较少数据粗略表示，从而减少数据量，实现特征降维7.1K-L变换的定义与性质DKLT的性质：使变换后产生的新的分量不相关以部分新分量表示原向量均方误差最小使变换向量更趋确定、能量更趋集中离散K-L变换（DKLT），又称霍特林(Hotelling)变换或主分量分解，它是一种基于目标统计特性的最佳正交变换设n维随机向量rLxxxxn=(,,,)12T，其均值向量[]rrxEx=，相关矩阵[]RExxxrrr=T，协方差矩阵[]CExxxxxrrrrr=--()()T，rx经正交变换后产生向量rLyyyyn=(,,,)12T设有标准正交变换矩阵T，（即TT=I）其均方误差为（称为的K-L展开式）取前m项为的估计值xtyiirr=在T‘T=I的约束条件下,要使均方误差为此设定准则函数由可得即?i是的特征值，而是相应的特征向量。由表明:利用上式有:用“截断”方式产生x的估计时，使均方误差最小的正交变换矩阵是其相关矩阵Rx的前m个特征值对应的特征向量构成的。DKLT的性质变换后各特征分量不相关的自相关矩阵和协方差矩阵为变换后的向量的各分量不相关的?i=E(yi2)，或?i=E{[yi-E(yi)]2}(含义：方差)DKLT使新的分量y1和y2不相关两个新的坐标轴方向分别由和确定通过K-L变换，消除了原有向量x的各分量之间的相关性，从而有可能去掉那些带有较少信息的坐标轴以达到降低特征空间维数的目的。DKLT的性质最佳逼近性使能量向某些分量相对集中，增强随机向量总体的确定性（即得到主要成分）采用同等维数进行表示，该结果与原始数据的均方误差最小何谓主轴及主成分表示主轴特征值大方差大主成分表示与类可分性OQ例:已知两类样本（2）解：（1）（3）求R的特征值、特征向量试用K-L变换做一维特征提取。（4）选?1对应的作为变换矩阵得由得变换后的一维模式特征为**