c5 模式特征分析与选取.ppt

第五章模式特征分析与选取 第五章 模式特征分析与选取 第一节 描述模式分布状态的测度 第二节 特征提取的方法 第三节 离散K-L变换 第四节 利用K-L变换的分类特征提取 第五节 增维问题 第五章 模式特征分析与选取 模式识别建立在对模式特征量化的基础上。首先要对表征模式的各种特征加以量测或量化，得到每一模式的特征数值集合，或特征向量，然后根据不同类型模式具有不同的特征数值集合，进行自动辨别。 问题一：特征数值向量的分量个数很多（或维数很多），但是否都能有效地代表各类模式，针对不同的对象，是否都需要那么多特征来进行辨别。 结论：模式维数很高的情况下，计算量太大，且识别精度并不一定随着维数增多而提高。如陆地卫星1号有十二个波段的数据，而从识别精度来分析，三、四个波段的组合却是最好的，下图说明了有关方面的实验结果。这里有个特征挑选和优化的问题，或最佳组合的问题，也就是说需要选择最有代表性的特征。针对不同的研究对象，还需要进行不同的特征组合。 第五章 模式特征分析与选取 特征数值与识别精度的关系 第五章 模式特征分析与选取 问题二：有时特征量测值较少，模式集合处于低维空间，给自动分类带来困难。比如热红外航片数字化以后只有一维，这时需要考虑引入辅助数据，或其它影像数据以增加维数。 结论：为了提高识别精度而采取增加模式维数的方法。 综上所述，模式特征要进行特征优化、特征选取，而特征优化的前提是特征分析。本章所介绍的就是特征分析的理论。 第一节 描述模式分布状态的测度 各种模式在特征空间的分布状态是模式识别成功与否的一个重要因素。只有对这一分布状况进行分析，才能断定描述模式的特征空间是否有利于分类，才能决定哪些特征是起主导作用的，哪些特征是可以忽略，从而进行特征的选取。 一般描述模式在特征空间的分布状态有如下几种方法： 第一节 描述模式分布状态的测度 一，欧氏距离 第一节 描述模式分布状态的测度 2，类内距离： 同一类模式内所有点之间距离平方的平均值。 若同类点集为： 第一节 描述模式分布状态的测度 3，类间距离： 两类模式集合 ，各有 和 个样本，则类间距离为 第一节 描述模式分布状态的测度 二，离散度 第一节 描述模式分布状态的测度 2，离散度 第一节 描述模式分布状态的测度 离散度表示两类样本可区分程度的量度。 第一节 描述模式分布状态的测度 第一节 描述模式分布状态的测度 可见?i是样本y各本征分量的方差，即 第一节 描述模式分布状态的测度 四，熵 设某类样本x出现的概率为P（x），则用来度量类内异样性的总体熵为 第一节 描述模式分布状态的测度 第一节 描述模式分布状态的测度 第二节 特征提取的方法 在特征维数较多的情况下，选取其中有利于分类的特征，以减少特征维数，减少内存负担，加快运算速度，提高效率，是自动分类中的一个重要问题。 如何降低维数，保证有较好分类精度呢？一般要依据一些准则，这些准则是利用前节所述测度理论进行的。 第二节 特征提取的方法 一， 独立特征的选取准则 若原始的各特征量测值是统计独立的，即其相关性很小，则可利用训练样本集逐一对各特征分量进行分析，看其对于各类样本可分性的程度大小如何。 对于 和 两类n维样本，其第K维的样本均值为mik和mjk，方差为 和 。 准则函数： 第二节 特征提取的方法 二，一般情况下的特征选取准则 考虑到各特征分量之间常常存在相关性，可采用如下准则： 第二节 特征提取的方法 第二节 特征提取的方法 第二节 特征提取的方法 第二节 特征提取的方法 第二节 特征提取的方法 第二节 特征提取的方法 第二节 特征提取的方法 三，穷举法 第二节 特征提取的方法 第二节 特征提取的方法 四，最小熵法 对于M类模式，总体熵的总和为： 第二节 特征提取的方法 5，OIF（Optimum Index Factor）指标 OIF指标是ARIES一III图像处理系统中采取的一种简单易行的模式可分性测度和特征选取方法。其定义为： 第二节 特征提取的方法 从n维特征选取m维特征，删去的n-m维特征不一定就是无用的信息，如何在信息损失最小的情况下选取特征，在理论上就显得更严密些。通常采用正交变换，得到新的经变换的模式， 以保证信息损失最小情况下获得有利于分类的特征。离散K