模式特征的提取与选择.ppt

模式特征的提取与选择6特征选择中的直接挑选法次优有哪些信誉好的足球投注网站法单独最优的特征选择法计算各特征单独使用时的判据值并以递减排序,从而选取前d个分类效果最好的特征即可.即使各特征是统计独立的,该法选出的特征也不一定是最优的特征组合.第30页,共34页，星期六，2024年，5月模式特征的提取与选择6特征选择中的直接挑选法次优有哪些信誉好的足球投注网站法增添特征法(顺序前进法SFS)是一种最简单的自下而上的有哪些信誉好的足球投注网站方法,每次从未选入的特征中选择一个特征,使它与已选入的特征组合在一起时J最大,直到选入特征数目达到指定的维数为止.一般好于单独最优选择法,主要缺点是某特征一旦选入,就无法删除.该法可推广.第31页,共34页，星期六，2024年，5月模式特征的提取与选择6特征选择中的直接挑选法次优有哪些信誉好的足球投注网站法剔减特征法(顺序后退法SBS)是一种最简单的自上而下的有哪些信誉好的足球投注网站方法,从全部特征开始每次剔除一个特征,所剔除的特征应使尚保留的特征组合的J最大.计算量大于增添特征法,可推广.第32页,共34页，星期六，2024年，5月模式特征的提取与选择6特征选择中的直接挑选法次优有哪些信誉好的足球投注网站法增减法(l-r法)为克服SFS和SBS中某特征一旦选入或剔除就不能再考虑的缺点,可在选择过程中加入局部回溯,例如在第k步可先用SFS对已选入的k个特征再一个一个地加入新特征到k+l,然后用SBS一个个地剔除r个.可推广.第33页,共34页，星期六，2024年，5月模式特征的提取与选择6特征选择中的直接挑选法最优有哪些信誉好的足球投注网站法分支定界法(BAB算法)原理第34页,共34页，星期六，2024年，5月模式特征的提取与选择在一个较完善的模式识别系统中，或者明显地或者隐含地要有特征提取与选择技术环节，通常其处于对象特征数据采集和分类识别两个环节之间，特征提取与选择方法（或质量）的优劣极大地影响着分类器的设计和性能，它是模式识别的核心问题之一。第2页,共34页，星期六，2024年，5月模式特征的提取与选择1概述在实际问题中，常常不容易找到那些最重要的特征，或受条件限制不能对它们进行测量，这就使特征选择和提取的任务复杂化而成为构造模式识别系统最困难的任务之一。特征提取和选择的基本任务是如何从许多特征中找出那些最易得且有效的特征,从而实现特征空间维数的压缩.第3页,共34页，星期六，2024年，5月模式特征的提取与选择1概述虽然特征的提取和选择在模式识别中占有重要地位,但迄今没有一般方法,大多数的方法都是面向问题的.对于不同的模式识别问题可以有不同的特征提取和选择方法,而且即使对于同一模式识别问题往往也可能用不同方法,所以要对这些方法作一般的评价是困难的.第4页,共34页，星期六，2024年，5月模式特征的提取与选择1概述模式特征并非提取得越多越好.在实际工作中,往往会发现当特征的数目达到某个限度后,不但不能改善分类器的性能,反而会使它的工作恶化.其原因在于用以设计分类器的样本数目是有限的.为了使模式识别的结果满意,在增加特征的同时,必须增加供学习的样本数量.第5页,共34页，星期六，2024年，5月模式特征的提取与选择1概述(1)用一定数量的样本估计出来的参数设计Bayes分类器时,随着维数的增加要求样本数急剧增加,这样才能保证一定的错误率.第6页,共34页，星期六，2024年，5月模式特征的提取与选择1概述(2)在用线性判别函数来划分模式空间时,一般要用一组样本来决定划分区域的超平面.当增加维数时,样本数应有更多的增加才能保持原有的超平面容度.第7页,共34页，星期六，2024年，5月模式特征的提取与选择1概述(3)在邻近法与集群分析中,经常应用的是群内离散度矩阵Sw,为了使用行列式准则,离散度矩阵必须是非奇异的,这就要求样本数与群数之差应远大于维数.第8页,共34页，星期六，2024年，5月模式特征的提取与选择1概述几个基本概念特征形成:根据被识别的对象产生一组基本特征,它可以是计算出来的(当识别对象是波形或数字图像时),也可以是用仪表或传感器测量出来的(当识别对象是实物或某过程时),这样产生出来的特征叫做原始测量(一次测量),原始测量的直接结果或间接结果称为原始特征.第9页,共34页，星期六，2024年，5月模式特征的提取与选择1概述几个基本概念特征提取:原始特征的数量可能很大,或者说样本是处于一个高维空间中,通过映射(或变换)的方法可以用低维空间来表示样本,这个过程叫特征提取.映射后的特征叫二次特征,它们是原始特征的某种组合.变换A:Y→X称为特征提取器.第10页,共34页，星期六，2024年，5月模式特征的提取与选择1概述几个基本概念特征选择:从一