模式识别-特征选择.ppt

提纲

n图像的特征提取

n模式类别可分性度量

n基于类可分性度量的特征提取与选择

n离散K-L变换及其在特征提取与选择中

的应用

n特征选择中的直接挑选法

特征提取与选择

一、图像的特征提取

特征提取与选择图像的特征提取

模式识别的三大核心问题:

•特征数据采集

•分类识别

•特征提取与选择

分类识别的正确率取决于对象的表示、训练学

习和分类识别算法，我们在前面的学习中详细讨论

了后两方面的内容。本章介绍的特征提取与选择问

题则是对象表示的一个关键问题。

特征提取与选择图像的特征提取

通常在得到实际对象的若干具体特征之后，

再由这些原始特征产生出对分类识别最有效、数

目最少的特征，这就是特征提取与选择的任务。

从本质上讲，我们的目的是使在最小维数特征空

间中异类模式点相距较远（类间距离较大），而

同类模式点相距较近（类内距离较小）。

图像的特征提取两个基本途径

（1）直接选择法：当实际用于分类识别的特征数目d

确定后，直接从已获得的n个原始特征中选出d个

特征x1,x2,,xd，使可分性判据J的值满足下式：

Jx1,x2,,xdmaxJxi1,xi2,,xid

式中xi1,xi2,,xid是n个原始特征中的任意d个特征，

上式表示直接寻找n维特征空间中的d维子空间。

主要方法有：分支定界法、用回归建模技术确定相关

特征等方法。(Jmax)

x(x1,x2,,xn)y(y1,y2,,yd)

dnyix1,x2,,xn

图像的特征提取两个基本途径

（2）变换法：在使判据J取最大的目标下，对n个

原始特征进行变换降维，即对原n维特征空间进

行坐标变换，然后再取子空间。

主要方法有：基于可分性判据的特征选择、基于

误判概率的特征选择、离散K-L变换法(DKLT)、基

于决策界的特征选择等方法。

(Jmax)

x(x1,x2,,xn)yh(x)(y1,y2,,yd),dn

当”模式”在空间中发生移动、旋转、缩放时，特征值应保

持不变，保证仍可得到同样的识别效果。

例：特征选择与特征提取的区别：对一个条形和圆进行识别。

解：[法1]

B①特征选择：测量三个结构特征

(a)周长

A(b)面积

(c)两个互相垂直的内径比

②分析：(c)是具有分类能力的特征，故选(c)，扔掉(a)、(b)。

——特征选择：一般根据物理特征或结构特征进行压缩。

x2

x1

x2B2

B[法2]：①特征抽取：测量

x2A2

物体向两个坐标轴的投影

x2

A值，则A、B各有2个值域区

x2B1

x2A1间。可以看出，两个物体的

x1

x1B1xxx

1A11B21A2投影有重叠，直接使用投影

值无法将两者区分开。

②分析：将坐标系按逆时针方向做一旋转变化，或物体按顺时

针方向变，并适当平移等。根据物体在x2