模式识别 张学工.pdf

张学工《模式识别》教学课件 第五章 非线性分类器（Nonlinear Classifiers ） Xuegong Zhang, Tsinghua University 1 张学工《模式识别》教学课件 5.1 引言 线性判别函数：简单、实用、经济，但线性不可分时错误率可能较大 噪声影响 问题线性不可分 采用非线性分类器 问题本身 新特征 改变特征，使线性可分 非线性变换 本章介绍几种非线性分类器，包括分段线性分类器、二次判别函数、神经网络和支 持向量机等。 Xuegong Zhang, Tsinghua University 2 张学工《模式识别》教学课件 5.2 分段线性判别函数 (piecewise linear discriminant functions) 上一章的多类线性判别函数实际就是分段线 性判别函数。 思路： 如果两类可以划分为线性可分的若干子类，则 可以设计多个线性分类器，实现分段线性分类 器。 Xuegong Zhang, Tsinghua University 3 张学工《模式识别》教学课件 最简单情况： 直接依据样本到各子类中心的距离判别 更一般情况：对每个子类求一个线性判别函数。 三种设计方法： （1）若已知子类划分，则可直接用多类线性分类方法 （2）只知子类数目，不知子类划分，用下述错误修正法 l  i 1, , c  l  (k ) i ， ， i 类中有 个子类， 为子类权值。 i i l l 1,,l (a) 初始化权值， (0) ，i 1, , c ， i i Xuegong Zhang, Tsinghua University 4 张学工《模式识别》教学课件 (b) 对某个样本y k j ，找出j 类的子类中最大的判别函数 m T  l T   (k ) y max  (k ) y