实验二Fisher线性判别分类器.pdfVIP

实验二Fisher线性判别分类器

本实验旨在让同学进一步了解分类器的设计概念，理解并掌握用Fisher准则函数确定

线性决策面方法的原理及方法，并用于实际的数据分类。

一、实验原理

线性判别函数的一般形式可表示成

g(X)WTXw0其中

xw



11



xw

22

XW







xw

dd



根据Fisher选择投影方向W的原则，即使原样本向量在该方向上的投影能兼顾类间分

布尽可能分开，类内样本投影尽可能密集的要求，用以评价投影方向W的函数为：

2

(mm)

JF(W)12

22



SS

12

W*S1(mm)

W12

上面的公式是使用Fisher准则求最佳法线向量的解，该式比较重要。另外，该式这种

1

形式的运算，我们称为线性变换，其中mm是一个向量，是的逆矩阵，如mm

SS

12WW12

1*

W

是d维，和都是d×d维，得到的也是一个d维的向量。

SS

WW

*

W

向量就是使Fisher准则函数JF(W)达极大值的解，也就是按Fisher准则将d维X

*

W

空间投影到一维Y空间的最佳投影方向，该向量的各分量值是对原d维特征向量求加权

和的权值。

以上讨论了线性判别函数加权向量W的确定方法，并讨论了使Fisher准则函数极大的

d维向量W*的计算方法，但是判别函数中的另一项尚未确定，一般可采