[教学研究]第5课聚类分析.ppt

第五章 聚类分析 特征选取不同对聚类结果的影响 特征选取不同对聚类结果的影响 距离测度不同,聚类结果也不同 综上可见: From Sergios Theodoridis K. Koutroumbas, Pattern Recognition, Academic press, 1999 pp352 Figure 11.1 From Sergios Theodoridis K. Koutroumbas, Pattern Recognition, Academic press, 1999 pp352 Figure 11.1 5.2 模式相似性测度 2.相关系数 它实际上是数据中心化后的矢量夹角余弦。 5.2 模式相似性测度 3.指数相似系数 式中 为相应分量的协方差， 为矢量维数。 5·3 类的定义与类间距离 1 类的定义 定义1 设集合S中任意元素xi与yj间的距离dij有 dij ?h 其中h为给定的阀值，称S对于阀值h组成一类。 类的定义有很多种，类的划分具有人为规定性，这反 映在定义的选取及参数的选择上。一个分类结果的优劣最后只能根据实际来评价。 5·3 类的定义与类间距离 2 类间距离测度方法 ⑴ 最近距离法 ⑵ 最远距离法 ⑶ 中间距离法 ⑷ 重心距离法 ⑸ 平均距离法 ⑹ 离差平方和法 5·3 类的定义与类间距离 2 类间距离测度方法 ⑴ 最近距离法 ⑵ 最远距离法 ⑶ 中间距离法 ⑷ 重心距离法 ⑸ 平均距离法 ⑹ 离差平方和法 式中 表示 和 之间的距离。 5·3 类的定义与类间距离 2 类间距离测度方法 ⑴ 最近距离法 ⑵ 最远距离法 ⑶ 中间距离法 ⑷ 重心距离法 ⑸ 平均距离法 ⑹ 离差平方和法 式中 表示 和 之间的距离。 5·3 类的定义与类间距离 2 类间距离测度方法 ⑴ 最近距离法 ⑵ 最远距离法 ⑶ 中间距离法 ⑷ 重心距离法 ⑸ 平均距离法 ⑹ 离差平方和法 p w q w k w p q k pq D kq D kl D kp D l w 5·3 类的定义与类间距离 2 类间距离测度方法 ⑴ 最近距离法 ⑵ 最远距离法 ⑶ 中间距离法 ⑷ 重心距离法 ⑸ 平均距离法 ⑹ 离差平方和法 np,nq分别为类wp和wq的样本个数 5·3 类的定义与类间距离 2 类间距离测度方法 ⑴ 最近距离法 ⑵ 最远距离法 ⑶ 中间距离法 ⑷ 重心距离法 ⑸ 平均距离法 ⑹ 离差平方和法 5·3 类的定义与类间距离 2 类间距离测度方法 ⑴ 最近距离法 ⑵ 最远距离法 ⑶ 中间距离法 ⑷ 重心距离法 ⑸ 平均距离法 ⑹ 离差平方和法 分别为对应类的重心 类内离差平方和 递推公式为: 0 离差平方和法 0 可变法 0 可变平均法 0 0 平均距离法 0 重心距离法 0 -1/4 1/2 1/2 中间距离法 1/2 0 1/2 1/2 最远距离法 -1/2 0 1/2 1/2 最近距离法 5·3 类的定义与类间距离 3 聚类的准则函数 判别分类结果好坏的一般标准： 类内距离小，类间距离大。 某些算法需要一个能对分类过程或分类结果 的优劣进行评估的准则函数。如果聚类准则函数 选择得好，聚类质量就会高。聚类准则往往是和 类的定义有关的，是类的定义的某种体现。 聚类的准则函数 一、类内距离准则 设有待分类的模式集