模式识别-聚类分析v1.0.ppt

第二章 聚类分析;分类与聚类的区别;2.1聚类分析的概念;特征的类型;方法的有效性;主要聚类分析技术;2.2模式相似度度量;;;;;2.3类的定义和与类间距离;非监督学习方法分类;两类间的距离; 2、最长距离 ：两类中相距最远的两个样本间的距离。 3、中间距离：最短距离和最长距离都有片面性，因此有时用中间距离。设ω1类和ω23类间的最短距离为d12，最长距离为d13，ω 23类的长度为d23，则中间距离为： 上式推广为一般情况：;4、重心距离：均值间的距离 5、类平均距离：两类中各个元素两两之间的距离平方相加后取平均值 ;6、 离差平方和： 设N个样品原分q类，则定义第i类的离差平方和为： 离差平方和增量：设样本已分成ωp,ωq两类，若把ωp,ωq合为ωr类，则定义离差平方：;熄窄杜朴滁继月耙米刹侣牡丘断啡戈妆吾文夕耀政蹄搏锦涅链惺其趴功具模式识别-聚类分析v1.0模式识别-聚类分析v1.0;聚类准则;聚类分析三要素;2.4 聚类的算法;§系统聚类的算法;;3、求最小元素： 4、把ω1,ω3合并ω7=(1,3) ω4,ω6合并ω8=(4,6) 5、作距离矩阵D(1);6、若合并的类数没有达到要求，转3。否则停止。 3、求最小元素： 4、ω8,ω5,ω2合并, ω9=（2,5,4,6） ;§ 分解聚类;分解聚类框图：;对分算法：略 例：已知21个样本，每个样本取二个特征，原始资料矩阵如下表： ;∴目标函数; 2、分别计算当 划入; 然后再把 划入 时对应的E值，找出一个最大的E值。 把 划为 的E值最大。 ∴ ; 次数 E值 1 56.6 2 79.16 3 90.90 4 102.61 5 120.11 6 137.15 7 154.10 8 176.15 9 195.26 10 213.07 11 212.01; 第10次迭代 划入 时，E最大。于是分成以下两类： ∴ ;喷傈壳镇苯翻衔戳异厢镀殿丛卯波砒熄背甫斌虞胯滇笑吠枉斋船蓉绎贞消模式识别-聚类分析v1.0模式识别-聚类分析v1.0;§ 动态聚类——兼顾系统聚类和分解聚类;选代表点;准则函数; 二、代表点的选取方法：代表点就是初始分类的聚类中心数k ① 凭经验选代表点，根据问题的性质、数据分布，从直观上看来较合理的代表点k; ②将全部样本随机分成k类，计算每类重心，把这些重心作为每类的代表点; ;③ 按密度大小选代表点： 以每个样本作为球心，以d为半径做球形;落在球内的样本数称为该点的密度，并按密度大小排序。首先选密度最大的作为第一个代表点，即第一个聚类中心。再考虑第二大密度点，若第二大密度点距第一代表点的距离大于d1（人为规定的正数）则把第二大密度点作为第二代表点，，否则不能作为代表点，这样按密度大小考察下去，所选代表点间的距离都大于d1。d1太小，代表点太多，d1太大，代表点太小，一般选d