无监督学习.pptx

无监督学习;基本概念;如何表示聚类？;如何计算相似度—距离函数;?;针对无序范畴属性（布尔属性和名词性属性）的距离函数 混合矩阵： 简单匹配距离： 1)对称属性：两个状态同等重要 Dist(xi,xj) = 加权： Dist(xi,xj) = 2)非对称属性：一个状态比另一个状态更重要Jaccard距离 Dist(xi,xj) = （加权） ;对于具有多个状态或值的名词性属性 简单匹配距离：设数据属性数目为r 属性值匹配数目为q Dist(xi,xj) = 对于文本文档：向量夹角余弦相似度 ;K-均值算法;收敛条件(stop criterion ) (1)没有(或最小数目)数据点被重新分配给不同的聚类 (2)没有(或最小数目)聚类中心发生变化 (3)SSE局部最小 SSE= Cj ：the jth cluster mj ：the cluster centroid of Cj ;选取k(要获得的聚类个数)个数据点作为“种子”聚类中心,记作mj（j=1，2，3······，k） 向量Sj:第j个聚类的加和 nj：第j个聚类中数据点的个数 do{ for(j=0;jk;j++){ ; nj=0 ;} for each data point x D { j = argmin dist (x,mj);//j=0,1,2,······k x - cluster j; x; nj+=1 ; } mj = Sj / nj ;(j=1,2,3·····,k) }while(the stop criterion is not met);k-均值算法的优势与劣势;层次聚类;单连结方法：两个聚类之间的距离 = 两个聚类中距离最近的两个点（来自不同聚类）之间的距离 合并具有“最短最近”距离的两个聚类 （对于数据噪音?很敏感 ） 全连结方法 :两个聚类之间的距离 = 两个聚类中距离最远的两个点（来自不同聚类）之间的距离 合并具有“最短最远”距离的两个聚类 ·平均连结方法:两个聚类之间的距离 = 两个聚类中多对数据点（来自不同聚类）之间的距离的均值 ·聚类中心方法：两个聚类之间的距离 = 两个聚类中心的距离 ·ward方法：两个聚类之间的距离 = SSE（A+B）-(SSE(A)+SSE(B)) = A、B表示两个聚类，A+B表示合并后的聚类 ;优势和劣势;选择聚类算法—聚类的评估;选择聚类算法—聚类的评估;数据标准化