聚类分析 北京大学【统计学】课件，王喜之教学教材.ppt

聚类分析;分类;聚类分析;饮料数据（drink.sav ）;如何度量远近？;类Gp与类Gq之间的距离Dpq(d(xi,xj)表示点xi∈ Gp和xj ∈ Gq之间的距离);Lance和Williams给出(对欧氏距离)统一递推公式: D2(k,r)=apD2(k,p)+aqD2(k,q)+bD2(p,q) +g|D2(k,p)-D2(k,q)| 前面方法的递推公式可选择参数而得: 方法 ai (i=p,q) b g 最短距离 ? 0 -1/2 最长距离 ? 0 1/2 重心 ni/nr -apaq 0 类平均 ni/nr 0 0 离差平方和(ni+nk)/ (nr+nk) -nk/ (nr+nk) 0 中间距离 1/2 -1/4 0 可变法 (1-b)/2 b(1) 0 可变平均 (1- b) ni/nr b(1) 0 ;有了上面的点间距离和类间距离的概念，就可以介绍聚类的方法了。这里介绍两个简单的方法。 ;事先要确定分多少类：k-均值聚类 ;假定要把这16种饮料分成3类。利用SPSS，只叠代了三次就达到目标了（计算机选的种子还可以）。这样就可以得到最后的三类的中心以及每类有多少点 ;根据需要，可以输出哪些点分在一起。结果是：第一类为饮料1、10；第二类为饮料2、4、8、11、12、13、14；第三类为剩下的饮料3、5、6、7、9、15、16。;SPSS实现(聚类分析);事先不用确定分多少类：分层聚类 ;对于我们的数据，SPSS输出为;例:5个样品距离阵令Dk为系统聚类法种第k次合并时的距离,如{Dk}为单调的,则称具有单调性.前面只有重心和中间距离法不具有单调性.;聚类要注意的问题 ;SPSS实现(聚类分析);啤酒成分和价格数据（data14-02);Statistics→Classify →Hierarchical Cluster: Variables:啤酒名和成分价格等 Cluster(Case, R聚类) Display: (Statistics)(Agglomeration Schedule凝聚状态表), (Proximity matrix), Cluster membership(Single solution, [4]) Method: Cluster (Furthest Neighbor), Measure-Interval (Squared Euclidean distance), Transform Value (Range 0-1/By variable (值-最小值)/极差) Plots: (Dendrogram) Icicle(Specified range of cluster, Start-1,Stop-4, by-1), Orientation (Vertical) Save: Cluster Membership(Single solution [4]);啤酒例子;凝聚过程:Coefficients为不相似系数,由于是欧氏距离,小的先合并.;分为四类的聚类结果;冰柱图(icicle);聚类树型图;学生测验数据（data14-03) 50个学生，X1-X10个测验项目 要对变量聚类（Q型聚类） 过程和R型聚类（对cases)一样;Statistics→Classify →Hierarchical Cluster: Variables:x1-x10 Cluster(Variable, Q聚类) Display: (Statistics) (Proximity matrix), Cluster membership(Single solution, [2]) Method: Cluster (Furthest Neighbor), Measure-Interval (Pearson correlation), Plots: Icicle(All Cluster) ;学生测验例子;分为两类的聚类结果;冰柱图(icicle)