4.聚类分析.ppt

思考 选用什么方法聚类，原因是什么. 选择哪些样本；选择哪些变量 快速聚类还是系统聚类？ 点间距如何定义？类间距如何定义？ 选择哪些输出结果？是否保存分类结果？ 聚类结果是什么？有何启示？ 分析是否有局限，有改进的思路吗？ 二、变量相似性的度量 夹角余弦 相关系数 数据标准化后的夹角余弦 类间距的度量 类：一个不严格的定义 定义9.1:距离小于给定阀值的点的集合 类的特征 重心：均值 样本散布阵和协差阵 直径 类间距的定义 最短距离法 最长距离法 重心法 类平均法 离差平方和法 等等 最小距离法（single linkage method） 极小异常值在实际中不多出现，避免极大值的影响 最大距离法（complete linkage method） 可能被极大值扭曲，删除这些值之后再聚类 类平均距离法（average linkage method） 类间所有样本点的平均距离 该法利用了所有样本的信息，被认为是较好的系统聚类法 重心法（centroid hierarchical method） 类的重心之间的距离 对异常值不敏感，结果更稳定 离差平方和法（sum of squares method或ward method） W代表直径，D2=WM－WK－WL 即 对异常值很敏感；对较大的类倾向产生较大的距离，从而不易合并，较符合实际需要。 Cluster K Cluster L Cluster M 系统聚类 系统聚类的基本思想 n个样品自成一类 计算两两类间距离 距离最近的两类定义为一个新类 类的个数是否为1 生成聚类图 是 否 分类数的确定 系统聚类不必事先确定分类数 最佳分类数的确定方法尚未形成 根据研究目的确定 根据聚合系数确定 根据树状图确定 类重心之间距离必须大 各类所包含的元素都不要过分多 分类数应该符合使用的目的 采用几种不同的聚类方法处理时，应在各自的聚类图上发现相同的类 饮料数据 16种饮料的热量、咖啡因、钠及价格四种变量 SPSS实现 选择Analyze－Classify－Hierarchical Cluster, 然后把calorie（热量）、caffeine（咖啡因）、sodium（钠）、price（价格）选入Variables, 在Cluster选Cases（这是Q型聚类：对观测值聚类），如果要对变量聚类（R型聚类）则选Variables, 为了画出树状图，选Plots，再点Dendrogram等。 可以在Method中定义点间距离和类间距离 树形图 凝聚过程 冰柱图 有水平型和垂直型 跟树形图的功能类似 分别分成1到n组，看分组情况 适用于数据量较小时 分成三类的结果 如果事先指定分类数 可以在SAVE中实现 K均值聚类 Ｋ－均值聚类的基本思想 把样品初略分成k个初始类 根据样品与类的距离进行归类 重新计算新的类重心 各类有样品进出 将样本分为ｋ类 否 是 迭代次数达到最高限制 是 否 Ｋ－均值聚类的特点 事先确定分类数 计算过程无须存储数据，因此能处理更大的数据量，也称快速聚类 样品的最终聚类在某种程度上依赖于最初的划分或种子点 SPSS实现 K-均值聚类 选择Analyze－Classify－K-Menas Cluster， 然后把calorie（热量）、caffeine（咖啡因）、sodium（钠）、price（价格）选入Variables, 在Number of Clusters处选择3（想要分的类数）， 如果想要知道哪种饮料分到哪类，则选Save，再选Cluster Membership等。 注意k-均值聚类只能做Q型聚类，如要做R型聚类，需要把数据阵进行转置。 假定要把这16种饮料分成3类。利用SPSS，只叠代了三次就达到目标了（计算机选的种子还可以）。这样就可以得到最后的三类的中心以及每类有多少点 根据需要，可以输出哪些点分在一起。结果是：第一类为饮料1、10；第二类为饮料2、4、8、11、12、13、14；第三类为剩下的饮料3、5、6、7、9、15、16。 聚类要注意的问题 聚类结果主要受所选择的变量影响。如果去掉一些变量，或者增加一些变量，结果会很不同。 相比之下，聚类方法的选择则不那么重要了。因此，聚类之前一定要目标明确。? 另外就分成多少类来说，也要有道理。只要你高兴，从系统聚类的计算机结果可以得到任何可能数量的类。但是，聚类的目的是要使各类距离尽可能的远，而类中点的距离尽可能的近，而且分类结果还要有令人信服的解释。这一点就不是数学可以解决的了。 应用案例 汽车销售案例 SPSS自带文件car_sales.sav. This data file contains hypothetical sales estimates, li