聚类读书介绍.docx

聚类分析读书报告 王晨 研数理1535 1152209008 基本原理 聚类问题实际上是将一组数据分成若干个组，每个组里的对象具有很大的相似性，不同的组之间存在尽量大的差异性。在这些组之间寻找数据之间内在的联系。这个过程实际上是一中在无监督状态下寻找最优划分的过程。聚类有效性的评价可以参考以下几个指标：聚类质量的度量、聚类算法与某种数据集适合的程度、划分的最佳聚类数目。聚类分析的内容十分丰富，一般情况下按方法可以分为以下几种：系统聚类法，调优法(动态聚类法)，最优分割法(有序样品聚类法)，模糊聚类法，图论聚类法，聚类预报法。按照分类对象的不同可以分为R型和Q型两大类，R型是对变量进行分类，Q型是对样品进行分类。 聚类分析就是用数学方法研究和处理给定对象的分类。聚类问题是一个久远的问题，是随着人类的产生和社会的发展而不断深化的一个问题。人们要认知世界、改变世界就要区分不同的事物并感知存在于不同事物间的相似性。 经典分类学是从单对象或有限的几个对象出发，单凭经验或专业知识对事物进行分类。这种分类具有的优点是界限非常清晰。但是，随着人们认识的加深，发现这种分类常常不适用于具有模糊性的分类问题。如把人按漂亮分为“漂亮的人，“不漂亮的人”。这就产生了经典分类方法解决不了的问题一如何判定某个人的类别。由此产生了模糊聚类分析，应用模糊聚类得到了对象属于不同类别的不确定性程度，表达了样本类属的中介性，更能客观地反映现实世界。我们把应用普通数学方法进行分类的聚类方法称为普通聚类分析，而把应用模糊数学方法进行分析的聚类分析称为模糊聚类分析。 1.1三种类的定义： 【定义一】设阈值是给定的正数，若集合中任何两个元素的距离都满足： ，则称对于阈值组成一个类。 【定义二】设阈值是给定的正数，若集合中每个都满足： ， 其中，是集合中元素的个数，则称对于阈值组成一个类。 【定义三】设和是两个给定的正数，如果集合中两两元素距离的平均满足： ，， 其中是集合中元素的个数，则称对于阈值，组成一个类。 1.2类的性质特征： 设类包含的样品为，其中为元总体的样本，可以从不同角度来刻画： （1）的重心（或称均值）： （2）样本离差阵及样本协方差阵分别为： （3）类的直径：用表示类的直径，通常用以下来表示直径 ， 距离与相似系数对样品进行分类，就需要研究它们之间的关系，现在用的较多的是距离和相似系数。 1.3距离 把个样品看成是维空间中的个点，那么两个样品间的相似系数用度量。一般要求： ，对任意；当； ，对任意； ，对任意。 1.3.1明氏（Minkowski）距离 ， 当时的一阶明氏距离为 即绝对距离 当时，，即欧氏距离 当趋于时， ，即为切比雪夫距离。 1.3.2马氏（Mahalanobis)距离 马氏距离是1936年印度的马哈拉诺比斯提出的，具有很重要的作用。 为指标的协方差阵，，其中， ， ， 当存在时，则为马氏距离。 样品到总体的马氏距离定义为，其中为总体的均值向量。 1.3.3兰氏(Canberra)距离 兰氏距离是由兰思和威廉姆斯所给定的一种距离。其计算公式为：， 1.3.4杰氏距离 杰氏距离是由杰斐瑞和马突斯塔提出的。计算公式为： 1.3.5斜交空间距离 由于变量之间往往存在着不同的相关关系，正交空间的距离计算样本空间易变性，可以采用斜交空间距离。 1.4相似系数 为了将样品进行分类，研究样品之间的关系，采用相似系数的方法；性质接近的样品，相似系数就越接近1或者-1，而无关系的样品的相关系数就越接近0.比较相似的样品归为一类，不相似的样品归属不同的类。 设 （为常数）； ，对任意均成立； ，对任意均成立。 这里的绝对值越接近1，表示和越相似。反之，两者关系疏远。 常用的相似系数有： 夹角余弦 当和平行式，夹角，，说明这两个向量完全相似；当和正交时，夹角，，说明这两个向量不相关。 相关系数 表示两个向量线性相关。 指数相似系数 非参数方法 令 相似系数定义为 当非负时，有三种相似系数： 联列系数 1.5聚类分析的性质 1.5.1单调性 设为系统聚类中第次并类时的距离。如果，则称它具有单调性。在聚类方法当中，可以证明的是只有重心法和中间距离法不具有单调性。 图2为一个等角三角形，两个腰长为1.1，底边是1，则第一次A，B并为一类，并类的距离几=l，第二次并类的距离是C至AB中点的距离，它是AB边的高，它等于。所以重心法不能够满足单调性。 1.5.2空间的浓缩与扩张 设两个同阶矩阵和。如果的每一个元素不小于相应元素，则记为。特别的如果矩阵的元素非负，则有. 如果，，表示将的每一个元素平方，则。令，则 若有两个系统聚类法，在第步距离阵记为和，若则称比使空间扩张或比使空间浓缩。这种性质称为最长距离法比最短距离法扩张；