第5章 聚类分析ppt课件.pptVIP

第5章 聚类分析 什么是聚类 聚类（Clustering）就是将数据分组成为多个类（Cluster或译为簇）。 在同一个类内对象之间具有较高的相似度，不同类之间的对象差别较大。 从机器学习的角度讲，簇相当于隐藏模式。聚类是有哪些信誉好的足球投注网站簇的无监督学习过程。 与分类不同，无监督学习不依赖预先定义的类或带类标记的训练实例，需要由聚类学习算法自动确定标记，而分类学习的实例或数据对象有类别标记。 什么是聚类 早在孩提时代，人就通过不断改进下意识中的聚类模式来学会如何区分猫和狗，动物和植物 将周围的人分为家人和非家人 聚类分析无处不在 谁经常光顾商店，谁买什么东西，买多少？ 按忠诚卡记录的光临次数、光临时间、性别、年龄、职业、购物种类、金额等变量分类 这样商店可以…. 识别顾客购买模式（如喜欢一大早来买酸奶和鲜肉，习惯周末时一次性大采购） 刻画不同的客户群的特征（用变量来刻画，就象刻画猫和狗的特征一样） 什么情况下需要聚类 为什么这样分类？ 因为每一个类别里面的人消费方式都不一样，需要针对不同的人群，制定不同的关系管理方式，以提高客户对公司商业活动的响应率。 聚类分析无处不在 挖掘有价值的客户，并制定相应的促销策略： 如，对经常购买酸奶的客户 对累计消费达到12个月的老客户 针对潜在客户派发广告，比在大街上乱发传单命中率更高，成本更低！ 聚类分析无处不在 谁是银行信用卡的黄金客户？ 利用储蓄额、刷卡消费金额、诚信度等变量对客户分类，找出“黄金客户”！ 这样银行可以…… 制定更吸引的服务，留住客户！比如： 一定额度和期限的免息透资服务！ 百盛的贵宾打折卡！ 在他或她生日的时候送上一个小蛋糕！ 手机套餐的制定 聚类的应用领域 经济领域： 帮助分析人员从客户数据库中发现不同的客户群，并且用购买模式来刻画不同的客户群的特征。 谁喜欢打国际长途，在什么时间，打到那里？ 对住宅区进行聚类，确定自动提款机ATM的安放位置 股票市场板块分析，找出最具活力的板块龙头股 企业信用等级分类 …… 生物学领域 推导植物和动物的分类(门、纲、目、科、属、种)； 对基因分类，获得对种群的认识 数据挖掘领域 作为其他数学算法的预处理步骤，获得数据分布状况，集中对特定的类做进一步的研究 聚类分析原理介绍 聚类分析中“类”的特征： 聚类所说的类不是事先给定的，而是根据数据的相似性和距离来划分 聚类的数目和结构都没有事先假定 簇(类)的概念可能是模糊的 聚类分析原理介绍 我们看以下的例子： 有16张牌 如何将他们分为 一组一组的牌呢？ 聚类分析原理介绍 分成四组 每组里花色相同 组与组之间花色相异 聚类分析原理介绍 分成四组 符号相同的牌为一组 聚类分析原理介绍 分成两组 颜色相同的牌为一组 聚类分析原理介绍 分成两组 大小程度相近的牌分到一组 聚类分析原理介绍 这个例子告诉我们，分组的意义在于我们怎么定义并度量“相似性” (Similar) 因此衍生出一系列度量相似性的方法 聚类分析原理介绍 变量按测量尺度（Measurement Level）分类 区间（Interval）值变量 连续变量，如长度、重量、速度、温度等 有序（Ordinal）值变量 等级变量，不可加，但可比，如一等、二等、三等奖学金 名词性（Nominal）变量 类别变量，不可加也不可比，如性别、职业等 下面介绍对各种不同类型的变量如何进行度量 度量对象间的相似与差异 对象间的相似度或相异度通常基于每对对象间的距离的计算 欧几里得距离 Minkowski距离 度量对象间的相似与差异 曼哈顿距离(Block距离) 欧几里得距离是当q=2时的Minkowski距离的特例 曼哈顿距离是当q=1时的Minkowski距离的特例 当q=?时得到无穷距离(无穷范数)，由向量间各分量的最大差决定 度量对象间的相似与差异 距离所应满足的数学性质 d(i,j) ? 0 d(i,i) = 0 d(i,j) = d(j,i) d(i,j) ? d(i,k) + d(k,j) 除此之外，还可以使用加权的距离 二元属性变量 二元变量只有两种状态：0或1 例如给定描述患者的变量smoker，1表示患者抽烟，0表示不抽烟 像处理一般数值量一样来处理二元变量会产生误导的聚类结果 二元属性变量的相依表 如果所有的二元变量具有相同的权重，则可以得到上表所示的两行两列的相依表 q是对象i和j值都为1的变量的数目 r是在对象i值为1，但对象j值为0的变量数目 …… 变量的总数是p=q+r+s+t 对称二元变量和非对称二元变量 对二元变量的相异度计算还要考虑变量的对称性 对称二元变量 如果他的两个状态具有同等价值和相等的权重 输出用0或1编码没有优先权，如性别 对称二元相异度 对称二元变量和非对称二元变量 非对称二元变