k-means 聚类算法研究综述.docx

K-means 聚类算法研究综述摘要:总结评述了K-means聚类算法的研究现状，指出K-means聚类算法是一个NP难优化问题，无法获得全局最优。介绍了K-means聚类算法的目标函数，算法流程，并列举了一个实例，指出了数据子集的数目K，初始聚类中心选取，相似性度量和距离矩阵为K-means聚类算法的3个基本参数。总结了K-means聚类算法存在的问题及其改进算法，指出了K-means聚类的进一步研究方向。关键词：K-means聚类算法；NP难优化问题；数据子集的数目K；初始聚类中心选取；相似性度量和距离矩阵ReviewofK-meansclusteringalgorithmAbstract: K-meansclusteringalgorithmisreviewed. K-meansclusteringalgorithmisaNPhardoptimalproblemandglobaloptimalresultcannotbereached. Thegoal，mainstepsandexampleofK-meansclusteringalgorithmareintroduced. K-meansalgorithmrequiresthreeuser-specifiedparameters: numberofclustersK，clusterinitialization，anddistancemetric.ProblemsandimprovementofK-meansclusteringalgorithmaresummarizedthen. FurtherstudydirectionsofK-meansclusteringalgorithmarepointedatlast.Keywords: K-meansclusteringalgorithm; NPhardoptimalproblem; numberofclustersK; clusterinitialization; distancemetricK-means聚类算法是由Steinhaus1955年、Lloyed1957年、Ball Hall1965年、McQueen1967年分别在各自的不同的科学研究领域独立的提出。K-means聚类算法被提出来后，在不同的学科领域被广泛研究和应用，并发展出大量不同的改进算法。虽然K-means聚类算法被提出已经超过50年了，但目前仍然是应用最广泛的划分聚类算法之一[1]。容易实施、简单、高效、成功的应用案例和经验是其仍然流行的主要原因。文中总结评述了K-means聚类算法的研究现状，指出K-means聚类算法是一个NP难优化问题，无法获得全局最优。介绍了K-means聚类算法的目标函数、算法流程，并列举了一个实例，指出了数据子集的数目K、初始聚类中心选取、相似性度量和距离矩阵为K-means聚类算法的3个基本参数。总结了K-means聚类算法存在的问题及其改进算法，指出了K-means聚类的进一步研究方向。1经典K-means聚类算法简介K-means聚类算法的目标函数对于给定的一个包含n个d维数据点的数据集，其中，以及要生成的数据子集的数目K，K-means聚类算法将数据对象组织为K个划分。每个划分代表一个类，每个类有一个类别中心。选取欧氏距离作为相似性和距离判断准则，计算该类内各点到聚类中心的距离平方和（1）聚类目标是使各类总的距离平方和最小。（2）其中，，显然，根据最小二乘法和拉格朗日原理，聚类中心应该取为类别类各数据点的平均值。K-means聚类算法从一个初始的K类别划分开始 ，然后将各数据点指派到各个类别中，以减小总的距离平方和。因为K-means聚类算法中总的距离平方和随着类别个数K的增加而趋向于减小（当时，）。因此，总的距离平方和只能在某个确定的类别个数K下，取得最小值。1.2K-means算法的算法流程K-means算法是一个反复迭代过程,目的是使聚类域中所有的样品到聚类中心距离的平方和最小，算法流程包括 4个步骤[1]，具体流程图如图1所示。图1K-means 聚类算法流程图Fig.1StepsofK-meansclusteringalgorithmK-means聚类算法实例图2显示的是K-means算法将一个2维数据集聚成3类的过程示意图。K-means聚类算法是一个NP难优化问题K-means聚类算法是一个NP难优化问题吗？在某个确定的类别个数K下，在多项式时间内，最小的总距离平方和值和对应的聚类划分能否得到？目前，不同的学者有不同的答案。 AristidisLikas等人[2]认为在多项式时间内最小的值和对应的聚类划分能够得到，并于2002年提出了全局最优的K-means聚类算法。但给出的“TheglobalK-