机器学习__K均值算法.pptxVIP

K均值算法 K均值算法分配每个对象到最近的中心以均值更新中心点依据新的中心重新分配对象重新分配对象K-Means（又称k-均值）聚类算法。算法思想是首先随机确定k个中心点作为聚类中心，然后把每个数据点分配给最邻近的中心点，分配完成后形成k个聚类，计算各个聚类的平均中心点，将其作为该聚类新的类中心点，然后重复迭代上述步骤直到分配过程不再产生变化。?更新中心K=2随机初始化2个簇中心 K均值算法K-means算法流程随机选择K个随机的点（称为聚类中心）；2个参数超参数k和聚类中心 K均值算法K-means算法流程随机选择K个随机的点（称为聚类中心）；2个参数对与数据集中的每个数据点，按照距离K个中心点的距离，将其与距离最近的中心点关联起来，与同一中心点关联的所有点聚成一类；计算每一组的均值，将该组所关联的中心点移动到平均值的位置；重复执行2-3步，直至中心点不再变化；2个更新超参数k和聚类中心 K均值算法import matplotlib.pyplot as pltfrom sklearn.datasets.samples_generator import make_blobsX, y = make_blobs(n_samples=300, centers=4, random_state=0, cluster_std=0.60)plt.figure(figsize=(12, 5))plt.subplot(1,2,1)plt.scatter(X[:, 0], X[:, 1], s=50) K均值算法from sklearn.cluster import KMeansest = KMeans(4) # 4 clustersest.fit(X)y_kmeans = est.predict(X) K均值算法xy1.6589854.285136-3.453693.4243214.838138-1.15154-5.37971-3.36210.9725642.924086-3.567921.5316110.450614-3.30222-3.48711-1.724432.6687591.594842-3.156493.1911373.165506-3.99984-2.78684-3.099354.2081872.984927…………散点图80个2维数据样本集 K均值算法K=4，初始中心点为[-0-2[-2 1[-1-1[-5 0 K均值算法K=4，第六轮迭代?均值向量更新公式K=4，第一轮迭代?各样本与均值向量的距离 K均值算法K=4，初始中心点为[-0-2[-2 1[-1-1[-5 0K=4，初始中心点为[ 4 2[-0 2[ 1 2[ 3 2 K均值算法++++++++++++可以看到程序迭代了4次终止，其得到了局部的最优解，显然我们可以看到其不是全局最优的，我们仍然可以找到一个更小的SSE的聚类。 K均值算法K选择多少合适？SSE=min?找到随着K值变大，损失函数的拐点。 K均值算法对初始化条件敏感。要事先指定K的值。当数据数量不是足够大时，初始化分组很大程度上决定了聚类，影响聚类结果。无法确定哪个属性对聚类的贡献更大。使用算术平均值对outlier不鲁棒。因为基于距离，故结果是圆形的聚类形状。 K均值算法K均值算法的改进方法二分k均值算法Mini Batch k均值算法k均值++算法k中心点算法…… THANKS