统计自然语言处理基础.pdfVIP

提纲

¡聚类概述

l用途

l种类

¡“软”聚类,”硬”聚类

¡层级聚类

l单连通、全连通

l平均连通

l自顶向下聚类

¡非层级聚类

lK平均算法

lEM算法

2

提纲

¡聚类概述

l用途

l种类

¡“软”聚类,”硬”聚类

¡层级聚类

l单连通、全连通

l平均连通

l自顶向下聚类

¡非层级聚类

lK平均算法

lEM算法

3

聚类概述

¡聚类算法的目标：

l是将一组对象划分成若干组或类别，简单地说

就是相似元素同组、相异元素不同组的划分过

程。

¡定义：

l聚类是一个无指导的学习过程，它是指根据样

本之间的某种距离在无监督条件下的聚簇过程。

4

5

聚类概述

¡用途：

l在统计自然语言处理中，聚类算法有两个重要

的用途：

¡1.用于试探性数据分析

¡2.概念一般化

6

聚类概述

¡用途：

l1.用于试探性数据分析

¡当我们面临一个新问题,并且希望建立一个概率模

型或者仅仅是为了理解现象的基本特性时,这是一

个首要步骤。

¡对于不懂英语的人也能通过下面的聚类树图对英

文的词性有大致的了解。

7

8

聚类概述

¡用途：

l2.概念一般化

¡以法英翻译为例，Friday前的介词未知，进行推断。

¡已有的英文数据:onSunday,onMonday,on

Thursday.

¡按照语法和语义聚类，Sunday,Monday,

Thursday就会被聚到一类，因为它们有相同的上下

文模式。

lUntilday-of-the-week,lastday-of-the-week,day-

of-the-weekmorning

¡同类中的元素具有互换性，因此可以推断onFriday

的正确性。

9

提纲

¡聚类概述

l用途

l种类

¡“软”聚类,”硬”聚类

¡层级聚类

l单连通、全连通

l平均连通

l自顶向下聚类

¡非层级聚类

lK平均算法

lEM算法