自然邻在文本分类中的应用.pdfVIP

００７—１４２３（２０１７）１１－００４２—０５ＤＯＩ：１０．３９６９￣．ｉｓｓｎ．１００７－１４２３．２０１７．１１．００８

自然邻在文本分类中的应用

朱庆生，张浪，张程

（重庆大学计算机学院，重庆４０００４４）

摘要：

在文本分类中．传统的ＫＮＮ算法面临Ｋ值不确定，数据集分布不平衡等缺点的影响。基于此提出自然邻的思想，并将

其应用到文本分类中，很好地克服ＫＮＮ文本分类的缺点。首先，自然邻算法能够根据数据集自动获取文本向量的自

然邻居．不需要人为干预。解决Ｋ值不确定问题。其次，对于不同的数据点其邻居数可能不一样，它会根据数据集的

分布自动获取其对应的自然邻居．很好地克服数据集分布不平衡问题。并且，根据训练集的自然邻居设计一种权重分

配算法．使得好邻居的权值较大。坏邻居的权值较小，进一步提高分类算法的精确度。

关键词：

文本分类：自然邻居；ＫＮＮ；权重分配

基金项目：

重庆市研究生科研创新项目（Ｎｏ．ＣＹＳ１５０２９）、重庆市基础科学与前沿研究计划项目Ｎ（ｏ．ｃｓｔｃ２０１３ｊｃｙｊＡ４００４９）

０引言类的需求．传统的分类方法不再适用。我们需要更加自

动化的分类方法，文档自动分类技术的研究势在必行。

近年来．随着互联网的飞快发展，网络信息量呈爆

国外对文本自动分类的研究最早可追溯到上世纪５０

炸性的增长．增长速度比人类历史任何时期都要快的

年代末．由Ｈ．Ｐ．ＬＵｈｎ提出的一种基于词频统计的文本

多．以互联网为载体的海量数据蕴含着大量的信息价

分类思想开创了文本自动分类的新天地。１９６０年，

值．因此有效地发现分析挖掘这些信息中的价值是很

Ｍａｒ０ｎ发表了第一篇关于文本自动分类算法的论文，之

有必要的．可以给我们带来更大的生产力，给我们的生

后Ｋ．Ｓｐａｒｋ、Ｇ．Ｓａｈｏｎ等学者相继提出了很多关于文本

活带来更多的便利传统的信息处理方法已经不能完

自动分类的实用方法由于对文本自动分类的研究较

全胜任各式各样的任务需要．一种新的数据处理方法

早．且技术相对比较成熟．所以在文本自动分类的实际

应运而生．数据挖掘技术【１］弥补了传统数据处理方法的

应用上，国外也开始的比较早，而且应用广泛。其中邮

不足．能够发现海量数据背后蕴藏的有效信息，并且对

件分类、电子会议取得了广泛的应用。知名度比较高的

于复杂的数据结构．对于那些传统数据处理方法很难

有麻省理工学院为白宫开发的邮件分类系统．卡内基

下手的数据类型拥有更强的灵活性更为重要的是在

集团为路透社开发的Ｃｏｎｓｔｒｕｅ系统。

处理的方法上．不再拘泥于传统数据的增删改查．或是

国内文本自动分类的起步较晚，１９８１年，候汉清

数据仓库的处理．其方法的广泛性和灵活性非传统方