SVM在非平衡数据集中的应用.pdf

第 l9卷 第6期 计 算 机 技 术 与 发 展 Vo1．I9 N()．6 2009年6月 CONIIUrl、ER T}【、IINOI．{XY AND ljF、EI』}PMEN1 June 2009 SVM 在非平衡数据集中的应用 黄秀丽，王 蔚 (南京师范大学教育科学学院，江苏南京 210097) 摘 要 ：在一个数据集中，至少有一个类别相对与其他类别有很少的样本 ，则这样数据集可以称为高度倾斜的或者是非平 衡的数据集 非平衡数据在现实中普遍存在。在非平衡数据分类 中．传统机器学习算法的分类表现受到了阻碍。支持向 量机(SVM)基于结构风险最小化原则，是近几年发展起来的机器学习方法。分析了SVM在非平衡数据集 中的应用情况 ， 同时提出了几种 SVM运用于非平衡数据集中的主要改进方法 ，这些方法对于非平衡数据的分类有很好的分类效果。 关键词：非平衡数据；SVM；机器学习 中图分类号 ：rJP181 文献标识码：A 文章编号：1673—629X(2009)06—0190—04 ApplicationofSVM in ImbalancesDataset HUANGXiu—li，WANG W ei (SchoolofEducation，NanjingNomlalUniversity．Nanjing210097，China) Abstract：A trainingdatasetiscalledimbalanceIfatleastoneoftheel~sesrerepresentedbysignificantlylessnumber0{instancesthal1 theothers．Tileclass imbalanceproblem 0ccurswhenthereissignificantlylessnunll~_．rofobservatio1~softhetargetconcept．Variousreal —worldclassificationtaskssufferfrom thisphenomenon．Theclassimbalanceproblem hasbeenknowntohinderthelearning performance ofclassificationalgorithms．Thesupportvcetormachinetheo~ isbasedontheminimizationprincipletostructurerisk．Supportvector machineisanalgorithm ofmachinelearning thathasdevelopedduringtheseyears．Summarizesthestateoftheapplication0fSVM inim． balnacesdata．Thenintroducesomealgorithmsimprovedtogetgoodperformance． Keywords：imbalnacesdata；SVM ；ma chinelearning 0 引 言 题，这两届研讨会可以看作是这一问题引起全面关注 在一个数据集中，至少有一个类别相对与其他类 的标志。 别有很少的样本，则这样数据集可以称为高度倾斜的 在非平衡数据分类中，传统机器学习算法主要考 或者是非平衡的数据集 (Imbalancesdataest)。对于一 虑的是各类学习样本数量大致平衡的情形，其评价标 个标准的两类分类问题 ，样本较多的类被称为正类，样 准主要是基于精度的，得到的数据边界将会严重的向 本较少的类别被称为负类。现实生活中，导致非平衡 目标类倾斜。结果 ，负误识(Falsenegative)的比