一种基于权重选择虚拟样本的新分类算法.pdfVIP

第３０卷第７期　　　 计算机应用与软件 Ｖｏｌ３０Ｎｏ．７ ２０１３年７月　　 ＣｏｍｐｕｔｅｒＡｐｐｌｉｃａｔｉｏｎｓａｎｄＳｏｆｔｗａｒｅ Ｊｕｌ．２０１３ 一种基于权重选择虚拟样本的新分类算法 俞 庆 生 （佛山职业技术学院　广东佛山５２８１３７） 摘　要　　虚拟样本是一种在学习过程中引入先验知识的有效手段，一定程度上提高了分类器的性能。然而由于生成的虚拟样本 集的数据分布与原始训练集的分布不一致，因此利用虚拟样本扩充后的训练样本集进行学习的分类器分类性能上存在波动。针对 这种不足，提出一种基于权重选择虚拟样本的新分类算法。该方法首先利用ＴｒＡｄａＢｏｏｓｔ算法对扩充后的样本集进行预处理，然后选 取权重大于某一给定阈值的样本构造新训练样本集，最后根据新样本集进行训练得到分类器。由于排出了不重要的样本，因此在新 样本集上得到的分类器具有更高的精度。在部分ＵＣＩ标准数据集与ＫＤＤｃｕｐ９９网络入侵检测数据集上的对比实验说明了该算法 较不产生虚拟样本的直接分类算法和利用虚拟样本全集进行训练的分类算法具有更高的精度。 关键词　　虚拟样本　样本集扩充　特征向量　标签赋值 中图分类号　ＴＰ３０１　　　　文献标识码　Ａ　　　　ＤＯＩ：１０．３９６９／ｊ．ｉｓｓｎ．１０００３８６ｘ．２０１３．０７．０７４ ＡＮＥＷＣＬＡＳＳＩＦＩＣＡＴＩＯＮＡＬＧＯＲＩＴＨＭＳＥＬＥＣＴＩＮＧＶＩＲＴＵＡＬ ＳＡＭＰＬＥＢＡＳＥＤＯＮＷＥＩＧＨＴＳ ＹｕＱｉｎｇｓｈｅｎｇ （ＦｏｓｈａｎＰｏｌｙｔｅｃｈｎｉｃ，Ｆｏｓｈａｎ５２８１３７，Ｇｕａｎｇｄｏｎｇ，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ　　Ａｓｖｉｒｔｕａｌｓａｍｐｌｅｉｓａｎｅｆｆｅｃｔｉｖｅｍｅａｎｓｆｏｒｔｈｅｉｎｔｒｏｄｕｃｔｉｏｎｏｆａｐｒｉｏｒｉｋｎｏｗｌｅｄｇｅｉｎｔｈｅｌｅａｒｎｉｎｇｐｒｏｃｅｓｓ，ｓｏｉｔｃａｎｉｍｐｒｏｖｅＶｉｒ ｔｕａｌｓａｍｐｌｅｉｓａｎｅｆｆｅｃｔｉｖｅｍｅａｎｓｆｏｒｔｈｅｉｎｔｒｏｄｕｃｔｉｏｎｏｆｔｈｅｐｒｉｏｒｉｋｎｏｗｌｅｄｇｅｉｎｌｅａｒｎｉｎｇｐｒｏｃｅｓｓ，ｉｔｉｍｐｒｏｖｅｓｔｈｅｐｅｒｆｏｒｍａｎｃｅｏｆｃｌａｓｓｉｆｉｅｒｔｏ ｓｏｍｅｅｘｔｅｎｔ．Ｈｏｗｅｖｅｒ，ｄｕｅｔｏｔｈｅｉｎｃｏｎｓｉｓｔｅｎｃｙｏｆｔｈｅｄａｔａｄｉｓｔｒｉｂｕｔｉｏｎｏｆｔｈｅｇｅｎｅｒａｔｅｄｖｉｒｔｕａｌｓａｍｐｌｅｓｅｔａｎｄｔｈｅｄｉｓｔｒｉｂｕｔｉｏｎｏｆｔｈｅｏｒｉｇｉｎａｌ ｔｒａｉｎｉｎｇｓｅｔ，ｔｈｅｒｅｍａｙｈａｖｅｔｈｅｆｌｕｃｔｕａｔｉｏｎｉｎｃｌａｓｓｉｆｉｃａｔｉｏｎｐｅｒｆｏｒｍａｎｃｅｏｆｔｈｅｃｌａｓｓｉｆｉｅｒｓｗｈｉｃｈｍａｋｅｕｓｅｏｆｔｈｅｔｒａｉｎｉｎｇｓａｍｐｌｅｓｅｔｅｘｐａｎｄｅｄ ｗｉｔｈｖｉｒｔｕａｌｓａｍｐｌｅｓｆｏｒｌｅａｒｎｉｎｇ．Ｉｎｖｉｅｗｏｆｔｈｉｓｓｈｏｒｔａｇｅ，ｗｅｐｒｏｐｏｓｅａｎｅｗｃｌａｓｓｉｆｉｃａｔｉｏｎａｌｇｏｒｉｔｈｍ，ｉｎｗｈｉｃｈｔｈｅｖｉｒｔｕａｌｓａｍｐｌｅｓａｒｅｓｅｌｅｃｔｅｄ ｂａｓｅｄｏｎｗｅｉｇｈｔｓ．Ｉｎｔｈｉｓｍｅｔｈｏｄ，ｆｉｒｓｔｌｙＴｒＡｄａＢｏｏｓｔａｌｇｏｒｉｔｈｍｉｓｕｓｅｄｔｏｐｒｅｐｒｏｃｅｓｓｔｈｅｅｘｐａｎｄｅｄｓａｍｐｌｅｓｅｔ，ａｎｄｔｈｅｎｔｈｅｓｅｓａｍｐｌｅｓｗｉｔｈ ｗｅｉｇｈｔｓｂｉｇｇｅｒｔｈａｎｔｈｅｇｉｖｅｎｔｈｒｅｓｈｏｌｄａｒｅｓｅｌｅｃｔｅｄｔｏｃｏｎｓｔｒｕｃｔａｎｅｗｔｒａｉｎｉｎｇｓａｍｐｌｅｓｅｔ．Ｆｉｎａｌｌｙ，ｔｈｅｃｌａｓｓｉｆｉｅｒｉｓｏｂｔａｉｎｅｄｂｙｔｒａｉｎｉｎｇｏｎｔｈｅ ｎｅｗｔｒａｉｎｉｎｇｓｅｔ．Ａｓｔｈｅｕｎｉｍｐｏｒｔａｎｔｓａｍｐｌｅｓａｒｅｒｅｍｏｖｅｄ，ｓｏｔｈｅｃｌａｓｓｉｆｉｅｒｄｅｒｉｖｅｄｆｒｏｍｔｈｅｎｅｗｓａｍｐｌｅｓｅｔｈａｓｈｉｇｈｅｒａｃｃｕｒａｃｙ．Ｃｏｎｔｒａｓｔ