基于OC-SVM的大型数据集分类方法.pdf

ComputerEngineeringandApplications计算机工程与应用 基于OC．SVM 的大型数据集分类方法 张 瑜，罗 可 ZHANG Y_u，LUO Ke ‘ 长沙理工大学 计算机与通信工程学院，长沙 410076 InstituteofComputerandCommunication Engineering，ChangshaUniversity ofScienceandTechnology，Chnagsha410076，China ZHANG Yu．LUO Ke．OC—SVM —based classification for large-scale data sets．Computer Engineering and Applications， 2011．47(4)：131—133． Abstract：Support VectorMachine(SVM)isoneofthemosteffectiveclassifiers，whichhasveryhigh classificationaccura— cy andgoodgeneralization abiliyt．However，SVM training yetisvery complicated forlarge—scaledatasets．A one—classSVM (OC—SVM)．basedclassification isproposed．Inthismethod，trainingsetsarereducedbytherandom selectionalgorithm to in- crease training speed．Meanwhile，originaldata which are the neighbors ofsamples in hypersphere intersection are recovered to ensureSVM classification accuracy．The experimentalresultsshow thatthe methodreducesthecomputationalcomplexiyt atagreatextent，SO thetraining speed isimproved for large—scale datasets． Keywords：One．ClassSupportVectorMachine(OC—SVM)；random selection；SupportVectorMachine(SVM)classifica— tion；large—scale daat sets 摘 要 ：支持向量机是最有效的分类技术之一，具有很高的分类精度和 良好的泛化能力，但其应用于大型数据集时的训练过程还 是非常复杂。对此提 出了一种基于单类支持向量机的分类方法。采用随机选择算法来约简训练集，以达到提高训练速度的目 的；同时，通过恢复超球体交集中样本在原始数据中的邻域来保证支持向量机的分类精度。实验证明，该方法能在较大程度上减 小计算复杂度，从而提高大型数据集中的训练速度 关键词 ：单类支持向量机；随机选择；支持向量机分类；大型数据集 DOI：10．3778~．issn．1002．8331．2011．04．036 文章编号：1002．8331(2011)04．0131-03 文献标识码：A 中图分类号：TP391 1 引言 算法采样后，用OC—SVM将样本映射到特征空间生成超球体 ， 分类是数据挖掘中的一个重要环节 ，主要的方法有基于 保留两球体交集中的样本，并恢复样本邻域中的原始数据，最 规则的最邻近分类 、贝叶斯分类、人工神经网络 、决策树、支持 后对交集中的数据进行支持向量机分类。实验证明，该方法 向量机 (SVM)等n。其中支持向量机是最有效的分类方法之 能在较大程度上减小计算复杂度 ，从而提高大型数据集中的 一 ， 具有很高的分类精度和良好的泛化能力。但对大规模样 训练速度。 本集支持向量机的训练代价太高(如耗时太长 ，占用内存太大 等)。目前 ，研究这一问题的方法大致可以分为两类 ：一类是 2 oC．SVM 原理 对支持向量机算法进行改进。如文献[2]利用最小