一种快速加权支持向量机训练算法.pdf

维普资讯 第24卷第7期 计 算 机 应 用 研 究 Vo1．24 No．7 2007年 7月 ApplicationResearchofComputers July 2007 一 种快速加权支持 向量机训练算法术 秦玉平 ，艾 青 ，刘卫江 (1．大连理工大学 电子与信息工程学院，辽宁 大连 116024；2．渤海大学 信息科学与工程学院，辽宁 锦州 121000；3．东南大学计算机科学与技术学科博士后流动站，江苏 南京 210096) 摘 要：给出了一种利用 目标函数的二阶信息选择工作集训练加权支持向量机的算法，导出了加权支持向量机 的KKT条件。实验结果表明，与利用目标函数的一阶近似信息选择工作集的训练算法相 比，该算法减少了训练 迭代次数，特别是训练集规模较大时。该算法的收敛速度有较大幅度的提高。 关键词 ：加权支持 向量机；工作集；目标函数 中图分类号：TP301 文献标志码：A 文章编号：1001-3695(2007)07．0032-03 FastWeightedSupportVectorMachineTrainingAlgorithm QINYu—ping ，AIQingz，LIUWei-jiang3 (1．SchoolofElectronic＆InformationEngineering，DalianUniversityofTechnology，DalianLinoning116024，China；2．Collegeoflnforrna— tionScience＆Engineering，BohaiUniversity，JinzhouLiaoning121000，China；3．PostDoctoralStationforComputerSceince＆Technology， SoutheastUniversity，Na ngJiangsu210096，China) Abstract：ThispaperproposedanewtraningalgorithmofW—SVMthatusessecond—orderinformationofobjectivefunctionto selectworkingsetanddeduceditsKKToptimizationcondition．Th eexperimentalresultsshow thatthealgorithm reducesthe numberofiterations，comparingwiththetrainingalgorithmthatusesfirst—orderapproximateinformationofobjectivefunctionto selectworkingset，especiallywhenthetrainingsetisverylarge，itsconvergencerateisspeededuphighly． Keywords：weightedsupportvectormachine(W—SVM)；workingset；objectivefunction 支持向量机 (SupportVectorMachine，SVM)是解决分类和 1 W-SVM的数学模型 回归问题的一种新的数据挖掘技术。它是基于结构风险最小 化原则 ，根据有限样本信息在模型的复杂度和学习能力之间寻 设给定样本集 ∈R ，Y∈{一l，1}，i=1，…，z，核 函数 求最佳的折中。以取得最好的泛化能力…。它 已广泛应用于