一种有效的SVM参数优化选择方法111.pdfVIP

参l 訇 化 一 种有效的SVM参数优化选择方法 An effectiveSVM param eterselectionoptim azation m ethod 赵璐华。。，彭 涛 ZHAO Lu．hua。一，PENGTaO。 (1．；-．-f南质量工程职业学院，平顶山467000；2．华中科技大学计算机学院，武汉 430011) 摘 要：支持向量机 (SVM)在机器学习中的有着广泛应用，参数优化则是SVM需要解决的重要问题。 本文提出了使用多主体进化算法(multi—agentgeneticalgorithm，MAGA)，通过设计自学 习、协作、变异、竞争四个遗传算子，在参数空间进行有哪些信誉好的足球投注网站，实现SVM参数的优化选择．仿真 算例表明该算法明显优于传统算法。 关键词：SVM；multi-agent；遗传算法；参数优化 中图分类号 ：TP391．9 文献标识码 ：A 文章编号：1009—0134(2oi0)09—0146-04 Doi：10．3969／J．issn．1009-0134．201O．09．45 0 引言 模型的参数优化 。Leung 提 出了基于实值遗传算 支持向量机 (supportvectormachines，SVM) 法 (geneticalgorithm，GA)实现 了SVM模型参数 的 自动选择，该方法基于遗传算法 的隐含并行高 是在统计学习理论 的基础之上发展起来的新一代 机器学习算法 ，它能较好的解决传统机器学习算 效性和全局最优的性能选择了SVM模型参数 ，提 法难以解决的小样本 、高维、学习机器的结构 、 高 了SVM的构造效率，而且进一步提高了分类器 学习算法的局性收敛等问题， 目前任复杂系统建 的识别率 。但是GA算法存在适应度函数的适应性 模、预测、控制 、时间序列分析 、函数估计和模 是局部的，同时没有考虑到生物之 间协 同的可能 式识别等各个领域得到了广泛 的应用 。但是如何 性 ，还不具备后天的学习能力等局限性 。邵信光嘀 提 出了基于粒子群算法的SVM参数优化方法，该 选择合适的参数则是支持向量机算法理论和应用 中需要解决的主要 问题，直接影,~SVM的性能， 方法是通过个体之间的协作来寻找最优值的，其 对支持向量机 的发展有重要 的理论和实际意义。 主要优点是较易实现 。 多主体进化算法 7,81(mUlti—agentgenetiC 对于回归型支持 向量机则首先需要确定三个 自由 algorithm，MAGA)是从智能体的角度出发，把进化 参数 ：不敏感值 ，正则化参数以及核参数，然后 算法 中的个体作为一个具有局部感知、竞争协作 才能采用支持向量估计方法进行回归估计。 一 般研究人员采用既直观又简单 的试验确定 和 自学习能的智能体，通过智能体与环境 以及智 参数来获得较优参数 ，这种方法需要大量 的试 能体问的相互作用达到全局优化 的目的。这种方 验，而且通常得不到的最优参数 。经典 的 “留一 法在有哪些信誉好的足球投注网站空问较大时，由于考虑到进化过程 中个 法 ” (Leave—One—Out)采用的是方法是先根据 体的协作性及学 习能力 ，搜 索效率远远高于传统 人工选择近似最