梯度粒子群算法及应用教程.doc

1 绪论 最优化问题是在满足一定约束条件下，寻找一组参数值，以使某些最优性度量得到满足，即使系统的某些性能指标达到最大或者最小。它广泛存在于农业、国防、工程、交通、金融、化工、能源、通信、材料等许多领域。最优化技术在上述领域的应用已经产生了巨大的经济效益和社会效益。国内外的实践表明，在同样条件下，经过优化技术的处理，对系统效率的提高、能耗的降低、资源的合理利用及经济效益提高均有显著的效果，而且随着处理对象规模的增大，这种效果也更加显著。传统的优化方法根据问题的性质不同，通常将问题划分为线性规划问题、非线性规划问题、整数规划问题和多目标规划问题。相应的有一些成熟的常规算法，如应用于线性规划问题的单纯形法，应用于非线性规划的牛顿法、共轭梯度法等，应用于整数规划的分枝定界法、动态规划法等。 目前，基于严格机理模型的开放式方程建模与优化已成为国际上公认的主流技术方向。许多工程公司和各大科研机构纷纷投入大量的人力物力对系统的建模与优化进行深入细致的研究，希望取得突破性的进展。然而，基于严格机理模型所得到的优化命题往往具有方程数多、变量维数高、非线性强等特点，这使得相关变量的存储、计算及求解都相当困难。在国民经济的各个领域中都存在着相当多的涉及因素多、规模大、难度高和影响广的优化命题，如流程工业系统优化、运输中的最优调度、生产流程的最优排产、资源的最优分配、农作物的合理布局、工程的最优设计以及国土的最优开发等等，所有这些问题的解决也必须有一个强有力的优化工具来进行求解。而前述传统的优化算法面对这样的大型问题已无能为力，无论是在计算速度、收敛性、初值敏感性等方面都远不能满足要求。 人们从生命现象中得到启示，发明了许多智能的优化方法来解决上述复杂优化问题。例如遗传算法(Genetic Algorithm)参考了生物种群通过遗传和自然选择不断进化的功能、人工免疫系统(Artificail Immune Systems)模拟了生物免疫系统的学习和认知功能、蚁群优化(Ant colony Optimization)算法模仿了蚂蚁群体在路径选择和信息传递方面的行为，粒子群优化（Particle swarm optimization)算法模拟了鸟群和鱼群觅食迁徙中个体与群体协调一致的机理，群落选址算法(colony Location Algorithm)模拟了植物群落的形成机制等，这类借鉴模拟了生命系统的行为、功能和特性的科学计算方法称之为人工生命计算(Artifieial Life Computation)。人工生命计算是生命科学、信息科学和运筹学的交叉研究学科，是进化计算的一个新的分支，是由具有生命特性的多智能体以特定计算目标为依据，有序组合起来所形成的计算方法。按照此定义，人工神经网络(Artificial Neural Network)，文化算法(Cultural Algorithm)、人工生命算法(Artifieial Life Algorithm)、捕食有哪些信誉好的足球投注网站策略(Predatory Search Strategy)等都可以被归纳为人工生命计算。 粒子群优化(PSO)算法是其中较新的一种人工生命计算方法。它同遗传算法类似，是一种基于迭代的优化工具。系统初始化为一组随机解，通过迭代有哪些信誉好的足球投注网站最优值。同遗传算法等其他人工生命计算方法相比，粒子群优化算法概念简单、容易实现，没有很多参数需要调节。目前粒子群算法越来越引起人们的关注，已成为国际上一个新的研究热点。粒子群优化算法的研究还处于初级阶段，还有很多领域需要研究。 在这篇文章中，首先提出了标准的粒子群算法， 标准的粒子群算法由于其简单和解决问题的有效能力而被应用到很多的领域。但在实际应用当中，也表现出了一些不尽人意的问题。这些问题中最主要的是它容易产生早熟收敛、局部寻优能力较差等。实际上这些缺点也是几乎所有随机算法的弊病。本文将梯度信息引入标准PSO算法，并在群体最优信息陷入停滞时将群体进行部分初始化来保持群体的活性，防止群体陷入局优，构造出带有梯度加速的PSO算法。带有梯度加速优化算法却具有很强的局部有哪些信誉好的足球投注网站能力，一种带有梯度加速的PSO算法是对标准PSO算法进行改进。并通过实验讨论了改进算法的适用范围。实验表明，对于单峰函数和多峰函数，带有梯度加速的PSO都能够取得更好的优化效果。 2 粒子群优化算法及其理论基础 2.1概述 长久以来 ，人们向往着设计的人工系统像自然系统那样健壮，高效灵活，具有 适应性、自组织和再生能力。近几十年来，一些新颖的优化算法，如人工神经网络、遗传算法及蚁群算法、粒子群算法等通过模拟或揭示某些自然现象或过程而得到发展，其思想和内容涉及数学、生物进化、人工智能、神经科学和量子统计学等方面，为解决复杂工程问题提供了新的思路和手段.这些算法独特的优点和机制，引起了国内外学