机械优化设计无约束优化方法.ppt

第四章 无约束优化方法 §4-1 最速下降法（梯度法） §4-2* 牛顿类方法 §4-3* 变尺度法 §4-4* 共轭方向法 §4-5* 鲍威尔方法 §4-6 其它方法（如坐标轮换法、单纯形法） 第1章所列举的机械优化设计问题，都是在一定的限制条件下追求某一指标为最小，它们都属于约束优化问题。工程问题大都如此。 为什么要研究无约束优化问题? （1）有些实际问题，其数学模型本身就是一个无约束优化问题。 （2）通过熟悉它的解法可以为研究约束优化问题打下良好的基础。 （3）约束优化问题的求解可以通过一系列无约束优化方法来达到。所以无约束优化问题的解法是优化设计方法的基本组成部分，也是优化方法的基础。 4-1 梯度法 根据一元函数极值的必要条件和多元复合函数求导公式，得 梯度法的特点 （1）理论明确，程序简单，对初始点要求不严格。 （2）对一般函数而言，梯度法的收敛速度并不快，因为最速下降方向仅仅是指某点的一个局部性质。 （3）梯度法相邻两次有哪些信誉好的足球投注网站方向的正交性，决定了迭代全过程的有哪些信誉好的足球投注网站路线呈锯齿状，在远离极小点时逼近速度较快，而在接近极小点时逼近速度较慢。 （4）梯度法的收敛速度与目标函数的性质密切相关。对于等值线(面)为同心圆（球）的目标函数，一次有哪些信誉好的足球投注网站即可达到极小点。 坐标轮换法 坐标轮换法 单纯形方法 一、基本思想 单纯形替换法也是一种不使用导数的求解无约束极小化问题的直接有哪些信誉好的足球投注网站方法，与前面几种方法不同的是，单纯形替换法不是利用有哪些信誉好的足球投注网站方向从一个点迭代到另一个更优的点，而是从一个单纯形迭代到另一个更优的单纯形。 定义：单纯形 n维空间中的恰好有n+1个顶点（极点）的有界的凸多面体称之为一个单纯形。 根据定义，可知，一维空间中的单纯形是线段，二维空间中的单纯形是三角形，而三维空间中的单纯形则是四面体。 在单纯形替换算法中，从一个单纯形到另一个单纯形的迭代主要通过反射、扩张、收缩和缩边这4个操作来实现。下面以二维问题为例来对4种操作进行说明（参见下图）。 无约束优化方法——间接法总结 1、梯度法 方向 负梯度 用到一阶导数 适合于精度不高或用于复杂函数寻找一个好的初始点 2、牛顿法 用到一阶导数和海色矩阵，具有二次收敛性 要求海色矩阵奇异，且维数不宜太高 3、共轭梯度法 用到一阶导数，具有二次收敛性 4、变尺度法 收敛快，效果好，被认为是目前最有效的无约束优化方法。适用于维数较高，具有一阶偏导数的目标函数 1、坐标轮换法 计算效率较低 适合维数较低，目标函数无导数或导数较难求得 2、步长加速法 同坐标轮换法，对目标函数的性态的适应性更好 3、Powell法 具有二次收敛性，收敛速度较快，可靠性高，被认为是直接法中最有效的方法之一 4、单纯形法 思路清楚，收敛慢 如果出现 。表示反射完全失败，应退回到介于X4与X1之间的某个点X8。 （3）收缩——在得到反射点X5之后，如果有 表示反射部分成功，方向（X5—X1）虽然是有利方向，但X5前进过远，应收缩到介于X4与X5之间的某个点X7。 上述两种从反射点向X1方向后退的过程都称之为收缩。如果收缩点优于原来的最劣点X1，称收缩成功，并以收缩点取代原最劣点，构成新单纯形{X7,X2,X3}或{X8,X2,X3}；否则，称之为收缩失败，舍弃收缩点。 （4）缩边——若收缩失败，则应压缩当前单纯形的边长：令最优点X3不动，而其余顶点向X3方向压缩，使边长缩短（通常缩短一半），以产生新单纯形。如下图所示，点X1压缩到点X9，点X2压缩到点X10，得新单纯形{X9,X10,X3}，这一过程称之为缩边。 二、单纯形替换算法 设初始点为X0，初始边长h，ei为坐标轴方向的单位向量 ，预定正数 （2）比较各项点Xi的函数值，挑出其中的最优点，记为XL；最劣点，记XH；次差点，记为Xw； （3）求反射中心 其中，a0，通常取a=1； ? （1）令 ； 输出XL，为原问题近似极小点；否则，转（2）。 构造新单纯形； （4）根据不同情况，分别进行扩张，收缩或缩边，其中收缩因子 （5）如果满足 表1 无约束优化方法有哪些信誉好的足球投注网站方向之间的相互联系 ——间接法 有哪些信誉好的足球投注网站方向 函数梯度的修正因子 所用目标函数信息 梯度法 I（单位阵） 一阶导数 （阻尼）牛顿法 二阶导数 共轭梯度法 一阶导数 变尺度法 一阶导数，使 （海赛