无约束多维问题的优化方法.ppt

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 把二维情况的基本算法扩展到n维，则鲍威尔基本算法的要点是： 在每一轮迭代中总有一个始点（第一轮的始点是任选的初始点）和n个线性独立的有哪些信誉好的足球投注网站方向。从始点出发顺次沿n个方向作一维有哪些信誉好的足球投注网站得一终点，由始点和终点决定了一个新的有哪些信誉好的足球投注网站方向。 用这个方向替换原来n个方向中的一个，于是形成新的有哪些信誉好的足球投注网站方向组。替换的原则是去掉原方向组的第一个方向而将新方向排在原方向的最后。此外规定，从这一轮的有哪些信誉好的足球投注网站终点出发沿新的有哪些信誉好的足球投注网站方向作一维有哪些信誉好的足球投注网站而得到的极小点，作为下一轮迭代的始点。这样就形成算法的循环。 上述基本算法仅具有理论意义 。 因为在迭代中的n个有哪些信誉好的足球投注网站方向有时会变成线性相关而不能形成共轭方向。这时张不成n维空间，可能求不到极小点，所以上述基本算法有待改进。 3.改进的算法 在鲍威尔基本算法中，每一轮迭代都用连结始点和终点所产生出的有哪些信誉好的足球投注网站方向去替换原向量组中的第一个向量，而不管它的“好坏”，这是产生向量组线性相关的原因所在。 在改进的算法中首先判断原向量组是否需要替换。如果需要替换，还要进一步判断原向量组中哪个向量最坏，然后再用新产生的向量替换这个最坏的向量，以保证逐次生成共轭方向。 为此，要解决两个关键问题： （1）Sk＋1是否较好？是否应该进入新的方向组？即方向组是否进行更新？ （2）如果应该更新方向组， Sk＋1不一定替换方向 ，而是有选择地替换某一方向 。 令在k次循环中 （ ） 分别称为一轮迭代的始点、终点和反射点 。 则在循环中函数下降最多的第m次迭代是 记： 相应的方向为 。 为了构成共轭性好的方向组，须遵循下列准则： 在k次循环中，若满足条件： 和 则选用新方向Sk，并在第k+1迭代中用Sk替换对应于 的方向 。否则，仍然用原方向组进行第k+1迭代。 因此 这样重复迭代的结果，后面加进去的向量都彼此对G共轭，经n轮迭代即可得到一个由n个共轭方向所组成的方向组。对于n次函次，最多n次就可找到极小点，而对一般函数，往往要超过n次才能找到极小点（这里“n”表示设计空间的维数）。 例3.4-5 用改进的鲍威尔法求目标函数 的最优解。已知初始点[1,1]T，迭代精度 。 解：（1）第1轮迭代计算 ， 沿e1方向进行一维有哪些信誉好的足球投注网站 得 以 为起点，沿第二坐标轴方向 e2 进行一维有哪些信誉好的足球投注网站 得 确定此轮中的最大下降量及其相应方向 反射点及其函数值 ， 检验Powell条件 由于满足Powell条件，则淘汰函数值下降量最大的方向e1，下一轮的基本方向组为e2， 。 构成新的方向 沿 方向一维有哪些信誉好的足球投注网站得极小点和极小值 ， 此点为下轮迭代初始点。 按点距准则检验终止条件 需进行第二轮迭代计算。 （2）第2轮迭代计算 此轮基本方向组为e2， ，分别相当于 ， ，起始点为 ＝ 。 沿e2方向进行一维有哪些信誉好的足球投注网站得 以 为起点沿 方向一维有哪些信誉好的足球投注网站得 确定此轮中函数值最大下降量及其相应方向 反射点及其函数值 检验Powell条件，淘汰函数值下降量最大的方向e2，下一轮的基本方向组应为 ， 。 构成新的方向 沿 方向进行一维有哪些信誉好的足球投注网站得 检验终止条件 （3）第3轮迭代计算 此轮基本方向组为 ， ，起始点为 ＝ ，先后沿 ， 方向，进行一维有哪些信誉好的足球投注网站，得 ， 检验终止条件 故最优解 实际上，前两轮迭代的 ， 为共轭方向，由于本例目标函数是二次函数，按共轭方向的二次收敛性，故前两轮的结果就是问题的最优解，但每一轮迭代都需要进行n+1次迭代。 表2 无约束优化方法有哪些信誉好的足球投注网站方向之间的相互联系 有哪些信誉好的足球投注网站方向 函数梯度的修正因子 所用目标函数信息 梯度法 I（单位阵） 一阶导数 牛顿法 二阶导数 共轭梯度法 一阶导数 变尺度法 一阶导数，使 （海赛矩阵的逆阵） 单纯形法的基本思想是，给定Rn中的一个单纯形，求出n+1个顶点的函数值,并确定这些函数值中的最大值、次大值和最小值，然后通过反射、扩张、内缩、缩边等方法（几种方法不一定同时使用）求出一个较好点，用它取代最大值的点，以构成新的单纯形，通过多次迭代逼近极小点，迭代过程中逐渐地把单纯形向最优点移动。 4.7 单纯形法 一 基本思想 这里的单纯形指的是n维欧氏