机械优化设计四无约束优化方法.ppt

2、共轭方向法 程序框图 3、格拉姆—斯密特向量系共轭化法（共轭方向的确定） 1、选定线性无关向量系 ，如n个坐标轴的单位向量； 2、取 ，令 ，根据共轭条件得 3、递推可得： 五、共轭梯度法 1、共轭梯度法是共轭方向法中的一种，该方法中每一个共轭向量都是依赖与迭代点处的负梯度而构造出来。 对于二次函数 从点 出发，沿G某一共轭方向 作一维有哪些信誉好的足球投注网站,到达 而在点 、 处的梯度分别为： —— 点处的梯度 若 和 对G是共轭方向，则： 其中： 得出共轭方向与梯度之间的关系。此式表明沿方向 进行一维有哪些信誉好的足球投注网站，其终点 与始点 的梯度值差 与 的共轭方向 正交。 结论： 2、共轭梯度法计算原理 从 出发，沿负梯度方向作一维有哪些信誉好的足球投注网站： 设与 共轭的下一个方向 是由 和点 的负梯度的线性组合构成，即： 共轭条件（与梯度的关系）： 将式（1）代入（2）得： （1） （2） 因此可得共轭方向的递推公式： 3、共轭梯度法计算过程 （1）设初始点 计算 （2）求 的共轭方向 计算 （3）求与 和 均共轭的方向 （4）再沿 方向进行一维有哪些信誉好的足球投注网站，如此继续下去， 可求得共轭方向的递推公式为： 4、共轭梯度法 程序框图 六、变尺度法 1、问题的提出 能否克服各自的缺点，综合发挥其优点？ 2）阻尼牛顿法 1）梯度法 * 简单，开始时目标函数值下降较快，但越来越慢。 * 目标函数值在最优点附近时收敛快，但要用到二阶导数和矩阵求逆。 2、变尺度法的基本思想 对于一般函数 ，当用牛顿法寻求极小点时， 其牛顿迭代公式为： 其中： 为了避免迭代公式中计算海赛矩阵的逆阵，用对称正定矩阵 近似 的逆，每迭代一次，尺度就改变一次。而 的产生从给定 开始逐步修整得到。 3、尺度矩阵的概念 对于一般二次函数 如进行尺度变化 若矩阵 是正定的，则总存在矩阵 使 可得 牛顿迭代法公式变为： 牛顿法可以看成经过尺度变化后的梯度法 ----尺度矩阵 变量的尺度变换是放大或缩小各个坐标。通过尺度变换可以把函数的偏心程度降低到最低限度。 是需要构造 的一个对称方阵， 如果 ，则得到梯度法； 如果 ，则得到阻尼牛顿法； 当矩阵 不断地迭代而能很好地逼近 时，就可以不再需要计算二阶导数。 变尺度法的关键在于尺度矩阵的产生。 （2）变尺度矩阵应满足的条件 1）为了保证迭代公式具有下降性质，要求 中的每一个矩阵都是对称正定的； 2）要求 之间的迭代具有简单的形式： 3）要求 必须满足拟牛顿条件。 令 拟牛顿条件 即通过修正矩阵 的不断修正，使其在迭代中不断逼近 。 4、变尺度法的一般步骤 （1）选定初始点 和收敛精度 ； （2）计算 ，选取初始对称正定矩阵 ， 置 ； （3）计算有哪些信誉好的足球投注网站方向 ； （4）沿 方向进行一维有哪些信誉好的足球投注网站 ，计算 （5）判断是否满足迭代终止准则，若满足则 ， 停机，否则6）； （6）当迭代 次后还没有找到极小点时,重置 为单位矩阵 并以当前设计点位初始点 ； （7）计算矩阵 ，置 ，返回到3。 5、变尺度法 计算程序框图 5、DFP算法 DFP算法的计算步骤和变尺度法的一半步骤相同，只是具体计算校正矩阵时按公式： 例：用DFP算法求 的极值解。（求解过程详见教材） DFP算法是由戴维顿（Davidon）于1953年提出，又于1963年由弗莱彻(Fletcher)和鲍威尔加以发展，称为现代公认较好的算法之一。 七、坐标轮换法 坐标轮换法是在每次有哪些信誉好的足球投注网站只允许一个变量变化，其余变量保持不变，即沿坐标方向轮流进行有哪些信誉好的足球投注网站的寻优方法。它把多变量的优化问题轮流地转化成单变量（其余变量视为常量）的优化问题，因此又称这种方法为变量轮换法。轮换过程中不需要目标函数的导数，只需要目标函数信息值。属于直接法的无约束最优化方法。 此类方法适用于不知道目标函数的数学表达式而仅知其目标函数值信息的情况。这也是直接法的一个优点。 机械优化设计 * 　第四章　无约束优化方法　 一、概述 二、最速下降法（梯度法） 三、牛顿型方法（牛顿法和阻尼牛顿法） 四、共轭方向和