工程优化+第3章-.ppt

定理(必要条件) 设 (1) 为D的一个内点; (2) 在 可微; (3) 为 的极值点; 则 。 第3章 常用的一维有哪些信誉好的足球投注网站方法 求无约束的某可微函数的最优解， 根据一阶必要条件， 可令函数的梯度等于零，由此求得驻点； 然后用充分条件进行判别，求出所要的解 n元函数 求解无约束优化问题 定理(充分条件) 设 (1) 为D的一个内点; (2) 在 二次连续可微; (3) ; (4) 正定; 则 为 的严格局部极小点。 第3章 常用的一维有哪些信誉好的足球投注网站方法 对某些较简单的函数，这样做有时是可行的； 但对一般n元函数 f(x) 来说，由条件 得到的是一个非线性方程组，解它相当困难。 对于不可微函数，当然谈不上使用这样的方法。 为此，常直接使用迭代法。 为了求函数f(x)的最优解，首先给定一个初始估计 然后按某种规划(即算法)找出比 更好的解 对极小化问题， 再按此种规则找出比 更好的解 ,如此即可得到一个解的序列 。若这个解序列有极限 ，即 则称它收敛于x*。 若算法是有效的，则它产生的解的序列将收敛于该问题的最优解。但由于计算机只能进行有限次迭代，一般很难得到准确解，而只能得到近似解。当达到满足的精度要求后，即可停止迭代。 迭代法的基本思想 理想的终止条件是 或者 问题是 x* 未知 停止迭代时要满足的条件称为终止条件。 迭代法的终止条件 实用的终止条件是根据相继两次迭代的结果 （1）根据相继两次迭代的绝对误差 （2）根据相继两次迭代的相对误差 （3）根据目标函数梯度的模足够小 迭代法的终止条件 设序列 收敛于 ，若存在与迭代次数 k 无关的数 时，称超线性收敛。 时，称线性收敛或一阶收敛。 成立，就称 收敛的阶为 ，或者称 阶收敛。 迭代法的收敛速度 和 ，使k从某个k0开始，都有 当 当 ，且 具有二阶收敛速度。 当 时，称为二阶收敛，也可说 迭代法的一般框架 找初始点 判断当前点是否满足终止条件 找下一个迭代点 最优解 (a) 找初始点 (b) 终止条件 (c) 迭代格式 从当前点出发，按照某种规则找下一个迭代点 注：迭代格式不同，对应着不同的算法 是 否 循环 迭代法的分类 初始点不好找 每一迭代点的目标函数值都在下降 整体下降，局部上升 初始点任意选取 迭代法的分类 仅利用函数值，简单易用 利用导数信息，收敛性结果更强 每次迭代沿某个方向有哪些信誉好的足球投注网站下个迭代点， 最常见研究最多的方法 每次迭代在某区域内有哪些信誉好的足球投注网站下个迭代点，近30年来发展起来的一类方法 现假定已迭代到点 ，(见图6-5)，若从 都不能使目标函数值下降，则 是一局部极小点，迭代停止。 若从 出发至少存在一个方向可使目标函数值有所下降，可选定能使目标函数值下降的某方向 ，沿这个方向迈进适当的一步，得到下一个迭代点 ，并使 。 这相当于在射线 上选定新点 其中， 称为有哪些信誉好的足球投注网站方向； 称为步长或步长因子。 图6-5 线有哪些信誉好的足球投注网站迭代法的基本思想 出发沿任何方向移动 (1) 选定某一初始点 ，并令 (2) 确定有哪些信誉好的足球投注网站方向 (3) 从 出发，沿方向 求步长 ，以产生下一个迭代点 (4) 检查得到的新点 是否为极小点或近似极小点。 ，转回(2)继续进行迭代。 在以上步骤中，选取有哪些信誉好的足球投注网站方向是最关键的一步，各种算法的区分，主要在于确定有哪些信誉好的足球投注网站方向的方法不同。 若是，则停止迭代。 否则，令 线有哪些信誉好的足球投注网站迭代法的步骤 找初始点 判断当前点是否满足终止条件 下一个迭代点 最优解 (a) 找初始点 (b) 终止条件 (c) 迭代格式 找步长 和下降方向 ， 确定下一个迭代点 不同的 对应不同的算法 是 否 循环 线有哪些信誉好的足球投注网站迭代法的框架分析 不同的 对应不同的算法 线有哪些信誉好的足球投注网站迭代法的框架分析 （c）迭代格式：不同的 对应不同的算法，各种算法的区 分，主要在于确定有哪些信誉好的足球投注网站方向的方法不同。 后面介绍各种 算法时会给出一个明确的选取 的方法。 在确定了迭代方向后，下一步就要确定迭代步长 ，常见的方法有3种。 (1) 令它等于某一常数(例如令 )，这样做不能保证目标