规划数学无约束问题求解.ppt

首先考虑二次函数的无约束极小问题 1 定义：设 为n阶正定阵，若n维方向 满足 1共轭梯度法思想： 将共轭性与最速下降方法结合，利用已知点处的梯度构造一组共轭方向，并沿此组方向进行有哪些信誉好的足球投注网站，求出极小点。 适用范围：凸函数 FR共轭梯度法的理论推导* 定理 设向量 为 共轭，则从点 出发，相继以 为有哪些信誉好的足球投注网站方向的下述算法： 经n次一维有哪些信誉好的足球投注网站收敛于问题（I ）的极小点 证明(1) 式： 证明(2) 式： 用FR共轭梯度法求解 （三）共轭梯度法的优缺点 优点 (1)编制程序比较简单 (2)对函数的要求宽松,不需函数的导数信息。 缺点 收敛速度比较慢， 适用场合 对变量不多的问题可以使用，另外，还可用于求解非线 性目标规划问题。 （三）模式有哪些信誉好的足球投注网站法的优缺点 作业：习题4 3（1），5，6（选做） * 无约束极值问题算法（1） （2学时） 无约束极值问题算法（2） （2学时） 第4章 无约束极值问题 共轭梯度法 （1学时） 步长加速法 （1学时） 第8讲 无约束极值问题算法（2） 重 点：共轭梯度法、模式有哪些信誉好的足球投注网站法。 难 点：共轭方向的构造。 基本要求：理解共轭方向的定义及性质，掌握共轭梯度法的有哪些信誉好的足球投注网站 方向的构造过程，计算步骤，了解共轭梯度法的优缺点；了解模 式有哪些信誉好的足球投注网站法的基本思想和计算步骤。 共轭梯度法 令 将(1)化为 显然，（3）式经n次一维有哪些信誉好的足球投注网站可得最优解 为对角阵 （一）共轭方向 则称 是 共轭的。 2 性质：设 为n阶正定阵，若 是 共轭的，则必线性无关 （二）共轭梯度法 2 FR共轭梯度法 考虑问题： 其中： 为对称正定阵 （1）算法步骤： 步骤1 任选初始点 令 步骤2 若 ，则停止；否则转下一步 令 其中： 步骤5 置k=k+1 返回步骤2 步骤3 步骤4 问题(I) 证明：由式(1)得 则有 由于一维有哪些信誉好的足球投注网站时 为最佳步长，故 即： 2 FR公式推导 由于一维有哪些信誉好的足球投注网站时 为最佳步长，故 (i) (ii)设k=m-1时(2)式成立， (iii) k=m T （2）算法举例 解： 第一次迭代 第二次迭代 共轭有哪些信誉好的足球投注网站方向： 例2 用共轭梯度法求解下列问题： 第 一 次 迭 代 第二次迭代 非二次型的共轭梯度法 设 为某一严格凸函数， 具有二阶连续偏导 用二阶泰勒展开近似表示 迭代公式： 优点 （1） 程序简单，占内存少； （2）收敛速度较快，介于梯度法和牛顿法之间。 缺点 （1）当 较小时计算 可能带来较大的 舍入误差，甚至引起不稳定； （2）不进行“n步重新开始”一直作下去，收敛很 慢，甚至不收敛。 适用场合 各种问题，对于高维问题效果尤佳。 模式有哪些信誉好的足球投注网站法（步长加速法） 探测移动： 依次沿n个坐标轴进行，用于确定新的基 点和有利于函数值下降的方向。 模式移动： 沿相邻两个基点连线方向进行，试图 使函数值更快减少。 （一）模式有哪些信誉好的足球投注网站法的思路 探测性有哪些信誉好的足球投注网站： 模式有哪些信誉好的足球投注网站 （二）模式有哪些信誉好的足球投注网站法的迭代步骤 例3 用步长加速法求解下列问题：