最优化方法 课程设计报告 运用dfp算法解决无约束最优化问题.doc

北方民族大学 课程设计报告 系（部、中心） 信息与计算科学学院 　 专 业 信息与计算科学 班 级 09信计（3）班 小组成员 课程名称 最优化方法 设计题目名称 运用DFP算法解决无约束最优化问题 提交时间　　　　　　2012年6月26日　　　　 成 绩 　 指导教师 　 摘要 变尺度法是在牛顿法的基础上发展起来的，它和梯度法亦有密切关系DFP变尺度法综合了梯度法、牛顿法的优点而又避弃它们各自的缺点，只需计算一阶偏导数，无需计算二阶偏导数及其逆矩阵，对目标函数的初始点选择均无严格要求，收敛速度快收敛速度快ewton法 变尺度法 Hesse矩阵 Matlab软件 目 录 一、课程设计目的 1 二、课程设计要求 1 三、课程设计原理 1 （1）变尺度法基本原理 1 （2）DFP算法 3 四、实验内容 4 五、数学建模及求解 4 1.DFP算法迭代步骤 4 2.DFP算法的流程图 5 六、程序实现 5 七、数值实验的结果与分析 8 八、实验总结与体会 9 1.DFP公式恒有确切解 9 2.DFP算法的稳定性 9 参考文献 10 课程设计目的： 1、掌握无约束优化问题DFP算法的数值求解思路； 2、训练分析DFP算法的运算存储量及收敛速度的能力，了解算法的优缺点； 3、通过运用DFP算法求解实际无约束优化问题的意义； 4、熟悉应用Matlab求解无约束最优化问题的编程方法. 课程设计要求 熟悉了解DFP算法原理及求解无约束优化问题的步骤，并运用Matlab件 编程实现求解问题. 课程设计原理 （1）变尺度法基本原理 在Newton法中，基本迭代公式 ， 其中，， ， 于是有 ···　　是初始点，和分别是目标函数在点的梯度和Hesse矩阵.为了消除这个迭代公式中的Hesse逆矩阵，可用某种近似矩阵来替换它，即构造一个矩阵序列去逼近Hesse逆矩阵序列 此时式（1）变为 事实上，式中无非是确定了第次迭代的有哪些信誉好的足球投注网站方向，为了取得更大的灵活性，我们考虑更一般的的迭代公式 (2) 其中步长因子通过从出发沿作直线有哪些信誉好的足球投注网站来确定.式（2）是代表很长的一类迭代公式.例如，当（单位矩阵）时，它变为最速下降法的迭代公式.为使确实与近似并且有容易计算的特点，必须对附加某些条件： 为保证迭代公式具有下降性质，要求中的每一个矩阵都是对称 正定的. 理由是，为使有哪些信誉好的足球投注网站方向是下降方向，只要 成立即可，即 成立.当对称正定时，此公式必然成立，从而保证式（2）具有下降性质. 要求之间的迭代具有简单形式.显然， (3) 是最简单的形式了.其中称为校正矩阵，式（3）称为校正公式. 必须满足拟Newton条件.即： (4) 为了书写方便也记 于是拟Newton条件可写为 (5) 有式（3）和（5）知，必须满足 或 (6) （2）DFP算法 DFP校正是第一个拟牛顿校正是1959年由Davidon提出的后经Fletcher和Powell改进故名之为DFP算法它也是求解无约束优化问题最有效的算法之一. DFP算法基本原理 考虑如下形式的校正公式 (7) 其中是特定维向量，是待定常数.这时，校正矩阵是 . 现在来确定. 根据拟Newton条件，必须满足（6），于是有 或 . 满足这个方程的待定向量和有无穷多种取法，下面是其中的一种： ， 注意到和都是数量，不妨取 ，， 同时定出 ，. 将这两式代回（5.32）得 . （8） 这就是DFP校正公式. 实验内容 采用课本P102页例5.3和P107页例5.4进行数值计算； 1，求，取初始点. 2，求，取初始点. 数学建模及求解 1.DFP算法迭代步骤 在拟Newton算法中，只要把第五步改为计算式（8）而其他不变，该算法就是DFP算法了.但是由于计算中舍去误差的影响，特别是直线有哪些信誉好的足球投注网站不精确的影响，可能要破坏迭代矩阵的正定性，从而导致算法失效.为保证的正定性，采取以下重置措施：迭代次后，重置初始点和迭代矩阵，即以后重新迭代. 已知目标函数及其梯度，问题的维数，终止限. 选定初始点.计算，. 置，，. 作直线有哪些信誉好的足球投注网站；计算