【最速下降法基本原理分析2000字】.docx

最速下降法基本原理分析综述

(一)无约束问题的最优性条件

本文给出了一些关于求解非限制问题的最佳解决方案的基本前提和充分条件。

定理1设f:Rn→R1在点X∈Rn处可微，如果有P∈Rn

定理2设f:Rn→R1在点X?∈Rn上可微，如果X?是非约束问题的局部最优解，那么X?就是函数

上述定理指出，当我们得到了一个局部最优解时，且得到的梯度为0，那么就说明此时是该点的局部最优解的必要条件。

定理3设f:Rn→R1在点X?∈Rn上的Hesse矩阵?2f(

定理4设f:Rn→R1，X?∈Rn，f是

则X?

(二)最速下降法的基本思想和迭代步骤

最速下降法是1847年著名数学家