[数学]第九章非线性规划等xin.ppt

非线性规划 （Nonlinear Programming） 第一章 一般的非线性规划问题 §1.1 问题概论 （模型） min f (x) s .t （两类问题）无约束极值问题与约束极值问题 （一些基本定义） 梯度 Hesse矩阵 Jaccobi矩阵 § 1.2 最优解分类 （注：不一定存在） 定义1.2.1 整体（全局）最优解 定义1.2.2 局部最优解 （已有算法基本都是求局部最优解的） § 1.3 凸集与凸函数 定义1.3.1 凸集 定义1.3.2 （严格）凸函数 称定义在凸集K上的实值函数f (x)为凸函数，若 定义1.3.3 凹函数 定义1.3.4 凸规划（图集上凸函数的极小化问题） 定理1.3.1 设 、 均为凸集，则 也是凸 集 ，对任意实数?， 是凸集。 （证明）（推广） 定理1.3.2 有限个凸集的交集必是凸集 定理1.3.3 （分离定理）K为闭凸集， 则 定理1.3.4 （支撑超平面定理） 定理1.3.5 若 均为凸集K上的凸函数，则 也是K上的凸函数。 （请证明） 定理1.3.6 设f (x)是凸集K上的凸函数，则 实数C，水平集 必为凸集。 （请证明） 定理1.3.7 若f (x) 在开集K 中可微，则f 是K上的（严格）凸函数当且仅当 证明（充分性） 任取 ，记 由条件， （必要性） 令 此即需证。 若 f (x) 两阶可微，则有以下的定理： 定理1.3.8 设f (x)在开凸集K中二阶连续可微，f 为凸函数的充要条件为： 证明：（充分性） 此处 从而， (必要性) 任取 将 在 x 处展开 ： 令 得 定理1.3.9 证明 此即说明f 是严格凸函数。 定理1.3.10 证明 当 充分小时 在 的邻域中，从而导出矛盾，证毕 §1.4 最优性条件 无约束极小化问题 （模型） min s .t （1.4.1) 定理1.4.1 （一阶必要条件）若 是可微函数， 是问题（1.4.1) 的一个局部最小点的必要条件为： （无约束极小化问题求解）等价于（方程组求解） 定理1.4.2 （二阶必要条件）设 为 中的二阶连续可微函 数，如果 是 的一个局部极小点，则 证明：由定理1.4.1， 。对任意的 由于 是局部极小点，故对于充分小的 必有 此式成立必须有 ，证毕。 定理1.4.3 （二阶充分条件）设 两阶可微，若 满足 则点 的一个严格局部极小点，这里 是 的两阶 Hesse矩阵 定理1.4.4（两阶充分条件）设 两阶连续可微，若 满足 证明：任取 显然， 由假设， ，由 的任意 性， 是 定理1.4.5 证毕 具有等式与不等式约束的极小化问题 (NP) min s .t 定义 1.4.1 设x是满足(NP)约束条件的点，记