lbc-第2章 优化设计的数学基础2012.ppt

§2.2 多元函数的泰勒展开 §2.3 无约束优化问题的极值条件二元函数在某点处取得极值的充分条件是要求在该点处的海赛矩阵为正定§2.4 凸集、凸函数与凸规划 §2.6 等式约束优化问题的极值条件 第六节 不等式优化问题的极值条件 根据拉格朗日乘子法，此问题的极值条件是 三个极值条件的几何表示 这样，式（*）可写成如下形式（只考虑其作用的约束及其相应的拉格朗日乘子） * * 第二章 优化设计的数学基础 §2.1 多元函数的方向导数与梯度 §2.2 多元函数的泰勒展开 §2.3 无约束优化问题的极值条件 §2.4 凸集、凸函数与凸规划 §2.5 有约束优化问题的极值条件 §2.1 多元函数的方向导数与梯度 多元函数 =梯度方向与等值面的关系 梯度两个重要性质：性质一 函数在某点的梯度不为零，则必与过该点的等值面垂直；性质二 梯度方向是函数具有最大变化率的方向。 由函数极值条件所确定的极小点 X * ，是指函数 ) ( X f 在 X * 附近的一切 X 均满足 不等式) ( X f ) ( * X f称 X * 为（严格）局部极小点，只反映函数在 X * 附近的局部性质。 优化问题一般是要求全局极小点，因此对局部极小和全局极小之间的关系应作进一步 的说明 。 一 ． 凸 集 一个点集（或区域），如果连结其中任意两点X1和X2 的线段都全部包含在该集合内， 就称该点集为凸集，否则称非凸集。 如果对一切 R ? ， R ? 及一切满足 1 0 ￡ ￡ a 的实数 a ，点 R Y X X ? o - + 2 1 ) 1 ( a a ，则称集合 R 为凸集。 凸集既可以是有界的，也可以是无界的 。X1 X2 凸集性质 ： 1) 若 A 是一个凸集， b 是一个实数， a 是凸集 A 中的动点，即 a A ? ，则集合 b A = { } A a a X X ? = , : b 还是凸集 。 2) 若 A 和 B 是凸集， a ， b 分别是凸集 A ， B 中的动点，即 a ? A, b ? B, 则集合 A + B = { } B A X X b a b a+ = , , : 还是凸集 。 3) 任何一组凸集的交集还是凸集 。凸函数的定义 消元法实际求解困难很大，实用意义不大 二．拉格朗日乘子法拉格朗日乘子法（经典方法），它是通过增加变量将等式约束优化问题变成无约束优化问题。