凸函数、凸规划凸集.PPT

第3讲 凸集、凸函数、凸规划 凸集 (Convex Set) 凸函数 (Convex Function) 凸规划 (Convex Programming) 凸集---定义 凸集---定义 凸集---定义 凸集---定义 凸集----举例 凸函数 凸函数 凸函数 凸函数 凸函数 凸函数 凸函数 凸函数 凸函数 凸函数 凸规划 凸规划 凸规划 作业 P38 2.1, 2.2, 2.4, 2.9-14,2.19, 2.20(后),2.32, 2.36 定理2 性质 正线性组合 定理3 设 是凸集 上的凸函数， 则对任意 ，水平集 是凸集． 水平集(Level Set) 称为函数f在集合S上关于数 的水平集. 注：定理3 的逆命题不成立. 下面的图形给出了凸函数 的等值线的图形，可以看出水平集是凸集. 定理1: 设 是定义在凸集 上， 令 则: (1) 是定义在凸集 是凸集 上的凸函数的充要条件是对 任意的 一元函数 为 上的凸函数. (2) 设 若 在 上为严格 凸函数， 则 在 上为严格凸函数． 凸函数 凸函数的判别定理 该定理的几何意义是：凸函数上任意两点之 间的部分是一段向下凸的弧． 凸函数 定理4 设在凸集 上 可微， 则： 在 上为凸函数的充要条件是对任意的 都有： 严格凸函数(充要条件)?? 凸函数 凸函数的判别定理---一阶条件 注：定理4提供了一个判别可微函数是否为凸 函数的依据. 凸函数 定理4-----几何解释 一个可微函数是凸函数当且仅当函数图形上任一点处的切线位于曲线的下方. 凸函数 定理4-----几何解释 一个可微函数是凸函数当且仅当函数图形上任一点处的切平面位于曲面的下方. 定理5: 设在开凸集 内 二阶可微,则 是 内的凸函数的充要条件为: 对任意 的Hesse矩阵 半正定, 其中： 凸函数 凸函数的判别定理---二阶条件 定理2.3.6: 设在开凸集 内 二阶可微, 若在 内 正定, 则 在 内 是严格凸函数． 注: 反之不成立． 例： f(x)是严格凸的， 但在点 处 不是正定的 凸函数 凸函数的判别定理---二阶条件 例： 凸函数 凸函数的判别定理---二阶条件 凸规划(Convex Programming) 设 为凸集， 为 上的凸函数， 则称规划问题 为凸规划问题． 例： 为 上的凸函数， 为无约束凸规划问题． 例： 凸规划 例： * * 凸性(Convexity)是最优化理论必须涉及到基本概念.具有凸性的非线性规划模型是一类特殊的重要模型，它在最优化的理论证明及算法研究中具有非常重要的作用. 线性组合 (linear Combination) 仿射组合 (Affine Combination) 凸组合 (Convex Combination) 凸锥组合 (Convex Cone Combination) 例 二维情况下，两点x1, x2 的 (a)线性组合为全平面； (b)仿射组合为过这两点的直线； (c)凸组合为连接这两点的线段； (b)凸锥组合为以原点为锥顶并通过这两点的锥. 定义1 设集合 若对于任意两点 及实数 都有： 则称集合 为凸集． 常见的凸集：单点集 { x }，空集? ，整个欧氏空间 Rn， 超平面： 半空间： 例： 证明超球 为凸集． 证明： 设 为超球中的任意两点， 则有： 即点 属于超球, 所以超球为凸集． (1) 任意多个凸集的交集为凸集． (2) 设 是凸集， 是一实数， 则下面的 集合是凸集： 凸集-----性质 (3) 推论： 设 是凸集， 则 也是凸集， 其中 是实数． (4) S 是凸集当且仅当S中任意有限个点的凸 组合仍然在S中. 凸集-----性质 注： 和集和并集有很大的区别，凸集的并集 未必是凸集，而凸集的和集是凸集． 例： 表示 轴上的点． 表示 轴上的点． 则 表示两个轴的所有点， 它不是凸集； 而 凸集． 凸集-----性质 定义 设 S 中任意有限个点的所有凸组合所构成的集合称为S的凸包，记为H(S),即 凸集-----凸包(Convex Hull) 定理2.1.4 H(S)是Rn 中所有包含S 的凸集的交集. H(S)是包含S 的最小凸集. 定义 锥、凸锥 凸集-----凸锥 (Convex Cone) 定义 分离 (Separation) 凸集-----凸集分离定理 性质 定理2.1.5 凸集-----凸集分离定理 (2) 是点 到集合 的最短距离点的 充要条件为： 注： 闭凸集外一点与闭凸集的极小距离， 即投影定理。 定理2.1.5 直观解释 我们不妨把一个闭凸集想象为一个三维的充满了气体的气 球（不一定为