第五章 约束非线性优化--最优性条件及算法精要.ppt

* 7、可行下降方向法 内、外点法是将约束问题转化为无约束问题，另一方法是将其转化为线性规划问题。 设可行集为S。 考虑一般的非线性规划 ? ? ? í ì = = = 3 l j h m i g t s f NP j i , , 2 , 1 , 0 ) ( , , 2 , 1 , 0 ) ( . . ) ( min ) ( x x x … … * （1） 几个概念 主动约束（起作用的约束）：设 ∈S，若gi ( 约束gi (x)≥0在点 注：约束hj (x) = 0是任一可行点的主动约束。 x x )= 0，则称 x 的主动约束。 主动约束下标集： )= x I( { } m i g i i ￡ ￡ = 1 , 0 ) ( x 称为点 处的主动约束下标集。 x 可行方向: 设 是(N P)的可行点，若非零向量d 满足： 0, 当 时, +λd∈S,则称d为 一个可行方向。 x d $ ) , 0 ( d l ? x x 点处的 * 下降方向：设x∈R，若非零向量d 满足： 0,当 时，有f (x+λd) f (x),则称d为f (x)在x处的下降方向。 d $ ) , 0 ( d l ? 下降可行方向: 既是可行方向又是下降方向的方向。 　　　　　 找下降可行方向d，沿d 一维有哪些信誉好的足球投注网站得下降可　　　行点列{x（n）} ( f (x（1）) f (x（2）) … ), 从而求得最优解，这样一类方法称为可行方向法。 可行方向法: * （2） 几个定理 定理1 设f (x)在x处可微,若▽f (x) d0, 则d是f (x)在x处的一个下降方向。 T 证明 ∵ f (x+λd)= f (x)+λ▽f (x)Td +o(λ) ≈ f(x)+λ▽f(x)Td 而 ▽f (x)Td 0, λ 0， f (x+λd) f (x)。这表明d是f (x)在x处的一个下降方向。 0,当 ∴ 当λ充分小时,即 d $ ) , 0 ( d l ? 时，有 * 考虑线性约束的非线性规划： ? ? ? í ì = 3 e Ex b Ax x . . ) ( min ) ( t s f P 其中， A = ，b = ，E = ， e = 。 ú ú ú ? ù ê ê ê ? é m a a 1 … … ú ú ú ? ù ê ê ê ? é m b b 1 ú ú ú ? ù ê ê ê ? é l E E 1 … … ú ú ú ? ù ê ê ê ? é l e e 1 * 定理2 设x是(P)的一个可行点,I (x) 是点x处的主动约束下标集，则d是点x处的一个可行方向的充要条件是 d≥0, i∈I(x)；Ejd = 0，j =1,2,…,l。 i a 又 Ej(x+λd )= ej ，即 Ejx +λEjd= ej 。因 Ejx = ej ，所以 Ejd = 0，j =1,2,…,l。 充分性 （留作习题）。 证明 必要性：设d是点x处的一个可行方向，则 对 i∈I(x)， (x+λd)≥bi ，即 x+λ d ≥ bi 。因 x = bi ，所以 i a i a i a i a i a i a d≥0。 * 8. Frank-Wolfe方法 (1) F-W法的基本思想 ③ 沿此方向一维有哪些信誉好的足球投注网站，得下一个迭代点。 考虑 ? ? ? í ì = 3 e Ex b Ax x . . ) ( min ) ( t s f P ① 迭代的每一步用f(x)的线性逼近式替代f (x)，即 )+▽f( )T(x- f (x)≈f ( x x x ), 得一个线性规划 (LP)。 ② 解(LP)，得一个有哪些信誉好的足球投注网站方向。 * 二．F-W法的步骤 1) 任取x(1)∈S (可行集为)，置x =1。 2) 求解 ? ? ? í ì = 3 ? e Ex b Ax x x . . ) ( min ) ( ) ( t s f LP T k 设其最优解为 ∈S。若 ▽f(x(k))T ( - x(k)) =0，则 - x(k)为点x(k) 处的一个下 ) ( k ξ ) ( k ξ 停；否则，转3），此时， ) ( k ξ 降可行方向。 3) 求 f[x(k)+λ( -x(k))]= f[x(k)+λk ( 1 0 min ￡ ￡ l ) ( k ξ ) ( k ξ -x )] 令 x(k+1) = x(k)+λk ( -x(k))，k ：=k+1，转2）。 ) ( k ξ (k) * 说明：步骤2）中 ∵ x(