第五章-02投影梯度法讲述.ppt

但若y≤0, 即y中有负分量比如yj(可能会有多个，任取一个)， 这时将A’中与yj相对应的那个行整个删去， 仍记删去该行后的矩阵为N, 用这个新的矩阵N构造Q，从而构造d， 这时这个必为下降容许方向(不证)。 从而,若y≥0的话,则上式就是K-T条件，从而知x(k)为KT点。 直线有哪些信誉好的足球投注网站 min f(x(k)+td) s.t. 0≤t≤t’ 其中 设得t*,则得新的迭代点x(k+1)=x(k)+t*d 投影梯度算法 (i)取初始可行点x(0)，置k:=0 (ii)在x(k)处将A，b分解 (iii)构造N，从而构造Q(若N空的话，就取Q=I) (iv)计算d(k)=- Q▽f(x(k)) (v)若d(k)=0,则计算q=(NNT)-1N▽f(x(k))并相应分解为两块y,z 若y≥0,stop。 否则，修正A’，转(iii) (vi)若d(k)≠0,则求解 min f(x(k)+td(k)) s.t. 0≤t≤t’ 设得t*,则得新的迭代点x(k+1)=x(k)+t*d(k) 置k:=k+1,转(ii) 例 min f(x)=x12+4x22 s.t. x1+x2≥1 15x1+10x2≥12 x1 ≥0 x2≥0 解 取初始容许点x(0)=(0,2)T, 取初始容许点x(0)=(0,2)T, 第一次迭代：x(0)?x(1) 在x0处A’=(1 0),b’=(0) 从而N=(1 0) 要先生成寻优方向d(0),先求解投影矩阵Q x(0)沿着方向d(0)作线性有哪些信誉好的足球投注网站，从而可得新点x(1)=(0,1.2)T. 第二次迭代：x(1)?x(2) 在x(1)处2,3约束有效： 从而 计算 其中第二个分量小于0，故删去A’中对应的行， 从而有新的A’=(15 10),故有新的N=(15 10), x(1)沿着该方向作线性有哪些信誉好的足球投注网站可得新的点x(2)=(0.4,0.6)T 4.简(既)约梯度法 Reduced Gradient min f(x) s.t. Ax=b x≥0 A?Rm×n,m≤n,b?Rm, f:Rn?R1有一阶偏导数 基本思想 利用约束条件将问题的某些变量用其它的变量来表示， 从而达到降低维数的目的，然后构造可行下降方向作线性 有哪些信誉好的足球投注网站逐步逼近问题的最优解。 函数的简约梯度 设已得到可行解x， 对约束Ax=b,将A分块A=(B,N) ,使得B为非奇异， 相应地x分块 从而有BxB+NxN=b, 故xB=B-1b-B-1NxN 将这个表达式代入目标函数，有 这就得到一个降低了维数的以xN为自变量的函数F. 根据复合函数求导公式求它的一阶导数即梯度r(xN), 有 称之为f(x)的简约梯度。 可行方向法 投影梯度法 （Feasible Direction Method Gradient Projection Method） 南京邮电大学理学院 2008-05-12 求解算法分类 (1)将这种约束问题转化为无约束问题进行求解 (因无约束问题已有较好的求解方法比如BFGS,DFP等) (2)直接从这种约束问题出发来求解 数学模型 min f(x) s.t. s1(x) ≥0 …… sm(x) ≥0 h1(x)=0 …… hl(x)=0 1 知识回顾 起作用约束（有效约束） 对容许点 来说，若有不等式约束si(x) ≥0变成等式，即si( )=0,则该不等式约束称为关于容许点 的一个起作用约束；若si( )0则称之为这个容许点的不起作用约束。 x x x 则对点(1,0)T来说1，4为有效约束，2，3为不起作用约束 A B x1 x2 ·P 例：某问题的约束函数分别为： s1(x)=1-x12-x22 ≥0 s2(x)=x1-x2 ≥0 s3(x)=x1 ≥0 s4(x)=x2 ≥0 易见：不等式约束关于容许集的任意内点都是不起作用约束 只有边界上的点才可能使得某个或某些不等式约束有效 按照定义可见，任一等式约束关于容许点都是起作用约束 容许方向（可行方向） Rn中的一个非空点集D，x’?D，若对某个非0向量d，存在一个小正数?，对?t?(0, ?),总有x’+td ?D（容许方向只与约束函数有关） ·x’ 设不等式约束问题的可行域为D={x|si(x) ≥0,i=1:m} x’为任一容许点, 记I={i|si(x’)=0,i=1:m} 当i?I,si(x)在