求解约束优化问题的记忆梯度goldstein_lavintin_polyak投影.pdf

第35 卷第 12 期 数学的实践与认识 V o l35　N o 12　 2005 年 12 月 M A TH EM A T ICS IN PRA CT ICE AND TH EO R Y D ecem. , 2005　 求解约束优化问题的记忆梯度 - - 投影算法 Goldste in Lav in tin Polyak 孙清滢, 　程　鹏, 　王清河 ( 中国石油大学应用数学系, 山东 东营　257062; 大连理工大学应用数学系, 辽宁 大连　116024) 摘要: 　给求解无约束规划 问题的记忆梯度算法中的参数一个特殊取法, 得到 目标函数的记忆梯度 投影下降方向, 从而对凸约束的非线性规划问题构造了一个记忆梯度 Go ldstein L avintin Po lyak Go ldstein 投影算法, 并在一维精确步长有哪些信誉好的足球投注网站和去掉迭代点列有界的条件下, 分析了算法的全局收敛 L avintin Po lyak 性, 得到了一些较为深刻的收敛性结果. 同时给出了结合FR , PR , H S 共轭梯度算法的记忆梯度Go ldstein 投影算法, 从而将经典共轭梯度算法推广用于求解凸约束的非线性规划问题. 数值例子表 L avintin Po lyak 明新算法比梯度投影算法有效. 关键词: 　非线性规划; 凸约束的非线性规划问题; 投影算子; 共轭梯度; 收敛性 Go ldstein L avintin Po lyak 1　引　　言 　　考虑问题(p ) : m inf (x ) , 其中 R n 是非空闭凸集, f (x ) : R n →R 是 上一阶连续 x ∈∈ 可微函数. 对问题(p ) , Calam ai P. H 等在文献[ 1 ] 中提出了求解问题的(p ) 的一般性Go ldstein 梯度投影算法. 记g k 是f (x ) 在x k 点的梯度, 梯度 L avitin Po lyak Go ldstein L avitin Po lyak 投影算法之迭代公式为: x = p (x - g ) , 　k = 1. 2, …, k + 1 k k k 其中投影算子p (. ) : R n → 定义为: p (x ) = argm in z - x 2 : z ∈ . [ 1 ] 步长 满足广义 步长有哪些信誉好的足球投注网站 , 并分析了算法的收敛性, 但收敛速度慢. 记忆梯度算法 k A rm ijo 是求解无约束规划的有效算法. 由于这类方法在迭代中较多地利用了已经得到的目标函数 的某些信息, 因而具有较快的收敛速度.