一种新的记忆梯度法及其收敛性.pdfVIP

第 23 卷第 4 期 经 　济 　数 　学 Vol. 23 　No. 4 2006 年 12 月 MATHEMATICS IN ECONOMICS Dec. 　2006 一种新的记忆梯度法及其收敛性 张祖华 　时贞军 　王长钰 ( 曲阜师范大学运筹与管理学院,山东日照 ,276826) 摘 　要 　本文提出一种新的无约束优化记忆梯度算法 ,算法在每步迭代时利用了前面迭代点的信息 ,增加了 参数选择的自由度 ,适于求解大规模无约束优化问题. 分析了算法的全局收敛性. 数值试验表明算法是有效 的. 关键词 　无约束优化 ,记忆梯度法 ,线性有哪些信誉好的足球投注网站 ,全局收敛性 1. 　引　言 考虑无约束优化问题 min f ( x ) , x ∈Rn . ( 1) n n 1 ( ) 其中 , R 为 n 维欧氏空间 ,f ∶R →R 是一连续可微函数. 大多数求解问题 1 的算法是迭代算 法 ,最常用的是线性有哪些信誉好的足球投注网站算法 ,常采用如下形式 x = x + αd , k = 0 ,1 ,2 , …, (2) k + 1 k k k 其中 d 是有哪些信誉好的足球投注网站方向 ,α是步长参数. 若 x 为当前迭代点 ,则分别记 f ( x ) 为 g ,f ( x ) 为f , k k k k k k k f ( x ) 为f , P ( x | L ( x0 ) ) = maxy ∈L ( x ) ‖y - x ‖, P ( B | L ( x0 ) ) = inf x ∈B P ( x | L ( x0 ) ) ,其中 , 0 L ( x ) = {x ∈Rn | f ( x ) f ( x ) } ,B 表示B 的边界. 0 0 一般情况下 ,共轭梯度法是求解无约束何优化问题的有效算法之一 ,它能有效避免存贮和 ( ) 计算矩阵 ,适于求解大规模无约束优化问题. 记忆梯度法也具有类似的性质 [ 1] , [3 ] , [8 ] . [7 ] 记忆梯度算法和超记忆梯度算法 实际上是共轭梯度法的一种推广 ,它可更充分地利用 ( 前面迭代点的信息 ,增加了参数选择的自由度 , 由此可以构造稳定的收敛均匀的算法 参看 [2 ] , [5 ] , [6 ]) ,对于求解大型病态问题是一个种有效的算法途径. 但是 ,记忆步数越多 ,则计算 公式越复杂. 在实际问题中 ,记忆二步到三