类修正的阻尼牛顿法.docVIP

一类修正的阻尼牛顿法 庞军彦, 李秦 （兰州交通大学 数理与软件工程学院，兰州 730070） 摘要：本文在Marquardt –Levenber方法和Goldstein –Price方法的基础上对阻尼牛顿法作了适当改进，得出了一种新的算法，与原来算法相比较，新算法避免了二阶导数矩阵的奇异性和非正定性，从而使迭代在二阶导数矩阵奇异和非正定的条件下也能进行．文章还给出了新算法收敛性分析和算法步骤，最后给出了数值试验． 关键字：阻尼牛顿法；迭代格式；收敛性；数值试验 A modified damped Newton method PANG Jun-yan，LI Qin (School of Mathematics, Physics and Software Engineering, Lanzhou Jiaotong University, Lanzhou 730070, China) Abstract: In this paper,based on the two methods of Marquardt –Levenber and Goldstein–Price.The damped Newton method is improved properly.We proposed a new algorithm.In comparison with the original algorithm.The new algorithm avoids the singular and non positive definiteness of two order derivative matrix.The iteration can continue in the singular and non positive definite conditions of two order derivative matrix. The convergence of the new algorithm is analyzed and the algorithm steps is given.Finally,the numerical tests are presented. Key words: damped Newton method; iterative format; convergence; numerical tests 引言 在科学和工程计算中，常常要用到数值计算方面的知识来求最优化极小值问题，而在一系列数值计算方法中，牛顿迭代法无疑是求此类问题的一种非常重要的方法，其迭代格式为 （k=1,2，…） 其中是函数在的一阶导数矩阵，是函数的二阶导数矩阵（Hessian矩阵），众所周知，牛顿法有一定的缺点，即对初值要求很苛刻，要求初值必须在附近取值，否则有可能迭代不收敛或收敛很慢 ．阻尼牛顿法是对牛顿法的修正得到的，其迭代格式为，其中满足． 阻尼牛顿法保持了牛顿法的二阶收敛性，即满足，而且对初值没有过于苛刻的要求。本文就是通过对阻尼牛顿法的修正，得出了一种新算法，并进行了收敛性分析． 2、新算法的得出 阻尼牛顿法的迭代格式为 （1） 其中满足 ． 在（1）中要求算 ，因而要保证二阶导数矩阵 必须是非奇异的，否则 不存在，迭代就进行不下去，甚至有时候算也很困难，在（1）中还要要求是正定的，否则迭代也不能够产生新点．鉴于以上缺点，本文在阻尼牛顿法，Marquardt—Levenberg法和Goldstein—Price法三种方法的基础上对阻尼牛顿法进行修正． 在（1）中我们用近似代替二阶导数矩阵，则迭代格式变为 （2） 其中满足 ，． （2）就是本文新算法的迭代格式．新算法的关键是的得出， ，其中为单位矩阵，为一正常数，为一矩阵， ，求法如下： ，其中是第i个分量为1的单位向量，即 1,……i……n =(0,…..1……0), 而为：，，为一给定常数． 在（2）中，由于，故 当正定时，取=0 则，迭代格式就变为 （3） ② 当不正定时，将的值取得足够大，可认为是第二项在起主导作用，从而能保证的正定性，这样既避免了原阻尼牛顿法中的非正定和奇异，而且还可避免二阶矩阵的计算． 收敛性分析及算法步骤 3.1收敛性分析 定义1：设迭代过程收敛于方程的根，如果迭代误差，当时成立(c为常数且c≠0)，则称迭代过程是p阶收敛的。特别地，当p=1时称为线性收敛的，当1＜p＜2时称为超线性收敛的，当p=2时称之为平方收敛的． 定义2：设F为从集合到单值映射，设，若存在，满足 ， ，