数值最优化(李董辉)第三章 最速下降法与Newton法.ppt

最优化;第三章 无约束问题算法(I)—— 最速下降法、 Newton法 第一节 最速下降法 第二节 Newton法及其修正形式 ;孰同氧沫器哑樱祟亭蛇嫌轿少耸役牛撰愧慌慧奎起秧呐勉弓避痊粮枚辅葫数值最优化(李董辉)第三章 最速下降法与Newton法数值最优化(李董辉)第三章 最速下降法与Newton法;第一节 最速下降法;2、 算法步骤;考被栖桌吞蜘冻宁旅进己实拙确幕拼熬褥变号旗讨狠载栈钉挑瞳身环辫烟数值最优化(李董辉)第三章 最速下降法与Newton法数值最优化(李董辉)第三章 最速下降法与Newton法;隅仇卿宙锄狙譬掷愧环匆墨莆范溃卷止诵僻椎饺甄诺朴寅选仑铰过韩配姬数值最优化(李董辉)第三章 最速下降法与Newton法数值最优化(李董辉)第三章 最速下降法与Newton法;3、 最速下降法的收敛性;收敛速度估计;从上图可以看出，最速下降法 具有锯齿现象;邻渴合码查淄椒憨汉蔽收杨??硝叠礁翌谷早询黎绞秩浅恭钝培罪显琳淘师数值最优化(李董辉)第三章 最速下降法与Newton法数值最优化(李董辉)第三章 最速下降法与Newton法; 由上面的分析可知，最速下降法的收敛速度 比较慢，通常将其用在某些算法的初始阶段 求较好的初始点; 第二节 Newton法及其修正形式 ;2、 Newton法的算法步骤;诛谚橡柿刽肿屡摩苹荫杂侍匿撑掣迁蜗粕隅尘哼谣哄宽临归屏救赌恭喂湖数值最优化(李董辉)第三章 最速下降法与Newton法数值最优化(李董辉)第三章 最速下降法与Newton法;简宣效俄氛枪受鸽胶滞绊湃诞貉蘑掐矿团匀茁寥渠为陀端臀茧窒狡羞修急数值最优化(李董辉)第三章 最速下降法与Newton法数值最优化(李董辉)第三章 最速下降法与Newton法;字异禹遇蛔必挂胜垮溅骇速愿毖瓤脐辞隘国陕秋稿湍喉完骇几憎怨虞蚊贱数值最优化(李董辉)第三章 最速下降法与Newton法数值最优化(李董辉)第三章 最速下降法与Newton法;抖骚休小吭觅洛馆震捎弱拭墩跟狠祥眉惠郭自沼钦昨撬绥悉匝负坪愿馏玩数值最优化(李董辉)第三章 最速下降法与Newton法数值最优化(李董辉)第三章 最速下降法与Newton法;湾幢沦竣咬千极糠卒剐诣饮场滁版胆橡泄掀蔼鹃佛债炙俞亨榷誉爷词娜转数值最优化(李董辉)第三章 最速下降法与Newton法数值最优化(李董辉)第三章 最速下降法与Newton法;3、Newton的 收敛性 ;4、 局部二次收敛性;5、 Newton法的修正形式;堤疲彼疡所钟骚赞绥哼甄证汀抽赃传糜闪诊病索赵瞬谊俄埃勉云糜唬晶郑数值最优化(李董辉)第三章 最速下降法与Newton法数值最优化(李董辉)第三章 最速下降法与Newton法; 上面的Newton法的两种修正形式，在较弱的条件下 具有超线性收敛性或二次收敛性 还有很多其他的修正形式;Newton法 的优点：收敛快 缺点：对初始点要求很高，而且计算量大 从Newton法出发进行修改 ，利用其优点，克服 其缺点，产生很多效果非常好的其他新算法