第五章无约束优化的间接有哪些信誉好的足球投注网站法.ppt

机械优化设计 太原科技大学 张学良 第五章 无约束优化的间接有哪些信誉好的足球投注网站法 * 间有哪些信誉好的足球投注网站法是指有哪些信誉好的足球投注网站方向S(k)的构建利用目标函数的一阶或二阶导数信息的无约束优化方法，如梯度法、牛顿法、共轭梯度法、变尺度法。 X (k+1)=X (k) + ?(k) S(k) (k =0 , 1 , 2 , …) 基本思想 §5.1 梯度法（最速下降法、负梯度法） 利用负梯度方向作为迭代计算的有哪些信誉好的足球投注网站方向，即 S(k) = －▽f (X(k) ) 或 S(k) = －▽f (X(k) )/|| ▽f (X(k) ) || 迭代计算公式 X (k+1)=X (k) + ?(k) [－▽f (X(k) )] 或 X (k+1)=X (k) + ?(k) [－▽f (X(k) )] 举例： 用梯度法求目标函数 f (X) = x12 + 4x22 的无约束最优解。初始点X1(0)= [ 0 0 ]T ， X2(0)= [ 2 2 ]T。 基本思想和基本算法 §5.2 牛顿法 在点X(k)的邻域内，用一个二次函数?(X) 来近似代替原目标函数，并以? (X ) 的极小点作为原目标函数的极小点的近似值，若不满足收敛精度要求，则将该近似极小点作为下一次迭代的初始点。如此反复迭代，直到所求的近似极小点满足收敛精度要求为止。 f (X) ? f (X (k)) + ?T f (X (k)) (X - X (k)) + 0.5 (X - X (k)) T ?2 f (X (k)) (X - X (k))=? (X) ? (X)的极小点应满足： ?? (X)=0 即 ?f (X (k))+ ?2 f (X (k)) (X - X (k)) =0 ?2 f (X (k)) (X - X (k)) = - ?f (X (k)) 当 ?2 f (X (k)) 正定且有逆阵时，上式两边同时左乘 [?2 f (X (k)) ]-1， 得 X? = X (k) - [?2 f (X (k)) ]-1 ?f (X (k)) 牛顿法的迭代公式为 X (k+1) = X (k) - [?2 f (X (k)) ]-1 ?f (X (k)) X (k+1)=X (k) + ?(k) S(k) 牛顿方向：S(k) = - [?2 f (X (k)) ]-1 ?f (X (k)) 迭代步长：?(k) =1 修正牛顿法（又称阻尼牛顿法）的迭代公式为 X (k+1) = X (k) - ?(k) [?2 f (X (k)) ]-1 ?f (X (k)) 阻尼因子： ?(k) 计算步骤及算法框图 1） 任选初始点 X (0) ，给定收敛精度?0， k=0； 2） 计算X (k)点的梯度?f (X (k))及其模； 3） 检验终止条件： || ?f (X (k)) ||≤? ？ 若满足，则输出最优解：X * = X (k)， f * = f (X *) ，并终止迭代计算 ； 否则，继续下一步迭代计算； 4）计算X (k)点的海赛矩阵?2 f (X (k))及其逆矩阵[?2 f (X (k))] -1 5）沿牛顿方向S(k) = - [?2 f (X (k)) ]-1 ?f (X (k)) 进行一维有哪些信誉好的足球投注网站，求最佳步长?(k)； 6）令X (k+1)=X (k) + ?(k) S(k) ，并令k ? k+1，转2），重复上述迭代计算过程。 举例： 用牛顿法求目标函数 f (X) = x12 + 4x22 的无约束最优解。初始点X1(0)= [ 0 0 ]T ， X2(0)= [ 2 2 ]T。 解： ?f (X) = [ 2x1 8x2 ]T ?2 f (X)= 0 0 8 [?2 f (X)] -1 = 0.5 0 0 0.125 ?f (X1(0) ) = [ 0 0 ]T ?f (X2(0) ) = [ 4 16 ]T X1(1)= X1(0) - [?2f (X1(0))]-1 ?f (X1(0) ) = [ 0 0 ]T - 0.5 0 0 0.125 [ 0 0 ]= [ 0 0 ]T X2(1)= X2(0) - [?