[数学]第二章-机械优化设计.ppt

三、 梯度法（最速下降法） 　　梯度法是求解多维无约束优化问题的间接法（解析法）之一。 按上式求得负梯度方向的一个极小点 ，作为原问题的一个近似最优解；若此解尚不满足精度要求，则再以 作为迭代起始点，以 处的负梯度方向 作为有哪些信誉好的足球投注网站方向，求得该方向的极小点 ，如此进行下去，直到求得的解满足收敛条件为止。 　　梯度是函数变化率最大的方向，负梯度则是函数下降最快的方向。沿该方向有哪些信誉好的足球投注网站，使函数值在该点附近下降最快。 　　梯度法就是取迭代点处的函数负梯度方向作为有哪些信誉好的足球投注网站方向，该法又称最速下降法。 　　梯度法的迭代格式是： （2-40） 式中　 为最优步长，由一 维有哪些信誉好的足球投注网站确定。 梯度法的终止条件为： 　　梯度法的特点： (1)算法简单，要求的存储量少； (2)开始有哪些信誉好的足球投注网站时，收敛速度较快，但当靠近极小点附近，收敛速度越来越慢，这是梯度法的较大缺点，一般结合其他优化方法使用。 （2-41） 关于的迭代计算步骤见教材p55。 三、 梯度法（最速下降法） 解：由梯度的定义，求目标函数的梯度： 例2-A 已知一目标函数为 ， 试求在点　　 的梯度。 则该函数在点　　的梯度为 三、 梯度法（最速下降法） 　　牛顿法也是一种间接法（解析法），它是梯度法的进一步发展。该法的有哪些信誉好的足球投注网站方向是根据目标函数的负梯度和二阶偏导数矩阵来构造的。 　　牛顿法分原始牛顿法和阻尼牛顿法两种。 　　该算法的基本思路是以二次函数来逼近原目标函数。 　　其迭代过程是在求目标函数 的极小值时，先将它在点 附近作泰勒展开，并取二次近似函数式；然后求出这个二次函数的极小点，并以该极小点作为原目标函数的极小点X*的一次近似解；若此解不满足精度要求，则可以此近似解作为下一次迭代的初始点，仿照上面的做法，求出二次近似解；照此方式迭代下去，直至所求出的近似极小点满足精度要求。 四、 牛顿法 任一点 取二次函数 求极小点 该点泰勒展开 判断 若符合要求则终止 不符合则以该极小点作为下一次迭代起始点 为求得二次近似式 的极小点 ，对上式求梯度，并令 解之可求得： 式中: 为海森(Hessian)矩阵的逆矩阵。 （2-43） 　　现用二维问题来说明，将目标函数 　　 在给定点 作为泰勒展开，取二次近似式： (2-42) 四、 牛顿法 梯度 二阶偏导数矩阵/海森矩阵 　　在一般情况下，　　不一定是二次函数，因而所求得的极小点　也不一定是原目标函数　　 的真正极小点。但是由于在　　点附近，函数　　和　　 是近似的，因而 可作为 的近似极小点。为不满足精度要求，可将 作为下一次迭代的起始点 ，即得 四、 牛顿法 方向　　称为牛顿方向，可见原始牛顿法的步长因子恒取　　 ，所以原始牛顿法是一种定步长的迭代过程。 　　由上式（2-44）可知，牛顿法的有哪些信誉好的足球投注网站方向为 （2-45） （2-44） 上式就是原始牛顿法的迭代公式。 例题参看书p56例2-10(与书p52例2-9对比） 　　牛顿算法对于二次函数是非常有效的，迭代一步就可达到极值点，而这一步根本不需要进行一维有哪些信誉好的足球投注网站。 　　对于高次函数，只有当迭代靠近极值点附近，目标函数近似二次函数时，才会保证很快收敛，否则也可能导致算法失败。 为了克服这一缺点，便将迭代公式（2-44）修改为： （2-46） 上式为修正牛顿法的迭代公式。式中，步长因子 又称阻尼因子。 修正牛顿法的迭代步骤详见教材。 四、 牛顿法 * 否则，将步长再加倍，继续后退，重复上述步骤，直到满足单峰区间条件为止。 　　(4)若　　　　　　 ，则表明极小点在试算点的左侧，需做后退试算。在做后退运算时，应将后退的步长缩短为原步长h的1/4，则取步长为－h/4，并从　点出发，得到后退点为 ， 若 　　　　　 ，则所计算的相邻三点的函数值已具“高-低-高”特征，这时可确定有哪些信誉好的足球投注网站区间： 进退法的程序框图 　　基本思路： 　　通过比较单峰区间内两个插点的函数值，不断舍弃单峰区间的左端或右端一部分，使区间按照固定区间缩短率（缩小后的新区间与原区间长度之比）逐步缩短，直到极小点所在的区间缩短到给定的误差范围内，而得到近似最优解。 　　黄金分割法，又称0.618法，它是一种等比例缩短区间的直接有哪些信誉好的足球投注网站方法。 　　如图所示，为使a