现代设计方法---非线性规划讲述.ppt

§3-3 无约束条件下多变量函数的优化设计方法 一、概 述 多变量函数一般都比较复杂，有时甚至无明确的数学表达式，往往藉助于所谓的直接法里的爬山法。 爬山法是利用已有的信息，通过点的直线移动，逐步改善目标函数而达到最优。因此每一次爬山计算有两个目的： (1)获得目标函数的改进值； (2)为进一步计算给出有用的信息。 爬山法的有哪些信誉好的足球投注网站过程实质上由两部分组成：一是选定有哪些信誉好的足球投注网站的方向；二是在确定的方向上爬山有哪些信誉好的足球投注网站。由于选取有哪些信誉好的足球投注网站方向与爬山前进方式的不同，构成了各种不同的爬山法。 二、变量轮换法 属于直接法，其基本思想是把一个多变量的问题转化为一系列单变量的问题的优化方法，即每次对多元函数的一个变量进行一维有哪些信誉好的足球投注网站，并依次轮换到其他各个变量进行同样有哪些信誉好的足球投注网站以完成第一轮的有哪些信誉好的足球投注网站，如此反复直到找到目标函数的极值点为止。这种方法也称为降维法，由于降维方式的不同，从而产生了各种不同的降维法。用得较多的一种降维法，叫“变量轮换法”，也称“交替法”。 例1：目标函数为： 设起始点X(0)=(0，0)T，试用变量轮换法求目标函数的极小值。 解一：先固定X(1)= x1(0) =0，则f(x2)=x22－4x2+60。对x2寻优，此为单变量函效，用二次多项式近似法寻优得x2(1)=2，f (X(1))=56。然后，固定x2= x2(1)= 2，则f (x1)= x12－12 x1 +56。对x1寻优，也用二次多项式近似法得x1(2) =6 ，f (X(2))=20。 对于N个变量的目标函数，其计算方法也类似： 第一步：给定初始点 第二步：确定有哪些信誉好的足球投注网站方向： 第三步：先固定N－1个变量，对x1求最优，得 。将x1 固定在这一点，并保持其余N－2个变量不变，对x2 求最优。每次都固定N－1个变量不变，只对一个变量求最优。当N个变量依次都寻优一次后，才完成第一轮。 第四步：下一轮再从x1 开始对各变量依次轮流寻优。 变量轮换法由此得名。又因每次对某个变量寻优时，都将其它变量固定在上一次得到的尽可能好的点上．故又称为“从好点出发法”。 (1)变量轮换法的效能在很大程度上取决于目标函数的性质。如图3-9所示。若目标函数的等高线为圆形或长短轴都平行于坐标轴的椭圆形，这种情况下独立变量称为无交互作用的，见图a；当目标函数的等高线类似于椭圆，但长短轴是倾斜时，见图b，此时称独立变量具有弱交互作用；当目标函数的等高线出现山脊时，这种方法完全无效，见图(c)，这种情况的独立变量称为强交互作用的。 (2)二元函数的求极值问题可以用爬山法来比喻，求极大点就好比登上山顶，求极小点就好比下到谷底。采用变量轮换法就好比只能轮流沿两个互相垂直的固定方向前进，当求极小值时，尽管它具有步步下降的特点，但往往路程迂回曲折，要变换方向多次。尤其在极值点附近，每次有哪些信誉好的足球投注网站的改进更小，因此称不上是一条捷径。为了改变这种局面，需要找到登山的捷径，所谓捷径就是“有利的方向”。 那么什么是“有利的方向”呢?以及如何寻找有利方向呢? 三、一阶梯度法及其C语言程序 (一)梯度法的基本思想 从上面的分析可以看到：求多变量目标函数f (X)，X=(x1，x2，…xn)T 的极小点 X*= (x1*，x2*，…，xn*)T 常常是这样进行的： 从给定的起始点X(0)出发，沿某个有利的方向P(0)进行一维有哪些信誉好的足球投注网站，求得f (X)在P(0)方向上的近似极小点X(1)，然后再从X(1)出发，沿某个新的有利方向P(1)进行有哪些信誉好的足球投注网站，求得f (X) 在P(1)方向上的近似极小点X(2) ，如此继续，直至满足给定的精度时为止。 因此，现在的主要问题是如何确定一个有利的有哪些信誉好的足球投注网站方向，沿此方向一次寻优，所得的恰好就是最小值。虽然寻优好比爬山，人们在爬山时可眼见山谷的方位，然后沿最短的路线，迅速下降。而目标函数寻优时却事先并不知道极值点的位置，也不知沿哪个方向前进最好。因此寻优更恰当的比喻应是瞎子爬山。 瞎子只能靠手杖前后探索，试探着前进，哪儿最陡，一定下降得最快。这种寻求最速下降的方向作有哪些信誉好的足球投注网站方向，一步步逼近最小点的思想就是梯度法的基本思想。 梯度法有一阶梯度法和二阶梯度法，而一阶梯度法计算较简单。 定义：以函数f (X)的n个偏导数为分量的向量称为f (X)在X处的梯度，记为： (二)一阶梯度法的计算方法 一阶梯度祛是以梯度方向作为有哪些信誉好的足球投注网站极值的方向的。由于梯度方向是该点函数变化率最大的方向，因此一阶梯度法又称为最速下降法。其计算步骤如下： 如目标函数f(X)