机械优化设计方法第五章多变量无约束优化方法

《机械优化设计方法第五章多变量无约束优化方法》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第五章多变量无约束优化方法5-1概述¡无约束最优化问题是：求n维设计变量X=[x1,x2,…,xn]T使目标函数为minf(X)，而对X没有任何限制；如果存在X*,使minf(X)=f(X*)分别称X*为最优点，f(X*)为最优值。¡无约束最优化方法归纳起来可分为两大类。¡一类是只需要进行函数值的计算与比较来确定迭代方向和步长的直接搜索法，简称直接法；¡另一类则是要利用函数的一阶或二阶偏导数矩阵来确定迭代方向和步长的间接法。直接搜索法与间接法相比，收敛速度较慢，但它不要求函数具有好的解析性质,适用范围

2、较广。¡属直接法的有变量（坐标）轮换法、单纯形法、共轭方向法和鲍威尔(Powell)法等¡属间接法的梯度法、共轭梯度法、牛顿法和变尺度法等。¡无约束优化方法虽然种类很多，但一般由以下四个部分组成。¡(1)选择一个初始点X(0),这一点越靠近局部极小点X*越好。¡(2)如已取得某设计点X(k)(k＝0，1，2，…)，并且该点还不是近似极小点，则在X(k)点根据函数f(X)的性质，选择一个方向S(k)，沿此方向搜索函数值应是下降的，称S(k)为下降方向。¡(3)当搜索方向S(k)确定以后，由X(k)点出发

3、，沿S(k)方向进行搜索，定出步长因子α(k)，得新设计点X(k+1)=X(k)+α(k)S(k)并满足f(X(k+1))＜f(X(k))。具有这种性质的算法称为下降算法。α(k)可以是一维搜索方法确定的最优步长因子，亦可用其他方法确定。¡(4)若新点X(k+1)满足迭代计算终止条件，则停止迭代，X(k+1)点就作为近似局部极小点X*；否则，又从X(k+1)点出发，返回第(2)步继续进行搜索迭代。如何产生这些搜索方向——成为各种无约束优化方法的主要特征。5-2变量轮换法¡一、变量轮换法的原理与计算方法

4、¡变量轮换法又称坐标轮换法，它是把一个n维无约束最优化问题转化为依次沿相应的n个坐标轴方向的一维最优化问题，并反复进行若干轮循环选代来求解的直接搜索方法。设二元目标函数f(X)=f(x1,x2)。其等值线示于图中。任选一个初始点X(0)作为第一轮的始点X0(1)X1(1)=X0(1)+α1(1)e1X2(1)=X1(1)+α2(1)e2对该二维问题，经过沿e1、e2两次一维搜索称为完成了一轮迭代。第二轮迭代则是以第一轮迭代的末点X(1)作为第二2轮迭代的起始点。X(2)=X(2)+α(2)e1011X

5、(2)=X(2)+α(2)e2122最后的迭代点必将逼近该二维目标函数的最优点。二、迭代过程及算法框图¡根据上述原理，对于第k轮计算，变量轮换法迭代公式为¡Xi(k)=Xi-1(k)+αi(k)Si(k)(i=1,2,…,n)¡式中Si(k)----搜索方向；¡αi(k)----步长因子。¡Si(k)轮流取n维空间各坐标轴的单位向量ei(i=1,2,…,n)，即0kSe1ii0αi(k)取正值或负值均可,但必须使f(Xi(k))＜f(Xi-1(k))，步长因

6、子的选取：搜索步长或步长因子通常有如下两种取法：1、加速步长法加速步长法是以成倍数增加的试验步长来寻找新点的方法。2、最优步长法。每次沿一个坐标轴方向搜索时，利用一维搜索法确定最优步长αi(k)，即在第k轮的第i次迭代中，其最优步长αi(k)使minf(Xi-1(k)+α(k)Si(k))=f(Xi-1(k)+αi(k)Si(k))变量轮换法的具体迭代步骤如下：(1)给定初始点X(0)∈Rn，迭代精度ε，维数n，Si(1)=ei(i=1,2,…,n)。(2)置1→k。(3)置1→i。(4)置X(0)→

7、Xi-1(k)。(5)从Xi-1(k)点出发，沿Si(k)方向进行关于α(k)的一维搜索，求出最优步长α(k)，使f(Xi-1(k)+αi(k)Si(k))=minf(Xi-1(k)+α(k)Si(k))置Xi-1(k)+αi(k)Si(k))→Xi(k)。(6)判别是否满足i＝n?若满足则进行步骤(7)；否则置i+1→i返回步骤(5)。(7)检验是否满足迭代终止条件‖Xn(k)-X0(k)‖≤ε?若满足，迭代停止，得到Xn(k)为最优点，输出Xn(k)→X*，f(Xn(k))→f(X*)；否则置Si

8、(k)→Si(k+1)(i=1,2,…,n)，Xn(k)→X(0)，k+1→k，返回步骤(3)。变量轮换法的算法框图如图5-2所示。1、用变量轮换法寻优就像是沿两个垂直的个固定方向前进，虽然目标函数值是步步降低，但所走的“路”太曲折，所以该方法收敛速度较慢。2、变量轮换法的效能与目标函数的维数有关，当维数增加时效率下降，一般适用于n＜10的低维优化问题。3、这种方法的效能在很大程度上还取决于目标函数的性质。5-3原始共轭方向法¡一、共轭方向的基本概念¡关