机械优化设计及应用教学课件 作者 樊军庆第四章.ppt

《机械优化设计及应用教学课件 作者 樊军庆第四章.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第四章无约束优化方法第一节概述研究无约束优化问题的目的：1、有些问题的数学模型本身就是一个无约束优化问题；2、通过研究无约束优化问题，为研究约束优化问题打下基础；3、有些约束优化问题的求解可以通过一系列无约束优化方法来达到。所以无约束优化问题的方法是优化设计方法的基本组成部分，也是优化方法的基础。数学模型：求n维设计变量使目标函数对没有任何限制条件对于无约束优化问题的求解，可以直接应用第二章讲述的极值条件来确定极值点位置，这就是把求函数极值问题变成求解方程的问题。即求，使其满足：数值计算方法最常用的是搜索法。基本思想：从给定的

2、初始点出发，沿某一搜索方向进行搜索，确定最佳步长，使函数值沿下降最大。依此方法按下述公式不断进行，形成迭代的下降算法。各种无约束优化方法的区别就在于确定其搜索方向的方法不同，所以搜索方向的构成是无约束优化方法的关键。是第k+1次搜索方向，称为搜索或迭代方向。它是根据数学原理由目标函数和约束条件的局部信息状态形成的。确定的方法很多，相应的确定使取极值的方法也是不同的，具体方法在一维搜索方法中已进行了讨论。根据构成搜索方向所使用的信息性质的不同，无约束优化方法可分为两类：间接法：利用目标函数的一阶或二阶导数。如：最速下降法，牛顿法

3、。直接法：利用目标函数值。如：坐标轮换法，单形替换法及鲍威尔法。第二节最速下降法优化设计是追求目标函数值最小。因此，一个很自然的想法是从某一点出发，其搜索方向取该点的负梯度方向（最速下降方向），使函数值在该点附近的范围内下降最快。按此规律不断走步，形成以下迭代的算法：由于最速下降法是以负梯度方向作为搜索方向的，所以最速下降法又称为梯度法。为了使目标函数值沿搜索方向能获得最大的下降值，其步长因子应取一维搜索的最佳步长，即：根据一元函数极值的必要条件和多元复合函数求导公式，得：即或例4-1求目标函数的极小点解：经10次迭代后讨论：

4、令即最速下降法的收敛速度和变量的尺度关系很大，这一点可以从最速下降法收敛速度的估计式上来看。在适当条件下，有：海赛矩阵最大特征值上界海赛矩阵最小特征值下界当相邻两个迭代点之间满足上式时，称相应的迭代方法具有线性收敛速度的迭代方法。因此最速下降法是具有线性收敛速度的迭代法。第三节牛顿型方法牛顿型方法和最速下降法一样，也是求解极值问题古老的算法之一。对于一元函数，牛顿迭代公式：对于多元函数f(x)，设xk为f(x)极小点x*的一个近似点，在x*处将f(x)进行泰勒展开，保留到二次项，得：设为的极小点，它作为极小点的下一个近似点。根

5、据极值的必要条件：即得这就是多元函数求极值的牛顿迭代公式。对于二次函数，上述泰勒展开式不是近似的，而是精确的。是一个常矩阵，其中各元素均为常数。因此无论从任何点出发，只需一步就可以找到极小点。牛顿方法是二次收敛的。例：用牛顿法求的极小值解：则代入牛顿法迭代公式经过一次迭代即求得极小点从牛顿迭代公式的推演中可以看到，迭代点的位置是按照极值条件确定的，其中并未含有沿下降方向搜寻的概念。因此对于非二次函数，如果采用上述牛顿法迭代公式，有时会使函数值上升，为此需对上述牛顿法进行改进，引入数学规划法的搜寻概念，提出所谓的阻尼牛顿法。称为

6、牛顿方向阻尼牛顿法采取如下迭代公式：阻尼因子可通过极小化过程求得：这样，原来的牛顿法就相当于阻尼牛顿法的步长因子取成固定值1的情况。由于阻尼牛顿法每次迭代都是在牛顿方向上进行一维搜索，这就避免了迭代后函数值上升的现象，从而保持了牛顿法二次收敛性，而对初始点的选取并没有苛刻的要求。阻尼牛顿法的计算步骤：1）给定初始点，收敛精度；2）计算3）求4）检查收敛精度，若满足，停机；否则，返回2），继续搜索。牛顿法和牛顿阻尼法统称为牛顿型法。主要缺点是每次迭代都要计算函数的二阶导数矩阵，并对该矩阵求逆，这样工作量很大，特别是矩阵求逆，当维

7、数高时工作量更大。最速下降法的收敛速度比牛顿法慢，而牛顿法又存在上述缺点，针对最速下降法，提出共轭梯度法；针对牛顿法提出变尺度法。第七节坐标轮换法坐标轮换法是每次搜索中只允许一个变量变化，其余变量保持不变。即沿坐标方向轮流进行搜寻的方法。它把多变量的优化问题轮流的转化成单变量（其余变量视为常量）的优化问题。因此又称这种方法为变量轮换法。在搜索过程中可以不需要目标函数的导数，只需目标函数值信息。特点：简单易行，但由于只能轮流沿n个坐标方向前进，因而效率低下，特别是维数较高或目标函数性态不好的情况下，收敛速度很慢。第九节单形替换法

8、基本原理：函数的导数是函数性态的反映，它对选择搜索方向提供了有用的信息。在不计算导数的情况下，先算出若干点处的函数值，从它们之间的大小关系中也可看出函数变化的大概趋势，为寻求函数的下降方向提供依据。这里所说的若干点，一般取在单纯形的顶点上。所谓单纯形是指在n维空间中具有n+1