《机械优化设计方法》第4章 无约束优化方法 (上课课件).ppt

《《机械优化设计方法》第4章 无约束优化方法 (上课课件).ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、主讲教师：张彩丽机械设计制造及其自动化第4章无约束优化方法机械优化设计第4章无约束优化方法原因：数学模型本身是一个无约束优化问题。可为约束化问题的求解打下良好基础。根据构成搜索方向的不同，分为两类：导数法直接法第4章无约束优化方法4.1梯度法4.2牛顿性方法4.3共轭梯度法4.4坐标轮换法4.5鲍威尔法4.1梯度法4.1梯度法4.1.1梯度法的基本思想4.1梯度法4.1.2梯度法的具体迭代步骤及程序框图1、迭代步骤（1），ε，置k=0。（2）计算梯度（3）进行一维搜索并求新的迭代点（4）收敛判断4.1.2梯度

2、法的具体迭代步骤及程序框图2、程序框图4.1梯度法4.1.3算例用梯度法求的极小点。解：（1）任选初始点X0=[2,2]T，ε（2）计算梯度（3）进行一维搜索4.1.3算例（4）再从X1出发，重复以上步骤，经10次迭代即可趋近极小点。4.1梯度法4.1.4梯度法讨论算法简单，只用到目标函数的一阶导数，每次迭代计算工作量小，计算机的存储量也小每次迭代都是目标函数的最速下降方向，故不管初始点取在何处，在开始的几次迭代中，目标函数值下降幅度很大。可在接近极小点时，目标函数值却下降很慢。4.1.4梯度法讨论为什么？梯

3、度仅是函数在某一点的局部性质4.1.4梯度法讨论梯度法在极小点附近的收敛速度很慢，故工程设计中很少单独使用梯度法求解无约束优化问题。但由于该法迭代过程很简单，计算工作量小，初始点可任选、收敛可靠等，常将梯度法和其他方法结合起来使用。4.1.4梯度法讨论梯度法的收敛速度与设计变量的尺度关系很大。对一般函数，梯度法的收敛速度较慢。但对等值线为同心圆的目标函数，一次搜索即可达到极小点。若能通过点的坐标变换，改善目标函数的性态，就可提高梯度法的收敛速度。4.2牛顿性方法4.2牛顿型方法4.2.1牛顿法的基本思想先将f

4、(X)在点Xk附近作泰勒展开，取二次近似函数式；然后求二次函数的极小点，以该极小点作为原目标函数的近似极小点。若不满足精度要求，以此近似极小点作为下一次迭代的初始点，继续以上过程到满足精度要求为止。4.2牛顿性方法4.2.2牛顿法的迭代公式及迭代过程1、牛顿法的迭代公式若f(X)是二次函数，则X*就是f(X)的极小点；否则只是一个近似点，需进一步迭代。4.2.2牛顿法的迭代公式及迭代过程故牛顿法的迭代公式为：即牛顿法迭代公式中没有步长因子αk。对非二次型函数，有时会出现函数值上升的情况。说明牛顿法不能保证函数

5、值的稳定下降，严重情况下可能造成迭代点的发散而导致计算失败。4.2.2牛顿法的迭代公式及迭代过程阻尼牛顿法的迭代公式为：牛顿方向2、阻尼牛顿法的迭代过程（1）给定X0，ε，并置k=0；（2）计算并构造搜索方向；（3）求新的迭代点Xk+1。（4）检查收敛精度。若满足则停机；否则返回到（2）继续进行搜索。4.2.2牛顿法的迭代公式及迭代过程3.阻尼牛顿法的迭代程序框图4.2牛顿性方法4.2.3实例例：用牛顿法求的极小值。解：取初始点X0=[2,2]T4.2.4牛顿法的特点1、牛顿法不仅用了函数的一阶导数信息，还用

6、了函数的二阶导数信息，故其收敛速度较梯度法快得多。2、牛顿法要计算海赛矩阵及其逆阵，计算存储量大，且以维数平方比例增加。若海赛矩阵为奇异阵时，其逆矩阵不存在，此时牛顿法不能用。4.2牛顿性方法4.3共轭梯度法4.3共轭梯度法4.3.1共轭方向1、共轭方向的定义4.3.1共轭方向2、共轭方向的重要性结论：任意形式的目标函数在极值点附近的特性，都近似于一个二次函数。故以正定二元二次函数为例说明共轭方向对于构造一种有效的最优化算法的重要性。4.3.1共轭方向若欲使X2成为极小点，则根据极值的必要条件：由梯度法分析，

7、知点X1的梯度必与方向S0垂直4.3.1共轭方向给上式两边同时乘共轭方向对于求解二次函数的有效性。4.3.1共轭方向3、共轭方向的性质（1）若Si(i=1,2,…,n)是以H共轭的n个向量，则对于正定二次函数，从任意初始点X0出发，依次沿这n个方向进行一维搜索，最多n次就可达到二次函数的极小点。（2）从任意2个点出发，分别沿同一方向S0进行2次一维搜索，得到2个一维极小点，连接两点构成向量，该向量与原方向关于该函数的二阶导数矩阵相共轭。以共轭方向作为搜索方向的算法称共轭方向法。4.3共轭梯度法4.3.2共轭方

8、向的产生1、平行搜索法产生共轭方向4.3.2共轭方向的产生2、向量组合法（1）基向量组合欲使S1和S0关于共轭，必须4.3.2共轭方向的产生4.3.2共轭方向的产生（2）梯度组合根据共轭条件4.3.2共轭方向的产生令f(X)为函数的泰勒二次展开式，则4.3共轭梯度法4.3.3共轭梯度算法1、共轭梯度法的迭代步骤（1）给定初始点X0和收敛精度ε＞0。（2）取X0的负梯度作为搜索方向，置k=0。4.3.