优化设计数学基础.ppt

《优化设计数学基础.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第二章优化设计的数学基础2.1多元函数的方向导数与梯度2.2多元函数的泰勒展开2.3无约束优化问题的极值条件2.4凸集、凸函数与凸规划2.5等式约束优化问题的极值条件2.6不等式约束优化问题的极值条件2.1多元函数的方向导数与梯度一、方向导数2.1多元函数的方向导数与梯度2.1多元函数的方向导数与梯度2.1多元函数的方向导数与梯度2.1多元函数的方向导数与梯度2.1多元函数的方向导数与梯度2.1多元函数的方向导数与梯度2.1多元函数的方向导数与梯度2.1多元函数的方向导数与梯度求函数在点和处的梯度。解：在点梯度方向2.1多元函数的

2、方向导数与梯度求目标函数在点处的最速下降方向，并求沿这个方向移动一个单位长度后新点的目标函数值解：新点是：2.2多元函数的泰勒展开2.2多元函数的泰勒展开2.2多元函数的泰勒展开2.2多元函数的泰勒展开2.2多元函数的泰勒展开2.2多元函数的泰勒展开2.3无约束优化问题的极值条件若目标函数f(x)处处存在一阶导数，则极值点的必要条件一阶偏导数等于零，即满足此条件仅表明该点为驻点，不能肯定为极值点，即使为极值点，也不能判断为极大点还是极小点，还得给出极值点的充分条件设目标函数在点至少有二阶连续的偏导数，则在这一点的泰勒二次近似展开式

3、为：2.3无约束优化问题的极值条件泰勒展开写成向量矩阵形式∵∵2.3无约束优化问题的极值条件2.3无约束优化问题的极值条件（1）▽F(X*)=0；必要条件（2）Hesse矩阵G(X*)为正定。充分条件为无约束极小点的充分条件其Hesse矩阵G(X*)为正定的。则极小点必须满足为无约束优化问题的极值条件多元函数f(x)在处取得极值，则极值的条件为考虑二元函数在处取得极值的充分必要条件。各阶主子式大于零例：求函数的极值2.3无约束优化问题的极值条件2.4凸集、凸函数与凸规划前面我们根据函数极值条件确定了极小点则函数f(x)在附近的一切

4、x均满足不等式所以函数f(x)在处取得局部极小值，称为局部极小点。而优化问题一般是要求目标函数在某一区域内的全局极小点。函数的局部极小点是不是一定是全局极小点呢？2.4凸集、凸函数与凸规划2.4凸集、凸函数与凸规划一、凸集的线段都全部包含在该集合内，就称该点集为凸集，否则为非凸集。一个点集（或区域），如果连接其中任意两点2.4凸集、凸函数与凸规划2.4凸集、凸函数与凸规划2.4凸集、凸函数与凸规划2.4凸集、凸函数与凸规划2.4凸集、凸函数与凸规划2.4凸集、凸函数与凸规划凸规划的性质：1.若给定一点，则集合为凸集。2.可行域为凸

5、集2.4凸集、凸函数与凸规划2.5等式约束优化问题的极值条件约束优化等式约束不等式约束求解这一问题的方法消元法拉格朗日乘子法2.5等式约束优化问题的极值条件2.5等式约束优化问题的极值条件二、拉格朗日乘子法（升维法）对于具有L个等式约束的n维优化问题处有将原来的目标函数作如下改造：拉格朗日函数待定系数2.5等式约束优化问题的极值条件新目标函数的极值的必要条件2.5等式约束优化问题的极值条件用拉格朗日乘子法计算在约束条件的情况下，目标函数的极值点坐标2.5等式约束优化问题的极值条件2.6不等式约束优化问题的极值条件不等式约束的多元函

6、数的极值的必要条件：库恩-塔克（Kuhn-Tucker）条件一、一元函数在给定区间上的极值条件一元函数f(x)在给定区间[a,b]上的极值问题，可以写成下列具有不等式约束条件的优化问题：拉格朗日乘子法，除了可以应用于等式的极值问题，还可以用于不等式的极值问题。2.6不等式约束优化问题的极值条件需引入松弛变量，将不等式约束变成等式约束。设a1和b1为两个松弛变量，则上述的不等式约束可写为：则该问题的拉格朗日函数2.6不等式约束优化问题的极值条件根据拉格朗日乘子法，此问题的极值条件：由（起作用约束）2.6不等式约束优化问题的极值条件同

7、样，来分析起作用和不起作用约束。因此，一元函数在给定区间的极值条件，可以表示为：库恩-塔克条件分析极值点在区间的位置，有三种情况对于一元函数：2.6不等式约束优化问题的极值条件当时，此时则极值条件为：当时，此时则极值条件为即当时，此时，则极值条件为即2.6不等式约束优化问题的极值条件从以上分析可以看出，对应于不起作用的约束的拉格朗日乘子取零值，因此可以引入起作用约束的下标集合。一元函数在给定区间的极值条件，可以改写为：极值条件中只考虑起作用的约束和相应的乘子。2.6不等式约束优化问题的极值条件用起作用约束的下标集合表示仿照一元函数

8、给定区间上极值条件的推导过程，可以得到具有不等式约束多元函数极值条件：2.6不等式约束优化问题的极值条件用梯度形式表示，可得或库恩-塔克条件的几何意义：在约束极小点处，函数的负梯度一定能表示成所有起作用约束在该点梯度的非负线性组合。2.6不等式约束