优化的设计数学基础ppt课件.ppt

《优化的设计数学基础ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、第二章优化设计的理论基础第三周1优化设计中绝大多数是多变量有约束的非线性规划问题，即是求解多变量非线性函数的极值问题。由此可见，优化设计是建立在多元函数的极值理论基础上的，对于无约束优化问题为数学上的无条件极值问题，而对于约束优化问题则为数学上的条件极值问题。为便于后续各章优化方法的学习，有必要研究这些非线性函数的性质和变化规律。22.1函数的泰勒(Taylor)表达式工程设计的优化问题中，所列的目标函数往往很复杂，为了简化问题，常将目标函数在所讨论点附近展开成泰勒多项式来近似原函数。一元函数f(x)在点X(k)的某个领域内具有直到

2、（n+1）阶导数，其Taylor展开式可表示为一个多项式与一个余项的和：3多元函数f(x),X=[x1,x2,…,xn]T,在x(k)点的Taylor展开式为：矩阵形式为：4称为f(X)在点x(k)的梯度,它是f(X)在该点的一阶偏导数的列向量。称为f(X)在点x(k)的Hessian矩阵,它是f(X)在该点的二阶偏导数所组成的方阵。它是一个实对称矩阵，也记作H(x(k))。5Taylor展开式若取到二次项，函数可近似用一个二次函数来逼近，称为平方近似：若只取一次项，可得到函数的一次Taylor近似式：该式也称为线性展开式或函数的线

3、性化。62.2二次型与正定矩阵一、二次型与实对称矩阵将关于变量x1,x2,…,xn的二次齐次函数称为x1,x2,…,xn的二次型。用矩阵表示，则上述二次型可表示为：其中：为n阶实对称矩阵。7二、正定矩阵若任何一个非零向量X=[x1,x2,…,xn]T都使二次型则称该二次型为正定二次函数,称矩阵A为正定矩阵。反之，如果实对称矩阵A是正定的，则二次型对于所有非零向量X，其值总为正。若二次型则A为半正定矩阵；若二次型则A为负定矩阵；若二次型则A为半负定矩阵；若二次型有些X使它为正,有些X使其为负,则A为不定矩阵。8判断矩阵A是正定或负定的

4、方法：若矩阵A的行列式

5、A

6、的各阶顺序主子式都大于零，即：则矩阵A为正定矩阵。若矩阵A的行列式

7、A

8、的各阶顺序主子式负、正交替地变换符号，则矩阵A为负定矩阵。92.3函数的等值面或线对一般的二次函数若，则其等值线为椭圆族；若，则其等值线为双曲线族；若，则其等值线为抛物线族；若目标函数是线性的，则其等值线是一族平行线。对于二次函数，若有极值点存在，则在该点附近的等值线为一族同心椭圆。对高次非线性函数，等值线形状复杂，有时不只一个线族中心。例如：10123450123-1-2有两个等值线族心。112.4函数的最速下降方向函数的等值线或面

9、只能从几何图形方面定性地表示函数值的变化情况，如何定量反映函数在某点的变化形态？方向导数函数f(x1,x2)在X(0)处沿某一方向S的变化率：12上式称为函数f(x1,x2)在X(0)点处沿方向S的方向导数。式中：为向量S的模分别为向量S与x1,x2轴的夹角。当时当时偏导数是方向导数的特例13n元函数f(x1,…,xn)在X(0)点处沿方向S的方向导数:其中为函数在X(0)的梯度为一个单位向量14函数在某点沿一方向的方向导数等于函数在该点处的梯度与方向单位向量的内积。写成向量模的形式：当所取方向同梯度的方向相同，方向导数为最大值。梯

10、度方向是函数值增长最快的方向。当所取方向为梯度向量的负方向时，,方向导数最小。负梯度方向为目标函数在该点的最速下降方向。15对于一般二元二次函数令则梯度公式162.5凸集、凸函数一、局部最优和全局最优函数极值点是局部区域中各点相比较而言。当点X*邻近的所有点X都满足：称X*和f(X*)分别为局部极小点和局部极值。局部最优点可能有多个，例如：最优化问题是求全域最优解。17二、凸集1、函数的凸性函数的凸性表现为单峰性。2、凸集定义：设集合DEn，若任意两点X(1)D,X(2)D,所连成的线段上的点X对任意实数a[0,1]都在集合

11、D内，则称集合为凸集，否则称为非凸集。凸集非凸集非凸集183、凸函数D为En中的一个凸集，f(x)为定义在D上的函数，若对任意实数和D中任意两点X(1),X(2)都有则称函数f(x)为定义在D上的一个凸函数。凸函数的性质：19202.6约束函数的性质1.约束函数的集合满足所有约束条件的点X组成的集合称为约束函数的集合，可表示为：式中gu(X)和hv(X)为连续的，q

12、等式约束形成的可行域是一个(n-q)维的光滑超曲面。如果约束函数都是线形函数，则D必是一个凸集。212.适时约束定义：可行点X(k)落在代表一个不等式约束g(X)≤0的约束边界上，即X(k)使该约束g(X(k))=0，则称这个约束为点