系统辩识 第6章.ppt

《系统辩识 第6章.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、6.1引言6.2最小二乘估计法（LS法）的原理6.3最小二乘估计的统计特性6.4加权最小二乘估计6.5最小二乘估计的递推算法6.6辅助变量法（IV法）6.7广义最小二乘法（GLS法）6.8增广最小二乘法（ELS法）6.9最小二乘辨识法的比较第六章最小二乘法估计系统参数16.1引言最小二乘法的提出和应用最早可以追溯到1795年。著名学者高斯在预测行星和彗星的运动轨道时，提出并实际使用了这个方法。从此，最小二乘法就被用于解决许多技术问题，针对它的各种应用场合提出了相应的数值计算方法。对于最小二乘法的性质，也曾经多次进行了分析，根据各种特定的要求，对最小二乘法本身也进行

2、了修改，提出了很多种方法，如：增广最小二乘法广义最小二乘法辅助变量法相关二重法极大似然法……2在系统辨识和参数估计领域中，最小二乘法已经是这个领域中的一种基本估计方法。最小二乘法可用于动态系统，也可用于静态系统，可用于线性系统，也可用于非线性系统，可用于离线估计，也可用于在线估计。在随机的环境下利用最小二乘法时，要求观测数据提供出概率统计方面的信息，用这种方法所获得的估计结果，有较好的统计特性。最小二乘法容易理解和掌握，利用最小二乘法所确定的辨识算法在实施上比较简单，在一些问题用其它辨识方法失效时，用最小二乘法可以提供解决方案，所以它频受人们重视，应用相当

3、广泛。用最小二乘法解决问题的方式有两种方式，一种是经典的一次完成的批量算法，一种是现代的递推算法。前者在理论研究方面比较方便，后者更适用于计算机在线辨识。36.2最小二乘估计法（LS法）的原理为了建立对最小二乘法的整体认识，在此基础上更深入地完整掌握最小二乘法的一般原理，我们通过一个例子引入这个估计的方法。例：我们希望确定一根金属轴的长度与温度之间的关系。设：金属轴的长度为y，金属轴的温度为t，希望获得那么我们的做法是分两步走：第一步：根据实验观测数据或理论知识寻找一个函数去拟合这些数据，确定y和t之间关系的数学模型及模型结构。第二步：根据实验观测数据来确定数学函

4、数关系式中（也就是模型中）的未知参数。4对于我们所讨论的问题，假若已经确定了模型的类型和结构，即为：其中:为0°时轴的长度为膨胀系数和是未知参数，为待估计参数一般情况下，如果测量无误差，则取两个不同温度t下的轴长度测量值y，即可列出两个方程，从而计算出a和b。但是实际上，由于种种原因，我们不可能获得真正的金属轴的长度，而观测到数据中包含了不可观测的随机测量噪声，如第i次观测值为：测量值真值随机误差5为了降低误差的影响，需进行多次测量，即取温度下的观测数据来估计出所选模型中的a和b。那么根据什么原则来确定a和b呢?显然希望是由所确定的或者说是估计出来的计算出的输出值

5、与测量值z之间的误差最小。每次观测误差为：如果用所有误差相加来描述总误差，会出现正、负误差抵消，将不可能获得整个观测误差的情况。如果用绝对值之和来描述总误差，虽然可以获得整个观测误差的情况，但是将来数学处理起来比较麻烦。6当然我们希望，将这个函数定义成准则，而且令：也就是选取a和b，使每个误差的平方和J的值最小。因此，用每个误差的平方和作为总误差，即：由于平方运算也称为“二乘”运算，因此，按照这种原则来估计参数a和b的方法，通常称为“最小二乘估计法”。7根据数学分析中寻求极值的原理，要使J达到极小值，只需要这样，和可由下面方程确定：8从而得到9上面的例子是最简单的

6、情况，所列的数学模型为两个参数的静态模型。在大多数情况下，影响因素不是一个，可能是多个，需要估计的参数有可能不止一个，两个，可能是多个，而系统特性除了静态模型外，还有动态模型。下面我们来看一下一般情况下的最小二乘估计法的描述。首先我们看一下对系统的描述方法，也就是说，系统模型的表达方式。一般我们把被辨识系统看成“黑箱”，也就是只考虑系统的输入输出特性，而不强调系统的内部机理。10在这里，“黑箱”的输入u(k)和输出z(k)是可观测的。——用来描述系统的输入输出特性，称为系统模型。——为系统的综合噪声的描述，称为噪声模型。其中：11噪声模型的输出——综合的不确定因素

7、可看成为平稳的有理函数。的随机序列，且均值为零，谱密度所以有：可看成为白噪声。不同的辨识方法，选取的模型结构也不太一样，比如说，对于最小二乘估计法，所用的模型是：对于增广最小二乘估计法，所用的模型是：对于广义最小二乘法，所用的模型是：12假设被辨识系统的数学模型为时不变的单输入单输出的数学模型可以写成：其中：——输入变量——观测输出变量——方程误差ｋ=1,2,3,…,N设na、nb已知，通常na>nb，可以设为na=nb=n若在不同的时刻ｋ＝0,1,2,3,…,N，对系统进行N次观测，每次得到所有的输入和输出。这些输入和输出的观测数据可由N个线性方程联系起来。13

8、ｋ=1，2