资源描述：
《递推最小二乘估计.pptx》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、递推最小二乘估计（RLS）董博南一：最小二乘法回顾二：递推最小二乘估计一：最小二乘法回顾1：引言2：原理3：特点1801年初，天文学家皮亚齐发现了谷神星。1801年末，天文爱好者奥博斯，在高斯预言的时间里，再次发现谷神星。1802年又成功地预测了智神星的轨道。高斯自己独创了一套行星轨道计算理论。高斯仅用1小时就算出了谷神星的轨道形状，并进行了预测1794年，高斯提出了最小二乘的思想。1：引言最小二乘法(LeastSquare)Gauss1795年提出在预测卫星和彗星运动的轨道时，需要处理由望远镜获得的观测数据，以估计天体运动的六个参数。Gauss在《天
2、体运动理论》一书中写道：“未知量的最大概值是这样的数值，它使各实测值与计算值之差的平方乘以度量其精度的数值后，所得的和值达到最小。”——著名的最小二乘思想在系统辨识中，LS已成功应用于系统参数估计。在自校正控制中，LS是应用最广泛的算法之一。1：引言2：原理输入输出模型：A()y(k)=B()u(k-d)+e(k)其中=1+++……+=1+++……+d：滞后e(k)：噪声2：原理xT(k)={-y(k-1),-y(k-2),…,-y(k-),u(k-d),u(k-d-1),…,u(k-d-)}=[,,…,,,,…,]Ty(k)=xT(k)e(k)xT(
3、k):输入输出观测向量：未知参数向量e(k)：噪声记根据N次观测，对的估计为，则第k次观测时，实际观测值y(k)与估计模型计算值ym(k)=xT(k)ε(k)=y(k)-xT(k)=xT(k)（-）e(k)ε(k)---残差，也是随机变量2：原理y(k)=xT(k)e(k)ε(k)=y(k)-xT(k)=xT(k)（-）e(k)则向量矩阵方程分别为：Y=X+eε=Y-X=X(-)+e残差ε取决于参数你和误差(-)和过程噪声。所以，参数估计的最小二乘算法就是确定使最小二乘目标函数J=εTε=(Y-XT(Y-X→求出最小的。——最小二乘估计，记为LS2：原
4、理求使J=εTε=(Y-XT(Y-XJ=εTε=YTY–2(XTY)TTXTX(1):对求偏导(2)：另导数为零。(3)：=(XTX)-1XTY(4):求二阶偏导，可得:XTX,又因为XTX大于0，所以可知当=(XTX)-1XTY，J取极小值，即此时残差最小3：特点LS=(XTX)-1XTY一次估计，算法简单，使用方便，但是。。。（2）为获得精确的参数估计需要尽可能多地采集数据，计算机所需的存储容量大。（3）不适于自适应控制和基于诊断目的的过程监控。自适应控制系统——参数在线估计，新的观测数据源源不断增加，希望利用这些新的观测信息来不断改进参数估计--
5、-利用一次估计公式反复进行不现实（4）矩阵求逆费时，矩阵X的维数随着数据点数的增加而不断增加,矩阵XTX的求逆运算愈来愈困难。二：递推最小二乘估计1：引言2：原理3：特点1：引言递推估计算法的优点：（1）：无需存储全部数据，取得一组观测数据便可估计一次参数，而且都能在一个采样周期中完成，所需计算量小，占用的存储空间小。（2）：具有一定的实时处理能力2：原理引理，矩阵求逆设A、C和(A+BCD)均为非奇异方阵,则[A+BCD]-1=A-1-A-1B[C-1+DA-1B]-1DA-1推论：当D=BT时，有[A+BCBT]-1=A-1-A-1B[C-1+BT
6、A-1B]-1BTA-1当C=I时，[A+BD]-1=A-1-A-1B[I+DA-1B]-1DA-12：原理递推算法的推导：设(N)是基于到时刻N为止的所有观测数据，对N时刻的未知参数的最小二乘估计。N=(XNTXN)-1XNTYN，，，则N+1=(XN+1TXN+1)-1XN+1TYN+12：原理未知向量最小二乘递推算法为：(N+1)=(N)+k(N+1)[y(N+1)-T(N+1)+(N)]K(N+1)=P(N+1)=[I-K(N+1)xT(N+1)]P(N)试中：P(N)=XNTXN,XN=[X(1),X(2),…,X(N)]T2：原理初值的选取
7、：启动RLS时，必须给定初值(0)和P(0)法一：若已取得N组数据，则根据LS可以算出N=(XNTXN)-1XNTYNP(N)=XNTXN把算得的N，P(N)当作初值，带入递推公式进行计算2：原理初值的选取：启动RLS时，必须给定初值(0)和P(0)法二（简单）：另(0)=0，P(0)=αI（α为足够大的正数），从第一组数开始进行递推运算，从物理上看，虽然参数初值选择误差大，但校正作用也大当α→∞时，经过N次迭代后就能得到公式中表示的(N)和P(N)2：原理算法实现过程：（1）：置初值(0)，P(0)，输入初始数据。（2）：采样当前输入和输出构成xT(
8、N+1)。（3）：按照递推公式分别计算K(N+1),(N+1),P(N+1)。（4）：返回（2
