最小均方算法

《最小均方算法》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、共19页河南理工大学数学与信息科学学院本科毕业资料翻译第19页第3章最小均方算法3．1引言最小均方(,least-mean-square)算法是一种搜索算法，它通过对目标函数进行适当的调整[1]—[2],简化了对梯度向量的计算。由于其计算简单性，算法和其他与之相关的算法已经广泛应用于白适应滤波的各种应用中[3]-[7]。为了确定保证稳定性的收敛因子范围，本章考察了算法的收敛特征。研究表明，算法的收敛速度依赖于输入信号相关矩阵的特征值扩展[2]—[6]。在本章中，讨论了算法的几个特性，包括在乎稳和非平

2、稳环境下的失调[2]—[9]和跟踪性能[10]-[12]。本章通过大量仿真举例对分析结果进行了证实。在附录B的B．1节中，通过对算法中的有限字长效应进行分析，对本章内容做了补充。算法是自适应滤波理论中应用最广泛的算法，这有多方面的原因。算法的主要特征包括低计算复杂度、在乎稳环境中的收敛性、其均值无俯地收敛到维纳解以及利用有限精度算法实现时的稳定特性等。3．2LMS算法在第2章中，我们利用线性组合器实现自适应滤波器，并导出了其参数的最优解，这对应于多个输入信号的情形。该解导致在估计参考信号以时的最小均

3、方误差。最优(维纳)解由下式给出：其中，且，假设和联合广义平稳过程。如果可以得到矩阵R和向量p的较好估计，分别记为和，则可以利用如下最陡下降算法搜索式(3．1)的维纳解：其中，k＝0，1，2，…,表示目标函数相对于滤波器系数的梯度向量估计值。一种可能的解是通过利用R和p的瞬时估计值来估计梯度向量，即共19页河南理工大学数学与信息科学学院本科毕业资料翻译第19页得到的梯度估计值为注意，如果目标函数用瞬时平方误差而不是MSE代替，则上面的梯度估计值代表了真实梯度向量，因为由于得到的梯度算法使平方误差的均

4、值最小化．因此它被称为算法，其更新方程为其中，收敛因子应该在一个范围内取值，以保证收敛性。图3．1表示了对延迟线输入的LMS算法实现。典型情况是，算法的每次迭代需要N+2次乘法(用于滤波器系数的更新)，而且还需要N+1次乘法(用于产生误差信号)。算法的详细描述见算法3．1共19页河南理工大学数学与信息科学学院本科毕业资料翻译第19页图3．1自适应RH滤波器算法3．1LMS算法Initialization需要指出的是，初始化并不一定要像在算法3.1小那样将白适应滤波器的系数被创始化为零：比如，如果知道

5、最优系数的粗略值，则可以利用这些值构成w(0)，这样可以减少到达的邻域所需的迭代次数。共19页河南理工大学数学与信息科学学院本科毕业资料翻译第19页3．3LMS算法的一些特性在本节中，描述丁在平稳环境下与算法收敛特性相关的主要特性。这里给出的信息对于理解收敛因子对算法的各个收敛方面的影响是很重要的。3．3．1梯度特性正如第2章中所指出的(见式(2.79))，在MSE曲面上完成搜索最优系数向量解的理想梯度方向为在LMS算法中，利用R和p的瞬时估计值确定搜索方向，即正如所期望的，由式(3．8)所确定的方

6、向与式(3.7)所确定的方向很不同。因此，当通过利用算法计算更加有效的梯度方向时，收敛特性与最陡下降算法的收敛特性并不相同。从平均的意义上讲，可以说梯度方向具有接近理想梯度方向的趋势，因为对于固定购系数向量w，有因此，向量可以解释为的无偏瞬时估计值。在具有遍历件的环境中，如果对于一个固定的w，利用大量的输入和参考信号来计算向量，则平均方向趋近于，即3．3．2系数向量的收敛特性假设一个系数向量为w。的未知FIR滤波器，被一个具备相同阶数的白适应FIR滤波器利用算法进行辨识。在未知系统输出令附加了测量白

7、噪声n(k)，其均值为零，方差为。在每一次迭代中，自适应滤波器系数相对于理想系数向量，的误差由N+1维向量描述：共19页河南理工大学数学与信息科学学院本科毕业资料翻译第19页利用这种定义，算法也可以另外描述为其中，为最优输出误差．它由下式给出：于是，系数向量中的期望误差为假设的元素与和的元素统计独立，则式(314)可以简化为如果我们假设参数的偏差只依赖于以前的输入信号向量，则第一个假设成立，而在第二个假设中，我们也考虑了最优解对应的误差信号与输入信号向量的元素正交。由上述表达式可得如果将式(3．15

8、)左乘(其中Q为通过一个相似变换使R对角化的酉矩阵)，则可以得到共19页河南理工大学数学与信息科学学院本科毕业资料翻译第19页其中，为旋转系数误差向量。应用旋转可以得到一个产生对角矩阵的方程，从而更加易于分析方程的动态特性。另外．上述关系可以表示为该方程说明．为了保证系数在平均意义上收敛，LMS算法的收敛因子必须在如下范围内选取：其中，为R的最大持征值。在该范围内的值保证了当时，式(3．18)中对角矩阵的所有元素趋近于零．这是因为对于＝0，l，…,N，有。因此，对于较