1、RLS和LMS自適應(yīng)算法分析摘要：本文主要介紹了自適應(yīng)濾波的兩種算法：最小均方(LMS, LeastMean Squares)和遞推最小二乘(RLS, Recursive Least Squares)兩種基 本自適應(yīng)算法。我們對這兩種基本的算法進(jìn)行了原理介紹，并進(jìn)行了 Matlab仿真。通過仿真結(jié)果，我們對兩種自適應(yīng)算法進(jìn)行了性能分析， 并對其進(jìn)行了比較。用Matlab求出了 LMS自適應(yīng)算法的權(quán)系數(shù)，及 其學(xué)習(xí)過程曲線，和RLS自適應(yīng)權(quán)系數(shù)算法的學(xué)習(xí)過程。關(guān)鍵詞：自適應(yīng)濾波、LMS、RLS、Matlab仿真Abstract: this article mainly in troduces t

2、wo kinds of adaptive filteri ng algorithms: Least Mean square (LMS), further Mean Squares) and Recursive Least Squares (RLS, Recursive further Squares) two basic adaptive algorithm. Our algorithms of these two basic principle is introduced, and Matlab simulation. Through the simulation results, we h

3、ave two kinds of adaptive algorithm performa nee an alysis, and carries on the comparison. Matlab calculate the weight coefficient of the LMS adaptive algorithm, and its learning curve, and the RLS adaptive weight coefficient algorithm of the learning process.Keywords:, LMS and RLS adaptive filter,

4、the Matlab simulation課題簡介：零均值、單位方差的白噪聲通過一個二階自回歸模型產(chǎn) 生的AR過程。AR模型的系統(tǒng)函數(shù)為：1H(Z)= 1-1.6Z 0.8Z，假設(shè)印=-1.6, a2 =0.8將系統(tǒng)函數(shù)轉(zhuǎn)化為差分方程為：x(n)二-aix( n _ 1) _ a?( n _ 2)w(n)其中w(n)為白噪聲，參數(shù)a1 =-1.6, a2 =0.8。激 勵源是白噪聲w(n)。本文用Matlab仿真做出了模型系數(shù)的收斂過程及平均的學(xué)習(xí)曲線 分別用LMS算法和RLS算法，分別做出了模型系數(shù)的收斂過程及學(xué)習(xí)曲線，還對兩種算法的特性進(jìn)行了對比引言：由于隨機(jī)信號的未知性和隨時間變化的統(tǒng)計

5、特性，需要設(shè)計 參數(shù)隨時間變化的濾波器算法，即所謂的自適應(yīng)濾波。它是利用前一時刻 以獲得的濾波器參數(shù)的結(jié)果，自動的調(diào)節(jié)現(xiàn)時刻的濾波器參數(shù)，以適應(yīng)信號和噪 聲未知的或隨時間變化的統(tǒng)計特性，從而實現(xiàn)最優(yōu)濾波。自適應(yīng)濾波器的特性變化是由自適應(yīng)算法通過調(diào)整濾波器系數(shù)來實現(xiàn)的。不 同的自適應(yīng)濾波器算 法，具有不同的收斂速度、穩(wěn)態(tài)失調(diào)和算法復(fù)雜度。自適應(yīng)濾波算法中利用了輸出反饋，屬于閉環(huán)算法。其優(yōu)點(diǎn)是能 在濾波器輸入變化時保持最佳的輸出，而且還能在某種程度上補(bǔ)償濾 波器元件參數(shù)的變化和誤差以及運(yùn)算誤差。但其缺點(diǎn)是存在穩(wěn)定性問 題以及收斂速度不高。所以探討如何提高收斂速度、增強(qiáng)穩(wěn)定性以滿 足信號處理的高效性

6、、實時性，一直是人們研究的重點(diǎn)和熱點(diǎn)。本文 基對比研究了兩類基本的自適應(yīng)算法LMS和RLS，并對它們權(quán)系數(shù) 的收斂過程及學(xué)習(xí)過程進(jìn)行了分析。LMS原理分析：LMS算法是自適應(yīng)濾波器中常用的一種算法與維納算法不同的是其系統(tǒng) 的系數(shù)隨輸入序列而改變。維納算法中截取輸入序列自相關(guān)函數(shù)的一段構(gòu)造系統(tǒng) 的最佳系數(shù)。而LMS算法則是對初始化的濾波器系數(shù)依據(jù)最小均方誤差準(zhǔn)則進(jìn) 行不斷修正來實現(xiàn)的。因此理論上講 LMS算法的性能在同等條件下要優(yōu)于維納 算汶 是LMS訂法是兒 個初始化伉衍血丄進(jìn)片逐加抑榕得別的 因此 矗系統(tǒng)進(jìn)入穩(wěn)定之前行一個調(diào)整的時間這個時間受到算法步長因子卜的控制 在一定值范田內(nèi)增大卩會械小

7、調(diào)整時間但超過這個值范田時系統(tǒng)不冉收斂 J的最大取值為R的跡。LMS采用平方誤差最小的原則代替均方誤差最小的原 則，信號基本關(guān)系如下：N Jy(n)二為 Wi(n)x(n -i)0e(n) =d(n) -y(n)wi(n 1) =wd n) 2e( n)x( ni)寫成矩陣形式為：y(n) =WT( n)X( n)e(n) =d(n) -y(n)W(n 1) =W( n) 2e(n )X( n)式中 W(n)為 n 時刻自適應(yīng)濾波器的權(quán)矢量W(n) =wo(n), wi(n), w?(n)Wn(n)TN為自適應(yīng)濾波器的階數(shù)。X(n)為n時刻自適應(yīng)濾波器的參考輸入矢 量，由最近的 N 個信號的采

8、樣值構(gòu)成，X(n)=x(n),x(nJx(n-N-1)T。d( n)是期望的輸出值；e( n)為自適應(yīng) 濾波器的輸出誤差調(diào)節(jié)信號；卩是控制自適應(yīng)速度與穩(wěn)定性的增益常 數(shù)。3LMS的算法流程圖：tRLS算法原理分析：為遺忘因子，它是小于1的正數(shù)d（n）:參考信號或期望信號w（n）第n次迭代的權(quán)值S）均方誤差按照如下準(zhǔn)則：n；(n) _、.n 上e2(k)min越舊的數(shù)據(jù)對；(n)的影響越小。對濾波器的系數(shù)w求偏導(dǎo)，并令結(jié)果 等于0知型=-2、，n“e(k)x(k)=O:wk衛(wèi)整理得到標(biāo)準(zhǔn)方程為：nn遲 X1x(k)xT (k)w =遲 XnJsd (k)x(k)k =0k=0定義：nn _kR(

9、n)八，d(k)x(k)kTnP(n )= nAd(k)x(k)kT標(biāo)準(zhǔn)方程可以簡化為：R(n )w = P(n)經(jīng)求解可以得到迭代形式：R(n 1) = R( n) x(n 1)xT (n 1)P(n 1)P(n) d(n 1)x(n 1)定義：T(n)=R(n)，則可知T的迭代方程為：T(n)4(n -1) x(n)xT(n)廣系數(shù)的迭代方程為w(n) = w( n-1) k( n)e( n|n-1)其中增益k(n)和誤差e( n|n)的定義分別為:e(n | n-1) = d(n) - wT (n -1) x( n)k(n)=T(n -1)x(n)xT (n)T(n- 1)x(n)參數(shù)遞

10、推估計，每取得一次新的觀測數(shù)據(jù)后，就在前次估計結(jié)果 的基礎(chǔ)上，利用新引入的觀測數(shù)據(jù)對前次估計的結(jié)果，根據(jù)遞推算法 進(jìn)行修正，減少估計誤差，從而遞推地得出新的參數(shù)估計值。這樣， 隨著新觀測數(shù)據(jù)的逐次引入，一次接一次地進(jìn)行參數(shù)估計，直到參數(shù) 估計值達(dá)到滿意的精確程度為止。6RLS算法流程圖：23 RLS方法簡介W(0) =0.化準(zhǔn)則取代最小肉方準(zhǔn)喇.井按時閭進(jìn)行迭代RLS算法是用集方的時間平均的尬小 計畀.瓦堪術(shù)原理如下所示】Sp(o)=初始化計算 T(n),w(n),k(n),e(n|n-1)：RLS算法是用:乗方的時間平均檢址小化華則軀代最小均方準(zhǔn)則，井按時閭進(jìn)行送代Ht*直羊木必理奶下所示：

11、I乂禰為軀忘紂子，它址小J邈F I的正數(shù)紳)4佶蹴期軸訃y(n)L(n)x(n _i)0w他):第1)戰(zhàn)達(dá)代的權(quán)逬：,鞏對；均方鍛打搔戯如下淮則:計算誤差 e(n)=d(n)-y(n)/；5) = 嚴(yán)*(斤)- miniOw(n) = w(n -1) k(n )e(n | n-1)min的散據(jù)對鞏町的彫響越帕濾波聆紊歎賈求館導(dǎo)數(shù)，片令鉛杲爭尸零知更新權(quán)7#整理得到標(biāo)準(zhǔn)方程Ax(k)xT(k)軒二叭&岡JI)_wLMS算法程序:clear close all clc a1=-1.6; a2=0.8; n=1000; P=50;e=zeros(1, n);ep=zeros(1, n);ee=zer

12、os(1, n);x=zeros(1, n);w=ra ndn(1,n);%算法for p=1:Px(1)=w(1);x(2)=-a1*x(1)+w(2);for i=3: nx(i)=-a1*x(i-1)-a2*x(i-2)+w(i);endL=2;u=0.0005;wL=zeros(L ,n);for i=(L+1): nX=x(i-L:1:(i-1);y(i)=X*wL(:,i); %i 時刻輸出信號e(i)=x(i)-y(i); %i時刻誤差信號wL(:,(i+1)=wL(:,i)+2*u*e(i)*X; %i時刻 濾波器的權(quán)值ee(i)=e(i)A2;endep=ep+ee;ende

13、q=ep/P;a1L=-wL(2,1: n);% al在LMS算法下值的變化，wL矩陣中第一行的1到n個數(shù)a2L=-wL(1,1: n);% a2在LMS算法下值的變化 ，wL矩陣中第二行的1到n個數(shù)%畫圖subplot(2,2,1);plot(1: n, x);title(高斯白噪聲w);subplot(2,2,2);plot(1: n, a1L,r-,1: n,a1,k-);title(a1的學(xué)習(xí)過程);subplot(2,2,3);plot(1: n,a2L,r-,1: n,a2,k-);title(a2的學(xué)習(xí)過程);subplot(2,2,4);plot(1: n,eq);title(

14、5O次平均后的學(xué)習(xí)過程);8圖1:步長因子卩=0.0005時LMS仿真圖形圖2:步長因子卩=0.001時LMS仿真圖形9圖3:步長因子卩=0.005時LMS仿真圖形結(jié)果分析:1. 在仿真過程中可以看到，圖形的收斂時間隨著步長因子卩的增大 而減小。說明步長因子卩與收斂時間成反比，其決定了 LMS算法 學(xué)習(xí)過程的快慢。2. 由上圖對比可知，當(dāng)步長因子卩增大時，收斂時間減少，但會使 失調(diào)增大，當(dāng)卩等于0.0005與0.001時圖形沒有失調(diào)，但當(dāng)卩等 于0.005時，就會發(fā)現(xiàn)圖形失調(diào)嚴(yán)重。綜上所述可得出結(jié)論：控制失調(diào)與加快收斂速度矛盾。10LMS與RLS對比程序：程序：clear;close all;

15、clc;a1=-1.6;a2=0.8;n=1000;x=zeros(1, n);w=ra ndn(1,n);x(1)=w(1);x(2)=-a1*x(1)+w(2);for i=3: nx(i)=-a1*x(i-1)-a2*x(i-2)+w(i);end;%LMS濾波L=2;u=0.001;wL=zeros(L ,n);for i=(L+1): nX=x(i-1:-1:(i-L);y(i)=X*wL(:,i);e(i)=x(i)-y(i);wL(:,(i+1)=wL(:,i)+2*u*e(i)*X;end;a1L=-wL(1,1: n);a2L=-wL(2,1: n);%RLS濾波L=2;n

16、amuta=0.98;wR=zeros(L, n);T=eye(L,L)*10;% %RLS算法下T參數(shù)的初始化,T初始值為10for i=(L+1): nX=x(i-1:-1:(i-L);K=(T*X)/(namuta+X*T*X);%i時刻增益值e1=x(i)-wR(:,i-1)*X;wR(:,i)=wR(:,i-1)+K*e1; %i時刻權(quán)值y(i)=wR(:,i)*X;e(i)=x(i)-y(i);T=(T-K*X*T)/namuta; %i 時刻的維納解end;a1R=-wR(1,1: n);a2R=-wR(2,1: n);%畫圖subplot(2,1,1);plot(1: n, a

17、1L,r-,1: n,a1R,g-,1: n,a1,k-);title(LMS 與RLS算法a1權(quán)系數(shù)收斂過程對比);subplot(2,1,2);plot(1: n,a2L,r-,1: n,a2R,g-,1: n,a2,k-);title(LMS 與RLS算法a2權(quán)系數(shù)收斂過程對比);圖4: LMS與RLS仿真圖形對比結(jié)果分析:1. RLS處法在兩法的隱態(tài)怖段即卞法的陥期收斂拚段卜;件筑和 LMS釘法柯曲不舊顯但在賓法的lOI收斂段 RLS算法的收斂 速度要明顯咼于LMS算法。但是RLS ,jZ法復(fù)雜. in 汁.訂.|I；比KRLS算法與LMS對比:由于LMS算法只是用以前各時刻的抽頭參量

18、等作該時刻數(shù)據(jù)塊 估計時的平方誤差均方最小的準(zhǔn)則，而未用現(xiàn)時刻的抽頭參量等來對 以往各時刻的數(shù)據(jù)塊作重新估計后的累計平方誤差最小的準(zhǔn)則，所以 LMS算法對非平穩(wěn)信號的適應(yīng)性差。RLS算法的基本思想是力圖使 在每個時刻對所有已輸入信號而言重估的平方誤差的加權(quán)和最小，這 使得RLS算法對非平穩(wěn)信號的適應(yīng)性要好。與LMS算法相比，RLS 算法采用時間平均，因此，所得出的最優(yōu)濾波器依賴于用于計算平均 值的樣本數(shù)，而LMS算法是基于集平均而設(shè)計的，因此穩(wěn)定環(huán)境下 LMS算法在不同計算條件下的結(jié)果是一致的。在性能方面，RLS的 收斂速率比LMS要快得多，因此，RLS在收斂速率方面有很大優(yōu)勢。 圖6分別為RLS算法和LMS算法在處理過程中的誤差曲線，它指出了 在迭代過程中的誤差減少過程。由圖可見，RLS算法在迭代過程中產(chǎn) 生的誤差明顯小于LMS算法。由此可見，RLS在提取信號時，