自適應(yīng)濾波及LMS算法原理分析概述目錄TOC\o"1-3"\h\u15349自適應(yīng)濾波及LMS算法原理分析概述 1171491.1自適應(yīng)濾波器概述 1204811.2FIR自適應(yīng)濾波器原理 3238361.3梯度下降算法 568101.4LMS算法基本原理 61.1自適應(yīng)濾波器概述參數(shù)可調(diào)的數(shù)字濾波器和自適應(yīng)算法兩部分組成了自適應(yīng)濾波器的主要構(gòu)成成分。自適應(yīng)濾波器主要有FIR（FiniteImpulseResponse，有限長(zhǎng)單位沖激響應(yīng)）和IIR（InfiniteImpulseResponse，無(wú)限長(zhǎng)單位沖激響應(yīng)）兩種濾波器實(shí)現(xiàn)結(jié)構(gòu)，為了完成其需要完成的特定數(shù)據(jù)處理功能，其結(jié)構(gòu)需要與之相對(duì)應(yīng)。自適應(yīng)濾波器的作用原理是使用現(xiàn)在時(shí)刻獲得的濾波器參數(shù)等，在下一時(shí)刻自動(dòng)調(diào)節(jié)濾波器的各種參數(shù)，使之能夠?qū)斎胄盘?hào)和未知噪聲隨時(shí)間變化的統(tǒng)計(jì)特性產(chǎn)生良好的適應(yīng)性，并期望以此來(lái)達(dá)成最優(yōu)濾波的結(jié)果。圖2-1自適應(yīng)濾波原理圖自適應(yīng)濾波器已經(jīng)成功地應(yīng)用于通信、雷達(dá)、聲納、地震學(xué)和生物醫(yī)學(xué)工程等領(lǐng)域[6]。其中,在干擾抵消這一類(lèi)應(yīng)用中，自適應(yīng)濾波器以一種最優(yōu)方式消除包含在期望信號(hào)中的未知干擾，如從接收信號(hào)中消除噪聲以改善信噪比。圖2-2自適應(yīng)干擾抵消原理圖自適應(yīng)干擾抵消原理以及其實(shí)現(xiàn)的基本結(jié)構(gòu)如上圖所示。其中，自適應(yīng)干擾抵消處理器的輸入信號(hào)之一是N’(n)，它是一個(gè)噪聲信號(hào)，并且與另一個(gè)噪聲N(n)在矩陣分析上是相關(guān)的；另一個(gè)輸入信號(hào)被稱(chēng)為期望信號(hào)的d(n)，從理想化的角度，它是源信號(hào)x（n）（無(wú)噪聲的初始信號(hào)）與噪聲信號(hào)N(n)之和，也就是說(shuō)d(n)=x(n)+N(n)。源信號(hào)與噪聲信號(hào)不相關(guān)，而兩個(gè)噪聲信號(hào)確是相關(guān)的，自適應(yīng)濾波器則是利用了這種相關(guān)性，以此來(lái)迭代、修改自己的各項(xiàng)參數(shù)，力圖使濾波處理過(guò)后的信號(hào)逼近噪聲的最佳估計(jì)N(n)1.2FIR自適應(yīng)濾波器原理按照輸入和輸出信號(hào)在統(tǒng)計(jì)特性中的估計(jì)值，使用某種算法不斷自我更新濾波器系數(shù)，并使濾波器達(dá)到最佳濾波特性的一種算法或裝置叫做FIR自適應(yīng)濾波器。比起IIR無(wú)限長(zhǎng)單位脈沖響應(yīng)濾波器的結(jié)構(gòu)，F(xiàn)IR有限長(zhǎng)單位脈沖響應(yīng)濾波器結(jié)構(gòu)的最大特點(diǎn)是結(jié)構(gòu)穩(wěn)定，且不存在反饋回路。我們可以手動(dòng)配置FIR濾波器的幅值特性，在任意幅頻特性的條件下，其都具有嚴(yán)格的線性相頻特性。諸如以上優(yōu)點(diǎn)，本文選擇FIR濾波器的橫向結(jié)構(gòu)作為自適應(yīng)濾波器的結(jié)構(gòu)來(lái)進(jìn)行后續(xù)的分析、設(shè)計(jì)與說(shuō)明。橫截型FIR自適應(yīng)濾波器結(jié)構(gòu)如圖下所示。圖2-3有限長(zhǎng)單位脈沖響應(yīng)自適應(yīng)濾波器結(jié)構(gòu)示意圖上圖中，濾波器的參考輸入信號(hào)、輸出信號(hào)、期望信號(hào)和誤差信號(hào)分別為x(n)、y(n)、d(n)、e(n)。假設(shè)參考輸入信號(hào)x(n)為一L維的列矢量：xn=則自適應(yīng)濾波器的輸出矢量：yn=k=0其中，L表示濾波器階數(shù)，F(xiàn)IR濾波器的L個(gè)權(quán)系數(shù)構(gòu)成了一個(gè)權(quán)系數(shù)矢量，稱(chēng)為權(quán)矢量，用wnwn則yn期望信號(hào)與輸出信號(hào)之差稱(chēng)為誤差信號(hào)，用enen假設(shè)誤差信號(hào)、期望信號(hào)和參考輸入信號(hào)都是平穩(wěn)隨機(jī)的信號(hào)，按照誤差信號(hào)的均方值（或平均功率）最小的準(zhǔn)則，即ξn由此我們可得出均方誤差的表示式為：ξn保證期望信號(hào)d(n)和參考輸入信號(hào)x(n)都是平穩(wěn)隨機(jī)信號(hào)的前提，我們定義：參考輸入信號(hào)x(n)的自相關(guān)矩陣：R=自相關(guān)矩陣R是對(duì)稱(chēng)矩陣，是正定或半正定矩陣。期望信號(hào)與輸入信號(hào)的互相關(guān)矩陣：P=則均方誤差的簡(jiǎn)單表示形式：ξn從上式可看出，在上述對(duì)信號(hào)要求的平穩(wěn)隨機(jī)條件的前提下，均方誤差函數(shù)ξn是權(quán)矢量w的一個(gè)二次函數(shù)，由矩陣分析知識(shí)我們可以得到，其二階的偏導(dǎo)數(shù)為R對(duì)權(quán)系數(shù)w求導(dǎo)，得到均方誤差性能曲面的梯度向量：?w其中，?為哈密爾頓算子（HamiltonianOperator），又稱(chēng)為Nabla算子、劈形算子、倒三角算子，它是一個(gè)微分算子，它自己本身并沒(méi)有任何含義，只有在作用于其之后的量上的時(shí)候，才有實(shí)際意義。它的符號(hào)為?，?=ddr，其中，dr表示n維空間中包含有n個(gè)分量的向量，因此，設(shè)R為非奇異矩陣，令梯度向量?wξ等于零，最小均方誤差函數(shù)所對(duì)應(yīng)的最佳權(quán)矢量w?w?w?也被稱(chēng)為維納解，將最佳權(quán)矢量w?代入到均方誤差表示式（2-7）中，則可以經(jīng)過(guò)計(jì)算得出，由最佳權(quán)矢量即維納解ξmin上式表示，如果期望信號(hào)d(n)和參考輸入信號(hào)x(n)都是平穩(wěn)隨機(jī)信號(hào)的話，那么這個(gè)參數(shù)的最優(yōu)的解集則是由于與他們的互相關(guān)性，以此將期望信號(hào)d(n)的一部分功率抵消消除掉了。若d(n)和x(n)正交的話，那么最佳權(quán)矢量即維納解w?為0，并且，由式（2-13）可得，最小均方誤差性能函數(shù)ξminn=Ed從最佳權(quán)矢量w?的位置來(lái)分析均方誤差曲面的梯度??w當(dāng)梯度為零，此時(shí)權(quán)矢量w成為最佳權(quán)矢量w?，E2enxn1.3梯度下降算法由（2-12）式得，求取最佳的權(quán)重系數(shù)矢量w還是需要預(yù)先得知x(n)和d(n)的先驗(yàn)統(tǒng)計(jì)知識(shí)，并不能在求解的過(guò)程中避免如矩陣求逆這樣類(lèi)型的復(fù)雜且耗費(fèi)運(yùn)算量的運(yùn)算。再者，由ξn=Ee2n決定生成的性能曲面特性可以得出，若要在此曲面上尋找一個(gè)合適的最佳權(quán)矢量w梯度下降法（Gradientdescent）又稱(chēng)最陡下降法（steepestdescentmethod），雖然在自適應(yīng)濾波中很少被使用到，但它作為一個(gè)一階最優(yōu)化算法，構(gòu)成了簡(jiǎn)單快速、被廣泛應(yīng)用的最小均方誤差（LMS）算法的基礎(chǔ)。在不對(duì)R求逆矩陣的前提下使用梯度下降算法為了找到最佳權(quán)矢量w?，即是找出均方誤差性能函數(shù)ξn的局部極小值，此時(shí)，先任意假定一個(gè)權(quán)矢量w，并設(shè)為初值w0。由w(0)向均方誤差性能函數(shù)ξn減小的方向迭代搜索，其中，函數(shù)上當(dāng)前點(diǎn)所對(duì)應(yīng)的梯度的反方向??wξ則是均方誤差性能函數(shù)ξ因此，更新迭代權(quán)矢量w以圖找到最佳權(quán)矢量w?wn+1=wn其中，μ是步長(zhǎng)因子，在本論文中為一常數(shù)。1.4LMS算法基本原理在上節(jié)說(shuō)明過(guò)的梯度下降算法更新迭代權(quán)矢量w以圖找到最佳權(quán)矢量w?的遞推公式中我們能夠發(fā)現(xiàn)，為了實(shí)現(xiàn)該算法，我們需要將均方誤差性能函數(shù)ξn的梯度向量?wξ的精確值通過(guò)運(yùn)算求得，這需要我們確保輸入信號(hào)x(n)與期望信號(hào)d(n)滿足如下的要求：二者都為平穩(wěn)隨機(jī)信號(hào)且他們二階的統(tǒng)計(jì)的特性是已知的。此時(shí)，我們能夠根據(jù)輸入信號(hào)x(n)與期望信號(hào)d(n)為基礎(chǔ)，來(lái)進(jìn)行對(duì)x(n)自相關(guān)矩陣R和x(n)與d(n)互相關(guān)矩陣P的估計(jì)，從而使用梯度下降法來(lái)迭代搜索，直至求得最佳權(quán)矢量Widrow和Hoff在20世紀(jì)60年代提出了LMS最小均方誤差自適應(yīng)算法，該算法的準(zhǔn)則是通過(guò)一系列的運(yùn)算，使輸出信號(hào)d(n)和實(shí)際輸出信號(hào)y(n)之間的誤差，即誤差信號(hào)e(n)的均方值不斷地通過(guò)迭代成為最小值，以獲取最優(yōu)解，即維納解該算法使用誤差信號(hào)功率瞬時(shí)值e2n作為均方誤差Ee于是，將式（2-16）代入式（2-14）可得?w因此，我們用梯度估計(jì)值?wξ代替了梯度向量wn+1從上述的分析中，可總結(jié)出LMS最小均方誤差算法的公式組為：yn其中，x(n)是輸入信號(hào)，d(n)為期望輸入信號(hào)，e(n)為誤差信號(hào)，用以自動(dòng)調(diào)整抽頭系數(shù)，y(n)是輸出信號(hào)，L表示該濾波器為L(zhǎng)階濾波器，μ是步長(zhǎng)因子，在本論文中為一常數(shù)，LMS自適應(yīng)濾波算法的精度、收斂速度以及系統(tǒng)的魯棒性主要由L和μ二者取得不同值來(lái)控制決定。步長(zhǎng)因子μ的值不是任取的，其取值范圍經(jīng)過(guò)矩陣分析知識(shí)可以得出，必須在0<μ<1λmax內(nèi)參能保證算法收斂，其中，λmax為輸入信號(hào)x(n)自相關(guān)矩陣R的最大特征值。在LMS自適應(yīng)濾波算法中，步長(zhǎng)因子μ能夠表征權(quán)系數(shù)迭代更新的快慢，它的大小影響著LMS濾波器的收斂速度。μ越大，達(dá)成自適應(yīng)