1、1,第三章 自適應信號處理,2020年9月13日,2,主要內容,隨機信號的最優(yōu)預測和濾波 最優(yōu)濾波理論與維納濾波器 橫向LMS自適應數字濾波器 橫向RLS自適應數字濾波器 自適應格型濾波器 快速橫向濾波（FTF）自適應算法 無限脈沖響應自適應濾波器 盲自適應信號處理 同態(tài)濾波及倒譜 自適應濾波器應用,3,四、橫向RLS自適應數字濾波器,基本思想 RLS算法 RLS濾波算法與Kalman濾波算法 比較,4,四、橫向RLS自適應數字濾波器,基本思想 把最小二乘法(LS)推廣為一種自適應算法，用來設計自適應的橫向濾波器，利用n-1時刻的濾波器抽頭權系數，通過簡單的更新，求出n 時刻的濾波器抽頭權系數

2、。這樣一種自適應的最二乘算法稱為遞歸(遞推)最小二乘算法, 簡稱RLS算法。,5,四、橫向RLS自適應數字濾波器,RLS算法,基本方程 考慮指數加權的最小二乘法，其代價函數為,式中 , 稱為遺忘因子, 其作用是對離n時刻越近的誤差加越大的權重, 而對離n時刻越遠的誤差加越小的權重, 即該參數對各個時刻的誤差具有某種遺忘作用。 式(1a)中, 誤差函數定義為,式中 表示i 時刻的期望響應。,BACK,6,四、橫向RLS自適應數字濾波器,RLS算法,i) 有些著作中, 把式中的 寫作 , 且 ii)式中濾波器抽頭權向量取為n時刻的權向量, 理由如下: 在自適應更新過程中, 濾波器特性總是越來越好,

3、 這意 味著,對任何時刻而言, 總有,故使用 作為誤差函數比使用e(i)更為合理。 iii) 和e(i)分別稱為濾波器在i 時刻后驗估計誤差和 先驗估計誤差,關于誤差函數定義式 的討論,7,四、橫向RLS自適應數字濾波器,RLS算法,合并(1a)和(1b)得,顯然，它是 的函數。由,其解,式中,易得,式(3)表明, 指數加權最小二乘問題(2)的解亦為維納解。 下面考慮它的自適應更新問題。,BACK,8,四、橫向RLS自適應數字濾波器,RLS算法,自適應更新 根據式(4)，易得其遞推估計公式,令P(n)=R-1(n) 利用,可得,定義Kalman增益向量:,則有,BACK,9,四、橫向RLS自適

4、應數字濾波器,RLS算法 利用上式, 易證,注意:上面推導中,利用了(7)。再利用(3)、(5b)和(8)、(9a)得,10,四、橫向RLS自適應數字濾波器,RLS算法 根據上式, 有,其中,作為比較,下面重列LMS算法迭代式：,結論: 用Kalman增益向量k(n)代替LMS算法中 即得RLS算法。,利用(9c)和(7),11,四、橫向RLS自適應數字濾波器,RLS算法,步驟1：初始化： , 是一個小的正數 步驟2：更新：對n=1,2,計算,RLS算法步驟:,即(7),即(8),12,關于RLS算法的收斂速度問題 因為,四、橫向RLS自適應數字濾波器,RLS算法,故,結論:RLS算法在權向量

5、的更新方程中, 比LMS算法多了迭代矩陣P(n), 而該矩陣可看作代價函數二階導數矩陣的近似逆矩陣, 因此RLS收斂速度快于LMS算法.,而,作為比較,再次重列LMS算法迭代式：,即(9c),13,四、橫向RLS自適應數字濾波器,RLS算法與Kalman濾波算法比較,考慮一特殊的“無激勵”動態(tài)模型：,式中s(n)為模型的狀態(tài)向量, y(n)為一標量觀測值或參考信號,u(n)觀測向量, v(n)是零均值、方差為1的一標量白噪聲過程。 為正常數。由式(11a)易知,式中s(0)是狀態(tài)向量的初始值。將上式代入式(11b),則有,14,四、橫向RLS自適應數字濾波器,RLS算法與Kalman濾波算法比

6、較,或等效寫為,從Kalman濾波觀點看,這表示無激勵動態(tài)模型的隨機性。 與采用隨機模型的Kalman濾波器不同, RLS算法則采用確定模型, 即期望信號(參考信號)可用線性回歸模型表示為,其中w0是模型參數向量,u(n)為輸入向量,e0(n)為觀測噪聲。,15,四、橫向RLS自適應數字濾波器,RLS算法與Kalman濾波算法比較,若令Kalman濾波器中狀態(tài)向量的初始值等于RLS算法中抽頭權向量, 即,則容易看出, RLS算法的確定模型(14)與Kalman濾波算法的特殊隨機模型(13)等價的條件如下：,式中左邊為狀態(tài)空間模型參數,右邊為線性回歸模型參數,結論： RLS自適應算法使用的確定性

7、線性回歸模型是Kalman濾波算法的一種特殊的無激勵的狀態(tài)空間模型,16,四、橫向RLS自適應數字濾波器,RLS算法與Kalman濾波算法比較,表1 Kalman濾波算法與RLS濾波算法之間的變量對應關系,17,主要內容,隨機信號的最優(yōu)預測和濾波 最優(yōu)濾波理論與維納濾波器 橫向LMS自適應數字濾波器 橫向RLS自適應數字濾波器 自適應格型濾波器 快速橫向濾波（FTF）自適應算法 無限脈沖響應自適應濾波器 盲自適應信號處理 自適應濾波器應用,18,五、自適應格型濾波器,m階前向預測 m階前向預測誤差 m階前向預測誤差平方和 按使(3)式最小的準則求得的 稱為最小二乘前向預測系數。,前向預測和后向

8、預測,19,五、自適應格型濾波器,令m階前向預測誤差矢量 、當前數據矢量 、前向預測系數矢量 以及數據矩陣 分別為 于是有,前向預測和后向預測,20,五、自適應格型濾波器,根據矢量空間的概念，由 的列矢量對 所作的最小二乘（最佳）前向預測 是 在 上的投影，即 式中， 是 的投影矩陣，有 m階前向預測誤差矢量 是 對 的投影補 其中 是 的正交投影矩陣。,前向預測和后向預測,(10),(11),21,五、自適應格型濾波器,m階后向預測 m階后向預測誤差 令m階后向預測誤差矢量 、后向預測矢量 ，后向預測系數矢量 以及數據矩陣 分別為,前向預測和后向預測,(12),(13),(14),(16),

9、(15),22,五、自適應格型濾波器,則有 由矢量空間的概念，有,前向預測和后向預測,(17),(18),(19),(20),(21),23,五、自適應格型濾波器,預測誤差矢量的范數的平方即預測誤差功率，稱為預測誤差剩余。前向和后向預測誤差剩余分別定義為,前向預測和后向預測,(22a),(22b),(23a),(23b),24,五、自適應格型濾波器,前向預測誤差和后向預測誤差按階遞推計算（階更新）公式：,預測誤差濾波器的格型結構,25,五、自適應格型濾波器,如果給出 就可以得到m階預測誤差濾波器的格型結構，見書P88的圖3.28(b)。,預測誤差濾波器的格型結構,26,五、自適應格型濾波器,前向預測誤差剩余和后向預測誤差剩余按階更新的公式分別為： 以上公式中涉及到 的更新，其更新公式為： 其中 為角參量，它的階更新公式為,最小二乘格型自適應算法,27,五、自適應格型濾波器,LSL自適應算法的計算流程如下： （1）初始化 （2）迭代計算（按時間n=1,2,),最小二乘格型自適應算法,28,五、自適應格型濾波器,（3）迭代計算（按階m=0,1,M-1） 同階的 嵌套著按時間進行迭