數(shù)字信號(hào)處理3.2.3最陡下降法3.2.2性能函數(shù)表示式及其幾何意義第1頁(yè)

3.2.2性能函數(shù)表示式及其幾何意義自適應(yīng)濾波器分析研究中，性能函數(shù)是一個(gè)主要函數(shù)下面我們推導(dǎo)它其它表示方法以及幾何意義。將(3.2.14)式代入(3.2.8)式，能夠用最小均方誤差表示性能函數(shù)，推導(dǎo)以下：為表示方便，令ζ=E［e2j］,則第2頁(yè)將(3.2.12)式代入上式，得到

令V=W-W*=［v1,v2,…,vN］T

V稱(chēng)為偏差權(quán)向量，它表示權(quán)向量對(duì)最正確權(quán)向量偏差。這么性能函數(shù)：

(3.2.15)

(3.2.16)(3.2.17)

第3頁(yè)因?yàn)镽xx是對(duì)稱(chēng)，正定或半正定，利用它特征值和特征向量再深入簡(jiǎn)化，假設(shè)Rxx是N×N維，它N個(gè)特征值為：λ1,λ2,…,λN，將Rxx進(jìn)行分解，得Rxx=QTΛQ,Λ=QTRxxQ

經(jīng)過(guò)調(diào)整使Q歸一化，即

(3.2.18)(3.2.19)(3.2.20)第4頁(yè)式中，Q稱(chēng)為正交矩陣或特征矩陣，qi稱(chēng)為特征向量，滿足下式：Λ是由特征值組成對(duì)角矩陣，用下式表示：

將(3.2.18)式代入(3.2.17)式，得到

令

(3.2.21)(3.2.22)(3.2.23)(3.2.24)第5頁(yè)則

(3.2.25)

上式將性能函數(shù)變成了平方和形式。觀察(3.2.24)式，該式將V坐標(biāo)中Rxx特征向量變成了V′坐標(biāo)中單位向量。(3.2.26)也就是說(shuō)，qi′為V′坐標(biāo)中第i個(gè)單位向量，qi′亦是Λ矩陣對(duì)應(yīng)于λi特征向量。第6頁(yè)下面用二維權(quán)矢量情況說(shuō)明它幾何意義。對(duì)于二維權(quán)矢量情況，有下面公式：

第7頁(yè)圖3.2.5二維權(quán)矢量性能表面

第8頁(yè)圖3.2.6等均方誤差橢圓曲線族第9頁(yè)按照(3.2.17)式，有

或

當(dāng)c=ζmin時(shí)，對(duì)應(yīng)橢圓中心，V=W-W*,則相當(dāng)于W坐標(biāo)平移到V坐標(biāo)原點(diǎn)，即V坐標(biāo)原點(diǎn)對(duì)應(yīng)W坐標(biāo)最正確點(diǎn)W*。這里,v1v2不是橢圓主軸。但經(jīng)過(guò)對(duì)Rxx分解：

且V′=QTV將性能函數(shù)橢圓族(按照(3.2.25)式)變成

第10頁(yè)即

或者

顯然，上式是一個(gè)橢圓方程，v1′和v2′是橢圓族主軸，假如λ1＜λ2,則v1′是長(zhǎng)軸，v2′是短軸。所以(3.2.24)式起坐標(biāo)旋轉(zhuǎn)作用，將v1v2旋轉(zhuǎn)到主軸上，形成v1′v2′主軸。對(duì)于維數(shù)N＞2情況，長(zhǎng)軸對(duì)應(yīng)最小特征值，按照上面橢圓方程長(zhǎng)軸正比于 ；短軸對(duì)應(yīng)于最大特征值，正比于 。

(3.2.27)第11頁(yè)3.2.3最陡下降法

1.最陡下降法遞推公式

將(3.2.11)式代入(3.2.29)式，得到

在上式兩邊都減去W*,并令Vj=Wj-W*,得到

Vj+1=［I-2μRxx］Vj

因?yàn)椋邸ぃ蓓?xiàng)不是對(duì)角矩陣，計(jì)算與分析均復(fù)雜。(3.2.30)(3.2.31)(3.2.32)(3.2.29)第12頁(yè)(3.2.33)此時(shí)，［·］項(xiàng)已變成對(duì)角矩陣，假設(shè)起始值是V0′，可得到上式遞推解為(3.2.34)第13頁(yè)再將(3.2.24)式代入，再經(jīng)過(guò)坐標(biāo)平移，即代入Vj=Wj-W*式，最終得到權(quán)系數(shù)遞推公式：

(3.2.35)上面遞推公式中，［·］部分已變成對(duì)角矩陣，這使分析與研究自適應(yīng)特征變得簡(jiǎn)單了。第14頁(yè)

2.收斂條件由最陡下降法遞推公式不難分析出它收斂條件，即當(dāng)?shù)螖?shù)j趨于∞時(shí)，權(quán)系數(shù)收斂最正確時(shí)條件。按照上式，顯然只有當(dāng)(3.2.36)(3.2.37)滿足時(shí)，才能得到： 。(3.2.37)式即是最陡下降法收斂條件，式中λmax是Rxx最大特征值。(3.2.36)式中0表示0矢量。

第15頁(yè)

3.過(guò)渡過(guò)程

過(guò)渡過(guò)程是指權(quán)矢量和性能函數(shù)由起始點(diǎn)隨迭代次數(shù)增加，進(jìn)行改變過(guò)程。權(quán)矢量過(guò)渡過(guò)程：按照(3.2.34)式，權(quán)矢量遞推解是第i個(gè)權(quán)系數(shù)遞推方程是

(3.2.38)令

(3.2.39)第16頁(yè)將上式代入(3.2.38)式，得到

(3.2.40)上式說(shuō)明第i個(gè)分量vi′按指數(shù)規(guī)律改變，其時(shí)常數(shù)為

i=1,2,3,…,N(3.2.41)因?yàn)槠胀é倘〉帽容^小，能夠近似為

i=1,2,3,…,N(3.2.42)第17頁(yè)因?yàn)?/p>

所以

再將(3.2.40)式代入，得到

(3.2.43)第18頁(yè)(3.2.44)式中

(3.2.45)上式說(shuō)明第i個(gè)加權(quán)系數(shù)按照N個(gè)指數(shù)和規(guī)律改變，由初始值收斂到最正確值，其時(shí)常數(shù)與特征值成反比。下面分析性能函數(shù)過(guò)渡過(guò)程。按照(3.2.25)式，性能函數(shù)以下式：

(3.2.46)將(3.2.40)式代入，得到

(3.2.47)第19頁(yè)上式說(shuō)明性能函數(shù)也是按N個(gè)指數(shù)和規(guī)律改變，和加權(quán)系數(shù)過(guò)渡過(guò)程不一樣是時(shí)間常數(shù)不同，它時(shí)常數(shù)為

(3.2.48)我們已經(jīng)知道，性能函數(shù)和各個(gè)加權(quán)系數(shù)都是按照N個(gè)含有不一樣時(shí)常數(shù)指數(shù)和規(guī)律改變，時(shí)常數(shù)和特征值成反比，不一樣特征值對(duì)應(yīng)收斂時(shí)間是不一樣，但最終收斂要取決于最慢指數(shù)過(guò)程，它時(shí)常數(shù)最大，對(duì)應(yīng)最小特征值，公式以下：

(3.2.49)(3.2.50)第20頁(yè)但為確保收斂，μ不能取得太大，受限于最大特征值λmax。這么，假如特征值比較分散時(shí)，即λmax和λmin相差很大時(shí)，使最陡下降法收斂性能很差。下面分析μ值影響。

μ值收斂過(guò)程影響很大，首先必須選擇得足夠小，使之滿足收斂條件：但按照(3.2.47)、(3.2.48)式，它影響收斂速度。普通希望在確保