1、主主 要要 內(nèi)內(nèi) 容容最大熵譜估計(jì)的基本原理最大熵譜估計(jì)與AR模型譜估計(jì)、預(yù)測(cè)誤差濾波法等效最大熵功率譜的計(jì)算 (AR模型參數(shù)的計(jì)算）最大熵譜估計(jì)（AR模型）的穩(wěn)定性和階數(shù)的確定 有附加噪聲的AR過(guò)程的譜估計(jì)最大熵譜估計(jì)的特點(diǎn)最大熵的基本思想：最大熵的基本思想：就是根據(jù)已知數(shù)據(jù)信息，在 不進(jìn)行任何新的假設(shè)(不增加任何虛假信息)的情 況下，合理地預(yù)測(cè)未知延遲離散時(shí)間上的相關(guān)函 數(shù)。即在根據(jù)已知信息外推相關(guān)函數(shù)時(shí)，每一步 都保持未知事件的不確定性或熵為最大。 信息量信息量 可見(jiàn)熵是消息源發(fā)出每個(gè)消息的平均信息量。 njjjnjjjjppppIEH110110log1log對(duì)于高斯分布的隨機(jī)變量，布

2、卡喬夫證明了其熵和 自協(xié)方差矩陣間存在關(guān)系： 當(dāng)時(shí)間序列為零均值時(shí)，熵和自相關(guān)函數(shù)之間存在 關(guān)系 ：當(dāng)過(guò)程為無(wú)限長(zhǎng)時(shí)，用熵率作為信息的度量 時(shí)間序列功率譜密度和熵率的關(guān)系： 時(shí)間序列的頻率范圍是-fc ，fc xHcdetlog2110 xHR Rdetlog21101110detlog21lim1limmxmmmHhRccffxccdffsffh)(ln412ln21從最大熵原理出發(fā)進(jìn)行譜估計(jì) 若已知自相關(guān)函數(shù)Rx(m)的前2M+1個(gè)序列值，則選擇 未知自相關(guān)函數(shù)要使： 從而可以外推出Rx(M+1)。并依此類推得到其它自相 關(guān)函數(shù)值。于是功率譜 10)(MmmRHx0) 1() 1(det)

3、 1(MRMRMRHxxx0) 1 ()() 1() 2() 1 () 2 () 1() 0 () 1 (xxxxxxxxxRMRMRMRRRMRRRmfmTjxxemRTfs2)()(若選擇 可以得到 令 整理后得到 【最小相位(其零點(diǎn)都在單位圓之內(nèi)) 最大相位】 令 ， 最大熵譜估計(jì) 10)(MmmRhx10)(2MmdffSeccffxfmTjMmdzzczjfmRMMnnnmcx0)(1)1()(*zGzGzcMMMMnnn2*)0(2)0()0(2gfggfPccM)1()(2)1()(*zAzAPfzGzGMMMcMM21212)(MmmfTjmcMxeafPfSMMnfnTjnx

4、ecfS2)(1 ARAR譜和最大熵譜估計(jì)等價(jià)譜和最大熵譜估計(jì)等價(jià)對(duì)于M階AR模型： x(n)的估值 估計(jì)誤差 輸入視為e(n)，輸出視為x(n)，則系統(tǒng)函數(shù)為 ： 設(shè)激勵(lì)信號(hào)e(n)為零均值，方差為 的白噪聲序列， 功率譜密度為Pn，則數(shù)據(jù)序列x(n)的功率譜為： 而 即AR譜估計(jì)為：Mkkneknxanx1)()()(MkkkzazAzAzH11)(,)(1)(其中2nfTjARxPeHfs22)()(212221211)(MkfkTjkMkfkTjknARxeaTeaPfsTfPcn222可見(jiàn)，序列的最大熵功率譜和AR模型擬合所對(duì)應(yīng)的 功率譜是等價(jià)的，并且 由于 ，所以AR參數(shù)和自相關(guān)函

5、數(shù)Rx(m)之間的關(guān)系為： 即Yule-Walker方程。AR模型譜估計(jì)實(shí)質(zhì)是模型參數(shù) 的辨識(shí)問(wèn)題。 cMMnfPTPP22)0(1gPn2)0(2gfPcMMmmkmRaMkxMk, 2 , 100)(20)(預(yù)測(cè)誤差濾波法和最大熵譜估計(jì)等價(jià)預(yù)測(cè)誤差濾波法和最大熵譜估計(jì)等價(jià) 預(yù)測(cè)：由隨機(jī)序列x(n)過(guò)去和現(xiàn)在的M個(gè)值來(lái)預(yù)測(cè)下 一個(gè)取樣值x(n+1)。即 通過(guò)合理選擇預(yù)測(cè)系數(shù)，使預(yù)測(cè)均方誤差達(dá)到最小 確定出的M階FlR濾波器，稱為數(shù)字預(yù)測(cè)濾波器。 MkMkknxanx1)()1() 1( 預(yù)測(cè)誤差為：當(dāng)估值均方誤差達(dá)到最小時(shí)，滿足正交原理。即 簡(jiǎn)化后，得： 最小預(yù)測(cè)誤差功率為：MkMkknxa

6、nxnxne0)()()()()(MmmnxnxnxEmnxneE, 2 , 1 , 00)()()()()(MmkmRamRMkMkx, 2 , 1 , 0)()(1)()()2() 1 ()0()()()()()() )()()()()()(2)(1*1)(*1)(22)(minMRaRaRaRnxknxanxEnxneEknxanxneEneEPxMMxMxMxMkMkMkMkpM 合并整理，得到： 可見(jiàn)，對(duì)同一數(shù)據(jù)列用AR模型和預(yù)測(cè)誤差濾波所解 得的參數(shù)值是完全相同的。預(yù)測(cè)誤差濾波器是一個(gè)白化濾波器，濾波器的系統(tǒng) 函數(shù)為： x(n)的功率譜可求得：0001)0()2() 1()()2(

7、)0() 1 ()2() 1() 1 ()0() 1 ()()2() 1 ()0()(min)()(2)(1MMMMMxxxxxxxxxxxxxxxxPaaaRMRMRMRMRRRRMRRRRMRRRRMkkMkzazA1)(1)(212)(min221)()(MkfkTjkMfkTjnpreeaTPeAPfS利用Yule-Walker方程求解系數(shù) 很困難，因?yàn)橐?進(jìn)行矩陣求逆運(yùn)算。 改進(jìn)方法包括：改進(jìn)方法包括： Levinson-DurbinLevinson-Durbin遞推算法；遞推算法；（需要從時(shí)間序列x(n) 的有限個(gè)數(shù)據(jù)得到其自相關(guān)函數(shù)的估計(jì)值 ，可 能在計(jì)算AR參數(shù)時(shí)引入很大誤差，

8、導(dǎo)致譜線分裂與 譜峰偏移等現(xiàn)象。） BurgBurg算法算法；（提出利用前、后向預(yù)測(cè)誤差功率之和最小的方法來(lái)求得反射系數(shù)，進(jìn)而求得預(yù)測(cè)誤差濾波器系數(shù)。對(duì)應(yīng)于格形濾波器。） )M(ka)(mRx最大熵（最大熵（AR模型）譜估計(jì)的穩(wěn)定性和階數(shù)確定模型）譜估計(jì)的穩(wěn)定性和階數(shù)確定 階數(shù)確定：階數(shù)確定： 必須正確選擇模型的階數(shù)。階數(shù)M估計(jì)得太小，對(duì)序列長(zhǎng)度N的序列的最大熵譜估計(jì)會(huì)過(guò)分平滑，不能給出足夠的分辨率，結(jié)果可能僅出現(xiàn)被測(cè)信號(hào)中最易預(yù)測(cè)，變化最緩慢的頻率點(diǎn)的峰值。階數(shù)M估計(jì)得太大，擬合會(huì)產(chǎn)生急劇變化和振蕩，所得的譜估計(jì)具有虛假的細(xì)節(jié)。在低噪聲或無(wú)噪聲時(shí)，AR模型的階數(shù)過(guò)分大，將會(huì)發(fā)生譜線分裂現(xiàn)象。

9、階數(shù)最優(yōu)階數(shù)最優(yōu)(用用M Moptopt表示表示)的選取準(zhǔn)則：的選取準(zhǔn)則： 1最終預(yù)測(cè)誤差(FPE)準(zhǔn)則 零均值情況下，Akaike給出使FPE最小的估值公式 M為AR模型的階數(shù)，N為信號(hào)采樣點(diǎn)數(shù)，P(M)為預(yù)測(cè)誤差功率。 非零均值情況下，)(11)(FPEMPMNMNM)()(MPMNMNMFPE2. 信息論(AIC)準(zhǔn)則 Akaike提出最佳階次的選擇應(yīng)使下式為最小值： AIC準(zhǔn)則和FPE（最終預(yù)測(cè)誤差）準(zhǔn)則的關(guān)系是：3自回歸(CAT)傳遞函數(shù)準(zhǔn)則 parzen提出最佳階數(shù)的選擇應(yīng)使得精確預(yù)測(cè)濾波 器和近似預(yù)測(cè)濾波器輸出的預(yù)測(cè)誤差之差的估值 為最小。即使 最小。 NMPMAICM2ln)(

10、)()()(limMAICMFPENMmMmNPMNNPmNNMCAT1)()(1)(結(jié)論： 信噪比較高時(shí)，上述三種方法確定的階數(shù)M基本一 致。當(dāng)信噪比較低時(shí)，三種方法結(jié)果不同，給出的 M值偏低，其中以FPE方法較為正確。最優(yōu)階數(shù)的計(jì)算： 上述各準(zhǔn)則所確定的階數(shù)，都可以在計(jì)算預(yù)測(cè)濾波 器參數(shù)（ 、 ）的每一次遞推中求出。由于最 大熵譜估計(jì)與預(yù)測(cè)濾波器等價(jià)，而對(duì)于預(yù)測(cè)濾波器 中的 ，存在 ，因此在算出新值后 與以前的值作比較，若新值比以前的值大，則終止 迭代，得到最優(yōu)階數(shù)Mopt。)M(ka)(minMP)(minMP)(min) 1(min0MMPPARAR模型譜估計(jì)的穩(wěn)定性模型譜估計(jì)的穩(wěn)定性

11、AR模型穩(wěn)定的充要條件是其轉(zhuǎn)移函數(shù) 的 極點(diǎn)都在單位圓內(nèi)，即 的根在單位 圓內(nèi)。可以證明，此時(shí)Yule-Walker方程中系數(shù)矩陣（自相關(guān)矩陣）是正定的。AR模型對(duì)應(yīng)的預(yù)測(cè)濾波器中反射系數(shù)MkkkzazA11)()(1)(zAzH)(min) 1(min0MMPP1)(Mkka有附加噪聲的有附加噪聲的ARAR過(guò)程的譜估計(jì)過(guò)程的譜估計(jì) 在原有AR(p)過(guò)程 上附加均值 為0，方差為 ，并與 無(wú)關(guān)的白噪聲。即 這時(shí)x(n)不再是嚴(yán)格意義上的AR過(guò)程，其自相關(guān)函 數(shù)為 功率譜為 令 ，則pkknuknyany1)()()(2w)(ny)()()(nnynx)()()()()()()(2*mmRmnw

12、mnynwnyEmRwyx22222222)()()()()(jjwuwjuwyxeAeAeASS)()()()(12212zAzAzBzBwu 因此可以將x(n)看成一ARMA過(guò)程，其等效的白噪聲 驅(qū)動(dòng)源的平均功率為 ，既不等于 ，也不等于 等效的MA分支為B(z)，與A(z)同階數(shù)但不同參數(shù)， 因此x(n)是一個(gè)ARMA(p,p)過(guò)程。若仍對(duì)x(n) 數(shù)據(jù)按AR(p)模型進(jìn)行譜估計(jì)，結(jié)果將 偏離真實(shí)譜 ，得到一個(gè)趨于平坦化的譜。這種 平滑現(xiàn)象與 的大小有關(guān)， 越小，越接近原來(lái) 的AR功率譜； 越小，功率譜越平滑?？梢?jiàn)，AR譜估計(jì)的分辨率隨著信噪比的減小而減小。 )()()()()(112zAzAzBzBzSx22u2w)(Sy22/wu2w22/wu當(dāng)信噪比給定時(shí)，AR譜估計(jì)的分辨率需要用增大模型階次的方法來(lái)改善?？朔朔嗀RAR譜技術(shù)在實(shí)際應(yīng)用中限制的方法包括：譜技術(shù)在實(shí)際應(yīng)用中限制的方法包括： (1) 改用ARMA(p,p)模型 ； (2) 噪聲補(bǔ)償法：估計(jì)出 ， 刪去刪去 缺點(diǎn)是可能使自相關(guān)矩陣失去正定性，從而增 大譜估計(jì)的方差。 (3) 用維納濾波器對(duì)數(shù)據(jù)濾波，增強(qiáng)噪聲中的信號(hào)； (4) 采用更高階的AR模型，以降低模型失配引起的 偏差。取最大階次為P=N/2 。 )