最優(yōu)估計(jì)1第4章維納濾波維納濾波原理線性連續(xù)系統(tǒng)維納濾波線性離散系統(tǒng)維納濾波2區(qū)別：維納濾波只適用于平穩(wěn)隨機(jī)過程，卡爾曼濾波沒有這個(gè)限制。設(shè)計(jì)維納濾波器要求已知信號與噪聲的相關(guān)函數(shù)，設(shè)計(jì)卡爾曼濾波器要求已知狀態(tài)方程和量測方程。維納濾波是根據(jù)全部過去觀測值和當(dāng)前觀測值來估計(jì)信號的當(dāng)前值，因此它的解形式是系統(tǒng)的傳遞函數(shù)或單位脈沖響應(yīng)；卡爾曼濾波是用當(dāng)前一個(gè)估計(jì)值和最近一個(gè)觀測值來估計(jì)信號的當(dāng)前值，它的解形式是狀態(tài)變量值。維納濾波和卡爾曼濾波二者聯(lián)系：都是解決線性濾波和預(yù)測問題的方法，并且都是以均方誤差最小為準(zhǔn)則的，在平穩(wěn)條件下兩者的穩(wěn)態(tài)結(jié)果是一致的。3G(s)X(t)Y(t)G(s)——系統(tǒng)傳遞函數(shù)X(t)——系統(tǒng)輸入，平穩(wěn)隨機(jī)過程，其均值mx(t)，相關(guān)函數(shù)RX(τ)

，功率譜密度Sx(ω)4.0線性定常系統(tǒng)對平穩(wěn)隨機(jī)過程的響應(yīng)1.線性定常連續(xù)系統(tǒng)Y(t)——系統(tǒng)輸出4輸出與輸入的統(tǒng)計(jì)關(guān)系已知輸出與輸入關(guān)系：其中，假定相關(guān)函數(shù)：均值：功率譜密度函數(shù)：5G(z)X(k)Y(k)G(z)——系統(tǒng)傳遞函數(shù)Y(k)——系統(tǒng)輸出X(k)——系統(tǒng)輸入，平穩(wěn)隨機(jī)序列，均值mx(k)，相關(guān)函數(shù)RX(m)

，功率譜密度Sx(z)2.線性定常離散系統(tǒng)6輸出與輸入的統(tǒng)計(jì)關(guān)系已知輸出與輸入關(guān)系：其中，假定相關(guān)函數(shù)：均值：功率譜密度函數(shù)：74.1維納濾波原理信息處理中，經(jīng)常存在以下問題：測量信號Z(t)中不僅包含有用信號，還包含隨機(jī)干擾或噪聲信號V(t)。根據(jù)觀測取值范圍不同通常有下面幾種情況：用當(dāng)前的和過去的觀測值來估計(jì)當(dāng)前的信號，稱為濾波；用過去的觀測值來估計(jì)當(dāng)前的或?qū)淼男盘?，稱為預(yù)測；用過去的觀測值來估計(jì)過去的信號，稱為平滑。維納濾波：設(shè)計(jì)濾波器的傳遞函數(shù)G(s)，使其輸出盡可能精確地復(fù)現(xiàn)出有用信號X(t)，是對真實(shí)信號的最小均方誤差估計(jì)。諾伯特·維納在20世紀(jì)40年代提出，1949年出版。同時(shí)，前蘇聯(lián)學(xué)者柯爾莫戈洛夫給出同樣的結(jié)果。濾波器含噪信號去噪信號8與設(shè)計(jì)一個(gè)特定頻率響應(yīng)所用的通常濾波器設(shè)計(jì)理論不同，維納濾波器從另外一個(gè)不同的角度實(shí)現(xiàn)濾波器。維納設(shè)計(jì)方法需要額外的關(guān)于原始信號所包含頻譜以及噪聲的信息，是一種基于統(tǒng)計(jì)知識的頻域?yàn)V波器。維納濾波器具有以下一些特點(diǎn)：假設(shè)：信號以及附加噪聲都是已知頻譜特性或者自相關(guān)和互相關(guān)的隨機(jī)過程；性能標(biāo)準(zhǔn)：均方誤差最小；設(shè)計(jì)目的：濾除按照統(tǒng)計(jì)方式干擾信號的噪聲。

維納濾波的特點(diǎn)9X(t)——有用隨機(jī)信號；V(t)——隨機(jī)干擾信號；G(s)——實(shí)際濾波器傳遞函數(shù)；W(s)——理想濾波器傳遞函數(shù)；

——G(s)的真實(shí)輸出信號；Y(t)——W(s)的理想輸出信號。

W(s)=1------濾波問題

------預(yù)測問題W(s)=s------微分平滑問題Y(t)G(s)X(t)Z(t)V(t)＋＋W(s)＋－e(t)連續(xù)系統(tǒng)維納濾波器的信息流程圖10目的：設(shè)計(jì)傳遞函數(shù)G(s)，使e(t)

盡可能小。什么是維納濾波兩點(diǎn)說明：11對于隨機(jī)過程e(t)

，最小的含義只能是從統(tǒng)計(jì)意義上說的，即其均方誤差最?。喊瓷鲜皆瓌t設(shè)計(jì)濾波器傳遞函數(shù)G(s)的濾波，稱為維納最優(yōu)濾波，簡稱維納濾波。e(t)是各態(tài)歷經(jīng)的124.2連續(xù)時(shí)間系統(tǒng)維納濾波定義變分的泛函：充分小數(shù)任意函數(shù)4.2.1維納—霍甫方程1314維納—霍甫方程交換極限和積分的順序，得：15具體做法：維納—霍甫方程：求解思想：利用功率譜密度函數(shù)和相關(guān)函數(shù)的關(guān)系，將方程中相關(guān)函數(shù)化為功率譜密度。將時(shí)域問題變換到頻域，去掉積分號。其中，維納濾波器的設(shè)計(jì)就是求出式中的h(t)或者其拉氏變換G(s)=G(jW).上式反映了濾波器的頻率特性，但聯(lián)合功率譜密度很難獲得.4.2.2維納濾波器的頻率特性16另一方面，可得：174.2.3維納濾波器的最優(yōu)頻域設(shè)計(jì)18理論確定濾波器傳遞函數(shù)的條件：已知濾波器理想頻率特性、信號和噪聲的功率譜密度。物理實(shí)現(xiàn)中存在的問題：凡是傳遞函數(shù)在頻率域右半平面有極點(diǎn)和零點(diǎn)的濾波器，物理上不可實(shí)現(xiàn)。解決方法：把濾波器分成兩部分，物理可實(shí)現(xiàn)部分和物理不可實(shí)現(xiàn)部分。具體做法是將功率譜密度函數(shù)分成兩部分：最優(yōu)濾波器的實(shí)現(xiàn)19濾波器分解：功率譜密度函數(shù)的分解一定可實(shí)現(xiàn)的部分可實(shí)現(xiàn)部分+不可實(shí)現(xiàn)部分201、計(jì)算2、按零極點(diǎn)的分布將上式分解為兩部分3、計(jì)算4、計(jì)算并計(jì)算其可實(shí)現(xiàn)部分5、計(jì)算維納濾波器的最優(yōu)傳遞函數(shù)：維納濾波器設(shè)計(jì)步驟21優(yōu)點(diǎn)：適應(yīng)范圍較廣，對于平穩(wěn)隨機(jī)過程，無論是連續(xù)的還是離散的，是標(biāo)量還是向量，都可應(yīng)用；對某些問題，還可求出濾波器傳遞函數(shù)的顯式解，進(jìn)而可采用由簡單的物理元件組成的網(wǎng)絡(luò)構(gòu)成維納濾波器。缺點(diǎn)：即便因果濾波器，要得到半無限時(shí)間區(qū)間內(nèi)的全部觀測數(shù)據(jù)也很難滿足；不能用于噪聲為非平穩(wěn)的隨機(jī)過程；對于向量情況應(yīng)用不方便。維納濾波的優(yōu)缺點(diǎn)22例：23右側(cè)第二項(xiàng)的極點(diǎn)位于s平面的右側(cè)，物理上不可實(shí)現(xiàn)，所以取k=0，G2(s)在物理上可實(shí)現(xiàn)的傳遞函數(shù)為：根據(jù)留數(shù)定理，G2(s)第一項(xiàng)中：24離散系統(tǒng)維納濾波器的信息流程圖4.3線性離散系統(tǒng)維納濾波式中，xk待估計(jì)信號；vk

測量噪聲，可以是白噪聲序列，也可以是有色噪聲序列，xk和vk

都是廣義平穩(wěn)的遍歷隨機(jī)序列。

維納濾波器254.3.1維納—霍甫方程這里只研究濾波器是因果的情況。假設(shè)以hk

表示離散時(shí)間因果線性時(shí)不變?yōu)V波器的沖激響應(yīng)，則xk

的估計(jì)可表示為：假設(shè)以xk

和zk

是零均值的，求解因果線性時(shí)不變?yōu)V波器。由正交性原理知，估計(jì)誤差與觀測數(shù)據(jù)是正交的，即

若xk

和zk

是廣義聯(lián)合平穩(wěn)的26此式就是前面討論過的連續(xù)時(shí)間維納-霍甫積分方程的離散形式;

其解就是離散時(shí)間最優(yōu)因果線性時(shí)不變?yōu)V波器的沖激響應(yīng)函數(shù)；求解過程與連續(xù)時(shí)間系統(tǒng)的情況相同，只是將拉普拉斯變換替換為z-變換。Z變換27雙邊Z逆變換經(jīng)分析，等式左側(cè)應(yīng)為零，即因此有:28真實(shí)信號

觀察/測量數(shù)據(jù)加性噪聲/干擾線性估計(jì)問題最小均方誤差(MMSE)估計(jì)(minimummean-squareerror)估計(jì)誤差1.1維納濾波問題描述維納濾波->對真實(shí)信號的最小均方誤差估計(jì)問題.h(n)z(n)=x(n)+v(n)維納濾波器29平滑濾波預(yù)測

這里我們主要考慮濾波問題，即……線性估計(jì)根據(jù)其取值范圍不同通常有下面幾種情況:30問題在于估計(jì)濾波器的參數(shù)/單位沖激響應(yīng)序列31正交方程

:標(biāo)準(zhǔn)方程

(Wiener-Hopfequations):

維納-霍夫（Wiener-Hopf）/標(biāo)準(zhǔn)方程任何時(shí)刻的估計(jì)誤差都與用于估計(jì)的所有數(shù)據(jù)（即濾波器的輸入）正交32注意:Adata-dependant

linear

leastsquareerrorestimationWiener-Hopfequation-solutionsOrthogonalequation-decor