平穩(wěn)過程的線性模型第1頁，共29頁，2023年，2月20日，星期四隨機信號的模型“模型”一詞常用表示一些假設(shè)，這些假設(shè)可用于解釋或描述組織或約束物理數(shù)據(jù)產(chǎn)生的內(nèi)在規(guī)律。隨機過程用模型表示可回溯到Y(jié)ule(1972)的一種思想，這種思想就是強相關(guān)時間序列u(n)可用獨立的隨機序列作用于一個線性濾波器產(chǎn)生。通常假設(shè)激勵是零均值，方差為常數(shù)的高斯分布的隨機序列。這樣的隨機序列構(gòu)成一個純隨機過程，通常指高斯白噪聲

第2頁，共29頁，2023年，2月20日，星期四一般地，隨機過程模型時域的關(guān)系可描述如下：第3頁，共29頁，2023年，2月20日，星期四3.1有理分式模型有里分式模型是應(yīng)用最為普遍的線性模型，該模型的系統(tǒng)函數(shù)為有理式根據(jù)分子分母的具體情況，有理分式模型可以分為：AR模型——自回歸模型MA模型——滑動平均模型ARMA模型——自回歸滑動平均模型第4頁，共29頁，2023年，2月20日，星期四3.1.1ARMA模型（autoregressivemovingaverage）一類很重要的隨機過程可以用有理傳遞函數(shù)建模。這類隨機信號在實踐中經(jīng)常會出現(xiàn)。有理傳遞函數(shù)模型也通常用于其它類型的隨機過程的近似表示。用有理傳遞函數(shù)表示的隨機過程可以通過白噪聲驅(qū)動具有有理傳遞函數(shù)的系統(tǒng)產(chǎn)生。第5頁，共29頁，2023年，2月20日，星期四ARMA(p,q)的系統(tǒng)函數(shù)H(z)為：可以看出，ARMA模型的系統(tǒng)函數(shù)H(z)既有極點，又有零點，故，ARMA模型又稱為零-極點模型此為ARMA模型的差分方程第6頁，共29頁，2023年，2月20日，星期四這里是零均值，功率為的白噪聲。這樣的隨機過程叫做自回歸滑動平均（autoregressivemovingaverage--ARMA）。就是自回歸參數(shù)，叫做動平均參數(shù)。為了明確地指出分子分母的階數(shù)，我們叫這樣的隨機過程為ARMA(p,q)。有趣的是，如果ARMA過程x(n)作為濾波器的輸入，我們就可將驅(qū)動噪聲恢復(fù)出來。這個逆濾波器是ARMA的“分析濾波器”。第7頁，共29頁，2023年，2月20日，星期四下圖表明ARMA過程是如何通過一個白噪聲的輸入產(chǎn)生的。

圖ARMA(p,q)隨機過程模型（這里p=q）習慣上將用于產(chǎn)生ARMA過程的系統(tǒng)H(z)叫做ARMA的“綜合濾波器”。

第8頁，共29頁，2023年，2月20日，星期四3.1.2MA模型（movingaverage）如果去掉濾波器的自回歸部分，即除外，其它所有的都等于0，并且假設(shè)，則輸入和輸出的關(guān)系為記作MA(q)，則產(chǎn)生MA(q)過程的系統(tǒng)的傳遞函數(shù)為則功率譜密度為這意味著功率譜可簡記為第9頁，共29頁，2023年，2月20日，星期四傳遞函數(shù)B(z)稱為MA過程的“綜合濾波器”。它是一個q階全零點濾波器。下圖繪出了MA過程的模型。驅(qū)動噪聲可以用時間序列x(k)作用于全零點濾波器，即分析濾波器恢復(fù)出來。

圖MA(q)隨機過程模型第10頁，共29頁，2023年，2月20日，星期四3.1.2AR模型（autoregressive）最后，如果去掉ARMA模型的滑動平均部分,即除外，所有的全為零，剩余部分叫做自回歸模型，記為AR(p)。對于AR(p)過程有產(chǎn)生AR(p)過程的系統(tǒng)傳遞函數(shù)為則功率譜密度為這意味著功率譜可簡記為第11頁，共29頁，2023年，2月20日，星期四傳遞函數(shù)A(z)即為AR過程的綜合濾波器，可以看出它是一個P階的全極點濾波器。下圖描述AR過程模型。則可以利用時間序列x(n)作用于濾波器來恢復(fù)驅(qū)動噪聲，這個濾波器被稱為分析濾波器。

圖AR(p)隨機過程模型第12頁，共29頁，2023年，2月20日，星期四3.1.4三種模型系數(shù)間關(guān)系實際中，我們常常會關(guān)心譜的估計。這將在本書以后章節(jié)中介紹。功率譜估計問題是從隨機過程單個樣本的有限測量集來估計隨機過程的功率譜。有兩類重要譜估計方法：非參數(shù)法和參數(shù)法。非參數(shù)法不作有關(guān)過程的假設(shè)。而僅是建立在測量的基礎(chǔ)上。這種方法同模型法比性能較差。參數(shù)法假設(shè)隨機過程的模型（MA、AR、ARMA），譜估計以模型參數(shù)的推導(dǎo)為基礎(chǔ)，這其中一個基本問題是：哪一個模型更合適，是MA、AR還是ARMA？第13頁，共29頁，2023年，2月20日，星期四

Wold分解定理和Kolmogorov-Szego定理都給我們提供了隨機過程不同有理傳遞函數(shù)模型間的重要關(guān)系。由Wold分解定理可知，AR模型或ARMA模型可用一個可能是無窮階MA模型表示。Kolmogorov-Szego定理暗示MA模型或ARMA模型可用一個可能是無窮階AR模型表示。這些結(jié)果是很重要的，因為如果模型選錯，我們也可獲得一個很好的近似。例如，如果我們正企圖用AR模型建立一個ARMA(p,q)模型，只要你選擇足夠大的AR模型的階數(shù)，那么結(jié)果仍然是可以接受的。第14頁，共29頁，2023年，2月20日，星期四3.2平穩(wěn)隨機信號通過線性系統(tǒng)從前面的研究可以看出，三個模型都可以看作是白噪聲通過一個線性系統(tǒng)的輸出3.2.1平穩(wěn)隨機信號通過線性系統(tǒng)的定理設(shè)：x(n)通過一線性移不變系統(tǒng)h(n)后輸出為y(n)則有：如果x(n)是確定性信號，則：如果x(n)是一平穩(wěn)隨機信號，則y(n)也是平穩(wěn)隨機信號。由于隨機信號不存在傅立葉變換，所以需要從相關(guān)函數(shù)和功率譜的角度來研究隨機信號通過線性系統(tǒng)的行為第15頁，共29頁，2023年，2月20日，星期四1.相關(guān)卷積定理若則：也就是說，卷積的相關(guān)等于相關(guān)的卷積

兩邊求傅立葉變換：根據(jù)維納—辛欽定理和相關(guān)定理（式2.4.7），由上式得即輸出自功率譜等于輸入自功率譜與系統(tǒng)能量譜的乘積第16頁，共29頁，2023年，2月20日，星期四2.輸入輸出互相關(guān)定理輸入、輸出序列的互相關(guān)等于輸入自相關(guān)與系統(tǒng)單位抽樣響應(yīng)的卷積即輸入輸出序列互功率譜等于輸入序列自功率譜與系統(tǒng)頻率響應(yīng)的乘積對實信號：（3.2.6）（3.2.4）第17頁，共29頁，2023年，2月20日，星期四由式（3.2.4）或（3.2.6）可得系統(tǒng)幅度譜：或?qū)⑹剑?.2.6）除以（3.2.4）可得相位譜：這里系統(tǒng)頻率響應(yīng)為互相關(guān)和功率譜反映了隨機序列通過線性系統(tǒng)前、后的關(guān)系。這種關(guān)系與系統(tǒng)有關(guān)，因而可以直接用來測量系統(tǒng)的特性。例如：測定系統(tǒng)頻率響應(yīng)和單位抽樣響應(yīng)。第18頁，共29頁，2023年，2月20日，星期四3.均值定理輸出隨機序列的均值等于輸入隨機序列的均值與系統(tǒng)零頻率（直流）響應(yīng)的乘積，即證明（略）第19頁，共29頁，2023年，2月20日，星期四3.2.2白噪聲激勵線性模型根據(jù)譜分解定理，任何平穩(wěn)隨機信號x(n)都可以看成是白噪聲w(n)激勵一個因果穩(wěn)定的可逆系統(tǒng)H(z)產(chǎn)生的輸出，如圖3.1所示：w(n)x(n)圖3.1平穩(wěn)隨機信號模型第20頁，共29頁，2023年，2月20日，星期四3.3AR模型的正則方程與參數(shù)計算什么是正則方程（normalequation)：就是在均方誤差（MSE）最小準則下建立的模型參數(shù)與相關(guān)函數(shù)的關(guān)系。AR模型應(yīng)用最為廣泛：1）AR模型可借助線性方程獲得2）三種模型在一定條件下可以互相轉(zhuǎn)換3）實際可直接或經(jīng)變換后采用AR模型第21頁，共29頁，2023年，2月20日，星期四3.3.1尤勒-沃克(Yule-Walker)方程如前所敘述的那樣,p階AR模型的系統(tǒng)函數(shù)為而系統(tǒng)的輸出可表示為:第22頁，共29頁，2023年，2月20日，星期四根據(jù)上式,可以得到均方誤差與系統(tǒng)增益G以及AR系數(shù)的關(guān)系.由:,有:分別把各項代如上式.可得:第23頁，共29頁，2023年，2月20日，星期四在最小均方誤差(MMSE)準則下,要使得預(yù)測值最佳地逼近x(n),參數(shù)ai的選擇應(yīng)使由式(3.3.8)可得:聯(lián)立上面三式.可得即:第24頁，共29頁，2023年，2月20日，星期四可得AR模型的正則方程即尤勒-沃克(Yule-Walker)方程第25頁，共29頁，2023年，2月20日，星期四AR模型與線性預(yù)測討論假定AR模型的系統(tǒng)增益G=1,激勵白噪聲的方差為待求量,則AR模型的系統(tǒng)函數(shù)為:第26頁，共29頁，2023年，2月20日，星期四(1)AR模型的逆濾波器是預(yù)測誤差濾波器

第27頁，共29頁，2023年，2月20