時(shí)間序列分析TimeSeriesAnalysis03

平穩(wěn)時(shí)間序列建模（ARMA)經(jīng)典時(shí)序模型之AR,MA,ARMADYMWUST本章結(jié)構(gòu)AR模型3.1MA模型3.2ARMA模型3.3平穩(wěn)序列建模步驟3.43.1AR模型具有如下結(jié)構(gòu)的模型稱(chēng)為p階自回歸模型，簡(jiǎn)記為AR(p)特別當(dāng)時(shí)，稱(chēng)為中心化模型

AR(P)序列中心化變換稱(chēng)為的中心化序列，令自回歸系數(shù)多項(xiàng)式引進(jìn)延遲算子，中心化AR（p）模型又可以簡(jiǎn)記為

自回歸系數(shù)多項(xiàng)式對(duì)比特征方程注:F(l)=0與f(u)=0二者根互為倒數(shù)AR模型平穩(wěn)性判別

判別原因要擬合一個(gè)平穩(wěn)序列,用來(lái)擬合的模型顯然也應(yīng)該是平穩(wěn)的。AR模型是常用的平穩(wěn)序列的擬合模型之一,但并非所有的AR模型都是平穩(wěn)的。

判別方法特征根判別法平穩(wěn)域判別法AR（P）模型的求解任一個(gè)中心化模型都可以視為一個(gè)非齊次線(xiàn)性差分方程，它的通解求法如下（1）求齊次線(xiàn)性差分方程的一個(gè)通解（2）求非齊次線(xiàn)性差分方程的一個(gè)特解（3）求非齊次線(xiàn)性差分方程的通解

特征根檢驗(yàn)自回歸序列平穩(wěn)，要求序列最終回歸到均值水平，即：成立的條件平穩(wěn)域判別對(duì)于一個(gè)AR(p)模型而言，如果沒(méi)有平穩(wěn)性的要求，實(shí)際上也就意味著對(duì)參數(shù)向量沒(méi)有任何限制，它們可以取遍p維歐氏空間的任意一點(diǎn)如果加上了平穩(wěn)性限制，參數(shù)向量就只能取p維歐氏空間的一個(gè)子集，使得特征根都在單位圓內(nèi)的系數(shù)集合對(duì)于低階自回歸模型用平穩(wěn)域的方法判別模型的平穩(wěn)性通常更為簡(jiǎn)便。AR(1)模型平穩(wěn)條件模型結(jié)構(gòu)特征方程特征根平穩(wěn)域舉例作出如下兩個(gè)理論模型的序列圖

x1=arima.sim(n=100,list(ar=0.8))；e=rnorm(100)x2=filter(e,filter=-1.1,method="recursive")plot(x1)；plot(e)舉例作出如下兩個(gè)理論模型的序列圖

平穩(wěn)性判斷：

一般地，

舉例arima.sim()##函數(shù)產(chǎn)生AR模型的仿真序列sim.data<-arima.sim(list(order=c(1,0,0),ar=0.9),n=100)acf(sim.data)arima.sim函數(shù)的參數(shù)的說(shuō)明model:包含ar和/或ma分量，分別給出ar和ma系數(shù)。默認(rèn)給出ARIMA(0,0,0)模型，這是白噪聲。n:輸出序列的長(zhǎng)度，沒(méi)有進(jìn)行差分計(jì)算前的序列長(zhǎng)度。嚴(yán)格為正整數(shù)。rand.gen:可選項(xiàng)，生成更新的函數(shù)。n.start：“老化”期的長(zhǎng)度。如果NA是默認(rèn)值，則計(jì)算可行值。start.innov：承接n.start使用，用于可選的更新時(shí)間序列(n.start默認(rèn)在函數(shù)內(nèi)部計(jì)算)。

AR(2)模型的平穩(wěn)條件模型結(jié)構(gòu)特征方程特征根平穩(wěn)域AR(2)的平穩(wěn)域復(fù)根實(shí)根考察如下例子：X3=arima.sim(n=100,list(ar=c(1,-0.5))x4=filter(e,filter=c(1,0.5),method="recursive")plot(X3)；plot(x4)（3）

（4）平穩(wěn)性判斷

平穩(wěn)AR(p)模型的統(tǒng)計(jì)性質(zhì)均值方差協(xié)方差自相關(guān)系數(shù)偏自相關(guān)系數(shù)均值如果AR(p)模型滿(mǎn)足平穩(wěn)性條件，則有根據(jù)平穩(wěn)序列均值為常數(shù)，且為白噪聲序列，有推導(dǎo)出Green函數(shù)定義AR(p)模型的傳遞形式（設(shè)li為對(duì)應(yīng)特征方程的根）其中系數(shù)稱(chēng)為Green函數(shù)上式可以記為其中

這表明具有傳遞形式的平穩(wěn)序列可以由現(xiàn)在時(shí)刻以前的白噪聲通過(guò)系統(tǒng)“

”的作用而生成，Gj是j個(gè)單位時(shí)間以前加入系統(tǒng)的干擾項(xiàng)et-j對(duì)現(xiàn)實(shí)Xt響應(yīng)的權(quán)，亦即系統(tǒng)對(duì)et-j的“記憶”。

格林函數(shù)的含義：格林函數(shù)是描述系統(tǒng)記憶擾動(dòng)程度的函數(shù)。系統(tǒng)Xtet,...Green函數(shù)遞推公式原理方法：待定系數(shù)法格林函數(shù)由上述可得：（注意：p不變?。┘纯梢韵葟腉0出發(fā)，依次遞推得到G1,…,Gp-1，再求解p階齊次線(xiàn)性差分方程得到Gk：AR(p)模型的方差、自協(xié)方差、自相關(guān)系數(shù)平穩(wěn)AR(p)模型的傳遞形式兩邊求方差得協(xié)方差自相關(guān)系數(shù)例求平穩(wěn)AR(1)模型的方差和協(xié)方差平穩(wěn)AR(1)模型的Green函數(shù)Green函數(shù)為AR(1)模型的方差A(yù)R(1)模型的協(xié)方差方差、協(xié)方差函數(shù)的另一種求解方法在平穩(wěn)AR(p)模型兩邊同乘，再求期望根據(jù)，得協(xié)方差函數(shù)的遞推公式：當(dāng)k=0時(shí)，則有：當(dāng)k=1,2…,p時(shí)有平穩(wěn)AR(P)模型的自相關(guān)系數(shù)遞推公式例求平穩(wěn)AR(1)模型的協(xié)方差遞推公式AR(1)模型的方差為AR(1)模型協(xié)方差為AR(1)模型的自相關(guān)系數(shù)若AR(1)

穩(wěn)定，則|f1|<1，因此，k

時(shí)，呈指數(shù)形衰減，直到零。這種現(xiàn)象稱(chēng)為拖尾或稱(chēng)AR(1)有無(wú)窮記憶（infinitememory）。注意，f1<0時(shí)，呈振蕩衰減狀。

例求平穩(wěn)AR(2)模型的協(xié)方差平穩(wěn)AR(2)模型的協(xié)方差函數(shù)遞推公式為由遞推公式，令k=1,2,有解方程組有常用AR模型自相關(guān)系數(shù)遞推公式AR(1)模型AR(2)模型AR模型自相關(guān)系數(shù)的性質(zhì)AR模型自相關(guān)系數(shù)的表達(dá)式是一個(gè)齊次差分方程設(shè)它的通解形式為呈指數(shù)衰減拖尾性例考察如下AR模型的自相關(guān)圖例考察四個(gè)平穩(wěn)AR模型的自相關(guān)圖自相關(guān)系數(shù)按負(fù)指數(shù)單調(diào)收斂到零；自相關(guān)系數(shù)呈正負(fù)相間衰減例考察四個(gè)平穩(wěn)AR模型的自相關(guān)圖自相關(guān)呈“偽周期”性；自相關(guān)系數(shù)不規(guī)則衰減例圖示解釋從上圖中可以看到,這四個(gè)平穩(wěn)AR模型,不論它們是AR(1)模型還是AR(2)模型,不論它們的特征根是實(shí)根還是復(fù)根,是正根還是負(fù)根,它們的自相關(guān)系數(shù)都呈現(xiàn)出拖尾性和呈指數(shù)衰減到零值附近的性質(zhì)。但由于特征根不同,它們的自相關(guān)系數(shù)衰減的方式也不一樣有的是按負(fù)指數(shù)單調(diào)衰減(如模型(1))有的是正負(fù)相間地衰減(如模型(2))有的呈現(xiàn)出類(lèi)似于周期性的余弦衰減,即具有“偽周期”特征(如模型(3))有的是不規(guī)則衰減（如模型(4)）格林函數(shù)、協(xié)方差函數(shù)、自相關(guān)函數(shù)關(guān)系？AR(p)模型AR(p)格林函數(shù)、協(xié)方差函數(shù)、自相關(guān)函數(shù)關(guān)系？偏自相關(guān)函數(shù)（引）自相關(guān)函數(shù)(ACF)gk給出了Xt與Xt-k的相關(guān)性，但這一相關(guān)性可能掩蓋了變量間完全不同的隱含關(guān)系。例如，在AR(1)模型中，Xt與Xt-2間有相關(guān)性可能主要是由于它們各自與Xt-1間的相關(guān)性帶來(lái)的:

即自相關(guān)函數(shù)中包含了這種所有的“間接”相關(guān)。與之相反，Xt與Xt-k間的偏自相關(guān)函數(shù)(partialautocorrelation，簡(jiǎn)記為PACF)則是消除了中間變量Xt-1，…，Xt-k+1帶來(lái)的間接相關(guān)后的直接相關(guān)性，它是在已知序列值Xt-1，…，Xt-k+1的條件下，Xt與Xt-k間關(guān)系的度量。

偏自相關(guān)系數(shù)定義

對(duì)于平穩(wěn)時(shí)間序列Xt，所謂滯后k偏自相關(guān)系數(shù)就是指在給定中間k-1個(gè)隨機(jī)變量的條件下，或者說(shuō)，在剔除了中間k-1個(gè)隨機(jī)變量的干擾之后，對(duì)相關(guān)影響的度量。用數(shù)學(xué)語(yǔ)言描述就是注：本定義本身無(wú)法計(jì)算偏相關(guān)系數(shù)！偏自相關(guān)系數(shù)的計(jì)算Yule-Walker方程組在方程等號(hào)兩邊同時(shí)乘以，并取期望，得取前k個(gè)方程構(gòu)成的方程組即Yule-Walker方程組解Yule-Walker方程可以得到參數(shù)的解，最后一個(gè)參數(shù)的解即為延遲K偏自相關(guān)系數(shù)Yule-Walker方程求解對(duì)k＝1，2，3，…依次求解Yule-Walker方程組，得到Y(jié)ule-Walker方程求解例如，AR(1)模型偏自相關(guān)系數(shù)的計(jì)算其Yule-Walker方程則偏自相關(guān)系數(shù)AR(2)模型偏自相關(guān)系數(shù)的計(jì)算K=1時(shí)，，同時(shí)亦有K=2時(shí)

同時(shí)，所以有，同理，從而，AR（2）模型的偏自相關(guān)系數(shù)為對(duì)于AR（p）模型，由Yule-Walker方程組，可推出且當(dāng)k>p時(shí)，由矩陣性質(zhì)知

于是

從而，偏自相關(guān)函數(shù)：

樣本的偏自相關(guān)系數(shù)

使用命令pacf(data,plot=FALSE),直接計(jì)算出仿真序列的偏自相關(guān)系數(shù)：123456789100.667-0.431-0.209-0.1270.1480.032-0.0710.0190.093-0.10311121314151617181920-0.047-0.0210.044-0.026-0.145-0.1060.096-0.0630.027-0.081例續(xù):考察如下AR模型的偏自相關(guān)圖例3.5續(xù):考察如下AR模型的偏自相關(guān)圖理論偏自相關(guān)系數(shù)樣本偏自相關(guān)圖例3.5續(xù):考察如下AR模型的偏自相關(guān)圖理論偏自相關(guān)系數(shù)樣本偏自相關(guān)圖例3.5續(xù):考察如下AR模型的偏自相關(guān)圖理論偏自相關(guān)系數(shù)樣本偏自相關(guān)圖例3.5續(xù):考察如下AR模型的偏自相關(guān)圖理論偏自相關(guān)系數(shù)樣本偏自相關(guān)系數(shù)圖本章結(jié)構(gòu)ARMA模型3.3AR模型3.1MA模型3.2平穩(wěn)時(shí)間序列建模步驟3.43.2MA模型MA模型定義具有如下結(jié)構(gòu)的模型稱(chēng)為q階移（滑）動(dòng)平均模型，簡(jiǎn)記為MA(q)特別當(dāng)m=0時(shí)，稱(chēng)為中心化MA(q)模型

移動(dòng)平均系數(shù)多項(xiàng)式引進(jìn)延遲算子，中心化模型又可以簡(jiǎn)記為

q階移動(dòng)平均系數(shù)多項(xiàng)式對(duì)應(yīng)的特征方程為：顯然，F(xiàn)(l)=0與Q(B)=0二者根互為倒數(shù)MA模型的統(tǒng)計(jì)性質(zhì)常數(shù)均值常數(shù)方差MA模型的統(tǒng)計(jì)性質(zhì)自協(xié)方差函數(shù)q階截尾自相關(guān)系數(shù)q階截尾

常用MA模型的自相關(guān)系數(shù)MA(1)模型MA(2)模型例3.6:考察如下MA模型的自相關(guān)性質(zhì)

MA(1)模型的自相關(guān)圖

MA(1)模型自相關(guān)圖特征解讀考察上面兩個(gè)MA(1)模型的自相關(guān)圖，排除樣本隨機(jī)性的影響,樣本自相關(guān)圖清晰顯示出MA(1)模型自相關(guān)系數(shù)一階截尾；考察上面兩個(gè)MA(1)模型的自相關(guān)圖，可以發(fā)現(xiàn)這兩個(gè)不同的MA模型具有完全相同的自相關(guān)圖。容易驗(yàn)證它們的理論自相關(guān)系數(shù)也正好相等：MA(2)模型的自相關(guān)圖

MA(2)模型自相關(guān)圖特征解讀考察上面兩個(gè)MA(2)模型的自相關(guān)圖，排除樣本隨機(jī)性的影響,樣本自相關(guān)圖清晰顯示出MA(2)模型自相關(guān)系數(shù)二階截尾；考察上面兩個(gè)MA(2)模型的自相關(guān)圖，可以發(fā)現(xiàn)這兩個(gè)不同的MA模型具有完全相同的自相關(guān)圖。容易驗(yàn)證它們的理論自相關(guān)系數(shù)也正好相等：MA模型的可逆性上述例子演示了不同的MA模型，可能具有完全相同的自相關(guān)系數(shù)的現(xiàn)象。產(chǎn)生這種現(xiàn)象的原因就是我們?cè)诘诙轮刑岬降模鹤韵嚓P(guān)系數(shù)的非唯一性。這種自相關(guān)系數(shù)的不唯一性，會(huì)給我們將來(lái)的工作帶來(lái)麻煩，即無(wú)法根據(jù)樣本自相關(guān)系數(shù)確定擬合的模型。為了保證一個(gè)給定的自相關(guān)函數(shù)能夠?qū)?yīng)唯一的模型，我們就要給模型增加約束條件。這個(gè)約束條件稱(chēng)為模型的可逆性條件。可逆的定義可逆MA模型定義若一個(gè)MA模型能夠表示成為收斂的AR模型形式，那么該MA模型稱(chēng)為可逆MA模型收斂的AR模型：滿(mǎn)足平穩(wěn)性條件可逆概念的重要性一個(gè)自相關(guān)系數(shù)唯一對(duì)應(yīng)一個(gè)可逆MA模型。MA(q)模型的可逆條件MA(q)模型的可逆概念和AR(p)模型的平穩(wěn)概念是對(duì)偶概念。MA(q)模型的可逆條件該模型特征方程:

的q個(gè)非零特征根都在單位圓內(nèi)或移動(dòng)平滑系數(shù)多項(xiàng)式的根都在單位圓外逆函數(shù)的遞推公式一個(gè)MA（q）模型滿(mǎn)足可逆條件，則可以寫(xiě)出如下逆轉(zhuǎn)形式：逆函數(shù)的遞推公式原理方法：待定系數(shù)法遞推公式低階MA模型系數(shù)可逆域根據(jù)MA模型的結(jié)構(gòu)，求出特征方程的特征根，根據(jù)特征根都在單位圓內(nèi)的約束條件，可以求出滿(mǎn)足可逆條件的系數(shù)取值空間，這就是MA模型的系數(shù)可逆域。MA模型的系數(shù)可逆域與AR模型的平穩(wěn)域具有對(duì)偶關(guān)系MA(1)模型的系數(shù)可逆域MA(2)模型的系數(shù)可逆域例續(xù):考察如下MA模型的可逆性(1)—(2)

逆函數(shù)逆轉(zhuǎn)形式(3)—(4)

逆函數(shù)逆轉(zhuǎn)形式MA模型偏自相關(guān)系數(shù)拖尾對(duì)于一個(gè)可逆模型，可以等價(jià)寫(xiě)成模型形式其中AR(p)模型偏自相關(guān)系數(shù)p階截尾，所以可逆MA(q)模型偏自相關(guān)系數(shù)階截尾，即具有偏自相關(guān)系數(shù)拖尾屬性。一個(gè)可逆MA(q)模型一定對(duì)應(yīng)著一個(gè)與它具有相同自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的不可逆MA(q)模型，這個(gè)不可逆MA(q)模型也同樣具有偏自相關(guān)系數(shù)拖尾特性。例3.7求MA(1)模型偏自相關(guān)系數(shù)的表達(dá)式MA(1)模型表達(dá)式：根據(jù)偏自相關(guān)系數(shù)的定義，我們知道延遲k階偏自相關(guān)系數(shù)是如下方程組的最后一個(gè)系數(shù)對(duì)j=1,2,…,K依次求方程，可以得到MA(1)模型任意k階偏自相關(guān)系數(shù)的通解為

如，運(yùn)行如下R代碼>data<-arima.sim(list(order=c(0,0,1),ma=-0.9),n=1000)>pacf(data,lag.max=12)

仍然用arima.sim()函數(shù)生成模型的仿真序列，再用pacf()函數(shù)畫(huà)出仿真序列的偏自相關(guān)函數(shù)圖，模型（1）的程序data<-arima.sim(list(order=c(0,0,1),ma=0.8),n=100)pacf(data)模型（2）的程序data<-arima.sim(list(order=c(0,0,2),ma=c(-1,0.5)),n=100)pacf(data)

例

續(xù)繪制下列MA模型的偏自相關(guān)系數(shù)圖，直觀考察MA模型偏自相關(guān)系數(shù)的拖尾性MA(1)模型偏自相關(guān)系數(shù)拖尾MA(2)模型偏自相關(guān)系數(shù)拖尾本章結(jié)構(gòu)ARMA模型3.3AR模型3.1MA模型3.2平穩(wěn)時(shí)間序列建模步驟3.43.3ARMA模型具有如下結(jié)構(gòu)的模型稱(chēng)為自回歸移動(dòng)平均模型，簡(jiǎn)記為ARMA(p,q)特別當(dāng)f0=0時(shí)，稱(chēng)為中心化ARMA(p,q)模型系數(shù)多項(xiàng)式引進(jìn)延遲算子，中心化ARMA(p,q)模型又可以簡(jiǎn)記為

p階自回歸系數(shù)多項(xiàng)式

q階移動(dòng)平均系數(shù)多項(xiàng)式注：

平穩(wěn)條件與可逆條件ARMA(p,q)模型的平穩(wěn)條件P階自回歸系數(shù)多項(xiàng)式的根都在單位圓外即ARMA(p,q)模型的平穩(wěn)性完全由其自回歸部分的平穩(wěn)性決定ARMA(p,q)模型的可逆條件q階移動(dòng)平均系數(shù)多項(xiàng)式的根都在單位圓外即ARMA(p,q)模型的可逆性完全由其移動(dòng)平滑部分的可逆性決定

傳遞形式與逆轉(zhuǎn)形式（對(duì)偶性）逆轉(zhuǎn)形式平穩(wěn)性與MA(∞)模型

傳遞形式與逆轉(zhuǎn)形式（對(duì)偶性）傳遞形式逆轉(zhuǎn)形式ARMA(p,q)模型的統(tǒng)計(jì)性質(zhì)均值協(xié)方差自相關(guān)系數(shù)自相關(guān)系數(shù)拖尾ARMA(p,q)模型可以轉(zhuǎn)化為無(wú)窮階移動(dòng)平均模型偏相關(guān)系數(shù)拖尾ARMA(p,q)模型可以轉(zhuǎn)化為無(wú)窮階自回歸模型以ARMA(1,1)模型為例，解讀PCF&PACF的拖尾性

總結(jié)經(jīng)典的平穩(wěn)時(shí)序模型的統(tǒng)計(jì)特征對(duì)于ARMA模型，其自相關(guān)函數(shù)和偏自相關(guān)函數(shù)計(jì)算相較復(fù)雜，這里就不推導(dǎo)一般的計(jì)算公式了。我們借助ARMAacf()函數(shù)來(lái)計(jì)算ARMA模型的自相關(guān)函數(shù)和偏自相關(guān)函數(shù)，該函數(shù)的使用格式ARMAacf(ar=numeric(),ma=numeric(),lag.max=r,pacf=FALSE)其中，ar:AR模型的系數(shù)向量ma:MA模型的系數(shù)向量lag.max：最大滯后階數(shù)，整數(shù)，默認(rèn)為max(p,q+1)，其中p,q分別為AR和MA項(xiàng)的參數(shù)。pacf:邏輯選擇，是否顯示偏自相關(guān)函數(shù)，默認(rèn)“FALSE”。例考察ARMA模型的相關(guān)性擬合模型ARMA(1,1)

并直觀地考察該模型自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的性質(zhì)。

ARMAacf(ar=0.5,ma=-0.8,lag.max=5)012345

1.00000000-0.21428571-0.10714286-0.05357143-0.02678571-0.01339286ARMAacf(ar=0.5,ma=-0.8,lag.max=5,pacf=TRUE)[1]-0.21428571-0.16042781-0.12327923-0.09619470-0.07576171自相關(guān)系數(shù)和偏自相關(guān)系數(shù)拖尾