1、時(shí)間序列分析,第四章 平穩(wěn)時(shí)間序列模型的建立,第四章 平穩(wěn)時(shí)間序列模型的建立 共分六節(jié)： 第一節(jié) 模型識別 第二節(jié) 模型定階 第三節(jié) 模型參數(shù)估計(jì) 第四節(jié) 模型的適應(yīng)性檢驗(yàn) 第五節(jié) 建模的其它方法 第六節(jié) 實(shí)例,第一節(jié) 模型識別,一、對模型識別問題的認(rèn)識 ：,1. 模型識別既是模型建立中的一個(gè)重要步驟也是一個(gè)過程,2. 一個(gè)具體的時(shí)間序列分析問題：,建模,建立時(shí)間序列,應(yīng)用分析,診斷檢驗(yàn),參數(shù)估計(jì),模型識別,二、用自相關(guān)函數(shù)和偏自相關(guān)函數(shù)識別,1. B-J方法模型識別的依據(jù),2. 這種識別方法的優(yōu)缺點(diǎn)：,優(yōu)點(diǎn)：簡單易懂，易于操作，應(yīng)用廣泛。,缺點(diǎn)：精度不夠，特別是序列長度不足夠長時(shí)。,這是因?yàn)?/p>

2、 （1）識別時(shí)用的是自相關(guān)函數(shù)和自協(xié)方差函數(shù)的樣本估計(jì)值，它們與理論值有一定差異； （2）對高階ARMA模型的識別，顯得有些力不從心。,改進(jìn)措施：可利用自相關(guān)和自協(xié)方差函數(shù)做初步識別，再結(jié)合其他方法確定模型。,三、實(shí)際操作中的問題,1. 零均值的顯著性檢驗(yàn),判斷時(shí)間序列是否是零均值的，即判斷給出的樣本序列是否與零有顯著性差異（是否顯著為零或顯著非零）。,若顯著非零,進(jìn)行零均值化,不進(jìn)行零均值化,判斷平穩(wěn)性、識別、估計(jì)、檢驗(yàn)等,這時(shí)是將均值作為一個(gè)未知參數(shù)代入模型中，模型的形式也將會有所改變，參數(shù)估計(jì)時(shí)，需估計(jì)序列的均值。,（1）序列均值的方差為：,均值可用樣本均值,對有N個(gè)觀察值的有限時(shí)間序列

3、( )，其,在大樣本情況下，上面的方差表達(dá)式可以近似表示為：,來估計(jì)，且是的無偏估計(jì)。為度量其精度，我們有：,（2）零均值的顯著性判斷：,我們考察均值的估計(jì) 的均值和方差，為我們判斷序列是否零均值提供了一種依據(jù)。,如果樣本均值在以下范圍內(nèi)可認(rèn)為是零均值過程。,另外，由 可看出：,若原時(shí)間序列是獨(dú)立隨機(jī)變量序列，則有,若Xt之間存在自相關(guān)， 的方差就發(fā)生了變化,對AR(1)模型，有,由,有：,在判斷一個(gè)時(shí)間序列是否零均值時(shí)，我們也可以先初步判斷序列所適合的模型，再根據(jù)該模型的樣本均值的方差進(jìn)行零均值檢驗(yàn)。 其它模型的樣本均值的方差可根據(jù)模型的自相關(guān)函數(shù)特點(diǎn)用同樣方法算出。,2. 自相關(guān)和偏自相關(guān)

4、函數(shù)估計(jì)值的截尾和拖尾性判斷,(1)自相關(guān)函數(shù)和偏自相關(guān)函數(shù)的估計(jì)值的漸近分布,在進(jìn)行模型識別(主要是考慮自相關(guān)函數(shù)和偏自相關(guān)函數(shù)的截尾和拖尾性)時(shí)，要用到自相關(guān)和偏自相關(guān)估計(jì)的標(biāo)準(zhǔn)差,自相關(guān)函數(shù)q步截尾，當(dāng)kq時(shí)，有,偏自相關(guān)函數(shù)p步截尾，當(dāng)kp時(shí)，有,截尾：從某一步q開始與零是否有顯著性差別的顯著性檢驗(yàn)。若從某一步q開始與零無顯著性差別，即為截尾。觀察是否落入2倍標(biāo)準(zhǔn)差范圍內(nèi)，若是，則與零無顯著性差別，即為截尾。,拖尾：在不長時(shí)間內(nèi)收斂，逐漸衰減至零附近。,既不截尾也不拖尾：無上述特征，呈明顯緩慢衰減或周期性衰減。這說明序列是非平穩(wěn)的。,(2)截尾、拖尾性的判斷,即如果自相關(guān)函數(shù)是q階截尾

5、的，當(dāng)kq時(shí)，自相關(guān)估計(jì)值的方差滿足,(kq),如果自相關(guān)估計(jì)值在 范圍內(nèi)，可看成是截尾的。,第二節(jié) 模型定階,一、自相關(guān)和偏自相關(guān)函數(shù)定階法,二、殘差方差圖定階法,三、 F檢驗(yàn)定階法,四、 最佳準(zhǔn)則函數(shù)定階法(AIC、FPE、BIC準(zhǔn)則),一、 自相關(guān)和偏自相關(guān)函數(shù)定階法,對AR和MA較實(shí)用，但也只能得到階數(shù)的粗略估計(jì),二、殘差方差圖定階法,1. 原理：,最小的殘差方差對應(yīng)真實(shí)階數(shù),2. 方法：,利用殘差方差圖確定階數(shù),以階數(shù)為橫軸、以殘差方差為縱軸作圖，尋找最小殘差方差對應(yīng)的階數(shù)。,3. 殘差方差的計(jì)算：,4. 優(yōu)缺點(diǎn)：,優(yōu)點(diǎn)：簡單直觀，易于理解； 缺點(diǎn)：有一定的主觀性,三、 F檢驗(yàn)定階法

6、,1. 原理：,用F檢驗(yàn)來檢驗(yàn)兩個(gè)回歸模型是否有顯著差異,單尾檢驗(yàn)，拒絕域在右尾,當(dāng)計(jì)算得到的F值大于臨界值時(shí)，拒絕原假設(shè)，認(rèn)為兩模型有顯著差異。,2. 對ARMA(n,m)模型,可看成n+m階回歸方程,檢驗(yàn)ARMA(n,m)與ARMA(n-1,m-1)有無顯著性差異,H0：無顯著性差異,ARMA(n,m),Q0：對應(yīng)自由度為Nn(n+m)N2n-m,ARMA(n-1,m-1),Q1：對應(yīng)自由度為N(n1)(n+m2)N2n-m+3,3. 實(shí)施過程：,（1）對觀測數(shù)據(jù)用ARMA(n,m)擬合,（2）用高階ARMA模型擬合,（3）用F檢驗(yàn)判斷兩模型是否有顯著差異，若無，用低階模型；若有，選擇高階

7、模型，然后擬合更高階模型再用F檢驗(yàn)判斷，直至檢驗(yàn)不顯著為止。,四、 最佳準(zhǔn)則函數(shù)定階法(AIC、FPE、BIC準(zhǔn)則),1. 原理：,確定出一個(gè)準(zhǔn)則函數(shù)，,既考慮到擬合模型對數(shù)據(jù)的接近程度，又考慮到參數(shù)的個(gè)數(shù)；,即既考慮誤差越小越好，又考慮到模型越簡約越好。,然后按照準(zhǔn)則函數(shù)的取值確定模型的優(yōu)劣，以決定取舍。,2. 主要有AIC準(zhǔn)則、FPE準(zhǔn)則和BIC準(zhǔn)則,3. FPE準(zhǔn)則：,根據(jù)模型的預(yù)報(bào)誤差來判斷自回歸模型的階數(shù)是否恰當(dāng)。,最小化最終預(yù)測誤差(Final Prediction Error)準(zhǔn)則,適用范圍：AR模型,依據(jù)：,選擇使上式達(dá)到最小的n0做為最佳階數(shù)。,準(zhǔn)則函數(shù)：,一般做法：,(1)

8、對觀察數(shù)據(jù)從低階到高階擬合AR模型， (2)計(jì)算相應(yīng)的FPE值， (3)選擇最小的FPE值對應(yīng)的AR模型為最佳模型。,4. AIC準(zhǔn)則,最小信息準(zhǔn)則,用AR(n)擬合序列Xt，則擬合殘差方差,是n的函數(shù)，記作,n,2n/N,可選擇n0，使AIC(n0)最小，n0對應(yīng)的就是最佳階數(shù)。,準(zhǔn)則函數(shù)：,用AR(n)擬合序列Xt,用ARMA(n,m)擬合序列Xt，則擬合殘差方差,是n、m、的函數(shù)（假定也是待估參數(shù)）， 記作,定義,5. BIC準(zhǔn)則,AIC準(zhǔn)則有過分估計(jì)自回歸階數(shù)的傾向，可略加改動，得到BIC準(zhǔn)則,選擇使上式達(dá)到最小的n0做為最佳階數(shù)。,因?yàn)橐话阌校簂nN2，所以由BIC準(zhǔn)則確定的階數(shù)不大

9、于由AIC準(zhǔn)則確定的階數(shù)。,第三節(jié) 模型參數(shù)估計(jì),一、模型參數(shù)估計(jì)的幾種方法,二、模型參數(shù)的相關(guān)矩估計(jì),常用的參數(shù)估計(jì)方法有：,矩估計(jì)、極大似然估計(jì)、貝葉斯估計(jì)、 最小二乘估計(jì)等,二、模型參數(shù)的相關(guān)矩估計(jì),1. 矩估計(jì)：,用樣本矩去估計(jì)總體相應(yīng)的矩。,是一種簡單粗略的估計(jì)，但可提供迭代估計(jì)時(shí)的初值,優(yōu)點(diǎn)：簡單易懂，便于計(jì)算,缺點(diǎn)：有效性和精度不夠,2. 模型參數(shù)的矩估計(jì)(初估計(jì)),（1）AR模型參數(shù)的矩估計(jì),根據(jù)Yule-Walker方程,可以得到：,又有,又有：,可得：,例1：求AR(1)模型參數(shù)的矩估計(jì),（2）MA模型參數(shù)的矩估計(jì),在第三章考察模型的自協(xié)方差時(shí)我們得到：,這是一個(gè)由m+1個(gè)

10、方程構(gòu)成的非線性方程組。,常用的求解方法有三種：直接法、線性迭代法和Newton-Raphson算法。,例：求MA(1) 模型參數(shù)的矩估計(jì),（3）ARMA模型參數(shù)的矩估計(jì),是否能利用Yule-Walker方程？為什么？,ARMA(m,n)模型：,一般矩估計(jì)的方法：,例：ARMA(1,1)模型參數(shù)的矩估計(jì),第四節(jié) 模型的適應(yīng)性檢驗(yàn),模型的適應(yīng)性檢驗(yàn)：,模型是否完全或基本上解釋了系統(tǒng)的動態(tài)性；,at是否是一白噪聲序列；,關(guān)鍵是at的獨(dú)立性檢驗(yàn),本節(jié)主要介紹的模型適應(yīng)性檢驗(yàn)的方法有：,一、 散點(diǎn)圖法,二、估計(jì)相關(guān)系數(shù)法,三、 F檢驗(yàn),四、 檢驗(yàn)法,一、 散點(diǎn)圖法,通過at對at-j和at對Xt-j的

11、散點(diǎn)圖檢驗(yàn)at,二、估計(jì)相關(guān)系數(shù)法,計(jì)算at和at-j的相關(guān)系數(shù)以及at和Xt-j的相關(guān)系數(shù)，通過相關(guān)系數(shù)來判斷,上述方法簡單直觀但均有一定的主觀性，較粗略。,三、 F檢驗(yàn),通過檢驗(yàn)高低階模型的顯著性來反映at是否獨(dú)立,可以證明，當(dāng)階數(shù)不夠時(shí)， 是不獨(dú)立的。 若 是不獨(dú)立，一定可以通過增加階數(shù)來提高模型的解釋能力。,例：,四、 檢驗(yàn)法,將at的自相關(guān)函數(shù)記為,可以證明，當(dāng)N很大時(shí)，有,因此有：,令Q 若Q大于臨界值，落入拒絕域，拒絕原假設(shè)，認(rèn)為模型是不適合的。,第五節(jié) 建模的其它方法,一、Pandit-Wu建模法,二、用長階自回歸建立近似模型,一、Pandit-Wu建模法,1. 背景：,Box

12、Jenjes法的弱點(diǎn)使人們不斷尋求更好的建模方法，吳賢銘和Pandit提出動態(tài)數(shù)據(jù)系統(tǒng)DDSDynamic Data System,2. 思想：,用ARMA(n,n-1)模型擬合Xt，逐漸增加階數(shù)，檢驗(yàn)顯著性從而確定模型形式。,3. 基本步驟：,用一個(gè)ARMA(n,n-1)模型逼近序列Xt,（1）從ARMA(2,1)開始擬合序列，兩階兩階逐漸增加階數(shù)，即按ARMA(2n,2n-1)，n1，2，方式進(jìn)行擬合；,（2）對ARMA(2n+2,2n+1)和ARMA(2n,2n-1)作F檢驗(yàn),（3）若顯著，繼續(xù)取高階進(jìn)行，若不顯著，檢驗(yàn) 是否顯著為零，置信區(qū)間是否包含零， 對ARMA(2n-1,2n-2)和ARMA(2n,2n-1)作F檢驗(yàn)。,4. 兩階兩階增加階數(shù)的原因：,（1）方便快捷；,（2）包含單階增加模型；,（3）從復(fù)根角度來考慮更合理。,二、用長階自回歸建立近似模型,1原理：,BoxJenkins建模法和Pandit-Wu建模法都存在ARMA、MA模型而使參數(shù)估計(jì)較為繁瑣和困難,任一序列都可用一個(gè)足夠高階的自回歸模型來逼近到我們想要的精度,2. 步驟：,（1）零均值化,（2）建立AR(2n)模型，n從1開始取起，兩階兩階的增加模型階數(shù)，直至達(dá)到所要求的精度。,（3）根據(jù)擬合的AR模型求模型ARMA(n,n-1),（4）可逆性及適應(yīng)性檢驗(yàn),注意的問題：,1.AR(p)的階數(shù)：到底