1、時間序列分析時間序列分析內(nèi)容提綱n時間序列分析基本概念n時間序列因素分解n時間序列分析方法n平穩(wěn)時間序列分析n非平穩(wěn)時間序列分析1 時間序列分析基本概念n定義 按照時間先后順序把隨機事件變化發(fā)展的過程記錄下來就構(gòu)成了一個時間序列。 對時間序列進行觀察、研究，找尋它變化發(fā)展的規(guī)律，預測它將來的走勢就是時間序列分析。1.1 特征統(tǒng)計量n均值 n方差n自協(xié)方差n自相關(guān)系數(shù))(xxdFEXttt)()()(22xdFxXEDXttttt)(),(ssttXXEstCovstDXDXstCovst),(),(1.2 平穩(wěn)時間序列定義n滿足如下條件的序列稱為平穩(wěn)序列(1)概率分布函數(shù)不隨時間的平移而變化，

2、即：(2)期望值、方差和自協(xié)方差是不依賴于時間的常數(shù)，即：),(),(mktmtkttXXCovXXCovmttDXDX)()(mttXEXE),.,(),.,(2121mtmmtXXXPXXXP1.3 平穩(wěn)性的檢驗（圖檢驗法） n時序圖檢驗 n根據(jù)平穩(wěn)時間序列均值、方差為常數(shù)的性質(zhì)，平穩(wěn)序列的時序圖應該顯示出該序列始終在一個常數(shù)值附近隨機波動，而且波動的范圍有界、無明顯趨勢及周期特征n自相關(guān)圖檢驗 n平穩(wěn)序列通常具有短期相關(guān)性。該性質(zhì)用自相關(guān)系數(shù)來描述就是隨著延遲期數(shù)的增加，平穩(wěn)序列的自相關(guān)系數(shù)會很快地衰減向零1.4 純隨機序列的定義n純隨機序列也稱為白噪聲序列，它滿足如下兩條性質(zhì) Tsts

3、tststCovTtEXt, 0,),()2(, )() 1 (2（常數(shù)）常數(shù)標準正態(tài)白噪聲序列時序圖 白噪聲序列的性質(zhì) n純隨機性 n各序列值之間沒有任何相關(guān)關(guān)系，即為 “沒有記憶”的序列 n方差齊性 n根據(jù)馬爾可夫定理，只有方差齊性假定成立時，用最小二乘法得到的未知參數(shù)估計值才是準確的、有效的00kCov(k)， )0(2 CovDXt2 時間序列因素分解n2.1時間序列的組合成份 長期趨勢（T） 是指時間序列隨時間的變化而逐漸增加或減少的長期變化的趨勢。季節(jié)變動（S） 是指時間序列在一年中或固定時間內(nèi)，呈現(xiàn)出的固定規(guī)則的變動。 循環(huán)變動（C） 是指沿著趨勢線如鐘擺般地循環(huán)變動，又稱景氣循

4、環(huán)變動(business cycle movement) 。不規(guī)則變動（I） 是指在時間序列中由于隨機因素影響所引起的變動。 2.1 時間序列的組合成份2.2 時間序列的組合模型加法模型 假定時間序列是基于4種成份相加而成的。長期趨勢并不影響季節(jié)變動。若以Y表示時間序列，則加法模型為Y=T+S+C+I乘法模型 假定時間序列是基于4種成份相乘而成的。假定季節(jié)變動與循環(huán)變動為長期趨勢的函數(shù)。該模型的方程式為ICSTYn趨勢分析目的n有些時間序列具有非常顯著的趨勢，我們分析的目的就是要找到序列中的這種趨勢，并利用這種趨勢對序列的發(fā)展作出合理的預測 n常用方法n趨勢擬合法n平滑法3 時間序列分析方法3

5、.1 趨勢擬合法n趨勢擬合法就是把時間作為自變量，相應的序列觀察值作為因變量，建立序列值隨時間變化的回歸模型的方法 n趨勢擬合法常用的模型n線性趨勢模型n可線性化的曲線趨勢擬模型n不可線性化的曲線趨勢擬模型(1) 線性趨勢模型n適用條件n長期趨勢呈現(xiàn)出線形特征n模型結(jié)構(gòu) 就是消除隨機波動的影響之后該序列的長期趨勢。)(, 0)(ttttIVarIEIbtaxbtaTt例3.1擬合澳大利亞政府19811990年每季度的消費支出序列 (2) 可線性化的曲線趨勢擬合模型n可線性化的曲線趨勢模型是指時間序列隨著時間的推移呈現(xiàn)曲線變動趨勢，但在估計這些趨勢方程時，可以把它們轉(zhuǎn)化成線性關(guān)系利用估計線性趨勢

6、模型的方法估計其參數(shù)。最常用的可線性化的曲線趨勢模型有n二次曲線模型n指數(shù)曲線模型n對數(shù)曲線模型2tbtaTtttabT bIntaTt二次曲線模型n二次曲線趨勢模型：n二次曲線趨勢模型的線性形式：其中：2tbtaTt2tbtaTt2tbtaTt22tt 例3.2： 對上海證券交易所每月末上證指數(shù)序列進行模型擬合 指數(shù)曲線模型n指數(shù)曲線趨勢模型：n指數(shù)曲線趨勢模型的線性形式：其中ttabT tbaTtInbbInaaInTTtt,對數(shù)曲線模型n對數(shù)曲線趨勢模型：n對數(shù)曲線趨勢模型的線性形式：其中bIntaTtt baTtIntt (3) 不可線性化的曲線趨勢模型常用的不可線性化的曲線趨勢模型有

7、：n修正指數(shù)模型n龔鉑茲趨勢模型n皮爾曲線模型ttbcaTtbcateTttbcaT1趨勢模型判斷的方法 以上列出了一些基本的長期趨勢型接下來的問題是我們在實際應用中如何根據(jù)實際觀測值選擇合適的趨勢模型。特別當時間序列呈現(xiàn)出曲線趨勢時很難做出決斷因為曲線趨勢模型的種類很多。下面就介紹兩種判斷模型類型的方法:圖形識別法與差分法(1)圖形識別法n 圖形識別法是通過時間序列的散點圖或趨勢圖來判斷趨勢。散點圖或趨勢圖是以時間t為橫軸，以時間序列中的實際觀測值為縱軸的圖形根據(jù)此圖形觀測其變化曲線與各類函數(shù)曲線模型的圖形進行比較，以便選擇較為合適的趨勢模型。n 這種方法非常簡單、直觀。但由干許多曲線模型的

8、圖形較相似此時通過這種直觀的圖形識別法就不容易判斷、當然，我們可以選幾種曲線模型，然后通過計算每一仲的精度指標來確定。(2)差分法n根據(jù)序列的差分結(jié)果來選擇模型:1. 一階差分相等或大致相等，選擇線性模型2. 二階差分相等或大致相等，選擇二次曲線模型3. 一階差比率相等或大致相等，選擇指數(shù)曲線模型4. 一階差分的一階差比率相等或者大致相等，選擇修正指數(shù)曲線模型5. 對數(shù)一階差分的一階比率相等或者大致相等，選擇龔鉑茲曲線模型趨勢擬合步驟n第一步 確定趨勢擬合模型的類型.n第二步 參數(shù)估計.n第三步 模型檢驗與參數(shù)檢驗.n第四步 模型優(yōu)化.n第五步 利用模型預測第二步 參數(shù)估計n線性模型利用最小二

9、乘估計n可線性化模型首先轉(zhuǎn)換為線性模型再利用最小二乘估計.n不可線性化模型利用三和值法或非線性最小二乘法第三步 模型檢驗n利用方差分析表n檢驗包括:模型的顯著性檢驗(F檢驗),偏回歸系數(shù)的顯著性檢驗(t檢驗)第四步 模型優(yōu)化n優(yōu)化準則:選擇估計精度最高的,(使SSE 和 MAPE達到最小的）nSSR是回歸平方和nSSE是誤差平方和nMAPE是平均絕對百分誤差例3.3 線性趨勢模型n某商場需要預測2001年512月2002年112月的29寸彩電的銷售量。所選預測方法為趨勢預測法。n具體步驟如下：（一）確定趨勢模型的類型 1.圖形識別2計算一階差分n結(jié)合此時間序列的趨勢圖可以選用線性趨勢模型作為預

10、測模型:n用最小二乘法估計參數(shù) btaTt得到線性趨勢方程：）月記為年111999(9718. 45015.126tTt例3.4 可線性化趨勢模型 某電器生產(chǎn)廠家希望預測20002003年的生產(chǎn)量現(xiàn)手頭上有該電器生產(chǎn)廠家 1991 1999年的年生產(chǎn)量的數(shù)據(jù),如下表（一）確定預測模型1.畫電器生產(chǎn)廠家歷年生產(chǎn)量的趨勢圖詳見下圖 根據(jù)曲線圖形的形狀，可以初步確定為二次曲線趨勢和修正指數(shù)曲線趨勢模型兩種、但到底取哪一種，通過圖形無法作出準確的判斷，此時需進一步計算其差分來確定其曲線趨勢線的函數(shù)表達形式。2. 計算差分,差分結(jié)果見下表n 綜合趨勢圖及數(shù)據(jù)的差分特點，選用二次曲線趨勢模型作為預測模型比

11、較好。即設(shè)預測模型的數(shù)學表達式為:（二）利用最小二乘法得到參數(shù)的估計值以及預測模型:2ctbtaTt269048. 047143.1004762. 0ttTt例3.5 不可線性化的趨勢模型n某公司某產(chǎn)品 19812001年的銷售量資料見下表，請根據(jù)歷史數(shù)據(jù)建立合適的模型，并對20022005年該公司該產(chǎn)品的銷售量進行預側(cè)。 （一）確定摸型n畫該公司某產(chǎn)品的銷售量的趨勢圖，趨勢圖見下圖n 從圖形上可以看出，該公司某產(chǎn)品的銷售量大致呈一條“S”型曲線變動。有三個模型適合刻畫這條曲線，它們是修正指數(shù)曲線模型、龔瑯茲曲線模型及皮爾曲線模型。到底用哪一個曲線模型進行預測，最好把三個模型都估計出來，然后選

12、擇估計精度最高的模型。 （二）參數(shù)估計 （1）利用三和值法估計得到初值 （2）利用非線性最小二乘估計法，通過迭代得到估計值（三）模型優(yōu)化3.2 季節(jié)效應分析n例3.6 北京某一著名烤鴨店位于商業(yè)區(qū)，銷售額一直不錯。為了能把這種勢頭保持下去，在每一個年末都必須確定下一年的經(jīng)營目標，為此，該店經(jīng)理希望能提前預測下一年每月的銷售額。該烤鴨店 19992002年的銷售額（單位；百萬元）見下表 . 從時序圖可以明顯地看出時序特點為：無趨勢但呈明顯的季節(jié)性變動。 例3.7 請根據(jù)熊貓公司在1992 2001年的季度利潤額預測該公司在 2002年14季度的利潤額.數(shù)據(jù)如下 以上時間序列的共同特點是：存在季節(jié)

13、性變動。n季節(jié)性變動是指由于自然條件、社會條件的影響，客觀現(xiàn)象在一年內(nèi)隨著季節(jié)的變動而產(chǎn)生的周期性變動。n這種變動是年復一年重復出現(xiàn)的（如水果的出口額、冰淇淋的銷售量等）。n當然要觀察某一現(xiàn)象的時間序列是否存在季節(jié)性變動，首先必需具有記錄此現(xiàn)象變動的以月度或以季度為單位的時序數(shù)據(jù)。 n 如何對具有季節(jié)性變動的現(xiàn)象作出預測，經(jīng)常采用如下幾種模型: (1)無趨勢的季節(jié)性乘法預測模型; (2)無趨勢的季節(jié)性加法預測模型; (3)帶趨勢的季節(jié)性加法預測模型; (4)帶趨勢的季節(jié)性乘法預測模型;4 平穩(wěn)時間序列分析n方法性工具 nARMA模型 n平穩(wěn)序列建模n序列預測 4.1 方法性工具n差分運算n延遲

14、算子n線性差分方程差分運算n一階差分n 階差分 n 步差分pk1tttxxx111tptptpxxxkttkxx延遲算子n延遲算子類似于一個時間指針，當前序列值乘以一個延遲算子，就相當于把當前序列值的時間向過去撥了一個時刻 n記B為延遲算子，有 1,pxBxtppt延遲算子的性質(zhì)n n n n n ，其中 10B為任意常數(shù)cxcxBcxcBttt,)()(111)(ttttyxyxBnttnxxBiniinnnBCB0) 1()1 ()!( !ininCin模型nAR模型（Auto Regression Model） nMA模型（Moving Average Model） nARMA模型（Au

15、to Regression Moving Average model）AR模型的定義n具有如下結(jié)構(gòu)的模型稱為 階自回歸模型，簡記為n特別當 時，稱為中心化 模型tsExtsEDExxxxtsstttptptpttt, 0, 0)(,)(0)(0222110，p)(pAR00)(pARMA模型的定義n具有如下結(jié)構(gòu)的模型稱為 階自回歸模型，簡記為n特別當 時，稱為中心化 模型q)(qMA0)(qMAtsEDExstttqqtqtttt, 0)(,)(, 0)(022211ARMA模型的定義n具有如下結(jié)構(gòu)的模型稱為自回歸移動平均模型，簡記為n特別當 時，稱為中心化 模型),(qpARMAtsExts

16、EDExxxtsstttqpqtqttptptt, 0, 0)(,)(0)(00211110，00),(qpARMAARMA模型相關(guān)性特征模型自相關(guān)系數(shù)偏自相關(guān)系數(shù)AR(P)拖尾P階截尾MA(q)q階截尾拖尾ARMA(p,q)拖尾拖尾平穩(wěn)序列建模步驟n計算樣本相關(guān)系數(shù)，觀察特點n模型識別n參數(shù)估計n模型檢驗n模型優(yōu)化n序列預測建模步驟平平穩(wěn)穩(wěn)非非白白噪噪聲聲序序列列計計算算樣樣本本相相關(guān)關(guān)系系數(shù)數(shù)模型模型識別識別參數(shù)參數(shù)估計估計模型模型檢驗檢驗模模型型優(yōu)優(yōu)化化序序列列預預測測YN計算樣本相關(guān)系數(shù)n樣本自相關(guān)系數(shù)n樣本偏自相關(guān)系數(shù)nttkntkttkxxxxxx121)()(DDkkk模型識別n

17、基本原則選擇模型拖尾P階截尾AR(P)q階截尾拖尾MA(q)拖尾拖尾ARMA(p,q)kkk模型定階的困難n因為由于樣本的隨機性，樣本的相關(guān)系數(shù)不會呈現(xiàn)出理論截尾的完美情況，本應截尾的 或 仍會呈現(xiàn)出小值振蕩的情況n由于平穩(wěn)時間序列通常都具有短期相關(guān)性，隨著延遲階數(shù) ， 與 都會衰減至零值附近作小值波動n當 或 在延遲若干階之后衰減為小值波動時，什么情況下該看作為相關(guān)系數(shù)截尾，什么情況下該看作為相關(guān)系數(shù)在延遲若干階之后正常衰減到零值附近作拖尾波動呢？ kkkkkkkkkk模型定階經(jīng)驗方法n95的置信區(qū)間n模型定階的經(jīng)驗方法n如果樣本(偏)自相關(guān)系數(shù)在最初的d階明顯大于兩倍標準差范圍，而后幾乎9

18、5的自相關(guān)系數(shù)都落在2倍標準差的范圍以內(nèi)，而且通常由非零自相關(guān)系數(shù)衰減為小值波動的過程非常突然。這時，通常視為(偏)自相關(guān)系數(shù)截尾。截尾階數(shù)為d。22Pr0.9522Pr0.95kkknnnn擬合模型識別n自相關(guān)圖顯示延遲3階之后，自相關(guān)系數(shù)全部衰減到2倍標準差范圍內(nèi)波動，這表明序列明顯地短期相關(guān)。但序列由顯著非零的相關(guān)系數(shù)衰減為小值波動的過程相當連續(xù)，相當緩慢，該自相關(guān)系數(shù)可視為不截尾 n偏自相關(guān)圖顯示除了延遲1階的偏自相關(guān)系數(shù)顯著大于2倍標準差之外，其它的偏自相關(guān)系數(shù)都在2倍標準差范圍內(nèi)作小值隨機波動，而且由非零相關(guān)系數(shù)衰減為小值波動的過程非常突然，所以該偏自相關(guān)系數(shù)可視為一階截尾 n所以

19、可以考慮擬合模型為AR(1)例4.1美國科羅拉多州某一加油站連續(xù)57天的OVERSHORT序列 序列自相關(guān)圖序列偏自相關(guān)圖擬合模型識別n自相關(guān)圖顯示除了延遲1階的自相關(guān)系數(shù)在2倍標準差范圍之外，其它階數(shù)的自相關(guān)系數(shù)都在2倍標準差范圍內(nèi)波動。根據(jù)這個特點可以判斷該序列具有短期相關(guān)性，進一步確定序列平穩(wěn)。同時，可以認為該序列自相關(guān)系數(shù)1階截尾n偏自相關(guān)系數(shù)顯示出典型非截尾的性質(zhì)。n綜合該序列自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的性質(zhì)，為擬合模型定階為MA(1) 例4.2n1880-1985全球氣表平均溫度改變值差分序列 序列自相關(guān)圖序列偏自相關(guān)圖擬合模型識別n自相關(guān)系數(shù)顯示出不截尾的性質(zhì)n偏自相關(guān)系數(shù)也顯示出

20、不截尾的性質(zhì)n綜合該序列自相關(guān)系數(shù)和偏自相關(guān)系數(shù)的性質(zhì)，可以嘗試使用ARMA(1,1)模型擬合該序列參數(shù)估計n待估參數(shù)n 個未知參數(shù)n常用估計方法n矩估計n極大似然估計n最小二乘估計2pq211, ,pq 例4.1續(xù)n確定美國科羅拉多州某一加油站連續(xù)57天的OVERSHORTS序列擬合模型的口徑 n擬合模型：MA(1)n估計方法：條件最小二乘估計n模型口徑ttBx)82303. 01 (40351. 4929.2178)(2D例4.2續(xù)n確定1880-1985全球氣表平均溫度改變值差分序列擬合模型的口徑 n擬合模型：ARMA(1,1)n估計方法：條件最小二乘估計n模型口徑119 . 0407.

21、 0003. 0ttttxx016. 0)(2D模型檢驗n模型的顯著性檢驗n整個模型對信息的提取是否充分n參數(shù)的顯著性檢驗n模型結(jié)構(gòu)是否最簡模型的顯著性檢驗n目的n檢驗模型的有效性（對信息的提取是否充分）n檢驗對象n殘差序列n判定原則n一個好的擬合模型應該能夠提取觀察值序列中幾乎所有的樣本相關(guān)信息，即殘差序列應該為白噪聲序列 n反之，如果殘差序列為非白噪聲序列，那就意味著殘差序列中還殘留著相關(guān)信息未被提取，這就說明擬合模型不夠有效假設(shè)條件n原假設(shè)：殘差序列為白噪聲序列n備擇假設(shè)：殘差序列為非白噪聲序列0120,1mHm：mkmHk，：至少存在某個1, 01檢驗統(tǒng)計量nLB統(tǒng)計量221(2)()

22、 ( )mkkLBn nmnk參數(shù)顯著性檢驗n目的n檢驗每一個未知參數(shù)是否顯著非零。刪除不顯著參數(shù)使模型結(jié)構(gòu)最精簡 n假設(shè)條件n檢驗統(tǒng)計量mjHHjj10:0:10)()(mntQamnTjjjj例4.1續(xù):對OVERSHORTS序列的擬合模型進行檢驗 n殘差白噪聲檢驗n參數(shù)顯著性檢驗檢驗參數(shù)t統(tǒng)計量P值結(jié)論均值2.750.0004顯著10.600.0001顯著延遲階數(shù)LB統(tǒng)計量P值結(jié)論62.150.6772模型顯著有效129.050.61711例4.2續(xù):對1880-1985全球氣表平均溫度改變值差分序列擬合模型進行檢驗 n殘差白噪聲檢驗n參數(shù)顯著性檢驗檢驗參數(shù)t統(tǒng)計量P值結(jié)論16.340.

23、0001顯著2.50.0007顯著延遲階數(shù)LB統(tǒng)計量P值結(jié)論65.280.2595模型顯著有效1210.300.424711模型優(yōu)化n問題提出n當一個擬合模型通過了檢驗，說明在一定的置信水平下，該模型能有效地擬合觀察值序列的波動，但這種有效模型并不是唯一的。n優(yōu)化的目的n選擇相對最優(yōu)模型 例4.3:擬合某一化學序列序列自相關(guān)圖序列偏自相關(guān)圖擬合模型一n根據(jù)自相關(guān)系數(shù)2階截尾，擬合MA(2)模型n參數(shù)估計n模型檢驗n模型顯著有效 n三參數(shù)均顯著 ttBByield)31009. 032286. 01 (17301.512擬合模型二n根據(jù)偏自相關(guān)系數(shù)1階截尾，擬合MA(1)模型n參數(shù)估計n模型檢驗

24、n模型顯著有效 n兩參數(shù)均顯著 Byieldtt42481. 0126169.51問題n同一個序列可以構(gòu)造兩個擬合模型，兩個模型都顯著有效，那么到底該選擇哪個模型用于統(tǒng)計推斷呢？ n解決辦法n確定適當?shù)谋容^準則，構(gòu)造適當?shù)慕y(tǒng)計量，確定相對最優(yōu)AIC準則n最小信息量準則（An Information Criterion） n指導思想n似然函數(shù)值越大越好 n未知參數(shù)的個數(shù)越少越好 nAIC統(tǒng)計量)(2)ln(2未知參數(shù)個數(shù)nAICSBC準則nAIC準則的缺陷n在樣本容量趨于無窮大時，由AIC準則選擇的模型不收斂于真實模型，它通常比真實模型所含的未知參數(shù)個數(shù)要多 nSBC統(tǒng)計量)(ln()ln(2未

25、知參數(shù)nnSBC例4.3續(xù)n用AIC準則和SBC準則評判例3.3中兩個擬合模型的相對優(yōu)劣 n結(jié)果nAR(1)優(yōu)于MA(2)模型AICSBCMA(2)536.4556542.2011AR(1)535.7896540.2866序列預測n線性預測函數(shù)n預測方差最小原則10titiixC x minleDleDtt5 非平穩(wěn)時間序列分析n差分運算nARIMA模型nAuto-Regressive模型差分運算的實質(zhì)n差分方法是一種非常簡便、有效的確定性信息提取方法nCramer分解定理在理論上保證了適當階數(shù)的差分一定可以充分提取確定性信息n差分運算的實質(zhì)是使用自回歸的方式提取確定性信息 diitiditd

26、tdxCxBx0) 1()1 (差分方式的選擇n序列蘊含著顯著的線性趨勢，一階差分就可以實現(xiàn)趨勢平穩(wěn) n序列蘊含著曲線趨勢，通常低階（二階或三階）差分就可以提取出曲線趨勢的影響 n對于蘊含著固定周期的序列進行步長為周期長度的差分運算，通?？梢暂^好地提取周期信息 例5.1 【例1.1】1964年1999年中國紗年產(chǎn)量序列蘊含著一個近似線性的遞增趨勢。對該序列進行一階差分運算 考察差分運算對該序列線性趨勢信息的提取作用 1tttxxx差分前后時序圖n原序列時序圖n差分后序列時序圖例5.2n嘗試提取1950年1999年北京市民用車輛擁有量序列的確定性信息差分后序列時序圖n一階差分n二階差分例5.3n

27、差分運算提取1962年1月1975年12月平均每頭奶牛的月產(chǎn)奶量序列中的確定性信息 差分后序列時序圖n一階差分n1階12步差分過差分 n足夠多次的差分運算可以充分地提取原序列中的非平穩(wěn)確定性信息n但過度的差分會造成有用信息的浪費 例5.4n假設(shè)序列如下 n考察一階差分后序列和二階差分序列 的平穩(wěn)性與方差 ttatx10比較n一階差分n平穩(wěn)n方差小n二階差分（過差分）n平穩(wěn)n方差大111tttttaaxxx21122ttttttaaaxxx212)()(tttaaVarxVar22126)2()(ttttaaaVarxVarARIMA模型結(jié)構(gòu)n使用場合n差分平穩(wěn)序列擬合n模型結(jié)構(gòu)tsExtsEVarEBxBtsstttttd, 0, 0)(,)(0)()()(2，ARIMA 模型族nd=0ARIMA(p,d,q)=AR