1、時間序列分析,付連艷 遼寧大學經(jīng)濟學院 Email：,教材:應用計量經(jīng)濟學：時間序列分析 第三版 作者：沃爾特恩德斯 出版社：機械工業(yè)出版社,第一章 差分方程 第二章 平穩(wěn)時間序列模型 第三章 波動性建模 第四章 包含趨勢的模型 第五章 多方程時間序列模型 第六章 協(xié)整與誤差修正模型 第七章 非線性時間序列模型,第一章,差分方程,一、時間序列模型,1、時間序列及其特點 時間序列按時間順序的系列觀測值 特點：前后相關(guān)，過去的數(shù)值影響和 決定著現(xiàn)在和未來。 任務(wù)：預測、解釋和假設(shè)檢驗 時序分解：趨勢性、季節(jié)性和無規(guī)則性,一、時間序列模型,2、時間序列模型差分方程 A difference equa

2、tion expresses the value of a variable as a function of its own lagged values, time, and other variables. 時間序列研究的是含隨即成分的差分方程的估計 3、幾個例子 (1) 市場有效性假說random walk model yt+1=yt+t+1 要檢驗市場有效性假說，可根據(jù)股票價格觀測序列，構(gòu)建模型： yt+1=0+1yt+t+1 并檢驗假設(shè)：H0: 0=1=0.,一、時間序列模型,(2) Samuelson 乘數(shù)加速數(shù)模型-誘導方程和結(jié)構(gòu)方程 模型的結(jié)構(gòu)方程： yt=ct+it （1-1

3、） ct= yt-1+ct （1-2） it=(ct-ct-1)+it （1-3） 模型的誘導方程： ct= yt-1+ct it= (yt-1-yt-2)+(ct- ct-1)+it yt= (1+)yt-1-yt-2+(1+)ct +it-ct-1,一、時間序列模型,(3) 誤差修正：期價與現(xiàn)價關(guān)系the unbiased forward rate hypothesis 假說：由于投機，期貨交易的期望利潤為0。 模型： st+1=ft+t+1 假說檢驗方法：建立模型： st+1= 0+1ft+t+1 并檢驗假設(shè)： H0: 0=0, 1=1. 誤差修正模型（ECM）： st+2= st+1-

4、(st+1-ft)+st+2,二、差分方程及求解方法,1、差分 yt+h=yt+h-yt 一階差分：yt=yt-yt-1 二階差分：2yt=(yt)=yt-2yt-1+yt-2 n階差分： nyt=(n-1yt) 差分算子： difference operator ,二、差分方程及求解方法,2、線性差分方程 yt=a0+a1yt-1+a2yt-2+anyt-n+xt 或：yt= a0+(a1-1)yt-1+a2yt-2+anyt-n+xt 其中：nthe order of the difference equation; xtforcing process 如： xt= t+ t-1+2 t-

5、2 +,二、差分方程及求解方法,3、差分方程的解 A solution to a difference equation expresses the value of yt as a function of the elements of the xt sequence and t (and possibly some given values of the yt sequence called initial conditions) . 例如：差分方程： yt=yt-1+2 或： yt=2 其解為： yt=2t+c 驗證：2t+c=2(t-1)+c+2,三、差分方程的遞歸解法,1、遞歸解法的

6、原理 If the value of y in some specific period is known, a direct method of solution is to iterate forward from that period to obtain the subsequent time path of the entire y sequence. Refer to this known value of y as the initial condition.,三、差分方程的遞歸解法,2、一階差分方程的解 yt=a0+a1yt-1+t 向前迭代：對于給定的初值y0，向前迭代可得：

7、 y1=a0+a1y0+1 y2=a0+a1y1+2 =a0+a1(a0+a1y0+1)+2 =a0+a1a0+a12y0+a11+2,三、差分方程的遞歸解法,2、一階差分方程的解 yt=a0+a1yt-1+t 向后迭代： yt=a0+a1yt-1+t =a0+a1 (a0+a1yt-2+t-1 )+t =a0(1+a1)+a1t-1+ t+a12(a0+a1yt-3+t-2) =,三、差分方程的遞歸解法,3、無初值時的遞歸解 如果沒有初值y0，則可一直持續(xù)向后迭代：,三、差分方程的遞歸解法,持續(xù)向后迭代m期，得： 若|a1|1，則當m, at+m+10，可得： 這是差分方程的一個解，但不是唯

8、一解。對于任意常數(shù)A，一階差分方程的解為：,三、差分方程的遞歸解法,4、兩種遞歸解的一致性 如果已知初值y0，代入無初值的遞歸解，得: 解出A，然后代入無初值的遞歸解中，可得： 與向后迭代到初值y0時所得結(jié)果相同。,三、差分方程的遞歸解法,5、非收斂序列 如果|a1|1，要求解，則必須已知初值y0，有: 此式表明，過去的事件對yt有持久性的影響，而且其影響是越來越大。這一般不太符合現(xiàn)實。,四、差分方程解的結(jié)構(gòu),1、一階差分方程解的結(jié)構(gòu) 一階差分方程：yt=a0+a1yt-1+t 齊次方程(homogeneous equation): yt=a1yt-1 齊次解(homogeneous solu

9、tion): yth=Aa1t 特解(particular solution)通過迭代得到的解稱為特解： 通解(general solution)完整解是齊次解與特解之和：,四、差分方程解的結(jié)構(gòu),2、高階差分方程的推廣 n階差分方程：yt=a0+a1yt-1+anyt-n+t 齊次方程: yt=a1yt-1+anyt-n 齊次解: yth 特解：ytp 通解：yt=yth+ytp,四、差分方程解的結(jié)構(gòu),3、差分方程求解的步驟 Step1: Form the homogeneous equation and find all n homogeneous solutions; Step 2: Fi

10、nd a particular solution; Step 3: Obtain the general solution as the sum of the particular solution and a linear combination of all homogeneous solutions; Step 4: Eliminate the arbitrary constant(s) by imposing the initial conditions on the general solution.,四、差分方程解的結(jié)構(gòu),4、差分方程解的性質(zhì) (1) If yth is a hom

11、ogeneous solution to a difference equation then Ayth is also a solution for any arbitrary constant A. (2) If y1th and y2th are homogeneous solutions to a difference equation, then for any two constants A1 and A2, the linear combination A1y1th+A2y2th is also a solution to the homogeneous equation. (3

12、) The sum of any particular solution and any linear combination of all homogeneous solutions is also a solution.,五、蛛網(wǎng)模型,1、蛛網(wǎng)模型的結(jié)構(gòu)式 dt=a-pt st=b+pt*+t st=dt 其中pt*為預期價格。假設(shè)農(nóng)民的預期是樸素預期，有： pt*=pt-1,五、蛛網(wǎng)模型,2、長期均衡價格與供給 令t=0，且pt=pt-1=p，則由均衡條件可得： p=(a-b)/(+) , s=(a+b)/(+) 3、模型的簡化式 pt=(-/)pt-1+(a-b)/-t/ st=b+p

13、t-1+t,五、蛛網(wǎng)模型,4、價格差分方程的解 (1) 齊次解 齊次方程：pt=(-/)pt-1 齊次解：pth=A(-/)t (2) 特解 如果/1，則需要有初始條件。,五、蛛網(wǎng)模型,4、價格差分方程的解 (3) 通解 (4) 任意常數(shù)的確定 如果給出了初值p0，則代入通解，得： 解出A：,五、蛛網(wǎng)模型,4、價格差分方程的解 將求出的常數(shù)A代入通解，得： 化簡可得：,五、蛛網(wǎng)模型,5、穩(wěn)定性分析 穩(wěn)定性條件：/1/ 6、供給沖擊影響分析 短期影響乘子 即期影響乘子：pt/t=-1/; 一期影響乘子：pt+1/t=(-1/)(-/)= /2; 二期影響乘子： pt+2/t=(-1/)(-/)2

14、= -/3; 長期影響乘子全部短期影響乘子的總和 脈沖響應函數(shù)：The time path of all multipliers is called the impulse response function.,六、齊次差分方程的解法,(一) 二階齊次差分方程的解 二階齊次差分方程：yt-a1yt-1-a2yt-2=0 解的形式：yth=At 特征方程：2-a1-a2=0 特征根： 其中：d=a12+4a2，為判別式(discriminant),六、齊次差分方程的解法,(一) 二階齊次差分方程的解 完整齊次解： 1、兩不等實根情形：若d0，則12， yth=A1(1)t+A2(2)t 2、重根

15、情形：若d=0，則1=2=a1/2， yth=A1(a1/2)t+A2t(a1/2)t 3、復根情形：若d0，則兩特征根為共軛復數(shù)： 1,2=a1i(-d)1/2/2，記r=(-a2)1/2, cos=a1/2(-a2)1/2, yth=1rtcos(t+2),六、齊次差分方程的解法,(二) 二階齊次差分方程的穩(wěn)定性條件 穩(wěn)定(stability)收斂(convergence) |1|0; 由a1+(a12+4a2)1/2/21可得：a1+a21; 由-1a1-(a12+4a2)1/2/2可得：a2-a11; 因此，在兩不等實根的情形，穩(wěn)定域是(a1,a2)平面中由三條線a12+4a2=0和a

16、1+a2=1及a2-a1=1所圍成的區(qū)域。,六、齊次差分方程的解法,(二) 二階齊次差分方程的穩(wěn)定性條件 2、重根情形（1=2=a1/2） d=a12+4a2=0； 由|1|=|2| =|a1/2|1, 可得： -2a12; 因此，在重根的情形，穩(wěn)定域是 (a1,a2)平面中曲線a12+4a2=0上-2a12的一段。,六、齊次差分方程的解法,(二) 二階齊次差分方程的穩(wěn)定性條件 3、復根情形： d=a12+4a2-1 因此，在復根情形，穩(wěn)定域為(a1,a2)平面中曲線a12+4a2=0與直線a2=-1所組成的區(qū)域。,六、齊次差分方程的解法,(二) 二階齊次差分方程的穩(wěn)定性條件 穩(wěn)定條件的簡潔表

17、示：所有的特征根都在單位圓內(nèi)。,六、齊次差分方程的解法,(三) 高階齊次方程的解及穩(wěn)定性條件 1、高階齊次差分方程的解 高階齊次差分方程：yt-a1yt-1-anyt-n=0 特征方程： n-a1n-1-a2n-2- an=0 若n個特征根1,2,n互異，則方程解為： yth=A11t+A22t+Annt 若有mn個根為重根1=m=，則齊次解為： yth=A1t+A2tt+A3t2t+ +Amtm-1t +Am+1tm+1+Annt,六、齊次差分方程的解法,(三) 高階齊次方程的解及穩(wěn)定性條件 2、穩(wěn)定性條件 穩(wěn)定條件的簡明表示：A succinct way to characterize t

18、he stability conditions is to state that characteristic roots must lie within the unit circle. 必要條件：a1+a2+an1 充分條件： |a1|+|a2|+ |an|1 如果a1+a2+an=1，則至少有一個單位根。,七推進過程為確定過程的特解,1、xt=0的情形 若推進過程xt=0。則差分方程為： yt=a0+a1yt-1+anyt-n 由于a0是一個常數(shù)，所以其特解也應為常數(shù)，將嘗試解(trail solution或challenge solution): ytp=c 代入差分方程得： c=a0

19、+a1c+anc，解出c得： c= a0/(1-a1-an) (1) 若a1+a2+an1，則差分方程的特解為： ytp= a0/(1-a1-an),七、強制過程為確定過程的特解,(2) 若a1+a2+an=1，則yt是一個單位根過程，嘗試解為： ytp=ct 代入差分方程，解出c得： c=a0/(a1+2a2+3a3+nan) 差分方程的特解為: ytp=a0/(a1+2a2+3a3+nan)t 若解ct不合適，即(a1+2a2+3a3+nan)=0，則依次用嘗試解： ytp=ct2，ytp=ct3，,七、強制過程為確定過程的特解,2、xt為指數(shù)函數(shù)的情形以一階差分方程為例 yt=a0+a1

20、yt-1+bdrt 在此差分方程中，drt的存在，表明yt以r的速度增長，所以其特解的嘗試形式為： ytp=c0+c1drt 將此嘗試解代入差方方程，得： c0+c1drt=a0+a1c0+c1dr(t-1)+bdrt=(a0+a1c0)+(a1c1/dr+b)drt 令等式兩邊對應項相等，解出c0和c1代入嘗試解得： ytp=a0/(1-a1)+bdr/(dr-a1)drt 若a1=1，則嘗試用c0=ct；若a1=dr，則嘗試用c1=bt。 高階差分方程，解法相同。,七、強制過程為確定過程的特解,3、確定性時間趨勢的情形（xt=btd) 差分方程：yt=a0+a1yt-1+anyt-n+bt

21、d 由于yt依賴于td, yt-1依賴于(t-1)d, yt-2依賴于(t-2)d,，所以其特解形式為： ytp=c0+c1t+c2t2+cdtd 將此嘗試解代入差分方程，在等式兩邊各項相等的條件下，解出各系數(shù)ci的值，代入嘗試解即得所求的特解。,八、待定系數(shù)解法,1、解法的原理 由于線性差分方程的解必然是線性的，所以對于給定的線性差分方程，其特解的確切形式通常是已知的，但解中的系數(shù)是未知的。因此，將會出現(xiàn)在特解中的所有各項的線性函數(shù)作為嘗試解（challenge solution)，代入線性差分方程，然后令等式兩邊各同類項的系數(shù)相等，就可解出未知的各系數(shù)值。將解出的各系數(shù)值代入嘗試解，即可求

22、得差分方程的特解。,八、待定系數(shù)解法,2、例子 例1.求一階差分方程yt=a0+a1yt-1+t的特解。 嘗試解： yt=b0+b1t+0t+1t-1+2t-2+ 將嘗試解代入差分方程，令等式兩邊同類項的系數(shù)相等，得： b0=(a0-a1b1)/(1-a1) , b1(1-a1)=0 , i=ai, i=0,1,2, (1) 若a11，則必有b1=0，b0=a0/(1-a1)，特解為： ytp=a0/(1-a1)+t+a1t-1+a12t-2+a13t-3+ (2) 若a1=1，則b0為任意常數(shù)，b1=a0，特解為： ytp=b0+a0t+t+t-1+t-2+t-3+1,八、待定系數(shù)解法,3、

23、高階差分方程的特解 （1）二階差分方程的特解 差分方程：yt=a0+a1yt-1+a2yt-2+t 嘗試解: yt=b0+b1t+b2t2+0t+1t-1+2t-2+ 代入：b0+b1t+b2t2+0t+1t-1+2t-2+ = a0+a1b0+b1(t-1)+b2(t-1)2+0t-1+1t-2+2t-3+ +a2b0+b1(t-2)+b2(t-2)2+0t-2+1t-3+2t-4+t 令兩邊同類項系數(shù)相等，得： b0=a0+a1b0-a1b1+a1b2+a2b1+a2b0-2a2b1+4a2b2， b1=a1b1-2a1b2+a2b1-4a2b2， b2=a1b2+a2b2 0=1，1=a

24、10，j=a1j-1+a2j-2，j2.,八、待定系數(shù)解法,（1）二階差分方程的特解 解這些方程式得： b1=-2b2(a1+2a2)/(1-a1-a2) b2(1-a1-a2)=0 b0=a0-a1 (b1-b2)-2a2(b1-2b2)/(1-a1-a2) 0=1，1=a1，2=a12+a2，3=a13+2a1a2， 若a1+a21，則有b2=0, b1=0, b0=a0/(1-a1-a2)： yt=a0/(1-a1-a2)+t+1t-1+2t-2+,八、待定系數(shù)解法,（1）二階差分方程的特解 若a1+a2=1，則又可分兩種情況： () 若a1+2a20，則有b2=0，b1=a0/(a1+

25、2a2)， b0為任意常數(shù)，二階差分方程的特解為： yt=b0+a0/(a1+2a2)t+t+1t-1+2t-2+ () 若a1+2a2=0，則b2=-a0/(a1+4a2)，b1和b0為任意常數(shù)，二階差分方程的特解為： yt=b0+b1t+-a0/(a1+4a2)t2+t+1t-1+2t-2+,八、待定系數(shù)法,(2) 高階差分方程特解收斂的條件 The key point is that the stability condition for the homogeneous equation is precisely the condition for convergence of the

26、particular solution. If any characteristic root of the homogeneous equation is equal to unity, a polynomial time trend will appear in the particular solution. The order of the polynomial is the number of unitary characteristic roots.,九、滯后算子,1、滯后算子的定義及其性質(zhì) (1) 定義：Liyt=yt-i (2) 性質(zhì) 常數(shù)的滯后仍是其本身，Lc=c. 分配律:

27、 (Li+Lj)yt=Liyt+Ljyt 結(jié)合律: LiLjyt=Li+jyt L的負指數(shù)為向前算子: L-iyt=yt+i 若|a|1,則無窮和: 1+(aL)-1+(aL)-2+(aL)-3+yt=-aLyt/(1-aL) 即: yt/(1-aL)=-(aL)-11+(aL)-1+(aL)-2+(aL)-3+yt,九、滯后算子,2、滯后算子的作用 (1) 簡明表示差分方程 例1、對于p階差分方程 yt=a0+a1yt-1+a2yt-2+apyt-p+t 使用滯后算子，有： (1-a1L-a2L2-apLp)yt=a0+t 或更簡潔地表示為：A(L)yt=a0+t 例2、對于差分方程： yt

28、=a0+a1yt-1+a2yt-2+apyt-p+t+1t-1+qt-q 使用滯后算子，得： A(L)yt=a0+B(L)t,九、滯后算子,(2) 用滯后算子解差分方程 例1、對于一階差分方程yt=a0+a1yt-1+t，有： (1-a1L)yt=a0+t 解出yt，得：yt=(a0+t)/(1-a1L) 若|a1|1，則： yt=-(a1L)-11+(a1L)-1+(a1L)-2+(a0+t) =-a0a1-1(1+a1-1+a1-2+)-(a1L)-11+(a1L)-1+(a1L)-2+t =-(a0/a1)1/(1-a1-1)-(1/a1)1+(a1L)-1+(a1L)-2+t+1 =a

29、0/(1-a1)-(1/a1)(t+1+a1-1t+2+a1-2t+3+a1-3t+4+) 這種解稱為差分方程的前瞻解(forward-looking solution).,九、滯后算子,3、高階差分方程中滯后算子應用 使用滯后算子，不僅可以簡明地表示高階差分方程，而且也可以簡明地表示差分方程的解。如對于p階差分方程： yt=a0+a1yt-1+a2yt-2+apyt-p+t 其解可以表示為： yt=(a0+t)/(1-a1L-a2L2-a3L3-apLp) 其中，1-a1L-a2L2-a3L3-apLp又稱為差分方程的逆特征多項式，方程1-a1L-a2L2-a3L3-apLp=0又稱為差分方

30、程的逆特征方程(inverse characteristic equation)。 差分方程的穩(wěn)定性條件又可表述為：逆特征方程的根都在單位圓外。,第二章,平穩(wěn)時間序列模型,一、隨機差分方程模型,1、隨機過程(stochastic process) (1) 隨機過程的定義 由隨機變量組成的一個有序序列，稱為隨機過程，記為y(s,t),sS,tT.對于每一個t，tT，y(,t)是樣本空間S中的一個隨機變量；對于每一個s，sS，y(s, )是隨機過程在序數(shù)集T中的一次實現(xiàn)。隨機過程通常簡記為yt或yt。,一、隨機差分方程模型,(2) 隨機過程的分類 離散時間隨機過程如果T是一個可數(shù)集，特別是整數(shù)集，

31、t只取整數(shù)t=0, 1, 2, ，也稱為隨機序列。 連續(xù)時間隨機過程如果T是一個連續(xù)統(tǒng)。,一、隨機差分方程模型,(3) 有窮維分布族 隨機過程是一族隨機變量，其概率分布可以用一族分布函數(shù)來表示，這一族分布函數(shù)就稱為分布函數(shù)族。 一維分布函數(shù)族：F1(ytr)=P(ytr). 二維分布函數(shù)族：F2(yt1,yt2)=P(yt1r1,yt2r2). n維分布函數(shù)族：Fn(yt1,ytn)=P(yt1r1,ytnrn),一、隨機差分方程模型,(4) 隨機過程的特征指標 均值函數(shù) t=E(yt)=Et(yt|yt,yt-1,y1) 自協(xié)方差函數(shù) (t,s)=Cov(yt,ys)=E(yt-t)(ys-

32、s) 自相關(guān)函數(shù) (t,s)=(t,s)/(t,t)(s,s)1/2,一、隨機差分方程模型,2、時間序列及其模型 (1) 定義：對隨機過程的順序觀測所形成的有序觀測值序列，就稱為時間序列，記為y0,y1,y2,yt。一個時間序列可看作是隨機過程的一次實現(xiàn)，即一個樣本；而產(chǎn)生時間序列的隨機過程則稱為時間序列的數(shù)據(jù)生成過程(data generating process)。 (2) 時間序列數(shù)據(jù)的特點：時間序列是來自隨機過程的一個樣本，其前后數(shù)值具有相關(guān)性，過去決定或影響著現(xiàn)在與未來。研究時間序列，實質(zhì)上是要了解其數(shù)據(jù)生成過程的特征和變化規(guī)律。,一、隨機差分方程模型,2、時間序列及其模型 (3)

33、時間序列模型隨機差分方程模型 由于時間序列是一個隨機變量序列，變量的過去值影響或決定著現(xiàn)在，所以可以用隨機差分方程來對其進行描述。如：中央銀行的貨幣供給模型： mt=(1.03)tm0*+(1-)mt-1+t 式中t通常假設(shè)為白噪聲過程，其均值為0，方差為2，且前后各期互不相關(guān)。即有： E(t)=E(t-1)=0; Var(t)=Var(t-1)=2; Cov(t,t-s)=Cov(r-j,t-j-s)=0，對于所有s與j。,二、ARMA模型,1、ARMA模型的形式 一般來說，一個變量的現(xiàn)在取值，不僅受其本身過去值的影響，而且也受現(xiàn)在和過去各種隨機因素沖擊的影響，因此可建立其數(shù)據(jù)生成模型為：

34、yt=a0+a1yt-1+a2yt-2+apyt-p+t+1t-1+qt-q 如果該模型的特征根都在單位圓內(nèi)，則該模型就稱為ARMA(p,q)模型。 如果q=0，則該模型退化為： yt=a0+a1yt-1+a2yt-2+apyt-p+t 稱為p階自回歸模型，記作AR(p)。 如果p=0，則該模型退化為： yt=a0+t+1t-1+qt-q 稱為q階移動平均模型，記作MA(q)。,二、ARMA模型,2、ARIMA模型 (1) 差分與和分 對于一個變量序列yt，若記其差分(difference)為： yt=yt-yt-1 則原變量序列就可用其差分表示為： yt=yt+yt-1+yt-2+y1+y0

35、 即原變量序列yt可用其差分之和表示，因此稱為和分(integration)。,二、ARMA模型,2、ARIMA模型 (2) ARIMA模型的形式 如果用變量yt本身的水平值建立的ARMA模型的特征方程有單位根，則需要先將yt差分后再建立ARMA模型，即： yt=a0+a1 yt-1+ap yt-p+t+1t-1+qt-q 該模型就稱為ARIMA(p,1,q)模型。如果變量yt的水平值A(chǔ)RMA模型的特征方程中有d個特征根，則需要先將變量序列yt差分d次，然后再建立ARMA模型，即： dyt=a0+a1dyt-1+apdyt-p+t+1t-1+qt-q 則該模型稱為階數(shù)分別為(p,d,q)的自回

36、歸和分移動平均模型，記為ARIMA(p,d,q)。,二、ARMA模型,3、ARMA模型的移動平均表示 對于一階自回歸模型:yt=a0+a1yt-1+t，求特解得移動平均表達式為： yt=a0/(1-a1)+t+a1t-1+a12t-2+a13t-3+ 對于一般ARMA(p,q)模型： yt=a0+a1yt-1+apyt-p+t+1t-1+qt-q 求特解則得移動平均表達式為： yt=(a0+t+1t-1+qt-q)/(1-a1L-a2L2-apLp),二、ARMA模型,4、穩(wěn)定性條件 ARMA(p,q)模型的移動平均表示是一個無限階的移動平均過程MA()，該無窮序列是否收斂決定了原隨機差分方程

37、是否穩(wěn)定。因此穩(wěn)定性條件可表示為： The stability condition is that the roots of the polynomial (1-a1L-a2L2-apLp) must lie outside of the unit circle. 即：ARMA模型的逆特征方程的根都必須在單位圓外。,三、時間序列的平穩(wěn)性,1、平穩(wěn)性的定義 (1) 嚴平穩(wěn)過程：如果一個隨機過程的有窮維分布函數(shù)族不隨時間的推移而改變，即對于任意正整數(shù)n和任意的t1,t1,tnT及實數(shù)，當t1+,t2+,tn+T時，都有： Fn(yt1+,yt2+,ytn+)=Fn(yt1,yt2,ytn) 則稱此

38、隨機過程為嚴平穩(wěn)過程或狹義平穩(wěn)過程(strongly stationary process)。,三、時間序列的平穩(wěn)性,1、平穩(wěn)性的定義 (2) 寬平穩(wěn)過程：如果隨機過程yt存在有窮的二階矩，且均值和方差為常數(shù)，自協(xié)方差函數(shù)只與兩時點的間隔長度有關(guān)，而與兩時點的位置無關(guān)，即有： E(yt)= Var(yt)=E(yt-)2=2 Cov(yt,yt-s)=E(yt-)(yt-s-)=s 則稱此隨機過程為寬平穩(wěn)過程或二階矩過程或廣義平穩(wěn)過程(widesense stationary process)。,三、時間序列的平穩(wěn)性,1、平穩(wěn)性的定義 (3) 嚴平穩(wěn)過程與寬平穩(wěn)過程的關(guān)系 寬平穩(wěn)要求隨機過程的

39、前二階矩平穩(wěn)。一般來說，分布的前二階矩不能決定整個分布函數(shù)，所以廣義平穩(wěn)不能保證狹義平穩(wěn)。 嚴平穩(wěn)要求整個分布函數(shù)平穩(wěn)，但并不要求前二階矩存在，所以是嚴平穩(wěn)也未必就是寬平穩(wěn)。只有前二階矩存在的嚴平穩(wěn)過程才一定是寬平穩(wěn)過程。 由于正態(tài)分布的分布函數(shù)完全由前二階矩決定，所以正態(tài)隨機過程如果是寬平穩(wěn)的，那么必定也是嚴平穩(wěn)的。,三、時間序列的平穩(wěn)性,2、平穩(wěn)過程的自協(xié)方差與自相關(guān)函數(shù) (1) 自協(xié)方差與自相關(guān)函數(shù)的計算 自協(xié)方差：s=Cov(yt,yt-s)=E(yt-)(yt-s-) 稱為s階自協(xié)方差函數(shù)。顯然，0階自協(xié)方差函數(shù)為yt的方差：0=E(yt-)2=y2 自相關(guān)函數(shù)：s=s/0 稱為s階

40、自相關(guān)函數(shù)。顯然，0階自相關(guān)函數(shù)等于1，有0=1。,三、時間序列的平穩(wěn)性,2、平穩(wěn)過程的自協(xié)方差與自相關(guān)函數(shù) (2) 自協(xié)方差與自相關(guān)函數(shù)的性質(zhì) 對稱性： s= -s， s= -s ； 非負定性，即由自協(xié)方差或自相關(guān)函數(shù)組成的矩陣是非負定矩陣。 |s| 0，|s|1。,三、時間序列的平穩(wěn)性,3、平穩(wěn)性的意義 平穩(wěn)過程一般都具有遍歷性(ergodicity)，即可用時間平均去估計空間平均。 遍歷性：假設(shè)a為隨機過程yt的某一參數(shù)或特征指標，若由樣本函數(shù)構(gòu)成的估計量，使得當t時，有： limE|-a|2=0 即有： plim=a 則稱序列yt關(guān)于a具有均方遍歷性，簡稱遍歷性。,三、時間序列的平穩(wěn)性

41、,4、AR(1)過程平穩(wěn)性的條件 對于AR(1)過程：yt=a0+a1yt-1+t 假設(shè)過程從0時期開始，初值為y0，則其遞歸解為： 或其通解為： 取期望，得： 或： 這表明yt的均值隨時間變化，序列yt是非平穩(wěn)的。,三、時間序列的平穩(wěn)性,4、AR(1)過程平穩(wěn)性的條件 但是，如果|a1|0，則當t時，有： 其期望和方差及協(xié)方差函數(shù)分別為： Eyt=a0/(1-a1)= E(yt-)2=E(t+a1t-1+a12t-2+) =2(1+a12+a14+)=2/(1-a12) E(yt-)(yt-s-)=E(t+a1t-1+a12t-2+)(t-s+a1t-s-1 +a12t-s-2+)=2a1s

42、/(1-a12) 由此可見，在極限的情形序列yt是平穩(wěn)的。,三、時間序列的平穩(wěn)性,4、AR(1)過程平穩(wěn)性的條件 綜上所述，AR(1)過程平穩(wěn)性的條件可總結(jié)為： (1) The homogeneous solution must be zero. Either the sequence must have started infinitely far in the past or the process must always be in equilibrium (so that the arbitrary constant is zero). (2) The characteristic r

43、oot a1 must be less than unity in absolute value. 此平穩(wěn)性條件也可簡單地概括為：AR(1)方程的齊次解必須為0。,四、ARMA(p,q)模型的平穩(wěn)性,1、ARMA(2,1)的平穩(wěn)性 對于ARMA(2,1),簡化掉不影響平穩(wěn)性的截距項,有： yt=a1yt-1+a2yt-2+t+1t-1 使用待定系數(shù)法，得其移動平均表示或特解為： yt=0t+1t-1+2t-2+3t-3+ 其中：0=1，2=a10+，3=a12+a21， i=a1i-1+a2i-2，i2. 由特解計算yt的均值和方差及協(xié)方差分別為： Eyt=0；Var(yt)=2(02+12+

44、22+32+) Cov(yt,yt-s)=2(s+s+11+s+22+s+33+) 可見，只有i序列收斂，yt才具有平穩(wěn)性，這就要求ARMA(2,1)模型的特征根都在單位圓內(nèi)。,四、ARMA(p,q)模型的平穩(wěn)性,2、MA(q)的平穩(wěn)性 先考慮無限階MA()過程，MA()過程的表達式為： xt=t+1t-1+2t-2 +3t-3 +4t-4+ 計算其均值和方差及協(xié)方差分別為： Ext=E(t+1t-1+2t-2 +3t-3 + )=0； Var(xt)=2(02+ 12+ 22+32+) Cov(xt,xt-s)=2(s+s+1 1+s+22+ s+33+) 由此可見，平穩(wěn)性的充分必要條件為：

45、 (1) 02+ 12+ 22+32+ (2) s+s+1 1+s+22+ s+33+ 由于0=1且s可取0,1,2等值，所以條件2包含了條件1。 由此條件可知，任何有限階MA(q)過程都是平穩(wěn)的。,四、ARMA(p,q)模型的平穩(wěn)性,3、AR(p)的平穩(wěn)性 p階自回歸模型AR(p)過程的表達式為： yt=a0+a1yt-1+a2yt-2+apyt-p+t 如果模型的特征根都在單位圓內(nèi)，則其特解為： yt=a0/(1-a1-ap)+0t+1t-1+2t-2+3t-3+ 其中： i-a1i-1-a2i-2-app=0 計算其均值和方差及協(xié)方差分別為： Eyt=a0/(1-a1-a2-ap)； V

46、ar(yt)=2(02+12+22+32+ Cov(yt,yt-s)=2(s+s+11+s+22+s+33+) 由此可見，只有i序列收斂，yt才具有平穩(wěn)性，這就要求AR(p)模型的特征根都在單位圓內(nèi)。,四、ARMA(p,q)模型的平穩(wěn)性,4、一般ARMA(p,q)過程的平穩(wěn)性條件 一般自回歸移動平均模型ARMA(p,q)過程的表達式為： yt=a0+a1yt-1+a2yt-2+apyt-p+t+1t-1+2t-2 +qt-q 如果模型AR部分和MA部分都是平穩(wěn)的，則該過程就是平穩(wěn)的。由此可得結(jié)論為： 由于MA部分是有限階，其本身是平穩(wěn)的，所以ARMA(p,q)過程的平穩(wěn)性完全取決于AR部分的平

47、穩(wěn)性。只要AR部分的特征根都在單位圓內(nèi)，或者逆特征方程1-a1L-a2L2-apLP=0的根都在單位圓外，ARMA(p,q)過程就是平穩(wěn)的。,五、自相關(guān)函數(shù)(ACF),1、AR(1)過程的自相關(guān)函數(shù) 對于AR(1)過程：yt=a0+a1yt-1+t ，其移動平均表示： yt=a0/(1-a1)+t+a1t-1+a12t-2+ 由此可計算出其均值和方差及協(xié)方差分別為： Eyt=a0/(1-a1) 0=Var(yt)=E(t+a1t-1+a12t-2+)2=2/(1-a12) s=Cov(yt,yt-s)=E(t+a1t-1+)(t-s+ )=2a1s/(1-a12) 由方差和協(xié)方差得自相關(guān)函數(shù)：

48、s=a1s 由于|a1|1，所以AR(1)過程的ACF指數(shù)衰減收斂于0，相關(guān)圖(correlogram)可顯示這一拖尾性質(zhì)。,五、自相關(guān)函數(shù)(ACF),2、AR(2)過程的自相關(guān)函數(shù) 對于AR(2)過程：yt=a0+a1yt-1+a2yt-2+t ，為簡便，在理論分析中通常假設(shè)Eyt=0，從而a0=0。若Eyt0，則可通過中心化變換而使其為0。如此AR(2)就為： yt=a1yt-1+a2yt-2+t 計算方差及協(xié)方差通常使用Yule-Walker方法，即將模型兩邊同乘以yt-s，s=0,1,2，然后取期望得： Eyt2=a1Eyt-1yt+a2Eyt-2yt+Etyt Eytyt-1=a1E

49、yt-12+a2Eyt-2yt-1+Etyt-1 Eytyt-2=a1Eyt-1yt-2+a2Eyt-22+Etyt-2 Eytyt-s=a1Eyt-1yt-s+a2Eyt-2yt-s+Etyt-s,五、自相關(guān)函數(shù)(ACF),2、AR(2)過程的自相關(guān)函數(shù) 由于Eytyt-s=Eyt-syt=Eyt-kyt-k-s=s ；Etyt=2；Etyt-s=0，s1。所以上述式子可得Yule-Walker方程： 0=a11+a22+2 1=a10+a21 s=a1s-1+a2s-2 ，s0. 將此差分方程兩邊同除以0，得自相關(guān)函數(shù)式為： s=a1s-1+a2s-2 ，s0. 記此差分方程的兩個特征根分

50、別為1和2，則有： s=A11s+A22s，s0. 由于1和2 均小于1，所以ACF指數(shù)衰減收斂于0。,五、自相關(guān)函數(shù)(ACF),3、MA(1)過程的自相關(guān)函數(shù) 對于MA(1)過程：yt=t+t-1，有： =Eyt=0 0=Eyt2=E(t+t-1)2=(1+2)2 1=Eytyt-1=E(t+t-1)(t-1+t-2)=2 s=Eytyt-s=E(t+t-1)(t-s+t-s-1)=0 于是有： 1=/(1+2)；s=0，s1。 這表明MA(1)過程的ACF只有前兩階不為0，二階及以后各階全為0，是1階截尾的。,五、自相關(guān)函數(shù)(ACF),4、ARMA(1,1)過程的自相關(guān)函數(shù) 對于ARMA(

51、1,1)過程，假設(shè)Eyt=0，則a0=0，模型為： yt=a1yt-1+t+1t-1 使用Yule-Walker方法，得： Eytyt-s=a1Eytyt-s-1+Etyt-s+1Et-1yt-s , s=0,1,2, 由此得：0=a11+2+1(a1+1)2 1=a10+12 s=a1s-1 , s1. 由前兩式得： 0=(1+12+2a11)2/(1-a12) 1=(1+a11)(a1+1)2/(1-a12),五、自相關(guān)函數(shù)(ACF),4、ARMA(1,1)過程的自相關(guān)函數(shù) 用0去除各i，得各階自相關(guān)函數(shù) 1=(1+a11)(a1+1)/(1+12+2a11) s=a1s-1，s1。 由于

52、差分方程s=a1s-1的特征根為a1，所以其解為： s=Aa1s , s1. 這表明ARMA(1,1)過程的ACF從第2階起遵循指數(shù)函數(shù)變化模式，以指數(shù)方式衰減，是拖尾的。,五、自相關(guān)函數(shù)(ACF),5、ARMA(p,q)過程的自相關(guān)函數(shù) 對于ARMA(p,q)過程，假設(shè)Eyt=0，則a0=0，模型為： yt=a1yt-1+a2yt-2+apyt-p+t+1t-1+qt-q 使用Yule-Walker方法，得： Eytyt-s=a1Eytyt-s-1+Eyt-pyt-s +Etyt-s+1Et-1yt-s+qEt-qyt-s, s=0,1,2, 由于當sk時，Et-kyt-s=0，所以當sq時

53、，有 ： s=a1s-1+a2s-2+aps-p , sq. 這表明在q階以后，ARMA(p,q)過程的自協(xié)方差函數(shù)完全由此p階差分方程控制。,五、自相關(guān)函數(shù)(ACF),5、ARMA(p,q)過程的自相關(guān)函數(shù) 用0除此方程的兩邊，得自相關(guān)函數(shù)的差分方程為： s=a1s-1+a2s-2+aps-p ，sq。 若記此差分方程的p個特征根為1, 2, , p，則其解為(假設(shè)各特征根互異）： s=A11s+A22s+Apps , sq. 若將q,q-1,q-p+1作為初值代入求出待定常數(shù)A1, A2, , Ap，則有： s=A11s+A22s+Apps , sq-p. 這表明，若q-p0，則其全部AC

54、F都由此差分方程控制，若q-p0，則從第q-p+1階起其ACF由此差分方程控制，以指數(shù)方式衰減，是拖尾的。,六、偏相關(guān)函數(shù)(PACF),1、偏相關(guān)函數(shù)的定義 變量yt與其滯后值yt-s的偏相關(guān)系數(shù)是剔除中間各項yt-1, yt-2, , yt-s+1的影響后，二者之間的相關(guān)系數(shù)，也就是在yt的s階自回歸方程中變量yt-s的回歸系數(shù)。若記yt的s階自回歸方程(假設(shè)yt的均值為0)為： yt=s1yt-1+s2yt-2+ssyt-s+et 則ss就稱為yt的s階偏相關(guān)系數(shù)。 例如：yt的1階自回歸方程yt=11yt-1+et中的回歸系數(shù)11就是yt的1階偏相關(guān)系數(shù)。 又如： yt的2階自回歸方程y

55、t=21yt-1+22yt-2+et中的回歸系數(shù)22就是yt的2階偏相關(guān)系數(shù)。,六、偏相關(guān)函數(shù)(PACF),2、偏相關(guān)函數(shù)的計算方法Yule-Walker方程 對于yt的s階自回歸方程： yt=s1yt-1+s2yt-2+ssyt-s+et 兩邊同乘以yt-j，并取期望得： Eytyt-j=s1Eyt-1yt-j+s2Eyt-2yt-j+ssEyt-syt-j+Eetyt-j 即有：j=s1j-1+s2j-2+ssj-s，j=1,2,3,s. 兩邊同除以0，得Yule-Walker方程： 1=s10+s21+sss-1 2=s11+s20+sss-2 s=s1s-1+s2s-2+ss0,六、偏

56、相關(guān)函數(shù)(PACF),2、偏相關(guān)函數(shù)的計算方法Yule-Walker方程 在Yule-Walker方程中，令s依次為1,2,3,，并求解，則可得各階偏相關(guān)系數(shù)。有： 11=1 22=(2-12)/(1-12) Durbin遞推公式：,六、偏相關(guān)函數(shù)(PACF),3、ARMA過程的偏相關(guān)函數(shù) (1) AR過程的PACF 對于AR(p)過程： yt=p1yt-1+p2yt-2+ppyt-p+t 其前p階偏相關(guān)系數(shù)顯然不為0，但當sp時，所有ss=0。這表明AR(p)過程的PACF是p階截尾的。,六、偏相關(guān)函數(shù)(PACF),3、ARMA過程的偏相關(guān)函數(shù) (2) MA過程的PACF 對于MA(1)過程

57、：yt=t+t-1，有： (1+L)-1yt=t 即：yt=yt-1-2yt-2+3yt-3-4yt-4+t 這表明MA(1)過程的PACF是指數(shù)衰減的，具有拖尾的性質(zhì)。 對于MA(q)過程，也有類似的結(jié)論，即MA(q)過程的PACF也具有拖尾的性質(zhì)。,六、偏相關(guān)函數(shù)(PACF),3、ARMA過程的偏相關(guān)函數(shù) (3) ARMA過程的PACF ARMA(p,q)過程的PACF在p階以后完全由MA(q)部分決定，所以其p階以后的PACF以指數(shù)方式衰減，也具有拖尾的性質(zhì)。 過程 ACF PACF AR(p) 拖尾 p階截尾 MA(q) q階截尾 拖尾 ARMA(p,q) 拖尾 拖尾,七、平穩(wěn)過程的樣本自相關(guān)函數(shù),1、樣本自相關(guān)系數(shù)與偏相關(guān)系數(shù)的計算 由于平穩(wěn)過程一般具有遍