第5章數(shù)據(jù)挖掘算法基礎數(shù)據(jù)挖掘算法基礎1聚類目錄分類與回歸2關聯(lián)規(guī)則3智能推薦4時間序列5時間序列是按照時間排序的一組隨機變量，它通常是在相等間隔的時間段內(nèi)依照給定的采樣率對某種潛在過程進行觀測的結果，是一種動態(tài)數(shù)據(jù)處理的統(tǒng)計方法，主要研究隨機數(shù)據(jù)序列所遵從的統(tǒng)計規(guī)律。常用的時間序列模型:時間序列算法模型名稱描述平滑法平滑法常用于趨勢分析和預測，利用修勻技術，削弱短期隨機波動對序列的影響，使序列平滑化。根據(jù)所用平滑技術的不同，可具體分為移動平均法和指數(shù)平滑法趨勢擬合法趨勢擬合法將時間作為自變量，相應的序列觀察值作為因變量，建立回歸模型。根據(jù)序列的特征，可具體分為線性擬合和曲線擬合組合模型時間序列的變化主要受到長期趨勢(T)、季節(jié)變動(S)、周期變動(C)和不規(guī)則變動()這4個因素的影響。根據(jù)序列的特點，可以構建加法模型和乘法模型加法模型：

；乘法模型：

時間序列算法模型名稱描述AR模型以前

期的序列值

為自變量、隨機變量

的取值

為因變量建立線性回歸模型MA模型隨機變量

的取值

與以前各期的序列值無關，

建立

與前

期的隨機擾動

的線性回歸模型ARMA模型

隨機變量

的取值

不僅與以前

期的序列值有關，還與前

期的隨機擾動有關ARIMA模型許多非平穩(wěn)序列差分后會顯示出平穩(wěn)序列的性質(zhì)，稱這個非平穩(wěn)序列為差分平穩(wěn)序列。對差分平穩(wěn)序列可以使用ARIMA模型進行擬合。ARCH模型ARCH模型能準確地模擬時間序列變量的波動性的變化，適用于序列具有異方差性并且異方差函數(shù)短期自相關GARCH模型及其衍生模型GARCH模型稱為廣義ARCH模型，是ARCH模型的拓展。相比于ARCH模型，GARCH模型及其衍生模型更能反映實際序列中的長期記憶性、信息的非對稱性等性質(zhì)針對一個觀察值序列后，首先要對它的白噪聲和平穩(wěn)性進行檢驗，這兩個重要的檢驗稱為序列的預處理。根據(jù)檢驗結果可以將序列分為不同的類型：時間序列的預處理序列的各項之間沒有任何相關關系，序列在進行完全無序的隨機波動白噪聲序列均值和方差是常數(shù)，通常是建立一個線性模型來擬合該序列的發(fā)展，借此提取該序列的有用信息。平穩(wěn)非白噪聲序列均值和方差不穩(wěn)定，處理方法一般是將其轉(zhuǎn)變?yōu)槠椒€(wěn)序列，再應用有關平穩(wěn)時間序列的分析方法非平穩(wěn)序列平穩(wěn)時間序列的定義如果時間序列在某一常數(shù)附近波動且波動范圍有限，即有常數(shù)均值和常數(shù)方差，并且延遲期的序列變量的自協(xié)方差和自相關系數(shù)是相等的或者說延遲期的序列變量之間的影響程度是一樣的，則稱此序列為平穩(wěn)序列。時間序列的預處理平穩(wěn)性檢驗平穩(wěn)性檢驗時間序列的預處理時序圖檢驗根據(jù)平穩(wěn)時間序列的均值和方差都為常數(shù)的性質(zhì)，平穩(wěn)序列的時序圖顯示該序列值始終在一個常數(shù)附近隨機波動，而且波動的范圍有界；如果有明顯的趨勢性或者周期性那它通常不是平穩(wěn)序列。自相關圖檢驗隨著延遲期數(shù)的增加，平穩(wěn)序列的自相關系數(shù)（延遲期）會比較快地衰減趨向于零，并在零附近隨機波動，而非平穩(wěn)序列的自相關系數(shù)衰減的速度比較慢單位根檢驗單位根檢驗是指檢驗序列中是否存在單位根，存在單位根就是非平穩(wěn)時間序列白噪聲檢驗也稱純隨機性檢驗，一般是構造檢驗統(tǒng)計量來檢驗序列的白噪聲；常用的檢驗統(tǒng)計量有Q統(tǒng)計量和LB統(tǒng)計量，計算出統(tǒng)計量后再計算出對應的值，如果值顯著大于顯著性水平，則表示該序列不能拒絕純隨機的原假設，可以停止對該序列的分析。時間序列的預處理白噪聲檢驗自相關系數(shù)（ACF）平穩(wěn)AR(p)模型的自相關系數(shù)呈指數(shù)的速度衰減，始終有非零取值，不會在大于某個常數(shù)之后就恒等于零，這個性質(zhì)就是平穩(wěn)AR(p)模型的自相關系數(shù)具有拖尾性。偏自相關系數(shù)（PACF）對于一個平穩(wěn)AR(p)模型，求出延遲期自相關系數(shù)時，實際上的得到的并不是與之間單純的相關關系，因為同時還會受到中間個隨機變量的影響，所以自相關系數(shù)里實際上摻雜了其他變量對與的相關影響，為了單純地測度對的影響，引進偏自相關系數(shù)的概念。拖尾與截尾截尾是指時間序列的ACF或PACF在某階后均為0的性質(zhì)；

拖尾是ACF或PACF并不在某階后均為0的性質(zhì)。平穩(wěn)時間序列分析基本性質(zhì)具有結構的模型稱為階自回歸模型，簡記為AR(p)。即在t時刻的隨機變量的取值是前p期的多元線性回歸，認為主要是受過去p期的序列值的影響。誤差項是當期的隨機干擾，為零均值白噪聲序列。平穩(wěn)AR(p)模型的性質(zhì)如下表所示：平穩(wěn)時間序列分析AR模型統(tǒng)計量性質(zhì)統(tǒng)計量性質(zhì)均值常數(shù)均值自相關系數(shù)（ACF）拖尾方差常數(shù)方差偏自相關系數(shù)（PACF）階截尾具有結構的模型稱為q階移動平均模型，簡記為MA(q)。即在t時刻的隨機變量的取值是前q期的隨機擾動的多元線性函數(shù)，誤差項是當期的隨機干擾，為零均值白噪聲序列,是序列的均值。認為主要是受過去q期的誤差項的影響。平穩(wěn)MA(q)模型的性質(zhì)如下表所示：平穩(wěn)時間序列分析MA模型統(tǒng)計量性質(zhì)統(tǒng)計量性質(zhì)均值常數(shù)均值自相關系數(shù)（ACF）階截尾方差常數(shù)方差偏自相關系數(shù)（PACF）拖尾具有結構的模型稱為自回歸移動平均模型，簡記為ARMA(p,q)。即在t時刻的隨機變量的取值是前p期和前q期的多元線性函數(shù)，誤差項是當期的隨機干擾，為零均值白噪聲序列。認為主要是受過去p期的序列值和過去q期的誤差項的共同影響。特別的，當時，是AR(p)模型；當時，是MA(q)模型。平穩(wěn)ARMA(p,q)的性質(zhì)如下表所示：平穩(wěn)時間序列分析ARMA模型統(tǒng)計量性質(zhì)統(tǒng)計量性質(zhì)均值常數(shù)均值自相關系數(shù)（ACF）拖尾方差常數(shù)方差偏自相關系數(shù)（PACF）拖尾平穩(wěn)時間序列建模步驟：平穩(wěn)時間序列分析平穩(wěn)時間序列建模模型自相關系數(shù)（ACF）偏自相關系數(shù)（PACF）AR(p)拖尾p階截尾MA(q)q階截尾拖尾ARMA(p,q)p階拖尾q階拖尾對非平穩(wěn)時間序列的分析方法可以分為確定性因素分解的時序分析和隨機時序分析兩大類。確定性因素分解的方法將所有序列的變化都歸結為4個因素（長期趨勢、季節(jié)變動、循環(huán)變動和隨機波動）的綜合影響，其中長期趨勢和季節(jié)變動的規(guī)律性信息通常比較容易提取，而由隨機因素導致的波動則非常難以確定和分析，對隨機信息浪費嚴重，會導致模型擬合精度不夠理想。隨機時序分析法的發(fā)展就是為了彌補確定性因素分解方法的不足。根據(jù)時間序列的不同特點，隨機時序分析可以建立的模型有ARIMA模型、殘差自回歸模型、季節(jié)模型、異方差模型等。本小節(jié)重點介紹ARIMA模型對非平穩(wěn)時間序列進行建模。非平穩(wěn)時間序列分析差分運算具有強大的確定性信息提取能力，許多非平穩(wěn)序列差分后會顯示出平穩(wěn)序列的性質(zhì)，這時稱這個非平穩(wěn)序列為差分平穩(wěn)序列。常用的差分計算分為p階差分和k步差分兩種。

p階差分：做p次差分。k步差分：相距k個數(shù)據(jù)的兩個序列值之間的減法運算稱為k步差分運算。非平穩(wěn)時間序列分析差分運算對差分平穩(wěn)序列可以使用ARMA模型進行擬合。ARIMA模型的實質(zhì)就是差分運算與ARMA模型的組合。

非平穩(wěn)時間序列分析ARIMA模型平穩(wěn)性和白噪聲檢驗使用statsmodels庫中的stats模塊的acorr_ljungbox函數(shù)可以檢測是否為白噪聲序列，基本使用格式和常用參數(shù)說明如下：statsmodels.stats.diagnostic.acorr_ljungbox（x,lags=None,boxpierce=False,model_df=0,period=None,return_df=None）非平穩(wěn)時間序列分析參數(shù)名稱參數(shù)說明x接收array_like，接收時間序列數(shù)據(jù)，無默認值lags接收int，表示滯后數(shù)目，默認為Noneboxpierce接收bool，表示是否返回Box-Pierce測試結果，默認為Falsemodel_df接收int，表示模型消耗的自由度數(shù)，默認為0period接收int，表示季節(jié)性時間序列的周期，默認為None查看時間序列平穩(wěn)性通過時間序列的時序圖和自相關圖可以查看時間序列平穩(wěn)性。使用statsmodel庫中的tsa模塊的plot_acf函數(shù)可以繪制自相關系數(shù)圖，基本使用格式和常用參數(shù)說明如下：statsmodels.tsa.stattools.plot_acf(x,lags=None,alpha=0.05,missing='none',title='Autocorrelation',zero=True)非平穩(wěn)時間序列分析參數(shù)名稱參數(shù)說明x接收array_like，表示時間序列數(shù)據(jù)，無默認值lags接收int、array_like，表示滯后值，默認為Nonealpha接受float，表示給定級別的置信區(qū)間，默認為0.05missing接收str，表示如何處理NaN，默認為Nonetitle接收str，表示標題，默認為Autocorrelationzero接收bool，表示是否包括0滯后自相關，默認為True單位根檢驗單位根檢驗是指檢驗序列中是否存在單位根，因為存在單位根就是非平穩(wěn)時間序列了。單位根檢驗可以檢驗時間序列的平穩(wěn)性。使用statsmodels庫中的tsa模塊的adfuller函數(shù)可以對原始序列進行單位根檢驗，查看數(shù)據(jù)的平穩(wěn)性，基本使用格式和常用參數(shù)說明如下：statsmodels.tsa.stattools.adfuller(x,maxlag=None,regression='c',autolag='AIC',store=False,regresults=False)非平穩(wěn)時間序列分析參數(shù)名稱參數(shù)說明x接收array_like，表示要檢驗的數(shù)據(jù)集，無默認值maxlag接收int，表示最大滯后數(shù)目，默認為Noneregresults接收bool，表示是否將完整的回歸結果將返回，默認為False對原始序列進行一階差分使用pandas庫中的DataFrame模塊的diff()方法可以實現(xiàn)對觀測值序列進行差分計算，基本使用格式和常用參數(shù)說明如下：pandas.DataFrame.diff(periods=1,axis=0)非平穩(wěn)時間序列分析參數(shù)名稱參數(shù)說明periods接收int，表示差分周期，默認為1axis接收int、str，表示對行還是列差分，默認為0ARIMA模型構建使用statsmodels庫中的ts