1、數(shù)學(xué)建模中的預(yù)測方法,沈 炎 峰 TEL:664802 2015.8.1,2,歷屆CUMCM數(shù)據(jù)預(yù)測題目,2003年 A題 SARS的傳播問題 2005年 A題 長江水質(zhì)評(píng)價(jià)和預(yù)測問題 2006年 B題 艾滋病療法的評(píng)價(jià)及療效的 預(yù)測問題 2007年 A題中國人口增加預(yù)測問題 2009年 D題 “會(huì)議籌備”對與會(huì)人數(shù)的確定 2010 B題 上海世博會(huì)影響力 相關(guān)數(shù)據(jù)預(yù)測 2012 A題 葡萄酒質(zhì)量評(píng)價(jià)和相關(guān)預(yù)測問題 2013 A題 交通事故階段車流量的分析與預(yù)測,3,一、預(yù)測的概念,系統(tǒng)預(yù)測：根據(jù)系統(tǒng)發(fā)展變化的實(shí)際數(shù)據(jù)和歷史資料，運(yùn)用現(xiàn)代的科學(xué)理論和方法，以及各種經(jīng)驗(yàn)、判斷和知識(shí)，對事物在未來

2、一定時(shí)期內(nèi)的可能變化情況，進(jìn)行推測、估計(jì)和分析。,4,預(yù)測的特點(diǎn) 科學(xué)性：據(jù)統(tǒng)計(jì)資料和目前信息，運(yùn)用一定程序、方法和模型，分析預(yù)測對象與相關(guān)因素的相互聯(lián)系，而揭示預(yù)測對象特性和變化規(guī)律。 近似性：受許多隨機(jī)因素的影響，事前預(yù)測的結(jié)果，往往與將來實(shí)際發(fā)生的結(jié)果有一定偏差。 局限性：對預(yù)測對象的認(rèn)識(shí)常受知識(shí)、經(jīng)驗(yàn)、觀察和分析能力限制，又掌握資料和信息不夠準(zhǔn)確完整，或建模時(shí)簡化等，導(dǎo)致預(yù)測的分析不夠全面。,一、預(yù)測的概念,5,根據(jù)預(yù)測的內(nèi)容：科學(xué)預(yù)測、技術(shù)預(yù)測、社會(huì)預(yù)測、經(jīng)濟(jì)預(yù)測、軍事預(yù)測 根據(jù)預(yù)測的期限：短期預(yù)測（1年內(nèi)）、中期預(yù)測（25年）、長期預(yù)測（510年及以上） 根據(jù)預(yù)測的性質(zhì)：定性預(yù)測、

3、定量預(yù)測、綜合預(yù)測,預(yù)測分類,一、預(yù)測的概念,6,預(yù)測技術(shù)的種類繁多，據(jù)統(tǒng)計(jì)有150多種。其中廣泛采用有1520種。,一、預(yù)測的概念,7,預(yù)測步驟,一、預(yù)測的概念,8,Model Assessment Objectives: Choose an appropriate model from candidates Estimate the prediction performance of a given model For both of these purposes, the best approach is to run the procedure on an independent te

4、st set, if one is available If possible one should use different test data for (1) and (2) above: a validation set for (1) and a test set for (2) Often there is insufficient data to create a separate validation or test set. In this instance Cross-Validation is useful.,9,K-Fold Cross-Validation Divid

5、e the data into K roughly equal parts (typically K=5 or 10) for each k = 1,2,K, fit a candidate model to the other K-1 parts, and compute its error in predicting the kth part: This gives the cross-validation error do this for many models and choose the model that makes smallest.,10,二、 時(shí)間序列分析預(yù)測法,時(shí)間序列

6、：系統(tǒng)中某一變量或指標(biāo)的數(shù)值或統(tǒng)計(jì)觀測值，按時(shí)間順序排列成一個(gè)數(shù)值序列，就稱為時(shí)間序列(Time Series) ，又稱動(dòng)態(tài)數(shù)據(jù)。,某市六年來汽車貨運(yùn)量（億噸公里）,11,二、 時(shí)間序列分析預(yù)測法,系統(tǒng)預(yù)測中討論的時(shí)間序列，一般是某隨機(jī)過程的一個(gè)樣本。通過對其分析研究，找出動(dòng)態(tài)過程的特性、最佳的數(shù)學(xué)模型、估計(jì)模型參數(shù)，并檢驗(yàn)利用數(shù)學(xué)模型進(jìn)行統(tǒng)計(jì)預(yù)測的精度，是時(shí)間序列分析的內(nèi)容。,某市六年來汽車貨運(yùn)量（億噸公里）,12,二、 時(shí)間序列分析預(yù)測法,某市六年來汽車貨運(yùn)量,13,時(shí)間序列特征： 趨勢性T：總體上持續(xù)上升或下降的總變化趨勢，其間的變動(dòng)幅度可能有時(shí)不等。 季節(jié)性S：以一年為周期，四個(gè)季節(jié)呈

7、某種周期性，各季節(jié)出現(xiàn)波峰和波谷的規(guī)律類似。 周期性C：決定于系統(tǒng)內(nèi)部因素的周期性變化規(guī)律，又分短周期、中周期、長周期等幾種。 不規(guī)則性I：包括突然性和隨機(jī)性變動(dòng)兩種。,二、 時(shí)間序列分析預(yù)測法,任一時(shí)間序列可表示為幾種變動(dòng)的不同組合的總結(jié)果，且可表示為： 加法模型：Y=T+S+C+I 乘法模型：Y=TSCI,14,二、 時(shí)間序列分析預(yù)測法,某市六年來汽車貨運(yùn)量時(shí)間序列分解, 趨勢項(xiàng), 周期項(xiàng), 隨機(jī)項(xiàng),15,平滑預(yù)測法 包括移動(dòng)平均法和指數(shù)平滑法兩種，其具體是把時(shí)間序列作為隨機(jī)變量，運(yùn)用算術(shù)平均和加權(quán)平均的方法做未來趨勢的預(yù)測。這樣得到的趨勢線比實(shí)際數(shù)據(jù)點(diǎn)的連線要平滑一些，故稱平滑預(yù)測法。

8、趨勢外推預(yù)測法 根據(jù)預(yù)測對象歷史發(fā)展的統(tǒng)計(jì)資料，擬合成預(yù)先指定的某種時(shí)間函數(shù)，并用它來描述預(yù)測目標(biāo)的發(fā)展趨勢。 平穩(wěn)時(shí)間序列預(yù)測法 由于平穩(wěn)時(shí)間序列的隨機(jī)特征不隨時(shí)間變化，所以可利用過去的數(shù)據(jù)估計(jì)該時(shí)間序列模型的參數(shù)，從而可以預(yù)測未來。,二、時(shí)間序列分析預(yù)測法-分類,16,1 移動(dòng)平均法,移動(dòng)平均法：在原時(shí)間序列內(nèi)依次求連續(xù)若干期的平均數(shù)作為其某一期的趨勢值，如此逐項(xiàng)遞移求得一系列的移動(dòng)平均數(shù)，形成一個(gè)新的、派生的平均數(shù)時(shí)間序列。 在新的時(shí)間序列中偶然因素的影響被削弱，從而呈現(xiàn)出現(xiàn)象在較長時(shí)間的基本發(fā)展趨勢。,17,把時(shí)間序列連續(xù) N 期的平均數(shù)作為最近一期（第t期）的趨勢值:,N 期移動(dòng)平均

9、數(shù),18,把時(shí)間序列連續(xù) N 期的平均數(shù)作為 N 期的中間一期的趨勢值。 如果N為奇數(shù)，則把N期的移動(dòng)平均值作為中間一期的趨勢值。 如果N為偶數(shù)，須將移動(dòng)平均數(shù)再進(jìn)行一次兩項(xiàng)移動(dòng)平均，以調(diào)整趨勢值的位置，使趨勢值能對準(zhǔn)某一時(shí)期)。相當(dāng)于對原序列進(jìn)行一次N+1 項(xiàng)移動(dòng)平均，首末兩個(gè)數(shù)據(jù)的權(quán)重為0.5，中間數(shù)據(jù)權(quán)重為1。,中心化移動(dòng)平均,19,Example 1,新衛(wèi)機(jī)械廠的銷售收入（萬元）：,20,中心移動(dòng)平均法,21,移動(dòng)平均的結(jié)果,22,移動(dòng)平均法一般用來消除不規(guī)則變動(dòng)的影響，把序列進(jìn)行修勻（smoothing)，以觀察序列的其他成分。 如果移動(dòng)平均的項(xiàng)數(shù)等于季節(jié)長度則可以消除季節(jié)成分的影響

10、； 如果移動(dòng)平均的項(xiàng)數(shù)等于平均周期長度的倍數(shù)則可以消除循環(huán)變動(dòng)的影響。 由于區(qū)分長期趨勢和循環(huán)變動(dòng)比較困難，在應(yīng)用中有時(shí)對二者不做區(qū)分，而是把兩項(xiàng)合在一起稱為“趨勢循環(huán)”成分（trend-cycle)。,移動(dòng)平均法的應(yīng)用,23,指數(shù)平滑方法的基本原理,指數(shù)平滑是一種加權(quán)移動(dòng)平均，既可以用來描述時(shí)間序列的變化趨勢，也可以實(shí)現(xiàn)時(shí)間序列的預(yù)測。 指數(shù)平滑預(yù)測的基本原理是：用時(shí)間序列過去取值的加權(quán)平均作為未來的預(yù)測值，離當(dāng)前時(shí)刻越近的取值，其權(quán)重越大。,24,式中：,表示時(shí)間序列第t+1期的預(yù)測值；,表示時(shí)間序列第t期的實(shí)際觀測值；,表示時(shí)間序列第t期的預(yù)測值；,表示平滑系數(shù)，0,1。,單參數(shù)指數(shù)平滑

11、的模型為：,25,適用場合,單參數(shù)（一次）指數(shù)平滑適用于不包含長期趨勢和季節(jié)成分的時(shí)間序列預(yù)測 如果原序列有增長趨勢，平滑序列將系統(tǒng)的低于實(shí)際值 如果原序列有下降趨勢，平滑序列將系統(tǒng)的高于實(shí)際值,26,平滑系數(shù)的確定,選擇合適的平滑系數(shù)是提高預(yù)測精度的關(guān)鍵。 如果序列波動(dòng)較小，則平滑系數(shù)應(yīng)取小一些，不同時(shí)期數(shù)據(jù)的權(quán)數(shù)差別小一些，使預(yù)測模型能包含更多歷史數(shù)據(jù)的信息； 如果序列趨勢波動(dòng)較大，則平滑系數(shù)應(yīng)取得大一些。這樣，可以給近期數(shù)據(jù)較大的權(quán)數(shù)，以使預(yù)測模型更好地適序列趨勢的變化。 統(tǒng)計(jì)軟件中可以根據(jù)擬合誤差的大小自動(dòng)篩選最優(yōu)的平滑系數(shù)值。,27,初始預(yù)測值的確定,初始預(yù)測值的確定 等于第一個(gè)觀測

12、值 等于前k個(gè)值的算術(shù)平均 適用場合：單參數(shù)（一次）指數(shù)平滑適用于不包含長期趨勢和季節(jié)成分的平穩(wěn)時(shí)間序列預(yù)測,28,案例分析,新衛(wèi)機(jī)械廠銷售額的單參數(shù)指數(shù)平滑預(yù)測 分析預(yù)測創(chuàng)建模型方法選擇“指數(shù)平滑”;根據(jù)需要設(shè)置“條件”。 擬合情況與2年的預(yù)測值（下頁圖）。 SPSS Statistics 估計(jì)的a=0.689. 擬合數(shù)據(jù)的MAPE=12.847%.,29,單參數(shù)指數(shù)平滑的圖形結(jié)果,30,二、時(shí)間序列分析預(yù)測法-平穩(wěn)時(shí)間序列,時(shí)序圖檢驗(yàn) 根據(jù)平穩(wěn)時(shí)間序列均值與方差為常數(shù)的性質(zhì)，平穩(wěn)序列的時(shí)序圖應(yīng)該顯示出該序列始終在一個(gè)常數(shù)值附近隨機(jī)波動(dòng)，而且波動(dòng)的范圍有界、無明顯趨勢及周期特征 自相關(guān)圖檢驗(yàn)

13、 平穩(wěn)序列通常具有短期相關(guān)性。該性質(zhì)用自相關(guān)系數(shù)來描述就是隨著延遲期數(shù)的增加，平穩(wěn)序列的自相關(guān)系數(shù)對很快地衰減向零。 純隨機(jī)性檢驗(yàn)（白噪聲檢驗(yàn)）,平穩(wěn)性檢驗(yàn),31,AR(p)模型 MA(q)模型 ARMA（p，q）模型,平穩(wěn)時(shí)間序列分析模型： ARMA模型的全稱是自回歸移動(dòng)平均（auto regression moving average）模型，它是目前最常用的擬合平穩(wěn)時(shí)間序列的模型。ARMA模型又可細(xì)分為AR模型、MA模型和ARMA模型三大類。,二、時(shí)間序列分析預(yù)測法-平穩(wěn)時(shí)間序列,32,確定性時(shí)間序列分析（平滑法、趨勢外推擬合法） 通常這種非平穩(wěn)的時(shí)間序列顯示出非常明顯的規(guī)律性，比如有顯著

14、的趨勢或有固定的變化周期 。 隨機(jī)性時(shí)間序列分析（ARIMA模型 ） 由隨機(jī)因素導(dǎo)致的的非平穩(wěn)時(shí)間序列，通常這種隨機(jī)波動(dòng)非常難以確定和分析 。通過差分法或適當(dāng)?shù)淖儞Q使非平穩(wěn)序列的化成為平穩(wěn)序列 。,在實(shí)際情況中，絕大部分序列都是非平穩(wěn)的，因而對非平穩(wěn)序列的分析更普遍、更重要，相應(yīng)地各種分析方法也更多。通常包含下列兩種方法：,二、時(shí)間序列分析預(yù)測法-非平穩(wěn)序列,非平穩(wěn)序列分析法,33,ARIMA(Autoregressive Integrated Moving Average)模型，差分自回歸滑動(dòng)平均模型（滑動(dòng)也譯作移動(dòng)），又稱求合自回歸滑動(dòng)平均模型。 ARIMA（p，d，q）中，AR是自回歸，

15、p為自回歸項(xiàng)數(shù)；MA為滑動(dòng)平均，q為滑動(dòng)平均項(xiàng)數(shù)，d為使之成為平穩(wěn)序列所做的差分次數(shù)（階數(shù)）。 ARIMA（p，d，q）模型是ARMA（p，q）模型的擴(kuò)展。,二、時(shí)間序列分析預(yù)測法-非平穩(wěn)序列,34,Box-Jenkins法-時(shí)間序列分析法,35,例：建立國際航線旅客月度人數(shù)的ARIMA模型。我們已有一組1949年至1961年國際航線旅客月度人數(shù)的144條記錄。使用ARIMA過程進(jìn)行建模和預(yù)測。其數(shù)據(jù)列于下表所示。,二、時(shí)間序列分析預(yù)測法實(shí)例分析,36,（1）繪制時(shí)序圖,二、時(shí)間序列分析預(yù)測法實(shí)例分析,37,（2）對平穩(wěn)性和季節(jié)性的識(shí)別,對平穩(wěn)性和季節(jié)性的識(shí)別通常有時(shí)序圖和自相關(guān)圖兩種方法，或

16、兩者結(jié)合起來一起判斷。 時(shí)序圖，是通過直接觀察時(shí)間序列折線圖來檢驗(yàn)序列是否平穩(wěn)。如果時(shí)間序列有某種趨勢或呈現(xiàn)出增加或減少范圍的擴(kuò)散現(xiàn)象，則序列是不平穩(wěn)的。 自相關(guān)圖。如果序列的折線圖并不明顯地呈現(xiàn)上述現(xiàn)象，而我們又無法直接判斷序列究竟平穩(wěn)與否，通常可以利用自相關(guān)圖來檢測序列是否平穩(wěn)。,二、時(shí)間序列分析預(yù)測法實(shí)例分析,38,二、時(shí)間序列分析預(yù)測法實(shí)例分析,39,（3）變換不平穩(wěn)序列為平穩(wěn)序列,如果時(shí)間序列呈線性趨勢，均值不是常數(shù)，利用一階差分將產(chǎn)生一個(gè)平穩(wěn)序列。 如果時(shí)間序列呈二次趨勢，均值不是常數(shù)，利用二階差分將產(chǎn)生一個(gè)平穩(wěn)序列。 如果時(shí)間序列呈現(xiàn)出隨時(shí)間的上升或下降而偏差，方差不是常數(shù)，通常

17、可利用取自然對數(shù)轉(zhuǎn)化為平穩(wěn)序列。 如果時(shí)間序列呈現(xiàn)指數(shù)趨勢，均值和方差都不是常數(shù)，通常也可利用取自然對數(shù)轉(zhuǎn)化為平穩(wěn)序列。 如果時(shí)間序列呈現(xiàn)“相對環(huán)”趨勢，通常將數(shù)據(jù)除以同時(shí)發(fā)生的時(shí)間序列的相應(yīng)值轉(zhuǎn)化為平穩(wěn)序列。,二、時(shí)間序列分析預(yù)測法實(shí)例分析,40,a）取對數(shù)消除振幅變大趨勢-線性增長趨勢,二、時(shí)間序列分析預(yù)測法實(shí)例分析,41,b）需要對這個(gè)新序列數(shù)據(jù)再進(jìn)行滯后一次（消除增長）和滯后12次（消除季節(jié)）共兩次差分最終轉(zhuǎn)換為平穩(wěn)序列,（4）檢驗(yàn)待選的時(shí)間序列模型的自相關(guān)函數(shù),二、時(shí)間序列分析預(yù)測法實(shí)例分析,42,ACF圖中，我們認(rèn)為自相關(guān)系數(shù)在延遲1階后都落入2倍標(biāo)準(zhǔn)差內(nèi)，然后在延遲12階處突然有

18、一個(gè)較大的自相關(guān)系數(shù)，緊接著又落入2倍標(biāo)準(zhǔn)差內(nèi)，很象在1，12處截尾,43,（5）估計(jì)備選時(shí)間序列模型的參數(shù)估計(jì) （6）利用確定的模型進(jìn)行預(yù)測,二、時(shí)間序列分析預(yù)測法實(shí)例分析,44,1、定義 一元線性回歸預(yù)測是處理因變量y與自變量x 之間線性關(guān)系的回歸預(yù)測法，其數(shù)學(xué)模型為：,其中a、b稱為回歸系數(shù),首先根據(jù)x、y的現(xiàn)有統(tǒng)計(jì)數(shù)據(jù)，在直角坐標(biāo)系中作散點(diǎn)圖，觀察y隨x而變是否為近似的線性關(guān)系。若是，則求出式（7.4.1）中的a、b值，就可確定其數(shù)學(xué)模型，然后由x的未來變化去求相應(yīng)的y 值。,三、 回歸分析預(yù)測法-一元線性回歸,45,使擬合的數(shù)值與實(shí)際值的總方差為最小，即擬合程度最好，則得兩者之差ei

19、,根據(jù)極值原理，式（7.4.6）對a、b分別求偏導(dǎo)，并令其=0，得,三、 回歸分析預(yù)測法-一元線性回歸,2、a、b的確定方法最小二乘法,46,三、 回歸分析預(yù)測法-一元線性回歸,47,三、 回歸分析預(yù)測法-一元線性回歸,48,3、回歸效果檢驗(yàn),y=a+bx一定程度上反映了y與x之間的統(tǒng)計(jì)線性相關(guān)關(guān)系，該關(guān)系是否密切，決定了所采用線性預(yù)測模型多大程度上可信。這可以通過y與x的相關(guān)系數(shù)rxy的大小來確定。,三、 回歸分析預(yù)測法-一元線性回歸,49,3、回歸效果檢驗(yàn),rxy的取值（P136圖7-7）： | rxy|=1，樣本點(diǎn)完全落在回歸線上，y與x有完全的線性關(guān)系； 0rxy1，y與x有一定的正線

20、性相關(guān)關(guān)系，即y隨著x的增加而成比例倍數(shù)增加； -1rxy0， y與x有一定的負(fù)線性相關(guān)關(guān)系，即y隨著x的增加而成比例倍數(shù)減少； rxy=0，y與x之間不存在線性相關(guān)關(guān)系。,三、 回歸分析預(yù)測法-一元線性回歸,取一定顯著水平 ，查相關(guān)系數(shù)表（教材P.384附表二），若|rxy|表中相應(yīng)數(shù)字r臨界值，表示x、y間存在線性相關(guān)，預(yù)測模型可用。,50,4、簡化算法,對具有類似等差時(shí)間序列關(guān)系的統(tǒng)計(jì)數(shù)據(jù)進(jìn)行預(yù)測時(shí)， 可以采用此法。,由計(jì)算a、b的式（7.4.2）、（7.4.3）,發(fā)現(xiàn)，若能使其中的xi=0，則計(jì)算a、b就會(huì)大大簡化為,三、 回歸分析預(yù)測法-一元線性回歸,51,如何使xi=0?,當(dāng)xi為

21、等差自然數(shù)列時(shí)，可引入“集中時(shí)間序列”即使等差序列呈對稱形態(tài)。,在給xi編號(hào)時(shí)可以這樣處理：,（1）若n為奇數(shù)，取xi的時(shí)間間隔為1，將x=0置于資料期 的中央； （2）若n為偶數(shù)，取xi的時(shí)間間隔為2，將x= -1（+1）置 于資料期中央的上（下）期。,例7.4.1 某服裝廠最近5年的服裝產(chǎn)量如下表所示，請預(yù) 測該廠今明兩年的產(chǎn)量。,年份 倒5年 倒4年 倒3年 前年 去年 今年 明年,產(chǎn)量（萬元） 300 350 380 430 500 ？ ？,三、 回歸分析預(yù)測法-一元線性回歸法,52,解：以年份為自變量xi，產(chǎn)量為因變量yi，在直角坐標(biāo)系中畫 散點(diǎn)圖后發(fā)現(xiàn)y、x之間基本上呈線性關(guān)系，故

22、可用一元線性 回歸方法進(jìn)行預(yù)測。 此處n=5為奇數(shù)，因此可列下表整理資料，并使xi=0,年份 倒5年 倒4年 大前年 前年 去年 平均值,xi -2 -1 0 1 2 0 0,yi 300 350 380 430 500 1960 392,xiyi -600 -350 0 430 1000 480,Xi2 4 1 0 1 4 10,Yi2 90000 122500 144400 184900 250000 791800,三、 回歸分析預(yù)測法-一元線性回歸,53,查相關(guān)系數(shù)表，此處n=5，若取=0.01，置信度(1- )=99% 查得,三、 回歸分析預(yù)測法-一元線性回歸,54,由于rxyr臨界值

23、，所以x，y之間確實(shí)存在著線性相關(guān)，故 預(yù)測模型 可以用于預(yù)測。,三、 回歸分析預(yù)測法-一元線性回歸,55,1、基本概念 社會(huì)經(jīng)濟(jì)S中，影響事物發(fā)展的往往是多個(gè)因素，一元回歸只是一種抽象，是抓主要矛盾的結(jié)果。有時(shí)分不清主次，只有通過多因素的多元回歸才能反映事物的本質(zhì)。 例如一個(gè)城市的公共交通營運(yùn)總額y與該市的人口總數(shù)x1、國民生產(chǎn)總值x2、商品流通量（或人口流動(dòng)數(shù)）x3等多因素有關(guān)，經(jīng)過分析抓住主要矛盾后，可建立如下二元線性回歸預(yù)測模型：,三、 回歸分析預(yù)測法-多元線性回歸,56,一般而言，設(shè)系統(tǒng)變量y與k個(gè)自變量x1, x2, ，xk之間存在統(tǒng)計(jì)線性相關(guān)關(guān)系，且給定n組樣本數(shù)據(jù)點(diǎn)如下： (y

24、1, x11, x21,xk1), (y2, x12, x22,xk2), (yn, x1n, x2n,xkn) 則其滿足： 多元線性回歸預(yù)測模型可以表示為：,多元線性回歸與矩陣方法相結(jié)合，是社會(huì)經(jīng)濟(jì)系統(tǒng)預(yù)測與規(guī)劃的一個(gè)重要手段。,三、 回歸分析預(yù)測法-多元線性回歸,57,2、多元線性回歸模型的參數(shù)估計(jì) 設(shè)式（7.4.10）中 ，則其k+1個(gè)參數(shù)aj可利用最小二乘法進(jìn)行估計(jì)，記,三、 回歸分析預(yù)測法-多元線性回歸,58,于是，式（7.4.10）可以表示為：,三、 回歸分析預(yù)測法-多元線性回歸,59,令誤差平方和： 由極小值條件 可得：,記 系數(shù)矩陣（對稱） 適于計(jì)算機(jī)實(shí)現(xiàn),最小二乘法估計(jì) 是A

25、的無偏估計(jì)。,三、 回歸分析預(yù)測法-多元線性回歸,60,手算時(shí)， 極小值條件可以表示為：,三、 回歸分析預(yù)測法-多元線性回歸,61,整理可得：,解上面的方程組即可得到a0, a1, , ak的估計(jì)值。,三、 回歸分析預(yù)測法-多元線性回歸,62,3、相關(guān)系數(shù) 記 RSS回歸平方和 ESS剩余平方和 TSS總平方和,三、 回歸分析預(yù)測法-多元線性回歸,63,3、相關(guān)系數(shù) 復(fù)相關(guān)系數(shù) r ：表示y與所有自變量x1,xk的整體線性 相關(guān)程度。,三、 回歸分析預(yù)測法-多元線性回歸,64,3、相關(guān)系數(shù) r = 1：y與x1,xk具有完全的正線性相關(guān)關(guān)系，所有樣本點(diǎn)完全落在回歸直線上。 r = -1：y與x

26、1,xk 具有完全的負(fù)線性相關(guān)關(guān)系，所有樣本點(diǎn)完全落在回歸直線上。 0r1：y與x1,xk 具有一定的正線性相關(guān)關(guān)系。 -1r0：y與x1,xk 具有一定的負(fù)線性相關(guān)關(guān)系。 r = 0：y與x1,xk 之間不存在線性相關(guān)關(guān)系。 對一元線性回歸而言，相關(guān)系數(shù)含義見P136圖7-7.,三、 回歸分析預(yù)測法-多元線性回歸,65,4、回歸模型的統(tǒng)計(jì)檢驗(yàn) （1）標(biāo)準(zhǔn)離差檢驗(yàn)：用于檢驗(yàn)回歸模型的精度。 （2）相關(guān)系數(shù)檢驗(yàn)：用復(fù)相關(guān)系數(shù)檢驗(yàn)整體線性相關(guān)關(guān)系是 否可信。 r = 1：完全線性相關(guān)（所有點(diǎn)均在擬合直線上）； r = 0：不相關(guān)。 如果r在某個(gè)顯著性水平下超過了r臨界值（附表二），則認(rèn)為r在顯著性

27、水平下與0顯著不同，檢驗(yàn)通過。,反映估計(jì)值和樣本值的平均誤差，要求：,三、 回歸分析預(yù)測法-多元線性回歸,66,4、回歸模型的統(tǒng)計(jì)檢驗(yàn) （3）回歸方程的顯著性檢驗(yàn)（F檢驗(yàn)）：在一定顯著性水平 下，檢驗(yàn)假設(shè)ai = 0 ( i = 1,k)是否成立。 構(gòu)造統(tǒng)計(jì)量F:,則當(dāng),時(shí)否定假設(shè)，認(rèn)為在顯著性水平下，回歸模型有意義（查附表四）。,三、 回歸分析預(yù)測法-多元線性回歸,67,4、回歸模型的統(tǒng)計(jì)檢驗(yàn) （4）回歸系數(shù)的顯著性檢驗(yàn)（t 檢驗(yàn)）：對每個(gè)自變量 xi與y 的相關(guān)關(guān)系單獨(dú)進(jìn)行顯著性檢驗(yàn)，檢驗(yàn)假設(shè)ai=0是否成立。,則當(dāng)對j=1,k都有：,時(shí)認(rèn)為在顯著性水平下，aj與0有顯著差異，即xj對y 有顯著影響（查附表三）。,三、 回歸分析預(yù)測法-多元線性回歸,68,4、回歸模型的統(tǒng)計(jì)檢驗(yàn) （5）剩余項(xiàng)的獨(dú)立性檢驗(yàn)（DW 檢驗(yàn)）：就擬合誤差i的相 互獨(dú)立性進(jìn)行檢驗(yàn)。,根據(jù)、n、k，查DW表（附表五）得d