第七章回歸分析預(yù)測(cè)法一.概述二.一元線性回歸模型預(yù)測(cè)三.多元線性回歸模型預(yù)測(cè)四.虛擬變量回歸模型預(yù)測(cè)五.非線性回歸模型預(yù)測(cè)六.自回歸模型預(yù)測(cè)教學(xué)要求●清楚回歸分析預(yù)測(cè)法的適用對(duì)象;●清楚回歸分析與相關(guān)分析的區(qū)別;●掌握一元線性回歸模型的參數(shù)估計(jì)與檢驗(yàn);●了解多元線性回歸模型的參數(shù)估計(jì)與檢驗(yàn);●了解帶虛擬變量的回歸模型的應(yīng)用條件;●清楚非線性回歸模型的建模方法;教學(xué)重點(diǎn)

●相關(guān)分析與回歸分析的基本概念；

●一元線性回歸模型的建立與參數(shù)檢驗(yàn)；教學(xué)難點(diǎn)

●相關(guān)系數(shù)的含義

●參數(shù)檢驗(yàn)的作用一.概述回歸分析預(yù)測(cè)法——

從各種現(xiàn)象的相互關(guān)系出發(fā)，通過對(duì)與預(yù)測(cè)對(duì)象有聯(lián)系的現(xiàn)象的變動(dòng)趨勢(shì)分析，推算預(yù)測(cè)對(duì)象未來狀態(tài)數(shù)量表現(xiàn)的一種方法。

xj負(fù)荷y影響因素時(shí)間x1負(fù)荷的變化空間示意圖y=f(t)—時(shí)間序列模型y=f(x)—關(guān)聯(lián)序列模型幾個(gè)基本問題1.回歸的含義2.相關(guān)關(guān)系的概念3.相關(guān)分析與回歸分析的區(qū)別與聯(lián)系4.相關(guān)分析與回歸分析的作用5.回歸分析模型的種類1.回歸的含義回歸——研究自變量與因變量之間關(guān)系形式的分析方法。GDP電量需求氣象因素系統(tǒng)負(fù)荷長期預(yù)測(cè)短期預(yù)測(cè)自變量因變量2.相關(guān)關(guān)系的概念●函數(shù)關(guān)系：嚴(yán)格的依存關(guān)系，有數(shù)學(xué)表達(dá)式?！裣嚓P(guān)關(guān)系：非嚴(yán)格的，不確定的依存關(guān)系。

確定性問題（函數(shù)關(guān)系）不確定性問題（相關(guān)關(guān)系）相關(guān)關(guān)系的特點(diǎn)●現(xiàn)象之間確定存在數(shù)量上的客觀內(nèi)在關(guān)系。表現(xiàn)在：一個(gè)現(xiàn)象發(fā)生數(shù)量上的變化，要影響另一現(xiàn)象也相應(yīng)地發(fā)生數(shù)量上的變化?！瘳F(xiàn)象之間的依存關(guān)系不是確定的，具有一定的隨機(jī)性。表現(xiàn)在：給定自變量的一個(gè)數(shù)值，因變量暉有若干數(shù)值和它對(duì)應(yīng)，且因變量總是遵循一定規(guī)律圍繞著這些數(shù)值的平均數(shù)上下波動(dòng)。3.相關(guān)分析與回歸分析的區(qū)別與聯(lián)系●相同點(diǎn)：研究及測(cè)度2個(gè)及以上變量之間的關(guān)系?！癫煌c(diǎn)：相關(guān)分析

①2個(gè)隨機(jī)變量及以上緊密程度。直線相關(guān)—相關(guān)系數(shù)曲線相關(guān)—相關(guān)指數(shù)多元相關(guān)—復(fù)相關(guān)系數(shù)②不分自變量與因變量?；貧w分析①幾個(gè)隨機(jī)變量與其它幾個(gè)普通變量之間的數(shù)量變動(dòng)關(guān)系。②需區(qū)分自變量與因變量?！裣嗷ヂ?lián)系——先相關(guān)分析，后回歸分析。

相關(guān)分析回歸分析可建模推算預(yù)測(cè)判斷關(guān)聯(lián)關(guān)系●相關(guān)分析是回歸分析的基礎(chǔ)；●序列相關(guān)并不一定能建立回歸模型；初級(jí)高級(jí)4.相關(guān)分析與回歸分析的作用●對(duì)數(shù)量關(guān)系的研究分析，深入認(rèn)識(shí)現(xiàn)象之間的相互依存關(guān)系?！裢ㄟ^對(duì)回歸模型，進(jìn)行預(yù)測(cè)和預(yù)報(bào)?！裼糜谘a(bǔ)充缺少的資料。5.回歸分析模型的種類●自變量多少：一元與多元●模型線性性：線性與非線性●含虛擬變量：普通回歸與虛擬變量回歸

（自變量為數(shù)量變量和品質(zhì)變量）●含滯后量：無自回歸、自回歸二.一元線性回歸預(yù)測(cè)模型●定義：

對(duì)兩個(gè)具有線性關(guān)系的變量，配合線性回歸模型，根據(jù)自變量的變動(dòng)來預(yù)測(cè)因變量的平均發(fā)展趨勢(shì)的方法，為一元線性回歸預(yù)測(cè)法。

主要內(nèi)容1.模型描述2.參數(shù)估計(jì)3.相關(guān)系數(shù)4.顯著性檢驗(yàn)5.預(yù)測(cè)及預(yù)測(cè)區(qū)間的確定6.算例1.模型描述xi:影響因素（可以控制或預(yù)先給定）；ε：各種隨機(jī)因素對(duì)y的影響的總和，服從正態(tài)分布，即ε~N(0,σ2)；yi：預(yù)測(cè)目標(biāo)，由于受隨機(jī)因素的影響，是一個(gè)以回歸直線上對(duì)應(yīng)值為中心的正態(tài)隨機(jī)變量，即y~N(a+bx,σ2)；自變量因變量——一元線性回歸模型總體方差——為一組觀察值(xi,yi)的散點(diǎn)狀態(tài)的估計(jì)式；2.OLS參數(shù)估計(jì)(OrdinaryLeastSquare)●基本思想：通過數(shù)學(xué)模型，配合一條較為理想的趨勢(shì)線,使得原序列的觀察值與估計(jì)值的離差平方和為最小；●推導(dǎo)3.相關(guān)系數(shù)——選擇主要因素作模型的自變量的依據(jù)●離差平方和的分解離差——在一元線性回歸模型中，觀察值yi的取值是上下波動(dòng)的，這種波動(dòng)現(xiàn)象，~。

原因——自變量變動(dòng)的影響，即x取值的不同；其它因素的影響（包括觀察和實(shí)踐中產(chǎn)生的誤差等）；

對(duì)1個(gè)觀察值，離差為

對(duì)n個(gè)觀察值，離差為

為0,證明（略）離差項(xiàng)的物理含義：Q1——由客觀和實(shí)驗(yàn)中產(chǎn)生誤差以及其它未加控制因素引起的（未解釋部分）。即：由那些未被考慮的隨機(jī)因素的影響產(chǎn)生的，且無法因回歸方程的建立而消失。Q2——由于選擇自變量x并建立線性回歸方程而產(chǎn)生的，可用回歸模型的建立加以說明（已解釋部分）●可決系數(shù)R2R2——在總的離差中，由自變量x變動(dòng)所引起的百分比。它是評(píng)價(jià)兩個(gè)變量之間線性相關(guān)關(guān)系強(qiáng)弱的一個(gè)重要指標(biāo)。0≤R2≤1●相關(guān)系數(shù)R：R——為可決系數(shù)的平方根，是一元線性方程中衡量兩個(gè)變量之間相關(guān)程度的重要指標(biāo)?！刹恍枰惹蟪龌貧w模型中的剩余離差來求，直接從樣本數(shù)據(jù)中計(jì)算得到，實(shí)際工作中帶來方便。若代入平均數(shù)，則R的計(jì)算變?yōu)椤e差法計(jì)算公式R的討論（-1≤R≤1）●R=0說明回歸離差為0，即自變量x的變動(dòng)對(duì)總離差毫無影響。零相關(guān)；●│R│=1說明回歸離差等于總離差，即總離差的變化完全由自變量變化所引起的。完全相關(guān)（退化成函數(shù)關(guān)系）●0<│R│<1說明自變量對(duì)x的變動(dòng)對(duì)總離差有部分影響。普通相關(guān)；R為正則正相關(guān)

R為負(fù)則負(fù)相關(guān)●│R│>0.7或R2>0.49

說明自變量對(duì)x的變動(dòng)對(duì)總離差的影響占一半以上。高度相關(guān);●│R│<0.3或R2<0.09

說明自變量對(duì)x的變動(dòng)對(duì)總離差的影響低于9%。低度相關(guān);

●0.3≤│R│<0.7

說明自變量對(duì)x的變動(dòng)對(duì)總離差的影響在9%~50%之間。中度相關(guān);

4.顯著性檢驗(yàn)●目的——檢查所建立的一元線性方程，是否符合變量之間的客觀規(guī)律性，兩變量之間是否具有顯著的線性相關(guān)關(guān)系？●方法——相關(guān)系數(shù)檢驗(yàn)法（適用于一元線性回歸方程）●問題描述——相關(guān)系數(shù)的絕對(duì)值大到什么程度時(shí)？才能認(rèn)為兩變量之間的相關(guān)關(guān)系是顯著的，回歸模型用來預(yù)測(cè)是有意義的?！駲z測(cè)標(biāo)準(zhǔn)——與觀測(cè)值的個(gè)數(shù)有關(guān)；（n)

——與不同樹枝的顯著性水平有關(guān)；(α)●步驟step1：計(jì)算R；Step2：由回歸模型的自由度（n-2）和給定的顯著性水平α,從相關(guān)系數(shù)表中查出臨界值Rα(n-2)；Step3：判斷。若│R│≥Rα(n-2)，說明兩變量之間線性相關(guān)關(guān)系顯著，檢驗(yàn)通過，回歸模型可用于預(yù)測(cè)；若│R│<Rα(n-2)，說明兩變量之間線性相關(guān)關(guān)系不顯著，檢驗(yàn)不通過，不能用于預(yù)測(cè)，需重新加以處理；5.預(yù)測(cè)值與預(yù)測(cè)區(qū)間●預(yù)測(cè)值——在一元線性回歸模型中，代入給定的自變量x0，可求的一個(gè)對(duì)應(yīng)的回歸預(yù)測(cè)值，有時(shí)稱之為點(diǎn)估計(jì)值；●預(yù)測(cè)區(qū)間——在一定的顯著性水平上，依據(jù)數(shù)理統(tǒng)計(jì)方法計(jì)算出包含預(yù)測(cè)未來真實(shí)值的某一區(qū)間范圍，~。，即：

或當(dāng)x≥30,5.算例

1）配合適當(dāng)?shù)哪Ｐ筒⑦M(jìn)行顯著性檢驗(yàn)；

2）取α=0.05,x0=249時(shí)的預(yù)測(cè)值與預(yù)測(cè)區(qū)間；

197819791980198119821983198419851986198719881989x20202635525681131149163232202y195210244264294314360432481567655704趨勢(shì)線解：(1)繪制散點(diǎn)圖；(2)建立一元線性回歸模型；(3)計(jì)算回歸系數(shù)(4)檢驗(yàn)相關(guān)系數(shù)的顯著性（5）預(yù)測(cè)計(jì)算估計(jì)標(biāo)準(zhǔn)誤差三.多元線性回歸預(yù)測(cè)模型

1.多元線性回歸模型2.多元線性回歸模型的檢驗(yàn)3.預(yù)測(cè)區(qū)間4.算例5.采用excel的求解1.多元線性回歸模型——多個(gè)影響因素的影響問題線性關(guān)系●OLS估計(jì)殘差所以求導(dǎo)矩陣求導(dǎo)，參看線性代數(shù)最小二乘法（1）R檢驗(yàn)

——通過復(fù)相關(guān)系數(shù)檢驗(yàn)一組自變量X1,X2,…,Xm變與因變量y之間的線性相關(guān)程度的方法，~。也稱復(fù)相關(guān)系數(shù)檢驗(yàn)法。2.多元線性回歸模型的檢驗(yàn)（R、F、t、DW)——表示一組自變量x1~xm的變動(dòng)所引起的百分比?？傠x差：——表示一組自變量x1~xm與因變量之間的線性相關(guān)程度。問題：它與一元線性回歸方程的R在形式上是相似的，但它們的含義有什么區(qū)別？R的簡潔計(jì)算公式——n=3——n=4R檢驗(yàn)步驟：Step1：計(jì)算復(fù)相關(guān)系數(shù)；Step2：根據(jù)回歸模型的自由度(n-m)和給定的顯著性水平α，查相關(guān)系數(shù)臨界值表Rα；Step3：判別；注意：Rα是一個(gè)隨自變量個(gè)數(shù)增加而遞增的增函數(shù)校正R2

——體現(xiàn)自變量個(gè)數(shù)的影響其中：(n-m)為剩余離差的自由度(n-1)為總離差的自由度●當(dāng)m>1，

●R2非負(fù)，但可能為負(fù)，當(dāng)為負(fù)時(shí)，取（2）F檢驗(yàn)——檢驗(yàn)一組自變量x1~xm與y之間回歸效果的顯著性。若檢驗(yàn)通過，表明β1,β2=,……βm≠0。其中：(m-1)為回歸離差的自由度(n-m)為剩余離差的自由度檢驗(yàn)方法：若：F>Fα(m-1),(n-m),說明x1~xm與y回歸顯著；F≤Fα(m-1),(n-m),說明回歸效果不顯著；不顯著的原因：

●說明回歸影響y的因素，除了一組自變量x1~xm變之外，還有其它不可忽略的因素；

●y與一組自變量x1~xm之間的關(guān)系，不是線性的；

●y與一組自變量x1~xm之間無關(guān)；對(duì)策——另選自變量或改變預(yù)測(cè)模型；

F與R2,R之間的關(guān)系(3).t檢驗(yàn)——與R檢驗(yàn)和F檢驗(yàn)不同，前者是將所有的自變量作為一個(gè)整體來檢驗(yàn)它們與y的相關(guān)程度以及回歸效果；t檢驗(yàn)則是對(duì)所求回歸模型的每一個(gè)系數(shù)逐一進(jìn)行檢驗(yàn)。

其中：：第j個(gè)自變量xj的回歸系數(shù)；：的樣本標(biāo)準(zhǔn)差；t檢驗(yàn)步驟：Step1：計(jì)算估計(jì)標(biāo)準(zhǔn)差;S的簡潔計(jì)算公式——n=3——n=4Step2：計(jì)算樣本標(biāo)準(zhǔn)差（Cjj為(x’x)-1主對(duì)角線上第j個(gè)元素）Step3：計(jì)算t統(tǒng)計(jì)量│tj│>tα/2(n-m)，（j=1~m）xj對(duì)y有顯著影響。│tj│≤tα/2(n-m)，xj對(duì)y無影響，應(yīng)刪除。(4).DW檢驗(yàn)——檢驗(yàn)序列相關(guān)對(duì)模型的影響；●什么是序列相關(guān)？——指數(shù)列前后期相關(guān)?？梢允桥c前一期相關(guān)，也可以是與以前若干期都相關(guān)；常見的為時(shí)差為一期的序列相關(guān)，稱之為一階自相關(guān)。

●對(duì)于序列相關(guān)，若采用最小平方法估計(jì)參數(shù)，將會(huì)產(chǎn)生嚴(yán)重的后果：1）估計(jì)標(biāo)準(zhǔn)差S可能嚴(yán)重低估σ的真實(shí)值；2）樣本方差可能嚴(yán)重低估D(βj)的真實(shí)值；3）估計(jì)回歸系數(shù)可能歪曲βj的真實(shí)值；4）通常的F檢驗(yàn)和t檢驗(yàn)將不再有效；5）根據(jù)最小平方法估計(jì)量所作的預(yù)測(cè)將無效。方差●DW檢驗(yàn)（Durbin-Waston準(zhǔn)則)——一階自相關(guān)展開式大樣本時(shí)(n>30)●DW檢驗(yàn)步驟Step1：利用最小平方法求回歸模型及殘差eiStep2：計(jì)算DW的值；Step3：根據(jù)給定的檢驗(yàn)水平及自變量的個(gè)數(shù)m,從Dw檢驗(yàn)表中差的相應(yīng)的臨界值DL、DU,從根據(jù)表得出檢驗(yàn)結(jié)論。DW檢驗(yàn)判別表與樣本的容量n和自變量的個(gè)數(shù)m有關(guān)n一定時(shí)，m愈大，無結(jié)論區(qū)愈大；m一定時(shí)，n愈大，無結(jié)論區(qū)愈??；注意：若DW的統(tǒng)計(jì)量落入無結(jié)論區(qū)，則不能做出回歸模型是否存在自相關(guān)現(xiàn)象的結(jié)論。DW檢驗(yàn)判別域？當(dāng)落入無結(jié)論區(qū)的解決辦法：●增加樣本；●調(diào)整樣本；●采用其它方法進(jìn)行自相關(guān)檢驗(yàn)；？產(chǎn)生自相關(guān)的原因●忽略某些重要的影響因素；

●錯(cuò)誤的選用了回歸模型的數(shù)學(xué)形式；

●隨機(jī)誤差項(xiàng)ε的確是相關(guān)的（如后效性）；？產(chǎn)生自相關(guān)時(shí)的補(bǔ)救辦法●把略去的重要影響因素一入到模型中；●重新選擇合適的回歸模型形式；●增大樣本容量，改變數(shù)據(jù)的準(zhǔn)確性；3.預(yù)測(cè)區(qū)間（1）估計(jì)標(biāo)準(zhǔn)誤差

（2）預(yù)測(cè)值預(yù)測(cè)誤差樣本方差（3）預(yù)測(cè)區(qū)間

（n<30）(n≥30)4.例題1）配合適當(dāng)?shù)哪Ｐ筒⑦M(jìn)行各種檢驗(yàn)；2）取α=0.05,求x2=67，x3=58時(shí)的預(yù)測(cè)值與預(yù)測(cè)區(qū)間；197819791980198119821983198419851986198