1、一元回歸模型一元回歸模型 現(xiàn)在，我們用一個(gè)一次方程來(lái)表示兩個(gè)數(shù)據(jù)X和Y之間的關(guān)系。 這個(gè)公式就是一元回歸模型。X是表示原因的變量，成為解釋變量或獨(dú)立變量；Y是表示結(jié)果的變量，稱(chēng)為被解釋變量或從屬變量。u是誤差項(xiàng)或擾亂項(xiàng)，它是Y的變化中不能完全由X的變化來(lái)解釋的部分，換句話(huà)說(shuō)，它表示的是Y（實(shí)際值）與+X（理論值）之間的偏差。 一般來(lái)說(shuō)，回歸分析是為了發(fā)現(xiàn)X作為原因，Y作為結(jié)果是兩者之間的因果關(guān)系，因此，X與Y之間的關(guān)系，理論上必須能夠成立。如果對(duì)沒(méi)有理論意義上的公式進(jìn)行推算，即使能夠得出良好的推算結(jié)論，也是沒(méi)有意義的分析，這一點(diǎn)必須充分注意。 回歸分析的主要目的是估計(jì)回歸系數(shù)、，最常用的辦法就

2、是最小二乘法（ordinary least squares method，OLS）。最小二乘法最小二乘法（OLS） 利用OLS來(lái)估計(jì)一元回歸模型，可以得到所謂的估計(jì)回歸線（最小二乘回歸線），即YX 稱(chēng)為的估計(jì)值（最小二乘估計(jì)值）。 讀作Y hat，如圖所示，它是與X實(shí)際值（觀測(cè)值）相對(duì)應(yīng)的估計(jì)回歸線上的Y值，稱(chēng)為Y的理論值（估計(jì)值、計(jì)算值、預(yù)測(cè)值等）。、YY Y（結(jié)果）（結(jié)果）X X（原因）（原因）Y Y1 1：觀測(cè)值觀測(cè)值1:Y理論值1 u :殘差2 u3 u4 u:YX估計(jì)回歸曲線122222OLSn=nxyx1XYn-11Xn-1XYXYXXXXYYXXXXYYXX 根據(jù)計(jì)算 、 的公式

3、如下：和 的協(xié)方差的方差222-=nnXYXXYXXYXYX 下面，就殘差為u，殘差=實(shí)際值-理論值 其次，計(jì)算殘差的2次方的總和，即殘差平方和（residual sum of squares,RSS）,得 尋找能夠使殘差平方和最小的 值，就是OLS的基本原理。為了求殘差平方和 關(guān)于 的最小值，需要將上式對(duì) 分別求偏導(dǎo)，并設(shè)其為零，即 u=YY YX22 u =YX、2 u 這個(gè)聯(lián)立方程稱(chēng)為正規(guī)方程。222 u20 u20n +YXX YXYXXYXX 將這兩個(gè)方程整理，得聯(lián)立方程例題例題3-1 利用下面的數(shù)據(jù)，對(duì)一元回歸模型Y=+X+u進(jìn)行最小二乘估計(jì)。解答解答 將數(shù)據(jù)帶入工作表中進(jìn)行計(jì)算，

4、得：22225515192679n5 19255 15135=0.3655 6795537001n51.01 0.365XYXYXXYXYXXYXYX 根據(jù)公式，因此，估計(jì)回歸線為又解又解 將數(shù)據(jù)帶入工作表進(jìn)行計(jì)算。225515113n5n5x=y=5515x0y0 xy27x74xy27=0.365x74273111.01741.01 0.365XYXYXXYYXYYXYX 其中: 同時(shí)：得： 根據(jù)公式因此，估計(jì)回歸線為決定系數(shù)決定系數(shù)（coefficient of determination） 是反映估計(jì)的回歸線對(duì)觀測(cè)的數(shù)據(jù)的解釋能力，或者說(shuō)是反映兩者擬合優(yōu)度的尺

5、度，是回歸分析不可缺少的統(tǒng)計(jì)量。我們將Y的實(shí)際值與平均值之差的平方和稱(chēng)作Y的全部變化，即2=YYY的全部變化另外將Y的理論值與平均值之差的平方和稱(chēng)作能夠由回歸解釋的變化（回歸平方和），即2=YY能夠由回歸解釋的變化 這樣，所謂決定系數(shù)R2反映的是Y的全部變化中，能夠由回歸來(lái)解釋的部分的比率，其定義如下：222222=1 u=1RYYYYYYYYYY 能夠由回歸解釋的變化（回歸平方和）的全部變化不能由回歸解釋的變化（殘差平方和）的全部變化 決定系數(shù)的計(jì)算公式可以采用下面三個(gè)公式中的任何一個(gè)。222222222222222=xyxynnnXXRYYXXYYXXYYXYXYXXYY 此外，決定系數(shù)與

6、相關(guān)系數(shù)之間有以下關(guān)系： 決定系數(shù)的取值范圍為：0R21 決定系數(shù)越接近于1，理論值與實(shí)際值越近似，說(shuō)明模型的解釋能力越強(qiáng)。例如，如果R2=90%，則模型具有90%的解釋力；如果R2=30%，則說(shuō)明模型只有30%的解釋力例題例題3-2 表3-3顯示了日本1994-2005年的12年間，實(shí)際國(guó)內(nèi)生產(chǎn)總值X與實(shí)際居民消費(fèi)支出Y的數(shù)據(jù)。（1）對(duì)下面的宏觀消費(fèi)函數(shù)進(jìn)行最小二乘估計(jì)；（2）計(jì)算決定系數(shù)R2，并考察估計(jì)出來(lái)的宏觀消費(fèi)函數(shù)的擬合優(yōu)度；（3）求理論值和殘差；（4）利用（1）中估算出來(lái)的宏觀消費(fèi)函數(shù)，當(dāng)實(shí)際國(guó)內(nèi)生產(chǎn)總值在510兆日元和570兆日元時(shí)，對(duì)實(shí)際居民消費(fèi)支出分別進(jìn)行預(yù)測(cè)。解答解答（1）

7、222225993340117007472997131965153n12340126771=0.5405812 2997131 599349523n15405.8XYXYXYXYXYXX 將數(shù)據(jù)代入工作表，得：根據(jù)公式這個(gè) 稱(chēng)作邊際消費(fèi)傾向，它的含義是如果實(shí)際國(guó)內(nèi)生產(chǎn)總值增加 兆日元，將會(huì)引起實(shí)際居民最終消費(fèi)支出增加億日元。其次267713401599349523=13.443n1213.4430.54058YXYX，根據(jù)公式因此，估計(jì)的日本宏觀消費(fèi)函數(shù)為解答解答（2） 222222222nnn12340112 2997131 599312

8、96515334017166864410.962574457830596.25%+XYXYRXXYYYX 根據(jù)公式：這就是說(shuō)，實(shí)際居民最終消費(fèi)支出 的變化中，有可以由模型來(lái)解釋。估計(jì)出來(lái)的宏觀消費(fèi)函數(shù)具有極高的擬合優(yōu)度。解答解答（3）13.443+0.540583-400YYXXuYYuuYYYYuYYYY關(guān)于理論值 ，可以在（1）中求出的下式中代入 的實(shí)際值求解。另外根據(jù)公式：求殘差表是理論值與殘差值的計(jì)算結(jié)果即過(guò)大估計(jì)即過(guò)小估計(jì)在回歸分析中，考慮過(guò)大估計(jì)、過(guò)小估計(jì)的發(fā)生原因，非常重要。解答解答（4）51013.4430.5405813.4430.54058 510289.1()57013.4430.5405813.4430.54058 570321.6()XYXXYX當(dāng)時(shí)兆日元當(dāng)時(shí)兆日元是在解釋變量X的實(shí)際取值范圍之內(nèi)（469兆日元X538兆日元）預(yù)測(cè)Y，稱(chēng)為內(nèi)插預(yù)測(cè)；是在解釋變量X的實(shí)際取值范圍之外預(yù)測(cè)Y，稱(chēng)為外插預(yù)測(cè)。非線性方程非線性方程（non-linear equation）的回歸分析的回歸分析 當(dāng)數(shù)據(jù)的分散情況在一定的較小的范圍時(shí)，被解