第二講回歸分析一元線性回歸模型多元線性回歸模型非線性回歸模型1引例：消費支出與可支配收入的觀測值一、一元線性回歸模型2一、一元線性回歸模型

定義：假設(shè)有兩個變量x和y，x為自變量，y為因變量。則一元線性回歸模型的基本結(jié)構(gòu)形式為式中：a和b為待定參數(shù)；為各組觀測數(shù)據(jù)的下標(biāo)；為隨機變量。（2.1）

3

記和分別為參數(shù)a與b的擬合值，則一元線性回歸模型為

（2.2）式代表x與y之間相關(guān)關(guān)系的擬合直線，稱為回歸直線；是y的估計值，亦稱回歸值。（2.2）

4一般情況下的總體回歸模型假定條件下的總體回歸模型5真實的總體回歸直線與估計的樣本回歸直線6樣本回歸直線是對總體回歸直線的近似反映。回歸分析的主要任務(wù)就是要采用適當(dāng)?shù)姆椒?，充分利用樣本所提供的信息，使得樣本回歸函數(shù)盡可能地接近于真實的總體回歸函數(shù)。所估計的樣本回歸直線都不可能與真實的總體回歸直線完全一致。7觀測值的散點圖及其擬合直線8①

參數(shù)a與b的最小二乘擬合原則要求yi與的誤差ei的平方和達到最小，即②根據(jù)取極值的必要條件，有

（2.4）

（一）參數(shù)a、b的最小二乘估計

（2.3）

9（2.5）

③

解上述正規(guī)方程組（2.4）式，得到參數(shù)a與b的擬合值10一元線性回歸模型檢驗的種類（二）一元線性回歸模型的顯著性檢驗實際意義檢驗參數(shù)估計值的符號和取值范圍消費支出與可支配收入：如果估計出來的b小于0或大于1，收入支出統(tǒng)計檢驗檢驗樣本回歸方程的可靠性擬合程度檢驗；相關(guān)系數(shù)檢驗；參數(shù)顯著性檢驗(t檢驗)；回歸方程顯著性檢驗（F檢驗）計量檢驗假定條件是否滿足序列相關(guān)檢驗異方差性檢驗111擬合優(yōu)度檢驗所謂擬合程度，是指樣本觀測值聚集在樣本回歸直線周圍的緊密程度。判斷回歸模型擬合程度優(yōu)劣最常用的數(shù)量指標(biāo)是判定系數(shù)（CoefficientofDetermination）12總的離差平方和：在回歸分析中，表示y的n次觀測值之間的差異，記為

可以證明（2.9）（2.8）13Q稱為誤差平方和，或剩余平方和U回歸平方和

顯而易見，各個樣本觀測點與樣本回歸直線靠得越緊，U在S中所占的比例就越大。因此，可定義這一比例為判定系數(shù)，即有：14性質(zhì)：1、具有非負性，分子分母均是不可能為負值2、判定系數(shù)的取值范圍為3、判定系數(shù)是樣本觀測值的函數(shù)，它也是一個統(tǒng)計量。152相關(guān)系數(shù)的顯著性檢驗X和Y之間真實的線性相關(guān)程度用總體相關(guān)系數(shù)ρ來表示由于總體未知，ρ無法計算，我們利用相本相關(guān)系數(shù)（1）計算樣本相關(guān)系數(shù)r；（2）根據(jù)給定的顯著性水平α和樣本容量n，查相關(guān)系數(shù)表得到臨界值r。（3）若|r|大于臨界值

，則X與Y有顯著的線性關(guān)系，否則X與Y的線性相關(guān)關(guān)系不顯著。163回歸參數(shù)的顯著性檢驗（t檢驗）根據(jù)樣本估計的結(jié)果對總體回歸參數(shù)的有關(guān)假設(shè)進行檢驗3、根據(jù)給定的顯著水平α確定臨界值，或者計算t值所對應(yīng)的p值。4、做出判斷。17①方法：F檢驗法。②總的離差平方和：在回歸分析中，表示y的n次觀測值之間的差異，記為

可以證明（2.9）（2.8）4回歸方程的顯著性檢驗18

③

統(tǒng)計量F

④

F越大，模型的效果越佳。統(tǒng)計量F～F（1，n-2）。在顯著水平α下，若F>Fα，則認為回歸方程效果在此水平下顯著。一般地，當(dāng)F<F0.10(1,n-2)時，則認為方程效果不明顯。（2.10）192021222324二、多元線性回歸模型1多元線性回歸模型的結(jié)構(gòu)形式為

（2.11）

式中：為待定參數(shù)；為隨機變量。2526272多元線性回歸模型的基本假定28如果分別為的擬和值，則回歸方程為

b0為常數(shù)，b1,b2,…bk稱為偏回歸系數(shù)。偏回歸系數(shù)的意義是，當(dāng)其他自變量都固定時，自變量每變化一個單位而使因變量平均改變的數(shù)值。（2.12）

3回歸方程的估計:29偏回歸系數(shù)的推導(dǎo)過程:根據(jù)最小二乘法原理，的估計值應(yīng)該使

由求極值的必要條件得

方程組（3.2.14）式經(jīng)展開整理后得（.2.13）

（.2.14）

30

方程組（2.15）式稱為正規(guī)方程組。引入矩陣

（.2.15)

3132

則正規(guī)方程組（2.15）式可以進一步寫成矩陣形式33求解得引入記號（2.16）

34正規(guī)方程組也可以寫成35回歸模型的顯著性檢驗

①

回歸平方和U與剩余平方和Q：②回歸平方和③剩余平方和為④

F統(tǒng)計量為計算出來F之后，可以查F分布表對模型進行顯著性檢驗。363738R=0.950，說明Y與自變量X1、X2之間的相關(guān)程度為95.0%。樣本判定系數(shù)0.902說明Y的變動有90.2%可以由自變量X1和X2解釋。394041三、非線性回歸模型

非線性關(guān)系線性化的幾種情況對于指數(shù)曲線，令,可以將其轉(zhuǎn)化為直線形式：，其中，；

對于對數(shù)曲線，令，，可以將其轉(zhuǎn)化為直線形式：；對于冪函數(shù)曲線，令，，可以將其轉(zhuǎn)化為直線形式：其中，；42對于雙曲線，令，轉(zhuǎn)化為直線形式：；對于S型曲線，可轉(zhuǎn)化為直線形式：；對于冪乘積，只要令，就可以將其轉(zhuǎn)化為線性形式其中，；43對于對數(shù)函數(shù)和只要令，就可以將其化為線性形式

例:表3.2.1給出了某地區(qū)林地景觀斑塊面積（area）與周長（perimeter）的數(shù)據(jù)。下面我們建立林地景觀斑塊面積A與周長P之間的非線性回歸模型。44

序號面積A周長P序號面積A周長P110447.370625.39242232844.3004282.043215974.730612.286434054.660289.307330976.770775.7124430833.840895.98049442.902530.202451823.355205.131510858.9201906.1034626270.300968.060621532.9101297.9624713573.9601045.07276891.680417.0584865590.0802250.43583695.195243.90749157270.4002407.54992260.180197.239502086.426266.54110334.33299.729513109.070261.8181111749.080558.921522038.617320.396122372.105199.667533432.137253.335138390.633592.893541600.391230.030146003.719459.467553867.586419.406表3.2.1某地區(qū)各個林地景觀斑塊面積（m2）與周長（m）

4515527620.2006545.291561946.184198.66116179686.2002960.4755777.30556.9021714196.460597.993587977.719715.7521822809.1801103.0705919271.8201011.1271971195.9401154.118608263.480680.710203064.242245.0496114697.1301234.11421469416.7008226.009624519.867326.317225738.953498.6566313157.6601172.916238359.465415.151646617.270609.801246205.016414.790654064.137437.3552560619.0201549.871665645.820432.3552614517.740791.943676993.355503.7842731020.1001700.965684304.281267.9512826447.1601246.977696336.383347.136297985.926918.312702651.414292.23546303638.766399.725712656.824298.47331585425.10011474.770721846.988179.8663235220.6401877.476731616.684172.8083310067.820497.394741730.563172.1433427422.5701934.5967511303.970881.0423543071.5501171.4137614019.790638.1763657585.9402275.389779277.172862.0883728254.1301322.7957813684.750712.78738497261.0009581.298791949.164228.4033924255.030994.906804846.016324.481401837.699229.40181521457.4007393.938411608.625225.84282564370.80012212.41047

解:（1）作變量替換，令：，，將表3.2.1中的原始數(shù)據(jù)進行對數(shù)變換，變換后得到的各新變量對應(yīng)的觀測數(shù)據(jù)如表3.2.2所示。

序號y=lnAx=LnP序號y=lnAx=LnP19.2541066.4383794212.358138.36218629.6787636.4172438.3076225.667487310.340996.6537824410.336376.79791849.1530196.273258457.5084335.3236559.2927427.5528164610.176196.87529469.9773387.168551479.5159096.95184178.838076.0332264811.091187.71887988.2147895.4967894911.965727.78636497.72325.284414507.6432085.585528105.8121354.602457518.0420795.567651119.371536.326008527.6200275.769558表3.2.2經(jīng)對數(shù)變換后的數(shù)據(jù)48127.7715335.296653538.1409385.534711139.0348716.385013547.3780035.438211148.7001346.130066558.2603866.0388391513.176138.786501567.5736265.2915971612.098977.993105574.3477554.041328179.5607486.393579588.9844086.5733341810.034927.005852599.8663996.9188211911.173197.051092609.0196016.523136208.0275565.501457619.5954087.1181092113.059259.015056628.4162385.787871228.6550326.211917639.4847597.067248239.031156.028643648.7974386.413133248.7331136.027773658.3099576.0807442511.012367.345927668.6386716.069247269.5831276.67449678.8527166.222147492710.342397.438951688.3673655.5908062810.18297.128478698.7540635.849717298.9854366.822537707.8828485.67756308.19945.990776717.8848875.6986783113.280099.347906727.521311