1、第四章多元回歸：估計和假設檢驗(共14小節(jié))4.1三變量線性回歸模型4.2多元線性回歸模型的幾個假設4.3多元回歸參數(shù)的估計4.4多元回歸擬合優(yōu)度的估計：多元判斷系數(shù)R2 4.5古董鐘拍賣價格示例4.6多元回歸假設檢驗， 4.7偏回歸系數(shù)的假設檢驗4.8聯(lián)合假設檢驗4.9從多元回歸模型到二元模型：規(guī)格誤差4.10兩個不同R2的比較：修正決策系數(shù)4.11何時添加新的解釋變量4.12限制最小二乘4.13一些例子4.14摘要，本章討論多元回歸模型，以探索以下問題的答案。 (2)多元回歸有一些在二元模型中從未遇到過的獨特特征嗎？(3)如何估計多元回歸模型？多元回歸模型和二元模型有什么區(qū)別？(4)由于多

2、元回歸模型可以包含任意數(shù)量的變量，我們?nèi)绾未_定特定情況下解釋變量的數(shù)量？概述，4.1三變量線性回歸模型，無隨機項的三變量總體回歸模型： (4-1)其隨機形式為： (4-2) (4-3)，其中B1為截距，B2和B3稱為偏回歸系數(shù)。多元模型的隨機形式(公式(4-2)表明，任何y值都可以表示為兩部分之和： (1)系統(tǒng)分量或行列式(2)非系統(tǒng)分量，以及偏回歸系數(shù)的含義。B2和B3被稱為偏回歸系數(shù)，它們的含義如下：B2測量當X3保持不變時，X2每單位變化y的平均值的變化。同樣，當X2保持不變時，B3測量了X3每單位變化的平均值Y的變化。讓我們假設有以下總體回歸函數(shù)：(4-4)、(4-5)、(4-6)。如

3、果X2=5，取，讓X3取值為10，取，并對模型做以下假設：假設4.1回歸模型是參數(shù)線性的，并且設置正確。假設4.2 X2和X3與隨機擾動項u無關(guān)；假設4.3零均值假設：E(ui)=0 (4-7)假設4.4零差假設：Var(ui)=(4-8)假設4.5無自相關(guān)假設：Cov(ui，uj)=0 ij (4-9)假設4.6解釋變量之間無線性相關(guān)性；假設4.7假設隨機項誤差服從正態(tài)分布，具有零均值和(相同的)方差：(4-10)，4.2多元線性回歸的假設，假設4.6表明解釋變量X2和X3之間沒有完全的線性關(guān)系，這被稱為非共線性或非多重共線性。共線性：例如，一個變量可以表示為另一個變量的線性函數(shù)，或者我們要

4、求解釋變量之間不存在共線性，因為如果解釋變量之間存在共線性，模型可以簡化，變量可以重組，偏回歸系數(shù)的值不能估計，也就是說，對應于變量y的解釋變量的影響不能估計。在實踐中，完全共線性的情況很少，但是高度的完全共線性仍然存在?，F(xiàn)在我們只考慮不存在完全共線性的模型。如果X2=4X3被代入公式(4-1)，則有： e(yi)=B1 B2(4x 3i)B3 x3i=B1(4b 2 B3)x3i(4-11)=B1 ax3i，其中A=4B2 B3 (4-12)4.3多元回歸參數(shù)的估計，樣本回歸模型對應于總體回歸模型(4-2)，(4-13)樣本回歸方程： (4-14)根據(jù)OLS原理，(4-13)改寫如下：(4-

5、15)兩個平方再次求和，(4-16)根據(jù)一般最小二乘原理，4.3.1普通最小二乘估計，(4-17)(4-18)(4-19)OLS估計的表達式如下： (4-20) (4(4-27) (4-28) (4-29) (4-30) (4-31)，一般來說，如果模型中有k個解釋變量(包括截距)或k個待估計的參數(shù)，則有：4.3.3多元回歸中OLS估計量的性質(zhì)。對于多元回歸模型，這一結(jié)論仍然有效。4.4估計多元回歸的擬合優(yōu)度：多元判斷系數(shù)r2。在雙變量模型中，R2被用來測量擬合樣本回歸線的擬合優(yōu)度，即單個解釋變量X對應于變量Y的變化的解釋程度。在三變量模型中，我們還應該研究擬合樣本回歸線的擬合優(yōu)度。此時，擬合

6、優(yōu)度表示對應于兩個變量X2和X3的變量Y的變化的解釋程度。帶有R2符號。讓我們看看R2。在三變量模型中，還有： TSS=總偏差平方和，essrss=回歸平方和，殘差平方和，(4-35)，(4-36)，(4-34)，(4-33)，多元判斷系數(shù)，多元相關(guān)系數(shù)，4.5古董鐘拍賣價格，現(xiàn)在y=回歸結(jié)果如下：注意回歸結(jié)果的解釋。(見Eviews文件)，顯著性檢驗，4.6多元回歸的假設檢驗，我們知道在二元模型中，如果誤差項U服從正態(tài)分布，則OLS估計量都服從正態(tài)分布。在多元線性回歸模型中，可以證明上述結(jié)論仍然有效?，F(xiàn)在，我們想檢驗時鐘年齡對拍賣價格沒有顯著影響的假設，也就是檢驗零假設：H0: B2=0。可

7、以使用以下結(jié)論：(4-38) (4-39) (4-40)。接下來，我們用古董鐘拍賣價格的例子來說明。其理論推導與二元模型相同。此時請注意自由度。如果隨機擾動項的方差未知，用其估計值代替。有：4.7偏回歸系數(shù)假設檢驗，古董鐘拍賣價格回歸結(jié)果假設檢驗，并做如下假設：計算為：可用置信區(qū)間法或顯著性檢驗法檢驗。4.7.1顯著性檢驗，我們使用t顯著性檢驗。假設=0.05，此時的自由度為29(n=32)，并且通過查找T分布表獲得的T的臨界值為： (4-43)，并且計算的T值為13.965，其落入拒絕域?？梢缘贸鼋Y(jié)論，鐘齡3360對拍賣價格有重大影響。注：1.p值2。單邊或雙邊檢驗，注意鐘齡系數(shù)。零假設和替

8、代假設建立如下：在顯著水平為5%時，單側(cè)T檢驗的臨界值為1.699，回歸結(jié)果中的T值為13.965，屬于拒絕域。我們可以認為時鐘時代對拍賣價格有顯著的積極影響。4.7.2置信區(qū)間法，從： (4-43)和：中得到：B2的置信區(qū)間為：在5%顯著性水平，我們將得到與顯著性檢驗方法相同的結(jié)論。4.8、聯(lián)合假設檢驗(方程的顯著性檢驗)，本節(jié)檢驗回歸分析中常用的另一個假設檢驗F檢驗。這一部分要研究的問題如下：1 .你為什么要做F測試？2.如何做f檢驗？3.如何在輸出結(jié)果中檢驗f檢驗？從以前的回歸結(jié)果和T檢驗可以看出，偏回歸系數(shù)B2和B3在統(tǒng)計上是顯著的?，F(xiàn)在考慮以下聯(lián)合假設：H0: B2=B3=0 (4-

9、46)相當于零假設H0: R2=0 (4-47)。這一假設表明，兩個解釋變量對變量Y沒有共同影響，這是對估計的總體回歸線的顯著性檢驗。雖然上面討論的T檢驗對于檢驗單個回歸系數(shù)的統(tǒng)計顯著性是有效的，但是對于聯(lián)合假設是無效的。我們需要找到另一種測試方法。方差分析、方差分析、方差分析、方差分析、方差分析、方差分析、方差分析、方差分析、方差分析、方差分析、方差分析、方差分析、方差分析、方差分析。對TSS各組成部分的研究稱為方差分析。平方和及相應的自由度如下(三個變量):表4-1三變量回歸模型的方差分析表，零假設：H0: B2=B3=0，這可以證明變量：(4-49)，一般來說，如果回歸模型中有K個解釋變

10、量(包括截距)，如果分子大于分母，則有，即這是f檢驗。通用方差分析表如下：見Excel軟件的輸出結(jié)果。表4-2時鐘拍賣價格實例的方差分析，F(xiàn)與R2的重要關(guān)系：(4-50)，當R2=0，F(xiàn)=0，當R2=1，F(xiàn)的值是無限的。表4-3方差分析表以R2形式表示，在這個例子中：(4-51)，4.9從多元回歸模型到二元模型：的規(guī)格誤差，對于古董鐘拍賣價格的例子，我們比較以下三個結(jié)果：(1)不同的斜率系數(shù)。(2)截距變化很大。(3)T值、R2值和F值相差很大。(4)從三變量回歸模型中忽略一個重要變量將導致規(guī)格誤差或設定偏差。4.10兩種不同的R2 :修正判斷系數(shù)的比較，本節(jié)將討論修正判斷系數(shù)，本節(jié)要審查的問

11、題是：1 .為什么我們要檢查修正的判斷系數(shù)？原始判斷系數(shù)的缺點是什么？2.修正后的判斷系數(shù)與原始判斷系數(shù)之間是什么關(guān)系？3.修正判斷系數(shù)的性質(zhì)是什么？修正后的判斷系數(shù)R2定義如下：(4-54)性質(zhì)：(1)如果k1，則。(2)盡管未校正的判斷系數(shù)R2總是正的，但是校正的判斷系數(shù)可以是負的。例如，如果回歸模型中k=3，n=30，R2=0.06，則為-0.0096。在古董鐘的拍賣價格的一個例子中，校正的判斷系數(shù)是0.8830，其略小于未校正的判斷系數(shù)0.8906。4.11、當增加新的解釋變量時，根據(jù)經(jīng)濟理論選擇合適的解釋變量作為候選變量，將候選變量代入模型進行估計，如果修正后的判斷系數(shù)值增加，則增加

12、解釋變量。如在上面的例子中，在添加了X3之后，校正判斷系數(shù)變得更大，這表明應該增加該解釋變量。例如：以古董鐘拍賣價格為例，分別對拍賣價格進行了常數(shù)項、常數(shù)項與X2、常數(shù)項與X3、常數(shù)項與X2、X3的回歸，并對擬合結(jié)果進行了比較。(見Eviews文件)，4.12限制最小二乘法，在前面的古董鐘拍賣價格的例子中，我們分別擬合了四個回歸模型。前三個模型稱為受限模型，第四個模型稱為非受限模型，因為它包含所有相關(guān)變量，并且對模型參數(shù)沒有限制。受限模型的OLS估計稱為RLS(受限最小二乘)，而非受限模型的OLS估計稱為URLS(非受限最小二乘)。問題：如何判斷強加在模型上的約束是否有效？如何在實際應用中操作

13、？約束有效性檢驗：可以證明：約束數(shù)，無限制模型R2，限制模型R2，檢驗零假設：限制模型的約束是有效的。如果計算的f值在接受范圍內(nèi)，則選擇受限模型，否則，選擇非受限模型。對于古董鐘的拍賣價格，在使用Eviews軟件進行操作時有三種選擇：(1)估計不受限制的模型，在模型的輸出結(jié)果中選擇查看/系數(shù)測試/沃爾德系數(shù)約束，在對話框中輸入約束c(2)=c(3)=0(2)估計不受限制的模型，從模型的輸出結(jié)果中選擇查看/系數(shù)測試/冗余變量似然比，在對話框中輸入待測變量的名稱(X2X3)，從而得到F的值(3)估計受限模型，從模型輸出結(jié)果中選擇查看/系數(shù)測試/省略變量似然比，在對話框中輸入待測變量(X2X3)的名

14、稱，得到F統(tǒng)計值和相應的P值。(見Eviews文件)，例4.1稅收政策會影響公司的資本結(jié)構(gòu)嗎？Pozdena估計了以下回歸方程：其中Y=杠桿利率(=債務/產(chǎn)權(quán))X2=公司稅率x3=個人稅率X4=資本所得稅X5=非債務避稅X6=通貨膨脹率，4.13幾個例子，回歸結(jié)果如下：說明性變量公司稅率個人稅率資本所得稅非債務避稅通貨膨脹率系數(shù)2.4 -1.2 0.3 -2.4 1.4對應于T值10.5-4.8 1.3-4.8 3.0N=0.5-4.8 調(diào)整后的R2=0.85，對回歸結(jié)果的討論：(1)所有系數(shù)的符號與經(jīng)濟理論的預期一致。 (2)t檢驗表明資本所得稅對Y的影響不顯著，其他解釋變量對Y有顯著影響。(3)根據(jù)R2值，可以計算出F值為56.22，大于臨界值。為了解釋牙買加的進口需求，根據(jù)19年的數(shù)據(jù)，加法爾得出了以下回歸結(jié)果：其中：Y=進口量；X2=個人消費支出；X3=進口價格/國內(nèi)價格。(1)經(jīng)濟理論表明，Y與X2正相關(guān)，Y與X3負相關(guān)，這與回歸結(jié)果一致。(2)系數(shù)2)X2在統(tǒng)計上是顯著的，但X3不是。(3)R2更高。X2和X3可以解釋牙買加進口額96%的變化。為了解釋英國對酒精飲料的需求，麥克吉尼斯根據(jù)20年的年度數(shù)據(jù)得出如下回歸