1 第四章 多重共線性 計(jì)量經(jīng)濟(jì)學(xué) 2 引子： 發(fā)展農(nóng)業(yè)和建筑業(yè)會(huì)減少財(cái)政收入嗎？ 為了分析各主要因素對(duì)財(cái)政收入的影響，建立財(cái)政收 入模型 : 其中 : 億元 ) ; 億元 ); 億元 ); 億元 ); 萬(wàn)人 ); 億元 ); 萬(wàn)公頃 ) 數(shù)據(jù)樣本時(shí)期 1978年 料來(lái)源： 中國(guó)統(tǒng)計(jì)年鑒2004 ，中國(guó)統(tǒng)計(jì)出版社 2004年版） 采用普通最小二乘法得到以下估計(jì)結(jié)果 O 65432103 農(nóng)業(yè)增加值 業(yè)增加值 筑業(yè)增加值 人口 終消費(fèi) 災(zāi)面積 距項(xiàng) of um 405699. og 政收入模型的 4 可決系數(shù)為 正的可決系數(shù)為 型擬合很好。模型對(duì)財(cái)政收入的解釋程度高達(dá) 明 t 檢驗(yàn)結(jié)果表明，除了工業(yè)增加值和總?cè)丝谝酝猓渌蛩貙?duì)財(cái)政收入的影響均不顯著。 農(nóng)業(yè)增加值和建筑業(yè)增加值的回歸系數(shù)是負(fù)數(shù)。 農(nóng)業(yè)和建筑業(yè)的發(fā)展反而會(huì)使財(cái)政收入減少嗎？ ! 這樣的異常結(jié)果顯然與理論分析和實(shí)踐經(jīng)驗(yàn)不相符。 若模型設(shè)定和數(shù)據(jù)真實(shí)性沒(méi)問(wèn)題，問(wèn)題出在哪里呢？ 模型估計(jì)與檢驗(yàn)結(jié)果分析 5 第四章 多重共線性 本章討論四個(gè)問(wèn)題： 什么是多重共線性 多重共線性產(chǎn)生的后果 多重共線性的檢驗(yàn) 多重共線性的補(bǔ)救措施 6 第一節(jié) 什么是多重共線性 本節(jié)基本內(nèi)容 : 多重共線性的含義 產(chǎn)生多重共線性的背景 7 在計(jì)量經(jīng)濟(jì)學(xué)中所謂的多重共線性 (不僅包括完全的多重共線性，還包括不完全的多重共線性。 對(duì)于解釋變量 ，如果存在不全為 0的 數(shù) ，使得 則稱解釋變量 之間存在著完全的多重 共線性。 23, ,. . . 1 2 2 3 3 . . . 0 1 , 2 , . . . , i i k k X i n 23, , , 重共線性的含義 8 當(dāng) 時(shí)，表明在數(shù)據(jù)矩陣 中，至少有一個(gè)列向量可以用其余的列向量線性表示，則說(shuō)明存在完全的多重共線性。 X()R a n k k完全的多重共線性 實(shí)際中，常見(jiàn)的情形是解釋變量之間存在不完全的多重共線性。 對(duì)于解釋變量 ， 存在不全為 0的數(shù) ， 使得 為隨機(jī)變量。這表明解釋變量 只是一種近似的線性關(guān)系 。 其中 ， 23, 2 3 3 . . . 0 1 , 2 , . . . , i i k k i X u i 解釋變量間毫無(wú)線性關(guān)系，變量間相互正交。這時(shí)已不需要作多元回歸，每個(gè)參數(shù) 對(duì) 的一元回歸來(lái)估計(jì)。 回歸模型中解釋變量的關(guān)系 可能表現(xiàn)為三種情形： (1) ，解釋變量間完全共線性。此時(shí)模型參數(shù)將無(wú)法確定。 ，解釋變量間存在一定程度的線性關(guān)系。實(shí)際中常遇到的情形。 (2) (3) 010111 二、產(chǎn)生多重共線性的背景 多重共線性產(chǎn)生的經(jīng)濟(jì)背景主要有幾種情形： 12 第二節(jié) 多重共線性產(chǎn)生的后果 本節(jié)基本內(nèi)容 : 完全多重共線性產(chǎn)生的后果 不完全多重共線性產(chǎn)生的后果 13 一、完全多重共線性產(chǎn)生的后果 當(dāng)解釋變量 完全線性相關(guān) 時(shí) 計(jì)式不確定 從偏回歸系數(shù)意義看：在 和 完全共線性時(shí)，無(wú)法保持 不變，去單獨(dú)考慮 對(duì) 的影響（ 和 的影響不可區(qū)分） 從 以證明此時(shí) 2X 32a r ( ) 、不完全多重共線性產(chǎn)生的后果 如果模型中存在不完全的多重共線性，可以得到參數(shù)的估計(jì)值，但是對(duì)計(jì)量經(jīng)濟(jì)分析可能會(huì)產(chǎn)生一系列的影響。 當(dāng) 增大時(shí) 也增大 222 2 2 2 22 2 3 2 2 311V a r ( ) = =( 1 - ) ( 1 - )x r x r23r2V a r ( )15 信區(qū)間趨于變大 對(duì)各個(gè)參數(shù)單獨(dú)的 t 檢驗(yàn)卻可能不顯著，甚至可能使估計(jì)的回歸系數(shù)符號(hào)相反，得出完全錯(cuò)誤的結(jié)論。 16 第三節(jié) 多重共線性的檢驗(yàn) 本節(jié)基本內(nèi)容： 簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法 方差擴(kuò)大（膨脹）因子法 直觀判斷法 逐步回歸法 17 一、簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法 含義： 簡(jiǎn)單相關(guān)系數(shù)檢驗(yàn)法是利用解釋變量之間的線性相關(guān)程度去判斷是否存在嚴(yán)重多重共線性的一種簡(jiǎn)便方法。 判斷規(guī)則： 一般而言，如果每?jī)蓚€(gè)解釋變量的簡(jiǎn)單相關(guān)系數(shù) (零階相關(guān)系數(shù) )比較高，例如大于 可認(rèn)為存在著較嚴(yán)重的多重共線性。 18 注意： 較高的簡(jiǎn)單相關(guān)系數(shù)只是多重共線性存在的充分條件，而不是必要條件。特別是在多于兩個(gè)解釋變量的回歸模型中，有時(shí)較低的簡(jiǎn)單相關(guān)系數(shù)也可能存在多重共線性。因此并不能簡(jiǎn)單地依據(jù)相關(guān)系數(shù)進(jìn)行多重共線性的準(zhǔn)確判斷。 19 二、方差擴(kuò)大（膨脹）因子法 統(tǒng)計(jì)上可以證明，解釋變量 的參數(shù)估計(jì)式 的方差可表示為 其中的 是變量 (即 的方差擴(kuò)大因子 其中 是多個(gè)解釋變量輔助回歸的可決系數(shù) 21V I F =1-j 21V a r ( ) = = V I j x R xV IF j 驗(yàn)規(guī)則 方差膨脹因子越大，表明解釋變量之間的多重共性越嚴(yán)重。反過(guò)來(lái)，方差膨脹因子越接近于 1，多重共線性越弱。 經(jīng)驗(yàn)表明，方差膨脹因子 10時(shí)，說(shuō)明解釋變量與其余解釋變量之間有嚴(yán)重的多重共線性，且這種多重共線性可能會(huì)過(guò)度地影響最小二乘估計(jì)。 21 三、直觀判斷法 1. 當(dāng)增加或剔除一個(gè)解釋變量，或者改變一個(gè)觀測(cè)值時(shí)，回歸參數(shù)的估計(jì)值發(fā)生較大變化，回歸方程可能存在嚴(yán)重的多重共線性。 2. 從定性分析認(rèn)為，一些重要的解釋變量的回歸系數(shù)的標(biāo)準(zhǔn)誤差較大，在回歸方程中沒(méi)有通過(guò)顯著性檢驗(yàn)時(shí)，可初步判斷可能存在嚴(yán)重的多重共線性。 22 3. 有些解釋變量的回歸系數(shù)所帶正負(fù)號(hào)與定性分析結(jié)果違背時(shí)，很可能存在多重共線性。 4. 解釋變量的相關(guān)矩陣中，自變量之間的相關(guān)系數(shù)較大時(shí)，可能會(huì)存在多重共線性問(wèn)題。 23 四、逐步回歸檢測(cè)法 逐步回歸的基本思想 將變量逐個(gè)的引入模型，每引入一個(gè)解釋變量后，都要進(jìn)行檢驗(yàn)，并對(duì)已經(jīng)選入的解釋變量逐個(gè)進(jìn)行t 檢驗(yàn)，當(dāng)原來(lái)引入的解釋變量由于后面解釋變量的引入而變得不再顯著時(shí)，則將其剔除。以確保每次引入新的變量之前回歸方程中只包含顯著的變量。 在逐步回歸中，高度相關(guān)的解釋變量，在引入時(shí)會(huì)被剔除。因而也是一種檢測(cè)多重共線性的有效方法。 24 第四節(jié) 多重共線性的補(bǔ)救措 施 本節(jié)基本內(nèi)容 : 修正多重共線性的經(jīng)驗(yàn)方法 逐步回歸法 25 一、修正多重共線性的經(jīng)驗(yàn)方法 1. 剔除變量法 把方差擴(kuò)大因子最大者所對(duì)應(yīng)的自變量首先 剔除再重新建立回歸方程，直至回歸方程中 不再存在嚴(yán)重的多重共線性。 注意 : 若剔除了重要變量，可能引起模型的設(shè) 定誤差。 26 2. 增大樣本容量 如果樣本容量增加，會(huì)減小回歸參數(shù)的方差， 標(biāo)準(zhǔn)誤差也同樣會(huì)減小。因此盡可能地收集足 夠多的樣本數(shù)據(jù)可以改進(jìn)模型參數(shù)的估計(jì)。 問(wèn)題： 增加樣本數(shù)據(jù)在實(shí)際計(jì)量分析中常面臨 許多困難。 27 3. 變換模型形式 一般而言，差分后變量之間的相關(guān)性要比差分 前弱得多，所以差分后的模型可能降低出現(xiàn)共 線性的可能性，此時(shí)可直接估計(jì)差分方程。 問(wèn)題： 差分會(huì)丟失一些信息，差分模型的誤差 項(xiàng)可能存在序列相關(guān)，可能會(huì)違背經(jīng)典線性回 歸模型的相關(guān)假設(shè)，在具體運(yùn)用時(shí)要慎重。 28 4. 利用非樣本先驗(yàn)信息 通過(guò)經(jīng)濟(jì)理論分析能夠得到某些參數(shù)之間的關(guān) 系，可以將這種關(guān)系作為約束條件，將此約束 條件和樣本信息結(jié)合起來(lái)進(jìn)行約束最小二乘估 計(jì)。 29 5. 橫截面數(shù)據(jù)與時(shí)序數(shù)據(jù)并用 首先利用橫截面數(shù)據(jù)估計(jì)出部分參數(shù)，再利用 時(shí)序數(shù)據(jù)估計(jì)出另外的部分參數(shù)，最后得到整 個(gè)方程參數(shù)的估計(jì)。 注意： 這里包含著假設(shè)，即參數(shù)的橫截面估計(jì)和 從純粹時(shí)間序列分析中得到的估計(jì)是一樣的。 30 6. 變量變換 變量變換的主要方法： (1)計(jì)算相對(duì)指標(biāo) (2)將名義數(shù)據(jù)轉(zhuǎn)換為實(shí)際數(shù)據(jù) (3)將小類指標(biāo)合并成大類指標(biāo) 變量數(shù)據(jù)的變換有時(shí)可得到較好的結(jié)果，但無(wú) 法保證一定可以得到很好的結(jié)果。 31 二、逐步回歸法 （ 1）用被解釋變量對(duì)每一個(gè)所考慮的解釋變量做簡(jiǎn)單回歸。 （ 2）以對(duì)被解釋變量貢獻(xiàn)最大的解釋變量所對(duì)應(yīng)的回歸方程為基礎(chǔ)，按對(duì)被解釋變量貢獻(xiàn)大小的順序逐個(gè)引入其余的解釋變量。 若新變量的引入改進(jìn)了 和 檢驗(yàn)，且回歸參 數(shù)的 t 檢驗(yàn)在統(tǒng)計(jì)上也是顯著的，則在模型中保 留該變量。 新變量的引入未能改進(jìn) 和 檢驗(yàn)，且對(duì)其他回 歸參數(shù)估計(jì)值的 t 檢驗(yàn)也未帶來(lái)什么影響，則認(rèn)為該 變量是多余變量。 若新變量的引入未能改進(jìn) 和 檢驗(yàn)，且顯著地影 響了其他回歸參數(shù)估計(jì)值的數(shù)值或符號(hào)，同時(shí)本身的 回歸參數(shù)也通不過(guò) t 檢驗(yàn)，說(shuō)明出現(xiàn)了嚴(yán)重的多重共 線性。 2R 五節(jié) 案例分析 一、研究的目的要求 提出研究的問(wèn)題 為了規(guī)劃中國(guó)未來(lái)國(guó)內(nèi)旅游產(chǎn)業(yè) 的發(fā)展，需要定量地分析影響中國(guó)國(guó)內(nèi)旅游市場(chǎng)發(fā)展 的主要因素。 二、模型設(shè)定及其估計(jì) 影響因素分析與確定 影響因素主要有國(guó)內(nèi)旅游 人數(shù) ，城鎮(zhèn)居民人均旅游支出 ，農(nóng)村居民人 均 旅游支出 ，并以公路里程次 和鐵路里程 作為相關(guān)基礎(chǔ)設(shè)施的代表 理論模型的設(shè)定 其中 ： 第 t 年全國(guó)國(guó)內(nèi)旅游收入 2 3 4 5 61 2 3 4 5 6t t t t t t X X X X u 2據(jù)的收集與處理 年 份 國(guó)內(nèi)旅游收入 Y（億元） 國(guó)內(nèi)旅游人數(shù) 人次） 城鎮(zhèn)居民人均旅游支出 元） 農(nóng)村居民人均旅游支出元） 公路里 程 公里） 鐵路里 程 公里） 1994 2400 995 2900 996 3900 997 4400 998 9450 999 1900 000 4400 001 8400 002 7800 003 7000 據(jù)來(lái)源 : 中國(guó)統(tǒng)計(jì)年鑒 2004 35 該模型 ， 可決系數(shù)很高， 顯顯著。 但是當(dāng) 時(shí) 、 不僅 、 系數(shù)的 且 系數(shù)的符號(hào)與預(yù)期的相反，這表明很可能存在嚴(yán)重的多重共線性。 6 . 9 9 5 4R 2 0 . 0 2 5( ) (1 0 6 ) 2 . 7 7 6t n k t 6 . 9 8 9 7R 0 估計(jì)的結(jié)果 36 計(jì)算各解釋變量的相關(guān)系數(shù) 表明各解釋變量間確實(shí)存在嚴(yán)重的多重共線性 37 三、消除多重共線性 采用逐步回歸法檢驗(yàn)和解決多重供線性問(wèn)題。 分別作 Y 對(duì) 變量 3 5 數(shù)估計(jì)值 t 統(tǒng)計(jì)量 大小排序?yàn)椋?以 次加入其他變量逐步回歸，過(guò)程從略 （見(jiàn)教材） 2后消除多重共線性的結(jié)果 這說(shuō)明，在其他因素不變的情況下，當(dāng)城鎮(zhèn)居民人均旅游支出 和農(nóng)村居民人均旅游支出 分別增長(zhǎng) 1元時(shí)，國(guó)內(nèi)旅游收入 將分別增長(zhǎng) 元。在其他因素不變的情況下， 作為旅游設(shè)施的代表，公路里程 每增加 1萬(wàn)公里時(shí) , 國(guó)內(nèi)旅游 收入 將增長(zhǎng) 四、回歸結(jié)果的解釋與分析 3 5 4 2 4 4 2 . 3 8 6 4 . 2 1 9 6 1 3 . 6 2 7 9 3 . 2 1 6 0 X X （ ( ( （ F= . 9 8 7 1 8R 2 0 . 9 9 1 5R 4四章 小結(jié) 準(zhǔn)確的線性關(guān)系。 如果各個(gè)解釋變量之間有完全的共線性，則它們的 回歸系數(shù)是不確定的，并且它們的方差會(huì)無(wú)窮大。 如果共線性是高度的但不完全的，回歸系數(shù)可估計(jì)， 但有較大的標(biāo)準(zhǔn)誤差?；貧w系數(shù)不能準(zhǔn)確地估計(jì)。 (1) 表現(xiàn)為可決系數(shù)異常高而回歸系數(shù)的 t 檢驗(yàn)不顯著。 (2) 變量之間的