1、實用標(biāo)準(zhǔn)文案多重共線性問題的幾種解決方法在多元線性回歸模型經(jīng)典假設(shè)中，其重要假定之一是回歸模型的解釋變量之間不存在線性關(guān)系，也就是說，解釋變量Xi,X2,，Xk中的任何一個都不能是其他解釋變量的線性組合。如果違背這一假定，即線性回歸模型中某一個解釋變量與其他解釋變量間存在線性關(guān)系，就稱線性回歸模型中存在多重共線性。多重共線性違背了解釋變量問不相關(guān)的古典假設(shè)，將給普通最小二乘法帶來嚴(yán)重后果。這里，我們總結(jié)了8個處理多重共線性問題的可用方法，大家在遇到多重共線性問題時可作參考：1、保留重要解釋變量，去掉次要或可替代解釋變量2、用相對數(shù)變量替代絕對數(shù)變量3、差分法4、逐步回歸分析5、主成份分析6、偏

2、最小二乘回歸7、嶺回歸8、增加樣本容量精彩文檔實用標(biāo)準(zhǔn)文案這次我們主要研究逐步回歸分析方法是如何處理多重共線性問題的。逐步回歸分析方法的基本思想是通過相關(guān)系數(shù)r、擬合優(yōu)度R2和標(biāo)準(zhǔn)誤差三個方面綜合判斷一系列回歸方程的優(yōu)劣，從而得到最優(yōu)回歸方程。具體方法分為兩步：第一步，先將被解釋變量y對每個解釋變量工。工獷，4作簡單回歸：y=八兀1)y=/(x2)y=了對每一個回歸方程進(jìn)行統(tǒng)計檢驗分析(相關(guān)系數(shù)r、擬合優(yōu)度R2和標(biāo)準(zhǔn)誤差)，并結(jié)合經(jīng)濟(jì)理論分析選出最優(yōu)回歸方程，也稱為基本回歸方程。第二步，將其他解釋變量逐一引入到基本回歸方程中，建立一系列回歸方程，根據(jù)每個新加的解釋變量的標(biāo)準(zhǔn)差和復(fù)相關(guān)系數(shù)來考察

3、其對每個回歸系數(shù)的影響，一般根據(jù)如下標(biāo)準(zhǔn)進(jìn)行分類判別：1 .如果新引進(jìn)的解釋變量使R2得到提高，而其他參數(shù)回歸系數(shù)在統(tǒng)計上和經(jīng)濟(jì)理論上仍然合理，則認(rèn)為這個新引入的變量對回歸模型是有利的，可以作為解釋變量予以保留。2 .如果新引進(jìn)的解釋變量對R2改進(jìn)不明顯，對其他回歸系數(shù)也沒有多大影響，則不必保留在回歸模型中。精彩文檔實用標(biāo)準(zhǔn)文案3 .如果新引進(jìn)的解釋變量不僅改變了R2,而且對其他回歸系數(shù)的數(shù)值或符號具有明顯影響，則認(rèn)為該解釋變量為不利變量，引進(jìn)后會使回歸模型出現(xiàn)多重共線性問題。不利變量未必是多余的，如果它可能對被解釋變量是不可缺少的，則不能簡單舍棄，而是應(yīng)研究改善模型的形式，尋找更符合實際的模

4、型，重新進(jìn)行估計。如果通過檢驗證明回歸模型存在明顯線性相關(guān)的兩個解釋變量中的其中一個可以被另一個很好地解釋，則可略去其中對被解釋變量影響較小的那個變量，模型中保留影響較大的那個變量。下邊我們通過實例來說明逐步回歸分析方法在解決多重共線性問題上的具體應(yīng)用過程。具體實例例1設(shè)某地10年間有關(guān)服裝消費、可支配收入、流動資產(chǎn)、服裝類物價指數(shù)、總物價指數(shù)的調(diào)查數(shù)據(jù)如表1,請建立需求函數(shù)模型。表1服裝消費及相關(guān)變量調(diào)查數(shù)據(jù)年份服裝開支C（白力兀）可支配收入Y（白力兀）流動資產(chǎn)L（白力兀）服裝類物價指數(shù)Pc1992年=100總物價指數(shù)P01992年=10019888.482.917.1929419899.6

5、88.021.39396精彩文檔實用標(biāo)準(zhǔn)文案199010.499.925.19697199111.4105.329.09497199212.2117.734.0100100199314.2131.040.0101101199415.8148.244.0105104199517.9161.849.0112109199619.3174.251.0112111199720.8184.753.0112111(1)設(shè)對服裝的需求函數(shù)為小三四十十四工十尻九十耳十M用最小二乘法估計得估計模型：C=-13.534+0.097Y+0.015L-0199Plz+D.O334Po模型的檢驗量得分，R2=0.998,

6、D-W=3.383F=626.4634R2接近1,說明該回歸模型與原始數(shù)據(jù)擬合得很好。由產(chǎn)=6264634網(wǎng)g(4為=$19得出拒絕零假設(shè)，認(rèn)為服裝支出與解釋變量間存在顯著關(guān)系。(2)求各解釋變量的基本相關(guān)系數(shù)r”=09gg3rVfc=0.98047=0.9877、-0.9799小戶=0.9695rPrp=0.9918精彩文檔實用標(biāo)準(zhǔn)文案上述基本相關(guān)系數(shù)表明解釋變量間高度相關(guān)，也就是存在較嚴(yán)重的多重共線性。（3）為檢驗多重共線性的影響，作如下簡單回歸:(DC=-1.2455+0J178Y(-2.3102)(41.9270)/=0.9955DF7=2.62716=-190+0.51咫(-9.16

7、82)<12.5363)S2=0,9516。取=240134=2.1182+0.3269工(2.5858)(15-3096)=0.9667。取二0.4684®C=-53.6508+0.6632(-14.7710)(18.65建5)丑2=097750=24720各方程下邊括號內(nèi)的數(shù)字分別表示的是對應(yīng)解釋變量系數(shù)的t檢驗值。觀察以上四個方程，根據(jù)經(jīng)濟(jì)理論和統(tǒng)計檢驗（t檢驗值=41.937最大，擬合優(yōu)度也最高），收入Y是最重要的解釋變量，從而得出最優(yōu)簡單回歸方程C。（4）將其余變量逐個引入，=f（y）,計算結(jié)果如下表2：精彩文檔實用標(biāo)準(zhǔn)文案表2服裝消費模型的估計扁1常數(shù)）用6式工）K

8、3)交£),期C=/(H-1.24S5(-S3102)0.117(41,5370)0.99552.6271C=f(Pc)1.4047(口一2/201257(84259J-C0361(-0.SMS)099572.5335C=f(Y£)0.9400(01315)01387(5585)。口345(-0.4941).0379(-066B2)09g59工工5船-12.7595(-1.9SS1)01036174C40J©1Q82(-2.4691)0318512.6109)099S03.5241。=八九”通）-13.5335(-1S013)0.0970(3,6£03)

9、-015910.01510.340115.J714)D99B033B2&結(jié)果分析:在最優(yōu)簡單回歸方程中引入變量Pc,使R2由0.9955提高到0.9957;根據(jù)經(jīng)濟(jì)理論分析，聞?wù)?向負(fù)號是合理的。然而t檢驗片不顯著（%.卜。5398|）,而從經(jīng)濟(jì)理論分析，Pc應(yīng)該是重要因素。雖然Y與Pc高度相關(guān)，但并不影響收入Y回歸系數(shù)芯的顯著性和穩(wěn)定性。依照第1條判別標(biāo)準(zhǔn)，Pc可能是“有利變量”，暫時給予保留模型中引入變量L,R2由0.9957提高到0.9959,值略有提高。一方面，雖然Y與L,Pc與L均高度相關(guān)，但是L的引入對回歸系數(shù)機、鳥的影尾值由-0.0361變?yōu)?0.0345,變響不大（其

10、中2的值由0.1257變?yōu)?.1387,精彩文檔實用標(biāo)準(zhǔn)文案化很?。涣硪环矫?，根據(jù)經(jīng)濟(jì)理論的分析，L與服裝支出C之間應(yīng)該是正相關(guān)關(guān)系，即A的符號應(yīng)該為正號而非負(fù)號，依照第2條判別標(biāo)準(zhǔn)，解釋變量L不必保留在模型中。舍去變量L,加入變量P0,使R2由0.9957提高到0.9980,R2值改進(jìn)較大。自、島、區(qū)均顯著（這三個回歸系數(shù)的t檢驗值絕對值均大于口如式6）=1.943）,從經(jīng)濟(jì)意義上看也是合理的（服裝支出C與Y,P0之間呈正相關(guān)，而與服裝價格Pc之間呈負(fù)相關(guān)關(guān)系）。根據(jù)判別標(biāo)準(zhǔn)第1條，可以認(rèn)為Pc、P0皆為“有利變量”，給予保留最后再引入變量L,此時R2=0.9980沒有增加（或幾乎沒有增加），新引入變量對其他三個解釋變量的參數(shù)系數(shù)也沒有產(chǎn)生多大影響，可以確定L是多余變量，根據(jù)判別標(biāo)準(zhǔn)第2條，解釋變量L不必保留在模型中。因此我們得到如下結(jié)論：0北穌1回歸模型為最優(yōu)模型通過以上案例的分析，我們從理論和實際問題兩方面具體了解了逐步回歸分析是如何對多重共線性問