第4章經(jīng)典線性回歸模型的拓展1第4章經(jīng)典線性回歸模型的拓展本章主要內(nèi)容多重共線性異方差自相關(guān)內(nèi)生性問題案例分析——在線評論中蘊(yùn)含的消費(fèi)者情緒對消費(fèi)者滿意度的影響24.1多重共線性34.1.1多重共線性的來源和后果1.多重共線性的定義多元回歸模型：如果存在一組不全為0的數(shù)，使得：即使得k個自變量的線性組合為0，則稱為完全共線性，這k個自變量是線性相關(guān)的。如果存在一組不全為0的數(shù)，使得：即k個自變量的線性組合非常接近0，則稱為不完全共線。44.1.1多重共線性的來源和后果2.多重共線性的來源（1）經(jīng)濟(jì)變量間具有共同的變化趨勢。（2）模型設(shè)定包含滯后解釋變量。（3）樣本數(shù)據(jù)的采集與處理。54.1.1多重共線性的來源和后果3.多重共線性的后果

多元回歸模型：（1）完全共線性的后果①自變量的參數(shù)估計值無法確定如果之間是完全共線性，則至少有一個列向量可由其他列向量線性表示，無法得到參數(shù)的估計量。64.1.1多重共線性的來源和后果3.多重共線性的后果（1）完全共線性的后果②參數(shù)估計量的方差無限大當(dāng)存在完全共線性時，由于不存在，參數(shù)的估計量無法準(zhǔn)確估計，其方差變得無窮大。74.1.1多重共線性的來源和后果3.多重共線性的后果（2）不完全共線性的后果完全共線性是一種極端情況，現(xiàn)實經(jīng)濟(jì)問題中更常見的是變量之間存在不完全或高度的共線性。假定之間存在不完全或高度的共線性，可以得到如下的結(jié)果：①估計量仍然是線性無偏估計量如果模型設(shè)定正確，并且滿足除共線性以外的其他經(jīng)典假定，那么即使自變量存在顯著的多重共線性，參數(shù)和仍然是線性的和無偏的。84.1.1多重共線性的來源和后果3.多重共線性的后果（2）不完全共線性的后果②估計量的方差和標(biāo)準(zhǔn)差增大9變大，方差減小。4.1.1多重共線性的來源和后果3.多重共線性的后果（2）不完全共線性的后果③不完全共線性下的t統(tǒng)計量的絕對值變小10多重共線性增大了參數(shù)估計量的標(biāo)準(zhǔn)差，t值減小，容易不顯著。4.1.1多重共線性的來源和后果3.多重共線性的后果（2）不完全共線性的后果④估計量及其標(biāo)準(zhǔn)誤對數(shù)據(jù)的微小變化非常敏感當(dāng)存在多重共線性時，增加或刪除某個自變量，或某些觀測值的增加或減少，通常會導(dǎo)致參數(shù)估計量有較大改變。114.1.1多重共線性的來源和后果3.多重共線性的后果（2）不完全共線性的后果⑤模型整體擬合優(yōu)度R2變化不大，但難以評估自變量對R2的貢獻(xiàn)由于模型整體的擬合優(yōu)度是由存在多重共線性的變量共同得到，因此無法區(qū)分每個自變量對整體擬合優(yōu)度的貢獻(xiàn)。124.1.2多重共線性的檢驗和修正1.多重共線性的檢驗（1）觀察回歸方程的估計結(jié)果如果回歸方程的擬合優(yōu)度R2很高，F(xiàn)值較大，而參數(shù)估計量的t統(tǒng)計量的值卻普遍很低，即t檢驗無法通過，說明的方差較大，自變量之間可能存在嚴(yán)重的共線性問題。134.1.2多重共線性的檢驗和修正1.多重共線性的檢驗（2）簡單相關(guān)系數(shù)法如果自變量之間的簡單相關(guān)系數(shù)較高，那么可以得出這兩個自變量是高度相關(guān)的，我們就認(rèn)為存在潛在的多重共線性問題。需要注意的是，這個標(biāo)準(zhǔn)并不十分可靠。144.1.2多重共線性的檢驗和修正1.多重共線性的檢驗（3）建立輔助回歸對于多元回歸模型，將每一個自變量作為因變量，對其他剩余自變量作輔助回歸：原假設(shè)，即與剩余自變量之間不存在共線性：若則拒絕原假設(shè)，與剩余自變量之間存在高度的共線性。154.1.2多重共線性的檢驗和修正1.多重共線性的檢驗（4）計算方差膨脹因子逐一計算每個自變量的方差膨脹因子VIF，當(dāng)VIF>10，則認(rèn)為多重共線性對該模型是一個嚴(yán)重問題。164.1.2多重共線性的檢驗和修正2.多重共線性的修正（1）從模型中刪除引起多重共線性的變量需要比較究竟是“多重共線性給模型帶來的危害大”還是“設(shè)定誤差給模型帶來的危害大”。174.1.2多重共線性的檢驗和修正2.多重共線性的修正（2）增大樣本容量或重新抽取樣本多重共線性是一個樣本現(xiàn)象，故通過擴(kuò)大樣本容量，可以改變共線性的程度。18樣本容量增加，通常會增加，使得方差減小，標(biāo)準(zhǔn)誤差也隨之減小。4.1.2多重共線性的檢驗和修正2.多重共線性的修正（3）工具變量法尋找工具變量以替換某個或某幾個自變量，以降低共線性的程度。工具變量應(yīng)滿足與替代變量高度相關(guān)并且與其他變量相關(guān)程度低。該方法存在的問題是：①工具變量在現(xiàn)實中難以獲取。②會喪失一定的經(jīng)濟(jì)含義。194.1.2多重共線性的檢驗和修正2.多重共線性的修正（4）變量變換法①絕對指標(biāo)變相對指標(biāo)。

經(jīng)濟(jì)指標(biāo)用絕對量來衡量的，例如：貨幣供應(yīng)量、國民生產(chǎn)總值，可以將其轉(zhuǎn)變?yōu)橄鄬χ笜?biāo)：例如增長率、變化率等。②對變量做差分處理。

用變量的當(dāng)期值減去前期值，當(dāng)轉(zhuǎn)換為差分序列后，呈現(xiàn)出變量的波動性。③將幾個共線性變量捏合為一個變量。204.1.2多重共線性的檢驗和修正2.多重共線性的修正（5）逐步回歸法利用因變量對每個自變量逐一進(jìn)行二元輔助回歸，并按照輔助回歸的

對自變量排序，即按照自變量對因變量的貢獻(xiàn)程度排序。

以對因變量貢獻(xiàn)程度最大的自變量所對應(yīng)的輔助方程為基礎(chǔ)，按照對因變量貢獻(xiàn)大小的順序逐個引入其余的自變量。

依照篩選規(guī)則決定引入變量應(yīng)保留在模型中，還是剔除，最終形成共線性不嚴(yán)重的回歸模型。214.1.2多重共線性的檢驗和修正2.多重共線性的修正（5）逐步回歸的篩選規(guī)則①若新變量的引入改進(jìn)了和F檢驗，且原有變量的顯著性與符號未發(fā)生變化，加入變量的t檢驗也是顯著的，則在模型中保留該變量。②若新變量的引入未改善和F檢驗，且原有變量的顯著性與符號未發(fā)生變化，加入變量的t檢驗不顯著，則該變量為多余變量，應(yīng)剔除。③若新變量的引入使得原有變量的顯著性與符號出現(xiàn)了變化，或者參數(shù)估計值出現(xiàn)了較大變化，則表明該變量的引入引起了嚴(yán)重的共線性，應(yīng)剔除。224.1.2多重共線性的檢驗和修正2.多重共線性的修正（6）嶺回歸何瑞爾（Hoerl）和肯納德（Kennard）于1970提出的嶺回歸方法就是依據(jù)這一思想，以引入偏誤為代價減小參數(shù)估計量的方差，雖然沒有消除模型中的多重共線性，但是能消除多重共線性造成的后果。234.1.2多重共線性的檢驗和修正【例4-1糧食產(chǎn)量的影響因素分析】244.1.2多重共線性的檢驗和修正

25由此建立糧食生產(chǎn)函數(shù)模型表示為：圖4-1中國1978—2019年糧食產(chǎn)量影響因素回歸估計結(jié)果4.1.2多重共線性的檢驗和修正26

根據(jù)圖4-1得到模型估計結(jié)果：根據(jù)回歸分析結(jié)果報告可見，R2和調(diào)整的R2都較大并接近1，當(dāng)顯著性水平α=0.05時，統(tǒng)計量，因此糧食生產(chǎn)與各自變量之間呈現(xiàn)顯著的線性關(guān)系。但是從經(jīng)濟(jì)意義上看，變量X2的系數(shù)符號不符合經(jīng)濟(jì)意義，表明耕地灌溉面積越多，中國糧食產(chǎn)量越少，這顯然是不合理的，并且變量X5的系數(shù)也未能通過顯著性檢驗，因此認(rèn)為模型很可能存在嚴(yán)重的多重共線性。4.1.2多重共線性的檢驗和修正

27在Stata軟件中檢驗自變量相關(guān)系數(shù)：.corrlnX1lnX2lnX3lnX4lnX5lnX6相關(guān)系數(shù)圖4-2中數(shù)據(jù)顯示、

和lnX5之間，lnX2和lnX4，lnX5和lnX6之間

之間，

和

之間均存在高度相關(guān)，由于自變量之間具有較高的相關(guān)系數(shù)是存在多重共線性的充分而非必要條件。圖4-2影響因素相關(guān)系數(shù)表4.1.2多重共線性的檢驗和修正

28為了進(jìn)一步驗證多重共線性的存在，在Stata軟件中計算變量間的方差膨脹因子（VIF）：.estatvif根據(jù)圖4-3發(fā)現(xiàn)自變量的方差膨脹因子均大于10，自變量之間存在嚴(yán)重的多重共線性問題。圖4-3方差膨脹因子4.1.2多重共線性的檢驗和修正

29下面利用逐步回歸方法進(jìn)行修正，分別作lnYt關(guān)于lnX1t、lnX2t

、lnX3t、lnX4t、lnX5t和lnX6t的回歸，發(fā)現(xiàn)lnYt關(guān)于lnX2t的回歸具有最大的擬合優(yōu)度：可見，糧食生產(chǎn)受農(nóng)業(yè)機(jī)械總動力的影響最大，將該一元回歸模型作為初始回歸模型，隨后將其他自變量分別引入初始回歸模型。4.1.2多重共線性的檢驗和修正

30第一步，在初始回歸模型中引入lnX1t，模型

提高，且參數(shù)符號合理，變量也通過顯著性水平為5%的t檢驗，lnX1t和lnX2t的方差膨脹因子為4.17<10，不存在共線性，因此引入lnX1t，模型設(shè)定為：（4.1.23）第二步，在模型（4.1.23）中引入lnX3t，但lnX3t的系數(shù)沒有通過10%水平的顯著性檢驗，因此去掉lnX3t，引入lnX4t。第三步，在模型（4.1.23）中引入lnX4t發(fā)現(xiàn)lnX4t的系數(shù)不顯著，且加入lnX4t后使得lnX2t的系數(shù)也不顯著，因此去掉lnX4t，引入lnX5t。4.1.2多重共線性的檢驗和修正

31第四步，在模型（4.1.23）中引入lnX5t發(fā)現(xiàn)lnX1t和lnX5t的系數(shù)都不顯著，因此去掉lnX5t，引入lnX6t，在引入lnX6t后發(fā)現(xiàn)lnX2t的系數(shù)不再顯著，通過方差膨脹因子發(fā)現(xiàn)lnX2t和lnX6t的方差膨脹因子均大于10，存在嚴(yán)重共線性，因此去掉lnX6t。模型最終估計結(jié)果為式（4.1.23）。

例4-1的分析結(jié)果表明，影響中國糧食產(chǎn)量的主要影響因素是農(nóng)作物播種面積和農(nóng)業(yè)機(jī)械總動力，在其他變量保持不變的情況下，如果農(nóng)作物播種面積每增加1%，則糧食產(chǎn)量平均增加1.389%；如果農(nóng)業(yè)機(jī)械總動力每增加1%，則糧食產(chǎn)量平均增加0.210%；農(nóng)作物播種面積和農(nóng)業(yè)機(jī)械總動力兩個變量聯(lián)合起來解釋了中國糧食產(chǎn)量89.9%的變異。4.2異方差324.2.1異方差的來源和后果1.異方差的定義對于模型同方差假設(shè)為如果出現(xiàn)33即對于不同的樣本點，隨機(jī)誤差項的方差不再是常數(shù)，則認(rèn)為出現(xiàn)了異方差性。4.2.1異方差的來源和后果

異方差的類型34（1）遞增型異方差：隨Xi的增大而增大；圖4-4遞增型異方差

4.2.1異方差的來源和后果

異方差的類型35（2）遞減型異方差：隨Xi的增大而減??；圖4-5遞減型異方差

4.2.1異方差的來源和后果

異方差的類型36（3）非增非減復(fù)雜型異方差：隨Xi的變化呈復(fù)雜型。圖4-6非增非減復(fù)雜型異方差

4.2.1異方差的來源和后果2.異方差的來源37（1）模型中遺漏了重要變量（2）設(shè)定錯誤的函數(shù)形式（3）小樣本條件下異常值的存在（4）截面數(shù)據(jù)中普遍存在的個體差異4.2.1異方差的來源和后果3.異方差的后果38（1）OLS估計量仍然是無偏和一致的。（2）OLS估計量的方差不再有效。（3）t檢驗和F檢驗失效。異方差在影響參數(shù)估計量的方差的同時，也影響了它的標(biāo)準(zhǔn)誤，通常會低估參數(shù)估計量的方差和標(biāo)準(zhǔn)誤，導(dǎo)致t統(tǒng)計量和F統(tǒng)計量變大，更容易得到統(tǒng)計上顯著的結(jié)果。4.2.2異方差的檢驗1.異方差的檢驗39（1）圖示法——檢驗異方差最直觀的方法。①用散點圖進(jìn)行判斷異方差討論的是ui的振蕩幅度，等同于Yi的振蕩幅度，我們令因變量為縱軸，自變量為橫軸，分析Yi隨Xi的變化，其離散程度是否有所變化。4.2.2異方差的檢驗1.異方差的檢驗40（1）圖示法——檢驗異方差最直觀的方法。②用散點圖進(jìn)行判斷4.2.2異方差的檢驗1.異方差的檢驗41（2）帕克檢驗對一元回歸模型：（4.2.12）檢驗的具體步驟如下：不考慮異方差問題，對上式進(jìn)行普通最小二乘回歸，求殘差的平方項。建立輔助回歸：構(gòu)建原假設(shè)和備擇假設(shè)：如果和之間是統(tǒng)計顯著的，則拒絕零假設(shè)，模型（4.2.12）存在異方差。4.2.2異方差的檢驗1.異方差的檢驗42（3）戈列瑟檢驗（更適用于大樣本異方差檢驗）不僅可以檢驗遞增型異方差，也可以檢驗遞減型異方差，具體步驟：對一元回歸模型（4.2.12）進(jìn)行普通最小二乘回歸，求殘差ei。用殘差絕對值對建立輔助回歸，通?？梢圆捎靡韵聨追N形式，其中為隨機(jī)誤差項：構(gòu)造原假設(shè)和備擇假設(shè)：如果拒絕原假設(shè)，表明模型存在異方差。4.2.2異方差的檢驗1.異方差的檢驗43（4）布羅施——帕甘檢驗（BP檢驗）具體步驟：對多元線性回歸模型：。進(jìn)行普通最小二乘回歸，求殘差。建立輔助回歸：構(gòu)造原假設(shè)和備擇假設(shè)：不全為零構(gòu)造F統(tǒng)計量或拉格朗日乘數(shù)（LM）檢驗統(tǒng)計量：

F統(tǒng)計量和LM統(tǒng)計量大于臨界值和時，拒絕原假設(shè)，模型存在異方差。4.2.2異方差的檢驗1.異方差的檢驗44（5）懷特檢驗（大樣本檢驗）對二元線性回歸模型：進(jìn)行普通最小二乘回歸，求殘差建立輔助回歸：構(gòu)造原假設(shè)和備擇假設(shè)：不全為0

構(gòu)造F統(tǒng)計量或拉格朗日乘數(shù)（LM）檢驗統(tǒng)計量：

當(dāng)F統(tǒng)計量和LM統(tǒng)計量大于臨界值和時，或者計算得到的F統(tǒng)計量和統(tǒng)計量的p值很低，則拒絕零假設(shè)，認(rèn)為模型中存在異方差。4.2.3異方差的修正1.加權(quán)最小二乘法45（1）假設(shè)隨機(jī)誤差項的方差是已知的取權(quán)數(shù)，用該權(quán)數(shù)乘以原模型可得：（4.2.24）考察新模型的隨機(jī)誤差項的方差是否是同方差，可以證明：令則式（4.2.24）可以變換為：4.2.3異方差的修正1.加權(quán)最小二乘法46（2）假設(shè)隨機(jī)誤差項的方差是未知的①隨機(jī)誤差項的方差與成比例假設(shè)：取權(quán)數(shù)為，即將原模型兩邊同時除以，則模型變換為：新模型是過原點的回歸模型，可以證明：4.2.3異方差的修正1.加權(quán)最小二乘法47（2）假設(shè)隨機(jī)誤差項的方差是未知的②隨機(jī)誤差項的方差與不成比例

首先利用普通最小二乘法得到模型的殘差，然后利用殘差絕對值的倒數(shù)作為權(quán)重

，同乘模型的兩端，最后再利用普通最小二乘法估計新得到的模型。4.2.3異方差的修正2.異方差穩(wěn)健標(biāo)準(zhǔn)誤48修正思想是：仍然采用普通最小二乘估計量，但是需要對方差進(jìn)行修正。以一元回歸模型為例：斜率的方差正確表示形式為：的異方差穩(wěn)健標(biāo)準(zhǔn)誤，這種估計方法稱為異方差穩(wěn)健標(biāo)準(zhǔn)誤。4.2.3異方差的修正3.模型的對數(shù)變換49經(jīng)過對數(shù)變換后的模型通?？梢越档彤惙讲钚缘挠绊?。一方面，采用對數(shù)變換可以縮小測定變量值的尺度，即可以將兩個數(shù)值之間原來10倍的差異縮小到只有2倍的差異；另一方面，經(jīng)過對數(shù)變換后的線性模型，其樣本回歸模型表示為：可見當(dāng)經(jīng)過對數(shù)變換后，殘差表示相對誤差，而相對誤差通常比絕對誤差有較小的差異。4.2.3異方差的修正【例4-2深圳市龍華區(qū)二手房價格影響因素分析】50districtpricernumareafnumschoolsubwaylonghua4.903118.003411longhua3.62265.003010longhua4.72388.723300longhua4.353156.20300…………………longhua5.06486.953300longhua4.51397.471111longhua4.70274.48801longhua7.90275.7036114.2.3異方差的修正51

.regpricernumareafnumschoolsubway圖4-8深圳市龍華區(qū)二手房房屋價格基本回歸結(jié)果4.2.3異方差的修正52

.rvfplot從圖4-9可大致看出，當(dāng)二手房房屋價格較低時，隨機(jī)誤差項的方差較大。圖4-9殘差與擬合值的散點圖4.2.3異方差的修正53

進(jìn)一步考察殘差與自變量rnumi的散點圖：.rvpplotrnum從圖4-10可知，隨著房間數(shù)增多，隨機(jī)誤差項的方差增大，圖4.9和圖4.10的結(jié)論基本一致，表明模型很可能存在異方差。圖4-10殘差與自變量rnumi的散點圖4.2.3異方差的修正54

下面進(jìn)行Park檢驗，首先，計算殘差，并記為e1；其次，生成殘差平方，記為e2，并將殘差平方取對數(shù)；最后，利用generate得到自變量的對數(shù)形式，建立輔助回歸。根據(jù)上述過程在Stata命令窗口輸入如下命令：.predicte1,residual.gene2=e1^2.genlne2=log(e2).genlnrnum=log(rnum).genlnarea=log(area).genlnfnum=log(fnum).reglne2lnrnumlnarealnfnumschoolsubway結(jié)果見圖4-11。4.2.3異方差的修正55

圖4-11Park檢驗結(jié)果4.2.3異方差的修正56

由于自變量

和

為虛擬變量，沒有進(jìn)行對數(shù)變換。得到輔助回歸結(jié)果后，計算LM統(tǒng)計量，LM=nR2服從分布，其中n是觀測值的數(shù)量，R2是輔助回歸的判定系數(shù)，由圖4-11可知，R2=0.0528，在5%顯著性水平下有LM=1950×0.0528=102.96，因此，拒絕原假設(shè)，模型存在異方差。下面利用Glesjer檢驗進(jìn)行異方差檢驗，由于Glesjer檢驗采用殘差絕對值形式，因此首先需要生成殘差絕對值，再建立輔助回歸，在Stata命令窗口輸入如下命令：.genabe1=abs(e1).regabe1rnumareafnumschoolsubway結(jié)果見圖4-12。4.2.3異方差的修正57

圖4-12Glesjer檢驗結(jié)果根據(jù)圖4-12的估計結(jié)果計算LM統(tǒng)計量，并比較LM統(tǒng)計量和LM臨界值得出結(jié)論，經(jīng)計算LM=185.835>11.07，因此拒絕原假設(shè)，模型存在異方差。4.2.3異方差的修正58

下面利用BP檢驗作進(jìn)一步驗證，在Stata命令窗口輸入如下命令：.estathettest,iidrhs其中，iid表示數(shù)據(jù)為iid，無需正態(tài)假定，rhs表示使用方程右邊的全部自變量進(jìn)行輔助回歸，不加rhs表示默認(rèn)使用擬合值進(jìn)行輔助回歸，結(jié)果見圖4-13。如圖4-13所示，BP檢驗的p值等于0.0000，拒絕同方差的原假設(shè)，認(rèn)為存在異方差。圖4-13Breusch-Pagan檢驗結(jié)果4.2.3異方差的修正59

如果指定使用自變量rnumi進(jìn)行輔助回歸，可以使用如下代碼進(jìn)行BP檢驗：.estathettestrnum,iid根據(jù)圖4-14所示，BP檢驗的p值等于0.0000，拒絕同方差的原假設(shè)，認(rèn)為存在異方差，與殘差圖的判斷結(jié)果一致，利用該方法可以依次檢驗各自變量是否存在異方差，經(jīng)檢驗自變量rnumi、areai、schooli、subwayi中均可能存在異方差。圖4-14Breusch-Pagan自變量rnumi檢驗結(jié)果4.2.3異方差的修正60

下面利用懷特檢驗進(jìn)行異方差驗證，在Stata命令窗口輸入如下命令：.estatimtest,white圖4-15中懷特檢驗結(jié)果顯示，值等于0.0000，拒絕同方差的原假設(shè)，認(rèn)為存在異方差，懷特檢驗結(jié)果與BP檢驗結(jié)果一致。圖4-15懷特檢驗結(jié)果4.2.3異方差的修正61

以上各檢驗都證明存在異方差，下面使用加權(quán)最小二乘法（WLS）進(jìn)行修正，首先在基本回歸的基礎(chǔ)上計算殘差，并記為e1：.quietlyregpricernumareafnumschoolsubway.predicte1,residual其中，quietly表示執(zhí)行該命令，但不在Stata結(jié)果窗口中顯示運(yùn)行結(jié)果。其次，生成殘差平方，記為e2，并將殘差平方取對數(shù)：.gene2=e1^2.genlne2=log(e2)假設(shè)為變量rnumi、areai、schooli、subwayi的線性函數(shù)，進(jìn)行以下輔助回歸，在Stata命令窗口輸入如下命令：.reglne2rnumareaschoolsubway4.2.3異方差的修正62

圖4-16輔助回歸結(jié)果4.2.3異方差的修正63

將輔助回歸的擬合值記為lne32f，去掉對數(shù)后，得到方差的估計值，記為e32f，使用方差估計值的倒數(shù)作為權(quán)重，進(jìn)行WLS回歸，結(jié)果見17.predictlne2f.gene2f=exp(lne2f)圖4-17WLS回歸估計結(jié)果4.2.3異方差的修正64

從圖4-17可知，WLS修正后的rnumi仍然沒能通過顯著性檢驗，且areai的顯著性也僅能通過10%水平的顯著性檢驗，且擬合優(yōu)度為0.3949提升效果并不明顯，顯然WLS的修正效果并不理想，結(jié)合表4-16，WLS修正效果不理想的原因可能是輔助回歸選擇的函數(shù)形式不正確，使得輔助回歸的R2僅為0.0542。在隨機(jī)誤差項的方差與f(Xi)不成比例時，可以利用隨機(jī)誤差項的近似估計量ei求權(quán)重，即利用殘差絕對值的倒數(shù)作為權(quán)重重新進(jìn)行WLS修正。4.2.3異方差的修正65

.regpricernumareafnumschoolsubway.predicte1,residual.genw=1/abs(e1).regpricernumareafnumschoolsubway[aw=w]圖4-18WLS回歸估計結(jié)果4.2.3異方差的修正66

從表4-18結(jié)果可知，利用殘差絕對值的倒數(shù)作為權(quán)重修正后擬合優(yōu)度R2=0.8589有較大提升，自變量rnumi和areai均在1%顯著性水平下通過顯著性檢驗，且系數(shù)符號均符合預(yù)期，可見WLS后提高了估計效率。如果擔(dān)心加權(quán)變換后的新誤差項仍有一定的異方差，可以使用穩(wěn)健標(biāo)準(zhǔn)誤進(jìn)行進(jìn)一步估計，在Stata命令窗口輸入命令：.regpricernumareafnumschoolsubway,robust結(jié)果見圖4-19。4.2.3異方差的修正67

圖4-19WLS的穩(wěn)健標(biāo)準(zhǔn)誤回歸估計結(jié)果4.2.3異方差的修正

68從表4-19可知，無論是否使用穩(wěn)健標(biāo)準(zhǔn)誤，WLS的回歸系數(shù)都相同，但標(biāo)準(zhǔn)誤有所不同，穩(wěn)健標(biāo)準(zhǔn)誤要小于普通標(biāo)準(zhǔn)誤。本例題分析結(jié)果表明二手房房屋的價格受到房間數(shù)量、二手房面積、樓層、是否為學(xué)區(qū)房以及是否靠近地鐵因素的影響。在固定其他因素保持不變的情況下，房間數(shù)每增加1個，二手房價格每平米平均增加0.051萬元，面積每增加1平米，二手房價格每平米平均增加0.003萬元，樓層每增加1層，二手房價格每平米平均增加0.054萬元。二手房若為學(xué)區(qū)房，每平米房價增加0.661萬元，二手房若靠近地鐵，每平米房價平均增加1.361萬元。模型估計結(jié)果符合預(yù)期。4.3自相關(guān)694.3.1自相關(guān)的來源和后果1.自相關(guān)定義多元線性回歸模型：隨機(jī)誤差項序列視為t個隨機(jī)變量，自相關(guān)表示為：即對于不同的樣本點，隨機(jī)誤差項之間不再是完全獨立的，而是存在某種相關(guān)性，稱為出現(xiàn)序列相關(guān)（SerialCorrelation），也稱為自相關(guān)。704.3.1自相關(guān)的來源和后果2.自相關(guān)來源（1）模型中遺漏了重要自變量（2）設(shè)定錯誤的函數(shù)形式（3）經(jīng)濟(jì)系統(tǒng)的慣性（4）蛛網(wǎng)現(xiàn)象，它表示某種商品的供給量受前一期價格影響而表現(xiàn)出來的某種規(guī)律性，即呈蛛網(wǎng)狀收斂或發(fā)散于供需的均衡點。（5）數(shù)據(jù)處理714.3.1自相關(guān)的來源和后果3.自相關(guān)后果（1）OLS估計量仍然是無偏和一致的。（2）OLS估計量的方差不再有效。也就是OLS估計量的方差不再具有最小方差性。（3）t檢驗和F檢驗失效。724.3.2自相關(guān)的檢驗和修正1.自相關(guān)的檢驗（1）圖示法用殘差對時間t做圖，這種圖形稱為時序圖，觀察是否存在系統(tǒng)性的變動規(guī)律。繪制與的散點圖，觀察殘差序列與其滯后一期值之間的變化過程，以判斷自相關(guān)的存在。734.3.2自相關(guān)的檢驗和修正1.自相關(guān)的檢驗（1）圖示法74圖4-20殘差項的序列相關(guān)圖4.3.2自相關(guān)的檢驗和修正1.自相關(guān)的檢驗（2）回歸法首先，對給定樣本利用最小二乘法估計得到殘差，以為因變量，以其滯后項為自變量，建立不同形式的回歸方程，如：對上述自回歸方程進(jìn)行顯著性檢驗，若某個回歸方程的回歸系數(shù)顯著不為零，則說明存在該種形式的自相關(guān)。754.3.2自相關(guān)的檢驗和修正1.自相關(guān)的檢驗（3）DW檢驗

該方法的使用需要滿足前提條件：①回歸模型包括截距項；②自變量X是非隨機(jī)變量；③隨機(jī)誤差項是一個一階自回歸過程；④自變量中不包括因變量的滯后項，也就是說DW檢驗對下面的模型是不適用的。

764.3.2自相關(guān)的檢驗和修正1.自相關(guān)的檢驗（3）DW檢驗原假設(shè)和備擇假設(shè)：利用殘差構(gòu)造DW統(tǒng)計量:

則有：

774.3.2自相關(guān)的檢驗和修正1.自相關(guān)的檢驗DW檢驗判別規(guī)則如下：

78圖4-21DW檢驗示意圖4.3.2自相關(guān)的檢驗和修正1.自相關(guān)的檢驗（4）LM檢驗DW檢驗由于存在局限，使得它在存在滯后因變量和高階序列相關(guān)時不能使用，因此布勞殊（Breusch）和戈弗雷（Godfrey）1978年又提出了適用上述情形的拉格朗日乘數(shù)LM檢驗，也稱為BG檢驗。該檢驗的思想是基于所分析模型普通最小二乘估計的殘差對解釋變量和一定數(shù)量滯后殘差的輔助回歸，如果滯后殘差足以解釋當(dāng)前殘差的變異，則拒絕隨機(jī)誤差項無自相關(guān)的原假設(shè)。794.3.2自相關(guān)的檢驗和修正2.自相關(guān)的修正（1）廣義差分法對于經(jīng)過檢驗，發(fā)現(xiàn)隨機(jī)誤差項存在自相關(guān)，不妨假定為1階自相關(guān)：滯后一期表示為：（4.3.27）

ρ乘以上式可得：（4.3.28）將式（4.3.1）與式（4.3.28）相減，得：（4.3.29）

804.3.2自相關(guān)的檢驗和修正2.自相關(guān)的修正（1）廣義差分法若令：則有：得到修正后的多元回歸模型是誤差項無序列相關(guān)的，即滿足經(jīng)典線性回歸模型的基本假定，可以使用普通最小二乘法進(jìn)行下一步的參數(shù)估計，得到無偏且有效的估計量。這個過程即為廣義差分法。814.3.2自相關(guān)的檢驗和修正2.自相關(guān)的修正（1）廣義差分法

在廣義差分變換中，模型的第一個觀測值被排除了，為了避免失去一個觀測值，可以通過普萊斯——溫斯特變換（Prais-Winstentransformation）對損失的觀測值進(jìn)行補(bǔ)充：824.3.2自相關(guān)的檢驗和修正2.自相關(guān)的修正（2）自相關(guān)系數(shù)ρ的估計①如果隨機(jī)誤差項是一階自相關(guān)，則利用DW統(tǒng)計量的值估計出自相關(guān)系數(shù)ρ，即：目前常用的計量經(jīng)濟(jì)學(xué)軟件在普通最小二乘估計輸出結(jié)果時都會給出DW值，可以利用DW統(tǒng)計量和自相關(guān)系數(shù)的關(guān)系式求出ρ的估計值。834.3.2自相關(guān)的檢驗和修正2.自相關(guān)的修正（2）自相關(guān)系數(shù)ρ的估計②科克倫——奧科特迭代法首先，利用最小二乘法估計多元線性回歸模型，得到殘差:其次，假定模型存在自相關(guān)，且為s階自相關(guān)：則利用殘差對上式進(jìn)行估計，得到

作為自相關(guān)系數(shù)的第一次估計值。然后，利用進(jìn)行廣義差分。

最后進(jìn)行迭代，通常兩次迭代就可得到較好結(jié)果。844.3.2自相關(guān)的檢驗和修正2.自相關(guān)的修正（2）自相關(guān)系數(shù)ρ的估計③德賓兩步法將廣義差分方程式表示為：采用如下兩個步驟消除自相關(guān)：將式（4.3.29）作為一個多元回歸模型，使用普通最小二乘法估計其參數(shù)，把的回歸系數(shù)看作ρ的一個估計值，它是ρ的一個有偏、一致估計。利用估計的進(jìn)行廣義差分。求得序列，，

，然后使用OLS方法對廣義差分方程估計參數(shù)，求得最佳線性無偏估計量。854.3.2自相關(guān)的檢驗和修正2.自相關(guān)的修正（3）自相關(guān)穩(wěn)健標(biāo)準(zhǔn)誤

尼威和韋斯特于1978年提出“Newy-West估計法”，只改變標(biāo)準(zhǔn)誤的估計值并不改變回歸系數(shù)的估計值?？梢宰C明，在大樣本情況下“Newy-West估計法”得到的標(biāo)準(zhǔn)誤是普通最小二乘參數(shù)估計量標(biāo)準(zhǔn)誤的一致估計量，稱為尼威—韋斯特標(biāo)準(zhǔn)誤（Newy-WestStandardError），該方法也稱為自相關(guān)穩(wěn)健標(biāo)準(zhǔn)誤法。864.3.2自相關(guān)的檢驗和修正【例4-3私人汽車保有量影響因素分析】87年份私人汽車擁有量

公共交通運(yùn)營車輛數(shù)

居民人均消費(fèi)

年份私人汽車擁有量

公共交通運(yùn)營車輛數(shù)

居民人均消費(fèi)

1995249.9664.092317.1520083501.39133.618482.901996289.6773.352749.0020094574.91133.689226.071997358.3685.282959.0020105938.71136.1110549.961998423.6594.323107.0020117326.79140.4912646.371999533.8899.733327.0020128838.60144.6114075.272000625.33104.663697.50201310501.68150.0215615.062001770.78109.663954.08201412339.36153.3417271.172002968.98112.614255.80201514099.10157.5118929.0520031219.23116.274541.61201616330.22161.7720876.9820041481.66118.065056.22201718515.11165.7623069.8620051848.07124.54567193166.3125378.3520062333.32124.146302.29201922513.39168.6527562.9920072876.22130.427434.50

4.3.2自相關(guān)的檢驗和修正88

首先在Stata中設(shè)定時間序列數(shù)據(jù)，利用普通最小二乘法建立線性回歸模型，在Stata命令窗口輸入如下命令：.tssetYEAR.regYX1X2圖4-22私人汽車擁有量回歸估計結(jié)果4.3.2自相關(guān)的檢驗和修正89

根據(jù)圖4-22得到模型估計結(jié)果：估計結(jié)果顯示，公共交通運(yùn)營車輛（X1）與居民人均消費(fèi)（X2）均在1%水平上顯著，公共交通運(yùn)營車輛數(shù)越少，居民人均消費(fèi)水平越高，私人汽車擁有量越多，符合預(yù)期。由于是時間序列，因此懷疑隨機(jī)誤差項存在自相關(guān)。4.3.2自相關(guān)的檢驗和修正90

首先計算殘差（記為e1）及其滯后值（l.e1），然后繪制殘差與殘差滯后值之間的散點圖，并畫出擬合回歸線：.predicte1,residual.twowayscattere1l.e1||lfite1l.e1其中，lfit表示linearfit（線性擬合），如圖4-23所示。圖4-23殘差與殘差滯后的散點圖4.3.2自相關(guān)的檢驗和修正91

圖4-23顯示，誤差項可能存在一階正自相關(guān)，為了考察各階自相關(guān)系數(shù)及其顯著性，下面繪制殘差的自相關(guān)圖，在Stata命令窗口輸入命令：.ace1圖4-24自相關(guān)圖4.3.2自相關(guān)的檢驗和修正92

自相關(guān)圖的橫軸為滯后階數(shù)，縱軸為殘差的自相關(guān)系數(shù)，陰影部分為置信度為95%的置信區(qū)間，圖4-24顯示除一階自相關(guān)系數(shù)以外，其余自相關(guān)系數(shù)的取值均在95%的置信區(qū)間之內(nèi)，因此懷疑存在一階自相關(guān)。下面利用DW統(tǒng)計量，進(jìn)行自相關(guān)檢驗：.estatdwatson

圖4-25DW檢驗結(jié)果上圖顯示DW統(tǒng)計量值為0.4243，查DW統(tǒng)計量表得到dL=1.206，dL=1.550，可見，存在正自相關(guān)。4.3.2自相關(guān)的檢驗和修正93

接下來再利用BG檢驗，考察是否存在自相關(guān)。在Stata命令窗口輸入命令：.estatbgodfrey,lag(1)結(jié)果如下。

圖4-26Breusch-Godfrey檢驗結(jié)果其中，lag(1)表示檢測一階自相關(guān)，括號中的數(shù)字為自相關(guān)階數(shù)，如果需要檢驗其他階數(shù)只需要更改括號中的數(shù)字。根據(jù)上圖顯示，BG檢驗的p值為0.0001，因此可在1%的顯著性水平上拒絕“無自相關(guān)”的原假設(shè)，認(rèn)為存在一階自相關(guān)。4.3.2自相關(guān)的檢驗和修正94

由于隨機(jī)誤差項存在自相關(guān)，因此最小二乘所提供的普通標(biāo)準(zhǔn)誤不準(zhǔn)確，下面使用自相關(guān)穩(wěn)健標(biāo)準(zhǔn)誤進(jìn)行修正。在Stata命令窗口輸入命令：.neweyYX1X2,lag(3)由于，因此取Newey-West估計量滯后階數(shù)為p=3。結(jié)果如下。

圖4-27Newey-West估計結(jié)果對比發(fā)現(xiàn)Newey-West標(biāo)準(zhǔn)誤比OLS標(biāo)準(zhǔn)誤略大。4.3.2自相關(guān)的檢驗和修正95

為使模型估計更加有效，接下來我們運(yùn)用Cochrane-Orcutt迭代法對模型進(jìn)行再估計，在Stata命令窗口輸入命令：.praisYX1X2,corcnolog結(jié)果如圖4-28。圖4-28Cochrane-Orcutt迭代法估計結(jié)果4.3.2自相關(guān)的檢驗和修正96

其中，nolog表示不顯示迭代過程。使用CO迭代法得到的估計結(jié)果DW值改進(jìn)為1.641，消除了自相關(guān)，但是該模型X1的系數(shù)符號改變，表明城市公共交通運(yùn)營車輛數(shù)與私人汽車擁有量呈正相關(guān)，與預(yù)期不符，且X1也沒有通過顯著性檢驗。因此進(jìn)一步使用PW估計法，在Stata命令窗口輸入命令：.praisYX1X2,nolog結(jié)果見圖4-28。4.3.2自相關(guān)的檢驗和修正97

圖4-29Prais-Winsten估計結(jié)果

根據(jù)圖4-28使用PW估計法使得DW統(tǒng)計量改進(jìn)為1.451，公共交通運(yùn)營車輛數(shù)（X1）和居民人均消費(fèi)（X2）系數(shù)估計值與OLS估計結(jié)果比較相近，且系數(shù)均通過1%水平的顯著性檢驗并符合經(jīng)濟(jì)含義，因此PW估計結(jié)果相比CO估計結(jié)果更穩(wěn)健。4.4內(nèi)生性問題984.4.1內(nèi)生解釋變量及后果1.內(nèi)生性的含義第3章討論的經(jīng)典多元線性回歸模型：（4.4.1）其中一個重要的假定是所有自變量與隨機(jī)誤差項無關(guān)，即：（4.4.2）即自變量X1，X2…,Xk是嚴(yán)格外生變量，然而在現(xiàn)實中，很多情況都與上述假設(shè)不相符。當(dāng)式（4.4.2）不成立，即自變量與隨機(jī)誤差項相關(guān)時，稱模型存在內(nèi)生解釋變量問題。994.4.1內(nèi)生解釋變量及后果

內(nèi)生解釋變量兩種類型：（1）內(nèi)生解釋變量與隨機(jī)誤差項同期無關(guān)但異期相關(guān)假定模型（4.4.1）中X1為內(nèi)生解釋變量，則有：

1004.4.1內(nèi)生解釋變量及后果

內(nèi)生解釋變量兩種類型：（2）內(nèi)生解釋變量與隨機(jī)誤差項同期相關(guān)，則有：對于截面數(shù)據(jù)并不存在同期無關(guān)而異期相關(guān)的情況，因此對于截面數(shù)據(jù)而言，內(nèi)生性問題主要體現(xiàn)在內(nèi)生解釋變量與隨機(jī)誤差項的同期相關(guān)上，此時的內(nèi)生變量也稱為同期內(nèi)生變量。

1014.4.1內(nèi)生解釋變量及后果2.內(nèi)生性的來源（1）反向因果關(guān)系。

在凱恩斯模型中，國民收入既是消費(fèi)變化的原因，反過來消費(fèi)也是國民收入變化的原因。（2）遺漏變量。

遺漏變量是指模型設(shè)定時某些不可觀測的解釋變量沒有被納入模型，而不可觀測的變量（遺漏變量）與模型中因變量和某些自變量存在同期相關(guān)性，就會導(dǎo)致內(nèi)生性問題。（3）度量誤差。

1024.4.1內(nèi)生解釋變量及后果3.內(nèi)生的后果當(dāng)模型存在內(nèi)生性問題時，最小二乘估計量不僅是有偏的，也是非一致的，偏離的方向由的符號決定，該回歸偏誤被稱為內(nèi)生性偏誤（EndogeneityBias）。

1034.4.2內(nèi)生性問題的解決方法1.工具變量法OLS估計量的有偏和非一致是由于內(nèi)生解釋變量與隨機(jī)誤差項相關(guān)引起的，我們可以找一個替代變量，令這個變量與內(nèi)生解釋變量相關(guān)而與模型的隨機(jī)誤差項無關(guān)，從而借助此變量來為模型的參數(shù)構(gòu)造一個無偏估計量，該方法稱為工具變量法。

1044.4.2內(nèi)生性問題的解決方法1.工具變量法（1）工具變量的選擇標(biāo)準(zhǔn)①工具變量相關(guān)性條件。工具變量應(yīng)滿足與所替代的內(nèi)生解釋變量具有較強(qiáng)的相關(guān)性，即：；②工具變量外生性條件。工具變量與隨機(jī)誤差項無關(guān)，即：

如果第一個條件不滿足，則我們稱該工具變量為弱工具變量，它將導(dǎo)致工具變量估計值的方差增大，影響回歸結(jié)果顯著性和相關(guān)假設(shè)檢驗的準(zhǔn)確性。如果第二個條件不滿足，說明工具變量不具備足夠的外生性，將會導(dǎo)致工具變量估計值產(chǎn)生估計偏差。

1054.4.2內(nèi)生性問題的解決方法1.工具變量法（2）工具變量估計

【例如一元回歸模型】在此方程兩邊，同時取其與的協(xié)方差，得到：整理得同理，我們也可以計算截距項的工具變量估計值：

1064.4.2內(nèi)生性問題的解決方法2.兩階段最小二乘考慮如下形式的多元線性回歸模型：第一階段回歸：以內(nèi)生自變量為因變量，用普通最小二乘法建立

對所有工具變量和外生自變量的回歸，表示為：第二階段回歸：以為因變量，用普通最小二乘法建立對內(nèi)生自變量的擬合值和外生自變量的回歸方程，表示為：

1074.4.2內(nèi)生性問題的解決方法3.工具變量檢驗（1）解釋變量內(nèi)生性檢驗從統(tǒng)計上檢驗?zāi)Ｐ偷淖宰兞渴欠翊嬖趦?nèi)生性——豪斯曼檢驗。方法思想：如果方程中存在內(nèi)生變量，則需要尋找外生變量作為工具變量進(jìn)行工具變量法估計，此時工具變量的參數(shù)估計量更為有效，反之，若方程所有解釋變量都是外生變量，則最小二乘估計量更有效?？梢娡ㄟ^將工具變量法的估計結(jié)果與普通最小二乘法的估計結(jié)果對比，看差異是否顯著，如果兩者有顯著差異，則表明存在內(nèi)生變量。

1084.4.2內(nèi)生性問題的解決方法3.工具變量檢驗（2）工具變量相關(guān)性檢驗考慮多元線性回歸模型：其中，Xi是內(nèi)生變量，是外生變量，是工具變量。第一階段建立Xi對所有工具變量和外生自變量的回歸：檢驗所有方程外的工具變量（不含外生解釋變量）的系數(shù)是否聯(lián)合為零，即：109不全為零4.4.2內(nèi)生性問題的解決方法3.工具變量檢驗（3）工具變量外生性檢驗當(dāng)一個內(nèi)生解釋變量存在多個的工具變量時，就需要對該組工具變量的外生性進(jìn)行檢驗，以保證模型中的工具變量均與結(jié)構(gòu)方程的隨機(jī)誤差項不相關(guān)，這就是過度識別檢驗。過度識別檢驗的核心思想：如果所有工具變量都有效，可以使用不同工具變量法估計，參數(shù)估計量都會收斂到真實參數(shù)β，所以可以檢驗不同工具變量的差十分收斂于0，如果不是，說明不是所有工具都有效。此檢驗的前提是模型至少是恰好識別的，即有效工具變量至少與內(nèi)生解釋變量一樣多。

1104.4.2內(nèi)生性問題的解決方法【例4-4教育回報率估計】資料來源：中國家庭追蹤調(diào)查數(shù)據(jù)庫。

111nowageeducagemaleurbanmeducfeduc11600122401992300092011993200016261112124100094401612……………………5858150092511605859120034010005860100092410905861180093910004.4.2內(nèi)生性問題的解決方法

112【例4-4教育回報率估計】圖4-30教育回報率OLS回歸估計結(jié)果4.4.2內(nèi)生性問題的解決方法

113【例4-4教育回報率估計】

由于教育存在內(nèi)生性，借助工具變量法進(jìn)行回歸。父母的教育水平與子女的教育水平存在正相關(guān)關(guān)系，此外，父母的受教育水平不是研究者個體所能決定的因素，因此與研究者的工資收入水平?jīng)]有直接關(guān)系，可見父母受教育水平滿足工具變量的相關(guān)性條件和外生性條件，因此將其作為工具變量是合理的，定義工具變量母親受教育年限，父親受教育年限，下面進(jìn)行2SLS回歸，使用穩(wěn)健標(biāo)準(zhǔn)誤，并顯示第一階段回歸結(jié)果:4.4.2內(nèi)生性問題的解決方法

114圖4-31教育回報率2SLS回歸估計結(jié)果4.4.2內(nèi)生性問題的解決方法

115根據(jù)上述結(jié)果，利用2SLS修正后的教育投資回報率為9.11%，且在1%水平上顯著。由于內(nèi)生自變量存在多個工具變量，因此需要進(jìn)行過度識別檢驗，以保證模型中的工具變量都符合“排他性約束”，下面進(jìn)行過度識別檢驗。

圖4-32過度識別檢驗結(jié)果由于Sargan統(tǒng)計量的P值為0.6501，因此接受原假設(shè)，認(rèn)為和

均為外生變量，與隨機(jī)誤差項無關(guān)。4.4.2內(nèi)生性問題的解決方法

116進(jìn)一步考察工具變量的另外一個條件，即工具變量與內(nèi)生自變量的相關(guān)性。為檢驗是否存在弱工具變量問題，重新計算2SLS中第一階段回歸的F統(tǒng)計量，并進(jìn)行弱工具變量驗證。圖4-33弱工具變量檢驗結(jié)果4.4.2內(nèi)生性問題的解決方法

117由于第一階段回歸的兩個工具變量系數(shù)的聯(lián)合顯著性檢驗F統(tǒng)計量為585.436，超過10，因此認(rèn)為不存在弱工具變量。下面利用豪斯曼檢驗變量的內(nèi)生性。圖4-34豪斯曼內(nèi)生性檢驗結(jié)果4.4.2內(nèi)生性問題的解決方法

118根據(jù)上圖所示結(jié)果，p值為0.0000，因此在1%顯著性水平上拒絕“所有解釋變量均為外生”的原假設(shè)，個體受教育水平為內(nèi)生變量。結(jié)論顯示，教育和生育之間存在雙向因果關(guān)系，在經(jīng)過2SLS修正后的教育投資回報率為9.11%，且在1%水平上顯著。4.5案例分析在線評論中蘊(yùn)含的消費(fèi)者情緒對消費(fèi)者滿意度的影響1194.5.1案例背景顧客對產(chǎn)品的滿意程度會受到情緒的影響?；谠u論內(nèi)容的特點，我們將在線評論分為積極評論、消極評論、偏積極評論、偏消極評論。在線評論中的內(nèi)容反映了顧客對服務(wù)的滿意程度，本案例將驗證消費(fèi)者具體評價中蘊(yùn)含的情緒對消費(fèi)