第五章異方差

在實(shí)踐中，關(guān)于線性回歸的基本假定不能全部滿足，出現(xiàn)基本假定違背。主要包括：（1）隨機(jī)項(xiàng)序列不是同方差，而是異方差的；（2）隨機(jī)項(xiàng)序列相關(guān)，即存在自相關(guān)；（3）解釋變量與隨機(jī)項(xiàng)相關(guān)；（4）解釋變量之間線性相關(guān)，存在多重共線性。當(dāng)模型違反某一基本假定時(shí)，導(dǎo)致OLS估計(jì)量失去優(yōu)良性，不再是最佳線性無(wú)偏估計(jì)，模型參數(shù)的估計(jì)需要采取相應(yīng)的修正補(bǔ)救措施或新的補(bǔ)救方法。第1頁(yè)/共32頁(yè)第一頁(yè)，共33頁(yè)。一、異方差的定義異方差是相對(duì)于同方差而言的。異方差在橫截面數(shù)據(jù)中比時(shí)間序列數(shù)據(jù)更為常見(jiàn)同方差：在經(jīng)典線性回歸模型的基本假定2中，隨機(jī)擾動(dòng)項(xiàng)ui的對(duì)每一個(gè)樣本點(diǎn)的方差是一個(gè)等于2的常數(shù)，即：Var(ui)=2=常數(shù)i=1,2,…,n異方差：是指隨機(jī)擾動(dòng)項(xiàng)ui隨著解釋變量Xi的變化而變化，即：Var(ui)=2

i=2f(Xi)i=1,2,…,n但ui仍然是一個(gè)服從正態(tài)分布的隨機(jī)變量第一節(jié)異方差的概念第2頁(yè)/共32頁(yè)第二頁(yè)，共33頁(yè)。0XY儲(chǔ)蓄函數(shù)關(guān)系.......................如儲(chǔ)蓄函數(shù)模型：Yi=bo+b1Xi+ui式中：Yi

：第i個(gè)家庭的儲(chǔ)蓄額；Xi

：第i個(gè)家庭的可支配收入；

ui：其它因素，利息，家庭人口，文化背景等。案例分析....第3頁(yè)/共32頁(yè)第三頁(yè)，共33頁(yè)。二、產(chǎn)生異方差的背景一、按照邊錯(cuò)邊改學(xué)習(xí)模型（error-learningmodels），人們?cè)趯W(xué)習(xí)的過(guò)程中，其行為誤差隨時(shí)間而減少。在這種情況下，預(yù)料的會(huì)減少。例如，隨著打字練習(xí)小時(shí)數(shù)的增加，不僅平均打錯(cuò)個(gè)數(shù)而且打錯(cuò)個(gè)數(shù)的方差都有所下降。二、隨著收入的增長(zhǎng)，人們有更多的備用收入，從而如何支配他們的收入有更大的選擇范圍。因此，在做儲(chǔ)蓄對(duì)收入的回歸時(shí)，很可能發(fā)現(xiàn)，由于人們對(duì)其儲(chǔ)蓄行為有更多的選擇，與收入俱增。三、個(gè)體戶收入隨時(shí)間變化。四、異方差還會(huì)因?yàn)楫惓Ｖ档某霈F(xiàn)而產(chǎn)生。一個(gè)超越正常值范圍的觀測(cè)值或稱異常值是指和其它觀測(cè)值相比相差很多（非常小或非常大）的觀測(cè)值。五、回歸模型的設(shè)定不正確也會(huì)造成異方差。例如，在一個(gè)商品的需求函數(shù)中，若沒(méi)有把有關(guān)的互補(bǔ)商品和替代商品的價(jià)格包括進(jìn)來(lái)（忽略變量偏差），則回歸殘差就可能出現(xiàn)異方差。第4頁(yè)/共32頁(yè)第四頁(yè)，共33頁(yè)。第二節(jié)異方差性的后果1、參數(shù)的OLS估計(jì)仍然是線性無(wú)偏的，但不是最小方差的估計(jì)量2、t檢驗(yàn)失效3、降低預(yù)測(cè)精度由于異方差，會(huì)使得OLS估計(jì)的方差增大，從而造成預(yù)測(cè)誤差變大，降低預(yù)測(cè)精度。第5頁(yè)/共32頁(yè)第五頁(yè)，共33頁(yè)。一、參數(shù)的OLS估計(jì)仍然是線性無(wú)偏的，但不是最小方差的估計(jì)量1、線性性??=21?iiixyxb=??+21iiixuxb2、無(wú)偏性E(1?b)=E(??+21iiixuxb)=??+21)(iiixuExb=1b3、方差Var(1?b)22??iixx=22?iixs在同方差時(shí)，Var(1?b)=?22ixs一元線性回歸模型為例該形式具有最小方差該形式不具有最小方差Xi2第6頁(yè)/共32頁(yè)第六頁(yè)，共33頁(yè)。二、變量的顯著性檢驗(yàn)失效用于參數(shù)顯著性檢驗(yàn)的統(tǒng)計(jì)量)?(?)?(iiistbbb＝在同方差的假定下才被證明是服從t分布的。分母變大，t值變小，t檢驗(yàn)也就失去意義。三、降低預(yù)測(cè)精度

由于存在異方差，參數(shù)的OLS估計(jì)的方差增大，參數(shù)估計(jì)值的變異程度增大，從而造成對(duì)Y

的預(yù)測(cè)誤差變大，降低預(yù)測(cè)的精度。第7頁(yè)/共32頁(yè)第七頁(yè)，共33頁(yè)。第二節(jié)異方差的檢驗(yàn)1、圖解法2、戈德菲爾德—匡特法（雙變量模型）3、格萊澤(Glejser)檢驗(yàn)4、帕克(Park)檢驗(yàn)第8頁(yè)/共32頁(yè)第八頁(yè)，共33頁(yè)。一、圖解法作Y與X

的散點(diǎn)圖第三節(jié)異方差的檢驗(yàn)

.............

.............

................................................同方差性遞增方差性遞減方差性復(fù)雜方差性儲(chǔ)蓄與收入打字出錯(cuò)率與練習(xí)時(shí)間個(gè)體戶收入與從業(yè)時(shí)間第9頁(yè)/共32頁(yè)第九頁(yè)，共33頁(yè)。二、戈德菲爾德—匡特（Goldfeld-Quandt）檢驗(yàn)(1)、將樣本分為兩個(gè)集團(tuán)設(shè)樣本X1<…<Xn容量為n，設(shè)定隔離帶c個(gè)，一般c=n/4或n/3。(2)、H0：21s=22s；H1：21s122s。(3)、檢驗(yàn)統(tǒng)計(jì)量i2cncneF

-1)k2/(

-1)k2/(----=(4)、判斷若F>Fa，拒絕H0，存在異方差；若F<Fa，不拒絕H0，不存在異方差。2i1e2k-自變量的個(gè)數(shù)第10頁(yè)/共32頁(yè)第十頁(yè)，共33頁(yè)。

原始數(shù)據(jù)截面數(shù)據(jù)第11頁(yè)/共32頁(yè)第十一頁(yè)，共33頁(yè)。儲(chǔ)蓄Y與收入X的散點(diǎn)圖第12頁(yè)/共32頁(yè)第十二頁(yè)，共33頁(yè)。估計(jì)模型設(shè)定第13頁(yè)/共32頁(yè)第十三頁(yè)，共33頁(yè)。估計(jì)結(jié)果第14頁(yè)/共32頁(yè)第十四頁(yè)，共33頁(yè)。殘差趨勢(shì)圖低、高收入組對(duì)應(yīng)殘差大第15頁(yè)/共32頁(yè)第十五頁(yè)，共33頁(yè)。殘差與收入的散點(diǎn)圖（喇叭型）Genrer1=residscater1x第16頁(yè)/共32頁(yè)第十六頁(yè)，共33頁(yè)。loadd:\Eviews\test\ch5-1.wf1vector(10)m‘存放自由度、小樣殘差平方和、大樣殘差平方和、F檢驗(yàn)值和F檢驗(yàn)的概率值SORTX'按居民收入排序SMPL19581969'小數(shù)據(jù)樣本m(1)=10equationsmleq.LSYCX'得RSS1m(2)=@ssrSMPL19771988'大數(shù)據(jù)樣本equationlrgeq.LSYCX'得RSS2m(3)=@ssrm(4)=m(3)/m(2)m(5)=@fdist(m(4),m(1),m(1))showm戈德菲爾德—匡特檢驗(yàn)的程序第17頁(yè)/共32頁(yè)第十七頁(yè)，共33頁(yè)。程序運(yùn)行結(jié)果第18頁(yè)/共32頁(yè)第十八頁(yè)，共33頁(yè)。R1 10.00000R2 162899.2R3 769899.2R4 4.726231R5 0.010965R6 0.000000R7 0.000000R8 0.000000R9 0.000000R10 0.000000小概率解釋運(yùn)行結(jié)果H0:σ21=σ22H1:σ21≠σ22

RSS1=162899.2RSS2=769899.2df=(31-7)/2-2=12-2=10F=(RSS2/df)/(RSS1/df)=4.726231F>Fo.o5(10,10)則隨機(jī)擾動(dòng)項(xiàng)存在異方差第19頁(yè)/共32頁(yè)第十九頁(yè)，共33頁(yè)。

三、格萊澤(Glejser)檢驗(yàn)格萊澤檢驗(yàn)類似于帕克檢驗(yàn)。格萊澤建議:在從OLS回歸取得誤差項(xiàng)后，使用ei的絕對(duì)值與被認(rèn)為密切相關(guān)的解釋變量再做LS估計(jì)，并使用如右的多種函數(shù)形式。若解釋變量的系數(shù)顯著，就認(rèn)為存在異方差。iiivXe++=10||bbiiivXe++=10||bbiiivXe++=1||10bbiiivXe++=1||10bbiiivXe++=10||bbiiivXe++=210||bb第20頁(yè)/共32頁(yè)第二十頁(yè)，共33頁(yè)。用Eviews作格萊澤檢驗(yàn)(1)LSYCX作回歸(2)GENRE1=resid令殘差序列為E1(3)GENRE2=ABS(E1)生成殘差絕對(duì)值序列E2(4)GENRXH=X^h生成變量Xh

序列

(依次分別取h=1,2,-1,0.5…)(5)LSE2CXH

重復(fù)第(4)步第21頁(yè)/共32頁(yè)第二十一頁(yè)，共33頁(yè)。

四、帕克(Park)檢驗(yàn)帕克認(rèn)為，u的方差σ隨X變化的形式：

σ=σXa1ev對(duì)方程兩邊取對(duì)數(shù)

lnσ=lnσ+a1lnX+V由于σ未知，用ei近似替代，

lne=a0+a1lnX+V求lne對(duì)lnX

的回歸方程，作統(tǒng)計(jì)檢驗(yàn)，若解釋變量的系數(shù)顯著，就認(rèn)為存在異方差。222222222iii第22頁(yè)/共32頁(yè)第二十二頁(yè)，共33頁(yè)。用Eviews作帕克檢驗(yàn)(1)LSYCX作回歸(2)GENRE1=resid令殘差序列為E1(3)GENRE2=E1^2生成殘差平方序列E2(4)GENRLNE2=LOG(E2)生成殘差平方對(duì)數(shù)序列(5)GENRX1=LOG(X)X的對(duì)數(shù)序列(6)LSLNE2CX1第23頁(yè)/共32頁(yè)第二十三頁(yè)，共33頁(yè)。一、模型變換法第四節(jié)異方差的修正方法第24頁(yè)/共32頁(yè)第二十四頁(yè)，共33頁(yè)。在實(shí)際處理異方差時(shí)，f(Xi)通常取下列形式：GENRX1=1/XGenrXY=Y/XLsXYCX1第25頁(yè)/共32頁(yè)第二十五頁(yè)，共33頁(yè)。二、加權(quán)最小二乘法根據(jù)殘差平方和最小建立起來(lái)的OLS法，在同方差下，將各個(gè)樣本點(diǎn)提供的殘差一視同仁是符合情理的。各個(gè)ei提供信息的重要程度是一致的。但在異方差下，離散程度大的ei對(duì)應(yīng)的回歸直線的位置很不精確，擬合直線時(shí)理應(yīng)不太重視它們提供的信息。即Xi對(duì)應(yīng)的ei偏離大的所提供的信息貢獻(xiàn)應(yīng)打折扣，而偏離小的所提供的信息貢獻(xiàn)則應(yīng)于重視。因此采用權(quán)數(shù)對(duì)殘差提供的信息的重要程度作一番校正，以提高估計(jì)精度。這就是WLS（加權(quán)最小二乘法）的思路。第26頁(yè)/共32頁(yè)第二十六頁(yè)，共33頁(yè)。加權(quán)最小二乘法（WLS）的原理以遞增型為例。設(shè)權(quán)數(shù)Wi與異方差的變異趨勢(shì)相反。Wi=1/2i。Wi使異方差經(jīng)受了“壓縮”和“擴(kuò)張”變?yōu)橥讲睢Y第27頁(yè)/共32頁(yè)第二十七頁(yè)，共33頁(yè)。異方差是指隨機(jī)擾動(dòng)項(xiàng)ui