1、第第9章章 相關(guān)與回歸相關(guān)與回歸9.1 簡(jiǎn)單線性相關(guān)分析9.2 一元線性回歸分析9.3 多元線性回歸與復(fù)相關(guān)分析9.4 變量間非線性關(guān)系的回歸9.1 簡(jiǎn)單線性相關(guān)分析簡(jiǎn)單線性相關(guān)分析一、變量之間的關(guān)系一、變量之間的關(guān)系 確定性關(guān)系、非確定性關(guān)系確定性關(guān)系、非確定性關(guān)系1.確定性關(guān)系函數(shù)關(guān)系：變量之間依一定的函數(shù)構(gòu)成確定性關(guān)系函數(shù)關(guān)系：變量之間依一定的函數(shù)構(gòu)成的一一對(duì)應(yīng)關(guān)系，假設(shè)兩個(gè)變量分別記做的一一對(duì)應(yīng)關(guān)系，假設(shè)兩個(gè)變量分別記做Y與與X，那么，那么當(dāng)當(dāng)Y與與X之間存在函數(shù)關(guān)系時(shí)，之間存在函數(shù)關(guān)系時(shí)，X值一旦被指定，值一旦被指定，Y值就值就是獨(dú)一確定的。是獨(dú)一確定的。 2.非確定性關(guān)系相關(guān)關(guān)系：

2、兩個(gè)變量之間存在非確定性關(guān)系相關(guān)關(guān)系：兩個(gè)變量之間存在某種關(guān)系，但變量某種關(guān)系，但變量Y并不是由變量并不是由變量X獨(dú)一確定的，它獨(dú)一確定的，它們之間沒(méi)有嚴(yán)厲的一一對(duì)應(yīng)關(guān)系。們之間沒(méi)有嚴(yán)厲的一一對(duì)應(yīng)關(guān)系。 兩個(gè)變量之間假設(shè)存在線性關(guān)系稱為線性相關(guān)，存兩個(gè)變量之間假設(shè)存在線性關(guān)系稱為線性相關(guān)，存在非線性關(guān)系稱為曲線相關(guān)，通常經(jīng)過(guò)適當(dāng)?shù)淖兞吭诜蔷€性關(guān)系稱為曲線相關(guān)，通常經(jīng)過(guò)適當(dāng)?shù)淖兞孔儞Q，曲線相關(guān)可轉(zhuǎn)換為線性相關(guān)。變換，曲線相關(guān)可轉(zhuǎn)換為線性相關(guān)。3、相關(guān)的種類、相關(guān)的種類1 1按相關(guān)的程度分為完全相關(guān)、不完全相關(guān)按相關(guān)的程度分為完全相關(guān)、不完全相關(guān)和不相關(guān)。和不相關(guān)。兩種依存關(guān)系的標(biāo)志，其中一個(gè)標(biāo)志

3、的數(shù)量變化兩種依存關(guān)系的標(biāo)志，其中一個(gè)標(biāo)志的數(shù)量變化由另一個(gè)標(biāo)志的數(shù)量變化所確定，那么稱完全由另一個(gè)標(biāo)志的數(shù)量變化所確定，那么稱完全相關(guān)，也稱函數(shù)關(guān)系。相關(guān)，也稱函數(shù)關(guān)系。兩個(gè)標(biāo)志彼此互不影響，其數(shù)量變化各自獨(dú)立，兩個(gè)標(biāo)志彼此互不影響，其數(shù)量變化各自獨(dú)立，稱為不相關(guān)。稱為不相關(guān)。兩個(gè)景象之間的關(guān)系，介乎完全相關(guān)與不相關(guān)之兩個(gè)景象之間的關(guān)系，介乎完全相關(guān)與不相關(guān)之間稱不完全相關(guān)。間稱不完全相關(guān)。 2 2按相關(guān)的方向分為正相關(guān)和負(fù)相關(guān)按相關(guān)的方向分為正相關(guān)和負(fù)相關(guān) 正相關(guān)指相關(guān)關(guān)系表現(xiàn)為要素標(biāo)志和結(jié)果標(biāo)志的數(shù)正相關(guān)指相關(guān)關(guān)系表現(xiàn)為要素標(biāo)志和結(jié)果標(biāo)志的數(shù)量變動(dòng)方向一致。量變動(dòng)方向一致。 負(fù)相關(guān)指相關(guān)

4、關(guān)系表現(xiàn)為要素標(biāo)志和結(jié)果標(biāo)志的數(shù)負(fù)相關(guān)指相關(guān)關(guān)系表現(xiàn)為要素標(biāo)志和結(jié)果標(biāo)志的數(shù)量變動(dòng)方向是相反的。量變動(dòng)方向是相反的。 3 3按相關(guān)的方式分為線性相關(guān)和非線性相關(guān)按相關(guān)的方式分為線性相關(guān)和非線性相關(guān) 一種景象的一個(gè)數(shù)值和另一景象相應(yīng)的數(shù)值在指教一種景象的一個(gè)數(shù)值和另一景象相應(yīng)的數(shù)值在指教坐標(biāo)系中確定為一個(gè)點(diǎn)，稱為線性相關(guān)。坐標(biāo)系中確定為一個(gè)點(diǎn)，稱為線性相關(guān)。 4 4按影響要素的多少分為單相關(guān)和復(fù)相關(guān)。按影響要素的多少分為單相關(guān)和復(fù)相關(guān)。 假設(shè)研討的是一個(gè)結(jié)果標(biāo)志同某一要素標(biāo)志相關(guān)，假設(shè)研討的是一個(gè)結(jié)果標(biāo)志同某一要素標(biāo)志相關(guān)，就稱單相關(guān)。就稱單相關(guān)。 假設(shè)分析假設(shè)干要素標(biāo)志對(duì)結(jié)果標(biāo)志的影響，稱為假

5、設(shè)分析假設(shè)干要素標(biāo)志對(duì)結(jié)果標(biāo)志的影響，稱為復(fù)相關(guān)或多元相關(guān)。復(fù)相關(guān)或多元相關(guān)。二、總體相關(guān)系數(shù)二、總體相關(guān)系數(shù)()( )XYXYXYXXYYEXE XYE YCov(X,Y)在統(tǒng)計(jì)上衡量?jī)蓚€(gè)隨機(jī)變量X、Y取值間相互聯(lián)系的程度和方向的量是協(xié)方差Cov(X,Y)和相關(guān)系數(shù)，有1XY證 明2()()D YXE YXE YX證:對(duì)于任意實(shí)數(shù) ，有2( )()E YE YXE X222( )()2( )()E YE YE XE XEYE YXE X22YYXXXY XYXX令 ，則有()2XYXYXYYYXXXYXXXXXXD YX2（）22XYYYYYXX（1-）21YY由方差的性質(zhì)知，（1-） 0，

6、所以三、樣本相關(guān)系數(shù)三、樣本相關(guān)系數(shù)2211()()11nniiiiXXYYXXYYSSnn；rYX變量 和 之間線性相關(guān)的程度可以用樣本相關(guān)系數(shù) 度量。rXYXXYYSSS公式為11()1nXYiiiSXXYYn（） 為樣本協(xié)方差r樣本相關(guān)系數(shù) 的另一個(gè)計(jì)算公式為：11122221111r()()nnniiiiiiinnnniiiiiiiinx yxynxxnyy r1r1 相關(guān)系數(shù) 的取值為：r1r1r0YXYXYXYX，變量 和 是完全正相關(guān)；，變量 和 是完全負(fù)相關(guān)；在這兩種情況下， 和 之間的關(guān)系是函數(shù)關(guān)系。 時(shí)，只能說(shuō)明 和 之間不存在線性統(tǒng)計(jì)關(guān)系，但可能存在非線性關(guān)系xy正正 相

7、相 關(guān)關(guān)xy負(fù)負(fù) 相相 關(guān)關(guān)xy曲線相關(guān)曲線相關(guān)xy不不 相相 關(guān)關(guān)使用年限使用年限x x維修費(fèi)用（元）維修費(fèi)用（元）y yxyxy2 25405404 4291600291600108010803 35205209 9270400270400156015604 46406401616409600409600256025604 47407401616547600547600296029605 56006002525360000360000300030005 58008002525640000640000400040006 67007003636490000490000420042006 676

8、07603636577600577600456045606 69009003636810000810000540054008 88408406464705600705600672067209 910801080818111640011640097209720合計(jì)合計(jì)5858812081203483486268800626880045760457602x2xy 42)58(111348l2xx 274764)8120(1116268800l2yy 870274764422945r 計(jì)算結(jié)果闡明，機(jī)床運(yùn)用年限與維修費(fèi)用之間為計(jì)算結(jié)果闡明，機(jī)床運(yùn)用年限與維修費(fèi)

9、用之間為高度正相關(guān)。高度正相關(guān)。四、相關(guān)系數(shù)的顯著性檢驗(yàn)四、相關(guān)系數(shù)的顯著性檢驗(yàn)01:0:0HH假設(shè)2r02tn21r ntr實(shí)際應(yīng)用中是對(duì) 作變換，所以對(duì)總體系數(shù) 的假設(shè)檢驗(yàn)，可令（）r因?yàn)榫€性相關(guān)系數(shù)通常是根據(jù)樣本數(shù)據(jù)計(jì)算出的，帶有一定的隨機(jī)性，因此要通過(guò)樣本相關(guān)系數(shù) 對(duì)總體相關(guān)系數(shù) 作出推斷。2ttr若，表明 在統(tǒng)計(jì)上是顯著的，r可作為X和Y之間是否存在線性關(guān)系的證據(jù)。2ttr若，表明 在統(tǒng)計(jì)上是不顯著的，r不能作為X和Y之間是否存在線性關(guān)系的證據(jù)。五、相關(guān)分析中應(yīng)留意的問(wèn)題五、相關(guān)分析中應(yīng)留意的問(wèn)題 相關(guān)系數(shù)不解釋兩個(gè)變量間的因果關(guān)系，相關(guān)系數(shù)不解釋兩個(gè)變量間的因果關(guān)系，它只是闡明了兩

10、個(gè)變量間相互影響的程度它只是闡明了兩個(gè)變量間相互影響的程度和方向。和方向。 有時(shí)兩變量之間不存在相關(guān)關(guān)系，但卻能有時(shí)兩變量之間不存在相關(guān)關(guān)系，但卻能夠出現(xiàn)較高的相關(guān)系數(shù)，要警惕虛偽相關(guān)夠出現(xiàn)較高的相關(guān)系數(shù)，要警惕虛偽相關(guān)導(dǎo)致的錯(cuò)誤結(jié)論。導(dǎo)致的錯(cuò)誤結(jié)論。第二節(jié)第二節(jié) 一元線性回歸分析一元線性回歸分析 回歸分析是經(jīng)過(guò)一個(gè)或一些變量的變化來(lái)解釋另一變量回歸分析是經(jīng)過(guò)一個(gè)或一些變量的變化來(lái)解釋另一變量的變化。的變化。 其內(nèi)容和步驟：其內(nèi)容和步驟： 1.根據(jù)實(shí)際和對(duì)問(wèn)題的分析判別，區(qū)分自變量和因變量。根據(jù)實(shí)際和對(duì)問(wèn)題的分析判別，區(qū)分自變量和因變量。 2.設(shè)法找出適宜的回歸模型來(lái)描畫變量間的關(guān)系。設(shè)法找出

11、適宜的回歸模型來(lái)描畫變量間的關(guān)系。 3.對(duì)回歸模型進(jìn)展統(tǒng)計(jì)檢驗(yàn)。對(duì)回歸模型進(jìn)展統(tǒng)計(jì)檢驗(yàn)。 4.利用回歸模型，根據(jù)解釋變量去估計(jì)、預(yù)測(cè)因變量。利用回歸模型，根據(jù)解釋變量去估計(jì)、預(yù)測(cè)因變量。01,iYXu例如：分析家庭消費(fèi)支出Y與可支配收入X兩變量的關(guān)系二者之間有數(shù)學(xué)結(jié)構(gòu)式：（9.3）019.3iu式中：、 是總體回歸參數(shù)； 是隨機(jī)項(xiàng)，表示除可支配收入以外其他影響家庭消費(fèi)支出變化的因素。式（總體回）被稱為歸模型。一、一元線性回歸的數(shù)學(xué)模型一、一元線性回歸的數(shù)學(xué)模型iu2是相互獨(dú)立，具有相同方差的隨機(jī)變量。隨機(jī)干擾項(xiàng)的主要內(nèi)容有：隨機(jī)干擾項(xiàng)的主要內(nèi)容有：1.未詳細(xì)列入模型但又共同影響變量的種種要素未

12、詳細(xì)列入模型但又共同影響變量的種種要素2.變量的觀測(cè)誤差變量的觀測(cè)誤差3.隨機(jī)誤差隨機(jī)誤差4.模型的設(shè)定誤差模型的設(shè)定誤差二、線性回歸模型的含義二、線性回歸模型的含義 1.就變量而言，線性是指Y的條件期望是X的線性函數(shù)。如： 2.就參數(shù)而言，線性是指Y的條件期望是參數(shù)i的線性函數(shù)。如：i01(|)iiE YXX是一元線性函數(shù)1201122(|,)iiiiiE YXXXX是二元線性函數(shù)1011201(|).(|)iiniinniiiiE YXXXXE YXX，.是多元線性函數(shù)是非線性函數(shù)201(|)iiiE YXX是一元線性回歸函數(shù)01(|)iiiE YXX而就不是線性函數(shù)三、樣本回歸模型三、樣

13、本回歸模型 現(xiàn)實(shí)上，總體現(xiàn)實(shí)上，總體Y是未知的，我們所能獲得的只能是與給定是未知的，我們所能獲得的只能是與給定X值相對(duì)應(yīng)的值相對(duì)應(yīng)的Y的樣本觀測(cè)值，我們經(jīng)過(guò)樣本提供的信息來(lái)認(rèn)的樣本觀測(cè)值，我們經(jīng)過(guò)樣本提供的信息來(lái)認(rèn)識(shí)總體，找出總體回歸模型的估計(jì)式。識(shí)總體，找出總體回歸模型的估計(jì)式。 可支配收入與消費(fèi)支出的簡(jiǎn)單隨機(jī)樣本可支配收入與消費(fèi)支出的簡(jiǎn)單隨機(jī)樣本x1x2x3x4x5x6x7x8x9x1080100120140160180200220240260樣本170659095110115120140155120樣本255889080118120145135145175對(duì)散點(diǎn)分別擬合直線，是總體回歸線

14、的估計(jì)線對(duì)散點(diǎn)分別擬合直線，是總體回歸線的估計(jì)線01iiiiiiYXeeY樣本回歸模型為：稱為殘差，是樣本觀測(cè)值 與估計(jì)值Y 之間的誤差。根據(jù)散點(diǎn)圖，我們可以用樣本回歸直線方程對(duì)總體回歸直線方程進(jìn)行推斷和估計(jì)。01iiX樣本回歸方程為： Y四、回歸直線的擬合四、回歸直線的擬合1.iiiiiXuuXu假定以給定的為條件， 服從條件期望為零的正態(tài)分布，即E()=0;簡(jiǎn)記為：E( )=02.( ,)()()0()ijiijjCov u uE uEuuEuij假定各個(gè)隨機(jī)干擾項(xiàng)之間互不相關(guān)，即假定它們之間無(wú)序列相關(guān)或自相關(guān)3.iiiiXuYuu2i假定對(duì)于每個(gè)給定的， 的方差是一個(gè)常數(shù)，即各個(gè) 總體具

15、有相同方差,即D( |X )=D( )=1.簡(jiǎn)單線性回歸模型的統(tǒng)計(jì)假定簡(jiǎn)單線性回歸模型的統(tǒng)計(jì)假定4.()()()0iiiiiiiiuXCov u XE uEuXEX假定與不相關(guān)。即,滿足以上滿足以上4條假設(shè)的線性回歸模型稱為古典或普通線性回歸模型，條假設(shè)的線性回歸模型稱為古典或普通線性回歸模型，其參數(shù)估計(jì)所采用的最小平方法稱作普通最小平方法其參數(shù)估計(jì)所采用的最小平方法稱作普通最小平方法2.簡(jiǎn)單線性回歸模型的參數(shù)估計(jì)簡(jiǎn)單線性回歸模型的參數(shù)估計(jì)-最小平方法最小平方法0101iiiiiYXYXe設(shè)樣本線性回歸模型為：iiiYe由上兩式得 Y01iiiiiiiYYeYYYX就是 的擬合值, 為擬合誤差

16、201111nnniiiiiiiieYYYX22即 （） （）minie要使擬合的直線“最佳”，就要使 最小,2011niie分別對(duì)、 的一階偏導(dǎo)數(shù)等于零21011niiiiieYX Xi-2()=021010niiiieYXi-2()=001201iiiiiiiiiiiYnXY XXX整理后為；+1012()()()iiiiXX YYYXXX最后得到:3.最小平方估計(jì)線和估計(jì)量的性質(zhì)最小平方估計(jì)線和估計(jì)量的性質(zhì)20101.0002()0iiiiiiiiYXi性質(zhì)剩余殘參之和為零，即由公式：可得 ，即e2.iXY性質(zhì)所擬合的直線通過(guò)均值點(diǎn)（ ， ）,即通過(guò)樣本散點(diǎn)圖的重心，因而預(yù)測(cè)值Y的均值等

17、于觀測(cè)值的均值。010111()iiiiiYYXeXnn01111iiiiXYXXYXXY（）+（- ）111iiiiYXXYYnnY（- ）于是：20112()0,0iiiiiiieYX Xeii由公式：可得X ，3.iieX性質(zhì)剩余項(xiàng) 與解釋變量不相關(guān))0iiiXXeiiiii又由于e 與解釋變量 的協(xié)方差為 （e -e)(XX0011(),()EE014.性質(zhì)、 分別是總體回歸參數(shù)的無(wú)偏估計(jì)量。012221100225.(,),(,)()()iiiiiiXNNXXXX性質(zhì)、 都是服從正態(tài)分布的隨機(jī)變量,有:0101iY在隨機(jī)誤差項(xiàng)為正態(tài)分布的假設(shè)下，由于、都是 的線性組合，所以、 的分布

18、也表現(xiàn)為正態(tài)分布。2012222iien i在，的方差中都涉及到隨機(jī)干擾項(xiàng)u的方差，令的估計(jì)量iiyYY證：令0101iiiYXuYXu對(duì)于回歸模型得到： 01011iiiiiyYYXXx1()iixuui兩式相減，得到：yE22證明：（ ）iiiiieYYYYYY11()()iiiiyyuux21122112() ()2 ()()iiiiiiiiiEeEx uxuEEuu取其期望得：22221111()()2()()iiiiiiiiineuuxx uu對(duì) 個(gè)樣本觀察值求剩余平方和，得：222() ()()2 ()iiiiiiiEuuEuEuE uu等式右邊第一項(xiàng)212()iiDx222221

19、12()()iiiiiix Exx于是等式右邊第二項(xiàng)有：12201122()()()()iiiiiiiiiiiiiiiiiiiiiiiXX YYX YYxXXxxXuxuxx等式右邊第三項(xiàng)：112iiiiixux21122222222211222()2 ()()2 ()2 ()22 ()2()2()iiiiiiiiiiiiiiiiiiiiiiiiiiiiiiixuxuEx uuExuuxExxxuxEExxxx22222()(1)2(2)iiEenn分別代入得到：22()2iieEn于是：22所以： 是總體真實(shí)方差的無(wú)偏估計(jì)量五五.回歸模型的檢驗(yàn)回歸模型的檢驗(yàn)1.擬合優(yōu)度擬合優(yōu)度YXiYYii

20、YYiYY01iiYX222()()()iiiiiiiSSTYYSSRYYSSEYYSSTSSRSSE令為總離差平方和為回歸離差平方和為剩余平方和則有：2222()()()2()()()()iiiiiiiiiiiiiiiSSTYYYYYYYYYYYYYY證明：0101()()()()0iiiiiiiii iiiYYYYXY eYeX e因?yàn)?22()()()iiiiiiiYYYYYY所以假設(shè)假設(shè)SSR占的比例越大，那么回歸線對(duì)察看點(diǎn)擬合得越好。占的比例越大，那么回歸線對(duì)察看點(diǎn)擬合得越好。221(01)SSRSSErrSSTSST 稱作斷定系數(shù)，可用于判別回歸方程的擬合優(yōu)度。稱作斷定系數(shù)，可用于

21、判別回歸方程的擬合優(yōu)度。2222122()()iiiiiiiinXXrnYY判定系數(shù)的計(jì)算公式：斷定系數(shù)與樣本相關(guān)系數(shù)斷定系數(shù)與樣本相關(guān)系數(shù) 斷定系數(shù)的平方根就是相關(guān)系數(shù)。斷定系數(shù)的平方根就是相關(guān)系數(shù)。1若由判定系數(shù)開平方來(lái)求相關(guān)系數(shù)，可以通過(guò)回歸系數(shù)來(lái)判斷相關(guān)系數(shù)的符號(hào)，回歸系數(shù)與相關(guān)系數(shù)正負(fù)號(hào)相同。2.回歸系數(shù)的顯著性檢驗(yàn)回歸系數(shù)的顯著性檢驗(yàn)21121122(,)() (2)iiiiNXXtt nx已知： 因此有檢驗(yàn)統(tǒng)計(jì)量： 3.回歸系數(shù)的顯著性檢驗(yàn)步驟回歸系數(shù)的顯著性檢驗(yàn)步驟01111.:0,:0HH建立原假設(shè)：2.計(jì)算檢驗(yàn)統(tǒng)計(jì)量t22(2),(2),tnXYtnXY3.根據(jù)給定的顯著水

22、平 ，若t則拒絕原假設(shè)，即 作為 的解釋變量作用是顯著的。若t則不能拒絕原假設(shè)，即 作為 的解釋變量作用是不明顯。 X與Y之間能否存在線性關(guān)系，可以利用方差分析的方法進(jìn)展F檢驗(yàn)。1(1,2)221FSSRSSRFFnSSE nSSEnSSTn方差來(lái)源平方和 自由度值臨界值回歸殘差總變差六、回歸分析的預(yù)測(cè)和推斷六、回歸分析的預(yù)測(cè)和推斷 1.總體均值的預(yù)測(cè)和推斷總體均值的預(yù)測(cè)和推斷01iiYX樣本回歸線為：0101iiiiiiYXuYXe總體回歸模型：樣本回歸模型：00010,XX YX：給測(cè)定點(diǎn)值預(yù)22000102,()1(,()()iiXXYNXnXX：給定置信水區(qū)間預(yù)平（測(cè)1- ）22200

23、02022() (2)()1()iiiienYE YXtt nXXnXX用代替，得到t統(tǒng)計(jì)量2002220022()1(2),()()1(2)()iiiiXXYtnnXXXXYtnnXX總體均值的預(yù)測(cè)區(qū)間為：00,Ye0對(duì)應(yīng)于給定的X=X 要預(yù)測(cè)總體的個(gè)別值 的取值區(qū)間，就要考慮 的分布000eYY已知：222000022202()1()()()()()()1(1)()iiiiXXD eD YD YnXXXXnXX則000Y與Y都服從正態(tài)分布，則e 也服從正態(tài)分布，有202(0,1)()11()iiNXXnXX000（Y -Y）-E(e )00202 (2)()1 1()iiYYtt nXXn

24、XX當(dāng) 代替 后，則有2002220022()1(2)1,()()1(2)1()iiiiXXYtnnXXXXYtnnXX0于是得到個(gè)別值Y 在給定置信水平1- 下的置信區(qū)間為：例例9.9 隨機(jī)抽查了消費(fèi)同種產(chǎn)品的隨機(jī)抽查了消費(fèi)同種產(chǎn)品的10個(gè)企業(yè)，個(gè)企業(yè)，得到它們的產(chǎn)量和消費(fèi)費(fèi)用的數(shù)據(jù)：得到它們的產(chǎn)量和消費(fèi)費(fèi)用的數(shù)據(jù)：企業(yè)編號(hào)12345678910產(chǎn)量40424855657988100120140生產(chǎn)費(fèi)用1501401601701501621851651901851.建立消費(fèi)費(fèi)用對(duì)產(chǎn)量的回歸方程建立消費(fèi)費(fèi)用對(duì)產(chǎn)量的回歸方程2.預(yù)測(cè)當(dāng)產(chǎn)量為預(yù)測(cè)當(dāng)產(chǎn)量為80千克時(shí)，該類企業(yè)平均的消費(fèi)費(fèi)千克時(shí)，該類

25、企業(yè)平均的消費(fèi)費(fèi)用的置信區(qū)間用的置信區(qū)間3.預(yù)測(cè)其產(chǎn)量為預(yù)測(cè)其產(chǎn)量為80千克的某企業(yè)的消費(fèi)費(fèi)用的置信千克的某企業(yè)的消費(fèi)費(fèi)用的置信程度為程度為95的置信區(qū)間的置信區(qū)間解：解：1.作作X與與Y的散點(diǎn)圖的散點(diǎn)圖 2.估計(jì)回歸方程估計(jì)回歸方程 3.檢驗(yàn)檢驗(yàn) a.擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn) b.回歸系數(shù)檢回歸系數(shù)檢 驗(yàn)驗(yàn) c.回歸方程檢驗(yàn)回歸方程檢驗(yàn) 4.總體均值的置信區(qū)間預(yù)測(cè)總體均值的置信區(qū)間預(yù)測(cè) 5.總體個(gè)別值的置信區(qū)間預(yù)測(cè)總體個(gè)別值的置信區(qū)間預(yù)測(cè)作散點(diǎn)圖作散點(diǎn)圖從圖中看出消費(fèi)費(fèi)用與產(chǎn)量之間的關(guān)系近似為線性從圖中看出消費(fèi)費(fèi)用與產(chǎn)量之間的關(guān)系近似為線性解：解：1.作作X與與Y的散點(diǎn)圖的散點(diǎn)圖 2.估計(jì)回

26、歸方程估計(jì)回歸方程 3.檢驗(yàn)檢驗(yàn) a.擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn) b.回歸系數(shù)檢回歸系數(shù)檢 驗(yàn)驗(yàn) c.回歸方程檢驗(yàn)回歸方程檢驗(yàn) 4.總體均值的置信區(qū)間預(yù)測(cè)總體均值的置信區(qū)間預(yù)測(cè) 5.總體個(gè)別值的置信區(qū)間預(yù)測(cè)總體個(gè)別值的置信區(qū)間預(yù)測(cè)01iiYX估計(jì)回歸方程122010.3978()134.79iiiiiiiiiiinX YXYnXXYX根據(jù)樣本數(shù)據(jù)計(jì)算得：解：解：1.作作X與與Y的散點(diǎn)圖的散點(diǎn)圖 2.估計(jì)回歸方程估計(jì)回歸方程 3.檢驗(yàn)檢驗(yàn) a.擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn) b.回歸系數(shù)檢回歸系數(shù)檢 驗(yàn)驗(yàn) c.回歸方程檢驗(yàn)回歸方程檢驗(yàn) 4.總體均值的置信區(qū)間預(yù)測(cè)總體均值的置信區(qū)間預(yù)測(cè) 5.總體個(gè)別值的置

27、信區(qū)間預(yù)測(cè)總體個(gè)別值的置信區(qū)間預(yù)測(cè)擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn)2222122()0.652()iiiiiiiinXXrnYY檢驗(yàn)結(jié)果闡明消費(fèi)費(fèi)用的變動(dòng)有檢驗(yàn)結(jié)果闡明消費(fèi)費(fèi)用的變動(dòng)有65.2可以由產(chǎn)量的變動(dòng)解釋可以由產(chǎn)量的變動(dòng)解釋解：解：1.作作X與與Y的散點(diǎn)圖的散點(diǎn)圖 2.估計(jì)回歸方程估計(jì)回歸方程 3.檢驗(yàn)檢驗(yàn) a.擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn) b.回歸系數(shù)檢回歸系數(shù)檢 驗(yàn)驗(yàn) c.回歸方程檢驗(yàn)回歸方程檢驗(yàn) 4.總體均值的置信區(qū)間預(yù)測(cè)總體均值的置信區(qū)間預(yù)測(cè) 5.總體個(gè)別值的置信區(qū)間預(yù)測(cè)總體個(gè)別值的置信區(qū)間預(yù)測(cè)2201889.23iiiiiiiiieYYX Y0111:0:0HH2(2)10.5429ii

28、en110.05223.872(8)2.306iittx回歸系數(shù)檢驗(yàn)回歸系數(shù)檢驗(yàn)回絕原假設(shè)，闡明回絕原假設(shè)，闡明X與與Y存在線性關(guān)系存在線性關(guān)系解：解：1.作作X與與Y的散點(diǎn)圖的散點(diǎn)圖 2.估計(jì)回歸方程估計(jì)回歸方程 3.檢驗(yàn)檢驗(yàn) a.擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn) b.回歸系數(shù)檢回歸系數(shù)檢 驗(yàn)驗(yàn) c.回歸方程檢驗(yàn)回歸方程檢驗(yàn) 4.總體均值的置信區(qū)間預(yù)測(cè)總體均值的置信區(qū)間預(yù)測(cè) 5.總體個(gè)別值的置信區(qū)間預(yù)測(cè)總體個(gè)別值的置信區(qū)間預(yù)測(cè)回歸方程檢驗(yàn)回歸方程檢驗(yàn)22211666.33889.23iiSSRXnX因?yàn)椋?）SSE0.0114.99(1,8)11.3(2)SSRFFSSE n即回歸方程是高度顯著的，

29、即回歸方程是高度顯著的，X與與Y之間之間確實(shí)存在線性關(guān)系確實(shí)存在線性關(guān)系解：解：1.作作X與與Y的散點(diǎn)圖的散點(diǎn)圖 2.估計(jì)回歸方程估計(jì)回歸方程 3.檢驗(yàn)檢驗(yàn) a.擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn) b.回歸系數(shù)檢回歸系數(shù)檢 驗(yàn)驗(yàn) c.回歸方程檢驗(yàn)回歸方程檢驗(yàn) 4.總體均值的置信區(qū)間預(yù)測(cè)總體均值的置信區(qū)間預(yù)測(cè) 5.總體個(gè)別值的置信區(qū)間預(yù)測(cè)總體個(gè)別值的置信區(qū)間預(yù)測(cè)總體均值的置信區(qū)間預(yù)測(cè)總體均值的置信區(qū)間預(yù)測(cè)20022()1(2)()66.6147.707iiXXYtnnXX即置信區(qū)間為即置信區(qū)間為158.844 ，174.321闡明了闡明了當(dāng)企業(yè)的產(chǎn)量為當(dāng)企業(yè)的產(chǎn)量為80千克時(shí)，消費(fèi)費(fèi)用平均為千克時(shí)，消費(fèi)費(fèi)

30、用平均為158844元到元到174321元之間，其可信度為元之間，其可信度為95解：解：1.作作X與與Y的散點(diǎn)圖的散點(diǎn)圖 2.估計(jì)回歸方程估計(jì)回歸方程 3.檢驗(yàn)檢驗(yàn) a.擬合優(yōu)度檢驗(yàn)擬合優(yōu)度檢驗(yàn) b.回歸系數(shù)檢回歸系數(shù)檢 驗(yàn)驗(yàn) c.回歸方程檢驗(yàn)回歸方程檢驗(yàn) 4.總體均值的置信區(qū)間預(yù)測(cè)總體均值的置信區(qū)間預(yù)測(cè) 5.總體個(gè)別值的置信區(qū)間預(yù)測(cè)總體個(gè)別值的置信區(qū)間預(yù)測(cè)總體個(gè)別值的置信區(qū)間預(yù)測(cè)總體個(gè)別值的置信區(qū)間預(yù)測(cè)20022()1(2)1()166.1425.503iiXXYtnnXX置信區(qū)間為置信區(qū)間為140.637，191.643。對(duì)于產(chǎn)量為。對(duì)于產(chǎn)量為80千克的某個(gè)企業(yè)而言，其消費(fèi)費(fèi)用在千克的某個(gè)

31、企業(yè)而言，其消費(fèi)費(fèi)用在140637元元到到191643元之間，能夠性為元之間，能夠性為95七、相關(guān)分析與回歸分析的關(guān)系七、相關(guān)分析與回歸分析的關(guān)系 一區(qū)別一區(qū)別 1 1、相關(guān)分析的義務(wù)是確定兩個(gè)變量之間相關(guān)的方向、相關(guān)分析的義務(wù)是確定兩個(gè)變量之間相關(guān)的方向和親密程度。回歸分析的義務(wù)是尋覓因變量對(duì)自變量和親密程度。回歸分析的義務(wù)是尋覓因變量對(duì)自變量依賴關(guān)系的數(shù)學(xué)表達(dá)式。依賴關(guān)系的數(shù)學(xué)表達(dá)式。 2 2、相關(guān)分析不用確定兩變量中哪個(gè)是自變量，哪個(gè)、相關(guān)分析不用確定兩變量中哪個(gè)是自變量，哪個(gè)是因變量，而回歸分析中必需區(qū)分因變量與自變量。是因變量，而回歸分析中必需區(qū)分因變量與自變量。 3 3、相關(guān)分析中

32、兩變量是對(duì)等的改動(dòng)兩者的位置，并、相關(guān)分析中兩變量是對(duì)等的改動(dòng)兩者的位置，并不影響相關(guān)系數(shù)的數(shù)值，只需一個(gè)相關(guān)系數(shù)。而在回不影響相關(guān)系數(shù)的數(shù)值，只需一個(gè)相關(guān)系數(shù)。而在回歸分析中，互為因果關(guān)系的兩個(gè)變量可以編制兩個(gè)獨(dú)歸分析中，互為因果關(guān)系的兩個(gè)變量可以編制兩個(gè)獨(dú)立的回歸方程。立的回歸方程。 4 4、相關(guān)分析中兩變量可以都是隨機(jī)的，而回歸分析、相關(guān)分析中兩變量可以都是隨機(jī)的，而回歸分析中因變量是隨機(jī)的，自變量不是隨機(jī)的。中因變量是隨機(jī)的，自變量不是隨機(jī)的。二聯(lián)絡(luò)二聯(lián)絡(luò) 1 1、相關(guān)分析是回歸分析的根底和前提。只需、相關(guān)分析是回歸分析的根底和前提。只需在相關(guān)分析確定了變量之間存在一定相關(guān)關(guān)系在相關(guān)分

33、析確定了變量之間存在一定相關(guān)關(guān)系的根底上建立的回歸方程才有意義。的根底上建立的回歸方程才有意義。 2 2、回歸分析是相關(guān)分析的繼續(xù)和深化。只需、回歸分析是相關(guān)分析的繼續(xù)和深化。只需建立了回歸方程才干闡明變量之間的依賴關(guān)系，建立了回歸方程才干闡明變量之間的依賴關(guān)系，并進(jìn)一步進(jìn)展預(yù)測(cè)。并進(jìn)一步進(jìn)展預(yù)測(cè)。多元線性回歸模型多元線性回歸模型1多元線性回歸模型的性質(zhì)與模型確實(shí)定多元線性回歸模型的性質(zhì)與模型確實(shí)定二元線性回歸模型：二元線性回歸模型：總體多元線性回歸模型的普通方式總體多元線性回歸模型的普通方式Y(jié)的數(shù)學(xué)期望的數(shù)學(xué)期望EY隨機(jī)誤差隨機(jī)誤差闡明自變量闡明自變量共同變動(dòng)引起的共同變動(dòng)引起的Y 的平均變

34、動(dòng)。也稱總體的二元線性回歸方差。的平均變動(dòng)。也稱總體的二元線性回歸方差。常數(shù)項(xiàng)，常數(shù)項(xiàng)，和和Y構(gòu)成的平面與構(gòu)成的平面與Y軸的截距軸的截距偏回歸系數(shù)，表示在偏回歸系數(shù)，表示在 固定時(shí)固定時(shí) 每變化一個(gè)單位引起的每變化一個(gè)單位引起的Y的平均變動(dòng)；的平均變動(dòng)；案例案例01122nnyxxx 01122 yxx01122,E Yxx （ ）12,xx、0 1 12,xx、2x1x偏回歸系數(shù)，表示在偏回歸系數(shù)，表示在 固定時(shí)固定時(shí) 每變化一個(gè)單位引每變化一個(gè)單位引起的起的Y的平均變動(dòng)；的平均變動(dòng)；2x1x隨機(jī)誤差，其實(shí)際假定與一元線性回歸模型中的隨機(jī)誤差，其實(shí)際假定與一元線性回歸模型中的 一一樣。樣。在

35、多元回歸模型中，還要求各自變量之間不存在顯著相在多元回歸模型中，還要求各自變量之間不存在顯著相關(guān)，或高度相關(guān)也即不得存在多重共線性。關(guān)，或高度相關(guān)也即不得存在多重共線性。樣本多元線性回歸模型的普通方式樣本多元線性回歸模型的普通方式二元線性回歸模型為：二元線性回歸模型為：其數(shù)學(xué)期望其數(shù)學(xué)期望也稱樣本或估計(jì)的二元線性回歸方程。也稱樣本或估計(jì)的二元線性回歸方程。2 1122nnyab xb xb x 1122yab xb x 1122E yab xb x（ ）二元線性回歸方程確實(shí)定二元線性回歸方程確實(shí)定根據(jù)實(shí)踐資料，用最小平方法，即使根據(jù)實(shí)踐資料，用最小平方法，即使 ，分別對(duì)，分別對(duì)a、b1、b2求

36、編導(dǎo)并令其為零，求得三個(gè)規(guī)范求編導(dǎo)并令其為零，求得三個(gè)規(guī)范方程：方程：解此聯(lián)立方程便可得到解此聯(lián)立方程便可得到a、b1、b2。1122()yab xb x2()jyy 最最小小1122211121222211222jjjynabxbxx ya xb xbx xx ya xbx xbx 2多元線性回歸模型的斷定系數(shù)和估計(jì)規(guī)范誤多元線性回歸模型的斷定系數(shù)和估計(jì)規(guī)范誤斷定系數(shù)斷定系數(shù) 0r21修正的斷定余數(shù)：修正的斷定余數(shù)：2211(1)1nrrnp 2211222222( )()()( )jjjjja ybx ybx yn yyyryyyn y r2和和Syx1、x2都是對(duì)回歸模型擬合優(yōu)度的評(píng)價(jià)目

37、的。都是對(duì)回歸模型擬合優(yōu)度的評(píng)價(jià)目的。 Syx1、x2也是用自變量對(duì)因變量進(jìn)展區(qū)間估計(jì)的抽樣誤也是用自變量對(duì)因變量進(jìn)展區(qū)間估計(jì)的抽樣誤差。差。估計(jì)規(guī)范誤估計(jì)規(guī)范誤Syx1、x21221122(,)()33jjjjjy xxyyya ybx ybx ySnn 3多元回歸模型的顯著性檢驗(yàn)多元回歸模型的顯著性檢驗(yàn)對(duì)偏回歸系數(shù)的對(duì)偏回歸系數(shù)的t檢驗(yàn)檢驗(yàn) H0: 1=0 , H1: 10;H0: 2=0,H1: 20。檢驗(yàn)統(tǒng)計(jì)量：檢驗(yàn)統(tǒng)計(jì)量：1212| |,| |bbbbtt 122221(,)22211221122()() () ()()by xxxxSxxxxxxxx 122222b2(,)2221

38、1221122()() () ()()y xxxxSxxxxxxxx 按顯著性程度按顯著性程度和自在度和自在度 n-3查查t表可得到臨界值表可得到臨界值t02(3)tn 2(3)tn 2(3)tn 模型整體的模型整體的F檢驗(yàn)檢驗(yàn)檢驗(yàn)統(tǒng)計(jì)量：檢驗(yàn)統(tǒng)計(jì)量：k自變量個(gè)數(shù)自變量個(gè)數(shù)或或 按給定的按給定的和自在度和自在度2和和n-3查查F表可得到表可得到臨界值臨界值F22() /() /(1)jyykFyynk 22() /2() /(3)jyyFyyn 2222/2(3)(1)/(3)2(1)rrnFrnr 2,3nF （）2,3nF （）4多元回歸中的相關(guān)分析多元回歸中的相關(guān)分析 復(fù)相關(guān)：指一個(gè)因變量同多個(gè)自變量的相關(guān)關(guān)系。復(fù)相關(guān)：指一個(gè)因變量同多個(gè)自變量的相關(guān)關(guān)系。復(fù)相關(guān)