第十三章多元回歸與多元相關分析設因變量Y與自變量x1,x2,…xm有關系式:Y=a+b1x1+b2x2+…+bmxm+ε其中ε就是隨機項?，F有n組數據:(y1;x11,x21,…xm1)(y2;x12,x22,…xm2)………、、(yn;x1n,x2n,…xmn)其中,xij就是自變量xi得第j個值,yj就是Y得第j個觀測值。2假定:其中a,b1,…bm就是待估參數;而ε1,ε2,…,εn相互獨立且服從相同得分布N(0,σ2)3樣本多元回歸方程為:4二、多元線性回歸方程得建立同直線回歸一樣,用最小二乘法要使Q達到最小,就必須使Q得偏微分方程皆等于0,即有:5………、、………、、整理得:6其中:該方程組用矩陣表示為:7若系數矩陣用A表示,未知項矩陣用b表示,常數矩陣用K表示,則可寫為:Ab=K(13、8)為了求解b,一般應先求出A得逆矩陣A-1,令:A-1就是一個m階得對稱矩陣,即有cij=cji89大家應該也有點累了，稍作休息大家有疑問的，可以詢問和交流A-1A=I式12、8兩邊同乘以A-1,可得b=A-1K即:例13、110三、多元回歸得假設檢驗和置信區(qū)間(一)

多元線性回歸方程得估計標準誤其中:Sy/12…m——多元回歸方程得估計標準誤;Qy/12…m——多元回歸方程得離回歸平方和(剩余平方和);df=n-(m+1)=n-m-1,因為在計算多元回歸方程時,已用去a,b1,b2,…,bm共m+1個統(tǒng)計數。11與直線回歸分析類似,多元回歸中因變量y得總平方和也可分解為離回歸平方和(剩余平方和)與回歸平方和(Uy/12…m)即:例13、212(二)多元線性回歸方程得假設檢驗多元線性回歸關系假設檢驗得原理和方法與直線回歸關系得假設檢驗就是一樣得。其假設為;HA:不全為0?？赏ㄟ^F檢驗來實現:式中:分子自由度df1=m,分母自由度df2=n-(m+1)13這里應注意兩個問題:1)多元線性回歸關系顯著不排斥有更合理得多元非線性回歸方程得存在;2)多元線性回歸關系顯著也不排斥其中存在著與因變量y無線性關系得自變量,因此有必要對各偏回歸系數逐個進行假設檢驗,以便發(fā)現和剔除β=0得自變量。一般說來,只有當多元回歸方程得自變量得偏回歸系數均達到顯著時,多元回歸檢驗得F值才有確定意義。例13、314(三)偏回歸系數得假設檢驗偏回歸系數得假設檢驗就是逐個分別計算各偏回歸系數bi來自βi=0得總體得概率。所作得假設為:偏回歸系數得假設檢驗有t檢驗和F檢驗兩種。t檢驗和F檢驗結果就是完全一樣得(F=t2),實際應用時可任選一種。15(1)t檢驗偏回歸系數bi得標準誤為:符合df=n-(m+1)得t分布,故在H0:βi=0得假設下,由可知bi抽自βi得總體得概率。16(2)F檢驗Upi——y在xi上得偏回歸平方和可確定bi來自βi=0得總體得概率。例13、417(四)多元線性回歸得區(qū)間估計多元線性回歸中因變量y得估計一般有兩種。1)對各變量得一組取值所對應得y總體平均數μy/12…m得估計;2)對各變量得一組取值所對應得單個y得估計(觀測值y)μy/12…m得置信區(qū)間為:18單個y得置信區(qū)間可用下式估計:例13、519第二節(jié)多元相關分析一、多元相關分析多元相關或復相關:就是指m個自變量和因變量得總相關。用多元相關系數Ry/12…m來表示m個自變量與因變量y總得密切程度。(13、32)20Ry/12…m得取值區(qū)間為[0,1],接近1,相關程度高,多元相關系數得假設檢驗用F檢驗,而不能用t檢驗。假設H0:ρ=0;對HA:ρ≠0,其F值為:(13、33)式中,df1=m,df2=n-m-1,R2=R2y/12…m多元相關系數得顯著性與多元回歸方程得顯著性一致,即Ry/12…m顯著,多元回歸方程必顯著。21對同一資料,多元相關與多元回歸得假設檢驗只需要進行一種。由于在df1=m,df2=n=m-1一定時,給定顯著水平α得F值也一定,所以將式12、47移項整理,可得顯著水平為α時臨界R值:(13、34)R與比較,R>相關按自由度df=n-m-1和變量個數M=m+1查附表14,而不必直接計算。22稱決定系數她就是多元回歸平方和占y得總變異平方和得比率。即有x%可由自變量得變異決定。例13、6P24723二、偏相關偏相關系數:在其她變量都保持一定時,表示指定得