1、回歸分析,回歸分析主要解決以下幾方面的問(wèn)題： 通過(guò)分析大量的樣本數(shù)據(jù)，確定變量之間的數(shù)學(xué)關(guān)系式。 對(duì)所確定的數(shù)學(xué)關(guān)系式的可信程度進(jìn)行各種統(tǒng)計(jì)檢驗(yàn)，并區(qū)分出對(duì)某一特定變量影響較為顯著的變量和影響不顯著的變量。 利用所確定的數(shù)學(xué)關(guān)系式，根據(jù)一個(gè)或幾個(gè)變量的值來(lái)預(yù)測(cè)或控制另一個(gè)特定變量的取值，并給出這種預(yù)測(cè)或控制的精確度。,2.1 統(tǒng)計(jì)學(xué)上的定義和計(jì)算公式,定義：一元線性回歸分析是分析某一個(gè)因素（自變量）是如何影響另一事物（因變量）的過(guò)程，所進(jìn)行的分析是比較理想化的。其實(shí)，在現(xiàn)實(shí)生活中，任何一個(gè)事物（因變量）總是受到其他多種事物（多個(gè)自變量）的影響。, 研究問(wèn)題 合成纖維的強(qiáng)度與其拉伸倍數(shù)有關(guān)，測(cè)得

2、試驗(yàn)數(shù)據(jù)如表9-1所示。求合成纖維的強(qiáng)度與拉伸倍數(shù)之間是否存在顯著的線性相關(guān)關(guān)系。,2.2 SPSS中實(shí)現(xiàn)過(guò)程,表1強(qiáng)度與拉伸倍數(shù)的試驗(yàn)數(shù)據(jù), 實(shí)現(xiàn)步驟,圖1 在菜單中選擇“Linear”命令,圖2 “Linear Regression”對(duì)話框,圖3 “Linear Regression: statistics”對(duì)話框,與回歸系數(shù)相關(guān)的統(tǒng)計(jì)量,異常值診斷,報(bào)告殘差超過(guò)2個(gè)標(biāo)準(zhǔn)差的被試,圖4 “Linear Regression：Plots”對(duì)話框,調(diào)整預(yù)測(cè)值,輸出標(biāo)準(zhǔn)化殘差相對(duì)于因變量的散布圖,標(biāo)準(zhǔn)化殘差圖,對(duì)應(yīng)x值的殘差圖,圖5 “Linear Regression：Save”對(duì)話框,預(yù)測(cè)值

3、,殘差,本對(duì)話框用來(lái)定義存儲(chǔ)進(jìn)入數(shù)據(jù)文件的新變量,（1）輸出的結(jié)果文件中的第一部分：,2.3 結(jié)果和討論,1）決定系數(shù)R2 它表示在因變量y的總變異中可由回歸方程所解釋部分的比例。 0R21, 越接近于1, 說(shuō)明回歸方程效果越好。,2）校正的決定系數(shù)Adj R2 0AdjR21, 越接近于1, 說(shuō)明回歸方程效果越好。,即使自變量對(duì)Y無(wú)顯著意義，R2也隨方程中的變量個(gè)數(shù)增加而增加。Adj R2可以懲罰復(fù)雜模型。,截距 回歸系數(shù),結(jié)果顯示：回歸方程顯著，即合成纖維的強(qiáng)度受拉伸倍數(shù)的顯著影響,（2）第二部分 異常值分析,如果標(biāo)準(zhǔn)化殘差超過(guò)2/-2，稱為異常值outliers。 當(dāng)樣本量比較小，異常值

4、又會(huì)影響回歸系數(shù)的估計(jì)時(shí)，應(yīng)該關(guān)注異常值的影響。,異常值 a 不影響 異常值 b 影響,第i個(gè)觀察值的學(xué)生化殘差,考慮了用來(lái)計(jì)算殘差的 值有不同的方差。這種調(diào)整能夠使殘差分析更加敏感地發(fā)現(xiàn)方差不齊。 學(xué)生化殘差超過(guò)2和-2的點(diǎn)可認(rèn)為是異常值,（3）第三部分 數(shù)據(jù)窗口的存儲(chǔ),1.7 利用回歸方程進(jìn)行估計(jì)和預(yù)測(cè),均數(shù)的置信區(qū)間： 均數(shù)界值標(biāo)準(zhǔn)誤 個(gè)體的容許區(qū)間(參考值范圍): 均數(shù)界值標(biāo)準(zhǔn)差,可信區(qū)間與預(yù)測(cè)區(qū)間示意圖,3.1 統(tǒng)計(jì)學(xué)上的定義,定義：在上一節(jié)中討論的回歸問(wèn)題只涉及了一個(gè)自變量，但在實(shí)際問(wèn)題中，影響因變量的因素往往有多個(gè)。例如，商品的需求除了受自身價(jià)格的影響外，還要受到消費(fèi)者收入、其他

5、商品的價(jià)格、消費(fèi)者偏好等因素的影響；影響水果產(chǎn)量的外界因素有平均氣溫、平均日照時(shí)數(shù)、平均濕度等。,研究者往往是根據(jù)自己的經(jīng)驗(yàn)或借鑒他人的研究結(jié)果選定若干個(gè)自變量，這些自變量對(duì)因變量的影響作用是否都有統(tǒng)計(jì)學(xué)意義還有待于考察。 在建立回歸方程的過(guò)程中有必要考慮對(duì)自變量進(jìn)行篩選，挑選出若干個(gè)與因變量作用較大的變量建立回歸方程。剔除那些對(duì)因變量沒有影響的變量，從而建立一個(gè)較理想和穩(wěn)定的回歸方程。,3.2 逐步回歸,逐步回歸的思想：,1. 開始方程中沒有自變量，然后按自變量對(duì)y的貢獻(xiàn)大小由大到小依次挑選進(jìn)入方程，每選入一個(gè)變量，都要對(duì)進(jìn)行檢驗(yàn)，決定變量的取或舍。,2. 每一步都作一次如下的檢驗(yàn)： H0

6、: p個(gè)自變量為好 H1 : p+1個(gè)自變量為好,采用F作為統(tǒng)計(jì)量。 SSE (H0 )-SSE (H1 ) F SSE(H1 )/ (n-p-2) 其中SSE (H0 )表示用p個(gè)變量回歸的殘差平方和 SSE (H1 )表示用p+1個(gè)變量回歸的殘差平方和。 若FF（界值），則拒絕H0 ，可決定增多相應(yīng)的自變量; 否則，不拒絕H0 ，可決定不增加相應(yīng)的自變量。, 研究問(wèn)題 用多元回歸分析來(lái)分析36個(gè)員工多個(gè)心理變量值（z1z5）對(duì)員工滿意度my的預(yù)測(cè)效果，測(cè)得試驗(yàn)數(shù)據(jù)如表9-2所示。,3.2 SPSS中實(shí)現(xiàn)過(guò)程,表9-2員工多個(gè)心理變量值和員工滿意度數(shù)據(jù), 實(shí)現(xiàn)步驟,圖7-7 “Linear

7、Regression”對(duì)話框（二）,逐步回歸,Enter：所有自變量強(qiáng)制進(jìn)入回歸方程,圖3 “Linear Regression：Statistics”對(duì)話框,德賓-沃森自相關(guān),觀測(cè)值診斷,當(dāng)自變量之間存在高度相關(guān)性，將引起回歸方程估計(jì)結(jié)果不穩(wěn)定，參數(shù)（回歸系數(shù)）估計(jì)的標(biāo)準(zhǔn)誤大大增加，稱為共線性。 共線性診斷： 1）條件數(shù)(Condition Index): k30(嚴(yán)重） 2）方差擴(kuò)大因子(VIF): 5或10，嚴(yán)重 3） Tolence（容忍度）: .1 嚴(yán)重,圖6 “Linear Regression：Options”對(duì)話框,（1）輸出結(jié)果文件中的第一部分：,3.3 結(jié)果和討論,（1）輸

8、出結(jié)果文件中的第一部分：,3.3 結(jié)果和討論,2）輸出的結(jié)果文件中第二部分：,F檢驗(yàn)的結(jié)果顯示，三個(gè)回歸方程都顯著 1 H0 : B1=0 2 H0 : B1= B2=0 3 H0 : B1= B2= B3=0,非標(biāo)準(zhǔn)化回歸方程： Y=7.337+.276Z1+e Y=14.129+.227Z1-3.301Z4+e Y=4.335+.268Z1-6.286Z4+10.188Z5+e,標(biāo)準(zhǔn)化回歸方程： Y=.413Z1+e Y=.340Z1- .336Z4+ e Y=.401Z1- 6.639Z4 + .477Z5+e,多重回歸的矩陣表達(dá) 1. 一般公式 2. 矩陣表示 3. 最小二乘估計(jì),Zero-Order,零階相關(guān)/簡(jiǎn)單相關(guān),Part Correlation,部分相關(guān),Part correlation Correlation between Y and X1 when variable due to X2 has been partialed out of X1, but not out of Y.,Partial Correlation,偏相關(guān),partial correlation of Y and X, controlling for other predictors. Simple corre