1、第5章 相關(guān)分析與回歸分析,1.皮爾遜積矩系數(shù)、Spearman相關(guān)系數(shù)以及Kendall相關(guān)系數(shù)的計(jì)算與分析; 2.偏相關(guān)系數(shù)的計(jì)算與偽相關(guān)系數(shù)的鑒別； 3.簡(jiǎn)單線性回歸； 4.多元線性回歸；,統(tǒng)計(jì)學(xué)原理,變量間的關(guān)系分為確定性關(guān)系和非確定性關(guān)系。 確定性關(guān)系即函數(shù)關(guān)系，非確定性關(guān)系即相關(guān)關(guān)系。 相關(guān)分析的主要目的是研究變量之間關(guān)系的密切程度。 回歸分析是揭示一個(gè)變量如何與其他變量相聯(lián)系，前者叫做解釋變量，后者叫做被解釋變量 相關(guān)分析和回歸分析都是對(duì)客觀事務(wù)數(shù)量依存關(guān)系的分析。,相關(guān)系數(shù)的取值范圍在1和+1之間，即1r+1。其中： 若0r1，表明變量之間存在正相關(guān)關(guān)系，即兩個(gè)變量的相隨變動(dòng)方

2、向相同； 若1r0，表明變量之間存在負(fù)相關(guān)關(guān)系，即兩個(gè)變量的相隨變動(dòng)方向相反；,1.相關(guān)分析的統(tǒng)計(jì)學(xué)原理,為了判斷r對(duì)的代表性大小，需要對(duì)相關(guān)系數(shù)進(jìn)行假設(shè)檢驗(yàn)。 （1）首先假設(shè)總體相關(guān)性為零，即H0為兩總體無(wú)顯著的線性相關(guān)關(guān)系。 零假設(shè) H0: x，y 不相關(guān) 備擇假設(shè) H1: x，y 相關(guān) （2）其次，計(jì)算相應(yīng)的統(tǒng)計(jì)量，并得到對(duì)應(yīng)的P值。如果P值小于或等于指定的顯著性水平，則拒絕H0，認(rèn)為兩總體存在顯著的線性相關(guān)關(guān)系；如果P值大于指定的顯著性水平，則不能拒絕H0，認(rèn)為兩總體不存在顯著的線性相關(guān)關(guān)系。 0.05 不相關(guān) 通常取0.05。 P= 也有時(shí)取值0.01或0.001 =0.05 相關(guān),

3、計(jì)算相關(guān)系數(shù)有不同的方法。其中，皮爾遜積矩相關(guān)系數(shù)(Pearson簡(jiǎn)單相關(guān)系數(shù))適用等間隔測(cè)度，而Spearman相關(guān)系數(shù)和Kendall相關(guān)系數(shù)都是非參測(cè)度。,Pearson簡(jiǎn)單相關(guān)系數(shù)用來(lái)衡量定距變量間的線性關(guān)系。如衡量國(guó)民收入和居民儲(chǔ)蓄存款、身高和體重、高中成績(jī)和高考成績(jī)等變量間的線性相關(guān)關(guān)系。,Pearson簡(jiǎn)單相關(guān)系數(shù),計(jì)算公式如下。 Pearson簡(jiǎn)單相關(guān)系數(shù)計(jì)算公式為,對(duì)Pearson簡(jiǎn)單相關(guān)系數(shù)的統(tǒng)計(jì)檢驗(yàn)是計(jì)算t統(tǒng)計(jì)量，公式為 t統(tǒng)計(jì)量服從n2個(gè)自由度的t分布。,定序變量又稱為有序（ordinal）變量、順序變量，它取值的大小能夠表示觀測(cè)對(duì)象的某種順序關(guān)系（等級(jí)、方位或大小等）

4、，也是基于“質(zhì)”因素的變量。例如，“最高學(xué)歷”變量的取值是：1小學(xué)及以下、2初中、3高中、中專、技校、4大學(xué)專科、5大學(xué)本科、6研究生以上。由小到大的取值能夠代表學(xué)歷由低到高。,Spearman和Kendalls tua-b等級(jí)相關(guān)系數(shù)用以衡量定序變量間的線性相關(guān)關(guān)系，它們利用的是非參數(shù)檢驗(yàn)的方法。,Spearman等級(jí)相關(guān)系數(shù)為,對(duì)Spearman等級(jí)相關(guān)系數(shù)的統(tǒng)計(jì)檢驗(yàn)，一般如果個(gè)案數(shù)n30，將直接利用Spearman等級(jí)相關(guān)統(tǒng)計(jì)量表，SPSS將自動(dòng)根據(jù)該表給出對(duì)應(yīng)的P值（相伴概率）。,Kendalls tau-b 等級(jí)相關(guān)系數(shù),對(duì)Kendalls tua-b等級(jí)相關(guān)系數(shù)的統(tǒng)計(jì)檢驗(yàn)，一般如果

5、個(gè)案數(shù)n30，將直接利用Kendalls tua-b等級(jí)相關(guān)統(tǒng)計(jì)量表，SPSS將自動(dòng)根據(jù)該表給出對(duì)應(yīng)的相伴概率值。,2.相關(guān)分析過(guò)程的操作原理,選擇AnalyzeCorrelate 相關(guān)分析過(guò)程具體包括： Bivariate:計(jì)算雙變量間的相關(guān)系數(shù)； Partial:計(jì)算偏相關(guān)系數(shù)； Distances:對(duì)變量進(jìn)行相似性或不相似性測(cè)度。,雙變量相關(guān)分析過(guò)程,StatisticsCorrelateBivariate 數(shù)據(jù)5-1,選擇求相關(guān)的變量：至少選擇兩個(gè)移動(dòng)到：Variables內(nèi)。,Correlation Coefficients ：相關(guān)類型 Pearson:皮爾遜積矩相關(guān)系數(shù) Kenda

6、lls tau-b:肯德?tīng)柡椭C系數(shù) Spearman：斯皮爾曼等級(jí)相關(guān)系數(shù) Test of significance：顯著性檢驗(yàn) Two-tailed：雙側(cè)檢驗(yàn)（默認(rèn)） One-tailed：?jiǎn)蝹?cè)檢驗(yàn) “Flag significant correlations”：選擇相關(guān)顯著度水平的標(biāo)識(shí)，該標(biāo)識(shí)就是*號(hào)。當(dāng)顯著度水平低于0.05時(shí)，顯示一個(gè)*號(hào)，當(dāng)?shù)陀?.01時(shí)，將顯示兩個(gè)*號(hào)。,Options 選項(xiàng),Statistics ： Means and standard deviations 顯示每一個(gè)變量的均值和標(biāo)準(zhǔn)差 Cross-product deviations and covarianc

7、es 每一對(duì)變量的離均差交叉積與協(xié)方差 Missing values：缺失值 Exclude cases pairwise：成對(duì)刪除 Exclude cases listwise：成列刪除,偏相關(guān)分析,二元變量的相關(guān)分析在一些情況下無(wú)法較為真實(shí)準(zhǔn)確地反映事物之間的相關(guān)關(guān)系。例如，在研究某農(nóng)場(chǎng)春季早稻產(chǎn)量與平均降雨量、平均溫度之間的關(guān)系時(shí)，產(chǎn)量和平均降雨量之間的關(guān)系中實(shí)際還包含了平均溫度對(duì)產(chǎn)量的影響。同時(shí)平均降雨量對(duì)平均溫度也會(huì)產(chǎn)生影響。在這種情況下，單純計(jì)算簡(jiǎn)單相關(guān)系數(shù)，顯然不能準(zhǔn)確地反映事物之間地相關(guān)關(guān)系，而需要在剔除其他相關(guān)因素影響的條件下計(jì)算相關(guān)系數(shù)。偏相關(guān)分析正是用來(lái)解決這個(gè)問(wèn)題的。,

8、定義：偏相關(guān)分析是指當(dāng)兩個(gè)變量同時(shí)與第三個(gè)變量相關(guān)時(shí)，將第三個(gè)變量的影響剔除，只分析另外兩個(gè)變量之間相關(guān)程度的過(guò)程。 偏相關(guān)分析的工具是計(jì)算偏相關(guān)系數(shù)r12，3。,統(tǒng)計(jì)學(xué)上的定義和計(jì)算公式,偏相關(guān)分析過(guò)程,StatisticsCorrelatePartial 數(shù)據(jù)5-2,選擇兩個(gè)求相關(guān)變量到：Variables 框內(nèi) 選擇中介變量到控制變量“Controlling”框中 顯示相關(guān)顯著度水平的標(biāo)識(shí)“Display actual significance”,Options 選項(xiàng),Statistics ： Means and standard deviations 顯示每一個(gè)變量的均值和標(biāo)準(zhǔn)差 Ze

9、ro-order correlations:零階相關(guān)系數(shù)，顯示所有變量的Pearson相關(guān)系數(shù) Missing values：缺失值 Exclude cases pairwise：成對(duì)刪除 Exclude cases listwise：成列刪除,偏相關(guān)系數(shù)的計(jì)算與偽相關(guān)的鑒別 數(shù)據(jù)文件5-4,2.回歸分析的統(tǒng)計(jì)學(xué)原理,回歸分析是研究客觀事物變量間的關(guān)系，它是建立在對(duì)客觀事物進(jìn)行大量試驗(yàn)和觀察的基礎(chǔ)上，通過(guò)建立數(shù)學(xué)模型尋找不確定現(xiàn)象中所存在的統(tǒng)計(jì)規(guī)律的方法?；貧w分析所研究的主要問(wèn)題就是研究因變量(y)和自變量(x)之間數(shù)量變化規(guī)律，如何利用變量X，Y的觀察值（樣本），對(duì)回歸函數(shù)進(jìn)行統(tǒng)計(jì)推斷，包括

10、對(duì)它進(jìn)行估計(jì)及檢驗(yàn)與它有關(guān)的假設(shè)等。,i=0+1x2i+2x+kxki+i,回歸分析過(guò)程操作原理,選擇AnalyzeRegression,打開(kāi)“Regression”的右拉式菜單，菜單包含：,1. Linear 線性回歸。 2. Curve Estimation 曲線估計(jì)。 3. Binary Logistic 二元邏輯分析。 4. Multinomial Logistic 多元邏輯分析。 5. Ordinal 序數(shù)分析。 6. Probit 概率分析。 7. Nonlinear 非線性估計(jì)。 8. Weight Estimation 加權(quán)估計(jì)。 9. 2-Stage Least Square

11、s 兩段最小二乘法。,在數(shù)學(xué)關(guān)系式中只描述了一個(gè)變量與另一個(gè)變量之間的數(shù)量變化關(guān)系，則稱其為一元回歸分析。 其回歸模型為 y 稱為因變量，x稱為自變量， 稱為隨機(jī)誤差，a,b 稱為待估計(jì)的回歸參數(shù)，下標(biāo) i 表示第i個(gè)觀測(cè)值。 如果給出a和b的估計(jì)量分別為 , ，則經(jīng)驗(yàn)回歸方程: 一般把 稱為殘差， 殘差可視為擾動(dòng) 的“估計(jì)量”。,（1）線性回歸過(guò)程,“Analyze”“Regression”“Linear數(shù)據(jù)文件5-5,“Dependent”：因變量 “Independent(S)”：自變量 注：SPSS中一元回歸和多元回歸以及多元逐步回歸都是使用同一過(guò)程，所以該欄可以輸入多個(gè)自變量。 “S

12、election Variable”：控制變量輸入欄。控制變量相當(dāng)于過(guò)濾變量，即必須當(dāng)該變量的值滿足設(shè)置的條件時(shí)，觀測(cè)量才能參加回歸分析。輸入控制變量后，激活“Rule”按鈕。,“Case Labels”：選擇觀測(cè)量的標(biāo)簽變量。在輸出結(jié)果中，可顯示該觀測(cè)量的值，通過(guò)該變量的值可查看相應(yīng)的觀測(cè)量。 “WLS”：選擇加權(quán)變量。,“Method”：選擇一種回歸分析方式。 強(qiáng)行介入法Enter（一次性進(jìn)入） 這是一種不檢驗(yàn)F和Tolerance，一次將全部自變量無(wú)條件地納入回歸方程。 強(qiáng)行剔除Remove（一次性剔除） 指定某些變量不能進(jìn)入方程。這種方法通常同別的方法聯(lián)合使用，而不能首先或單獨(dú)使用，因

13、為第一次使用或單獨(dú)使用將意味著沒(méi)有哪個(gè)變量進(jìn)入方程。 逐步進(jìn)入Stepwise 每次選擇符合進(jìn)入條件的自變量進(jìn)入方程，進(jìn)入后立即檢驗(yàn)，不合格者剔除，直到全部合格自變量進(jìn)入方程。 反向剔除Backward 先強(qiáng)行介入，再逐個(gè)剔除不合格變量，直到全合格。 正向進(jìn)入Forward 每次選擇符合進(jìn)入條件的自變量進(jìn)入方程，逐個(gè)選擇，逐個(gè)進(jìn)入，直到全部合格自變量進(jìn)入方程。,“Statistics”,“Regression Coefficients”回歸系數(shù)選項(xiàng)： “Estimates”輸出回歸系數(shù)和相關(guān)統(tǒng)計(jì)量。 “Confidence interval”回歸系數(shù)的95%置信區(qū)間。 “Covariance

14、matrix”回歸系數(shù)的方差-協(xié)方差矩陣。,“Residuals”殘差選項(xiàng)： “Durbin-Watson”Durbin-Watson檢驗(yàn)。 “Casewise diagnostic”輸出滿足選擇條件的觀測(cè)量的相關(guān)信息。選擇該項(xiàng)，下面兩項(xiàng)處于可選狀態(tài)： “Outliers outside standard deviations”選擇標(biāo)準(zhǔn)化殘差的絕對(duì)值大于輸入值的觀測(cè)量； “All cases”選擇所有觀測(cè)量。, 其它輸入選項(xiàng) “Model fit”輸出相關(guān)系數(shù)、相關(guān)系數(shù)平方、調(diào)整系數(shù)、估計(jì)標(biāo)準(zhǔn)誤、ANOVA表。 “R squared change”輸出由于加入和剔除變量而引起的復(fù)相關(guān)系數(shù)平方的

15、變化。 “Descriptives”輸出變量矩陣、標(biāo)準(zhǔn)差和相關(guān)系數(shù)單側(cè)顯著性水平矩陣。 “Part and partial correlation”相關(guān)系數(shù)和偏相關(guān)系數(shù)。 “Collinearity diagnostics”顯示單個(gè)變量和共線性分析的公差,“Plots”,該對(duì)話框用于設(shè)置要繪制的圖形的參數(shù)。 “X”和“Y”框用于選擇X軸和Y軸相應(yīng)的變量。,左上框中各項(xiàng)的意義分別為： “DEPENDNT”因變量。 “ZPRED”標(biāo)準(zhǔn)化預(yù)測(cè)值。 “ZRESID”標(biāo)準(zhǔn)化殘差。 “DRESID”刪除殘差。 “ADJPRED”調(diào)節(jié)預(yù)測(cè)值。 “SRESID”學(xué)生氏化殘差。 “SDRESID”學(xué)生氏化刪除殘

16、差。 “Standardized Residual Plots”設(shè)置各變量的標(biāo)準(zhǔn)化殘差圖形輸出。 “Histogram”用直方圖顯示標(biāo)準(zhǔn)化殘差。 “Normal probability plots”比較標(biāo)準(zhǔn)化殘差與正態(tài)殘 差的分布示意圖。 “Produce all partial plot”偏殘差圖。對(duì)每一個(gè)自變量生成其殘差對(duì)因變量殘差的散點(diǎn)圖。,“Save”,“Predicted Values”預(yù)測(cè)值欄選項(xiàng)： Unstandardized 非標(biāo)準(zhǔn)化預(yù)測(cè)值。就會(huì)在當(dāng)前數(shù)據(jù)文件中新添加一個(gè)以字符“PRE_”開(kāi)頭命名的變量，存放根據(jù)回歸模型擬合的預(yù)測(cè)值。 Standardized 標(biāo)準(zhǔn)化預(yù)測(cè)值。

17、Adjusted 調(diào)整后預(yù)測(cè)值。 S.E. of mean predictions 預(yù)測(cè)值的標(biāo)準(zhǔn)誤。 “Distances”距離欄選項(xiàng)： Mahalanobis: 距離。 Cooks: Cook距離。 Leverage values: 杠桿值。,“Prediction Intervals”預(yù)測(cè)區(qū)間選項(xiàng)： Mean: 區(qū)間的中心位置。 Individual: 觀測(cè)量上限和下限的預(yù)測(cè)區(qū)間。在當(dāng)前數(shù)據(jù)文件中新添加一個(gè)以字符“LICI_”開(kāi)頭命名的變量，存放預(yù)測(cè)區(qū)間下限值；以字符“UICI_”開(kāi)頭命名的變量，存放預(yù)測(cè)區(qū)間上限值。 Confidence Interval：置信度。 “Save to Ne

18、w File”保存為新文件： 選中“Coefficient statistics”項(xiàng)將回歸系數(shù)保存到指定的文件中。 “Export model information to XML file” 導(dǎo)出統(tǒng)計(jì)過(guò)程中的回歸模型信息到指定文件。,“Residuals” 保存殘差選項(xiàng)： “Unstandardized”非標(biāo)準(zhǔn)化殘差。 “Standardized”標(biāo)準(zhǔn)化殘差。 “Studentized”學(xué)生氏化殘差。 “Deleted”刪除殘差。 “Studentized deleted”學(xué)生氏化刪除殘差。 “Influence Statistics” 統(tǒng)計(jì)量的影響。 “DfBeta(s)”刪除一個(gè)特定的觀

19、測(cè)值所引起的回歸系數(shù)的變化。 “Standardized DfBeta(s)”標(biāo)準(zhǔn)化的DfBeta值。 “DiFit” 刪除一個(gè)特定的觀測(cè)值所引起的預(yù)測(cè)值的變化。 “Standardized DiFit”標(biāo)準(zhǔn)化的DiFit值。 “Covariance ratio”刪除一個(gè)觀測(cè)值后的協(xié)方差矩陣的行列式和帶有全部觀測(cè)值的協(xié)方差矩陣的行列式的比率。,“Options”,“Stepping Method Criteria”框用于進(jìn)行逐步回歸時(shí)內(nèi)部數(shù)值的設(shè)定。 “Use probability of F”如果一個(gè)變量的F值的概率小于所 設(shè)置的進(jìn)入值（Entry），那么這個(gè)變量將被選入回歸方程 中；當(dāng)變量

20、的F值的概率大于設(shè)置的剔除值（Removal）， 則該變量將從回歸方程中被剔除。由此可見(jiàn)，設(shè)置 “Use probability of F”時(shí)，應(yīng)使進(jìn)入值小于剔除。 “Ues F value”如果一個(gè)變量的F值大于所設(shè)置的進(jìn)入值 （Entry），那么這個(gè)變量將被選入回歸方程中；當(dāng)變量的F 值小于設(shè)置的剔除值（Removal），則該變量將從回歸方 程中被剔除。同時(shí)，設(shè)置“Use F value”時(shí)，應(yīng)使進(jìn)入值大 于剔除值。 “Include constant in equation”選擇此項(xiàng)表示在回歸方程中有常數(shù)項(xiàng)。,“Missing Values”框用于設(shè)置對(duì)缺失值的處理方法。 “Exclud

21、e cases listwise”剔除所有含有缺失值的觀測(cè)值。 “Exchude cases pairwise”僅剔除參與統(tǒng)計(jì)分析計(jì)算的變量中含有缺失值的觀測(cè)量。 “Replace with mean”用變量的均值取代缺失值。,曲線配合過(guò)程,選擇AnalyzeRegression-CurveEstimation,Case Labels:選擇標(biāo)簽變量,可以利用該變量的值在圖上查找觀測(cè)值,“Models”選擇曲線方程模型,Linear 線性模型 Quadratic 二次模型 Compound 復(fù)合模型 Growth 生長(zhǎng)模型 Logarithmic 對(duì)數(shù)模型 S 形模型 Cubic 拋物線模型 E

22、xponential 指數(shù)的模型 Inverse 倒數(shù)模型 Power 冪函數(shù)模型 Logistic 邏輯斯蒂模型 當(dāng)選中“Logistic”項(xiàng)時(shí)，應(yīng)在 “Upper bound”框中輸入一個(gè) 數(shù)值作為邏輯模型的上限值。,“Include constant in equation”：回歸方程中包含常數(shù)項(xiàng)。 “Plot models”：繪制出回歸方程模型圖。 “Display ANOVA table”：輸出方差分析表。 “Save”：該對(duì)話框用于選擇要保存的新變量。,“Save Variables”框中列出了可保存的新變量： “Predicted values”：因變量的預(yù)測(cè)值。 “Residu

23、als”殘差。因變量的觀測(cè)值和預(yù)測(cè)值的差。 “Prediction intervals”殘差因變量的預(yù)測(cè)區(qū)間。 當(dāng)選中“Prediction intervals”項(xiàng)時(shí)，可在該項(xiàng)下面的“Confidence interval”框中輸入顯著性水平。 “Predict cases”：當(dāng)選擇時(shí)間序列為自變量時(shí)，本欄設(shè)置一個(gè)超過(guò)數(shù)據(jù)時(shí)間序列的預(yù)測(cè)周期。 “Predict from estimation period through last case”根據(jù)估計(jì)周期為所有的觀測(cè)量提供預(yù)測(cè)周期。 “Predict through”當(dāng)要預(yù)測(cè)的觀測(cè)量超過(guò)當(dāng)前的數(shù)據(jù)時(shí)間序列時(shí)，輸入觀測(cè)量的一個(gè)周期數(shù)值。,二項(xiàng)邏輯

24、回歸,選擇AnalyzeRegression-BinaryLogistics,概率回歸過(guò)程,Probit概率回歸過(guò)程主要用來(lái)測(cè)試分析反應(yīng)比例與刺激強(qiáng)度之間的關(guān)系。 選擇An-alyzeRegression-Probit,非線性回歸分析,選擇AnalyzeRegression-Nonlinear,“Name”：輸入?yún)?shù)名稱。 “Starting”輸入?yún)?shù)的初始值。 輸入完參數(shù)名和初始值后，單擊“Add”按鈕，則定義的變量及其初始值將顯示在下方的參數(shù)框中。需要修改已經(jīng)定義的參數(shù)變量，先用將其選中，然后在“Name”和“Starting”欄里進(jìn)行修改，完成后點(diǎn)擊“Change”按鈕確認(rèn)修改。要?jiǎng)h除已

25、經(jīng)定義的參數(shù)變量，先用將其選中，然后點(diǎn)擊“Bemove”按鈕刪除。,“Parameters”：用于設(shè)置參數(shù)的初始值。,比如：邏輯斯蒂模型中估計(jì)的參數(shù)有“K”、“a”和“b”三個(gè)參數(shù)變量。設(shè)置初始值為：K=0.1；a=3；b=0.1。輸入后的“Nonlinear”對(duì)話窗口如下圖。,“Model Expression”：輸入需要擬合的方程式，在該方程中包含自變量、參數(shù)變量和常數(shù)等。自變量和參數(shù)變量可以從左邊的列表框和“Parameters”框里選入。 “Function”：從中選入方程中的函數(shù)；運(yùn)算符號(hào)和常數(shù)可以用鼠標(biāo)從窗口“數(shù)字符號(hào)”顯示區(qū)中點(diǎn)擊輸入。,“Loss”按鈕：輸入迭代條件,“Sum of squared residuals” ：殘差平方和最小值，系統(tǒng)默認(rèn)。 “User-defined loss function”：自定義選項(xiàng)。設(shè)置其他統(tǒng)計(jì)量為迭代條件，在下邊輸入框中輸入相應(yīng)的統(tǒng)計(jì)量的表達(dá)式，稱為損失函數(shù)。在左上角