新編21世紀心理學系列教材高級心理統(tǒng)計（第2版）第三章多元回歸分析核心要點了解多元回歸的概念以及可以解決的問題。掌握三種不同類型多元回歸的特點和區(qū)別，了解自變量的進入順序對衡量該自變量重要性的影響。掌握檢驗回歸方程整體顯著性和比較自變量重要性大小的指標和方法。了解可能對回歸分析準確性產(chǎn)生影響的因素。多元回歸分析的一般目的和描述多元回歸分析主要回答的問題多元回歸分析的假設及模型多元回歸分析的類型多元回歸分析中自變量的重要性多元回歸分析中的統(tǒng)計檢驗多元回歸分析中的一些值得注意的問題回歸分析的局限性應用案例及SPSS操作提綱多元回歸分析的一般目的和描述一元回歸分析：只有一個自變量，只能處理兩個變量之間的關系多元回歸分析：考察多個變量對一個變量的影響1多元回歸分析vs多元相關分析多元回歸分析主要回答的問題多元回歸分析主要回答四大類問題：（1）驗證自變量對因變量的影響；（2）檢驗單個或一組自變量的重要性；（3）建立預測模型；（4）分析自變量之間的交互作用。2多元回歸分析主要回答的問題可細化為是個方面：第一，考察因變量和多個自變量之間關系的強度。第二，考察已有自變量的重要性。第三。考察增加自變量的必要性。第四，在統(tǒng)計上預先控制協(xié)變量的影響。第五，基于假設的需要定義變量影響順序。第六，比較多組自變量的重要性。第七，尋找最佳的預測模型。第八，在新樣本上預測因變量分數(shù)。第九，重新定義自變量以解釋非線性關系。第十，同時處理分類自變量和連續(xù)自變量對因變量的影響。2多元回歸分析的假設及模型33.1使用多元回歸分析的前提假設（1）存在兩個或兩個以上的自變量及一個因變量；（2）因變量服從正態(tài)分布；（3）自變量與因變量之間呈線性關系；（4）所有變量的觀測必須是彼此獨立的。多元回歸分析的假設及模型33.2多元回歸方程的建立多元回歸分析的假設及模型33.3多元回歸方程的參數(shù)估計最小二乘法根據(jù)最佳擬合的原則，最小二乘法要求估計得到的參數(shù)滿足殘差平方和最小求出參數(shù)使殘差平方和

取得最小值多元回歸分析的類型44.1標準多元回歸（standardmultipleregression）又稱為同時回歸（simultaneousregression）所有自變量同時進入回歸方程僅度量了每個自變量進入方程后增加的預測因變量的貢獻標準多元回歸在計算單個自變量的貢獻時，該自變量與其它所有自變量共同解釋的部分都被排除，僅計算剩余的可解釋的部分所有重疊的部分將不計入任何自變量的貢獻多元回歸分析的類型44.2序列回歸（sequentialregression）又稱分層回歸（hierarchicalregression）自變量將根據(jù)研究者指定的順序進入回歸方程由于存在前后順序，衡量一個（或一組）自變量的貢獻時，與其它變量共同解釋的部分會歸為先進入的變量。多元回歸分析的類型44.3統(tǒng)計回歸（statisticalregression）完全以統(tǒng)計標準決定進入自變量進入回歸方程的順序，沒有考慮變量的意義和理論解釋的問題，是一種帶有爭議的回歸類型。一個變量會進入或被排除出方程完全根據(jù)該樣本下計算出的統(tǒng)計指標，一些細微的差異將會對衡量變量重要性造成較大的影響。多元回歸分析的類型44.4三種回歸的比較標準回歸會剔除所有自變量的重疊部分，可以體現(xiàn)出每個自變量的單獨貢獻。序列回歸可以在某些變量進入方程的前提下探討另一些變量的貢獻。統(tǒng)計回歸可以辨別具有多重共線性的變量，將為未來的研究剔除某些明顯冗余的變量。多元回歸分析中自變量的重要性55.1多元測定系數(shù)回歸平方和（regressionsumofsquares）總平方和（totalsumofsquares）多元回歸分析中自變量的重要性55.2調(diào)整的多元測定系數(shù)多元回歸分析中自變量的重要性55.3偏相關系數(shù)偏相關（partialcorrelation）指的是控制其它自變量后Y和X的相關，它等于從Y和X中都除去其它預測變量的影響之后，Y和X中剩余部分的簡單相關。將偏相關系數(shù)平方后便可以得到偏測定系數(shù)（coefficientofpartialdetermination）偏測定系數(shù)是在控制其它自變量的條件下，單一自變量對因變量的邊際解釋力。多元回歸分析中自變量的重要性55.4半偏相關系數(shù)半偏相關（semi-partialcorrelation）又稱部分相關（partcorrelation）多元回歸分析中自變量的重要性5多元回歸分析中自變量的重要性55.5標準化回歸系數(shù)因為標準化的Z變量是無量綱的變量，所以此時的回歸系數(shù)就稱為標準化的回歸系數(shù)（standardizedregressioncoefficient）。多元回歸分析中的統(tǒng)計檢驗66.1回歸方程的顯著性檢驗多元回歸分析中的統(tǒng)計檢驗66.2新加入變量的顯著性檢驗

多元回歸分析中的統(tǒng)計檢驗66.3回歸系數(shù)的顯著性檢驗多元回歸分析中的一些值得注意的問題77.1樣本量樣本量與一系列問題有關，包括要求的檢驗力，α水平，自變量個數(shù)、預期的效應量以及結果的泛化性等。當樣本量非常大時，幾乎所有回歸系數(shù)都將顯著地不等于0，即使不能很好預測因變量的自變量也是如此。多元回歸分析中的一些值得注意的問題77.2異常值模式異常的個案可以對回歸系數(shù)的估計精度產(chǎn)生巨大影響。單變量檢測的常用方式有Z分數(shù)和盒式圖等雙變量下的散點圖多變量下的馬氏距離等在回歸的過程中可以同時檢測異常值最為常用的方法是殘差分析多元回歸分析中的一些值得注意的問題77.3多重共線性如果兩個自變量之間的相關系數(shù)很高，或者一個自變量可以由其它自變量線性表示，即認為存在多重共線性問題。共線性現(xiàn)象的不良影響（1）回歸系數(shù)的置信區(qū)間變寬，系數(shù)變得不穩(wěn)定，由樣本推到總體的泛化性變差；（2）回歸系數(shù)不能很好地反映單個自變量對因變量的獨立影響；（3）使變量的偏測定系數(shù)變?。唬?）當方程用于預測時，回歸結果變得不可靠。多元回歸分析中的一些值得注意的問題77.3多重共線性常用的指標及其標準：（1）容忍度（Tolerance）（2）方差膨脹因子（VarianceInflateFactor，VIF）（3）條件指數(shù)（ConditionIndex，CI）消除多重共線性影響的補救辦法：（1）去掉與y相關程度低、而與其它自變量高度相關的自變量；（2）根據(jù)容忍度或VIF刪除變量，去掉可以被其余自變量線性表示的變量；（3）增加樣本量；（4）采用新的樣本數(shù)據(jù)；（5）合并變量（6）換用其它形式的回歸（7）變量轉換多元回歸分析中的一些值得注意的問題77.4殘差分析多元回歸分析假設殘差具有正態(tài)性，線性和方差同質(zhì)性，同時假設誤差具有獨立性。殘差的正態(tài)性假設指的是殘差在每個因變量的預測分數(shù)下都呈正態(tài)分布。線性假設指的是殘差與預測分數(shù)呈直線關系。方差同質(zhì)性假設在所有預測分數(shù)下殘差的方差相同。誤差的獨立性假設意味著每次觀測的結果都不應受其它觀測的影響。通常的驗證方法是畫出殘差的散點圖，進行殘差分析，其中橫軸表示因變量的預測值，縱軸表示殘差。多元回歸分析中的一些值得注意的問題77.5分類自變量的虛擬編碼如果研究的自變量是分類變量，并希望將分類自變量納入回歸，則需要對分類變量進行虛擬編碼（dummycoding）。假設該自變量有K個類別，則需要構造K-1個新變量。將其中一個類別指定為對照類別，將對照類別在K-1個新變量上全部編碼為0，其余K-1個類別依次在K-1個新變量上編碼為1。如果將虛無編碼中對參考類別的編碼換為-1而不是0，形成的編碼方式稱為效應編碼（effectcoding）。另一種常用的編碼方式稱為對照編碼（contrastcoding），對照編碼的一個優(yōu)點在于編碼后生成的新變量相互正交。多元回歸分析中的一些值得注意的問題77.5分類自變量的虛擬編碼回歸分析的局限性8回歸分析旨在揭示變量之間的關系，但并不能做出因果推斷。研究變量的選取同樣應該借助理論而不能僅靠統(tǒng)計?；貧w分析假設自變量的測量沒有殘差，然而在絕大部分心理學研究中都幾乎不存在如此理想的情況。應用案例及SPSS操作99.1標準多元回歸案例《高級心理統(tǒng)計》P81-87。9.2序列回歸案例《高級心理統(tǒng)計》P87-90。關鍵術語多元回歸分析

標準多元回歸序列回歸

統(tǒng)計回歸偏回歸系數(shù)

多元測定系數(shù)偏相關系數(shù)

半偏相關系數(shù)多重共線性

殘差分析新編21世紀心理學系列教材高級心理統(tǒng)計（第2版）第四章邏輯回歸

LogisticRegression核心要點了解logistic回歸的基本概念和原理，掌握其適用的基本情境。了解logistic回歸方程中的系數(shù)的含義與解釋。學習logistic回歸方程的整體檢驗和擬合優(yōu)度的評價標準。掌握SPSS軟件展示logistic回歸的操作過程和結果解釋。提綱1Logistic回歸分析概述2主要回答的問題3前提假設與模型4注意的問題5案例和SPSS操作1.Logistic回歸分析概述用于處理因變量為離散的二分變量的問題，也可以進一步擴展為多分類Logistic回歸。logistic回歸分析中并不直接對二分結果變量進行回歸分析，而是將其轉換到logit尺度下，引入發(fā)生比（事件發(fā)生的概率/事件不發(fā)生的概率）的概念，再對發(fā)生比取自然對數(shù)（ln）作為因變量，探究自變量的線性組合對轉換后的因變量的影響。1.Logistic回歸分析概述Logistic回歸的優(yōu)勢：對預測變量的分布和類型沒有特定假設，預測變量可以是連續(xù)變量、分類變量等；尤其適用于自變量對因變量的影響具有收益遞減規(guī)律或非線性的情況，即當自變量處于取值范圍的兩端時，其值的變化對因變量的影響較??；當自變量處于取值范圍的中間部分時，其值的變化對于因變量的影響較大的情況。2.主要回答的問題能否根據(jù)一系列的預測變量來預測個案在結果變量的類別？各預測變量的效果如何？預測變量之間是否存在交互作用？個案的分類結果是否準確？預測變量的效應值多大？3.前提假設與模型一、模型假設連續(xù)預測變量與經(jīng)過logit轉換后的結果變量之間存在線性關系；結果變量應為二分變量；預測變量可以是連續(xù)變量、離散變量，如果是分類變量，采用虛擬編碼；每次觀測相互獨立、殘差均值為0。3.前提假設與模型3.前提假設與模型Logistic曲線我們以0.5作為截點，將事件發(fā)生概率大于0.5的結果變量賦值為1（事件發(fā)生），否則賦值為0（事件未發(fā)生）。3.前提假設與模型3.前提假設與模型5.模型評價負2倍對數(shù)似然值（-2LL）：反映了假設擬合模型為實際情境時觀察到特定樣本的概率，其值處于0和1之間。其值越大，表明回歸方程的似然值越小，則擬合越差。將截距模型（不包含任何預測變量）與含有預測變量的logistic模型的-2LL進行比較，如果前者顯著高于后者，那么可以證明含有預測變量的模型顯著改善了模型的擬合情況，即預測變量可以顯著改善模型的擬合情況。顯著性的檢驗采用卡方檢驗。注意樣本量的影響。偽測定系數(shù)（pseudo-R2）：預測準確性：分類表（classificationtable）4.注意事項第一，樣本量大小。第二，個案與變量的比例。第三，預測變量的多重共線性。第四，分類結果中的異常值。5.案例及SPSS操作本章的應用案例是模擬生成的，因此其分析結果不能推論到實際之中，我們僅以此為例演示logistic回歸分析過程。本案例數(shù)據(jù)文件參見“4_1logistic.sav”詳見《高級心理統(tǒng)計》P98-P103關鍵術語二分變量分類表發(fā)生比對數(shù)發(fā)生比優(yōu)勢比logistic曲線logit轉換logit模型發(fā)生比模型logistic回歸系數(shù)logistic回歸系數(shù)冪值對數(shù)似然函數(shù)偽測定系數(shù)wald檢驗內(nèi)容小結1