Regressionanalysis回歸分析數(shù)學(xué)與生物數(shù)學(xué)教研室蔡昌啟回歸分析在許多科研問題中,經(jīng)常遇到一些同處于一個(gè)一致體中的變量,這些變量之間往往是相互依賴和相互制約的,根據(jù)實(shí)踐問題的要求,我們往往需求找出描畫這些變量之間依存關(guān)系的數(shù)學(xué)表達(dá)式(數(shù)學(xué)模型).(regressionanalysis)一、什么是回歸分析變量之間的相互關(guān)系大致可分為兩類:(1)確定關(guān)系-----函數(shù)關(guān)系.(2)不確定關(guān)系-----相關(guān)關(guān)系.在許多實(shí)踐問題中,由于消費(fèi)或?qū)嶒?yàn)過程不可防止存在著誤差的影響,使得變量之間的關(guān)系具有某種程度的不確定性,并且不能用函數(shù)表示,這些變量其實(shí)是隨機(jī)變量或至少其中有一個(gè)是隨機(jī)變量.為確定隨機(jī)變量與隨機(jī)變量(或非隨機(jī)變量)之間的相依關(guān)系,需采用統(tǒng)計(jì)分析方法總結(jié)出隱藏在隨機(jī)性后面的統(tǒng)計(jì)規(guī)律性(統(tǒng)計(jì)模型).這類統(tǒng)計(jì)規(guī)律稱為回歸關(guān)系.有關(guān)回歸關(guān)系的計(jì)算方法和實(shí)際統(tǒng)稱回歸分析(regeressionanalysis).回歸分析的目的是尋求一個(gè)隨機(jī)變量Y(因變量)對(duì)一組隨機(jī)變量X1,X2,…,Xp(自變量)的統(tǒng)計(jì)依賴關(guān)系.二、回歸分析的目的對(duì)p元線性回歸模型我們要處理如下問題:普通來說,可經(jīng)過直觀的方法(如散點(diǎn)圖)進(jìn)展粗略判別.為確定隨機(jī)變量與隨機(jī)變量(或非隨機(jī)變量)之間的相依關(guān)系,需采用統(tǒng)計(jì)分析方法總結(jié)出隱藏在隨機(jī)性后面的統(tǒng)計(jì)規(guī)律性(統(tǒng)計(jì)模型).我們稱它為多元線性回歸方程.均方誤差從平均意義上反映了函數(shù)f(X1,X2,…,Xp)與隨機(jī)變量Y之間差別的大小,它可作為回歸函數(shù)好壞的判別規(guī)范.編號(hào)鈣鎂鐵錳銅血紅蛋白單擊Statistics…；E[Y-f(X1,X2,…,Xp)]2普通,自變量X1,X2,…,Xp是可控變量,控制它們?nèi)√厥庵祒1,x2,…,xp時(shí),對(duì)不同個(gè)體,Y的取值依然不同(隨機(jī)性),Y依然是隨機(jī)變量,記為Y(x1,x2,…,xp).選項(xiàng)如以下圖…；0forwindows→typeindata→OK→單擊“VariableView〞(在第一列輸入鈣、鎂、鐵、錳、銅、血紅蛋白；定義1(均方誤差)設(shè)(Y,X1,X2,…,Xp)具有結(jié)合分布且二階矩存在,f(X1,X2,…,Xp)是隨機(jī)變量X1,X2,…,Xp的函數(shù),那么稱實(shí)踐問題:知29例兒童的血紅蛋白〔hemoglo,g〕與鈣〔Ca,μg〕、鎂〔Mg,μg〕、鐵〔Fe,μg〕、錳(Mn,μg)、銅(Cu,μg)的含量如表,試建立一個(gè)鈣、鎂、鐵、錳、銅預(yù)測(cè)血紅蛋白的數(shù)學(xué)模型。86425.SPSS輸入數(shù)據(jù)格式:29行6列通常情況下,自變量的取值能得以控制,稱為可控變量.普通來說,可經(jīng)過直觀的方法(如散點(diǎn)圖)進(jìn)展粗略判別.如只需一個(gè)自變量,那么稱為一元回歸分析;如自變量個(gè)數(shù)多于一個(gè),那么稱為多元回歸分析.三、變量確實(shí)定及要求將一個(gè)需求預(yù)測(cè)的變量作為因變量,它的取值是可觀測(cè)的但不可控制的;將被以為對(duì)因變量的取值具有顯著影響的哪些變量作為自變量.通常情況下,自變量的取值能得以控制,稱為可控變量.例如，我們希望經(jīng)過一些易測(cè)的目的去預(yù)測(cè)正常兒童的心象面積,由于心象面積是一個(gè)不易檢測(cè)的目的，是一個(gè)需求預(yù)測(cè)的變量,根據(jù)專業(yè)知識(shí)，以為性別、年齡、身高、體重、胸圍能夠?qū)π南竺娣e都有影響。因變量〔Y〕------心象面積;自變量-----性別(X1)、年齡(X2)、身高(X3)、體重(X4)、胸圍(X5)。四、回歸分析的根本原理回歸分析的本質(zhì)是根據(jù)隱含統(tǒng)計(jì)規(guī)律性的觀測(cè)值,求出因變量對(duì)自變量的詳細(xì)表達(dá)式y(tǒng)=f(x1,x2,…,xp).普通,自變量X1,X2,…,Xp是可控變量,控制它們?nèi)√厥庵祒1,x2,…,xp時(shí),對(duì)不同個(gè)體,Y的取值依然不同(隨機(jī)性),Y依然是隨機(jī)變量,記為Y(x1,x2,…,xp).Y雖然不能完全確定(隨機(jī)變量),但卻有一個(gè)確定的條件分布p(Y│x1,x2,…,xp),從而有一個(gè)確定條件均值E(Y│x1,x2,…,xp),它是x1,x2,…,xp的函數(shù).能否可用y=E(Y│x1,x2,…,xp)作為Y對(duì)X1,X2,…,Xp的回歸方程?定義1(均方誤差)設(shè)(Y,X1,X2,…,Xp)具有結(jié)合分布且二階矩存在,f(X1,X2,…,Xp)是隨機(jī)變量X1,X2,…,Xp的函數(shù),那么稱E[Y-f(X1,X2,…,Xp)]2為f(X1,X2,…,Xp)對(duì)Y的均方誤差(meansquareerror).均方誤差從平均意義上反映了函數(shù)f(X1,X2,…,Xp)與隨機(jī)變量Y之間差別的大小,它可作為回歸函數(shù)好壞的判別規(guī)范.假設(shè)某個(gè)函數(shù)與Y的均方誤差最小,我們有理由以為在均方誤差最小規(guī)范下將它作為回歸函數(shù)進(jìn)展預(yù)告是最好的.E[Y-f(X1,X2,…,Xp)]2定義2在定義1的條件下,函數(shù)E(Y│X1,X2,…,Xp)是一切X1,X2,…,Xp的函數(shù)中均方誤差最小的函數(shù),即對(duì)恣意給定的函數(shù)f(X1,X2,…,Xp),總有E[Y-E(Y│X1,X2,…,Xp)]2≤成立.定義2提示用E(Y│x1,x2,…,xp)去預(yù)告Y在均方誤差最小規(guī)范下是最好的,因此,y=E(Y│x1,x2,…,xp)就是我們尋覓的回歸函數(shù).在(Y,X1,X2,…,Xp)的結(jié)合分布為多元正態(tài)分布時(shí),E(Y│x1,x2,…,xp)為x1,x2,…,xp的線性函數(shù),此時(shí)的回歸函數(shù)為y=a0+a1x1+a2x2+…+apxp我們稱它為多元線性回歸方程.五、多元線性回歸模型設(shè)p個(gè)自變量X1,X2,…,Xp的取值為x1,x2,…,xp時(shí)，隨機(jī)Y變量滿足其中a0，a1，a2，…,ap，σ2均為未知常數(shù)，a0,a1,a2,…,ap,稱為“偏回歸系數(shù)〞;σ2稱為隨機(jī)誤差的方差。稱上式為p元正態(tài)線性回歸模型.對(duì)p元線性回歸模型我們要處理如下問題:1.根據(jù)樣本觀測(cè)值去估計(jì)未知參數(shù)a0,a1,a2,…,ap,σ2,從而建立Y與X1,X2,…,Xp間的關(guān)系式(回歸方程);2.對(duì)回歸方程的回歸效果進(jìn)展統(tǒng)計(jì)檢驗(yàn);3.檢驗(yàn)各變量X1,X2,…,Xp分別對(duì)目的(Y)能否有顯著影響.按最小二乘估計(jì)的原理估計(jì)未知參數(shù).實(shí)踐問題:知29例兒童的血紅蛋白〔hemoglo,g〕與鈣〔Ca,μg〕、鎂〔Mg,μg〕、鐵〔Fe,μg〕、錳(Mn,μg)、銅(Cu,μg)的含量如表,試建立一個(gè)鈣、鎂、鐵、錳、銅預(yù)測(cè)血紅蛋白的數(shù)學(xué)模型。154.8930.86448.70.0121.01013.50272.4942.61467.30.0081.64013.00353.8152.86425.61.0041.22013.75…………編號(hào)鈣鎂鐵錳銅血紅蛋白2947.3128.55294.70.005.8387.00多元線性回歸數(shù)學(xué)模型1.單擊“開場(chǎng)〞→“程序〞→SPSSforwindows→SPSS10.0forwindows→typeindata→OK→單擊“VariableView〞(在第一列輸入鈣、鎂、鐵、錳、銅、血紅蛋白；單擊“DataView〞。SPSS軟件的實(shí)現(xiàn)與結(jié)果分析2.SPSS輸入數(shù)據(jù)格式:29行6列2.程序選項(xiàng)Analyze→Regression→Linear…在許多科研問題中,經(jīng)常遇到一些同處于一個(gè)一致體中的變量,這些變量之間往往是相互依賴和相互制約的,根據(jù)實(shí)踐問題的要求,我們往往需求找出描畫這些變量之間依存關(guān)系的數(shù)學(xué)表達(dá)式(數(shù)學(xué)模型).根據(jù)樣本觀測(cè)值去估計(jì)未知參數(shù)a0,a1,a2,…,ap,σ2,從而建立Y與X1,X2,…,Xp間的關(guān)系式(回歸方程);我們稱它為多元線性回歸方程.01013.我們稱它為多元線性回歸方程.假設(shè)某個(gè)函數(shù)與Y的均方誤差最小,我們有理由以為在均方誤差最小規(guī)范下將它作為回歸函數(shù)進(jìn)展預(yù)告是最好的.單擊“DataView〞。E[Y-f(X1,X2,…,Xp)]2E[Y-E(Y│X1,X2,…,Xp)]2≤定義2提示用E(Y│x1,x2,…,xp)去預(yù)告Y在均方誤差最小規(guī)范下是最好的,因此,單擊“DataView〞。按最小二乘估計(jì)的原理估計(jì)未知參數(shù).E[Y-E(Y│X1,X2,…,Xp)]2≤引入回歸分析的因變量:引入回歸分析的自變量:血紅蛋白.鈣、鎂、鐵、錳、銅.在多元回歸方法〔Method〕中選：強(qiáng)迫引入法〔Enter〕單擊Statistics…；選項(xiàng)如以下圖…；單擊Continue→Plots…點(diǎn)擊Plots…獲得分析資料的正態(tài)性檢驗(yàn)圖形。單擊Continue→OK