1、方差分析方差分析 (ANOVA) ANOVA概念概念平方和平方和ANOVA表表ANOVA盒狀圖盒狀圖, 多樣比較多樣比較主要效果圖主要效果圖主要結(jié)果圖主要結(jié)果圖雙因素雙因素 ANOVA雙因素模型雙因素模型均值分析均值分析殘差分析殘差分析等值方差檢驗(yàn)等值方差檢驗(yàn)ANOVA - 2學(xué)習(xí)目標(biāo)學(xué)習(xí)目標(biāo)概念性認(rèn)識“方差分析”和“ANOVA表” 設(shè)計(jì)并實(shí)施一個(gè)“單因素”或“雙因素”實(shí)驗(yàn)認(rèn)識并解釋 交叉作用充分認(rèn)識 ANOVA假定模型并知道如何加以實(shí)施認(rèn)識并應(yīng)用多樣比較為學(xué)習(xí)更復(fù)雜的設(shè)計(jì)打下堅(jiān)實(shí)基礎(chǔ)ANOVA - 3從中學(xué)到什么從中學(xué)到什么?從一個(gè)簡單方法中獲得經(jīng)驗(yàn)， 了解過程知識知道如何設(shè)計(jì)并分析一個(gè)簡單

2、實(shí)驗(yàn)提高從少量數(shù)據(jù)中獲得結(jié)論的能力進(jìn)一步認(rèn)識圖形工具在數(shù)據(jù)中應(yīng)用分析多因素對一個(gè)同步反應(yīng)的效果ANOVA - 4是否存在差異是否存在差異?反應(yīng)反應(yīng)10203040501 2 3x因素因素AxxANOVA - 5概念性概念性ANOVA現(xiàn)在我們有了更多一些數(shù)據(jù)因素 A，是否存在差異? 為什么或?yàn)槭裁床?10203040501 2 3xxx反應(yīng)反應(yīng)因素因素 AANOVA - 6概念性概念性 ANOVA10203040501 2 3xxx產(chǎn)出產(chǎn)出因素因素A現(xiàn)在你如何認(rèn)為? 因素A是否存在差異? 為什么或?yàn)槭裁床?ANOVA - 7單因素實(shí)驗(yàn)單因素實(shí)驗(yàn)單向方差分析(ANOVA)是比較兩組以上數(shù)據(jù)均值的統(tǒng)

3、計(jì)方法假設(shè)實(shí)驗(yàn)為:簡單地說, ANOVA檢測群體均值是否存在差異. ANOVA并不告訴我們那一個(gè)存在差異；我們要靠多重比較過程來補(bǔ)充ANOVA加以獲得為什么不僅僅進(jìn)行 t檢驗(yàn)?different is oneleast At :Ha. :Hokk4321ANOVA - 8有關(guān)有關(guān)ANOVA的問題的問題4個(gè)群體均值是否存在差異?4321o :Hdifferent is oneleast At :Hka（至少一個(gè) uk 是不同的）ANOVA - 9方差分析方差分析ANOVA 觀察3個(gè)變動來源:n總體間總體間 所有觀測之間的總體方差n之間之間 子群(因素)均值間的差異n之內(nèi)之內(nèi) 各個(gè)子群內(nèi)的隨機(jī)方差

4、(干擾,或統(tǒng)計(jì)誤差)總體總體 = 兩者間兩者間 + 之內(nèi)之內(nèi)“子群間的方差子群間的方差”“子群內(nèi)的方差子群內(nèi)的方差”用控制圖用控制圖加以類比加以類比ANOVA - 10432170656055 FactorResponseyi,j = 個(gè)別測量y = 實(shí)驗(yàn)的總均值yj = 群體均值i = 代表在代表在 jth群體中的一個(gè)數(shù)據(jù)點(diǎn)群體中的一個(gè)數(shù)據(jù)點(diǎn)j = 代表代表 jth 群體群體g = 群體總數(shù)群體總數(shù)基本知識基本知識 平方和平方和ANOVA - 11平方和平方和 公式公式 (Formula)SS(總總) = 實(shí)驗(yàn)總平方和實(shí)驗(yàn)總平方和 (個(gè)別個(gè)別 - 總均值總均值)SS(因素因素) = 因素平方

5、和因素平方和 (群體均值群體均值 - 總均值總均值)SS(誤差誤差) = 群體中的平方和群體中的平方和 （個(gè)別（個(gè)別 - 群體均值群體均值)SS(Error) SS(Factor) SS(Total) 11112122)()()(gjnigjnijijgjjjijjjyyyynyy通過比較平方和我們能判斷一個(gè)觀測到的差異是確實(shí)存在的差異還是隨機(jī)出現(xiàn)的ANOVA - 12ANOVA平方和平方和我們可以將總平方和分成兩部分 (之間和之內(nèi))如果我們注意的因素在一般程度上沒有影響，那么這兩個(gè)估計(jì) (多者之間和兩者之間) 應(yīng)完全相等，并且我們可以得出結(jié)論所有子群均來自一個(gè)大的群體當(dāng)這兩個(gè)估計(jì) (多者之間

6、和兩者之間) 存在顯著不同時(shí)，我們將這一不同歸結(jié)為子群均值的差異ANOVA - 13ANOVA 零假設(shè)零假設(shè)和和替代假設(shè)替代假設(shè)different is oneleast At :Ha :Hok4321為了判定我們應(yīng)接受或否定零假設(shè)，我們須使用下一幻燈片介紹的方差分析表來計(jì)算檢驗(yàn)數(shù)據(jù)（F比率） ANOVA - 14建立建立 “ANOVA”表表為什么來源 “同者之內(nèi)”成為誤差或干擾?來源來源 SS df MS (=SS/df)F =MS(Factor)/MS(Error)兩者之間兩者之間SS(Factor)g - 1SS (factor)/df factorMS(Factor) / MS(Err

7、or)同者之內(nèi)同者之內(nèi)SS(Error)SS(Error) / df error總計(jì)總計(jì)SS(Total)11gjjngjjn11ANOVA - 15ANOVA 地毯范例地毯范例一個(gè)工程師正研制更為耐用的地毯大部分的顧客意見集中在地毯的一種稱為壓縮變形的磨損上壓縮變形是指地毯受壓厚度降低這一數(shù)據(jù)集包含了4個(gè)地毯安裝后30天的數(shù)據(jù)ANOVA - 16是否有一個(gè)地毯比其他耐用是否有一個(gè)地毯比其他耐用?如果可以的話，我們?nèi)绾闻袛?個(gè)地毯中哪個(gè)最耐用?每個(gè)樣本都在安裝30天后加以測量.在這一實(shí)驗(yàn)中你還應(yīng)注意到什么?耐用度的值越高越好ANOVA - 17單向單向 ANOVA輸入 Response 以及

8、the FactorANOVA - 18盒狀圖盒狀圖: 你如何認(rèn)為你如何認(rèn)為?4321201510CarpetDurabilityBoxplots of Durabili by Carpet(means are indicated by solid circles)從中歸納出什么? 你將購買哪個(gè)地毯?將不購買哪個(gè)地毯?ANOVA - 19ANOVA 表表 Carpet磨損磨損單鄉(xiāng)單鄉(xiāng) ANOVA: 耐用度與耐用度與 地毯地毯耐用度方差分析來源 DF SS MS F P地毯 3 111.6 37.2 2.60 0.101誤差 12 172.0 14.3總計(jì) 15 283.6 Individual

9、 95% CIs For Mean Based on Pooled StDev水平 N 均值 StDev -+-+-+-1 4 14.483 3.157 (-*-) 2 4 9.735 3.566 (-*-) 3 4 12.808 1.506 (-*-) 4 4 17.005 5.691 (-*-) -+-+-+-Pooled StDev = 3.786 10.0 15.0 20.0從 ANOVA表中能歸納出什么?ANOVA - 20“自由度自由度”是什么是什么?在ANOVA中, 自由度表示如下:ndftotal = N-1 = # of observations - 1ndffactor =

10、 L-1 = # of levels - 1ndfinteraction = dffactorA X dffactorBndferror = dftotal - dfeverything else statisticsincurrencyfreedomofdegrees我們每收集一個(gè)數(shù)據(jù)點(diǎn)就獲得我們每收集一個(gè)數(shù)據(jù)點(diǎn)就獲得 一個(gè)自由度一個(gè)自由度.我們每估計(jì)一個(gè)參數(shù)就我們每估計(jì)一個(gè)參數(shù)就消耗消耗一個(gè)自由度一個(gè)自由度.ANOVA - 21“自由度自由度”是什么是什么?在ANOVA中, 自由度表示如下:ndftotal = N-1 = # of observations - 1ndffactor =

11、L-1 = # of levels - 1ndfinteraction = dffactorA X dffactorBndferror = dftotal - dfeverything else 我們對包括五個(gè)水平的因素進(jìn)行檢驗(yàn)，并對每個(gè)因素水平收集七個(gè)數(shù)據(jù)點(diǎn)我們要進(jìn)行多少次觀察? 5 個(gè)水平 x每個(gè)水平 7次觀察=35 總觀察數(shù)總共有多少自由度? 35 - 1 = 34有多少自由度用于估計(jì)因素效果? 5個(gè)水平 - 1 = 4有多少自由度用于估計(jì)誤差? 34 總數(shù) - 4 個(gè)水平 = 30 個(gè)自由度 ANOVA - 22單向單向ANOVA模型模型當(dāng)進(jìn)行單向 ANOVA時(shí), 可建立一個(gè)線形統(tǒng)計(jì)模

12、型來描述對i個(gè)水平進(jìn)行觀察，每個(gè)水平進(jìn)行j次觀察模型采取如下形式:ijiijy其中yij表示第ij次觀察, 是總均值, (tau)表示第I個(gè)水平效果, ij 表示隨機(jī)誤差A(yù)NOVA - 23單向ANOVA模型常常指的是一種混合效果模型 :在選擇這一模型時(shí)應(yīng)進(jìn)行一定假定，并加以確定以保證我們結(jié)論的有效性在我們的統(tǒng)計(jì)分析中，建模起著核心作用以確保課程的平衡性. 在方差因素和簡單線形回歸學(xué)習(xí)中我們已經(jīng)進(jìn)行過建模. 在雙因素ANOVA,多元回歸, 實(shí)驗(yàn)設(shè)計(jì)以及表面設(shè)計(jì)反應(yīng)中將有更多的建模工作ijiijy單向單向ANOVA模型模型ANOVA - 24主要主要ANOVA假定假定模型誤差假定服從正態(tài)分布且均

13、值為零，模型誤差同時(shí)假定為隨機(jī)分布n殘差分析有助于我們對此加以確定 對所有因素水平,假定方差值一定n對等值方差的殘差分析和檢驗(yàn)將有助于此假定樣本來自正態(tài)分布的群體n還記得正態(tài)概率圖嗎?ANOVA - 25殘差分析殘差分析殘差圖不應(yīng)表現(xiàn)與任何因素相關(guān)的形態(tài),包括擬合值殘差與擬合值的平均值應(yīng)為零殘差應(yīng)接近正態(tài)分布注意: 在方差的固定效果分析中, 稍微偏離殘差的正態(tài)性問題不大ANOVA - 26模型適當(dāng)性模型適當(dāng)性更多的好消息更多的好消息通過選擇適當(dāng)?shù)臉颖疽?guī)模并隨機(jī)進(jìn)行實(shí)驗(yàn)，你的實(shí)驗(yàn)將服從正態(tài)性 (記住中心極限定理)雖然一般假定需要進(jìn)行確認(rèn)，但在設(shè)計(jì)和操作實(shí)驗(yàn)時(shí)，可以采取一定的預(yù)防措施來防止一些一般

14、誤差的發(fā)生從一開始應(yīng)保證實(shí)驗(yàn)的統(tǒng)一性ANOVA - 27單向單向ANOVA Wrap Up在進(jìn)行雙向ANOVA分析時(shí),我們通常進(jìn)行模型假設(shè)的檢驗(yàn)RECAPPING 單向ANOVA方法1. 選擇完整的樣本規(guī)模和因素水平2. 隨機(jī)進(jìn)行實(shí)驗(yàn)并收集數(shù)據(jù)3. 進(jìn)行ANOVA分析4. 如有需要使用Pairwise 對比5. 進(jìn)行殘差,方差和正態(tài)假定的檢驗(yàn)6. 建立主效果圖,區(qū)間圖,等等.7. 得出結(jié)論這一簡要過程并不表示完整程序你可假如哪些其他項(xiàng)目? ANOVA - 28單向與雙向單向與雙向ANOVA在單向ANOVA中，我們檢驗(yàn)單因素的不同水平如何影響一個(gè)相關(guān)變量在雙向ANOVA中，我們檢驗(yàn)雙因素的不同水

15、平與其交互作用如何影響一個(gè)相關(guān)變量ANOVA - 29雙向雙向ANOVA 現(xiàn)在我們可以考慮雙因素現(xiàn)在我們可以考慮雙因素在較高水平中, 一個(gè)雙向ANOVA (雙因素) 可以看作雙因素實(shí)驗(yàn)因素可以在不同水平中取得; 你不用局限于兩個(gè)水平低低高高低低高高AB6965828063594442ANOVA - 30雙向雙向ANOVA實(shí)驗(yàn)常常涉及到超過一個(gè)因素的研究因素設(shè)計(jì)是很有效的方法，其中因素水平的組合是通過評估確定的設(shè)計(jì)檢驗(yàn)由不同水平的因素及其相互作用引起的反應(yīng)的效果在單向ANOVA的情況中，我們要建立一個(gè)模型并檢驗(yàn)一些假定ANOVA - 31雙因素因素設(shè)計(jì)雙因素因素設(shè)計(jì)一般雙因素因素實(shí)驗(yàn)采用如下表格

16、，在單因素ANOVA情況下，實(shí)驗(yàn)的隨機(jī)性很重要：在實(shí)驗(yàn)中，因素A具有從1到a的水平，因素B具有從1到b 的水平，將1到n復(fù)制一遍通常更傾向于均衡設(shè)計(jì) (每次操作的觀察次數(shù)一致)，因?yàn)檫@可以防止方差的一切不均等 Factor B12. . .b1Factor A2.aANOVA - 32雙因素因素設(shè)計(jì)雙因素因素設(shè)計(jì)雙因素實(shí)驗(yàn)中的模型采用如下形式:ijkijjiijky)(其中: 是總均值 i 是A的第I水平的效果 (行因素) j是 B的第 j水平的效果 (列因素) ()ij 是相互作用的效果, ijk 是隨機(jī)誤差.ANOVA - 33ijkijjiijky)(ijkijj i ijky ) (i

17、jkijj iijky ) (ijkijjiijky ) (行效果-因素A = 0列效果-因素B = 0相互作用效果 = 0雙向雙向ANOVA 零假設(shè)零假設(shè)雙向ANOVA中的零假設(shè) 是指上述等式中的系數(shù)為零,表示為ANOVA - 34雙因素因素設(shè)計(jì)雙因素因素設(shè)計(jì)如同單因素方差分析一樣,總變量可以分為因素的平方和 : SST= SSA+ SSB + SSAB + SSe條件是: nSST 是總平方和, nSSA 是因素 A的平方和, nSSB是因素 B 的平方和, nSSAB 是由于A與B的作用而得到的平方和nSSe 是誤差的平方和ANOVA - 35雙向雙向 ANOVA 自由度自由度于是SSA

18、B、dfAB可剖分為：各項(xiàng)平方和、自由度及均方的計(jì)算公式如下：矯正數(shù) 總平方和與自由度 水平組合平方和與自由度 A因素平方和與自由度 B因素平方和與自由度 交互作用平方和與自由度 誤差平方和與自由度 BABAABBABAABdfdfdfdfSSSSSSSSabnxC/2.12abndfCxSSTijlT，112.abdfCxbSSABijAB，112.adfCxbnSSAiA，112. .bdfCxanSSBjB，) 1)(1(,badfSSSSSSSSBABAABBA) 1(,nabdfSSSSSSeABTeANOVA - 36雙向雙向 ANOVA 自由度自由度每個(gè)平方和都與自由度相關(guān):So

19、urceSum of SquaresDegrees of FreedomMean SquareF0Factor ASSAa - 11aSSMSAAEAMSMSF 0Factor BSSBb - 11bSSMSBBEBMSMSF 0InteractionSSAB(a - 1)(b - 1) 1)(1(baSSMSABABEABMSMSF 0ErrorSSEab(n - 1) 1( nabSSMSEETotalSSTabn - 1ANOVA - 37雙因素雙因素ANOVA與浮游生物與浮游生物你作為生物學(xué)家，正研究浮游生物如何生活在兩個(gè)湖里你在實(shí)驗(yàn)室建起十二個(gè)水箱，每六個(gè)裝著一個(gè)湖里的水 將三種營養(yǎng)

20、物質(zhì)中的一種加到每個(gè)水箱中，30天后計(jì)算每一單位體積水中的浮游生物數(shù)由于浮游生物是食物鏈的最底層，你要補(bǔ)充它在湖里的數(shù)量以保持湖里的生態(tài)ANOVA - 38浮游生物浮游生物?雙向ANOVA: 浮游生物 與, 湖Zooplank方差分析來源 DF SS MS F P營養(yǎng)成分 2 1919 959 9.25 0.015湖 1 21 21 0.21 0.666相互作用 2 561 281 2.71 0.145誤差 6 622 104總計(jì) 11 3123 Individual 95% CI營養(yǎng)成分 均值 -+-+-+-+-1 43.5 (-*-)2 68.3 (-*-)3 39.8 (-*-) -+-+-+-+- 30.0 45.0 60.0 75.0 Individual 95% CI湖 均值 -+-+-+-+-Denniso