1、1單因素試驗的方差分析（一）單因素試驗試驗指標(biāo)：在試驗中，要考察的指標(biāo)稱為試驗指標(biāo)。因素：影響試驗指標(biāo)的條件稱為因素。水平：因素所處于的狀態(tài)稱為水平。單因素試驗和多因素試驗：試驗中只有一個因素在改變稱為單因素試驗，如果多于一個因素在改變稱為多因素試驗。方差分析：根據(jù)試驗的結(jié)果進(jìn)行分析，鑒別各個因素對試驗結(jié)果的影響的一種分析方法?；瘜W(xué)生產(chǎn)中，因素有：原料成分、原料劑量、催化劑、反應(yīng)溫度、壓力、反應(yīng)時間、機(jī)器設(shè)備、操作人員水平等。目的：決定各種因素，使生產(chǎn)過程得以穩(wěn)定。方法：先進(jìn)行試驗。試驗的分析：利用方差分析來分析試驗的結(jié)果。根據(jù)影響試驗結(jié)果的因素的多少分為單因素試驗的方差分析和多因素試驗的方差

2、分析。兩個例子第一個例子用三臺機(jī)器來生產(chǎn)相同的鋁合金薄板，測量薄板的厚度如下表：這里指標(biāo)是薄板的厚度；因素是機(jī)器不同，其他的都相同。問題是：機(jī)器這一因素對厚度有無顯著影響？第二個例子隨機(jī)選取的、用于計算器的四種類型的電路的響應(yīng)時間，如下表所示（單位是毫秒）試驗的指標(biāo)是電路的響應(yīng)時間；考慮的因素是電路類型；目的：是考察電路類型對響應(yīng)時間有無顯著影響。機(jī)器1機(jī)器2機(jī)器30.2360.2380.2480.2450.2430.2570.2530.2550.2540.2610.2580.2640.2590.2670.262類型1類型2類型3類型419 1522201820 4021332716 1715

3、1826182219第三個例子一火箭使用四種燃料，三種推進(jìn)器做射程試驗。每種燃料與美中推進(jìn)器的組合個發(fā)射火箭兩次，得射程如下：試驗指標(biāo)：射程；因素：推進(jìn)器（三個水平）、燃料（四個水平）；目的：考察推進(jìn)器核燃料這兩個因素對射程是否有顯著影響。推進(jìn)器(B)B1B2B3燃料(A)A158.252.656.241.265.360.8A249.142.854.150.551.648.4A360.158.370.973.239.240.7A475.871.558.251.048.741.4問題的討論-（單因素試驗）對于例1在因素的每一個水平下進(jìn)行獨(dú)立試驗，其結(jié)果是一個隨機(jī)變量；表中的數(shù)據(jù)看成是來自三個不同

4、總體的樣本值；若記各個總體的均值依次為1，2，3；則按題意需檢驗假設(shè)H0:1=2=3 ， H1: 1，2，3不全相等。若假設(shè)個總體為正態(tài)變量，且方差相等，但參數(shù)未知。這就變?yōu)闄z驗同方差的多個正態(tài)總體均值是否相等的問題。而方差分析法就是解決這一問題的一種統(tǒng)計方法。單因素試驗的方差分析設(shè)因素有S個水平，在水平Aj (j=1,2,s)下，進(jìn)行nj (nj2)次獨(dú)立試驗，結(jié)果如下：水平觀察結(jié)果A1A2AsX11X21X11X21X11X21樣本總和樣本均值總體均值T.1X.1 1T.2X.2 2 T.sX.s s假定，各個水平Aj (j=1,2,s)下樣本X1j，X2j， 來自具有相同方差2，均值分別

5、為j (j=1,2s)的正態(tài)總體， j和2未知且在不同水平Aj下的樣本之間相互獨(dú)立。Xij - j可以看成是隨機(jī)誤差。記為Xij - j =ij ，則Xij 可以寫為Xij = j +ij ij N(0, 2),各ij獨(dú)立i=1,2,nj , j=1,2,s(1,1)稱為單因素方差分析的數(shù)學(xué)模型。(1,1)方差分析的任務(wù)檢驗s個總體 的均值是否相等，即檢驗假設(shè)作出未知參數(shù) 的估計若記 的加權(quán)平均為再引入 表示總體平均值與總平均的差異，稱為水平Aj的效應(yīng)。這時模型（1.1)可以改寫為：（1，2）（1，3）（1，4）而假設(shè)（1.2)等價于假設(shè)我們來導(dǎo)出上述假設(shè)檢驗的檢驗統(tǒng)計量。(1.1)(1.2)

6、(二）平方和的分解引入總偏差平方和（或總變差）與總平均：即 水平Aj下的樣本均值為這時，可以將ST寫成：（1，5）（1，6）（1，7）上式的第三項為若記 SE稱為誤差平方和， SA表示Aj水平下的樣本均值與數(shù)據(jù)總平均的差異，叫做效應(yīng)平方和，他是由水平Aj的效應(yīng)的差異以及隨機(jī)誤差引起的。（1，8）則得ST=SE+SA ，（1，9）（1，10）（三） SE，SA的統(tǒng)計特性1、SE的統(tǒng)計特性由于 是總體 的nj-1倍，所以由于獨(dú)立，（1，11）中各式獨(dú)立，根據(jù) 分布的可加性，得（1，11）（1，12）可以計算 這里2、SA的統(tǒng)計特性，它是s個變量的平方和，且僅有一個線性約束條件:因此的知SA的自由度

7、是s-1。（1，13）（由（1，3），（1，6）及Xij的獨(dú)立性得知 經(jīng)計算（1，14）（1，15）可以證明SE，SA的是相互獨(dú)立的，且H0當(dāng)為真時（四）假設(shè)檢驗問題的拒絕域由（1，15）式，當(dāng)H0為真時所以SA /(s-1)是2的無偏估計,而當(dāng)當(dāng)H1為真時，這時而由于（1，16）（1，17）（1，18）（1，19）所以，SA /(n-s)是2的無偏估計由于所以檢驗問題(1，2)的拒絕域的形式是：其中k由預(yù)先給定的顯著性水平確定，由此得此檢驗問題的拒絕域是：因此，可以得到單因素方差分析表如下頁（1，20）單因素試驗的方差分析表例4 在例1中就是檢驗假設(shè)這里s=3,n1=n2=n3=5,n=15

8、,按下式計算得到下頁的表方差來源平方和自由度均方F比因素ASAs-1誤差SEn-s總和STn-1由于在ST中n個變量 Xij- 之間僅滿足一個約束條件，故ST的自由度為n-1 （1，21）判斷：因為F (2,12)=3.8932.92，故在水平0.05下拒絕H0，即認(rèn)為各臺機(jī)器生產(chǎn)的薄板厚度有顯著差異。方差來源平方和自由度均方F比因素ASA=0.001 053 3320.000 526 6732.92誤差SE=0.000 192120.000 016總和ST =0.001 245 3314例4的方差分析表（五）未知參數(shù)的估計（1）參數(shù)2 ， ，j ， j的估計由上面的討論，不管H0是否為真，

9、是2的無偏估計由于故 分別是，j的無偏估計。若拒絕H0 ，就意味著，效應(yīng)1，2,s不全為零。由于j=j-, j=1,2,s,可知 是j的無偏估計。（2）兩總體N(j, 2)N(k, 2)均值差j - k = j - k的區(qū)間估計具體做法是由于于是因此均值差j - k = j - k的置信水平為1-的置信區(qū)間是（1，22）例5 求例4中的未知參數(shù)2 ，j ， j 的點(diǎn)估計及均值差的置信水平為0.95的置信區(qū)間。解：經(jīng)計算由t0.025 (n-s)=t0.025 (12)=2.1788，得故1 2 ， 1 3 ， 2 3的置信水平為0.95的置信區(qū)間分別為例6 設(shè)在第二個例子中，四類電路的響應(yīng)時間

10、的總體均為正態(tài)分布，切割總體的方差相同，但參數(shù)未知，并且個樣本相互獨(dú)立。取水平=0.05，檢驗各類電路的響應(yīng)時間是否有顯著差異。解 以1 ， 2 ， 3 ， 4 ， 記類型，四種電路的響應(yīng)時間總體平均值。我們需要檢驗： H0 ：1 = 2 = 3 = 4 ， H1 ：1 ， 2 ， 3，4不全相等 由于n=18,s=4,n1 = n2 = n3 =5,n4 =3，因為F0.05 (3,14)=3.343.76，故在水平0.05下拒絕H0，認(rèn)為各類型電路的響應(yīng)時間有顯著差異。#方差來源平方和自由度均方F比因素誤差318.98395.46314106.3328253.76總和714.4417一元線

11、性回歸本節(jié)的內(nèi)容提綱（一）一元線性回歸的概念和數(shù)學(xué)模型（二）a、b的估計（三） 2的估計（四）線性假設(shè)的顯著性檢驗（五）系數(shù)b的置信區(qū)間（六）回歸函數(shù)(x)=a+bx函數(shù)值的點(diǎn)估計和置信區(qū)間（七）Y的觀測值的點(diǎn)預(yù)測和預(yù)測區(qū)間第三節(jié)、一元線性回歸兩個變量之間的關(guān)系包括：確定性關(guān)系：能用函數(shù)關(guān)系表達(dá)；非確定性關(guān)系：就是相關(guān)關(guān)系。回歸分析：研究相關(guān)關(guān)系的一種數(shù)學(xué)工具。一、一元線性回歸回歸：設(shè)y是隨機(jī)變量，若對于x的每一確定值，y有它的分布。若y的數(shù)學(xué)期望存在，且是x的函數(shù)，記為(x),稱(x)為y關(guān)于x的回歸。預(yù)測問題：在給定的置信度下，估計出當(dāng)x取某一定值時，隨機(jī)變量y的取值情況；控制問題：在給定

12、的置信度下，控制自變量x的取值范圍，使y在給定的范圍內(nèi)取值；回歸分析的任務(wù)主要是根據(jù)試驗，估計回歸函數(shù)，討論點(diǎn)估計、區(qū)間估計、假設(shè)檢驗等問題。設(shè)x取值為x1,x2,xn設(shè)Y1,Y2,Yn為在x1,x2,xn的觀測結(jié)果，則稱(x1, Y1),(x2, ,Y2),(xn ,Yn )是一個樣本。相應(yīng)的樣本值是： (x1, y1),(x2, y2),(xn ,yn )?；貧w函數(shù)(x)的估計。在直角坐標(biāo)系中描出散點(diǎn)圖，粗略得出(x)例1 為研究某一化學(xué)反應(yīng)過程中溫度(x,)與產(chǎn)品得率y的影響。得數(shù)據(jù)如下表：其散點(diǎn)圖如右從圖中可以看出它是一條直線，因此(x) 具有形式(x)=a+bx溫度100110120

13、130140150160170180190得率45515461667074788589100120140160180608010040設(shè)Y關(guān)于x的回歸函數(shù)為(x)。利用樣本來估計(x)的問題稱為求Y關(guān)于x的回歸問題。若(x)是線性函數(shù)(x)=a+bx，此時的估計問題稱為求一元線性回歸問題。一元線性回歸模型：設(shè)YN(a+bx, 2 )其中a,b, 2是未知參數(shù)，記 = Y-（a+bx），則Y= a+bx + , N(0, 2 ) （1）稱上式為一元線性回歸模型。稱a+bx為x的線性函數(shù)，而 N(0, 2 )是隨機(jī)誤差。二、a、b的估計取x的n個完全不相同的值x1,x2,xn，作獨(dú)立試驗，得樣本

14、(x1, Y1),(x2, ,Y2),(xn ,Yn )，于是Y= a+bxi + i , i N(0, 2 )；各i獨(dú)立 （2）Yi N(a+bxi, 2 )， Y1,Y2,Yn的聯(lián)合概率密度為利用最大似然估計法來估計未知參數(shù)a、b。令則變?yōu)榍驫(a,b)的最小值。令得方程組：稱這個方程組為正規(guī)方程組。正規(guī)方程組的系數(shù)行列式為故正規(guī)方程組有唯一一組解這時我們把 作為回歸函數(shù)(x)=ax+b 的估計。稱為Y關(guān)于x的經(jīng)驗回歸函數(shù)。稱方程 為經(jīng)驗回歸方程，簡稱回歸方程。也可以把經(jīng)驗回歸方程寫為若記這時，a,b的估計值是在例1中，測得溫度對產(chǎn)品得率的關(guān)系是為了求回歸方程，我們需要計算溫度100110

15、120130140150160170180190得率45515461667074788589和xYx 2y 2xy1001101201301401501601701801904551546166707478858910 00012 10014 40016 90019 60022 50025 60028 90032 40036 1002 0252 6012 9163 7214 3564 9005 4766 0847 2257 9214 5005 6106 4807 9309 24010 50011 84012 26015 30016 9101 450673218 50047 225101570于

16、是得回歸直線方程為根據(jù)上表可以計算三、 2的估計根據(jù) Y= a+bx + , N(0, 2 ) （1）即 = Y- ( a + bx)； 得到EY ( a+bx)2 = E(2)=D(2)+E()2= 2, 這說明：2愈小，用回歸函數(shù)(x)=ax+b作為Y的近似所導(dǎo)致的均方誤差就愈??；用(x)=ax+b研究Y就愈有效；因為2是未知的，這就要利用樣本來估計2 。Qe是經(jīng)驗回歸函數(shù)(x)=ax+b在xi處的函數(shù)值 與處的觀察值的偏差的平方和。我們來計算Qe根據(jù)： 得Qe的分解式計算出a,b的估計量是：若記殘差平方和服從的分布如下： 的數(shù)學(xué)期望是n-2，由此知這就得到了2的無偏估計量如下頁所示。xY

17、x 2y 2xy1001101201301401501601701801904551546166707478858910 00012 10014 40016 90019 60022 50025 60028 90032 40036 1002 0252 6012 9163 7214 3564 9005 4766 0847 2257 9214 5005 6106 4807 9309 24010 50011 84012 26015 30016 910 1 450673218 50047 225101570計算下表的和時，要計算三個量：和例3、在上表中求2的無偏估計。根據(jù)上頁的表，我們可以得到（四）線性

18、假設(shè)的顯著性檢驗總結(jié)上述的討論，我們有以下幾條：Y關(guān)于x的回歸(x)具有形式：a+bx；(x)是否為x的線性函數(shù)，要具體問題具體分析；即用專業(yè)知識判斷，和運(yùn)用假設(shè)檢驗的方法判斷。若線性假設(shè)Y= a+bx + , N(0, 2 )成立，則b不為零。因此需要檢驗假設(shè)H0 ：b=0，H1 ： b0?？梢宰C明且可以計算及在H0為真時，b=0,這時且有 ，即得H0的拒絕域是幾點(diǎn)說明：在H0：b=0被拒絕時,認(rèn)為回歸效果是顯著的；反之則認(rèn)為回歸效果是不顯著的；回歸效果不顯著的原因可能是：影響Y取值的，除x和隨機(jī)誤差外，可能還有其他因素；E(Y)與x的關(guān)系可能不是線性的；Y與x可能不存在關(guān)系；例4（續(xù)例2）

19、檢驗回歸效果是否顯著。=0.05由上面的討論，知故拒絕H0：b=0 ，認(rèn)為回歸效果是顯著的。（五）系數(shù)b的置信區(qū)間在回歸效果顯著時，還要對系數(shù)b做區(qū)間估計。根據(jù)上述討論，在置信度為1-時，的置信區(qū)間是根據(jù)我們的數(shù)據(jù)，b的置信水平為0.95的置信區(qū)間是（六）回歸函數(shù)(x)=a+bx函數(shù)值的點(diǎn)估計和置信區(qū)間用經(jīng)驗回歸函數(shù) 在x0的函數(shù)值作為(x0)=a+bx0的點(diǎn)估計。即相應(yīng)的估計量 是無偏的。下面求(x0)=a+bx0的區(qū)間估計。由于即由此可以得到(x0)=a+bx0的置信水平為1-的置信區(qū)間為該置信區(qū)間的長度是x0函數(shù)，他隨 的增加而增加，當(dāng) 時最短。（七）Y的觀測值的點(diǎn)預(yù)測和預(yù)測區(qū)間利用經(jīng)驗回歸函數(shù)，可以對因變量Y的觀測值Y0進(jìn)行點(diǎn)預(yù)測和區(qū)間預(yù)測。Y0是在x=x0處的觀測結(jié)果，他滿足Y0= a+bx0 + 0, 0 N(0, 2 )我們利用在x0處的經(jīng)驗