1、多元線性回歸,b=regress( Y, X ),1、確定回歸系數(shù)的點估計值：,統(tǒng)計工具箱中的回歸分析命令,對一元線性回歸，取p=1即可。,3、畫出殘差及其置信區(qū)間： rcoplot（r，rint）,2、求回歸系數(shù)的點估計和區(qū)間估計、并檢驗回歸模型： b, bint,r,rint,stats=regress(Y,X,alpha),例1,解：,1、輸入數(shù)據(jù)： x=143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164; X=ones(16,1) x; Y=88 85 88 91 92 93 93 95 96 98 97 96

2、 98 99 100 102;,2、回歸分析及檢驗： b,bint,r,rint,stats=regress(Y,X) b,bint,stats,題目,3、殘差分析，作殘差圖： rcoplot(r,rint),從殘差圖可以看出，除第二個數(shù)據(jù)外，其余數(shù)據(jù)的殘差離零點均較近，且殘差的置信區(qū)間均包含零點，這說明回歸模型 y=-16.073+0.7194x能較好的符合原始數(shù)據(jù)，而第二個數(shù)據(jù)可視為異常點.,4、預測及作圖： z=b(1)+b(2)*x plot(x,Y,k+,x,z,r),多 項 式 回 歸,（一）一元多項式回歸,y=a1xm+a2xm-1+amx+am+1,2、預測和預測誤差估計：,（

3、1）Y=polyval（p，x）求polyfit所得的回歸多項式在x處 的預測值Y； （2）Y，DELTA=polyconf（p，x，S，alpha）求polyfit所得的回歸多項式在x處的預測值Y及預測值的顯著性為1-alpha的置信區(qū)間Y DELTA；alpha缺省時為0.5,方法一,直接作二次多項式回歸： t=1/30:1/30:14/30; s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48; p,S=polyfit(t,s,2),得回歸模型為 ：,法二,化為多

4、元線性回歸： t=1/30:1/30:14/30; s=11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48; T=ones(14,1) t (t.2); b,bint,r,rint,stats=regress(s,T); b,stats,得回歸模型為 ：,Y=polyconf(p,t,S) plot(t,s,k+,t,Y,r),預測及作圖,（二）多元二項式回歸,命令：rstool（x，y，model, alpha）,例3 設某商品的需求量與消費者的平均收入、商品價格的統(tǒng)計數(shù)

5、 據(jù)如下，建立回歸模型，預測平均收入為1000、價格為6時 的商品需求量.,方法一,直接用多元二項式回歸： x1=1000 600 1200 500 300 400 1300 1100 1300 300; x2=5 7 6 6 8 7 5 4 3 9; y=100 75 80 70 50 65 90 100 110 60; x=x1 x2; rstool(x,y,purequadratic),在畫面左下方的下拉式菜單中選”all”, 則beta、rmse和residuals都傳送到Matlab工作區(qū)中.,在左邊圖形下方的方框中輸入1000，右邊圖形下方的方框中輸入6。,則畫面左邊的“Predi

6、cted Y”下方的數(shù)據(jù)變?yōu)?8.47981，即預測出平均收入為1000、價格為6時的商品需求量為88.4791.,在Matlab工作區(qū)中輸入命令： beta, rmse,結(jié)果為: b = 110.5313 0.1464 -26.5709 -0.0001 1.8475 stats = 0.9702 40.6656 0.0005,方法二,非線性回 歸,（1）確定回歸系數(shù)的命令： beta，r，J=nlinfit（x，y，model, beta0）,（2）非線性回歸命令：nlintool（x，y，model, beta0，alpha）,1、回歸：,例 4 對第一節(jié)例2，求解如下：,2、輸入數(shù)據(jù)：

7、x=2:16; y=6.42 8.20 9.58 9.5 9.7 10 9.93 9.99 10.49 10.59 10.60 10.80 10.60 10.90 10.76; beta0=8 2;,3、求回歸系數(shù)： beta,r ,J=nlinfit(x,y,volum,beta0)； beta,得結(jié)果：beta = 11.6036 -1.0641,即得回歸模型為：,4、預測及作圖： YY,delta=nlpredci(volum,x,beta,r ,J)； plot(x,y,k+,x,YY,r),例5 財政收入預測問題：財政收入與國民收入、工業(yè)總產(chǎn)值、農(nóng)業(yè)總產(chǎn)值、總?cè)丝?、就業(yè)人口、固定資產(chǎn)

8、投資等因素有關。下表列出了1952-1981年的原始數(shù)據(jù)，試構(gòu)造預測模型。,解 設國民收入、工業(yè)總產(chǎn)值、農(nóng)業(yè)總產(chǎn)值、總?cè)丝凇⒕蜆I(yè)人口、固定資產(chǎn)投資分別為x1、x2、x3、x4、x5、x6，財政收入為y，設變量之間的關系為： y= ax1+bx2+cx3+dx4+ex5+fx6 使用非線性回歸方法求解。,1 對回歸模型建立M文件model.m如下: function yy=model(beta0,X) a=beta0(1); b=beta0(2); c=beta0(3); d=beta0(4); e=beta0(5); f=beta0(6); x1=X(:,1); x2=X(:,2); x3=X

9、(:,3); x4=X(:,4); x5=X(:,5); x6=X(:,6); yy=a*x1+b*x2+c*x3+d*x4+e*x5+f*x6;,2. 主程序liti6.m如下:,X=598.00 349.00 461.00 57482.00 20729.00 44.00 . 2927.00 6862.00 1273.00 100072.0 43280.00 496.00; y=184.00 216.00 248.00 254.00 268.00 286.00 357.00 444.00 506.00 . 271.00 230.00 266.00 323.00 393.00 466.00 3

10、52.00 303.00 447.00 . 564.00 638.00 658.00 691.00 655.00 692.00 657.00 723.00 922.00 . 890.00 826.00 810.0; beta0=0.50 -0.03 -0.60 0.01 -0.02 0.35; betafit = nlinfit(X,y,model,beta0),betafit = 0.5243 -0.0294 -0.6304 0.0112 -0.0230 0.3658 即y= 0.5243x1-0.0294x2-0.6304x3+0.0112x4-0.0230 x5+0.3658x6,結(jié)果為

11、:,逐 步 回 歸,逐步回歸的命令是： stepwise（x，y，inmodel，alpha）,運行stepwise命令時產(chǎn)生三個圖形窗口：Stepwise Plot，Stepwise Table，Stepwise History.,在Stepwise Plot窗口，顯示出各項的回歸系數(shù)及其置信區(qū)間.,Stepwise Table 窗口中列出了一個統(tǒng)計表，包括回歸系數(shù)及其置信區(qū)間，以及模型的統(tǒng)計量剩余標準差（RMSE）、相關系數(shù)（R-square）、F值、與F對應的概率P.,教學評估,為了考評教師的教學質(zhì)量，教學研究部門設計了一個教學評 估表，對學生進行一次問卷調(diào)查，要求學生對12位教師的15

12、 門課程（其中3為教師有兩門課程）按以下7項內(nèi)容打分，分 值為15分（5分最好，1分最差）：,問題：,課程內(nèi)容組織的合理性；,主要問題展開的邏輯性；,回答學生問題的有效性；,課下交流的有助性；,教科書的幫助性；,考試評分的公正性；,對教師的總體評價。,收回問卷調(diào)查表后，得到了學生對12為教師、15門課程各項評分的平均值，見表。,不一定每項都,對教師總體評價,有顯著影響，并且各項內(nèi)容之間也可能存,在很強的相關性，他們希望得到一個總體評價與各項具體內(nèi)容 之間的模型，模型應盡量簡單和有效，并且由此能給教師一些 合理的建議，以提高總體評價。,準備知識：,逐步回歸,這個問題給出了6個自變量，但我們希望從

13、中選出對因變量,影響顯著的那些來建立回歸模型。變量選擇的標準應該是將所 有對因變量影響顯著的自變量都選入模型，而影響不顯著的自 變量都不選入模型，從便于應用的角度，應使模型中的自變量 個數(shù)盡量少。逐步回歸就是一種從眾多自變量中有效的選擇重 要變量的方法。,教學研究部門認為，所列各項具體內(nèi)容,逐步回歸的基本思路是，先確定一個包含若干自變量的初始集合，然后每次從集合外的變量中引入一個對因變量影響最大的，,再對集合中的變量進行檢驗，從變得不顯著的變量中移出一個 影響最小的，依次進行，直到不能引入和移出為止。引入和移 出都以給定的顯著性水平為標準。,利用MATLAB系統(tǒng)工具箱中的逐步回歸命令stepw

14、ise可以實現(xiàn) 逐步回歸。Stepwise提供人機交互式畫面，可以在畫面上自由 引入和移出變量，進行統(tǒng)計分析。具體用法參見MATLAB叢書,回歸模型的建立與求解：,我們利用MATLAB命令得到各個變量的回歸系數(shù)，置信區(qū)間，及 剩余標準差（RMSE），決定系數(shù)（R-square），,值，,值。見表。,可以看到，除,外其他自變量的回歸系數(shù)置信區(qū)間都包含零點,在臨界狀態(tài)，將,一一移去（與次序無關），當模,型中僅含,時結(jié)果見下表。,可以看到，僅含,模型的回歸系數(shù)置信區(qū)間遠離零點，,對,的影響是顯著的，與上個結(jié)果比較，剩余標準差由,0.1125減少到0.1，雖然,略有下降，但,值大大提高。這些,表明僅含

15、,模型是合適的。但MATLAB命令并未給出回歸模,型的常數(shù)項。我們由以下方法計算得到：,終得到的模型為,在最終模型里回歸變量只有,其中，,分別是,的平均值。利用逐步回歸最,模型解釋：,，是一個簡單易用的模型，據(jù),此可把課程內(nèi)容組織的合理性（ ）,和回答學生問題的有效性,（ ）列入考評的重點。上式表明，,的分值每增加一分，對,教師的總體評價就增加約0.5分；,的分值每增加一分，對教師,的總體評價就增加約0.77分。應建議教師注重這兩方面的工作。 為了分析其它變量沒有進入最終模型的原因，可以計算,的相關系數(shù)，利用MATLAB系統(tǒng)工具箱中的corrcoef命令直接得 到這7個變量的相關系數(shù)矩陣：,一般認為，兩個變量的相關系數(shù)超過0.85時才具有顯著的相關 關系。由上面的結(jié)果知，與,相關關系顯著的只有,而,未進入最終模型，是由于它與,的相關系數(shù)顯著（相,關