1暑期數(shù)學建模培訓(xùn)回歸分析先來看兩個例子：問題1(血壓與年齡)為了了解血壓隨著年齡的增長而升高的關(guān)系，調(diào)查了30個成年人的血壓，如表所示，我們希望用這組數(shù)確定血壓與年齡之間的關(guān)系，并且由此從年齡預(yù)測血壓可能的變化范圍。表1序號血壓年齡序號血壓年齡序號血壓年齡1144391116264211363622154712150562214250313845131405923120394145471411034241202151626515128422516044614246161304826158537170671713545271446381244218114182813029915867191162029125251015456201241930175693模型：記血壓為y，年齡為x，可以做出如上圖所示的散點圖，從圖形上直觀的可以看出，y與x大致呈線性關(guān)系，即有：需要由數(shù)據(jù)確定系數(shù)的估計值。此函數(shù)為一元線性函數(shù)??！4問題2(血壓與年齡，體重指數(shù)，吸煙習慣)世界衛(wèi)生組織頒布的“體重指數(shù)”的定義是體重(kg)除以身高(m)的平方，下表給出了30個人的體重指數(shù)等數(shù)據(jù)，其中，0表示不吸煙，1表示吸煙，怎么考慮吸煙這個因素，此因素對于血壓升高有影響嗎，并對體重指數(shù)為25,50歲的吸煙者的血壓做出預(yù)測。表2序號血壓年齡體重指數(shù)吸煙習慣序號血壓年齡體重指數(shù)吸煙習慣序號血壓年齡體重指數(shù)吸煙習慣11443924.20111626428.01211363625.0022154731.11121505625.80221425026.2131384522.60131405927.30231203923.5041454724.01141103420.10241202120.3051626525.91151284221.70251604427.1161424625.10161304822.21261585328.6171706729.51171354527.40271446328.3081244219.70181141818.80281302922.0191586727.21191162022.60291252525.30101545619.30201241921.50301756927.415模型：記血壓為，年齡為，體重指數(shù)為，吸煙習慣為，用Matlab將與的數(shù)據(jù)做散點圖，看出大致也呈線性關(guān)系，建立模型：由數(shù)據(jù)估計系數(shù)，也可看做曲面擬合（其實為超平面）6一元線性回歸多元線性回歸回歸分析數(shù)學模型及定義*模型參數(shù)估計*檢驗、預(yù)測與控制可線性化的一元非線性回歸（曲線回歸）數(shù)學模型及定義*模型參數(shù)估計*多元線性回歸中的檢驗與預(yù)測逐步回歸分析7一元線性回歸分析的主要任務(wù)是：返回8二、模型參數(shù)估計1、回歸系數(shù)的最小二乘估計9返回10三、檢驗、預(yù)測與控制1、回歸方程的顯著性檢驗11（Ⅰ）F檢驗法

（Ⅱ）t檢驗法12（Ⅲ）r檢驗法132、回歸系數(shù)的置信區(qū)間143、預(yù)測與控制（1）預(yù)測15（2）控制返回16統(tǒng)計工具箱中的回歸分析命令1、多元線性回歸2、多項式回歸3、非線性回歸4、逐步回歸返回17多元線性回歸

b=regress(Y,X)1、確定回歸系數(shù)的點估計值：183、畫出殘差及其置信區(qū)間：

rcoplot（r，rint）2、求回歸系數(shù)的點估計和區(qū)間估計、并檢驗回歸模型：

[b,bint,r,rint,stats]=regress(Y,X,alpha)回歸系數(shù)的區(qū)間估計殘差用于檢驗回歸模型的統(tǒng)計量，有三個數(shù)值：相關(guān)系數(shù)r2、F值、與F對應(yīng)的概率p置信區(qū)間顯著性水平（缺省時為0.05）19問題1的求解：問題1y=[……]; %已知的因變量數(shù)組x=[……]; %已知的自變量數(shù)組n=……; %已知的數(shù)據(jù)容量X=[ones(n,1),x’]; %1與自變量組成的輸入矩陣[b,bint,r,rint,s]=regress(y’,X); %回歸分析程序(顯著性水平為0.05)b,bint,s, %輸出回歸系數(shù)及其置信區(qū)間和統(tǒng)計量rcoplot(r,rint) %殘差及其置信區(qū)間作圖輸出結(jié)果為：b=98.40840.9732bint=78.7484118.06830.56011.3864s=0.454023.28340.0000273.713720結(jié)果整理為下表：R2=0.4540F=23.2834p<0.001s2=273.7137[0.56011.3864]0.9732[74.7484,118.0683]98.4084回歸系數(shù)置信區(qū)間回歸系數(shù)估計值回歸系數(shù)從以下幾點可以看出模型是有效的：參數(shù)的置信區(qū)間不含0點；p小于顯著性水平；用Matlab可以求出F1-α(1,n-2)=4.1960，顯然小于F值。但是由于β1的置信區(qū)間過長，R2較小，說明模型的精度不高！21殘插圖如圖所示：圖中第二個點的殘差置信區(qū)間中不包含0點，由于殘差服從均值為0的正態(tài)分布，因此可以認為這個點為異常數(shù)據(jù)，偏離數(shù)據(jù)整體的變化范圍，應(yīng)該剔除，重新進行回歸分析??！22剔除第二個點后得到的結(jié)果：R2=0.7123F=66.8358p<0.0001s2=91.4305[0.7140，1.1925]0.9533[85.4771,108.2559]96.8665回歸系數(shù)置信區(qū)間回歸系數(shù)估計值回歸系數(shù)對50歲的人血壓進行預(yù)測，得到結(jié)果為：根據(jù)預(yù)測區(qū)間，可以得到其置信度為0.95的置信區(qū)間為：[125.7887,163.2708].23同樣方法做問題二

第一次做多元回歸結(jié)果：問題2R2=0.6855F=18.8906p<0.0001s2=169.7917[-0.07580.7965]0.3604[3.553787.1736]45.3636回歸系數(shù)置信區(qū)間回歸系數(shù)估計值回歸系數(shù)3.090611.8246[1.05305.1281][-0.148223.7973]通過殘差分析圖可以得到第2個點和第10個點為異常點，刪除后重新進行回歸分析，可以得到下面表：24R2=0.8462F=44.0087p<0.0001s2=53.6604[0.12730.7332]04303[29.906487.1138]58.5101回歸系數(shù)置信區(qū)間回歸系數(shù)估計值回歸系數(shù)2.344910.3065[0.85093.8389][3.387817.2253]用上面的參數(shù)通過計算可以得到：50歲,體重指數(shù)為25,吸煙的人的血壓預(yù)測為:148.9525置信度為0.05的置信區(qū)間為：[134.5951,163.3099]25非線性回歸（1）確定回歸系數(shù)的命令：

[beta，r，J]=nlinfit（x，y，’model’,beta0）（2）非線性回歸命令：nlintool（x，y，’model’,beta0，alpha）1、回歸：殘差Jacobian矩陣回歸系數(shù)的初值是事先用m-文件定義的非線性函數(shù)估計出的回歸系數(shù)輸入數(shù)據(jù)x、y分別為矩陣和n維列向量，對一元非線性回歸，x為n維列向量。2、預(yù)測和預(yù)測誤差估計：[Y，DELTA]=nlpredci（’model’,x，beta，r，J）求nlinfit或nlintool所得的回歸函數(shù)在x處的預(yù)測值Y及預(yù)測值的顯著性為1-alpha的置信區(qū)間YDELTA.26例4

對第一節(jié)例2，求解如下：2、輸入數(shù)據(jù)：x=2:16;y=[6.428.209.589.59.7109.939.9910.4910.5910.6010.8010.6010.9010.76];beta0=[82]';3、求回歸系數(shù)：

[beta,r,J]=nlinfit(x',y','volum',beta0)；

beta得結(jié)果：beta=11.6036-1.0641即得回歸模型為：ToMATLAB(liti41)題目274、預(yù)測及作圖：

[YY,delta]=nlpredci('volum',x',beta,r,J)；

plot(x,y,'k+',x,YY,'r')ToMATLAB(liti42)28例

財政收入預(yù)測問題：財政收入與國民收入、工業(yè)總產(chǎn)值、農(nóng)業(yè)總產(chǎn)值、總?cè)丝?、就業(yè)人口、固定資產(chǎn)投資等因素有關(guān)。下表列出了1952-1981年的原始數(shù)據(jù)，試構(gòu)造預(yù)測模型。

解設(shè)國民收入、工業(yè)總產(chǎn)值、農(nóng)業(yè)總產(chǎn)值、總?cè)丝凇⒕蜆I(yè)人口、固定資產(chǎn)投資分別為x1、x2、x3、x4、x5、x6，財政收入為y，設(shè)變量之間的關(guān)系為：y=ax1+bx2+cx3+dx4+ex5+fx6使用非線性回歸方法求解。291．

對回歸模型建立M文件model.m如下:functionyy=model(beta0,X)a=beta0(1);b=beta0(2);c=beta0(3);d=beta0(4);e=beta0(5);f=beta0(6);x1=X(:,1);x2=X(:,2);x3=X(:,3);x4=X(:,4);x5=X(:,5);x6=X(:,6);yy=a*x1+b*x2+c*x3+d*x4+e*x5+f*x6;

302.

主程序liti6.m如下:X=[598.00349.00461.0057482.0020729.0044.00…………..2927.006862.001273.00100072.043280.00496.00];y=[184.00216.00248.00254.00268.00286.00357.00444.00506.00...271.00230.00266.00323.00393.00466.00352.00303.00447.00...564.00638.00658.00691.00655.00692.00657.00723.00922.00...890.00826.00810.0]';beta0=[0.50-0.03-0.600.01-0.020.35];betafit=nlinfit(X,y,'model',beta0)ToMATLAB(liti6）31

betafit=0.5243-0.0294-0.63040.0112-0.02300.3658即y=0.5243x1-0.0294x2-0.6304x3+0.0112x4-0.0230x5+0.3658x6結(jié)果為:返回32逐步回歸逐步回歸的命令是：

stepwise（x，y，inmodel，alpha）運行stepwise命令時產(chǎn)生三個圖形窗口：StepwisePlot，StepwiseTable，StepwiseHistory.在StepwisePlot窗口，顯示出各項的回歸系數(shù)及其置信區(qū)間.

StepwiseTable窗口中列出了一個統(tǒng)計表，包括回歸系數(shù)及其置信區(qū)間，以及模型的統(tǒng)計量剩余標準差（RMSE）、相關(guān)系數(shù)（R-square）、F值、與F對應(yīng)的概率P.矩陣的列數(shù)的指標，給出初始模型中包括的子集（缺省時設(shè)定為全部自變量）顯著性水平（缺省時為0.5）自變量數(shù)據(jù),

階矩陣因變量數(shù)據(jù)，階矩陣33例水泥凝固時放出的熱量y與水泥中4種化學成分x1、x2、x3、x4

有關(guān)，今測得一組數(shù)據(jù)如下，試用逐步回歸法確定一個線性模型.1、數(shù)據(jù)輸入：x1=[7111117113122111110]';x2=[26295631525571315447406668]';x3=[615886917221842398]';x4=[6052204733226442226341212]';y=[78.574.3104.387.695.9109.2102.772.593.1115.983.8113.3109.4]';x=[x1x2x3x4];342、逐步回歸：（1）先在初始模型中取全部自變量：

stepwise(x,y)得圖StepwisePlot和表StepwiseTable圖StepwisePlot中四條直線都是虛線，說明模型的顯著性不好從表StepwiseTable中看出變量x3和x4的顯著性最差.35（2）在圖StepwisePlot中點擊直線3和直線4，移去變量x3和x4移去變量x3和x4后模型具有顯著性.

雖然剩余標準差（RMSE）沒有太大的變化，但是統(tǒng)計量F的值明顯增大，因此新的回歸模型更好.ToMATLAB(liti51）36（3）對變量y和x1、x2作線性回歸：

X=[ones(13,1)x1x2];b=regress(y,X)得結(jié)果：b=52.57731.46830.6623故最終模型為：y=52.5773+1.4683x1+0.6623x2ToMATLAB(liti52）返回37作業(yè)1、考察溫度x對產(chǎn)量y的影響，測得下列10組數(shù)據(jù)：求y關(guān)于x的線性回歸方程，檢驗回歸效果是否顯著，并預(yù)測x=42℃時產(chǎn)量的估值及預(yù)測區(qū)間（置信度95%）.2、某零件上有一段曲線，為了在程序控制機床上加工這一零件，需要求這段曲線的解析表達式，在曲線橫坐標xi處測得縱坐標yi共11對數(shù)據(jù)如下：求這段曲線的縱坐標y關(guān)于橫坐標x的二次多項式回歸方程.38394、混凝土的抗壓強度隨養(yǎng)護時間的延長而增加，現(xiàn)將一批混凝土作成12個試塊，記錄了養(yǎng)護日期x（日）及抗壓強度y（kg/cm2）的數(shù)據(jù)：40四軟件開發(fā)人員的薪金問題：一家高技術(shù)公司人事部門為研究軟件開發(fā)人員的薪金與他們的資歷、管理責任、教育程度等因素之間的關(guān)系，要建立一個數(shù)學模型，以便分析公司人士策略的合理性，并作為新聘用人員工資的參考。他們認為目前公司人員的薪金總體上是合理的，可以作為建模的依據(jù)，于是調(diào)查了46名開發(fā)人員的檔案資料，如表。其中資歷一列指從事專業(yè)工作的年數(shù)，管理一列中1表示管理人員，0表示非管理人員，教育一列中1表示中學程度，2表示大學程度，3表示更高程度（研究生）41編號薪金資歷管理教育編號薪金資歷管理教育01138761111319800313021160810314114174010318701113152026341304112831021613231403051176710317128444020620872212181324550207117722021913677503081053520120159655110912195203211236660110123133022221352613111497531123138396021221371312242288461242編號薪金資歷管理教育編號薪金資歷管理教育251697871136168821202261480380237241701213271740481138159901301282218481339263301312291354880140179491402301446710014125685151331159421002422783716123223174101343188381602332378010124417483160134254101112451920717023514861110146193462001開發(fā)人員的薪金與他們的資歷、管理責任、教育程度43分析與假設(shè)：按照常識，薪金自然按照資歷（年）的增長而增加，管理人員的薪金高于非管理人員，教育程度越高薪金越高。薪金記作，資歷（年）記作，為了表示是否為管理人員定義1，管理人員0，非管理人員為了表示三種教育程度，定義1，中學0，其它1，大學0，其它這樣，中學用表示，大學用表示，研究生則用表示。44為了簡單起見，我們假定資歷（年）對薪金的作用是線性的，即資歷每加一年，薪金的增長是常數(shù)；管理責任、教育程度、資歷諸因素之間沒有交互作用，建立線性回歸模型?；灸Ｐ停盒浇鹋c資歷，管理責任，教育程度之間的多元線性回歸模型為其中，是待估計的回歸系數(shù)，是隨機誤差。利用MATLAB的系統(tǒng)工具箱可以得到回歸系數(shù)及其置信區(qū)間（置信水平）、檢驗統(tǒng)計量的結(jié)果，見表。45參數(shù)參數(shù)估計值置信區(qū)間11032[1025811807]546[484608]6883[62487517]-2994[-3826-2162]148[-636931]46結(jié)果分析：從表中，，即因變量（薪金）的95.7%可由模型確定，值超過檢驗的臨界值，遠小于，因而模型從整體來看是可用的。比如，利用模型可以估計（或估計）一個大學畢業(yè)、有2年資歷、管理人員的薪金為模型中各個回歸系數(shù)的含義可初步解釋如下：的系數(shù)為546，說明資歷每增加一年，薪金增長546；的系數(shù)為6883，說明管理人員的薪金比非管理人員多6883；的系數(shù)為-2994，說明中學程度的薪金比研究生少2994；的系數(shù)為148，說明大學程度的薪金比研究生多148，但是應(yīng)該注意到的置信區(qū)間包含零點，所以這個系數(shù)的解釋是不可靠的。注意：上述解釋是就平均值來說的，并且，一個因素改變引起的因變量的變化量，都是在其它因素不變的條件下才成立的。47進一步討論：的置信區(qū)間包含零點，說明上述基本模型存在缺點。為了尋找改進的方向，常用殘差分析法（殘差指薪金的實際值與模型估計的薪金之差，是基本模型中隨機誤差的估計值，這里用同一個符號）。我們將影響因素分成資歷與管理—教育組合兩類，管理--教育組合定義如表。組合123456管理010101教育112233管理—教育組合48為了對殘差進行分析，下圖給出與資歷的關(guān)系，及與管理--教育組合間的關(guān)系。與資歷的關(guān)系與組合的關(guān)系從左圖看，殘差大概分成3個水平，這是由于6種管理—教育組合混在一起，在模型中未被正確反映的結(jié)果；從右圖看，對于前4個管理—教育組合，殘差或者全為正，或者全為負，也表明管理--教育組合在模型中處理不當。在模型中，管理責任和教育程度是分別起作用的，事實上，二者可能起著交互作用，如大學程度的管理人員的薪金會比二者分別的薪金之和高一點。49以上分析提示我們，應(yīng)在基本模型中增加管理更好的模型：與教育的交互項，建立新的回歸模型。增加與的交互項后，模型記作利用MATLAB的統(tǒng)計工具箱得到的結(jié)果如表：50參數(shù)參數(shù)估計值置信區(qū)間11204[1104411363]497[486508]7048[68417255]-1727[-1939-1514]-348[-545-152]-3071[-3372-2769]1836[15712101]51由上表可知，這個模型的做該模型的兩個殘差分析圖，可以看出，已經(jīng)消除了不正?，F(xiàn)象，這也說明了模型的適用性。和值都比上一個模型有所改進，并且所有回歸系數(shù)的置信區(qū)間都不含零點，表明這個模型完全可用。與的關(guān)系與組合的關(guān)系52從上圖，還可以發(fā)現(xiàn)一個異常點：具有10年資歷、大學程度的管理人員（編號33）的實際薪金明顯低于模型的估計值，也明顯低于與他有類似經(jīng)歷的其他人的薪金。這可能是由我們未知的原因造成的。為了使個別數(shù)據(jù)不致影響整個模型，應(yīng)該將這個異常數(shù)據(jù)去掉，對模型重新估計回歸系數(shù)，得到的結(jié)果如表。殘差分析見圖?？梢钥吹?，去掉異常數(shù)據(jù)后結(jié)果又有改善。53參數(shù)參數(shù)估計值置信區(qū)間11200[1113911261]498[494503]7041[69627120]-1737[-1818-1656]-356[-431-281]-3056[-3171-2942]1997[18942100]54與的關(guān)系與組合的關(guān)系模型的應(yīng)用：對于第二個模型，用去掉異常數(shù)據(jù)（33號）后估計出的系數(shù)得到的結(jié)果是滿意的。模型的應(yīng)用之一，可以用來“制訂”6種管理—教育組合人員的“基礎(chǔ)”薪金（即資歷為零的薪金），這是平均意義上的。利用第二個模型和去掉異常數(shù)據(jù)后得到的回歸系數(shù)，可以得到如下結(jié)果：55組合管理教育系數(shù)“基礎(chǔ)”薪金1019463211134483021084441219882503112006131824156可以看出，大學程度的管理人員薪金比研究生程度管理人員

薪金高，而大學程度的非管理人員薪金比研究生程度非管理

人員薪金略低。當然，這是根據(jù)這家公司實際數(shù)據(jù)建立的模

型得到的結(jié)果，并不具普遍性。評注：從建立回歸模型的角度，通過這個問題的求解我們學習了：1）對于影響因變量的定性因素（管理、教育），可以引入

0—1變量來處理，0—1變量的個數(shù)比定性因素的水平少

1（如教育程度有3個水平，引入2個0—1變量）。2）用殘差分析法可以發(fā)現(xiàn)模型的缺陷，引入交互作用項常?？梢缘玫礁纳?。3）若發(fā)現(xiàn)異常值應(yīng)剔除，有助于結(jié)果的合理性。思考：在這里我們由簡到繁，先分別引進管理和教育因素，再引入交互項。試直接對6種管理-教育組合引入5個0—1變量，建立模型，看結(jié)果如何。57五教學評估為了考評教師的教學質(zhì)量，教學研究部門設(shè)計了一個教學評估表，對學生進行一次問卷調(diào)查，要求學生對12位教師的15門課程（其中3為教師有兩門課程）按以下7項內(nèi)容打分，分值為1—5分（5分最好，1分最差）：問題：~課程內(nèi)容組織的合理性；~主要問題展開的邏輯性；~回答學生問題的有效性；~課下交流的有助性；~教科書的幫助性；~考試評分的公正性；~對教師的總體評價。58收回問卷調(diào)查表后，得到了學生對12為教師、15門課程各項評分的平均值，見表。

教師編號課程編號12014.464.424.234.104.564.374.1122244.113.823.293.603.993.823.3833013.583.313.243.764.393.753.1743014.424.374.344.403.634.274.3953014.624.474.534.674.634.574.6959教師編號課程編號63093.183.823.923.623.504.143.2573112.472.793.583.502.843.842.8483114.293.924.053.762.764.113.9593124.414.364.274.754.594.114.18103124.594.344.244.392.644.384.44113334.554.454.434.574.454.404.47124244.674.644.524.393.484.214.6133513.713.413.394.184.064.063.1744114.284.454.104.073.764.434.1594244.244.384.354.484.154.504.3360不一定每項都對教師總體評價有顯著影響，并且各項內(nèi)容之間也可能存在很強的相關(guān)性，他們希望得到一個總體評價與各項具體內(nèi)容之間的模型，模型應(yīng)盡量簡單和有效，并且由此能給教師一些合理的建議，以提高總體評價。準備知識：逐步回歸這個問題給出了6個自變量，但我們希望從中選出對因變量影響顯著的那些來建立回歸模型。變量選擇的標準應(yīng)該是將所有對因變量影響顯著的自變量都選入模型，而影響不顯著的自變量都不選入模型，從便于應(yīng)用的角度，應(yīng)使模型中的自變量個數(shù)盡量少。逐步回歸就是一種從眾多自變量中有效的選擇重要變量的方法。教學研究部門認為，所列各項具體內(nèi)容61逐步回歸的基本思路是，先確定一個包含若干自變量的初始集合，然后每次從集合外的變量中引入一個對因變量影響最大的，再對集合中的變量進行檢驗，從變得不顯著的變量中移出一個影響最小的，依次進行，直到不能引入和移出為止。引入和移出都以給定的顯著性水平為標準。利用MATLAB系統(tǒng)工具箱中的逐步回歸命令stepwise可以實現(xiàn)逐步回歸。Stepwise提供人機交互式畫面，可以在畫面上自由引入和移出變量，進行統(tǒng)計分析。具體用法參見MATLAB叢書回歸模型的建立與求解：我們利用MATLAB命令得到各個變量的回歸系數(shù)，置信區(qū)間，及剩余標準差（RMSE），決定系數(shù)（R-square），值，值。見表。62參數(shù)參數(shù)估計值置信區(qū)間10.5162[0.015460.019]2-0.05469[-0.8530.7436]30.6706[-0.037951.379]40.1245[-0.4620.6751]5-0.04335[-0.25140.1647]60.1363[-0.69580.9684]RMSER-squareFp0.11250.980667.292.071e-006可以看到，除外其他自變量的回歸系數(shù)置信區(qū)間都包含零點在臨界狀態(tài)，將一一移去（與次序無關(guān)），當模型中僅含時結(jié)果見下表。63參數(shù)參數(shù)估計值置信區(qū)間10.5099[0.3260.6938]2-0.1137[-