1、第3章多元線性回歸思考與練習(xí)參考答案討論樣本容量與自變量個(gè)數(shù)的關(guān)系，它們對模型的參數(shù)估計(jì)有何影響？答：在多元線性回歸模型中，樣本容量與自變量個(gè)數(shù)的關(guān)系是：如果對模型的參數(shù)估計(jì)會帶來很嚴(yán)重的影響。因?yàn)椋涸诙嘣€性回歸模型中，有個(gè)待估參數(shù)b，所以樣本容量的個(gè)數(shù)應(yīng)該大于解釋變量的個(gè)數(shù)，否則參數(shù)無法估計(jì)。解釋變量是確定性變量，要求rank(X)pIn，表明設(shè)計(jì)矩陣中的自變量列之間不相關(guān)，即矩陣是一個(gè)滿秩矩陣。若rank(X)pl，貝懈釋變量之間線性相關(guān)，(X)是奇異陣，則的估計(jì)不穩(wěn)定。1He2,np1i證明2SSE/pl逍機(jī)誤差項(xiàng)e的方差的無偏估計(jì)。證明:np!SSEnp!E(e2)D(e)2(1h)

2、2(1h)2(nh)2(np)iiiiiiiiE()npE(叫)2一個(gè)回歸方程的復(fù)相關(guān)系數(shù)，樣本決定系數(shù)我們能判斷這個(gè)回歸方程就很理想嗎？答：不能斷定這個(gè)回歸方程理想。因?yàn)椋涸跇颖救萘枯^少，變量個(gè)數(shù)較大時(shí)，決定系數(shù)的值容易接近1，而此時(shí)可能檢驗(yàn)或者關(guān)于回歸系數(shù)的檢驗(yàn)，所建立的回歸方程都沒能通過。樣本決定系數(shù)和復(fù)相關(guān)系數(shù)接近于只能說明與自變量整體上的線性關(guān)系成立，而不能判斷回歸方程和每個(gè)自變量是顯著的，還需進(jìn)行檢驗(yàn)和檢驗(yàn)。在應(yīng)用過程中發(fā)現(xiàn)，在樣本容量一定的情況下，如果在模型中增加解釋變量必定使得自由度減少，使得往往增大，因此增加解釋變量（尤其是不顯著的解釋變量）個(gè)數(shù)引起的的增大與擬合好壞無關(guān)。驗(yàn)

3、證*七j,j1,2,pyy其中LX）2jjijj證明：多元線性回歸方程模型的一般形式為:y01x12x2xpp其經(jīng)驗(yàn)回歸方程式為y.弓X1吧x.Pxp,又y!xxx，01122pp故yy(xx)(xx)(xx)，111222ppp中心化后，則有yy(xx)(xx)(xx)，i111222ppp左右同時(shí)除以化卜（yy）2,1i令L(xx)2,i,n，j1,2,pjjijji半.（）巴1%樣本數(shù)據(jù)標(biāo)準(zhǔn)化的公式為2Xbxyyxjj,y二,ibl,2,n，j1,2,p則上式可以記為也.2Li12Li2pLipyyyyyyxxc1i12i2pip則有Hbj驗(yàn)證決定系數(shù)與值之間的關(guān)系式：R2f（npbi）

4、/pSSR/p證明：FSSE/(np)SSRpnpFSE2SSRSSRnpPFpIR2SSTSSRSSEFSE.竝FpnpF(np1)/pnpp研究貨運(yùn)總量（萬噸）與工業(yè)總產(chǎn)值（億元）、農(nóng)業(yè)總產(chǎn)值（億元）、居民非商品支出（億元）的關(guān)系。數(shù)據(jù)見表（略）（）計(jì)算出，的相關(guān)系數(shù)矩陣。輸出如下:木相關(guān)系數(shù)表yx1x2x3yPearsonCorrelation1.556.731*.724*Sig.(2-tailed).095.016.018N10101010 x1PearsonCorrelation.5561.113.398Sig.(2-tailed).095.756.254N10101010 x2Pe

5、arsonCorrelation.731*.1131.547Sig.(2-tailed).016.756.101N10101010 x3PearsonCorrelation.724*.398.5471Sig.(2-tailed).018.254.101N10101010*CorreatOnssgnifcantatthe0.05level(2-taied).0000.5560.7310.72.5561.0000.1130.390r.7310.1131.0000.547!.7240.3980.5471.00()求出與，的三元回歸方程。CoefficientModelUnslandaidZedCoe

6、fficientsStandardizedCoefficientstSig.BStd.ErrorBeta1(Constant)-348.280176.459-1.974.096x13.7541.933.3851.942.100 x27.1012.880.5352.465.049x312.44710.569.2771.178.284a.DependentVariable:y對數(shù)據(jù)利用做線性回歸，得到回歸方程為yB48.38!3.754x!7.101x!12.447x123(3)對所求的方程作擬合優(yōu)度檢驗(yàn)。ModelSummaryModelRRSquareAdjustedRSauareStd.Er

7、roroftheEstimate1.898a.806.70823.44188a.Predictors:(Constant),&x1,x2由上表可知，調(diào)整后的決定系數(shù)為0.7，0說8明回歸方程對樣本觀測值的擬合程度較好。（4）對回歸方程作顯著性檢驗(yàn)；方差分析表bModel平方和自由度均方FSig.1回歸13655.37034551.7908.283.015a殘差3297.1306549.522總和16952.5009aPredictors:(Constant),x3,x1,x2b.DependentVariable:y原假設(shè)：Ho：i吧30統(tǒng)計(jì)量服從自由度為（3）的分布，給定顯著性水平,查表得F

8、0.05（3-6）4-76由方查分析表得，值，值，拒絕原假設(shè)Ho，由方差分析表可以得到F8.283,P0.0150.05，說明在置信水平為下，回歸方程顯著。5）對每一個(gè)回歸系數(shù)作顯著性檢驗(yàn)；回歸系數(shù)表aModelUnstandardizedCoefficientsStandardizedCoefficientstSig.BStd.ErrorBeta1(Constant)-348.280176.459-1.974.096x13.7541.933.3851.942.100 x27.1012.880.5352.465.049x312.44710.569.2771.178.284a.Dependent

9、Variable:y做檢驗(yàn)：設(shè)原假設(shè)為H0：i0，ti統(tǒng)計(jì)量服從自由度為=6的分布，給定顯著性水平，查得單側(cè)檢驗(yàn)臨界值為，的值，處在否定域邊緣。的值=。拒絕原假設(shè)。由上表可得，在顯著性水平0.05時(shí)，只有X的值通過檢驗(yàn),即只有x的回歸系數(shù)較為顯著;其余自變量的值均大于，即，2的系數(shù)均不顯著。6）如果有的回歸系數(shù)沒有通過顯著性檢驗(yàn)，將其剔除，重新建立回歸方程，并作回歸方程的顯著性檢驗(yàn)和回歸系數(shù)的顯著性檢驗(yàn)。解：用后退法對數(shù)據(jù)重新做回歸分析，結(jié)果如下：CoefficientModelUnstandardizedCoefficientsStandardizedCoefficientstSig.BSt

10、d.ErrorBeta1(Constant)-348.280176.459-1.974.096x13.7541.933.3851.942.100 x27.1012.880.5352.465.049x312.44710.569.2771.178.2842(Constant)-459.624153.058-3.003.020 x14.6761.816.4792.575.037x28.9712.468.6763.634.008a.DependentVariable:y選擇模型二，重新建立的回歸方程為y59.6244.676x8.971x12方差分析表b模型平方和自由度均方FSig.1回歸12893.

11、19926446.60011.117.007a殘差4059.3017579.900Total16952.5009aPredictors:(Constant),農(nóng)業(yè)總*值2億元),工業(yè)總值X1億元)b.DependentVariable:貨運(yùn)總BY(萬噸)模型要模型RR$uare調(diào)整后勺RSiuareStd.ErroroftheEstimate改變統(tǒng)量RSquareChanaeFChanaedf1df2Sia.FChanae1.8721.761.69224.081.76111.11727.007a.Predictors:（Constant）農(nóng)業(yè)總產(chǎn)值X2億元）,工業(yè)總產(chǎn)值1億元）對新的回歸方程做

12、顯著性檢驗(yàn)：原假設(shè)：Ho：i服從自由度為（，）的分布，給定顯著性水平.查表得BQ7）4.74由方差分析表得，值，值，拒絕原假設(shè)Ho認(rèn)為在顯著性水平下，整體上對有顯著的線性影響，即回歸方程是顯著的。對每一個(gè)回歸系數(shù)做顯著性檢驗(yàn)：TOC o 1-5 h z做檢驗(yàn)：設(shè)原假設(shè)為H：i0,1統(tǒng)計(jì)量服從自由度為=7的分布，給定顯著性水平，查得單側(cè)檢驗(yàn)臨界值為，的值，拒絕原假設(shè)。故i顯著不為零，自變量對因變量的線性效果顯著；同理也通過檢驗(yàn)。同時(shí)從回歸系數(shù)顯著性檢驗(yàn)表可知：的值都小于，可認(rèn)為對，分別對都有顯著的影響。（）求出每一個(gè)回歸系數(shù)的置信水平為置信區(qū)間由回歸系數(shù)表可以看到，置信水平為的置信區(qū)間置信水平為

13、95的%置信區(qū)間OCoefficientsModelUnstandardizedCoefficientsStandardizedCoefficientstSig95%ConfidenceIntervalforBBStdErrorBetaLowerBoundUpperBound1(Constant)-348.280176.459-1.974.096-780.06083.500 x13.7541.933.3851.942.100-.9778.485x27.1012.880.5352.465.049.05314.149x312.44710.569.2771.178.284-13.41538.3102

14、(Constant)-459.624153.058-3.003.020-821.547-97.700 x14.6761.816.4792.575.037.3818.970 x28.9712.468.6763.634.0083.13414.808aDependentVariable:y（8）求標(biāo)準(zhǔn)化回歸方程由回歸系數(shù)表（上表）可得，標(biāo)準(zhǔn)化后的回歸方程為：y*0.479x*0.676x*12（）求當(dāng)，時(shí)的的預(yù)測值方給定置信水平，用軟件計(jì)算精確置信區(qū)間，用手工計(jì)算近似預(yù)測區(qū)間;編號貨運(yùn)總量工業(yè)總產(chǎn)值農(nóng)業(yè)總產(chǎn)值居艮非商品支出PRE_11160.0070.003S.001.00181.654122260

15、.0075.0040.002.40249.887083210.00B6.0040.002.00203.1307742&6.0074.0042.003.00263.153375240.0072.0038.001.20217.918266220.0068.0045.001.50262012471275.0078.0042.004.00281.855898160.0066.003E.002.00171.922569276.0070.0044.003.20262.3927710250.00B6.0042.003.002210727076.0042.003.10267.82900輸出結(jié)果可知，當(dāng)x75,x42,x3.1時(shí)，y267.829(見0102030OO上表），yo的置信度為的%精確預(yù)測區(qū)間為（)3(3見1下表），yo的置信度為的近似預(yù)測區(qū)間為（y.2H），手工計(jì)算得:0LICI_1UICI_1114.18036249.12788186.71910313.05506139.27006266.99149200.92084325.38591155.95559279.88094195.34073328.68422213.46314350.24866105.13801238.70711199.02041325.76514156.11131286