非線性回歸預(yù)測(cè)法-高斯牛頓法(詹學(xué)朋)_第1頁
非線性回歸預(yù)測(cè)法-高斯牛頓法(詹學(xué)朋)_第2頁
非線性回歸預(yù)測(cè)法-高斯牛頓法(詹學(xué)朋)_第3頁
非線性回歸預(yù)測(cè)法-高斯牛頓法(詹學(xué)朋)_第4頁
非線性回歸預(yù)測(cè)法-高斯牛頓法(詹學(xué)朋)_第5頁
已閱讀5頁,還剩5頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡介

#DependentVariable:YMethod:LeastSquaresDate:03/04/06Time:23:08Sample:19912000Includedobservations:10VariableCoefficientStd.Errort—StatisticProb.C2.5680000.14402717.829940.0000X142.760962.28887718.682070.0000R—squared0.977592Meandependentvar5.100000AdiustedR—squared0.974791S.D.dependentva,r0.970681S.E.ofregression0.154117Akaikeinfocriterion—0.725347Sumsquaredresid0.190018Schwarzcriterion—0.664830Loglikelihood5.626735F—statistic349.0197Durbin—Wa.tsonsta.t0.741967Prob(F-sta.tistic)0.0000001得回歸模型為:y=2.5680+42.7610-ixi間接代換法代換過程和參數(shù)估計(jì)方法如(暴經(jīng)濟(jì)預(yù)測(cè)P96)表3-8所示。三、高斯—牛頓迭代法高斯—牛頓迭代法的基本思想是使用泰勒級(jí)數(shù)展開式去近似地代替非線性回歸模型,然后通過多次迭代,多次修正回歸系數(shù),使回歸系數(shù)不斷逼近非線性回歸模型的最佳回歸系數(shù),最后使原模型的殘差平方和達(dá)到最小。高斯—牛頓法的一般步驟為:初始值的選擇。其方法有三種,一是根據(jù)以往的經(jīng)驗(yàn)選定初始值;二是用分段法求出初始值;三是對(duì)于可線性化的非線性回歸模型,通過線性變換,然后施行最小平方法求出初始值。泰勒級(jí)數(shù)展開式。設(shè)非線性回歸模型為:y二f(x,r)+£i=l,2,…,n(3—68)iii其中r為待估回歸系數(shù),誤差項(xiàng)e?N(0,b2),設(shè):

g0=(g00),g10),Ag(01)',為待估回歸系數(shù)r=(ro,r1,Arp-1)'的初始值,將(3-68)式f(x.,r)在g0點(diǎn)附近作泰勒展開,并略去非線性回歸模型的二階及二階以上的偏導(dǎo)i數(shù)項(xiàng),得—、—、茁Cf(—、—、茁Cf(x,r)f(x,r)沁f(x,g(0))+乙匚—ii(k=0L將(3-69)式代入(3-68)式,貝―、茁rCf(x,r)y-f(x,g(0))+乙-—匚—iik=0■iCrk■iCrkr=g(o)"一g(o))kk(3-69)r=g(o)移項(xiàng):y—f(y—f(x,g(0))沁iik=0iCrkr=g(o)"一g(o)Lskk令:y(o)=y-f(x,g(o))iiiD(o)=ikCf(x,r)D(o)=ikr=g(0)Crr=g(0)kB(o)=r一g(o)kkk則:y(0)D則:y(0)D(0)B(0)+8iikkik=o用矩陣形式表示,上式貝為其中:i=1,2,…,nY⑼沁D(o)B(o)+s(3-70)Y(0)Y(0)nxly1-f(x],g(o))M、y一f(x,g(0))丿nnD(o)=nxD(o)=nxp‘D(o)A10MD(o)A

n0D(o)np-1B(o)=px1oM、卩(0)丿

p-1丿(3-71)(3)估計(jì)修正因子。用最小平方法對(duì)(3-70)式估計(jì)修正因子B(0),貝y:b(o)=^D(o)'D(oJ1D(o)'Y(o)(3-71)設(shè)g⑴為第一次迭代值,貝9:g(1)=g(o)+b(o)(4)精確度的檢驗(yàn)。設(shè)殘差平方和為:SSR(o)[y-f(x,g($J,S為重復(fù)迭代次數(shù),對(duì)于給定的允許誤差率K,當(dāng)iii=1SSR(s)-SSR(s-1)<k時(shí),則停止迭代;否則,對(duì)(3-71)式作下一次迭代。SSR(s)重復(fù)迭代。重復(fù)(3-71)式,當(dāng)重復(fù)迭代S次時(shí),則有:修正因子:b(s)=(s)'D(sJ1D(s)'Y(s)第(S+1)次迭代值:g(s+1)=g(s)+b($)四、應(yīng)用舉例設(shè)12個(gè)同類企業(yè)的月產(chǎn)量與單位成本的資料如下表:表3-9間接代換法計(jì)算表企業(yè)編號(hào)單位產(chǎn)品成本(兀)y月產(chǎn)量xi1160102151163114204128255853169136775408764596651106056116160126065(注:資料來源《社會(huì)經(jīng)濟(jì)統(tǒng)計(jì)學(xué)原理教科書》第435頁)試配合適當(dāng)?shù)幕貧w模型分析月產(chǎn)量與單位產(chǎn)品成本之間的關(guān)系。解:(1)回歸模型與初始值的選擇。根據(jù)資料散點(diǎn)圖的識(shí)別,本數(shù)據(jù)應(yīng)配合指數(shù)模型y=abx.i對(duì)指數(shù)模型兩邊取對(duì)數(shù),化指數(shù)模型為線性回歸模型,然后施行最小平方法求出初始值。即:lg$=lga+xlgb令:y'=lg$,a'=lga,b'=lgb則上述指數(shù)模型變?yōu)椋簓'=a'+b'xy'=2.26109-0.00831x對(duì)ab'分別求反對(duì)數(shù),得a=182.43,b=0.981,帶入原模型,得回歸模型:9=182.43x0.981x(..高斯—牛頓迭代法初始回歸模型:f(x,g(0))=182.43x0.981x..殘差平方和:SSR(o)=工(y—f(x,g(o)))2=1124.1526..(2)泰勒級(jí)數(shù)展開式。先對(duì)指數(shù)模型y二abxi中的a和b分別求偏導(dǎo)數(shù)。i=bxia=a=a0b=b0空db=axbx._1a=aba==ba00=182.43*x*0.981xi_1i然后用泰勒級(jí)數(shù)展開指數(shù)模型,移項(xiàng)整理得(注:參見(3-69)、(3-70)式):Y(o)1160-150.58661151-134.2148114-124.3015128-112.933285-100.655091-91.449375-84.694876-76.948866-68.582960-62.310461-57.708160-52.4302丿0.825451535.03160.735712189.02820.681372534.17960.619052878.01100.551753180.74000.501283355.93870.462463453.40520.421803529.75930.375943565.47010.341563556.96580.316333529.54680.287403473.9702D(o)(3)估計(jì)修正因子。解(3-72)式矩陣,得:a(0)B(o)a(0)b(0)(3-72)匕b(0)第一次迭代值:12.09660288-0.00180342194.52660.9792第一次迭代回歸模型:f(x,g⑴)=194.5266x0.9792x.i(4)精確度的檢驗(yàn)。殘差平方和:SSR(i)=工(y-f(x,g(1)))2二999.4077ii給定誤差率K=10-3,則:SSR⑴-SSR(o)SSR(i)

11124.1526

-999.4077

=0.12482>k作下一次迭代。(5)重復(fù)迭代。將pl代入(3-71)式作第二次迭代。得估計(jì)修正因子:bL1丿a(1)丄a(1)丄b(1)0.647654043-0.000066948第二次迭代值:195.17430.9791195.17430.9791第二次迭代回歸模型:f(x,g(2))二195.1743x0.9791%i殘差平方和:SSR⑵二工(帯f(x,g⑵))2二999.1241誤差率:SSR(2)-SSR⑴SSR(2)

1-999.4077一999.1241

=0.00028<k誤差率達(dá)到要求,停止迭代。表3-10計(jì)算結(jié)果比較回歸系數(shù)a回歸系數(shù)b殘差平方和SSR誤差率%相關(guān)指數(shù)R最小平方法一次迭代182.430.9811124.15260.95937194.52660.9792回歸系數(shù)a回歸系數(shù)b殘差平方和SSR誤差率%相關(guān)指數(shù)R最小平方法一次迭代182.430.9811124.15260.95937194.52660.9792999.407712.4820.96396二次迭代195.17430.9791999.12410.0280.96397從上表可看出:高斯—牛頓迭代法具有收斂快,精確度高的優(yōu)點(diǎn),二次迭代就使精確度高達(dá)99.97%,相關(guān)指數(shù)也明顯提高。理論上可以證明高斯—牛頓迭代法經(jīng)過數(shù)次迭代后,估計(jì)回歸系數(shù)將逼近最佳的待估回歸系數(shù),使殘差平方和達(dá)到最小,從而明顯地克服了最小平方法的不足。其缺陷是計(jì)算量較大,但隨著電子計(jì)算機(jī)的日益普及,這點(diǎn)計(jì)算就顯得微不足道了。SPSS10.0軟件,hzz—暴P98表3—9根據(jù)最小平方法,參數(shù)為:Eviews4.0軟件,hzz—暴P98表3—9或:Quick/generateSeries(生成系列)lny=log(y),Lnycx結(jié)果不對(duì)?對(duì)及a‘分別求反對(duì)數(shù),得初始值:ao=182.43,bQ=0.981,初始回歸模型:f(x,g(o))=182.4

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論