§2.1計量經(jīng)濟學模型的最大似然估計

一、單方程模型的最大似然估計二、因變量的參數(shù)變換三、異方差性的非線性方法四、序列相關(guān)性的非線性方法五、條件異方差性的非線性方法§2.1計量經(jīng)濟學模型的最大似然估計一、單方程模型的最大1說明計量經(jīng)濟學模型的3類估計方法LSMLMM本科教學內(nèi)容—LS非經(jīng)典模型的估計—ML、GMM教材3.1、5.5節(jié)參數(shù)模型（非參數(shù)模型的權(quán)函數(shù)估計、級數(shù)估計等）基于樣本信息（綜合樣本信息和先驗信息的貝葉斯估計）均值回歸模型（分位數(shù)回歸，QuantileRegression,QREG）說明計量經(jīng)濟學模型的3類估計方法參數(shù)模型（非參數(shù)模型的權(quán)函數(shù)2一、單方程模型的最大似然估計一、單方程模型的最大似然估計3⒈經(jīng)典線性單方程模型的最大似然估計i=1,2,…,n⒈經(jīng)典線性單方程模型的最大似然估計i=1,2,…,n4參數(shù)估計結(jié)果與參數(shù)的OLS估計相同參數(shù)估計結(jié)果與參數(shù)的OLS估計相同5⒉簡單非線性單方程模型的最大似然估計i=1,2,…,n⒉簡單非線性單方程模型的最大似然估計i=1,2,…,n6面臨NLS同樣的過程，得到相同的估計結(jié)果。面臨NLS同樣的過程，得到相同的估計結(jié)果。73.一般非線性模型的ML估計

以上是一般非線性模型的完整描述。隨機項滿足經(jīng)典假設(shè)3.一般非線性模型的ML估計以上是一般非線性模型的完整描8模型參數(shù)的一種估計方法是最小二乘法，即最小化

模型參數(shù)的另一種估計方法是最大似然法。得到廣泛應(yīng)用。模型參數(shù)的一種估計方法是最小二乘法，即最小化模型參數(shù)的另9最大似然估計yi的密度函數(shù)雅可比行列式雅可比行列式×正態(tài)分布密度函數(shù)最大似然估計yi的密度函數(shù)雅可比行列式雅可比行列式×正態(tài)分布10因變量樣本的對數(shù)似然函數(shù)為：

很明顯若沒有雅可比行列式項，參數(shù)的非線性最小二乘估計將是最大似然估計；但是，如果雅可比行列式包括θ，最小二乘法不是最大似然法。因變量樣本的對數(shù)似然函數(shù)為：很明顯若沒有雅可比行列式項11最大化對數(shù)似然函數(shù)的一階條件為：

最大化對數(shù)似然函數(shù)的一階條件為：12一般是得到中心化對數(shù)似然函數(shù)，然后最大化

如果變換的雅可比行列式是1，則不存在因變量的參數(shù)變換；如果變換的雅可比行列式包含θ，則稱為因變量的參數(shù)變換模型。一般是得到中心化對數(shù)似然函數(shù)，然后最大化如果變換的雅可13二、因變量的參數(shù)變換二、因變量的參數(shù)變換14⒈Box-Cox變換

一種將變量之間的非線性關(guān)系變換為線性關(guān)系的方法。Box和Cox（1964）提出的變換關(guān)系：要求變量x為正值。λ取值可以是整個實數(shù)域但多數(shù)應(yīng)用有意義的取值范圍為[-2，2]。當λ=2，是二次變換；當λ=0.5，是平方根變換；當λ=1，是線性變換；當λ=-1，是倒數(shù)變換；當λ=0，是對數(shù)變換。⒈Box-Cox變換一種將變量之間的非線性關(guān)系變換為線性15例如：例如：16如果已知被解釋變量和解釋變量各自進行何種λ的B-C變換，可以先變換，然后估計線性模型。一般情況下，何種λ未知，作為一組參數(shù)引入模型，對變換后的模型進行非線性模型估計，同時得到λ和β的估計量。許多應(yīng)用軟件，例如GAUSS、SAS可以實現(xiàn)。這就引出了B-C變換的更重要的價值：如果不知道被解釋變量和解釋變量之間存在何種形式的函數(shù)關(guān)系，可以通過“B-C變換非線性模型估計”確定函數(shù)關(guān)系。如果已知被解釋變量和解釋變量各自進行何種λ的B-C變換，可以17⒉Box-Cox非線性回歸模型的參數(shù)估計

模型中被解釋變量樣本的對數(shù)似然函數(shù)為：

⒉Box-Cox非線性回歸模型的參數(shù)估計模型中被解釋變量18中心化對數(shù)似然函數(shù)：

中心化對數(shù)似然函數(shù)：19響應(yīng)系數(shù)和彈性系數(shù)為：

響應(yīng)系數(shù)和彈性系數(shù)為：20示例：假定被解釋變量y與解釋變量x和z之間的關(guān)系為：示例：2121計量經(jīng)濟學模型的最大似然估計課件22

施加λ相同約束的估計結(jié)果真值：β1=2，β2=1，β3=1，λ=1施加λ相同約束的估計結(jié)果23

未施加λ相同約束的估計結(jié)果為什么結(jié)果很差？未施加λ相同約束的估計結(jié)果為24三、異方差性的非線性方法三、異方差性的非線性方法25⒈思路將異方差問題看成一類非線性問題，采用NML估計，比較簡單，可以同時得到參數(shù)估計量和反映異方差特征的量。

⒈思路將異方差問題看成一類非線性問題，采用NML估計，比較簡26被解釋變量樣本的對數(shù)似然函數(shù)為：

被解釋變量樣本的對數(shù)似然函數(shù)為：27對異方差的結(jié)構(gòu)給出假定，可以對模型的參數(shù)和異方差的結(jié)構(gòu)參數(shù)進行最大似然估計。針對不同的問題假定不同的異方差結(jié)構(gòu)；針對同一個問題假定不同的異方差結(jié)構(gòu)，進行估計和比較。典型的異方差結(jié)構(gòu)及其對應(yīng)的對數(shù)似然函數(shù)，見教材。

對異方差的結(jié)構(gòu)給出假定，可以對模型的參數(shù)和異方差的結(jié)構(gòu)參數(shù)進28⒉例題⒉例題2921計量經(jīng)濟學模型的最大似然估計課件30OLSMLOLSML3121計量經(jīng)濟學模型的最大似然估計課件32線性模型，截面樣本，一般存在異方差。采用非線性最大似然法估計，可以得到關(guān)于異方差結(jié)構(gòu)的估計結(jié)果。在某些情況下，得到異方差結(jié)構(gòu)的估計結(jié)果比模型參數(shù)估計量更重要。這就是異方差性的非線性方法的意義所在。線性模型，截面樣本，一般存在異方差。33四、序列相關(guān)性的非線性方法四、序列相關(guān)性的非線性方法34見教材首先假定模型隨機誤差項的序列相關(guān)結(jié)構(gòu)。一般以AR(1)、MA(1)、ARMA(1,1)為常見。求出隨機誤差項對被解釋變量的偏導(dǎo)數(shù)表達式。構(gòu)造最大似然函數(shù)。同時得到模型參數(shù)和隨機誤差項的序列相關(guān)結(jié)構(gòu)的估計結(jié)果。見教材35五、條件異方差性的非線性方法

ARCH

AutoRegressiveConditionalHoteroskedasticity

五、條件異方差性的非線性方法

ARCH

AutoRegre36⒈條件異方差現(xiàn)象通常橫截面數(shù)據(jù)問題會產(chǎn)生異方差，而一般時間序列問題沒有異方差現(xiàn)象。如果時間序列數(shù)據(jù)問題出現(xiàn)異方差，經(jīng)常以條件異方差形式。所謂條件異方差，實際上是指“異方差”的“異”具有序列相關(guān)性。Engle于1982年分析英國通貨膨脹率時首先發(fā)現(xiàn)條件異方差現(xiàn)象。被廣泛應(yīng)用于金融市場時間序列分析。⒈條件異方差現(xiàn)象通常橫截面數(shù)據(jù)問題會產(chǎn)生異方差，而一般時間序37Engle,R.F.:1982,AutoregressiveConditionalHeteroskedasticityWithEstimatesoftheVarianceofU.K.Inflation,"Econometrica50:987-1008.TheapplicationinEngle(1982)involvedmacroeconomicseriessuchastheinflationrate,butEnglequicklyrealizedthattheARCHmodelwasusefulinfinancialeconomics,aswell.Engle,R.F.:1982,Autoregressi38Riskevaluationisatthecoreofactivitiesonfinancialmarkets.Investorsassessexpectedreturnsofanassetagainstitsrisk.Banksandotherfinancialinstitutionswouldliketoensurethatthevalueoftheirassetsdoesnotfallbelowsomeminimumlevelthatwouldexposethebanktoinsolvency.Suchevaluationscannotbemadewithoutmeasuringthevolatilityofassetreturns.RobertEngle

developedimprovedmethodsforcarryingoutthesekindsofevaluations.Riskevaluationisatthecore39PercentagedailyreturnsonaninvestmentintheStandard&Poor500stockindex

May16,1995–April29,2003.Percentagedailyreturnsonan40Thereturnsaveraged5.3percentperyear.Atthesametimethereweredays,whenthefluctuationsinpricesweregreater(plusorminus)than5percent.Thestandarddeviationindailyreturnsmeasuredovertheentireperiodwas1.2percent.Closerinspectionreveals,however,thatthevolatilityvariesovertime:largechanges(upwardsordownwards)areoftenfollowedbyfurtherlargefluctuations,andsmallchangestendtobefollowedbysmallfluctuations.Thereturnsaveraged5.3perce41StandarddeviationforpercentagedailyreturnsonaninvestmentintheStandard&Poor500stockindex,May16,1995–April29,2003,computedfromdataforthefourprecedingweeks.Standarddeviationforpercent42Manyfinancialtimeseriesarecharacterizedbysimilartimevariationinvolatility.

Manyfinancialeconomistsareconcernedwithmodelingvolatilityinassetreturns.Manyfinancialtimeseriesare43⒉ARCH（q）模型

具有異方差性異方差是有規(guī)律的：自回歸⒉ARCH（q）模型具有異方差性異方差是有規(guī)律的：自回歸44

設(shè)樣本有n個觀察個數(shù)，則對數(shù)似然函數(shù)為：

模型估計的困難：長記憶下的高階滯后。設(shè)樣本有n個觀察個數(shù)，則對數(shù)似然函數(shù)為：模型估計的困45⒊GARCH（p,q）模型

⒊GARCH（p,q）模型46Bollerslev,T.:1986,Generalizedautoregressiveconditionalheteroskedasticity,JournalofEconometrics31,307-327Thebest-knownextensionisthegeneralizedARCHmodel(GARCH)developedbyTimBollerslev

in1986.Here,thevarianceoftherandomerrorinacertainperioddependsnotonlyonpreviouserrors,butalsoonthevarianceitselfinearlierperiods.Bollerslev,T.:1986,Generaliz47Thisdevelopmenthasturnedouttobeveryuseful;GARCHisthemodelmostoftenappliedtoday.Taylor(1986)suggestedp=q=1,themostpopularARCHmodelinpractice.Thisdevelopmenthasturnedou48⒋ARCH-M(q）模型

為什么比ARCH少1項？⒋ARCH-M(q）模型為什么比ARCH少1項？49⒌GARCH-M(p,q）模型

⒌GARCH-M(p,q）模型50§2.1計量經(jīng)濟學模型的最大似然估計

一、單方程模型的最大似然估計二、因變量的參數(shù)變換三、異方差性的非線性方法四、序列相關(guān)性的非線性方法五、條件異方差性的非線性方法§2.1計量經(jīng)濟學模型的最大似然估計一、單方程模型的最大51說明計量經(jīng)濟學模型的3類估計方法LSMLMM本科教學內(nèi)容—LS非經(jīng)典模型的估計—ML、GMM教材3.1、5.5節(jié)參數(shù)模型（非參數(shù)模型的權(quán)函數(shù)估計、級數(shù)估計等）基于樣本信息（綜合樣本信息和先驗信息的貝葉斯估計）均值回歸模型（分位數(shù)回歸，QuantileRegression,QREG）說明計量經(jīng)濟學模型的3類估計方法參數(shù)模型（非參數(shù)模型的權(quán)函數(shù)52一、單方程模型的最大似然估計一、單方程模型的最大似然估計53⒈經(jīng)典線性單方程模型的最大似然估計i=1,2,…,n⒈經(jīng)典線性單方程模型的最大似然估計i=1,2,…,n54參數(shù)估計結(jié)果與參數(shù)的OLS估計相同參數(shù)估計結(jié)果與參數(shù)的OLS估計相同55⒉簡單非線性單方程模型的最大似然估計i=1,2,…,n⒉簡單非線性單方程模型的最大似然估計i=1,2,…,n56面臨NLS同樣的過程，得到相同的估計結(jié)果。面臨NLS同樣的過程，得到相同的估計結(jié)果。573.一般非線性模型的ML估計

以上是一般非線性模型的完整描述。隨機項滿足經(jīng)典假設(shè)3.一般非線性模型的ML估計以上是一般非線性模型的完整描58模型參數(shù)的一種估計方法是最小二乘法，即最小化

模型參數(shù)的另一種估計方法是最大似然法。得到廣泛應(yīng)用。模型參數(shù)的一種估計方法是最小二乘法，即最小化模型參數(shù)的另59最大似然估計yi的密度函數(shù)雅可比行列式雅可比行列式×正態(tài)分布密度函數(shù)最大似然估計yi的密度函數(shù)雅可比行列式雅可比行列式×正態(tài)分布60因變量樣本的對數(shù)似然函數(shù)為：

很明顯若沒有雅可比行列式項，參數(shù)的非線性最小二乘估計將是最大似然估計；但是，如果雅可比行列式包括θ，最小二乘法不是最大似然法。因變量樣本的對數(shù)似然函數(shù)為：很明顯若沒有雅可比行列式項61最大化對數(shù)似然函數(shù)的一階條件為：

最大化對數(shù)似然函數(shù)的一階條件為：62一般是得到中心化對數(shù)似然函數(shù)，然后最大化

如果變換的雅可比行列式是1，則不存在因變量的參數(shù)變換；如果變換的雅可比行列式包含θ，則稱為因變量的參數(shù)變換模型。一般是得到中心化對數(shù)似然函數(shù)，然后最大化如果變換的雅可63二、因變量的參數(shù)變換二、因變量的參數(shù)變換64⒈Box-Cox變換

一種將變量之間的非線性關(guān)系變換為線性關(guān)系的方法。Box和Cox（1964）提出的變換關(guān)系：要求變量x為正值。λ取值可以是整個實數(shù)域但多數(shù)應(yīng)用有意義的取值范圍為[-2，2]。當λ=2，是二次變換；當λ=0.5，是平方根變換；當λ=1，是線性變換；當λ=-1，是倒數(shù)變換；當λ=0，是對數(shù)變換。⒈Box-Cox變換一種將變量之間的非線性關(guān)系變換為線性65例如：例如：66如果已知被解釋變量和解釋變量各自進行何種λ的B-C變換，可以先變換，然后估計線性模型。一般情況下，何種λ未知，作為一組參數(shù)引入模型，對變換后的模型進行非線性模型估計，同時得到λ和β的估計量。許多應(yīng)用軟件，例如GAUSS、SAS可以實現(xiàn)。這就引出了B-C變換的更重要的價值：如果不知道被解釋變量和解釋變量之間存在何種形式的函數(shù)關(guān)系，可以通過“B-C變換非線性模型估計”確定函數(shù)關(guān)系。如果已知被解釋變量和解釋變量各自進行何種λ的B-C變換，可以67⒉Box-Cox非線性回歸模型的參數(shù)估計

模型中被解釋變量樣本的對數(shù)似然函數(shù)為：

⒉Box-Cox非線性回歸模型的參數(shù)估計模型中被解釋變量68中心化對數(shù)似然函數(shù)：

中心化對數(shù)似然函數(shù)：69響應(yīng)系數(shù)和彈性系數(shù)為：

響應(yīng)系數(shù)和彈性系數(shù)為：70示例：假定被解釋變量y與解釋變量x和z之間的關(guān)系為：示例：7121計量經(jīng)濟學模型的最大似然估計課件72

施加λ相同約束的估計結(jié)果真值：β1=2，β2=1，β3=1，λ=1施加λ相同約束的估計結(jié)果73

未施加λ相同約束的估計結(jié)果為什么結(jié)果很差？未施加λ相同約束的估計結(jié)果為74三、異方差性的非線性方法三、異方差性的非線性方法75⒈思路將異方差問題看成一類非線性問題，采用NML估計，比較簡單，可以同時得到參數(shù)估計量和反映異方差特征的量。

⒈思路將異方差問題看成一類非線性問題，采用NML估計，比較簡76被解釋變量樣本的對數(shù)似然函數(shù)為：

被解釋變量樣本的對數(shù)似然函數(shù)為：77對異方差的結(jié)構(gòu)給出假定，可以對模型的參數(shù)和異方差的結(jié)構(gòu)參數(shù)進行最大似然估計。針對不同的問題假定不同的異方差結(jié)構(gòu)；針對同一個問題假定不同的異方差結(jié)構(gòu)，進行估計和比較。典型的異方差結(jié)構(gòu)及其對應(yīng)的對數(shù)似然函數(shù)，見教材。

對異方差的結(jié)構(gòu)給出假定，可以對模型的參數(shù)和異方差的結(jié)構(gòu)參數(shù)進78⒉例題⒉例題7921計量經(jīng)濟學模型的最大似然估計課件80OLSMLOLSML8121計量經(jīng)濟學模型的最大似然估計課件82線性模型，截面樣本，一般存在異方差。采用非線性最大似然法估計，可以得到關(guān)于異方差結(jié)構(gòu)的估計結(jié)果。在某些情況下，得到異方差結(jié)構(gòu)的估計結(jié)果比模型參數(shù)估計量更重要。這就是異方差性的非線性方法的意義所在。線性模型，截面樣本，一般存在異方差。83四、序列相關(guān)性的非線性方法四、序列相關(guān)性的非線性方法84見教材首先假定模型隨機誤差項的序列相關(guān)結(jié)構(gòu)。一般以AR(1)、MA(1)、ARMA(1,1)為常見。求出隨機誤差項對被解釋變量的偏導(dǎo)數(shù)表達式。構(gòu)造最大似然函數(shù)。同時得到模型參數(shù)和隨機誤差項的序列相關(guān)結(jié)構(gòu)的估計結(jié)果。見教材85五、條件異方差性的非線性方法

ARCH

AutoRegressiveConditionalHoteroskedasticity

五、條件異方差性的非線性方法

ARCH

AutoRegre86⒈條件異方差現(xiàn)象通常橫截面數(shù)據(jù)問題會產(chǎn)生異方差，而一般時間序列問題沒有異方差現(xiàn)象。如果時間序列數(shù)據(jù)問題出現(xiàn)異方差，經(jīng)常以條件異方差形式。所謂條件異方差，實際上是指“異方差”的“異”具有序列相關(guān)性。Engle于1982年分析英國通貨膨脹率時首先發(fā)現(xiàn)條件異方差現(xiàn)象。被廣泛應(yīng)用于金融市場時間序列分析。⒈條件異方差現(xiàn)象通常橫截面數(shù)據(jù)問題會產(chǎn)生異方差，而一般時間序87Engle,R.F.:1982,AutoregressiveConditionalHeteroskedasticityWithEstimatesoftheVarianceofU.K.Inflation,"Econometrica50:987-1008.TheapplicationinEngle(1982)involvedmacroeconomicseriessuchastheinflationrate,butEnglequicklyrealizedthattheARCHmodelwasusefulinfinancialeconomics,aswell.Engle,R.F.:1982,Autoregressi88Riskevaluationisatthecoreofactivitiesonfinancialmarkets.Investorsassessexpectedreturnsofanassetagainstitsrisk.Banksandotherfinancialinstitutionswouldliketoensurethatthevalueoftheirassetsdoesnotfallbelowsomeminimumlevelthatwouldexposethebanktoinsolvency.Suchevaluationscannotbemadewithoutmeasuringthevolatilityofassetreturns.RobertEngle

developedimprovedmethodsforcarryingoutthesekindsofevaluations.Riskevaluationisatthecore89PercentagedailyreturnsonaninvestmentintheStandard&Poor500stockindex

May16,1995–April29,2003.Percentagedailyreturnsonan90Thereturnsaveraged5.3percentperyear.Atthesametimethereweredays,whenthefluctuationsinpricesweregreater(plusorminus)than5percent.Thestandarddeviationindailyreturnsmeasuredovertheentireperiodwas1.2percent.Closerinspectionreveals,however,thatthevolatilityvariesovertime:largechanges(upwardsordownwards)areoftenfollowedbyfurtherlargefluctuations,andsmallchangestendtobefollowedbysmallfluctuations.Thereturnsaveraged5.3perce91StandarddeviationforpercentagedailyreturnsonaninvestmentintheStandard&Poor500stockindex,May16,1995–April29,2003,computedfromdataforthefourprec