廣義線性模型

Generalizedlinearmodel2010-4-151廣義線性模型

Generalizedlinearmode2023/7/302明確兩個概念：線性模型（linearmodel），也稱經(jīng)典線性模型（classicallinearmodel）或一般線性模型（generallinearmodel,GLM）。廣義線性模型（generalizedlinearmodel，GENMOD）是一般線性模型的直接推廣，由Nelder&Wedderburn(1972)首先提出。2023/7/282明確兩個概念：線性模型（linearm2023/7/303SAS軟件中的PROCGLM：PROCGLManalyzesdatawithintheframeworkofgenerallinearmodels.PROCGLMhandlesmodelsrelatingoneorseveralcontinuousdependentvariablestooneorseveralindependentvariables.Theindependentvariablesmaybeeitherclassificationvariablesorcontinuousvariables.

Thus,theGLMprocedurecanbeusedformanydifferentanalyses,includingsimpleregressionmultipleregressionanalysisofvariance(ANOVA),especiallyforunbalanceddataanalysisofcovarianceresponse-surfacemodels(響應面模型)weightedregressionpolynomialregression(多項式回歸)partialcorrelationmultivariateanalysisofvariance(MANOVA)repeatedmeasuresanalysisofvariance2023/7/283SAS軟件中的PROCGLM：PROC2023/7/304TheGENMODProcedureTheGENMODprocedurefits

generalizedlinearmodels.Theclassofgeneralizedlinearmodelsisanextensionoftraditionallinearmodelsthatallowsthemeanofapopulationtodependonalinearpredictorthroughanonlinearlinkfunctionandallowstheresponseprobabilitydistributiontobeanymemberofanexponentialfamilyofdistributions.Manywidelyusedstatisticalmodelsaregeneralizedlinearmodels.Theseincludeclassicallinearmodelswithnormalerrors,logisticandprobitmodelsforbinarydata,andlog-linearmodelsformultinomialdata.Manyotherusefulstatisticalmodelscanbeformulatedasgeneralizedlinearmodelsbytheselectionofanappropriatelinkfunctionandresponseprobabilitydistribution.SAS軟件中的PROCGENMOD：2023/7/284TheGENMODProcedure2023/7/305一、何為“廣義線性模型”？廣義線性模型（generalizedlinearmodel）由Nelder&Wedderburn(1972)首先提出，是一般線性模型的直接推廣，它使因變量的總體均值通過一個非線性連接函數(shù)（linkfunction）而依賴于線性預測值，同時還允許響應概率分布為指數(shù)分布族中的任何一員。許多廣泛應用的統(tǒng)計模型均屬于廣義線性模型，如logistic回歸模型、Probit回歸模型、Poisson回歸模型、負二項回歸模型等。2023/7/285一、何為“廣義線性模型”？廣義線性模型（2023/7/306指數(shù)分布族的概率密度（概率函數(shù)）可表示為：其中，和為兩個參數(shù)，稱為自然參數(shù)，為離散參數(shù)；a、b、c為函數(shù)。2023/7/286指數(shù)分布族的概率密度（概率函數(shù)）可表示為2023/7/3072023/7/2872023/7/308一個廣義線性模型包括以下三個組成部分：（1）線性成分(linearcomponent)：（2）隨機成分(randomcomponent)：（3）連接函數(shù)(linkfunction)：連接函數(shù)為一單調可微（連續(xù)且充分光滑）的函數(shù)。何為“廣義線性模型”？(續(xù))2023/7/288一個廣義線性模型包括以下三個組成部分：何2023/7/3092023/7/2892023/7/3010SAS9.0GENMOD過程中所整合的響應變量分布類型2023/7/2810SAS9.0GENMOD過程中所整2023/7/3011廣義線性模型在兩個方面對經(jīng)典線性模型進行了推廣：（1）一般線性模型中要求因變量是連續(xù)的且服從正態(tài)分布，在廣義線性模型中，因變量的分布可擴展到非連續(xù)的資料，如二項分布、Poisson分布、負二項分布等。（2）一般線性模型中，自變量的線性預測值就是因變量的估計值，而廣義線性模型中，自變量的線性預測值是因變量的函數(shù)估計值。何為“廣義線性模型”？（續(xù)）2023/7/2811廣義線性模型在兩個方面對經(jīng)典線性模型進2023/7/3012包括：多元線性回歸模型

logistic回歸模型

Probit回歸模型

Poisson回歸模型負二項回歸模型

廣義線性模型的一般形式：何為“廣義線性模型”？(續(xù))2023/7/2812包括：多元線性回歸模型廣義線性模型的一2023/7/3013Generalizedlinearmodels(廣義線性模型)FamilyofregressionmodelsOutcomevariabledetermineschoiceofmodel

UsesControlofconfoundingModelbuilding,riskpredictionOutcome ModelContinuous LinearregressionBinomial LogisticregressionSurvival CoxmodelCounts Poissonregression2023/7/2813Generalizedlinear2023/7/3014二、廣義線性模型的參數(shù)估計廣義線性模型的參數(shù)估計一般不能用最小二乘估計，常用加權最小二乘法（weightedleastsquared,WLS）或最大似然法(maximumlikelihood)估計。各回歸系數(shù)需用迭代方法求解。求得后，用下式估計：2023/7/2814二、廣義線性模型的參數(shù)估計廣義線性模型2023/7/3015二、廣義線性模型的參數(shù)估計(續(xù))2023/7/2815二、廣義線性模型的參數(shù)估計(續(xù))2023/7/3016Log-likelihoodfunctions2023/7/2816Log-likelihoodfunc2023/7/3017Log-likelihoodfunctions2023/7/2817Log-likelihoodfunc2023/7/3018Log-likelihoodfunctions2023/7/2818Log-likelihoodfunc2023/7/3019Log-likelihoodfunctions2023/7/2819Log-likelihoodfunc2023/7/3020三、廣義線性模型的假設檢驗

廣義線性模型的檢驗一般用似然比檢驗、Wald檢驗和記分檢驗。模型的比較用似然比檢驗。（1）似然比檢驗：似然比檢驗是通過比較兩個相嵌套模型（如模型P嵌套于模型K內(nèi)）的對數(shù)似然函數(shù)來進行的，其統(tǒng)計量G為：其中，模型P中的自變量是模型K中自變量的一部分，另一部分就是要檢驗的變量。這里G服從自由度為K-P的2分布。模型P的對數(shù)似然函數(shù)模型K的對數(shù)似然函數(shù)2023/7/2820三、廣義線性模型的假設檢驗廣義線性2023/7/3021Likelihoodratiostatistic(似然比統(tǒng)計量)Comparestwonestedmodels

g()=+1x1+2x2+3x3+4x4(model1)g()=+1x1+2x2(model2)LRstatistic-2log(likelihoodmodel2/likelihoodmodel1)=[-2log(likelihoodmodel2)]－

[-2log(likelihoodmodel1)]LRstatisticisa2withDF=numberofextraparametersinmodel三、廣義線性模型的假設檢驗（1）似然比檢驗（續(xù)）2023/7/2821Likelihoodratiost2023/7/3022三、廣義線性模型的假設檢驗（續(xù)）（2）回歸系數(shù)的Wald檢驗：

Wald檢驗是通過比較估計系數(shù)與0的差別來進行的，其檢驗統(tǒng)計量為：或這里，z為標準正態(tài)變量。參數(shù)的可信區(qū)間如下計算：2023/7/2822三、廣義線性模型的假設檢驗（續(xù)）（2）2023/7/3023三、廣義線性模型的假設檢驗（續(xù)）（3）比分（Score）檢驗：以未包含某個或某幾個變量的模型為基礎，保留模型中參數(shù)的估計值，并假設新增加的參數(shù)之系數(shù)為0，計算似然函數(shù)的一階偏導數(shù)（又稱有效比分）及信息矩陣，兩者相乘即為比分檢驗統(tǒng)計量S。當樣本含量較大時，S的分布近似服從2分布，自由度為檢驗的參數(shù)個數(shù)。2023/7/2823三、廣義線性模型的假設檢驗（續(xù)）（3）2023/7