.,多水平統(tǒng)計(jì)模型簡(jiǎn)介ABriefIntroductiontoMultilevelStatisticalModels,.,概述層次結(jié)構(gòu)數(shù)據(jù)的普遍性經(jīng)典方法及其局限性基本多水平模型多水平模型的應(yīng)用,.,概述,80年代中后期，英、美等國(guó)教育統(tǒng)計(jì)學(xué)家開始探討分析層次結(jié)構(gòu)數(shù)據(jù)(hierarchicallystructureddata)的統(tǒng)計(jì)方法，并相繼提出不同的模型理論和算法。多水平模型(multilevelmodels)最先應(yīng)用于教育學(xué)領(lǐng)域，后用于心理學(xué)、社會(huì)學(xué)、經(jīng)濟(jì)學(xué)、組織行為與管理科學(xué)等領(lǐng)域，逐步應(yīng)用到醫(yī)學(xué)及公共衛(wèi)生等領(lǐng)域。,.,HarveyGoldstein,UK,UniversityofLondon,InstituteofEducationMultilevelModelsinEducationalandSocialResearch1987,.,AnthonyBryk,UniversityofChicagoStephenRaudenbush,MichiganStateUniversity,DepartmentofEducationalPsychologyHierarchicalLinearModels：ApplicationsandDataAnalysisMethods1992,.,NicholasLongford,PrincetonUniversity,EducationTestingServiceRandomCoefficientModels1993,.,多水平主成分分析多水平因子分析多水平判別分析多水平logistic回歸多水平Cox模型多水平Poisson回歸多水平時(shí)間序列分析多元多水平模型多水平結(jié)構(gòu)方程模型,.,ML3(1994)/MLN(1996)/MLwiN(1999)HLM(HierarchicalLinearModel)SAS(Mixed)SPSSSTATA,.,兩水平層次結(jié)構(gòu)數(shù)據(jù),水平2,水平1,層次結(jié)構(gòu)數(shù)據(jù)的普遍性,.,“水平”(level)：指數(shù)據(jù)層次結(jié)構(gòu)中的某一層次。例如，子女為低水平即水平1，家庭為高水平即水平2。“單位”(unit)：指數(shù)據(jù)層次結(jié)構(gòu)中某水平上的一個(gè)實(shí)體。例如，每個(gè)子女是一個(gè)水平1單位，每個(gè)家庭是一個(gè)水平2單位。,.,臨床試驗(yàn)和動(dòng)物實(shí)驗(yàn)的重復(fù)測(cè)量多中心臨床試驗(yàn)研究縱向觀測(cè)如兒童生長(zhǎng)發(fā)育研究流行病學(xué)現(xiàn)場(chǎng)調(diào)查如整群抽樣調(diào)查遺傳學(xué)家系調(diào)查資料meta分析資料,.,層次結(jié)構(gòu)數(shù)據(jù)為一種非獨(dú)立數(shù)據(jù)，即某觀察值在觀察單位間或同一觀察單位的各次觀察間不獨(dú)立或不完全獨(dú)立，其大小常用組內(nèi)相關(guān)(intra-classcorrelation，ICC)度量。例如，來自同一家庭的子女，其生理和心理特征較從一般總體中隨機(jī)抽取的個(gè)體趨向于更為相似，即子女特征在家庭中具有相似性或聚集性(clustering)，數(shù)據(jù)是非獨(dú)立的(nonindependent)。,.,非獨(dú)立數(shù)據(jù)不滿足經(jīng)典方法的獨(dú)立性條件，采用經(jīng)典方法可能失去參數(shù)估計(jì)的有效性并導(dǎo)致不合理的推斷結(jié)論。但非獨(dú)立數(shù)據(jù)的組內(nèi)相關(guān)結(jié)構(gòu)各異，理論上，不同的結(jié)構(gòu)應(yīng)采用相應(yīng)的統(tǒng)計(jì)方法。如縱向觀測(cè)數(shù)據(jù)常用廣義估計(jì)方程(GEE)，但有兩個(gè)局限性：一是對(duì)誤差方差的分解僅局限于2水平的情形，二是沒有考慮解釋變量對(duì)誤差方差的影響。當(dāng)應(yīng)變量的協(xié)差陣為分塊對(duì)角陣時(shí)，一般采用多水平模型。,.,經(jīng)典方法框架下的分析策略經(jīng)典的線性模型只對(duì)某一層數(shù)據(jù)的問題進(jìn)行分析，而不能將涉及兩層或多層數(shù)據(jù)的問題進(jìn)行綜合分析。但有時(shí)某個(gè)現(xiàn)象既受到水平1變量的影響，又受到水平2變量的影響，還受到兩個(gè)水平變量的交互影響(cross-levelinteraction)。,.,個(gè)體的某事件既受到其自身特征的影響，也受到其生活環(huán)境的影響，即既有個(gè)體效應(yīng)，也有環(huán)境或背景效應(yīng)(contexteffect)。例如，個(gè)體發(fā)生某種牙病的危險(xiǎn)可能與個(gè)體的遺傳傾向、個(gè)體所屬的社會(huì)階層(如飲食文化和口腔衛(wèi)生習(xí)慣)、環(huán)境因素(如飲水中氟濃度)等有關(guān)。,.,分解(disaggregation)聚合(aggregation),.,分解：不滿足模型獨(dú)立性假定，回歸系數(shù)及其標(biāo)準(zhǔn)誤的估計(jì)無效，且未能有效區(qū)分個(gè)體效應(yīng)與背景效應(yīng)。另一種分析策略是用啞變量擬合高水平單位的固定效應(yīng)。聚合：損失大量水平1單位的信息，更嚴(yán)重的是可能導(dǎo)致“生態(tài)學(xué)謬誤”(ecologicalfallacy)。,.,多水平分析的概念為人們提供了這樣一個(gè)框架，即可將個(gè)體的結(jié)局聯(lián)系到個(gè)體特征以及個(gè)體所在環(huán)境或背景特征進(jìn)行分析，從而實(shí)現(xiàn)研究的事物與其所在背景的統(tǒng)一。,.,經(jīng)典模型的基本假定是單一水平和單一的隨機(jī)誤差項(xiàng)，并假定隨機(jī)誤差項(xiàng)獨(dú)立、服從方差為常量的正態(tài)分布，代表不能用模型解釋的殘留的隨機(jī)成份。,基本的多水平模型,.,當(dāng)數(shù)據(jù)存在層次結(jié)構(gòu)時(shí)，隨機(jī)誤差項(xiàng)則不滿足獨(dú)立常方差的假定。模型的誤差項(xiàng)不僅包含了模型不能解釋的應(yīng)變量的殘差成份，也包含了高水平單位自身對(duì)應(yīng)變量的效應(yīng)成份。,.,多水平模型將單一的隨機(jī)誤差項(xiàng)分解到與數(shù)據(jù)層次結(jié)構(gòu)相應(yīng)的各水平上，具有多個(gè)隨機(jī)誤差項(xiàng)并估計(jì)相應(yīng)的殘差方差及協(xié)方差。構(gòu)建與數(shù)據(jù)層次結(jié)構(gòu)相適應(yīng)的復(fù)雜誤差結(jié)構(gòu)，這是多水平模型區(qū)別于經(jīng)典模型的根本特征。,.,多水平模型由固定與隨機(jī)兩部分構(gòu)成，與一般的混合效應(yīng)模型的不同之處在于，其隨機(jī)部分可以包含解釋變量，故又稱為隨機(jī)系數(shù)模型(randomcoefficientmodel)，其組內(nèi)相關(guān)也可為解釋變量的函數(shù)。換言之，多水平模型可對(duì)不同水平上的誤差方差進(jìn)行深入和精細(xì)的分析。,.,1.方差成份模型(VarianceComponentModel)假定一個(gè)兩水平的層次結(jié)構(gòu)數(shù)據(jù)，醫(yī)院為水平2單位，患者為水平1單位，醫(yī)院為相應(yīng)總體的隨機(jī)樣本，模型中僅有一個(gè)解釋變量x。,.,和分別為第j個(gè)醫(yī)院中第i個(gè)患者應(yīng)變量觀測(cè)值和解釋變量觀測(cè)值，和為參數(shù)估計(jì),為通常的隨機(jī)誤差項(xiàng)。,示水平2單位,示水平1單位,.,與經(jīng)典模型的區(qū)別在于。經(jīng)典模型中的估計(jì)為，僅一個(gè)估計(jì)值，表示固定的截距，而在方差成份模型中表示j個(gè)截距值，即當(dāng)x取0時(shí)，第j個(gè)醫(yī)院在基線水平時(shí)y的平均估計(jì)值。,.,為平均截距，反映與的平均關(guān)系，即當(dāng)x取0時(shí)，所有y的總平均估計(jì)值。為隨機(jī)變量，表示第j個(gè)醫(yī)院y之平均估計(jì)值與總均數(shù)的離差值，反映了第j個(gè)醫(yī)院對(duì)y的隨機(jī)效應(yīng)。,.,表示協(xié)變量x的固定效應(yīng)估計(jì)值。即y與協(xié)變量x的關(guān)系在各醫(yī)院間是相同的，換言之，醫(yī)院間y的變異與協(xié)變量x的變化無關(guān)。,.,方差成份模型擬合j條平行的回歸線，截距不同()，斜率相同()。,.,對(duì)醫(yī)院水平殘差的假定,對(duì)患者水平殘差的假定與傳統(tǒng)模型一致,水平1上的殘差與水平2上的殘差相互獨(dú)立,，,，,.,反應(yīng)變量可表達(dá)為固定部分與隨機(jī)部分之和。模型具有兩個(gè)殘差項(xiàng)，這是多水平模型區(qū)別于經(jīng)典模型的關(guān)鍵部分。即水平2殘差，隨機(jī)效應(yīng)、又稱潛變量(latentvariable),.,此模型需估計(jì)4個(gè)參數(shù)，除兩個(gè)固定系數(shù)和，還需估計(jì)兩個(gè)隨機(jī)參數(shù)和。其中即為醫(yī)院水平的方差成份，為患者水平的方差成份。,.,組內(nèi)相關(guān)的度量,方差成份模型中，應(yīng)變量方差為,.,此即水平2和水平1方差之和。同一醫(yī)院中兩個(gè)患者(用i1，i2表示)間的協(xié)方差為：,.,組內(nèi)相關(guān)(intra-classcorrelation,ICC),.,測(cè)量了醫(yī)院間方差占總方差的比例，實(shí)際上它反映了醫(yī)院內(nèi)個(gè)體間相關(guān)，即水平1單位(患者)在水平2單位(醫(yī)院)中的聚集性或相似性。,.,由于模型不止一個(gè)殘差項(xiàng)，就產(chǎn)生了非零的組內(nèi)相關(guān)。若為0，表明數(shù)據(jù)不具層次結(jié)構(gòu)，可忽略醫(yī)院的存在，即簡(jiǎn)化為傳統(tǒng)的單水平模型；反之，若存在非零的，則不能忽略醫(yī)院的存在。,.,水平2單位中的水平1單位間存在相關(guān)，通常的“普通最小二乘法”(OrdinaryLeastSquaresOLS)進(jìn)行參數(shù)估計(jì)是不適宜的。,.,進(jìn)一步，如數(shù)據(jù)具有三個(gè)水平的層次結(jié)構(gòu)，如醫(yī)院、醫(yī)生和患者三個(gè)水平，則將有兩個(gè)這樣的相關(guān)系數(shù)，即醫(yī)院內(nèi)相關(guān)和醫(yī)生內(nèi)相關(guān)。,.,隨機(jī)系數(shù)模型是指協(xié)變量的系數(shù)估計(jì)不是固定的而是隨機(jī)的，即協(xié)變量對(duì)反應(yīng)變量的效應(yīng)在不同的水平2單位間是不同的。仍以醫(yī)院與患者兩水平數(shù)據(jù)結(jié)構(gòu)說明隨機(jī)系數(shù)模型基本結(jié)構(gòu)與假設(shè)。,隨機(jī)系數(shù)模型(RandomCoefficientModel),.,與方差成份模型的區(qū)別在于。,.,方差成份模型中協(xié)變量的系數(shù)估計(jì)為固定的，示協(xié)變量對(duì)反應(yīng)變量的效應(yīng)是固定不變的。在隨機(jī)系數(shù)模型中協(xié)變量的系數(shù)估計(jì)為，示每個(gè)醫(yī)院都有其自身的斜率估計(jì)，表明協(xié)變量對(duì)反應(yīng)變量的效應(yīng)在各個(gè)醫(yī)院間是不同的。,.,的假定及其含義與方差成份模型一致?，F(xiàn)為隨機(jī)變量，假定：,.,表示第j個(gè)醫(yī)院的y隨x變化的斜率；表示全部醫(yī)院的y隨x變化的斜率的平均值(平均斜率)。是指各醫(yī)院的y隨x變化的斜率的方差。,.,示第j個(gè)醫(yī)院的斜率與平均斜率的離差值，指上述截距離差值與斜率離差值的協(xié)方差，反映了它們之間的相關(guān)關(guān)系。,.,即表達(dá)為固定部分與隨機(jī)部分之和。其中，固定效應(yīng)用均數(shù)描述，它決定了全部醫(yī)院的平均回歸線，這條直線的截距即平均截距，直線的斜率即平均斜率。為隨機(jī)系數(shù)。,將模型改記為：,.,隨機(jī)效應(yīng)用方差描述，它反映了各醫(yī)院之間y的變異與協(xié)變量x的關(guān)系。模型隨機(jī)部分具多個(gè)殘差項(xiàng)，需估計(jì)4個(gè)隨機(jī)參數(shù)，即方差、和以及協(xié)方差。,.,模型的反應(yīng)變量方差為：,表明各醫(yī)院間y的變異與協(xié)變量x有關(guān)，即每條回歸線不僅截距不同，且斜率也不同。當(dāng)x取0時(shí)每個(gè)醫(yī)院y的平均估計(jì)值不同，且每個(gè)醫(yī)院y隨x變化的斜率不同。,.,組內(nèi)相關(guān)與解釋變量有關(guān),.,值得指出，模型隨機(jī)部分的解釋變量常為其固定部分的一個(gè)子集，但亦可以不是。換言之，可以在模型的固定部分或隨機(jī)部分納入任何水平上測(cè)量的解釋變量。,.,反應(yīng)變量向量的協(xié)方差結(jié)構(gòu),從最基本的兩水平數(shù)據(jù)結(jié)構(gòu)來考察反應(yīng)變量向量的協(xié)方差結(jié)構(gòu)，即只包括隨機(jī)參數(shù)和。對(duì)應(yīng)于方差成份模型，反應(yīng)變量方差為水平1和水平2方差之和：,.,同一個(gè)醫(yī)院所診療的兩個(gè)患者(用，表示)間的協(xié)方差為：,.,因此，同一醫(yī)院所診療的三名患者的協(xié)差陣為,.,對(duì)兩個(gè)醫(yī)院而言，若一個(gè)醫(yī)院診療了三名患者，另一個(gè)醫(yī)院診療了兩個(gè)患者，則具有2個(gè)水平2單位的反應(yīng)變量向量Y總的協(xié)差陣可表達(dá)為：,.,.,矩陣的這種分塊對(duì)角結(jié)構(gòu)表達(dá)了不同醫(yī)院所診療的患者間的協(xié)方差為0，它可進(jìn)一步擴(kuò)展到任意多的醫(yī)院數(shù)。將上述矩陣表達(dá)為另一種更簡(jiǎn)略的形式：,.,為維的1矩陣，為維的單位陣，的下標(biāo)2表明為兩水平模型，的維數(shù)即水平2單位數(shù)，主對(duì)角線塊的維數(shù)即水平1單位數(shù)，它們均為方陣。在傳統(tǒng)OLS估計(jì)中，為0，則該協(xié)差陣退化為標(biāo)準(zhǔn)形式的，即殘差方差。,.,考察包括隨機(jī)系數(shù)的一般形式的兩水平模型,或簡(jiǎn)記為,.,對(duì)于具有隨機(jī)截距與斜率的兩水平模型，其反應(yīng)變量協(xié)差陣具有以下典型的分塊結(jié)構(gòu)：,.,矩陣為水平2的隨機(jī)截距與斜率的協(xié)差陣，即隨機(jī)系數(shù)協(xié)差陣，矩陣為水平1的隨機(jī)系數(shù)協(xié)差陣。這里，水平1只有一個(gè)單一的方差項(xiàng)，可進(jìn)一步采用表示這些協(xié)差陣集。將上述矩陣展開得到：,.,這是具有分塊結(jié)構(gòu)的一個(gè)具有2個(gè)水平1單位的水平2單位的反應(yīng)變量協(xié)差陣。此即構(gòu)造反應(yīng)變量協(xié)差陣的一般模式，它同時(shí)也概括了擬合水平1復(fù)雜變異的可能性。,.,固定與隨機(jī)參數(shù)估計(jì),固定和隨機(jī)參數(shù)的估計(jì)方法一般采用“迭代廣義最小二乘算法”(IterativeGeneralizedLeastSquares，IGLS)(Goldstein，1986)或“限制性迭代廣義最小二乘法”(RestrictedIterativeGeneralizedLeastSquares，RIGLS)(Goldstein，1989)。,.,現(xiàn)以最基本的兩水平方差成份模型來闡明固定與隨機(jī)參數(shù)估計(jì)的基本思想和步驟。,.,.,假定已知方差的值，則可直接構(gòu)造分塊對(duì)角陣，簡(jiǎn)記為。直接采用通常的廣義最小二乘法(GeneralizedLeastSquaresGLS)可獲得固定系數(shù)的估計(jì)：,.,在初始階段，假定為0，即假定數(shù)據(jù)不具有系統(tǒng)結(jié)構(gòu)，則給出固定系數(shù)通常的OLS估計(jì)，得到粗殘差：,.,將粗殘差向量記為：,將粗殘差向量形成交叉乘積矩陣，然后再形成交叉乘積矩陣的向量化算子，記為。相應(yīng)的，也可以形成反應(yīng)變量協(xié)方差陣向量化算子，記為。,.,對(duì)應(yīng)于2個(gè)醫(yī)院，一個(gè)診療3名患者，另一個(gè)診療2名患者，則和均具有32+22=13個(gè)元素。因?yàn)榈钠谕麨?可將這些向量間關(guān)系表達(dá)為以下線性模型,.,=,+R=,+,+R,.,這里，為一個(gè)殘差向量。將粗殘差作為模型的反應(yīng)變量向量，模型右邊包含兩個(gè)已知的解釋變量，其系數(shù)即待估計(jì)的隨機(jī)參數(shù)和。通過GLS方法獲得和的估計(jì)，回到初始模型則獲得固定系數(shù)新的估計(jì)，在隨機(jī)與固定參數(shù)估計(jì)間反復(fù)迭代直至收斂，此即IGLS算法的基礎(chǔ)。,.,1.重復(fù)測(cè)量數(shù)據(jù)的多水平模型當(dāng)同一研究對(duì)象被重復(fù)測(cè)量多次時(shí)，測(cè)量點(diǎn)即為水平1單位，測(cè)量點(diǎn)又嵌套(nested)進(jìn)作為水平2單位的個(gè)體，這種數(shù)據(jù)結(jié)構(gòu)具有典型的層次結(jié)構(gòu)特征。,多水平模型的應(yīng)用,.,在臨床試驗(yàn)和動(dòng)物實(shí)驗(yàn)中，常需對(duì)患者或動(dòng)物的某些指標(biāo)進(jìn)行重復(fù)測(cè)量，以了解不同時(shí)間觀測(cè)指標(biāo)的變化以及處理因素與觀測(cè)指標(biāo)的關(guān)系隨時(shí)間的變化；在生長(zhǎng)發(fā)育研究中，也需對(duì)個(gè)體生長(zhǎng)或發(fā)育指標(biāo)作多時(shí)點(diǎn)的重復(fù)測(cè)量。,.,常規(guī)使用的重復(fù)測(cè)量數(shù)據(jù)統(tǒng)計(jì)方法，一般要求資料是平衡的，即每一個(gè)體有相同次數(shù)的重復(fù)測(cè)量值，這對(duì)于實(shí)驗(yàn)研究是可行的，但在生長(zhǎng)發(fā)育研究中，測(cè)量常常是不規(guī)則的，這就出現(xiàn)了個(gè)體測(cè)量時(shí)點(diǎn)多少不一、時(shí)間間隔不等以及觀測(cè)值缺失等問題，它增加了傳統(tǒng)統(tǒng)計(jì)方法擬合個(gè)體生長(zhǎng)曲線的難度，并引起估計(jì)結(jié)果不同程度的偏差。,.,多水平模型技術(shù)可有效和方便地處理此類測(cè)量模式的數(shù)據(jù)，提供統(tǒng)計(jì)上有效的參數(shù)估計(jì)，并具有如下幾個(gè)特點(diǎn)：,.,(1)考慮了分布于不同層次的測(cè)量誤差，并給出相應(yīng)的誤差估計(jì)值；(2)擬合個(gè)體生長(zhǎng)曲線時(shí)不要求相等的時(shí)間間隔，在擬合個(gè)體生長(zhǎng)曲線的同時(shí)也估計(jì)全部樣本的平均曲線；,.,(3)不要求每個(gè)個(gè)體都有同樣多的測(cè)量點(diǎn)，即缺失測(cè)量點(diǎn)并不增加擬合生長(zhǎng)曲線的難度；(4)便于在生長(zhǎng)曲線中引入其它解釋變量，如性別、營(yíng)養(yǎng)狀況等，分析其對(duì)生長(zhǎng)過程的影響。,.,2.Meta分析是指對(duì)具有相同研究假設(shè)的多項(xiàng)獨(dú)立研究結(jié)果所進(jìn)行的合并分析，在合并不同來源的研究資料時(shí)可能引入異雜方差(heterogeneousvariance)，因此，其數(shù)據(jù)可看成具有兩個(gè)水平的層次結(jié)構(gòu)，即研究水平與個(gè)體水平。,.,Meta分析的主要目的是為了得到比單一研究更精確的結(jié)果估計(jì)，進(jìn)一步的目的則是分析影響研究結(jié)果間差異的因素。目前，Meta分析主要根據(jù)“效應(yīng)尺度”的同質(zhì)性檢驗(yàn)結(jié)果，而決定采用固定效應(yīng)模型或隨機(jī)效應(yīng)模型來合并每項(xiàng)研究的“效應(yīng)尺度”。采用多水平模型可較為方便地分析影響研究結(jié)果間差異的因素如研究水平上的有關(guān)協(xié)變量包括樣本含量、設(shè)計(jì)類型等。,.,3.離散數(shù)據(jù)的多水平模型在流行病學(xué)現(xiàn)場(chǎng)調(diào)查研究中，常對(duì)發(fā)病率、患病率或死亡率以及它們?cè)诘貐^(qū)之間的變異感興趣。這里的兩水平結(jié)構(gòu)是，個(gè)體為水平1，地區(qū)為水平2。,.,此類研究常常擁有若干地區(qū)某時(shí)期的死亡記錄和死者個(gè)人特征以及地區(qū)特征如人口構(gòu)成或社會(huì)經(jīng)濟(jì)特征等。研究者可以分析這些解釋變量是否能夠解釋死亡率在地區(qū)之間的變異，也可以分析死亡率的差別(比如男性和女性之間)是否在地區(qū)之間不同等。,.,4.多變量多水平模型：在醫(yī)學(xué)研究中，研究者常對(duì)個(gè)體作幾種測(cè)量(即測(cè)量幾個(gè)指標(biāo))，如收縮壓、舒張壓和心率，如果將它們作為反應(yīng)變量一起進(jìn)行分析，就可以設(shè)置多變量模型，分析解釋變量諸如年齡、性別、是否鍛煉、是否吸煙等與這