logistic回歸probit回歸與poission回歸演示文稿目前一頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)優(yōu)選logistic回歸probit回歸與poission回歸目前二頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)Logistic回歸（因變量為二分變量/二項(xiàng)分布）probit回歸Poisson

（因變量為poisson分布）第三章：橫截面數(shù)據(jù)：因變量為分類變量及因變量為頻數(shù)（計(jì)數(shù)）變量的情況目前三頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)概念logistic回歸是研究因變量為二分類或多分類觀察結(jié)果與影響因素（自變量）之間關(guān)系的一種多變量分析方法，屬概率型非線性回歸。最常用的是二值型logistic

，即因變量的取值只包含兩個(gè)類別例如：好、壞

；發(fā)生、不發(fā)生；常用Y=1或Y=0表示。自變量X稱為危險(xiǎn)因素或暴露因素，可為連續(xù)變量、等級(jí)變量、分類變量，可有m個(gè)自變量X1，X2，…Xm

。P表示Y=1的概率，是其他變量的一個(gè)函數(shù)?！緋（Y=1|X）表示在X的條件下Y=1的概率】

logistic回歸的數(shù)學(xué)表達(dá)式為：

目前四頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)logistic回歸的分類：（1）二分類資料logistic回歸：因變量為兩分類變量的資料，可用非條件logistic回歸和條件logistic回歸進(jìn)行分析。非條件logistic回歸多用于非配比病例-對(duì)照研究或隊(duì)列研究資料，條件logistic回歸多用于配對(duì)或配比資料。（2）多分類資料logistic回歸：因變量為多項(xiàng)分類的資料，可用多項(xiàng)分類logistic回歸模型或有序分類logistic回歸模型進(jìn)行分析。也可以分為logistic回歸和條件logistic回歸目前五頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)令因變量?jī)蓚€(gè)水平對(duì)應(yīng)的值為0、1，概率為1-p、p，則顯然我們也可以用多重回歸進(jìn)行分析？為什么要用logistic回歸分析？logistic回歸回歸系數(shù)、模型評(píng)估、參數(shù)估計(jì)、假設(shè)檢驗(yàn)等與之前的回歸分析有何不同？因變量為二分變量時(shí)既可以用logistics回歸也可以用probit回歸，那么probit回歸及其與logistic回歸的異同之處問(wèn)題目前六頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)問(wèn)題1：p（y=1）表示某暴露因素狀態(tài)下，結(jié)果y=1的概率（P）模型?；蚰Ｐ兔枋隽藨?yīng)變量p與x的關(guān)系目前七頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)P概率10.5Z值0123-1-2-3

圖1Logistic回歸函數(shù)的幾何圖形目前八頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)線性回歸在處理有上限和下限的因變量時(shí)面臨著一個(gè)問(wèn)題：X上同樣的變化對(duì)Y產(chǎn)生的影響不同，由圖1也可以直觀的看出這里并不適合進(jìn)行線性回歸。雖然有很多非線性的函數(shù)可以呈現(xiàn)S形，但由于Logit轉(zhuǎn)化比較簡(jiǎn)易，所以更受歡迎。目前九頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)目前十頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)Logit與概率不同，它沒(méi)有上下限。比數(shù)去除了概率的上限，比數(shù)的對(duì)數(shù)去除了概率的下限；且是以0,5為中點(diǎn)對(duì)稱的，概率大于0.5產(chǎn)生正的logit,logit距離0的距離反映了概率距離0.5的距離；概率上相同的改變與在logits上產(chǎn)生的改變是不同的，logit轉(zhuǎn)化拉直了X與最初的概率之間的非線性關(guān)系。目前十一頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)回歸系數(shù)的意義：Logistic回歸中的回歸系數(shù)表示，某一因素改變一個(gè)單位時(shí)，效應(yīng)指標(biāo)發(fā)生與不發(fā)生事件的概率之比的對(duì)數(shù)變化值，即OR的對(duì)數(shù)值。Logistic回歸中的常數(shù)項(xiàng)表示，在不接觸任何潛在危險(xiǎn)／保護(hù)因素條件下，效應(yīng)指標(biāo)發(fā)生與不發(fā)生事件的概率之比的對(duì)數(shù)值。單純從數(shù)學(xué)上講，與多元線性回歸分析中回歸系數(shù)的解釋并無(wú)不同。問(wèn)題2：目前十二頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)

模型評(píng)估（1）Ｈosmer-Lemeshowz指標(biāo)

HL統(tǒng)計(jì)量的原假設(shè)Ho是預(yù)測(cè)值和觀測(cè)值之間無(wú)顯著差異，因此HL指標(biāo)的P-Value的值越大，越不能拒絕原假設(shè)，即說(shuō)明模型很好的擬合了數(shù)據(jù)。（2）AIC和SC指標(biāo)即池雷準(zhǔn)則和施瓦茨準(zhǔn)則

與線性回歸類似AIC和SC越小說(shuō)明模型擬合的越好（3）似然比卡方出

從整體上看解釋變量對(duì)因變量有無(wú)解釋作用相當(dāng)于多元回歸中的F檢驗(yàn)在logistic回歸中可以通過(guò)似然比（likelihoodratiotest）進(jìn)行檢驗(yàn)

（4）RSQUARE（R^2）和C統(tǒng)計(jì)量

解釋變量解釋在多大程度上解釋了因變量與線性回歸中的R^2作用類似在logistic回歸中可以通過(guò)R^2和Ｃ統(tǒng)計(jì)量進(jìn)行度量目前十三頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)統(tǒng)計(jì)量

趨勢(shì)

擬合

作用

備注

AIC

、SC

越小

越好

類似于多元回歸中的殘差平方和

似然比卡方

越大

越好

類似于多元回歸中的回歸平方和

P值越小越好

RSQUARE

越大

越好

類似于多元回歸中的Ｒ＾２

Ｃ統(tǒng)計(jì)量越大越好度量觀測(cè)值和條件預(yù)測(cè)的相對(duì)一致性

ＨＬ統(tǒng)計(jì)量越小越好度量觀測(cè)值和預(yù)測(cè)值總體的一致性

P值越大越好

說(shuō)明：在實(shí)踐中，對(duì)以上統(tǒng)計(jì)量最為關(guān)注的是C統(tǒng)計(jì)量，其次是似然比卡方，最后才是ＨＬ統(tǒng)計(jì)量。AIC和SQUARE極少關(guān)注，這一點(diǎn)和多元線性回歸有很大的區(qū)別。根本原因就是多元線性回歸模型是一個(gè)預(yù)測(cè)模型，目標(biāo)變量的值具有實(shí)際意義；而logistic是一個(gè)分類模型，目標(biāo)變量只是一個(gè)分類標(biāo)識(shí)，因此更關(guān)注預(yù)測(cè)值和預(yù)測(cè)值之間的相對(duì)一致性而不是絕對(duì)一致性。目前十四頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)參數(shù)估計(jì)

目前十五頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)目前十六頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)除此以外，logistic回歸還可以用優(yōu)勢(shì)比估計(jì)：目前十七頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)案例：目前十八頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)在logistic過(guò)程步中加“descending”選項(xiàng)的目的是使SAS過(guò)程按陽(yáng)性率（y=1）擬合模型，得到陽(yáng)性病例對(duì)應(yīng)于陰性病例的優(yōu)勢(shì)比。觀察例數(shù)目前十九頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)OR值OR的95%CI對(duì)偏回歸系數(shù)的假設(shè)檢驗(yàn)?zāi)壳岸?yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)目前二十一頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)logistic回歸模型的假設(shè)檢驗(yàn)

目前二十二頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)目前二十三頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)3.比分檢驗(yàn)（scoretest）

以未包含某個(gè)或幾個(gè)變量的模型為基礎(chǔ)，保留模型中參數(shù)的估計(jì)值，并假設(shè)新增加的參數(shù)為零，計(jì)算似然函數(shù)的一價(jià)偏導(dǎo)數(shù)（又稱有效比分）及信息距陣，兩者相乘便得比分檢驗(yàn)的統(tǒng)計(jì)量S

。樣本量較大時(shí)，S近似服從自由度為待檢驗(yàn)因素個(gè)數(shù)的２分布。上述三種方法中，似然比檢驗(yàn)（與之前的類似）最可靠，比分檢驗(yàn)（logistic回歸模型特有）一般與它相一致，但兩者均要求較大的計(jì)算量；而Wald檢驗(yàn)（相當(dāng)于廣義的t檢驗(yàn)）未考慮各因素間的綜合作用，在因素間有共線性時(shí)結(jié)果不如其它兩者可靠。目前二十四頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)概率p值均小于0.05，說(shuō)明方程有意義。對(duì)所擬合模型的假設(shè)檢驗(yàn)：目前二十五頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)變量篩選

目前二十六頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)例某工作者在探討腎細(xì)胞癌轉(zhuǎn)移的有關(guān)臨床病理因素研究中，收集了一批行根治性腎切除術(shù)患者的腎癌標(biāo)本資料，現(xiàn)從中抽取26例。試用logistic回歸分析篩選出于癌細(xì)胞轉(zhuǎn)移有關(guān)的危險(xiǎn)因素（變量選入和剔除水平均為0.10）。

目前二十七頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)用逐步回歸法擬合模型,變量選入和剔除水平均為0.10指定選項(xiàng)“des”是為了按照y=1（有轉(zhuǎn)移）的概率擬合模型。如果不加此選擇項(xiàng)，則軟件會(huì)按照y=0（無(wú)轉(zhuǎn)移）的概率擬合模型，此時(shí)，應(yīng)變量的排序水平發(fā)生顛倒，且所有參數(shù)估計(jì)的符號(hào)相反，OR值為原來(lái)的倒數(shù)。目前二十八頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)目前二十九頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)logistic逐步回歸分析篩選出兩個(gè)有統(tǒng)計(jì)學(xué)意義的變量為x2和x4，回歸系數(shù)分別為2.4134和2.0963，比數(shù)比分別為11.172和8.136。結(jié)果中還給出了標(biāo)準(zhǔn)化偏回歸系數(shù)，腎癌細(xì)胞核組織學(xué)分級(jí)（x4）在引起癌細(xì)胞轉(zhuǎn)移中的危險(xiǎn)性大于腎細(xì)胞癌血管內(nèi)皮生長(zhǎng)因子（x2）。目前三十頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)條件Logistic回歸對(duì)配對(duì)/比調(diào)查資料，應(yīng)該用條件Logistic回歸分析。對(duì)于配比資料，第i個(gè)配比組可以建立一個(gè)Logistic回歸：假設(shè)自變量在各配比組中對(duì)結(jié)果變量的作用是相同的，即自變量的回歸系數(shù)與配比組無(wú)關(guān)。配比設(shè)計(jì)的Logistic回歸模型其中不含常數(shù)項(xiàng)。目前三十一頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)可以看出此回歸模型與非條件Logistic回歸模型十分相似，只不過(guò)這里的參數(shù)估計(jì)是根據(jù)條件概率得到的，因此稱為條件Logistic回歸模型。條件Logistic回歸的回歸系數(shù)檢驗(yàn)與分析，和非條件Logistic回歸完全相同。目前三十二頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)

1.疾病（某結(jié)果）的危險(xiǎn)因素分析和篩選

用回歸模型中的回歸系數(shù)（βi）和OR說(shuō)明危險(xiǎn)因素與疾病的關(guān)系。適用的資料：

前瞻性研究設(shè)計(jì)、病例對(duì)照研究設(shè)計(jì)、橫斷面研究設(shè)計(jì)的資料。三類研究計(jì)算的logistic回歸模型的β意義是一致。僅常數(shù)項(xiàng)不同。（證明略）logistic回歸的應(yīng)用目前三十三頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)2.校正混雜因素，對(duì)療效做評(píng)價(jià)在臨床研究和療效的評(píng)價(jià)，組間某些因素構(gòu)成不一致干擾療效分析，通過(guò)該法可控制非處理因素，正確評(píng)價(jià)療效。3.預(yù)測(cè)與判別預(yù)測(cè)個(gè)體在某因素存在條件下，發(fā)生某事件（發(fā)?。┑母怕?，為進(jìn)一步治療提供依據(jù)。目前三十四頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)問(wèn)題3

如同logistic回歸，probit分析依賴于將二分因變量上的回歸轉(zhuǎn)化成連續(xù)因變量上的回歸。給定經(jīng)歷某事件或者具有某特點(diǎn)的概率，預(yù)測(cè)的probit變成了一個(gè)由一個(gè)或者多個(gè)自變量所決定的線性方程的因變量：Z代表了利用累積標(biāo)準(zhǔn)正態(tài)分布將概率轉(zhuǎn)為z分?jǐn)?shù)的非線性轉(zhuǎn)化。通過(guò)用一個(gè)線性方程來(lái)預(yù)測(cè)z分?jǐn)?shù)，probit分析暗含了一個(gè)與概率的非線性關(guān)系，與曲線的極限比，因變量在接近曲線中點(diǎn)時(shí)對(duì)概率有更大的影響。目前三十五頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)

在logistic回歸中我們可以利用簡(jiǎn)單的公式來(lái)總結(jié)將概率變成比數(shù)對(duì)數(shù)的轉(zhuǎn)化以及比數(shù)對(duì)數(shù)變成概率的轉(zhuǎn)化。對(duì)于probit分析，標(biāo)準(zhǔn)正態(tài)分布曲線的復(fù)雜公式讓這一切難度更大（盡管用計(jì)算機(jī)可以很容易得到）。除了logit與probit轉(zhuǎn)化當(dāng)中的一些相似性，它們兩個(gè)所得出的系數(shù)會(huì)有一個(gè)隨意的常數(shù)（約1.8）的區(qū)別。（由于軟件程序中probit分析將誤差項(xiàng)的標(biāo)準(zhǔn)差定為1，而logistic分析將誤差項(xiàng)的標(biāo)準(zhǔn)差大約定為1.814）logitic系數(shù)大約是probit系數(shù)的1.8倍，將logistic系數(shù)除以這個(gè)值可以讓二者的單位具有可比性，但是由于logistic和正態(tài)曲線不同，所以logitic系數(shù)和probit系數(shù)依然會(huì)有小小的不同。但是基本上，logistic分析和probit分析得出的結(jié)果在本質(zhì)上都是相似的。與logistic回歸一樣，probit分析也利用最大似然估計(jì)進(jìn)行參數(shù)估計(jì)，且估計(jì)過(guò)程與logistic回歸一模一樣。但與logistic回歸不同的是，這里使用的是累積標(biāo)準(zhǔn)正態(tài)分布所以不能從自變量和估計(jì)參數(shù)得到因變量的p值。且為了計(jì)算更簡(jiǎn)單一些，程序是讓似然數(shù)的自然對(duì)數(shù)取最大值而非讓似然函數(shù)取最大值。系數(shù)含義及對(duì)整個(gè)模型的評(píng)估和檢驗(yàn)與logistic回歸的內(nèi)容大同小異probit分析與logistic回歸只是因變量的轉(zhuǎn)化方式不同以及因此產(chǎn)生的細(xì)小差異目前三十六頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)Logistic回歸（因變量為二分變量/二項(xiàng)分布）probit回歸Poisson（因變量為poisson分布）第三章：橫截面數(shù)據(jù)：因變量為分類變量及因變量為頻數(shù)（計(jì)數(shù)）變量的情況目前三十七頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)概念

Poisson回歸：用來(lái)為技術(shù)資料和列聯(lián)表建模的一種回歸分析。泊松回歸假設(shè)反應(yīng)變量Y是Poisson分布，并假設(shè)它期望值的對(duì)數(shù)可被未知參數(shù)的線性組合建模。Poisson回歸模型有時(shí)（特別是當(dāng)用作列聯(lián)表模型時(shí)）又被稱作對(duì)數(shù)-線性模型。

分類數(shù)據(jù)表現(xiàn)為離散的計(jì)數(shù)，服從Poisson分布目前三十八頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)因變量Y服從Poisson分布，期望值為（Poisson分布變量的方差也是）如果有一個(gè)解釋變量x，可以寫出如下回歸模型：這里g是一個(gè)連接函數(shù)(linkfunction)，通常取log函數(shù)，因此得到對(duì)數(shù)線性模型可寫成：目前三十九頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)Poisson回歸模型是描述服從Poisson分布的目標(biāo)變量y的均數(shù)與協(xié)變量關(guān)系的回歸模型。對(duì)數(shù)線性模型解釋變量xi增加一個(gè)單位,增加目前四十頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)單位率的模型可寫作

N稱作偏移(offset),log(N)被用做偏移量;當(dāng)所有協(xié)變量都無(wú)作用時(shí),等于N目前四十一頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)Poisson分布下模型的似然函數(shù)對(duì)于低發(fā)生（?。┞实拈_(kāi)放性隊(duì)列研究資料，由于di服從Poisson分布，其概率函數(shù)為：其中di是隨機(jī)變量，可取值為di=1,2,…,其期望發(fā)生數(shù)i=nihi()。回歸模型的似然函數(shù)為Poisson分布條件下各個(gè)格子概率函數(shù)的總概率（積）。

L()=目前四十二頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)參數(shù)估計(jì)

兩側(cè)取對(duì)數(shù)，回歸模型的對(duì)數(shù)似然函數(shù)為:lnL()=

對(duì)數(shù)似然函數(shù)中的未知參數(shù)可以用迭代重復(fù)加權(quán)最小二乘法（簡(jiǎn)稱IRLS法）估計(jì)，它與通常的極大似然估計(jì)結(jié)果一致。也可用極大似然估計(jì)法目前四十三頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)模型擬合度與參數(shù)檢驗(yàn)偏差統(tǒng)計(jì)量

Poisson回歸模型擬合好壞用偏差統(tǒng)計(jì)量(deviance)表示，偏差統(tǒng)計(jì)量實(shí)際上是對(duì)數(shù)似然比統(tǒng)計(jì)量，它是飽和模型(saturatedmodel)和擬合模型對(duì)數(shù)似然值差的兩倍，其在Poisson分布條件下的計(jì)算公式為：目前四十四頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)參數(shù)檢驗(yàn)

參數(shù)檢驗(yàn)可通過(guò)兩個(gè)包含不同參數(shù)個(gè)數(shù)模型的偏差統(tǒng)計(jì)量G2的差（G2）和自由度的差（df）來(lái)實(shí)現(xiàn)，當(dāng)G2>時(shí)，P<0.05,該參數(shù)（因素）有統(tǒng)計(jì)學(xué)意義。G2

目前四十五頁(yè)\總數(shù)四十八頁(yè)\編于十四點(diǎn)Poisson回歸實(shí)現(xiàn)（Genmod過(guò)程）Genmod過(guò)程：通過(guò)對(duì)參數(shù)向量進(jìn)行最大似然估計(jì)來(lái)擬和廣義線性模型，采用迭代擬和過(guò)程估計(jì)