1、1,2.3 最小方差無偏估計(jì),2,一、最小方差無偏估計(jì),由定義2.4知，最小方差無偏估計(jì)（MVUE）是在無偏估計(jì)類中，使均方誤差達(dá)到最小的估計(jì)量，即在均方誤差最小意義下的最優(yōu)估計(jì)。它是在應(yīng)用中，人們希望尋求的一種估計(jì)量。,3,4,5,6,7,定理2.7給出了最小方差無偏估計(jì)的一種判別方法，但由上例可見，該判別法使用并不方便，而且還只是一個(gè)充分條件。為了尋求更好的方法，需要借助充分統(tǒng)計(jì)量甚至充分完備統(tǒng)計(jì)量的概念。,8,定理2.8的說明：如果無偏估計(jì)不是充分統(tǒng)計(jì)量 的函數(shù)，則將之對(duì)充分統(tǒng)計(jì)量求條件期望可以 得到一個(gè)新的無偏估計(jì)，該估計(jì)的方差比原來 的估計(jì)的方差要小，從而降低了無偏估計(jì)的方 差。 換

2、言之，考慮 的估計(jì)問題只需要在基于 充分統(tǒng)計(jì)量的函數(shù)中進(jìn)行即可，該說法對(duì)所有 的統(tǒng)計(jì)推斷問題都是正確的，這便是所謂的充 分性原則。,9,10,11,12,13,14,15,16,17,2. 要直接驗(yàn)證某個(gè)估計(jì)量是最小方差無偏估計(jì)量 是困難的. 若能求出無偏估計(jì)中方差的下界, 而且又 能說明參數(shù) 的一切無偏估計(jì)中存在某個(gè)估計(jì) 的 方差能達(dá)到這個(gè)下界，那么 就是 的最小方差無 偏估計(jì). 下面給出一個(gè)判別準(zhǔn)則：,1.最小方差無偏估計(jì)提供了一種優(yōu)良的估計(jì)，然而一個(gè)更深入的問題是：無偏估計(jì)的方差是否可以任意??？如果不可以，那么它的下界是多少？這個(gè)下界等否達(dá)到？,定理2.10 (Cramer-Rao不等式

3、)設(shè)X1,X2,Xn是 從密度函數(shù)為 的總體抽取的樣本, 是 的一個(gè)無偏估計(jì), 若 集合 與 無關(guān); 對(duì) 積分與微分可交換且 存在，即 (3),則有,其中,常稱,為Fisher信息量. 特別當(dāng), 有,常用的另一個(gè)表達(dá)式,常稱為C-R不等式.,費(fèi)希爾信息量是數(shù)理統(tǒng)計(jì)學(xué)中一個(gè)基本概念，很多的統(tǒng)計(jì)結(jié)果都與費(fèi)希爾信息量有關(guān)。如極大似然估計(jì)的漸近方差，無偏估計(jì)的方差的下界等都與費(fèi)希爾信息量I( )有關(guān)。I( )的種種性質(zhì)顯示，“I( )越大”可被解釋為總體分布中包含未知參數(shù) 的信息越多。,例2.22 設(shè)總體服從泊松分布 ， X1,X2,Xn 是來自總體的一個(gè)樣本，試求參數(shù) 的無偏估計(jì)的下界？,解: (1

4、) 寫出密度函數(shù) (2) 求密度函數(shù)對(duì)數(shù)、再求導(dǎo) (3) 計(jì)算fisher信息量 (4) 代入C-R不等式求方差下界,1. 寫出密度函數(shù)，求對(duì)數(shù),2. 計(jì)算fiser信息量,3.代入C-R不等式求方差下界,例2.23 設(shè) X1,X2,Xn 是取自總體 X 的一個(gè)樣本, 求 的無偏估計(jì)的方差下界. 解: (1) 寫出密度函數(shù) (2) 求密度函數(shù)對(duì)數(shù)、再求導(dǎo) (3) 計(jì)算 (4) 代入C-R不等式求方差下界 最后尋找無偏估計(jì)中滿足方差下界的估計(jì)量.,1. 寫出密度函數(shù),2. 求密度函數(shù)對(duì)數(shù),3. 計(jì)算fiser信息量,4.代入C-R不等式求方差下界,2. 求密度函數(shù)對(duì)數(shù)的導(dǎo)數(shù),3. 計(jì)算fiser信息量,4.代入C-R不等式求方差下界,5. 計(jì)算最小方差無偏估計(jì)的方差,26,2、有效估計(jì),1) 定義2.8 P57,例2.24 設(shè) X1, X2, Xn 是取自總體 XB(N, p) 的一個(gè)樣本，驗(yàn)證 是參數(shù)P的有效估計(jì)量.,1.寫出概