1、1,2.3 最小方差無偏估計,2,一、最小方差無偏估計,由定義2.4知，最小方差無偏估計（MVUE）是在無偏估計類中，使均方誤差達(dá)到最小的估計量，即在均方誤差最小意義下的最優(yōu)估計。它是在應(yīng)用中，人們希望尋求的一種估計量。,3,4,5,6,7,定理2.7給出了最小方差無偏估計的一種判別方法，但由上例可見，該判別法使用并不方便，而且還只是一個充分條件。為了尋求更好的方法，需要借助充分統(tǒng)計量甚至充分完備統(tǒng)計量的概念。,8,定理2.8的說明：如果無偏估計不是充分統(tǒng)計量 的函數(shù)，則將之對充分統(tǒng)計量求條件期望可以 得到一個新的無偏估計，該估計的方差比原來 的估計的方差要小，從而降低了無偏估計的方 差。 換

2、言之，考慮 的估計問題只需要在基于 充分統(tǒng)計量的函數(shù)中進(jìn)行即可，該說法對所有 的統(tǒng)計推斷問題都是正確的，這便是所謂的充 分性原則。,9,10,11,12,13,14,15,16,17,2. 要直接驗證某個估計量是最小方差無偏估計量 是困難的. 若能求出無偏估計中方差的下界, 而且又 能說明參數(shù) 的一切無偏估計中存在某個估計 的 方差能達(dá)到這個下界，那么 就是 的最小方差無 偏估計. 下面給出一個判別準(zhǔn)則：,1.最小方差無偏估計提供了一種優(yōu)良的估計，然而一個更深入的問題是：無偏估計的方差是否可以任意小？如果不可以，那么它的下界是多少？這個下界等否達(dá)到？,定理2.10 (Cramer-Rao不等式

3、)設(shè)X1,X2,Xn是 從密度函數(shù)為 的總體抽取的樣本, 是 的一個無偏估計, 若 集合 與 無關(guān); 對 積分與微分可交換且 存在，即 (3),則有,其中,常稱,為Fisher信息量. 特別當(dāng), 有,常用的另一個表達(dá)式,常稱為C-R不等式.,費希爾信息量是數(shù)理統(tǒng)計學(xué)中一個基本概念，很多的統(tǒng)計結(jié)果都與費希爾信息量有關(guān)。如極大似然估計的漸近方差，無偏估計的方差的下界等都與費希爾信息量I( )有關(guān)。I( )的種種性質(zhì)顯示，“I( )越大”可被解釋為總體分布中包含未知參數(shù) 的信息越多。,例2.22 設(shè)總體服從泊松分布 ， X1,X2,Xn 是來自總體的一個樣本，試求參數(shù) 的無偏估計的下界？,解: (1

4、) 寫出密度函數(shù) (2) 求密度函數(shù)對數(shù)、再求導(dǎo) (3) 計算fisher信息量 (4) 代入C-R不等式求方差下界,1. 寫出密度函數(shù)，求對數(shù),2. 計算fiser信息量,3.代入C-R不等式求方差下界,例2.23 設(shè) X1,X2,Xn 是取自總體 X 的一個樣本, 求 的無偏估計的方差下界. 解: (1) 寫出密度函數(shù) (2) 求密度函數(shù)對數(shù)、再求導(dǎo) (3) 計算 (4) 代入C-R不等式求方差下界 最后尋找無偏估計中滿足方差下界的估計量.,1. 寫出密度函數(shù),2. 求密度函數(shù)對數(shù),3. 計算fiser信息量,4.代入C-R不等式求方差下界,2. 求密度函數(shù)對數(shù)的導(dǎo)數(shù),3. 計算fiser信息量,4.代入C-R不等式求方差下界,5. 計算最小方差無偏估計的方差,26,2、有效估計,1) 定義2.8 P57,例2.24 設(shè) X1, X2, Xn 是取自總體 XB(N, p) 的一個樣本，驗證 是參數(shù)P的有效估計量.,1.寫出概