第六章

參數(shù)估計(jì)

參數(shù)估計(jì)假設(shè)檢驗(yàn)點(diǎn)估計(jì)區(qū)間估計(jì)統(tǒng)計(jì)推斷的基本問題

若，2未知，通過構(gòu)造樣本的函數(shù)，給出它們的估計(jì)值或取值范圍就是參數(shù)估計(jì)的內(nèi)容．什么是參數(shù)估計(jì)？參數(shù)是刻畫總體某方面的概率特性的數(shù)量．當(dāng)這個(gè)數(shù)量是未知的時(shí)候，從總體抽出一個(gè)樣本，用某種方法對(duì)這個(gè)未知參數(shù)進(jìn)行估計(jì),這就是參數(shù)估計(jì)．例如，X~N(,2)．

點(diǎn)估計(jì)區(qū)間估計(jì)參數(shù)估計(jì)的類型點(diǎn)估計(jì)——估計(jì)未知參數(shù)的值；區(qū)間估計(jì)——估計(jì)未知參數(shù)的取值范圍，使這個(gè)范圍包含未知參數(shù)真值的概率為給定的值．§6.1常用的點(diǎn)估計(jì)方法點(diǎn)估計(jì)的思想設(shè)總體X的分布函數(shù)的形式已知，但它含有一個(gè)或多個(gè)未知參數(shù)：1,2,,k．設(shè)X1,X2,…,Xn為總體的一個(gè)樣本，構(gòu)造k個(gè)統(tǒng)計(jì)量：隨機(jī)變量．當(dāng)測(cè)得一組樣本值(x1,x2,…,xn)時(shí)，代入上述統(tǒng)計(jì)量，即可得到

k個(gè)數(shù)：數(shù)值稱數(shù)為未知參數(shù)的估計(jì)值，問題如何構(gòu)造統(tǒng)計(jì)量？如何評(píng)價(jià)估計(jì)量的好壞？對(duì)應(yīng)的統(tǒng)計(jì)量為未知參數(shù)的估計(jì)量．

用樣本的

k

階矩作為總體的

k

階矩的估計(jì)量，建立含有待估計(jì)參數(shù)的方程，從而可解出待估計(jì)參數(shù)．一般地，不論總體服從什么分布，總體期望與方差

2存在，則它們的矩估計(jì)量分別為：兩種常用的點(diǎn)估計(jì)方法一、矩估計(jì)法事實(shí)上，按矩法原理，令廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期設(shè)待估計(jì)的參數(shù)為設(shè)總體的r

階矩存在，記為設(shè)X1,X2,…,Xn為一樣本，樣本的

r階矩為令——含未知參數(shù)1,2,,k的方程組小結(jié)矩估計(jì)法解方程組，得

k

個(gè)統(tǒng)計(jì)量：——未知參數(shù)1,2,,k

的矩估計(jì)量．——未知參數(shù)1,2,,k

的矩估計(jì)值．代入一組樣本值，得k個(gè)數(shù)值：廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期

例設(shè)總體X~E()，X1,X2，…，Xn為總體的樣本，求的矩法估計(jì)量．解令故廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期例設(shè)總體X~U(a，b)，a，b未知，求a，b的矩法估計(jì)量．解由于令廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期解得廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期矩法的優(yōu)點(diǎn)是計(jì)算簡(jiǎn)單，估計(jì)的精度也較高，且在總體分布未知的情況下也可使用。矩法的缺點(diǎn)：矩估計(jì)量不唯一，因?yàn)椋粎?shù)往往可以表示為總體矩的不同函數(shù)，如泊松分布；當(dāng)樣本不是簡(jiǎn)單隨機(jī)樣本或總體參數(shù)不能表示為總體矩函數(shù)時(shí)，矩估計(jì)法不能使用，如柯西分布。矩法的優(yōu)缺點(diǎn)思想：一次試驗(yàn)就出現(xiàn)的事件有較大概率

例如：有兩個(gè)外形相同的箱子，都裝有100個(gè)球．一箱99個(gè)白球，1個(gè)紅球；另一箱1個(gè)白球，99個(gè)紅球．現(xiàn)從兩箱中任取一箱，并從箱中任取一球，結(jié)果所取得的球是白球．答第一箱.問

所取的球來自哪一箱？

二、點(diǎn)估計(jì)的極大似然估計(jì)法廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期則稱這樣得到的為參數(shù)

的極大似然估計(jì)值，簡(jiǎn)記稱統(tǒng)計(jì)量為參數(shù)

的極大似然估計(jì)量，簡(jiǎn)記，使L()取最大值，即當(dāng)給定一組樣本值時(shí)，L()就是參數(shù)的函數(shù)，其中選擇適當(dāng)?shù)?L()為樣本的似然函數(shù)．廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期極大似然估計(jì)法的思想就是：極大似然估計(jì)法概念例設(shè)總體

X服從0-1分布，且P(X=1)=p，用極大似然法求

p

的估計(jì)值．解X的概率分布可以寫成設(shè)X1,X2,…,Xn為總體

X的樣本；設(shè)x1,x2,…,xn為總體

X的樣本值則廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期在容許的范圍內(nèi)選擇

p，使L(p)最大．注意到，lnL(p)是

L的單調(diào)增函數(shù)，故若某個(gè)

p

使lnL(p)最大，則這個(gè)p必使L(p)最大．所以為所求

p的估計(jì)值．廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期

注1

若隨機(jī)變量X

連續(xù)，取

f(xi，)為Xi

的密度函數(shù)，似然函數(shù)為

注2

未知參數(shù)個(gè)數(shù)可以不止一個(gè)，如1，2，…，k，設(shè)X

的密度函數(shù)(或概率分布)為則定義似然函數(shù)為：廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期若關(guān)于1,2,…,k

可微，則稱為似然方程組．若對(duì)于某組給定的樣本值x1,x2,…,xn，參數(shù)則稱為1,2,…,k

的極大似然估計(jì)值．使得似然函數(shù)取得最大值，即廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期顯然，稱統(tǒng)計(jì)量為1，2，…，k

的極大似然估計(jì)量．廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期例6設(shè)總體X~N(,2)，x1,x2,…,xn是X

的一組樣本值，求,2的極大似然估計(jì)．解廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期

，2的極大似然估計(jì)量分別為：似然方程組廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期求未知參數(shù)的極大似然估計(jì)值(量)的步驟(1)寫出似然函數(shù)L(2)求出，使得廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期可求得未知參數(shù)的極大似然估計(jì)值然后，再求得極大似然估計(jì)量．方法求極大似然估計(jì)值．若L

不是的可微函數(shù)，需用其它的可微函數(shù)，解似然方程組若L

是其中，廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期均方誤差可分解成兩部分:證明：廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期均方誤差由兩部分構(gòu)成：第一部分是估計(jì)量的方差，第二部分是估計(jì)量偏差的平方和?；舅枷耄汉玫墓烙?jì)量應(yīng)該有較小的均方誤差標(biāo)準(zhǔn)檢驗(yàn)：

無偏性：有效性：相合性（一致性）

是的一個(gè)估計(jì)廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期

設(shè)總體的分布參數(shù)為，對(duì)一切可能的成立,稱為的無偏估計(jì)無偏性如果的均值等于，即在參數(shù)估計(jì)問題中，參數(shù)

一切可能的取值。要求對(duì)一切可能的都成立，是因?yàn)樵趨?shù)估計(jì)問題中,并不知道參數(shù)的真實(shí)取值。因此要求它在參數(shù)的一切可能取值的范圍內(nèi)都成立

無偏性的意義：用估計(jì)量估計(jì)參數(shù)，有時(shí)可能估計(jì)偏高，有時(shí)偏低，但平均來說它等于。說明：例1：設(shè)X1,X2,…,Xn為抽樣自均值為的總體X的隨機(jī)樣本，考慮的如下幾個(gè)估計(jì)量：例如：若指的是正態(tài)總體N(,2)的均值,則其一切可能取值范圍是(-∞,∞)。若指的是方差2，則其一切可能取值范圍是(0,∞)。（1）（2）（3）（4）例2：設(shè)總體X的均值為,方差為2,X1,X2,…,Xn為來自總體X的隨機(jī)樣本，記

與分別為樣本均值與樣本方差：樣本均值和樣本方差分別是

總體均值

和總體方差

的無偏估計(jì)。求證：即，證明：因?yàn)閄1,X2,…,Xn獨(dú)立同分布，且E(Xi)=μ

,

所以另一方面，因于是其中例：樣本標(biāo)準(zhǔn)差S不是總體標(biāo)準(zhǔn)差的無偏估計(jì)由于E(S2)=2，所以Var(S)+[E(S)]2=2

由Var(S)＞0，知

[E(S)]2=2-Var(S)＜

2.所以，E(S)＜因此，E(S)≠，S

不是

的無偏估計(jì)。證明：2、有效性廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期如果一個(gè)估計(jì)量無偏，均方誤差中，第二部分是零，有:

如果兩個(gè)估計(jì)都是無偏估計(jì)，這時(shí)哪個(gè)估計(jì)的方差小，哪個(gè)估計(jì)就更有效。

這種判定估計(jì)量?jī)?yōu)劣的準(zhǔn)則稱為有效性（方差準(zhǔn)則）。例：設(shè)樣本X1,X2,…,Xn為來自均值為的總體,考慮的如下兩個(gè)估計(jì)：顯然，兩個(gè)估計(jì)都是的無偏估計(jì)。計(jì)算二者的方差：3、相合性（一致性）廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期即，隨著樣本容量增大，參數(shù)估計(jì)能穩(wěn)定在未知參數(shù)真值的附近。37廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期例：廈門大學(xué)經(jīng)濟(jì)學(xué)院-2012春季學(xué)期證明對(duì)于（3）和（4），由于，那么，（3