1、參數(shù)估計是利用從總體抽樣得到的信息 估計總體的某些參數(shù)或參數(shù)的某些函數(shù).,估計廢品率,估計新生兒的體重,估計湖中魚數(shù), ,估計降雨量,僅估 計一 個或 幾個 參數(shù).,第7章 參數(shù)估計,參數(shù)估計問題的一般提法:,依據(jù)樣本估計參數(shù)，或估計的某個函數(shù)g().這類問題稱為參數(shù)估計.,設(shè)總體的分布函數(shù)為 F(x, )，其中為未知參數(shù) (可以是向量).從該總體抽樣，得樣本X1, X2, Xn .,1.65 1.67 1.68 1.78 1.69,例 估計18歲男子的平均身高. 從總體選 取容量為5的樣本:,估計 為1.68，,這是點估計.,估計在區(qū)間1.57, 1.84內(nèi)，這是區(qū)間估計.,一、點估計概念及

2、討論的問題,例1 已知某地區(qū)新生嬰兒的體重X,隨機抽查100個嬰兒得100個體重數(shù)據(jù).,問題：1.如何估計未知參數(shù)呢?,1. 點估計,2.如何評價估計結(jié)果的優(yōu)劣？,3.證明某特定估計量在某標(biāo)準(zhǔn)下最優(yōu)。,為估計,需要構(gòu)造適當(dāng)?shù)臉颖镜暮瘮?shù)T(X1,X2,Xn)，每當(dāng)有了樣本，就代入該函數(shù)中算出一個值，用來作為 的估計值 .,把樣本值代入T(X1,X2,Xn) 中，得到的一個點估計值 .,T(X1,X2,Xn)稱為參數(shù) 的點估計量，,注意，被 估參數(shù) 是 未知常數(shù),估計量 T(X1,X2,Xn) 是隨機變量,由大數(shù)定律,用樣本平均值估計總體期望.,用樣本方差S2估計總體方差 .,二. 數(shù)字特征法：,

3、三. 矩估計,總體k階原點矩為,用樣本矩去估計相應(yīng)的總體矩.,樣本k階原點矩為,總體k階中心矩為,樣本k階中心矩為,設(shè)總體分布函數(shù)中含k個未知參數(shù)1, 2, , k，則它的前k階矩： 1 ，2， k 一般,都是這k個參數(shù)的函數(shù),記為：,i=gi(1, 2, k ) i=1,2,k,解出：=hj(1 ，2， k ) j=1,2,k,j=1,2,k,解:,由矩法:,樣本矩,總體矩,從中解得,即為的矩估計.,數(shù)學(xué)期望 是一階 原點矩,例2 設(shè)總體X的概率密度為,是未知參數(shù),其中,X1,X2,Xn是取自X的樣本, 求參數(shù)的矩估計.,解:由密度函數(shù)知,例3 設(shè)X1,X2,Xn是取自總體X的一個樣本,其中

4、0，是未知參數(shù)求: , 的矩估計.,服從具有均值為 的指數(shù)分布,故 E(X )= ,D(X)= 2,即,E(X)= + ,D(X)= 2,用樣本矩估 計總體矩,矩估計優(yōu)點:簡單易行,不需要知道總體的分布 .,缺點：當(dāng)總體分布已知時，無充分利用分布提供的信息 . 矩估計量不唯一 .,其原因在于建立矩法方程時，選取那些總體矩用相應(yīng)樣本矩代替有一定的隨意性 .,四. 極大似然法,在總體分布類型已知條件下使用的一種參數(shù)估計方法 .,首先由德國數(shù)學(xué)家高斯在1821年提出。,英國統(tǒng)計學(xué)家費歇1922年重新發(fā)現(xiàn)此 方法，并首先研究了此方法的一些性質(zhì) .,例：某位同學(xué)與一位獵人一起外出打獵.一只,野兔從前方竄

5、過 . 一聲槍響，野兔應(yīng)聲倒下 .,推測：是誰打中的呢？,例4 設(shè)XB(1,p), p未知. 但知道p只有兩種可能: p=0.7 或 p=0.3. 如今重復(fù)試驗3次,問:應(yīng)如何估計p?,得結(jié)果: 0 , 0, 0,因為3次試驗中出現(xiàn)“ 1”的次數(shù),k=0,1,2,3,就不同p計算結(jié)果列表如下：,p值P(Y=0) P(Y=1) P( Y=2) P(Y=3) 0.70.027 0.189 0.441 0.343 0.30.343 0.441 0.189 0.027,應(yīng)如何估計p?,若：只知0p1, 實測記錄是 Y=k (0 k n), 如何估計p 呢?,注意到,是p的函數(shù), 故求使f (p)達(dá)到極

6、大值的p 則可.,又因f (p)與lnf (p)在同一點達(dá)到極大值,故問題可轉(zhuǎn)化為求lnf (p)的極大值點 .,= f (p),=0,解得：,極大似然法的基本思想是：一次試驗中出現(xiàn)的事件其概率最大。,對于連續(xù)型總體,已知樣本的聯(lián)合密度為： f (X1,X2,Xn; )。若使樣本值落在樣本點(x1, x2,xn) 附近的概率最大，,只要選取使：f (x1, x2, xn; ) 最大則可。,以n=2為例若使樣本值落在樣本點(x1, x2) 附近的概率最大，只要選取使： f (x1, x2; )則可.,極大似然估計原理：,當(dāng)給定樣本x1,x2,xn時，定義似然函數(shù)為：,設(shè)X1,X2,Xn是取自總體

7、X的一個樣本，樣本的聯(lián)合密度(連續(xù)型）或聯(lián)合概率分布(離散型)為 f (x1,x2,xn; ) .,L()=f (x1,x2,xn; ),(4) 在最大值點的表達(dá)式中, 用樣本值代入 就得參數(shù)的極大似然估計值 .,求極大似然估計(MLE)的一般步驟是：,(1) 由總體分布導(dǎo)出樣本的聯(lián)合概率分布 (或聯(lián)合密度);,(2) 把樣本聯(lián)合概率分布(或聯(lián)合密度)中自變 量看成已知常數(shù),而把參數(shù) 看作自變量, 得到似然函數(shù)L( );,(3) 求似然函數(shù)L( ) 的最大值點(常常轉(zhuǎn)化 為求ln L( )的最大值點) ，即 的MLE;,L(p)=P(X1= x1, X2=x2, Xn= xn, p ),例5:

8、 設(shè)x1,x2,xn是取自總體 XB(1, p) 的一個樣本，求參數(shù)p的極大似然估計.,解：似然函數(shù):,對數(shù)似然函數(shù)為：,即為 p 的MLE .,得：,解：似然函數(shù)為,(0xi1),求導(dǎo)并令其為0:,=0,對數(shù)似然函數(shù)為,解：似然函數(shù),i=1,2,n,對數(shù)似然函數(shù),=0 (2),由(1)得,=0 (1),對、 分別求偏導(dǎo)并令其為0,無法確定、 用極大似 然原則求,對,故使L( 、) 達(dá)到最大的 即 的MLE，,取其它值時，,且是 的增函數(shù),可證明極大似然估計具有下述性質(zhì)：,例8 一罐中裝有白球和黑球，有放回地抽取一個容量為n的樣本，其中有 k 個白球，求罐中黑球與白球之比 R 的極大似然估計.

9、,解: 設(shè)X1,X2,Xn為所取樣本，,則X1,X2,Xn是取自B(1,p)的樣本，p是每次抽取時取到白球的概率，p未知 .,先求p的MLE：,p的MLE為,由例4已知：,由極大似然估計的性質(zhì)得,的MLE是,第二次捕出的有記號的魚數(shù)X是r.v, X具有超幾何分布：,為了估計湖中的魚數(shù)N，第一次捕上r條魚， 做上記號后放回. 隔一段時間后, 再捕出S 條魚, 結(jié)果發(fā)現(xiàn)這S條魚中有k條標(biāo)有記號. 根據(jù)這個信息，如何估計湖中的魚數(shù)呢？,最后，我們用極大似然法估計湖中的魚數(shù),求N的極大似然估計. 因為用對N求導(dǎo)方法相當(dāng)困難, 考慮比值：,當(dāng)N為小于rS/k的最大 整數(shù)時, 達(dá)到最大值 .,故N的極大似

10、然 估計為:,(3) 怎樣判定兩個估計量哪個量“好”？,(2) “好的”估計量應(yīng)具有什么特性？,(1).同一未知參數(shù)不同的估計方法所得 估計量不同 ，哪一個估計量好呢？,1、估計量的優(yōu)良性準(zhǔn)則,評價一個估計量的好壞，不能僅僅依據(jù)一次試驗的結(jié)果，而必須由多次試驗結(jié)果來衡量 .,2 估計量的優(yōu)劣標(biāo)準(zhǔn),問題：,常用的幾條標(biāo)準(zhǔn)是：,1)無偏性,2)有效性,3)一致性,1無偏性,無偏性的實際意義是指沒有系統(tǒng)性的偏差 .,S2是總體方差的無偏估計。,2有效性,是總體期望的無偏估計，n 越 大越有效。,最小方差無偏估計.,（也稱最佳無偏估計）,3. 一致性,由大數(shù)定律知樣本均值為總體期望的一致估計量。,3

11、區(qū)間估計,例如:,1. 準(zhǔn)備知識：上 分位數(shù),例如:,2. 置信區(qū)間定義：,可信度與精度是一對矛盾，一般是在 保證可靠度的條件下盡可能提高精度.,注意：給定樣本和置信水平，置信區(qū)間不是唯一的.,N(0, 1),3. 置信區(qū)間的求法,找一個待估參數(shù) 和樣本的函數(shù) ， 要求其分布已知.,1).正態(tài)總體方差已知，期望的置信區(qū)間：,使,簡記:,于是 的 置信區(qū)間為:,為什么？,對任意ab,就得一個置信度為1的置信區(qū)間。,概率密度為單峰且對稱 的情形，當(dāng)a =-b時，得 長度最短的置信區(qū)間.,在概率密度不對稱時，如 分布，F(xiàn)分布，習(xí)慣上 仍取對稱的分位點計算未 知參數(shù)的置信區(qū)間.,置信水平越高，相應(yīng)的置

12、信區(qū)間平均長度越長,2).正態(tài)總體方差未知期望的置信區(qū)間：,因方差未知，取,知求參數(shù)的置信度為1的置信區(qū)間.,設(shè)X1,Xn是取自N(, 2) 的樣本，2未,給定置信水平1，,查t-分布表得t/2(n-1),即：,期望 的置信水平為1 的置信區(qū)間為：,簡記：,例1. 某車間生產(chǎn)滾珠，由長期實踐知，滾珠直徑(單位：mm)XN(, 0.05). 從某天生產(chǎn)的滾珠中隨機抽取6個測得直徑如下：14.70, 15.21, 14.90, 14.91, 15.32, 15.32, 15.32.求該天生產(chǎn)滾珠直徑均值的置信度為95置信區(qū)間。,解：由已知知所求置信區(qū)間為：,z0.0251.96,20.05,代入以

13、上置信區(qū)間得：14.88, 15.24為所求。,n=6,例2. 用某儀器間接測溫度，重復(fù)5次得：1250o， 1265o， 1245o， 1260o， 1275o，試問溫度真值在何范圍？(設(shè)測量結(jié)果服從正態(tài)分布。),解：由已知知所求置信區(qū)間為：,t0.025(4)2.776,S2570/4,代入以上置信區(qū)間得：1244.2, 1273.8為所求。,n=5,非正態(tài)總體期望的置信區(qū)間取大樣本按正態(tài)總體作,例3 某單位要估計平均每天職工的總醫(yī)療費，觀察了30天,其總金額的平均值是170元，標(biāo)準(zhǔn)差為30元，試決定職工每天總醫(yī)療費用平均值的區(qū)間估計（置信水平為0.95）.,解：,設(shè)每天職工的總醫(yī)療費為X

14、，,(大樣本),職工每天總醫(yī)療費用平均值的置信區(qū)間為：,所求置信區(qū)間是: 158.8, 181.2,t.0.025(29) =2.0452, n=30 ,代入得,將 =170, S=30,因為：,解得:,對給定的置信度1 , 確定分位數(shù),3).正態(tài)總體期望未知方差的置信區(qū)間：,求參數(shù)2 的置信度為1的置信區(qū)間.,設(shè)X1,Xn是取自N(, 2) 的樣本， 未知,選2的點估計為S2,滿足：,故2的置信區(qū)間為：,例4. 冷抽銅絲折斷力XN( , 2).從一批銅絲中任取10根測其折斷力得：578, 572, 570, 568, 572, 570, 570, 596, 584, 572. 求方差的置信區(qū)間。,代入得所求置信區(qū)間是: 35.87, 252.44,將 =575.2, 9S2=681.6,解：,2的置信區(qū)間為：,4).兩獨立正態(tài)總體期望差異的置信區(qū)間：,1 2的置信度為1的置信區(qū)間為：,5).兩獨立正態(tài)總體方差比的置信區(qū)間：,相互獨立,三、單側(cè)置信區(qū)間,