1、第六章 參數(shù)估計(jì),上一講，我們介紹了總體、樣本、簡(jiǎn)單隨機(jī)樣本、統(tǒng)計(jì)量和抽樣分布的概念，介紹了統(tǒng)計(jì)中常用的三大分布，給出了幾個(gè)重要的抽樣分布定理. 它們是進(jìn)一步學(xué)習(xí)統(tǒng)計(jì)推斷的基礎(chǔ).,總體,樣本,統(tǒng)計(jì)量,描述,作出推斷,研究統(tǒng)計(jì)量的性質(zhì)和評(píng)價(jià)一個(gè)統(tǒng)計(jì)推斷的優(yōu)良性，完全取決于其抽樣分布的性質(zhì).,隨機(jī)抽樣,現(xiàn)在我們來介紹一類重要的統(tǒng)計(jì)推斷問題,參數(shù)估計(jì)問題是利用從總體抽樣得到的信息來估計(jì)總體的某些參數(shù)或者參數(shù)的某些函數(shù).,參數(shù)估計(jì),估計(jì)廢品率,估計(jì)新生兒的體重,估計(jì)湖中魚數(shù), ,估計(jì)降雨量,在參數(shù)估計(jì)問題中，假定總體分布 形式已知，未知的僅僅是一個(gè)或幾個(gè) 參數(shù).,參數(shù)估計(jì),點(diǎn)估計(jì),區(qū)間估計(jì),（假定身高

2、服從正態(tài)分布 ）,設(shè)這5個(gè)數(shù)是:,1.65 1.67 1.68 1.78 1.69,估計(jì) 為1.68，,這是點(diǎn)估計(jì).,這是區(qū)間估計(jì).,假如我們要估計(jì)某隊(duì)男生的平均身高.,現(xiàn)從該總體選取容量為5的樣本，我們的任務(wù)是要根據(jù)選出的樣本（5個(gè)數(shù)）求出總體均值 的估計(jì). 而全部信息就由這5個(gè)數(shù)組成 .,6.1點(diǎn)估計(jì)問題概述,一、點(diǎn)估計(jì)的概念 問題的提出： 已知總體X的分布函數(shù)F(x;1,2,k)，其中1, 2, k是未知參數(shù)。 點(diǎn)估計(jì)：由總體的樣本(X1,X2,Xn)對(duì)每一個(gè)未知參數(shù)i(i=1,2,k)構(gòu)造統(tǒng)計(jì)量,作為參數(shù)i,的估計(jì)，稱,為參數(shù)i的估計(jì)量。,樣本(X1,X2,Xn)的一組取值(x1,x2

3、,xn)稱為樣本觀察值，將其代入估計(jì)量,，得到數(shù)值,稱為參數(shù)i的估計(jì)值。,在不致混淆的情況下，估計(jì)量、估計(jì)值統(tǒng)稱估計(jì)，記為,請(qǐng)注意，被估計(jì)參數(shù)是一個(gè)未知常數(shù)，而估計(jì)量是一個(gè)隨機(jī)變量，是樣本的函數(shù),當(dāng)樣本取定后，它是個(gè)已知的數(shù)值, 這個(gè)數(shù)常稱為參數(shù)的估計(jì)值 .,由于,現(xiàn)用它來估計(jì)未知參數(shù)，故稱這種估計(jì)為點(diǎn)估計(jì)。,是實(shí)數(shù)域上的一個(gè)點(diǎn)，,(3) 怎樣決定一個(gè)估計(jì)量是否比另一個(gè)估計(jì) 量“好”？,如何求得合理的估計(jì)量？ 我們希望一個(gè)“好的”估計(jì)量具有什么 特性？,那么要問:,二、評(píng)價(jià)估計(jì)量的標(biāo)準(zhǔn),在介紹估計(jì)量?jī)?yōu)良性的準(zhǔn)則之前，我們必須強(qiáng)調(diào)指出：,評(píng)價(jià)一個(gè)估計(jì)量的好壞，不能僅僅依據(jù)一次試驗(yàn)的結(jié)果，而必須由

4、多次試驗(yàn)結(jié)果來衡量 .,這是因?yàn)楣烙?jì)量是樣本的函數(shù)，是隨機(jī)變量 . 因此，由不同的觀測(cè)結(jié)果，就會(huì)求得不同的參數(shù)估計(jì)值. 因此一個(gè)好的估計(jì)，應(yīng)在多次試驗(yàn)中體現(xiàn)出優(yōu)良性 .,常用的幾條標(biāo)準(zhǔn)是：,1無偏性,2有效性,3相合性（一致性）,這里我們重點(diǎn)介紹前面兩個(gè)標(biāo)準(zhǔn) .,估計(jì)量是隨機(jī)變量，對(duì)于不同的樣本值會(huì)得到不同的估計(jì)值 . 我們希望估計(jì)值在未知參數(shù)真值附近擺動(dòng)，而它的期望值等于未知參數(shù)的真值. 這就導(dǎo)致無偏性這個(gè)標(biāo)準(zhǔn) .,1無偏性,則稱 為 的無偏估計(jì) .,如果,不是無偏的，就稱該估計(jì)是有偏的。,稱,為,的偏差。,例6.1 設(shè)總體 X 的期望 與方差存在, X 的,樣本為 (n 1) .,(1)

5、不是 2的無偏估量;,(2) 是 2的無偏估計(jì)量.,證,可證,證明,因而,故 證畢.,注：當(dāng)樣本量趨于無窮時(shí)，有E(s*2) 2， 我們稱 s*2 為 2的漸近無偏估計(jì)。,例6.2 設(shè)總體 X 的密度函數(shù)為,為常數(shù),為 X 的一個(gè)樣本,證明 是 的無偏估計(jì)量。,證,故,是 的無偏估計(jì)量.,例如，用樣本均值作為總體均值的估計(jì)時(shí)，雖無法說明一次估計(jì)所產(chǎn)生的偏差，但這種偏差隨機(jī)地在0的周圍波動(dòng)，對(duì)同一統(tǒng)計(jì)問題大量重復(fù)使用不會(huì)產(chǎn)生系統(tǒng)偏差 .,無偏性是對(duì)估計(jì)量的一個(gè)常見而重要的要求 .,無偏性的實(shí)際意義是指沒有系統(tǒng)性的偏差 .,所以無偏估計(jì)以方差小者為好, 這就引進(jìn)了有效性這一概念 .,由于,2有效性

6、,在數(shù)理統(tǒng)計(jì)中常用到最小方差無偏估計(jì).,它的定義是:,（也稱最佳無偏估計(jì)）,若 滿足：,（1） ， 即 為 的無偏估計(jì)；,則稱 為 的最小方差無偏估計(jì).,例6.3 設(shè)X1,X2,X3為來自總體X的簡(jiǎn)單隨機(jī)樣本, EX=,DX=2,驗(yàn)證下列的估計(jì)量哪個(gè)更有效.,解,=EX=,=DX/2=2/2,同理,所以,為無偏估計(jì)量,更有效.,三、一致性（相合性）,在參數(shù)估計(jì)中，很容易想到，如果樣本容量越大，樣本所含的總體分布的信息越多。n越大，越能精確估計(jì)總體的未知參數(shù)。隨著n的無限增大，一個(gè)好的估計(jì)量與被估參數(shù)的真值之間任意接近的可能性會(huì)越來越大，這就是所謂的相合性或一致性。 定義 設(shè),為未知參數(shù) 的估計(jì)

7、量，若對(duì)任意給定的正數(shù),0，都有,即,以概率收斂于參數(shù) ，則稱,為參數(shù) 的一致估計(jì)或相合估計(jì)量。,在實(shí)際中,常常以樣本均值作為總體均值的 點(diǎn)估計(jì),以樣本方差作為總體方差的點(diǎn)估計(jì).,期望的點(diǎn)估計(jì),選擇估計(jì)量,(1)無偏性 (2)樣本容量越大,估計(jì)值越 有效,方差的點(diǎn)估計(jì),選擇估計(jì)量,(無偏估計(jì)量),注意,(非無偏估計(jì)量),一、矩法 用樣本 k 階矩作為總體 k 階矩的估計(jì)量, 建立含有待估參數(shù)的方程, 從而解出待估參數(shù),6.2 點(diǎn)估計(jì)的常用方法,設(shè)總體的 r 階矩存在，記為,樣本 X1, X2, Xn 的 r 階矩為,令, 含待估計(jì)參數(shù) 1,2, ,k 的方程組,解方程組 , 得 k 個(gè)統(tǒng)計(jì)量：

8、,未知參數(shù) 1, ,k 的矩估計(jì)量,代入一組樣本值得 k 個(gè)數(shù):,未知參數(shù) 1, ,k 的矩估計(jì)值,解得矩法估計(jì)量為,按矩法原理，令,例6.4 設(shè)總體 X N ( , 2 ), X1, X2, Xn為 總體的樣本, 求 , 2 的矩法估計(jì)量.,解,例6.5 設(shè)總體 X E(), X1, X2, Xn為總體的 樣本, 求 的矩法估計(jì)量.,解,令,故,例6.6 設(shè)從某燈泡廠某天生產(chǎn)的燈泡中隨機(jī) 抽取10只燈泡，測(cè)得其壽命為(單位:小時(shí)) 1050, 1100, 1080, 1120, 1200 1250, 1040, 1130, 1300, 1200 試用矩法估計(jì)該廠這天生產(chǎn)的燈泡的平均 壽命及壽

9、命分布的方差.,解,例6.7 設(shè)總體 X U (a, b), a, b 未知, 求參數(shù) a, b 的 矩法估計(jì)量.,解,由于,令,解得,矩法估計(jì)的優(yōu)點(diǎn)：計(jì)算簡(jiǎn)單； 矩法估計(jì)的缺點(diǎn)： (1)矩法估計(jì)有時(shí)會(huì)得到不合理的解； (2)求法估計(jì)不同的做法會(huì)得到不同的解； (通常規(guī)矩法估計(jì)時(shí)，要盡量使用低階矩) 如例6.5中，若不用1階矩，而是用2階矩, 則,與,不同,(3)總體分布的矩不一定存在，故矩法估計(jì)不一定有解。,二、 最大似然估計(jì)法,思想方法：已知試驗(yàn)結(jié)果的情況下, 給參數(shù)選取一個(gè)估計(jì)值,使得試驗(yàn)結(jié)果出現(xiàn)的可能性最大.,例如: 有兩外形相同的箱子,各裝100個(gè)球 一箱 99個(gè)白球 1 個(gè)紅球 一

10、箱 1 個(gè)白球 99個(gè)紅球,現(xiàn)從兩箱中任取一箱, 并從箱中任取一球, 結(jié)果所取得的球是白球.,答: 第一箱.,問: 所取的球來自哪一箱？,再如：甲.乙兩人比較射擊技術(shù),分別射擊目標(biāo)一次,甲中而乙未中,則可以認(rèn)為:甲射擊技術(shù)優(yōu)于乙射擊技術(shù).,又如：事件A發(fā)生的概率為0.1或0.9, 觀察一次,事件A發(fā)生了,則可以認(rèn)為: 事件A發(fā)生的概率為0.9.,實(shí)際問題(醫(yī)生看病、公安人員破案、技術(shù)人員進(jìn)行質(zhì)量檢驗(yàn)等)盡管千差萬別,但他們具有一個(gè)共同的規(guī)律,即在獲得了觀察資料之后, 給參數(shù)選取一個(gè)數(shù)值,使得前面的觀察結(jié)果出現(xiàn)的可能性最大.,最大似然估計(jì)就是通過樣本值 來求得總體的 分布參數(shù),使得 取值為 的概

11、率最大.,一般, 設(shè) X 為離散型隨機(jī)變量, 其分布律為,則樣本 X1, X2, Xn的聯(lián)合概率分布為,或,稱 L( ) 為樣本的似然函數(shù),稱這樣得到的,為參數(shù) 的最大似然估計(jì)值,最大似然估計(jì),若 X 連續(xù), 取 f (xi; )為Xi 的密度函數(shù),似然函數(shù)為,例6.8 設(shè)總體 X N (, 2), x1, x2, xn 是 X 的樣本值, 求 , 2 的最大似然估計(jì).,解, 2 的最大似然估計(jì)量分別為,(3) 方法與步驟:,設(shè)總體的分布密度(或概率密度) 其中 是待估參數(shù)., 寫出似然函數(shù)(即樣本的聯(lián)合密度函數(shù)), 寫出對(duì)數(shù)似然函數(shù)（對(duì)似然函數(shù)取對(duì)數(shù)）, 寫出似然方程, 求解似然方程并寫出估

12、計(jì)量,(只有一個(gè)待估參數(shù)時(shí)求 ),6.3 置信區(qū)間,點(diǎn)估計(jì)有使用方便、直觀等優(yōu)點(diǎn),但它并沒有提供關(guān)于估計(jì)精度和可靠性的任何信息,為此提出了未知參數(shù)的區(qū)間估計(jì)法.,例 對(duì)明年小麥的畝產(chǎn)量作出估計(jì)為:,即,若設(shè)X表示明年小麥畝產(chǎn)量,則估計(jì)結(jié)果為,P(800X1000)=80%,明年小麥畝產(chǎn)量八成為800-1000斤.,區(qū)間估計(jì),設(shè) 為待估參數(shù), 是一給定的數(shù),( 01). 若能找到統(tǒng)計(jì)量, 使,區(qū)間估計(jì)的概念,則稱概率 為置信度或置信水平或置信系數(shù); 稱區(qū)間 是 的置信度為 的雙側(cè)置信區(qū)間; 分別稱為雙側(cè)置信下限和雙側(cè)置信上限.,由定義可知，置信區(qū)間是以統(tǒng)計(jì)量為端點(diǎn)的隨機(jī)區(qū)間，對(duì)于給定的樣本觀察值

13、(x1,x2,xn)，由統(tǒng)計(jì)量 ，,構(gòu)成的置信區(qū)間,可能包含真值，也可能不包含真值，但在多次觀察或試驗(yàn)中，每一個(gè)樣本皆得到一個(gè)置信區(qū)間，在這些區(qū)間中包含真值的區(qū)間占100(1-)%，不包含的僅占100%。, 反映了估計(jì)的可靠度, 越小, 越可靠.,置信區(qū)間的長(zhǎng)度 反映了估計(jì)精度, 越小, 1- 越大, 估計(jì)的可靠度越高,但, 確定后, 置信區(qū)間 的選取方法不唯一, 常選最小的一個(gè).,幾點(diǎn)說明,越小, 估計(jì)精度越高.,這時(shí), 往往增大, 因而估計(jì)精度降低.,可靠度與精度是一對(duì)矛盾，一般是在保證可靠 度的條件下盡可能提高精度.,選擇一個(gè)含有待估參數(shù)的樣本函數(shù),其分布已知, 且分布不依賴于待估參數(shù)

14、(常由 的點(diǎn)估計(jì)出發(fā)考慮 ).,例如,求置信區(qū)間的方法, 稱為樞軸量,取樞軸量,構(gòu)造樞軸量的 1 的區(qū)間,得置信區(qū)間,從點(diǎn)估計(jì)著手選擇樞軸量:, 構(gòu)造 Z的 一個(gè)1-區(qū)間:,設(shè)總體XN(,2), X1,X2,Xn 為一組樣本，,(1) 2已知, 求的置信度為1-置信區(qū)間,一個(gè)正態(tài)總體均值的區(qū)間估計(jì),/2,/2,1-,z/2,P(|Z|)=1-,置信區(qū)間不是唯一的. 一般來說,置信區(qū)間取成對(duì)稱區(qū)間或概率對(duì)稱區(qū)間.,即有：, 的1-置信區(qū)間:,即,設(shè)總體XN(,2), X1,X2,Xn 為一組樣本，,(2)2未知, 求的置信度為1-置信區(qū)間,從點(diǎn)估計(jì)著手構(gòu)造樞軸變量:, 構(gòu)造T的 一個(gè)1-區(qū)間:,

15、 的1-置信區(qū)間:,/2,/2,1-,這里，我們主要討論總體分布為正態(tài)的情形. 若樣本容量很大，即使總體分布未知，應(yīng)用中心極限定理，可得總體抽樣的近似分布（即抽樣分布的極限分布定理P128） ，于是也可以近似求得參數(shù)的區(qū)間估計(jì).,例，比例 p 的區(qū)間估計(jì).,這一部分請(qǐng)自己看，見課本P144.,設(shè)總體XN(,2), X1,X2,Xn 為一組樣本，,(1) 總體均值 已知, 構(gòu)造樞軸變量,其中, 取1-置信區(qū)間為,正態(tài)總體方差的區(qū)間估計(jì),/2,/2,1-,1,2,1-/2, 解不等式得到2的1-置信區(qū)間:, 構(gòu)造樞軸變量:, 構(gòu)造Q的 一個(gè)1-區(qū)間:, 解不等式得到2的1-置信區(qū)間:,/2,/2,

16、1-,1,2,1-/2,(2) 總體均值 未知,例6.9某工廠生產(chǎn)一批滾珠, 其直徑 X 服從,解 (1),即,正態(tài)分布 N( 2), 現(xiàn)從某天的產(chǎn)品中隨機(jī),(1) 若 2=0.06, 求 的置信區(qū)間 (2) 若 2未知,求 的置信區(qū)間 (3) 求方差 2的置信區(qū)間.,抽取 6 件, 測(cè)得直徑為,15.1 , 14.8 , 15.2 , 14.9 , 14.6 , 15.1,由給定數(shù)據(jù)算得,得 的置信區(qū)間為,(2) 取,查表,由給定數(shù)據(jù)算得,則 2 的置信區(qū)間為,(3) 選取樞軸量,查表得,得 的置信區(qū)間為,兩個(gè)正態(tài)總體均值的置信區(qū)間,設(shè)樣本X1,X2,Xn1來自正態(tài)總體XN(1,12) 樣本

17、Y1,Y2,Yn2來自正態(tài)總體YN(2,22)，且相互獨(dú)立,S12為X的樣本均值和樣本方差,S22為Y的樣本均值和樣本方差,1、12，22已知，1-2的區(qū)間估計(jì),相互獨(dú)立,是1-2的極大似然估計(jì),取,可知1-2的置信度為1-的置信區(qū)間為,2、若12，22未知，但已知12=22 ，1-2的區(qū)間估計(jì) 此時(shí)，取,可知1-2的置信度為1-的置信區(qū)間為,思考：若12，22未知，且不知12與22是否相等，但n1=n2 ， 1-2的區(qū)間估計(jì),兩個(gè)正態(tài)總體方差比12/22 的置信區(qū)間,1、1，2未知,根據(jù)12，22的估計(jì)，構(gòu)造,可知，方差比12/22 的置信度為1-的置信區(qū)間為,2、當(dāng)1，2已知時(shí),可知，方差比12/22 的置信度為1-的置信區(qū)間為,例6.10 研究機(jī)器A和機(jī)器B生產(chǎn)的鋼管的內(nèi)徑，測(cè)得,設(shè)X、Y相互獨(dú)立，XN(1,12)，YN(2,22)，取 =0.1 求(1) 12/22的置信區(qū)間，(2)若已知12=22，求1-2的置信區(qū)間。,解,(1) 由 =0.1，1，2未知，查F分布表得,12/22的置信度為0.90的置信區(qū)間為 0.4475，2.9076,(2),1-2的置信度為0.90的置信區(qū)間為 -2.3785，-1.6615,單側(cè)置信區(qū)