第一節(jié)點(diǎn)估計(jì)第1頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月

利用從總體抽樣得到的信息來(lái)估計(jì)總體的某些參數(shù)或者參數(shù)的某些函數(shù).估計(jì)廢品率：估計(jì)新生兒的體重：估計(jì)湖中魚(yú)數(shù)……估計(jì)降雨量在參數(shù)估計(jì)問(wèn)題中，假定總體分布形式已知，未知的僅僅是一個(gè)或幾個(gè)參數(shù).

參數(shù)估計(jì)問(wèn)題:

例如：第2頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月這類問(wèn)題稱為參數(shù)估計(jì).參數(shù)估計(jì)問(wèn)題的一般提法X1,X2,…,Xn其中為未知參數(shù)(可以是向量)。現(xiàn)從該設(shè)有一個(gè)總體X，總體的分布函數(shù)為總體抽樣，得樣本：所研究的問(wèn)題是：要依據(jù)該樣本對(duì)參數(shù)作出估計(jì)，或估計(jì)的某個(gè)已知的函數(shù)參數(shù)估計(jì)問(wèn)題的分類參數(shù)估計(jì)點(diǎn)估計(jì)區(qū)間估計(jì)第3頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月則估計(jì)為1.68，這是點(diǎn)估計(jì)問(wèn)題。估計(jì)在區(qū)間[1.57,1.84]內(nèi)，這是

區(qū)間估計(jì)問(wèn)題現(xiàn)要估計(jì)某班男生的平均身高。假定身高服從正態(tài)分布現(xiàn)從該總體選取容量為5的樣本，所研究的問(wèn)題是要根據(jù)選出的樣本（5個(gè)數(shù)）求出總體均值的估計(jì)。例如

而全部信息就由這5個(gè)數(shù)組成。設(shè)這5個(gè)數(shù)是：1.65，1.67，1.68，1.78，1.69第4頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月解決問(wèn)題：總體X的分布函數(shù)的形式已知，但它的一個(gè)或多個(gè)參數(shù)未知，根據(jù)總體X的一個(gè)樣本來(lái)估計(jì)總體未知參數(shù)或?qū)傮w未知參數(shù)作出一個(gè)估計(jì)。一.估計(jì)量的定義定義：第一節(jié)點(diǎn)估計(jì)稱為的估計(jì)量。設(shè)為總體X的分布函數(shù)中的待估計(jì)的參數(shù),是總體X的一個(gè)樣本，用構(gòu)成的一個(gè)統(tǒng)計(jì)量：第5頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月則為的估計(jì)值

二.構(gòu)造統(tǒng)計(jì)量的方法1.矩估計(jì)法(數(shù)字特征法)用樣本的各階矩來(lái)估計(jì)總體的各階矩的一組樣本值為：如果矩估計(jì)法是由統(tǒng)計(jì)學(xué)家卡.皮爾遜（K.Pearson）在19世紀(jì)末引入的。矩是描寫(xiě)隨機(jī)變量最簡(jiǎn)單的數(shù)字特征，由大數(shù)定律可知，在一定條件下可以用樣本的矩作為總體矩的估計(jì)，從而得矩估計(jì)法的基本思想為：第6頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月矩估計(jì)法的具體步驟設(shè)總體X的分布函數(shù)中含有個(gè)未知參數(shù)，假定總體X的前階矩存在，則可通過(guò)下列步驟求未知參數(shù)的矩估計(jì)量(1)若總體X是離散型隨機(jī)變量，其分布律為：求總體X的前階矩則：若總體X是連續(xù)型隨機(jī)變量，其密度函數(shù)為：第7頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月則：總之，是參數(shù)的函數(shù)，記為：第8頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月(2)解（*）式解出得到：(3)用的估計(jì)量分別代替（**）中的則得的矩估計(jì)量

第9頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月例1.設(shè)總體X的均值為方差為都存在，且是總體X的一個(gè)樣本(2).當(dāng)總體(某種燈泡壽命)，未知，今取4只燈泡，測(cè)得其壽命（小時(shí)）如下：1502,1453,1367,1650（小時(shí)）求：的矩估計(jì)量(1).均未知,求:的矩估計(jì)量第10頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月解:總體X的數(shù)學(xué)期望是X的一階原點(diǎn)矩；總體X的方差是X的二階中心矩。(1).現(xiàn)令：一階原點(diǎn)矩二階原點(diǎn)矩即解之得:第11頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月解之得:從而得的矩估計(jì)量為：結(jié)論：不論總體服從什么分布，總體均值與方差的矩估計(jì)量的表達(dá)式是相同的。第12頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月(2).某種燈泡壽命的均值與方差的矩估計(jì)值分布為:第13頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月設(shè)X1,X2,…Xn是取自總體X的一個(gè)樣本，其概率密度為：其中為未知參數(shù)，例2.求：的矩估計(jì)量由密度函數(shù)可知：具有均值為的指數(shù)分布，故有：解:第14頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月即：令：用樣本矩估計(jì)總體矩解得：即為總體參數(shù)的矩估計(jì)量。第15頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月,故令解得的矩估計(jì)分別為例的樣本,為總體設(shè)求未知參數(shù)的矩估計(jì).解其中總體二階中心矩樣本二階中心矩思考一從直觀看該結(jié)果是否合理？從直觀看更好的估計(jì)應(yīng)該是什么？思考二第16頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月

設(shè)為來(lái)自總體的樣本，求未知參數(shù)的矩估計(jì)?？傮w一階矩為樣本一階矩為令求得的矩估計(jì)為.解例如果都未知，怎樣求的矩估計(jì)？思考第17頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月2.極大似然法極大似然法是在總體類型已知條件下使用的一種參數(shù)估計(jì)方法。它首先是由德國(guó)數(shù)學(xué)家高斯（Gauss）在1821年提出的。Fisher然而，這個(gè)方法常歸功于英國(guó)統(tǒng)計(jì)學(xué)家費(fèi)歇（Fisher），費(fèi)歇在1922年重新發(fā)現(xiàn)了這一方法，并首先研究了這種方法的一些性質(zhì)。Gauss第18頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月極大似然法的基本思想引例1若某位同學(xué)與一位獵人一起外出打獵。一只野兔從前方竄過(guò)，只聽(tīng)一聲槍響，野兔應(yīng)聲倒下。試推測(cè)：這是誰(shuí)打中的呢？

因?yàn)橹话l(fā)一槍便打中，獵人命中的概率一般大于這位同學(xué)命中的概率?？磥?lái)可推測(cè)這一槍是獵人射中的.第19頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月引例2設(shè)X~B(1,p),p未知，若事先知道p只有兩種可能:試問(wèn)：應(yīng)如何估計(jì)p?p=0.7或p=0.3如今重復(fù)試驗(yàn)3次,得結(jié)果:0,0,0由概率論的知識(shí)，可知：3次試驗(yàn)中出現(xiàn)“1”的次數(shù)k=0,1,2,3分析：且：現(xiàn)將這計(jì)算結(jié)果列出如下：第20頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月將計(jì)算結(jié)果列表如下：p值 P(Y=0)P(Y=1)P(Y=2)P(Y=3)0.7 0.0270.189 0.441 0.3430.3 0.3430.441 0.189 0.027 出現(xiàn)估計(jì)出現(xiàn)出現(xiàn)出現(xiàn)估計(jì)估計(jì)估計(jì)0.3430.4410.4410.343注:引例1與引例2都體現(xiàn)了極大似然法的基本思想：當(dāng)試驗(yàn)中得到一個(gè)結(jié)果時(shí)，應(yīng)選擇使得這個(gè)試驗(yàn)結(jié)果出現(xiàn)的概率達(dá)到最大的這個(gè)值作為參數(shù)的估計(jì)值。第21頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月定義:作似然函數(shù)：(1).極大似然估計(jì)量的定義是相應(yīng)于樣本的一組樣本值。其中設(shè)總體X的概率密度函數(shù)為或分布律為為未知參數(shù)。又設(shè)使得似然函數(shù)L達(dá)到極大值的或第22頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月稱為參數(shù)的極大似然估計(jì)值，記為：為參數(shù)的極大似然估計(jì)量注:或隨機(jī)點(diǎn)取到的概率。(它與樣本值有關(guān))，記統(tǒng)計(jì)量：似然函數(shù)L是隨機(jī)點(diǎn)落在點(diǎn)的鄰域(邊長(zhǎng)分別為的n維立方體)內(nèi)的概率；▲▲似然函數(shù)L是的函數(shù)。第23頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月思路:從而此問(wèn)題就轉(zhuǎn)化為一般的求函數(shù)的最大值問(wèn)題.(2).極大似然法的具體步驟取到現(xiàn)要求的最大值，即求取什么值時(shí)函數(shù)L達(dá)到最大。即其隨機(jī)點(diǎn)落在的鄰域內(nèi)的概率或隨機(jī)點(diǎn)的概率最大。第24頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月具體步驟(1)作似然函數(shù)或(2)當(dāng)似然函數(shù)可微且的最大值能在參數(shù)空間取得時(shí)，求方程組:的解，解得一解為，則為極大似然估計(jì)量（值）。注:▲因?yàn)榕c有相同的最大值點(diǎn)，而且對(duì)數(shù)函數(shù)是單調(diào)增的，求比求方便，所以常取前者作為似然函數(shù)。第25頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月▲按照求函數(shù)極值的方法，在求方程組：的解后還應(yīng)該用極值的充分條件對(duì)解做進(jìn)一步的判斷，但又由最值原理，如果最值存在，此方程組求得的駐點(diǎn)即為所求的最值點(diǎn)。極大似然估計(jì)法一般屬于這種情況，所以可直接按步驟(2)求的其值。▲當(dāng)似然函數(shù)不可微或方程組無(wú)解時(shí)，則應(yīng)根據(jù)定義直接尋求能使達(dá)到最大值的解作為極大似然估計(jì)量?！鴺O大似然估計(jì)法也適用于多個(gè)未知參數(shù)的情形。第26頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月例3.求:的極大似然估計(jì)量是X的一個(gè)樣本值設(shè)為未知參數(shù)，解:的密度函數(shù)為：作似然函數(shù)：為計(jì)算方便對(duì)L兩邊取對(duì)數(shù)得:第27頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月令：解得所求為:與矩估計(jì)法所得的結(jié)論是一致的（見(jiàn)例1）第28頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月似然函數(shù)為設(shè)總體服從指數(shù)分布其密度為因?yàn)榕c有相同的極值點(diǎn)，故令解似然方程，求得的

MLE

為稱為似然方程解例是來(lái)自總體的樣本，試求的第29頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月例4.bujiang設(shè)為參數(shù)都是未知的正態(tài)總體的一個(gè)樣本求:的極大似然估計(jì)解:未知第30頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月由例2可知：的極大似然估計(jì)為的極大似然估計(jì)為的極大似然估計(jì)為：其中:設(shè)X1,X2,…Xn是取自總體X的一個(gè)樣本，其密度函數(shù)為：其中求的極大似然估計(jì).例5.第31頁(yè)，課件共34頁(yè)，創(chuàng)作于2023年2月作似然函數(shù)：則對(duì)數(shù)似然函數(shù)為：