1、第二章 主觀概率和先驗(yàn)分布Subjective Probability and Prior Distribution 本章要緊參考文獻(xiàn)：60，52，上帝如何樣擲骰子 2-1 差不多概念 一、概率（probability） 1. 頻率 fn(A)=Na/N P (A)= fn(A) 古典概率的定義2. Laplace在概率的理論分析(1812)中的定義 P(A)=k/N 式中，k為A所含差不多事件數(shù)， N為 差不多事件總數(shù) 適用條件 1.差不多事件有限 2.每個(gè)差不多事件等可能 3.公理化定義 E是隨機(jī)試驗(yàn),S是E的樣本空間,對(duì)E的每一事件A,對(duì)應(yīng)有確定實(shí)數(shù)P(A),若滿足: 非負(fù)性：0P(A)

2、1 規(guī)范性： P(S)=1 可列可加性：對(duì)兩兩不相容事件Ak (k=1,2) (Ai Aj=) P(Ak)=P(Ak) 則稱P(A)為事件A發(fā)生的概率 二、主觀概率(subjective probability, likelihood) 1. 什么緣故引入主觀概率 。有的自然狀態(tài)無法重復(fù)試驗(yàn) 如：改日是否下雨 新產(chǎn)品銷路如何 明年國民經(jīng)濟(jì)增長率如何 能否考上博士生 。試驗(yàn)費(fèi)用過于昂貴、代價(jià)過大 例：洲導(dǎo)彈命中率 戰(zhàn)爭中對(duì)敵方下一步行動(dòng)的可能 2.主觀概率定義：合理的信念的測度 某人對(duì)特定事件會(huì)發(fā)生的可能的度量。 即他相信(認(rèn)為)事件將會(huì)發(fā)生的可能性大小的程度。 這種相信的程度是一種信念，是主觀

3、的，但又是依照經(jīng)驗(yàn)、各方而后知識(shí)，對(duì)客觀情況的了解進(jìn)行分析、推理、綜合推斷而設(shè)定(Assignment)的，與主觀臆測不同。 例：考博士生、擲硬幣、拋圖釘三、概率的數(shù)學(xué)定義對(duì)非空集，元素，即=，F(xiàn)是的子集A所構(gòu)成的-域(即F； 若AF則AF； 若AiF i=1,2,則AiF) 若P(A)是定在F上的實(shí)值集函數(shù)，它滿足 非負(fù)性 P(A)0 規(guī)范性 P()=1 可列可加性 則稱P(A)為直的(主以或客觀)概率測度，簡稱概率 為差不多事件 A為事件 三元總體(，F(xiàn)，P)稱為概率空間 注意：主觀概率和客觀概率（objective probability）有相同的定義 四、主客觀概率的比較(一) 差不多

4、屬性： O：系統(tǒng)的固有的客觀性質(zhì)，在相同條件下重復(fù)試驗(yàn)時(shí)頻經(jīng)的極限 S：概率是觀看者而非系統(tǒng)的性質(zhì)，是觀看者對(duì)對(duì)系統(tǒng)處于某狀態(tài)的信任程度 (二)拋硬幣：正面向上概率為 O：只要硬幣均勻，拋法類似，次數(shù)足夠多，正面向上的概率確實(shí)是，這是簡單的定義。 S：這確是定義，DMer認(rèn)為硬幣是均勻的，正、反面出現(xiàn)的可能性(似然率)相同，是個(gè)主觀的量。 (三)下次拋硬幣出現(xiàn)正面的概率是 O：這種講法不對(duì)，不重復(fù)試驗(yàn)就談不上概率 S：對(duì)DMer來講，下次出現(xiàn)正、反是等可能的。然而他不是講硬幣本身是公正的，它可能會(huì)有偏差，就他現(xiàn)有知識(shí)而言，沒有理由預(yù)言一面出現(xiàn)的可能會(huì)大于另一面，但多次拋擲的觀看結(jié)果能夠改變他的

5、信念。 O、S：下次拋硬幣出現(xiàn)正面依舊反面不能確定，但明白： 要么是正面，要么是反面。 2-2 先驗(yàn)分布(Prior distribution)及其設(shè)定 在決策分析中，尚未通過試驗(yàn)收集狀態(tài)信息時(shí)所具有的信息叫先驗(yàn)信息，由先驗(yàn)信息所確定的概率分布叫先驗(yàn)分布。 設(shè)定先驗(yàn)分布是Bayesean分析的需要.一、設(shè)定先驗(yàn)分布時(shí)的幾點(diǎn)假設(shè) 1.連通性(Connectivity)，又稱可比性 即事件A和B發(fā)生的似然性likelihood是能夠比較的： AL B或A L B或BL A 必有一種也僅有一種成立. * AL B讀作 A 發(fā)生的似然性大于B 發(fā)生的似然性, A L B 讀作 A 發(fā)生的似然性與B 發(fā)

6、生的似然性相當(dāng)。 2.傳遞性(Transitivity) 若對(duì)事件A，B，C , A L B， B L C 則A L C 3. 部分小于全體：若AB則BL A 例：設(shè)定明年國民經(jīng)濟(jì)增長率時(shí)：A：811% B：1215% C：1520% 若 A L B， B L C ， 則 A L C A：811% D：810% 必有D L A 二、離散型隨機(jī)變量先驗(yàn)分布的設(shè)定1.對(duì)各事件加以比較確定相對(duì)似然率 例1. 考博士生 E：考取 E：考不取 若P(E)=2P(E) 則P(E)=2/3 P(E)=1/3 例2。某地氣候狀況：正常年景1，旱2，澇3 正常與災(zāi)年之比：32 則P（1)=0.6 水旱災(zāi)之比11

7、 P(2)=P(3)=0.2 該法適用于狀態(tài)數(shù)較少的場合2.打賭法設(shè) 事件E發(fā)生時(shí)收入P，（0 P 1） 且 Ec(1P)調(diào)整P，使決策人感到兩者無差異為止, 則：P(E)=P三、連續(xù)型RV的先驗(yàn)分布的設(shè)定1.直方圖法該法適用于取值是實(shí)軸的的某個(gè)區(qū)間的情況步驟：,將區(qū)間劃分子區(qū)間i離散化 設(shè)定每個(gè)子區(qū)間的似然率(i)賦值 變換成概率密度曲線例如：明年國民經(jīng)濟(jì)的增長率缺點(diǎn)：子區(qū)間的劃分沒有標(biāo)準(zhǔn) 賦值不易 尾部誤差過大2.相對(duì)似然率法適用范圍：同1 步驟：離散化 賦值：給出各區(qū)間似然的相對(duì)比值 規(guī)范化： 例如：同1A. 相對(duì)似然率R 似然率(A) 子區(qū)間89% 10 10R 78 9 9R 910

8、 7.5 7.5RB. 決策者給出每二個(gè)狀態(tài)似然率的比例關(guān)系 aij= pi/pj (1)應(yīng)有 aij= 1/aji (2) aij=aik.akj (3)在(3)式不滿足時(shí)，可用最小二乘法可能決策人心目中真正的主觀概率分布Pi i=1,，n即求規(guī)劃問題 min(aijpj - pi) s.t. pi= 1 , pi0*用拉格朗日乘數(shù)法,構(gòu)造拉格朗日函數(shù) L 上式對(duì) ，i=1,2n求偏導(dǎo)數(shù)，并令其為0，得： l=1,2,n. 與 聯(lián)列，構(gòu)成n+1階齊次方程組，求得Pi, i=1,，n3.區(qū)間對(duì)分法適用范圍：能夠是開區(qū)間步驟：求中位 確定上、下四分位點(diǎn)(quartile fractile) 由于

9、誤差積存,最多確定八分位點(diǎn)(Eighth fractile) 例：產(chǎn)品銷售量(可能明年) 缺點(diǎn)：精度差4.與給定形式的分布函數(shù)相匹配 這是最常用，且常常被濫用的方法步驟：選擇一個(gè)與先驗(yàn)信息匹配得最好的函數(shù) 如正態(tài)，泊松，e-Cauchy分布等例：a)在單位時(shí)刻以恒常的平均比率入出現(xiàn)，則在T單位長度時(shí)刻內(nèi)該事件出現(xiàn)的次數(shù)服從Poisson分布 2-4 b)若阻礙某一隨機(jī)變量的因素專門多而每一因素的作用均不顯著，則該變量服從正態(tài)分布。例如，測量誤差，彈落點(diǎn)，人的生理特征的度量，農(nóng)作物產(chǎn)量等均服從正態(tài)分布。 c)事件A出現(xiàn)的概率為P，n次獨(dú)立試驗(yàn)出現(xiàn)r次A的概率b(p,r,n)= . 即服從二項(xiàng)分布

10、。 參數(shù)可能： A.矩法：N(,) Be(，) 缺點(diǎn)：尾部可能不準(zhǔn)，但對(duì)矩的阻礙卻專門大 B.分位數(shù)：利用幾個(gè)分位點(diǎn)和現(xiàn)成的概率密度 函數(shù)分位數(shù)表，可能參數(shù)并檢驗(yàn)。5. 概率盤法(dart) 用園盤中的扇形區(qū)表示抽獎(jiǎng)事件, 透用于西方治理人員注意：狀態(tài)的概率或概率分布不是也不應(yīng)富由決策分析人員來設(shè)定，而應(yīng)當(dāng)由決策人和有關(guān)問題專家提供差不多信息。 理由：2-3 無信息先驗(yàn)分布一、什么緣故要研究無信息先驗(yàn)Bayesean法需要有先驗(yàn)分布，貝葉斯法的簡明性使人在無信息時(shí)也想用它。二、如何設(shè)定無信息先驗(yàn)分布1.位置參數(shù) 隨機(jī)變量X的概率密度函數(shù)形如f(x-)時(shí) 稱為位置參數(shù) 其無信息先驗(yàn) ()必為一常數(shù)2.標(biāo)度參數(shù) X的密度函數(shù)為1/f(x/)稱為標(biāo)度密度稱為標(biāo)度參數(shù) 其無信息先驗(yàn)()=1/2.4 利用過去的數(shù)據(jù)設(shè)定先驗(yàn)分布一、有的統(tǒng)計(jì)數(shù)據(jù) 為能獲得的觀看值i i=1,n的數(shù)據(jù)，則可： 通過直方圖勾劃出先驗(yàn)分布