人工智能之不確定知識表示及推理課件_第1頁
人工智能之不確定知識表示及推理課件_第2頁
人工智能之不確定知識表示及推理課件_第3頁
人工智能之不確定知識表示及推理課件_第4頁
人工智能之不確定知識表示及推理課件_第5頁
已閱讀5頁,還剩179頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)

文檔簡介

第一章不確定知識表示及推理12/9/20221第一章12/7/20221內(nèi)容1.1概述1.2概率模型1.3主觀Bayes方法1.4可信度方法12/9/20222內(nèi)容12/7/202221.1概述12/9/202231.1概述12/7/20223所謂不確定性推理就是從不確定性的初始事實(shí)(證據(jù))出發(fā),通過運(yùn)用不確定的知識,最終推出具有一定程度的不確定性卻是合理或者近乎合理的結(jié)論的思維過程。需要解決的問題:不確定性的表示不確定性的匹配不確定性的更新算法12/9/20224所謂不確定性推理就是從不確定性的初始事實(shí)(證據(jù))出發(fā),通過運(yùn)證據(jù)的不確定性一、不確定性的表示證據(jù)通常有兩類:一類為初始事實(shí)。這一類證據(jù)多來源于觀察,因而通常具有不確定性;另一類為推理過程中產(chǎn)生的中間結(jié)果。證據(jù)不確定性用C(E)表示,它代表相應(yīng)證據(jù)的不確定性程度,即表示證據(jù)E為真的程度。如果E為初始事實(shí),則C(E)由用戶給出。如果E為推理過程中產(chǎn)生的中間結(jié)果,則C(E)可以通過不確定性的更新算法來計算。知識的不確定性12/9/20225證據(jù)的不確定性一、不確定性的表示證據(jù)通常有兩類:知識的規(guī)則:IFETHENH規(guī)則是知識,E是規(guī)則的前提即證據(jù),H是該規(guī)則的結(jié)論,也可以是其他規(guī)則的證據(jù)。EHC(E)C(H)f(E,H)規(guī)則的不確定性通常用一個數(shù)值f(E,H)表示,稱為規(guī)則強(qiáng)度。規(guī)則的假設(shè)(結(jié)論)H也可以作為其他規(guī)則的證據(jù),其不確定用C(H)表示,C(H)必須通過不確定性的更新算法來計算。12/9/20226規(guī)則:IFETHENH規(guī)則是知識,E是規(guī)則的前提即證據(jù)在確定一種量度方法及其范圍時,應(yīng)注意以下幾點(diǎn):量度要能充分表達(dá)相應(yīng)的知識和證據(jù)的不確定性程度。量度范圍的指定應(yīng)便于領(lǐng)域?qū)<壹坝脩魧Σ淮_定性的估計。量度要便于對不確定性的更新進(jìn)行計算,而且對結(jié)論算出的不確定性量度不能超出量度的范圍量度的確定應(yīng)當(dāng)是直觀的,同時應(yīng)有相應(yīng)的理論依據(jù)。12/9/20227在確定一種量度方法及其范圍時,應(yīng)注意以下幾點(diǎn):量度要能二、不確定性的匹配算法設(shè)計一個數(shù)用來計算匹配雙方相似的程度,另外再指定一個相似的限度(稱為閾值),用來衡量匹配雙方相似的程度是否落在指定的限度內(nèi)。如果落在指定的限度內(nèi),就稱它們是可匹配的,相應(yīng)的知識可被應(yīng)用。否則就稱它們是不可匹配的,相應(yīng)的知識不可應(yīng)用。12/9/20228二、不確定性的匹配算法設(shè)計一個數(shù)用來計算匹配雙方相似的程度三、不確定性的更新算法即在推理過程中如何考慮知識不確定性的動態(tài)積累和傳遞。1、已知規(guī)則前提的不確定性C(E)和規(guī)則的強(qiáng)度f(E,H),如何求假設(shè)H的不確定性C(H)。即定義算法g1,使C(H)=g1[C(E),f(E,H)]E1HC(E1)C(H)f(E1,H)E2HC(E2)C(H)f(E2,H)2、并行規(guī)則算法定義算法g2:C(H)=g2[C1(H),C2(H)]12/9/20229三、不確定性的更新算法即在推理過程中如何考慮知識不確定性的3、證據(jù)合取的不確定性算法C(E1

E2)=g3[C(E1),C(E2)]C(E1E2)=g4[C(E1),C(E2)]4、證據(jù)析取的不確定性算法合取和析取的不確定性算法統(tǒng)稱為組合證據(jù)的不確定性算法。最大最小法C(E1E2)=min{C(E1),C(E2)}C(E1E2)=max{C(E1),C(E2)}C(EE2)=C(E1)C(E2)C(EE2)=C(E1)+C(E2)-C(E1)C(E2)有界方法概率方法C(E1E2)=max{0,C(E1)+C(E2)-1}C(E1E2)=min{1,C(E1)+C(E2)}12/9/2022103、證據(jù)合取的不確定性算法C(E1E2)=g3[設(shè)A1、A2、A3、A4為原始證據(jù),不確定性分別為:C(A1)、C(A2)、C(A3)、C(A4)求A5、A6、A7的不確定性。舉例A1A2ORA4A3ANDA5R1f1A6R2f2A7R3f3R4f412/9/202211設(shè)A1、A2、A3、A4為原始證據(jù),不確定性分別為:舉例A1①由證據(jù)A1和A2的不確定性C(A1)和C(A2)②由A1和A2析取的不確定性C(A1A2)和規(guī)則R1的規(guī)則強(qiáng)度f1根據(jù)算法4求出A1和A2析取的不確定性C(A1A2)。根據(jù)算法1求出A5的不確定性C(A5)。③由證據(jù)A3和A4的不確定性C(A3)和C(A4)④由A3和A4合取的不確定性C(A3

A4)和規(guī)則R2的規(guī)則強(qiáng)度f2,根據(jù)算法3求出A3和A4合取的不確定性C(A3

A4)。根據(jù)算法1求出A6的不確定性C(A6)。12/9/202212①由證據(jù)A1和A2的不確定性C(A1)和C(A2)②由A1和⑤由A5的不確定性C(A5)和規(guī)則R3的規(guī)則強(qiáng)度f3⑥由A6的不確定性C(A6)和規(guī)則R4的規(guī)則強(qiáng)度f4⑦由A7的兩個根據(jù)獨(dú)立證據(jù)分別求出的不確定性C(A7)和C(A7)根據(jù)算法1求出A7的其中一個不確定性C(A7)。根據(jù)算法1求出A7的另外一個不確定性C(A7)。根據(jù)算法2求成A7最后的不確定性C(A7)。12/9/202213⑤由A5的不確定性C(A5)和規(guī)則R3的規(guī)則強(qiáng)度f3⑥由A61.2

概率方法12/9/2022141.2概率方法12/7/202214一、基礎(chǔ)1、全概率公式②P(Ai)>0;①兩兩互不相容,即當(dāng)ij時,有設(shè)事件滿足:③,D為必然事件則對任何事件B有下式成立:提供了一種計算P(B)的方法。12/9/202215一、基礎(chǔ)1、全概率公式②P(Ai)>0;①兩兩互不相容,即2、Bayes公式定理:設(shè)事件滿足上述定理的條件,則對任何事件B有:該定理稱為Bayes定理,上式稱為Bayes公式。12/9/2022162、Bayes公式定理:設(shè)事件滿足上述定理的條件,則對任何事如果把全概率公式代入Bayes公式中,就可得到:即:12/9/202217如果把全概率公式代入Bayes公式中,就可得到:即:12/7二、概率推理模型Bayes方法用于不精確推理的條件是已知:P(E),P(H),P(E|H)IFETHENH①若一組證據(jù)E1,E2,En同時支持假設(shè)H時,則:對于H,E1,E2,En之間相互獨(dú)立對于一般的不精確推理網(wǎng)絡(luò),必須做如下約定:②當(dāng)一個證據(jù)E支持多個假設(shè)H1,H2,Hn時,則:假設(shè)H1,H2,Hn之間互不相容12/9/202218二、概率推理模型Bayes方法用于不精確推理的條件是已知:P如果一個證據(jù)E支持多個假設(shè)H1,H2,Hn,即:IFETHENHi并已知P(Hi)和P(E|Hi),則如果有多個證據(jù)E1,E2,Em和多個結(jié)論H1,H2,Hn,則:12/9/202219如果一個證據(jù)E支持多個假設(shè)H1,H2,Hn,即:IFE設(shè)已知:P(H1)=0.4,P(H2)=0.3,P(H3)=0.3P(E1|H1)=0.5,P(E1|H2)=0.6,P(E1|H3)=0.3P(E2|H1)=0.7,P(E2|H2)=0.9,P(E2|H3)=0.1=0.45同理求:P(H1|E1E2),P(H2|E1E2),P(H3|E1E2)舉例12/9/202220設(shè)已知:P(H1)=0.4,P(H2)=0.3,P(H3概率推理模型的優(yōu)缺點(diǎn)有較強(qiáng)的理論背景和良好的數(shù)學(xué)特征,當(dāng)證據(jù)及結(jié)論都彼此獨(dú)立時,計算的復(fù)雜度比較低。它要求給出結(jié)論Hi的先驗(yàn)概率P(Hi)及證據(jù)Ej的條件概率P(Ej|Hi),要獲得這些數(shù)據(jù)是一件相當(dāng)困難的工作。Bayes公式的應(yīng)用條件很嚴(yán)格,它要求各事件互相獨(dú)立,若證據(jù)之間存在依賴關(guān)系,就不能直接使用這個方法12/9/202221概率推理模型的優(yōu)缺點(diǎn)有較強(qiáng)的理論背景和良好的數(shù)學(xué)特征,當(dāng)證據(jù)1.3主觀Bayes方法12/9/2022221.3主觀Bayes方法12/7/202222EHP(E)P(H)LS,LNLS,LN(0)分別稱為充分性量度和必要性量度,這兩個數(shù)值由領(lǐng)域?qū)<医o出。一、不確定性的表示1、知識的不確定性表示IFETHEN(LS,LN)H(P(H))12/9/202223EHP(E)P(H)LS,LNLS,LN(0)分別稱為充分O等價于概率函數(shù)P,定義如下:P越大則O越大,P和O在概率含義上等價的,但取值范圍不同:當(dāng)P<0.5時,O<1P[0,1],O[0,)當(dāng)P>0.5時,O>1當(dāng)P=0.5時,O=1當(dāng)P=0時,O=0幾率函數(shù)O(odds)12/9/202224O等價于概率函數(shù)P,定義如下:P越大則O越大,P和O在概率含H的先驗(yàn)幾率O(H)和后驗(yàn)幾率O(H|E)12/9/202225H的先驗(yàn)幾率O(H)和后驗(yàn)幾率O(H|E)12/7/2022同理可得:O(H|E)=LNO(H)O(H|E)=LSO(H)12/9/202226同理可得:O(H|E)=LNO(H)O(H|E)①LS:規(guī)則的充分性量度LS=1時,O(H|E)=O(H),說明E對H沒有影響;LS>1時,O(H|E)>O(H),說明E支持H,且LS越大,E對H的支持越充分??梢?,E的出現(xiàn)對H為真是充分的,故稱LS為充分性度量。LS<1時,O(H|E)<O(H),說明E排斥H。若LS為,則E為真時H就為真;若LS為0時,則E為真時H就為假;當(dāng)證據(jù)E越是支持H為真是,則使相應(yīng)LS的值越大。反映E出現(xiàn)對H的支持程度。12/9/202227①LS:規(guī)則的充分性量度LS=1時,O(H|E)=O(H),②LN:規(guī)則的必要性量度LN=1時,O(H|E)=O(H),說明E對H沒有影響;LN>1時,O(H|E)>O(H),說明E支持H,且LN越大,E對H的支持越充分。當(dāng)LN<1時,O(H|E)<O(H),說明E排斥H。若LN為,則E為真時H就為真;若LN為0時,則E為真時H就為假;由于E不出現(xiàn),將導(dǎo)致H為假,可看出E對H為真的必要性,故稱LN為必要性度量。若證據(jù)E對H越是必要,則相應(yīng)的LN的值越小。反映E不出現(xiàn)對H的支持程度,即E的出現(xiàn)對H的必要性。12/9/202228②LN:規(guī)則的必要性量度LN=1時,O(H|E)=O(H)③LS和LN的關(guān)系LS>1且LN<1LS<1且LN>1LS=LN=1由于E和E不可能同時支持H或同時反對H,所以領(lǐng)域?qū)<以跒橐粭l知識中的LS和LN賦值時,不應(yīng)該同時大于1或同時小于1。12/9/202229③LS和LN的關(guān)系LS>1且LN<1LS<12、證據(jù)的不確定性表示在主觀Bayes方法中,證據(jù)E的不確定性由用戶根據(jù)觀察S給出后驗(yàn)概率P(E|S)或后驗(yàn)幾率O(E|S)表示。當(dāng)E為真時,P(E|S)=1,O(E|S)=當(dāng)E為假時,P(E|S)=0,O(E|S)=0當(dāng)E不確定時,0<P(E|S)<112/9/2022302、證據(jù)的不確定性表示在主觀Bayes方法中,證據(jù)E的不確定二、主觀Bayes方法推理的基本算法P(H)P(H|E)P(H|E)P(E|S)LS,LN根據(jù)證據(jù)E的后驗(yàn)概率P(E|S)及LS,LN的值,把H的先驗(yàn)概率P(H)更新為后驗(yàn)概率P(H|E)或P(H|E)。即:12/9/202231二、主觀Bayes方法推理的基本算法P(H)P(H|E)P(當(dāng)P(E|S)=11、證據(jù)E確定則:O(H|E)=LSO(H)12/9/202232當(dāng)P(E|S)=11、證據(jù)E確定則:O(H|E)=當(dāng)P(E|S)=1則:O(H|E)=LNO(H),同理可得:12/9/202233當(dāng)P(E|S)=1則:O(H|E)=LNO(在證據(jù)不確定的情況下,不能再用上面的公式計算后驗(yàn)概率,而要用杜達(dá)(R.O.DUDA)等人于1976年證明了的如下公式:2、證據(jù)E不確定當(dāng)P(E|S)=1時,P(E|S)=0P(H|S)=P(H|E)當(dāng)P(E|S)=0時,P(E|S)=1P(H|S)=P(H|E)當(dāng)P(E|S)=P(E)時:P(H|S)=P(H|E)P(E)+P(H|E)P(E)=P(H)當(dāng)P(E|S)為其它值時,通過分段線性插值可得計算P(H|S)的公式,如圖所示。P(H|S)=P(H|E)P(E|S)+P(H|E)P(E|S)此即為證據(jù)確實(shí)存在的情況此即為證據(jù)確實(shí)不存在的情況12/9/202234在證據(jù)不確定的情況下,不能再用上面的公式計算后驗(yàn)概率,而要用P(E|S)P(H|S)0P(H|E)P(H)P(E)P(H|E)112/9/202235P(E|S)P(H|S)0P(H|E)P(H)P(E)P(函數(shù)的解析式,即EH公式P(H|E)、P(H|E)、P(H):根據(jù)專家給出的參數(shù)可計算出來EH公式中,有兩組參數(shù)需要確認(rèn):P(E|S):由用戶根據(jù)觀察S給出P(E|S)相當(dāng)困難,所以引入可信度的概念采用-55這11個整數(shù)作為證據(jù)的可信度,用戶根據(jù)實(shí)際情況選擇。12/9/202236函數(shù)的解析式,即EH公式P(H|E)、P(H|E)C(E|S)=5,表示在觀察S之下證據(jù)E肯定存在,即P(E|S)=1??尚哦菴(E|S)和概率P(E|S)的對應(yīng)關(guān)系C(E|S)=-5,表示在觀察S之下證據(jù)E肯定不存在,即P(E|S)=0。C(E|S)=0,表示S與E無關(guān)系,即P(E|S)=P(E)。C(E|S)為其他數(shù)時與P(E|S)的對應(yīng)關(guān)系,可通過對上述3點(diǎn)進(jìn)行分段線性插值得到,如圖所示。12/9/202237C(E|S)=5,表示在觀察S之下證據(jù)E肯定存在,即C(E|S)P(E|S)012345-1-2-3-4-51P(E)12/9/202238C(E|S)P(E|S)012345-1-2-3-4-51PC(E|S)與P(E|S)的關(guān)系式CP公式12/9/202239C(E|S)與P(E|S)的關(guān)系式CP公式12/7/2022當(dāng)用初始證據(jù)進(jìn)行推理時,通過提問用戶得到C(E|S),通過運(yùn)用CP公式就可求出P(H|S)當(dāng)用推理過程中得到的中間結(jié)論作為證據(jù)進(jìn)行推理時,通過運(yùn)用EH公式就可求得P(H|S)具體思路12/9/202240當(dāng)用初始證據(jù)進(jìn)行推理時,通過提問用戶得到C(E|S),3、證據(jù)E為若干證據(jù)的組合①獨(dú)立證據(jù)導(dǎo)出同一假設(shè)當(dāng)有n個證據(jù)Ei(i=1,2,,n)對假設(shè)H都有某種程度的影響時,即存在規(guī)則E1H,E2H,,EnH,Ei之間相互獨(dú)立,且對每個Ei都有相應(yīng)的觀察Si與之對應(yīng)。求在所有觀測之下的后驗(yàn)概率:P(H|S1&S2&&Sn)12/9/2022413、證據(jù)E為若干證據(jù)的組合①獨(dú)立證據(jù)導(dǎo)出同一假設(shè)當(dāng)有n個證據(jù)合成法O(H|S1&S2&&Sn)=只要對每條規(guī)則分別求出O(H|Si),則這些獨(dú)立證據(jù)的組合所得到的H的后驗(yàn)幾率。12/9/202242合成法O(H|S1&S2&&Sn)=只要對每條規(guī)則分別結(jié)論更新算法先利用第一條規(guī)則對結(jié)論的先驗(yàn)概率進(jìn)行更新,再把得到的后驗(yàn)概率當(dāng)作第二條規(guī)則的先驗(yàn)概率;再用第二條知識對其進(jìn)行更新,把更新后的值作為第三條知識的先驗(yàn)概率;繼續(xù)更新到所有的規(guī)則都使用完。12/9/202243結(jié)論更新算法先利用第一條規(guī)則對結(jié)論的先驗(yàn)概率進(jìn)行更新,再把得②證據(jù)的合取E=E1E2En如果在觀察S下,其概率為:P(E1|S),P(E2|S),,P(En|S)則:P(E|S)=min{P(E1|S),P(E2|S),,P(En|S)}12/9/202244②證據(jù)的合取E=E1E2En如果在觀察S下,其概率為③證據(jù)的析取E=E1E2En如果在觀察S下,證據(jù)其概率為:P(E1|S),P(E2|S),,P(En|S)則:P(E|S)=max{P(E1|S),P(E2|S),,P(En|S)}12/9/202245③證據(jù)的析取E=E1E2En如果在觀察S下,證據(jù)其概設(shè)有如下知識:三、主觀Bayes方法應(yīng)用舉例已知:結(jié)論B的先驗(yàn)概率P(B)=0.03。當(dāng)證據(jù)A1,A2,A3,A4必然發(fā)生后,求結(jié)論B的概率變化。R1:IFA1THEN(20,1)BR2:IFA2THEN(300,1)BR3:IFA3THEN(75,1)BR4:IFA4THEN(4,1)B12/9/202246設(shè)有如下知識:三、主觀Bayes方法應(yīng)用舉例已知:結(jié)論B的先A1A2A3A4BS1S2S3S4201300175141解法1:利用合成算法12/9/202247A1A2A3A4BS1S2S3S420300754解法1:利依據(jù)規(guī)則R1:依據(jù)規(guī)則R2:依據(jù)規(guī)則R3:12/9/202248依據(jù)規(guī)則R1:依據(jù)規(guī)則R2:依據(jù)規(guī)則R3:12/7/2022依據(jù)規(guī)則R4:12/9/202249依據(jù)規(guī)則R4:12/7/202249解法2:利用更新算法12/9/202250解法2:利用更新算法12/7/202250R1:IFE1THEN(2,0.001)H1設(shè)有如下規(guī)則:R3:IFH1THEN(65,0.01)H2R2:IFE2THEN(100,0.001)H1R4:IFE3THEN(300,0.01)H2且已知先驗(yàn)幾率:O(H1)=0.1,O(H2)=0.01通過提問用戶得到:C(E1|S1)=3,C(E2|S2)=1,C(E3|S3)=-2求:O(H2|S1S2S3)。舉例12/9/202251R1:IFE1THEN(2,0.001)20.0011000.001650.013000.01E1E2S1S3H1E3H2S2C(E1|S1)=3C(E2|S2)=1C(E3|S3)=-212/9/202252210065300E1E2S1S3H1E3H2S2C(E1|①求O(H1|S1)因?yàn)镃(E1|S1)=3>0,所以使用CP公式的后一部分:12/9/202253①求O(H1|S1)因?yàn)镃(E1|S1)=3>0,所②求O(H1|S2)因?yàn)镃(E2|S2)=1>0,所以使用CP公式的后一部分:12/9/202254②求O(H1|S2)因?yàn)镃(E2|S2)=1>0,所③求O(H1|S1S2)12/9/202255③求O(H1|S1S2)12/7/202255④求O(H2|S1S2)為了確定應(yīng)用EH公式的哪一部分,需要判斷P(H1|S1S2)與P(H1)的關(guān)系。P(H1|S1S2)>P(H1),必須用EH公式的后半部分:12/9/202256④求O(H2|S1S2)為了確定應(yīng)用EH公式的哪一部分,12/9/20225712/7/202257⑤求O(H2|S3)因?yàn)镃(E3|S3)=-2<0,所以使用CP公式的前一部分:12/9/202258⑤求O(H2|S3)因?yàn)镃(E3|S3)=-2<0⑥求O(H2|S1S2S3)可以看出,H2先驗(yàn)的幾率為0.01,經(jīng)過推理后,算出其后驗(yàn)幾率為0.081,相當(dāng)于幾率增加了8倍。12/9/202259⑥求O(H2|S1S2S3)可以看出,H2先驗(yàn)的幾率為0四、主觀Bayes方法的主要優(yōu)缺點(diǎn)優(yōu)點(diǎn):①主觀Bayes方法中的計算公式大多是在概率論的基礎(chǔ)上推導(dǎo)出來的,具有較堅實(shí)的理論基礎(chǔ)。②規(guī)則的LS和LN由領(lǐng)域?qū)<腋鶕?jù)實(shí)踐經(jīng)驗(yàn)給出的,這就避免了大量的數(shù)據(jù)統(tǒng)計工作。另外,它既用LS指出了證據(jù)E對結(jié)論H的支持程度,又用LN指出了E對H的必要性程度,這就比較全面地反映了證據(jù)與結(jié)論間的因果關(guān)系,符合現(xiàn)實(shí)世界中某些領(lǐng)域的實(shí)際情況,使推出的結(jié)論具有較準(zhǔn)確的確定性。12/9/202260四、主觀Bayes方法的主要優(yōu)缺點(diǎn)優(yōu)點(diǎn):①主觀Bayes方法它的主要缺點(diǎn)有:①要求領(lǐng)域?qū)<以诮o出規(guī)則的同時,給出H的先驗(yàn)概率P(H),這是比較困難的。②Bayes定理中關(guān)于事件間獨(dú)立性的要求使主觀Bayes方法的應(yīng)用受到了限制。由其推理過程可以看出,它確實(shí)實(shí)現(xiàn)了不確定性的逐級傳遞。因此可以說主觀Bayes方法是一種比較全面實(shí)用且靈活的不確定性推理方法。③主觀Bayes方法不僅給出了在證據(jù)確定的情況下由H的先驗(yàn)概率更新為后驗(yàn)概率的方法,而且給出了在證據(jù)不確定情況下更新先驗(yàn)概率為后驗(yàn)概率的方法。12/9/202261它的主要缺點(diǎn)有:①要求領(lǐng)域?qū)<以诮o出規(guī)則的同時,給出H的先驗(yàn)練習(xí):1、設(shè)有如下知識:R1:IFE1THEN(1,0.003)H1(0.4)R2:IFE2THEN(18,1)H2(0.06)R3:IFE3THEN(12,1)H3(0.04)求:當(dāng)證據(jù)E1,E2,E3出現(xiàn)及不出現(xiàn)時,P(Hi/Ei)及P(Hi/Ei)的值各是多少?2、設(shè)有如下知識:R1:IFATHEN(20,1)B1(0.03)R2:IFB1THEN(300,0.0001)B2(0.01)當(dāng)證據(jù)A必然發(fā)生時,求P(B2/A)。12/9/202262練習(xí):1、設(shè)有如下知識:R1:IFE1THEN3、設(shè)有如下知識:R1:IFE1THEN(20,1)H(0.03)R2:IFE2THEN(300,1)H(0.03)若證據(jù)E1和E2依次出現(xiàn),按主觀Bayes推理,求H在此條件下的概率P(H/E1E2)。(按兩種方法求)12/9/2022633、設(shè)有如下知識:R1:IFE1THEN(1.4可信度方法12/9/2022641.4可信度方法12/7/202264一、基于可信度的不確定的表示根據(jù)經(jīng)驗(yàn)對一個事物或現(xiàn)象為真的相信程度稱為可信度。知識用產(chǎn)生式規(guī)則表示,每一條規(guī)則都有一個可信度;每個證據(jù)也具有一個可信度。12/9/202265一、基于可信度的不確定的表示根據(jù)經(jīng)驗(yàn)對一個事物或現(xiàn)象為真的相1、知識不確定性的表示IFETHENH(CF(H,E))CF(H,E)是該規(guī)則的可信度,稱為可信度因子或規(guī)則強(qiáng)度CF(H,E)[-1,1],表示在已知證據(jù)E的情況下對假設(shè)H為真的支持程度。CF(H,E)>0,表示證據(jù)的存在增加結(jié)論為真的程度,CF(H,E)的值越大結(jié)論H越真;CF(H,E)=1,表示證據(jù)存在結(jié)論為真;CF(H,E)<0,表示證據(jù)的存在增加結(jié)論為假的程度CF(H,E)的值越小結(jié)論H越假;CF(H,E)=-1,表示證據(jù)存在結(jié)論為假;CF(H,E)=0,表示證據(jù)E和結(jié)論H沒有關(guān)系。12/9/2022661、知識不確定性的表示IFETHENH(CF如果P(H|E)=1,CF(H,E)=1如果P(H|E)=0,CF(H,E)=-1如果P(H|E)=P(H),CF(H,E)=0①可信度的性質(zhì)12/9/202267如果P(H|E)=1,CF(H,E)=1如果P(H|②對同一個證據(jù)E,若有n個互不相容的假設(shè)Hi(i=1,2,,n),則如果發(fā)現(xiàn)專家給出的可信度出現(xiàn)CF(H1,E)=0.6,CF(H2,E)=0.7,而H1和H2互不相容,說明規(guī)則的可信度是不合理的,應(yīng)調(diào)整。12/9/202268②對同一個證據(jù)E,若有n個互不相容的假設(shè)Hi(i=1,2,③可信度CF和概率P有一定的對應(yīng)關(guān)系,但又有區(qū)別。P(H|E)+P(H|E)=1CF(H|E)+CF(H|E)=0表明,一個證據(jù)對某個假設(shè)的成立有利,必然對該假設(shè)的不成立不利,而且對兩者的影響程度相同。12/9/202269③可信度CF和概率P有一定的對應(yīng)關(guān)系,但又有區(qū)別。P(H|根據(jù)定義式,由先驗(yàn)概率P(H)和后驗(yàn)概率P(H|E)可求CF(H,E)。但是實(shí)際應(yīng)用中,P(H)和P(H|E)的值是難以獲得的,因此CF(H,E)的值要求由領(lǐng)域?qū)<抑苯咏o出,其原則是:若由于證據(jù)的出現(xiàn)增加結(jié)論H為真的可信度,則使:CF(H,E)>0證據(jù)的出現(xiàn)越是支持H為真,就使CF(H,E)的值越大;反之,使:CF(H,E)<0證據(jù)的出現(xiàn)越是支持H為假,就使CF(H,E)的值越??;若證據(jù)的出現(xiàn)與H無關(guān),使:CF(H,E)=0可信度的確定12/9/202270根據(jù)定義式,由先驗(yàn)概率P(H)和后驗(yàn)概率P(H|E)可求CF2、證據(jù)的不確定性的表示證據(jù)E的不確定性用證據(jù)的可信度CF(E)表示。原始證據(jù)的可信度由用戶在系統(tǒng)運(yùn)行時提供;中間結(jié)果的可信度由不精確推理算法得到。證據(jù)E的可信度取值范圍為:-1CF(E)1當(dāng)證據(jù)以某種程度為真時:CF(E)>0當(dāng)證據(jù)肯定為真時:CF(E)=1當(dāng)證據(jù)以某種程度為假時:CF(E)<0當(dāng)證據(jù)肯定為假時:CF(E)=-1當(dāng)證據(jù)一無所知時:CF(E)=012/9/2022712、證據(jù)的不確定性的表示證據(jù)E的不確定性用證據(jù)的可信度CF(①證據(jù)的合取E=E1E2EnCF(E)=min{CF(E1),CF(E2,,CF(En)}二、可信度方法推理的基本算法1、組合證據(jù)的不確定性算法②證據(jù)的析取E=E1E2EnCF(E)=max{CF(E1),CF(E2,,CF(En)}12/9/202272①證據(jù)的合取二、可信度方法推理的基本算法1、組合證據(jù)的不確定2、不確定性的傳遞算法不確定性的傳遞算法就是根據(jù)證據(jù)和規(guī)則的可信度求結(jié)論的可信度。已知規(guī)則如下:IFETHENH(CF(H,E))并已知證據(jù)E的可信度為CF(E),則結(jié)論H的可信度CF(H)為:CF(H)=CF(H,E)max{0,CF(E)}若CF(E)>0,即證據(jù)以某種程度為真,則CF(H)=CF(H,E)CF(E)若CF(E)=1,即證據(jù)為真時,則CF(H)=CF(H,E);若CF(E)<0,即證據(jù)以某種程度為假,則CF(H)=0;在可信度方法的不精確推理中,并沒有考慮證據(jù)為假時對結(jié)論H所產(chǎn)生的影響。12/9/2022732、不確定性的傳遞算法不確定性的傳遞算法就是根據(jù)證據(jù)和規(guī)則的IFE1THENH(CF(H,E1))IFE2THENH(CF(H,E2))3、多個獨(dú)立證據(jù)推出同一假設(shè)的合成算法①先分別求兩條規(guī)則得出的結(jié)論的可信度。CF1(H)=CF(H,E1)max{0,CF(E1)}CF2(H)=CF(H,E2)max{0,CF(E2)}②利用下式求出E1和E2對H的綜合影響所形成的CF1,2(H)。CF1(H)0,CF2(H)0:CF1,2(H)=CF1(H)+CF2(H)-CF1(H)CF2(H)CF1(H)<0,CF2(H)<0:CF1,2(H)=CF1(H)+CF2(H)+CF1(H)CF2(H)CF1(H)和CF2(H)異號:CF1,2(H)=CF1(H)+CF2(H)12/9/202274IFE1THENH(CF(H,E1))3、多在MYCIN系統(tǒng)的基礎(chǔ)上形成的專家系統(tǒng)工具EMYCIN,將其修改為:在組合兩個以上的獨(dú)立證據(jù)時,可先組合其中兩個,再將結(jié)果與第三個證據(jù)組合,如此下去,直到組合完畢為止。當(dāng)CF1(H)0,CF2(H)0時:CF1,2(H)=CF1(H)+CF2(H)-CF1(H)CF2(H)當(dāng)CF1(H)<0,CF2(H)<0:CF1,2(H)=CF1(H)+CF2(H)+CF1(H)CF2(H)當(dāng)CF1(H)和CF2(H)異號時:12/9/202275在MYCIN系統(tǒng)的基礎(chǔ)上形成的專家系統(tǒng)工具EMYCIN,將其即:已知規(guī)則IFETHENHCF(H,E)及CF(H),求CF(H|E)4、在已知結(jié)論原始可信度的情況下,結(jié)論可信度的更新計算方法這時分三種情況進(jìn)行討論。12/9/202276即:已知規(guī)則4、在已知結(jié)論原始可信度的情況下,結(jié)論可信度的更CF(H)0,CF(H,E)0:CF(H|E)=CF(H)+CF(H,E)-CF(H,E)CF(H)CF(H)<0,CF(H,E)<0:CF(H|E)=CF(H)+CF(H,E)+CF(H,E)CF(H) CF(H)和CF(H,E)異號:①當(dāng)CF(E)=1時,即證據(jù)肯定出現(xiàn)時12/9/202277CF(H)0,CF(H,E)0:①當(dāng)CF(E)CF(H)0,CF(H,E)0:CF(H|E)=CF(H)+CF(H,E)CF(E)-CF(H)CF(H,E)CF(E)CF(H)<0,CF(H,E)<0:CF(H|E)=CF(H)+CF(H,E)CF(E)+CF(H)CF(H,E)CF(E)CF(H)和CF(H,E)異號:②當(dāng)0<CF(E)<1時12/9/202278CF(H)0,CF(H,E)0:②當(dāng)0<CF(③當(dāng)CF(E)0時在MYCIN系統(tǒng)中就規(guī)定,當(dāng)CF(E)0.2時,規(guī)則IFETHENH不可使用。結(jié)論可信度的合成算法和更新算法本質(zhì)上是一致的,但對不同前提條件,使用不同的方法,解題的效果或難易程度不同。有些題目使用合成法求解就比較容易,而有些題目就需要使用更新法。規(guī)則不可使用,對結(jié)論H的可信度無影響。12/9/202279③當(dāng)CF(E)0時在MYCIN系統(tǒng)中就規(guī)定,當(dāng)CF(E)R1:IFA1THENB1CF(B1,A1)=0.8R2:IFA2THENB1CF(B1,A2)=0.5R3:IFB1A3THENB2

CF(B2,B1A3)=0.8并且已知:CF(A1)=CF(A2)=CF(A3)=1而對B1,B2一無所知。求CF(B1)和CF(B2)。三、可信度方法應(yīng)用舉例1、多條知識下,合成法求結(jié)論可信度舉例舉例112/9/202280R1:IFA1THENB1CF(B1,A1)=0.解:由于對B1,B2的初始可信度一無所知,使用合成算法計算A1B1R1A2R2A3B2R3①對知識R1和R2,分別計算CF(B1)CF1(B1)=CF(B1,A1)max{0,CF(A1)}=0.81=0.8CF2(B1)=CF(B1,A2)max{0,CF(A2)}=0.51=0.5②利用合成算法計算B1的綜合可信度CF1,2(B1)=CF1(B1)+CF2(B1)-CF1(B1)CF2(B1)=0.8+0.5-0.80.5=0.9③計算B2的可信度CF(B2)CF(B2)=CF(B2,B1A3)max{0,CF(B1A3)}=0.8max{0,min{CF(B1),CF(A3)}}=0.8max{0,min{0.9,1}}=0.8max{0,0.9}=0.80.9=0.7212/9/202281解:由于對B1,B2的初始可信度一無所知,使用合成算法計算AR1:IFE1THENHCF(H,E1)=0.8R2:IFE2THENHCF(H,E2)=0.6R3:IFE3THENHCF(H,E3)=-0.5R4:IFE4(E5E6)THENE1CF(E1,E4(E5E6))=0.7R5:IFE7E8THENE3CF(E3,E7E8)=0.9在系統(tǒng)運(yùn)行中已從用戶處得:CF(E2)=0.8,CF(E4)=0.5,CF(E5)=0.6,CF(E6)=0.7,CF(E7)=0.6,CF(E8)=0.9求:CF(H)舉例212/9/202282R1:IFE1THENHCF(H,E解:由已知知識建立推理網(wǎng)絡(luò)如圖。E1HR1E2R2E3R3E4E5E6R4E8E7R512/9/202283解:由已知知識建立推理網(wǎng)絡(luò)如圖。E1HR1E2R2E3R3E由R4:CF(E1)=CF(E1,E4(E5E6))max{0,CF(E4(E5E6))=0.7max{0,min{CF(E4),CF(E5E6)}}=0.7max{0,min{CF(E4),max{CF(E5),CF(E6)}}}=0.7max{0,min{CF(E4),max{0.6,0.7}}}=0.7max{0,min{CF(E4),0.7}}=0.7max{0,min{0.5,0.7}}=0.7max{0,0.5}=0.70.5=0.35由R5:CF(E3)=CF(E3,E7E8)max{0,CF(E7E8)}=0.9max{0,min{CF(E7),CF(E8)}}=0.9max{0,min{0.6,0.9}}=0.9max{0,0.6}=0.90.6=0.5412/9/202284由R4:CF(E1)=CF(E1,E4(E5E6))m由R1:將R1和R2兩條知識合成:CF1,2(H)=CF1(H)+CF2(H)-CF1(H)CF2(H)=0.28+0.48-0.280.48=0.6256CF1(H)=CF(H,E1)max{0,CF(E1)}=0.8max{0,0.35}=0.80.35=0.28由R2:CF2(H)=CF(H,E2)max{0,CF(E2)}=0.6max{0,0.8}=0.60.8=0.48由R3:CF3(H)=CF(H,E3)max{0,CF(E3)}=-0.5max{0,0.54}=-0.50.54=-0.2712/9/202285由R1:將R1和R2兩條知識合成:CF1,2(H)=CF1(將CF1,2(H)和CF3(H)合成12/9/202286將CF1,2(H)和CF3(H)合成12/7/202286規(guī)則可信度為:2、多條知識下,更新法求結(jié)論可信度舉例證據(jù)可信度為:CF(A)=CF(B)=CF(C)=CF(D)=0.5X,Y的初始可信度為:CF0(X)=0.1,CF0(Y)=0.2要求用MYCIN的方法計算:結(jié)論X的可信度CF(X)結(jié)論Y的可信度CF(Y)R1:AX CF(X,A)=0.8R2:BX CF(X,B)=0.6R3:CX CF(X,C)=0.4R4:XDY CF(Y,XD)=0.3舉例312/9/202287規(guī)則可信度為:2、多條知識下,更新法求結(jié)論可信度舉例證據(jù)可信解:考慮X,Y具有初始可信度,故用更新法計算結(jié)論可信度。先計算X的可信度更新值:CF(A)=CF(B)=CF(C)=CF(D)=0.5<1由R1:CF(X|A)=CF0(X)+CF(X,A)CF(A)-CF0(X)CF(X,A)CF(A)=0.1+0.80.5-0.10.80.5=0.46由R2:CF(X|AB)=CF(X|A)+CF(X,B)CF(B)-CF(X|A)CF(X,B)CF(B)=0.46+0.60.5-0.460.60.5=0.62212/9/202288解:考慮X,Y具有初始可信度,故用更新法計算結(jié)論可信度。先計由R3:CF(X|ABC)=CF(X|AB)+CF(X,C)CF(C)-CF(X|AB)CF(X,C)CF(C)=0.622+0.40.5-0.6220.40.5=0.698則CF(X)=0.698CF(XD)=min{CF(X),CF(D)}=min{0.698,0.5}=0.5由R4:CF(Y|D)=CF0(Y)+CF(Y,D)CF(D)-CF0(Y)CF(Y,D)CF(D)=0.2+0.30.5-0.20.30.5=0.32則CF(Y)=0.3212/9/202289由R3:CF(X|ABC)=CF(X|AB)+CF(R1:IFA1THENB1 CF(B1,A1)=0.8R2:IFA2THENB1 CF(B1,A2)=0.5R3:IFB1A3THENB2 CF(B2,B1A3)=0.8并且已知:CF(A1)=CF(A2)=CF(A3)=1對B1,B2一無所知,其可信度為:CF0(B1)=CF0(B2)=0求:CF(B1)和CF(B2)舉例412/9/202290R1:IFA1THENB1 CF(B1,A1)=由R1:使用更新法。由于CF(A1)=CF(A2)=CF(A3)=1使用R1規(guī)則后,CF(B1)由0提高到0.8由R2:CF(B1|A1A2)=CF(B1|A1)+CF(B1,A2)-CF(B1|A1)CF(B1|A1)=0.8+0.5-0.80.5=0.9所以CF(B1)的更新值為0.9CF(B1A3)=min{CF(B1),CF(A3)}=min{0.9,1}=0.9CF(B1|A1)=CF0(B1)+CF(B1,A1)-CF(B1,A1)CF0(B1)=0+0.8-0=0.812/9/202291由R1:使用更新法。由于CF(A1)=CF(A2)=CF(A由R3:使用合成算法的前提是:結(jié)論的原來可信度是0,即對結(jié)論的情況一無所知。在這種情況下,這兩種算法是等價的。從某種意義上來說,合成算法是更新算法的一個特例。CF(B2|B1A3)=CF0(B2)+CF(B2,B1A3)CF(B1A3)-CF0(B2)CF(B2,B1A3)CF(B1A3)=0+0.80.9-0=0.7212/9/202292由R3:使用合成算法的前提是:結(jié)論的原來可信度是0,即對結(jié)論第一章不確定知識表示及推理12/9/202293第一章12/7/20221內(nèi)容1.1概述1.2概率模型1.3主觀Bayes方法1.4可信度方法12/9/202294內(nèi)容12/7/202221.1概述12/9/2022951.1概述12/7/20223所謂不確定性推理就是從不確定性的初始事實(shí)(證據(jù))出發(fā),通過運(yùn)用不確定的知識,最終推出具有一定程度的不確定性卻是合理或者近乎合理的結(jié)論的思維過程。需要解決的問題:不確定性的表示不確定性的匹配不確定性的更新算法12/9/202296所謂不確定性推理就是從不確定性的初始事實(shí)(證據(jù))出發(fā),通過運(yùn)證據(jù)的不確定性一、不確定性的表示證據(jù)通常有兩類:一類為初始事實(shí)。這一類證據(jù)多來源于觀察,因而通常具有不確定性;另一類為推理過程中產(chǎn)生的中間結(jié)果。證據(jù)不確定性用C(E)表示,它代表相應(yīng)證據(jù)的不確定性程度,即表示證據(jù)E為真的程度。如果E為初始事實(shí),則C(E)由用戶給出。如果E為推理過程中產(chǎn)生的中間結(jié)果,則C(E)可以通過不確定性的更新算法來計算。知識的不確定性12/9/202297證據(jù)的不確定性一、不確定性的表示證據(jù)通常有兩類:知識的規(guī)則:IFETHENH規(guī)則是知識,E是規(guī)則的前提即證據(jù),H是該規(guī)則的結(jié)論,也可以是其他規(guī)則的證據(jù)。EHC(E)C(H)f(E,H)規(guī)則的不確定性通常用一個數(shù)值f(E,H)表示,稱為規(guī)則強(qiáng)度。規(guī)則的假設(shè)(結(jié)論)H也可以作為其他規(guī)則的證據(jù),其不確定用C(H)表示,C(H)必須通過不確定性的更新算法來計算。12/9/202298規(guī)則:IFETHENH規(guī)則是知識,E是規(guī)則的前提即證據(jù)在確定一種量度方法及其范圍時,應(yīng)注意以下幾點(diǎn):量度要能充分表達(dá)相應(yīng)的知識和證據(jù)的不確定性程度。量度范圍的指定應(yīng)便于領(lǐng)域?qū)<壹坝脩魧Σ淮_定性的估計。量度要便于對不確定性的更新進(jìn)行計算,而且對結(jié)論算出的不確定性量度不能超出量度的范圍量度的確定應(yīng)當(dāng)是直觀的,同時應(yīng)有相應(yīng)的理論依據(jù)。12/9/202299在確定一種量度方法及其范圍時,應(yīng)注意以下幾點(diǎn):量度要能二、不確定性的匹配算法設(shè)計一個數(shù)用來計算匹配雙方相似的程度,另外再指定一個相似的限度(稱為閾值),用來衡量匹配雙方相似的程度是否落在指定的限度內(nèi)。如果落在指定的限度內(nèi),就稱它們是可匹配的,相應(yīng)的知識可被應(yīng)用。否則就稱它們是不可匹配的,相應(yīng)的知識不可應(yīng)用。12/9/2022100二、不確定性的匹配算法設(shè)計一個數(shù)用來計算匹配雙方相似的程度三、不確定性的更新算法即在推理過程中如何考慮知識不確定性的動態(tài)積累和傳遞。1、已知規(guī)則前提的不確定性C(E)和規(guī)則的強(qiáng)度f(E,H),如何求假設(shè)H的不確定性C(H)。即定義算法g1,使C(H)=g1[C(E),f(E,H)]E1HC(E1)C(H)f(E1,H)E2HC(E2)C(H)f(E2,H)2、并行規(guī)則算法定義算法g2:C(H)=g2[C1(H),C2(H)]12/9/2022101三、不確定性的更新算法即在推理過程中如何考慮知識不確定性的3、證據(jù)合取的不確定性算法C(E1

E2)=g3[C(E1),C(E2)]C(E1E2)=g4[C(E1),C(E2)]4、證據(jù)析取的不確定性算法合取和析取的不確定性算法統(tǒng)稱為組合證據(jù)的不確定性算法。最大最小法C(E1E2)=min{C(E1),C(E2)}C(E1E2)=max{C(E1),C(E2)}C(EE2)=C(E1)C(E2)C(EE2)=C(E1)+C(E2)-C(E1)C(E2)有界方法概率方法C(E1E2)=max{0,C(E1)+C(E2)-1}C(E1E2)=min{1,C(E1)+C(E2)}12/9/20221023、證據(jù)合取的不確定性算法C(E1E2)=g3[設(shè)A1、A2、A3、A4為原始證據(jù),不確定性分別為:C(A1)、C(A2)、C(A3)、C(A4)求A5、A6、A7的不確定性。舉例A1A2ORA4A3ANDA5R1f1A6R2f2A7R3f3R4f412/9/2022103設(shè)A1、A2、A3、A4為原始證據(jù),不確定性分別為:舉例A1①由證據(jù)A1和A2的不確定性C(A1)和C(A2)②由A1和A2析取的不確定性C(A1A2)和規(guī)則R1的規(guī)則強(qiáng)度f1根據(jù)算法4求出A1和A2析取的不確定性C(A1A2)。根據(jù)算法1求出A5的不確定性C(A5)。③由證據(jù)A3和A4的不確定性C(A3)和C(A4)④由A3和A4合取的不確定性C(A3

A4)和規(guī)則R2的規(guī)則強(qiáng)度f2,根據(jù)算法3求出A3和A4合取的不確定性C(A3

A4)。根據(jù)算法1求出A6的不確定性C(A6)。12/9/2022104①由證據(jù)A1和A2的不確定性C(A1)和C(A2)②由A1和⑤由A5的不確定性C(A5)和規(guī)則R3的規(guī)則強(qiáng)度f3⑥由A6的不確定性C(A6)和規(guī)則R4的規(guī)則強(qiáng)度f4⑦由A7的兩個根據(jù)獨(dú)立證據(jù)分別求出的不確定性C(A7)和C(A7)根據(jù)算法1求出A7的其中一個不確定性C(A7)。根據(jù)算法1求出A7的另外一個不確定性C(A7)。根據(jù)算法2求成A7最后的不確定性C(A7)。12/9/2022105⑤由A5的不確定性C(A5)和規(guī)則R3的規(guī)則強(qiáng)度f3⑥由A61.2

概率方法12/9/20221061.2概率方法12/7/202214一、基礎(chǔ)1、全概率公式②P(Ai)>0;①兩兩互不相容,即當(dāng)ij時,有設(shè)事件滿足:③,D為必然事件則對任何事件B有下式成立:提供了一種計算P(B)的方法。12/9/2022107一、基礎(chǔ)1、全概率公式②P(Ai)>0;①兩兩互不相容,即2、Bayes公式定理:設(shè)事件滿足上述定理的條件,則對任何事件B有:該定理稱為Bayes定理,上式稱為Bayes公式。12/9/20221082、Bayes公式定理:設(shè)事件滿足上述定理的條件,則對任何事如果把全概率公式代入Bayes公式中,就可得到:即:12/9/2022109如果把全概率公式代入Bayes公式中,就可得到:即:12/7二、概率推理模型Bayes方法用于不精確推理的條件是已知:P(E),P(H),P(E|H)IFETHENH①若一組證據(jù)E1,E2,En同時支持假設(shè)H時,則:對于H,E1,E2,En之間相互獨(dú)立對于一般的不精確推理網(wǎng)絡(luò),必須做如下約定:②當(dāng)一個證據(jù)E支持多個假設(shè)H1,H2,Hn時,則:假設(shè)H1,H2,Hn之間互不相容12/9/2022110二、概率推理模型Bayes方法用于不精確推理的條件是已知:P如果一個證據(jù)E支持多個假設(shè)H1,H2,Hn,即:IFETHENHi并已知P(Hi)和P(E|Hi),則如果有多個證據(jù)E1,E2,Em和多個結(jié)論H1,H2,Hn,則:12/9/2022111如果一個證據(jù)E支持多個假設(shè)H1,H2,Hn,即:IFE設(shè)已知:P(H1)=0.4,P(H2)=0.3,P(H3)=0.3P(E1|H1)=0.5,P(E1|H2)=0.6,P(E1|H3)=0.3P(E2|H1)=0.7,P(E2|H2)=0.9,P(E2|H3)=0.1=0.45同理求:P(H1|E1E2),P(H2|E1E2),P(H3|E1E2)舉例12/9/2022112設(shè)已知:P(H1)=0.4,P(H2)=0.3,P(H3概率推理模型的優(yōu)缺點(diǎn)有較強(qiáng)的理論背景和良好的數(shù)學(xué)特征,當(dāng)證據(jù)及結(jié)論都彼此獨(dú)立時,計算的復(fù)雜度比較低。它要求給出結(jié)論Hi的先驗(yàn)概率P(Hi)及證據(jù)Ej的條件概率P(Ej|Hi),要獲得這些數(shù)據(jù)是一件相當(dāng)困難的工作。Bayes公式的應(yīng)用條件很嚴(yán)格,它要求各事件互相獨(dú)立,若證據(jù)之間存在依賴關(guān)系,就不能直接使用這個方法12/9/2022113概率推理模型的優(yōu)缺點(diǎn)有較強(qiáng)的理論背景和良好的數(shù)學(xué)特征,當(dāng)證據(jù)1.3主觀Bayes方法12/9/20221141.3主觀Bayes方法12/7/202222EHP(E)P(H)LS,LNLS,LN(0)分別稱為充分性量度和必要性量度,這兩個數(shù)值由領(lǐng)域?qū)<医o出。一、不確定性的表示1、知識的不確定性表示IFETHEN(LS,LN)H(P(H))12/9/2022115EHP(E)P(H)LS,LNLS,LN(0)分別稱為充分O等價于概率函數(shù)P,定義如下:P越大則O越大,P和O在概率含義上等價的,但取值范圍不同:當(dāng)P<0.5時,O<1P[0,1],O[0,)當(dāng)P>0.5時,O>1當(dāng)P=0.5時,O=1當(dāng)P=0時,O=0幾率函數(shù)O(odds)12/9/2022116O等價于概率函數(shù)P,定義如下:P越大則O越大,P和O在概率含H的先驗(yàn)幾率O(H)和后驗(yàn)幾率O(H|E)12/9/2022117H的先驗(yàn)幾率O(H)和后驗(yàn)幾率O(H|E)12/7/2022同理可得:O(H|E)=LNO(H)O(H|E)=LSO(H)12/9/2022118同理可得:O(H|E)=LNO(H)O(H|E)①LS:規(guī)則的充分性量度LS=1時,O(H|E)=O(H),說明E對H沒有影響;LS>1時,O(H|E)>O(H),說明E支持H,且LS越大,E對H的支持越充分??梢姡珽的出現(xiàn)對H為真是充分的,故稱LS為充分性度量。LS<1時,O(H|E)<O(H),說明E排斥H。若LS為,則E為真時H就為真;若LS為0時,則E為真時H就為假;當(dāng)證據(jù)E越是支持H為真是,則使相應(yīng)LS的值越大。反映E出現(xiàn)對H的支持程度。12/9/2022119①LS:規(guī)則的充分性量度LS=1時,O(H|E)=O(H),②LN:規(guī)則的必要性量度LN=1時,O(H|E)=O(H),說明E對H沒有影響;LN>1時,O(H|E)>O(H),說明E支持H,且LN越大,E對H的支持越充分。當(dāng)LN<1時,O(H|E)<O(H),說明E排斥H。若LN為,則E為真時H就為真;若LN為0時,則E為真時H就為假;由于E不出現(xiàn),將導(dǎo)致H為假,可看出E對H為真的必要性,故稱LN為必要性度量。若證據(jù)E對H越是必要,則相應(yīng)的LN的值越小。反映E不出現(xiàn)對H的支持程度,即E的出現(xiàn)對H的必要性。12/9/2022120②LN:規(guī)則的必要性量度LN=1時,O(H|E)=O(H)③LS和LN的關(guān)系LS>1且LN<1LS<1且LN>1LS=LN=1由于E和E不可能同時支持H或同時反對H,所以領(lǐng)域?qū)<以跒橐粭l知識中的LS和LN賦值時,不應(yīng)該同時大于1或同時小于1。12/9/2022121③LS和LN的關(guān)系LS>1且LN<1LS<12、證據(jù)的不確定性表示在主觀Bayes方法中,證據(jù)E的不確定性由用戶根據(jù)觀察S給出后驗(yàn)概率P(E|S)或后驗(yàn)幾率O(E|S)表示。當(dāng)E為真時,P(E|S)=1,O(E|S)=當(dāng)E為假時,P(E|S)=0,O(E|S)=0當(dāng)E不確定時,0<P(E|S)<112/9/20221222、證據(jù)的不確定性表示在主觀Bayes方法中,證據(jù)E的不確定二、主觀Bayes方法推理的基本算法P(H)P(H|E)P(H|E)P(E|S)LS,LN根據(jù)證據(jù)E的后驗(yàn)概率P(E|S)及LS,LN的值,把H的先驗(yàn)概率P(H)更新為后驗(yàn)概率P(H|E)或P(H|E)。即:12/9/2022123二、主觀Bayes方法推理的基本算法P(H)P(H|E)P(當(dāng)P(E|S)=11、證據(jù)E確定則:O(H|E)=LSO(H)12/9/2022124當(dāng)P(E|S)=11、證據(jù)E確定則:O(H|E)=當(dāng)P(E|S)=1則:O(H|E)=LNO(H),同理可得:12/9/2022125當(dāng)P(E|S)=1則:O(H|E)=LNO(在證據(jù)不確定的情況下,不能再用上面的公式計算后驗(yàn)概率,而要用杜達(dá)(R.O.DUDA)等人于1976年證明了的如下公式:2、證據(jù)E不確定當(dāng)P(E|S)=1時,P(E|S)=0P(H|S)=P(H|E)當(dāng)P(E|S)=0時,P(E|S)=1P(H|S)=P(H|E)當(dāng)P(E|S)=P(E)時:P(H|S)=P(H|E)P(E)+P(H|E)P(E)=P(H)當(dāng)P(E|S)為其它值時,通過分段線性插值可得計算P(H|S)的公式,如圖所示。P(H|S)=P(H|E)P(E|S)+P(H|E)P(E|S)此即為證據(jù)確實(shí)存在的情況此即為證據(jù)確實(shí)不存在的情況12/9/2022126在證據(jù)不確定的情況下,不能再用上面的公式計算后驗(yàn)概率,而要用P(E|S)P(H|S)0P(H|E)P(H)P(E)P(H|E)112/9/2022127P(E|S)P(H|S)0P(H|E)P(H)P(E)P(函數(shù)的解析式,即EH公式P(H|E)、P(H|E)、P(H):根據(jù)專家給出的參數(shù)可計算出來EH公式中,有兩組參數(shù)需要確認(rèn):P(E|S):由用戶根據(jù)觀察S給出P(E|S)相當(dāng)困難,所以引入可信度的概念采用-55這11個整數(shù)作為證據(jù)的可信度,用戶根據(jù)實(shí)際情況選擇。12/9/2022128函數(shù)的解析式,即EH公式P(H|E)、P(H|E)C(E|S)=5,表示在觀察S之下證據(jù)E肯定存在,即P(E|S)=1。可信度C(E|S)和概率P(E|S)的對應(yīng)關(guān)系C(E|S)=-5,表示在觀察S之下證據(jù)E肯定不存在,即P(E|S)=0。C(E|S)=0,表示S與E無關(guān)系,即P(E|S)=P(E)。C(E|S)為其他數(shù)時與P(E|S)的對應(yīng)關(guān)系,可通過對上述3點(diǎn)進(jìn)行分段線性插值得到,如圖所示。12/9/2022129C(E|S)=5,表示在觀察S之下證據(jù)E肯定存在,即C(E|S)P(E|S)012345-1-2-3-4-51P(E)12/9/2022130C(E|S)P(E|S)012345-1-2-3-4-51PC(E|S)與P(E|S)的關(guān)系式CP公式12/9/2022131C(E|S)與P(E|S)的關(guān)系式CP公式12/7/2022當(dāng)用初始證據(jù)進(jìn)行推理時,通過提問用戶得到C(E|S),通過運(yùn)用CP公式就可求出P(H|S)當(dāng)用推理過程中得到的中間結(jié)論作為證據(jù)進(jìn)行推理時,通過運(yùn)用EH公式就可求得P(H|S)具體思路12/9/2022132當(dāng)用初始證據(jù)進(jìn)行推理時,通過提問用戶得到C(E|S),3、證據(jù)E為若干證據(jù)的組合①獨(dú)立證據(jù)導(dǎo)出同一假設(shè)當(dāng)有n個證據(jù)Ei(i=1,2,,n)對假設(shè)H都有某種程度的影響時,即存在規(guī)則E1H,E2H,,EnH,Ei之間相互獨(dú)立,且對每個Ei都有相應(yīng)的觀察Si與之對應(yīng)。求在所有觀測之下的后驗(yàn)概率:P(H|S1&S2&&Sn)12/9/20221333、證據(jù)E為若干證據(jù)的組合①獨(dú)立證據(jù)導(dǎo)出同一假設(shè)當(dāng)有n個證據(jù)合成法O(H|S1&S2&&Sn)=只要對每條規(guī)則分別求出O(H|Si),則這些獨(dú)立證據(jù)的組合所得到的H的后驗(yàn)幾率。12/9/2022134合成法O(H|S1&S2&&Sn)=只要對每條規(guī)則分別結(jié)論更新算法先利用第一條規(guī)則對結(jié)論的先驗(yàn)概率進(jìn)行更新,再把得到的后驗(yàn)概率當(dāng)作第二條規(guī)則的先驗(yàn)概率;再用第二條知識對其進(jìn)行更新,把更新后的值作為第三條知識的先驗(yàn)概率;繼續(xù)更新到所有的規(guī)則都使用完。12/9/2022135結(jié)論更新算法先利用第一條規(guī)則對結(jié)論的先驗(yàn)概率進(jìn)行更新,再把得②證據(jù)的合取E=E1E2En如果在觀察S下,其概率為:P(E1|S),P(E2|S),,P(En|S)則:P(E|S)=min{P(E1|S),P(E2|S),,P(En|S)}12/9/2022136②證據(jù)的合取E=E1E2En如果在觀察S下,其概率為③證據(jù)的析取E=E1E2En如果在觀察S下,證據(jù)其概率為:P(E1|S),P(E2|S),,P(En|S)則:P(E|S)=max{P(E1|S),P(E2|S),,P(En|S)}12/9/2022137③證據(jù)的析取E=E1E2En如果在觀察S下,證據(jù)其概設(shè)有如下知識:三、主觀Bayes方法應(yīng)用舉例已知:結(jié)論B的先驗(yàn)概率P(B)=0.03。當(dāng)證據(jù)A1,A2,A3,A4必然發(fā)生后,求結(jié)論B的概率變化。R1:IFA1THEN(20,1)BR2:IFA2THEN(300,1)BR3:IFA3THEN(75,1)BR4:IFA4THEN(4,1)B12/9/2022138設(shè)有如下知識:三、主觀Bayes方法應(yīng)用舉例已知:結(jié)論B的先A1A2A3A4BS1S2S3S4201300175141解法1:利用合成算法12/9/2022139A1A2A3A4BS1S2S3S420300754解法1:利依據(jù)規(guī)則R1:依據(jù)規(guī)則R2:依據(jù)規(guī)則R3:12/9/2022140依據(jù)規(guī)則R1:依據(jù)規(guī)則R2:依據(jù)規(guī)則R3:12/7/2022依據(jù)規(guī)則R4:12/9/2022141依據(jù)規(guī)則R4:12/7/202249解法2:利用更新算法12/9/2022142解法2:利用更新算法12/7/202250R1:IFE1THEN(2,0.001)H1設(shè)有如下規(guī)則:R3:IFH1THEN(65,0.01)H2R2:IFE2THEN(100,0.001)H1R4:IFE3THEN(300,0.01)H2且已知先驗(yàn)幾率:O(H1)=0.1,O(H2)=0.01通過提問用戶得到:C(E1|S1)=3,C(E2|S2)=1,C(E3|S3)=-2求:O(H2|S1S2S3)。舉例12/9/2022143R1:IFE1THEN(2,0.001)20.0011000.001650.013000.01E1E2S1S3H1

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論