不確定性推理UncertaintyReasoning

13.5.1不確定性推理的基本問題不確定性的表示與度量不確定性知識的匹配組合證據(jù)的不確定性不確定性的傳遞算法結(jié)論不確定性的合成2不確定性的表示與度量不確定性的表示

1.如何準確描述問題本身的不確定性？2.如何便于推理過程中不確定性的計算？

不確定性的數(shù)值表示靜態(tài)強度動態(tài)強度知識證據(jù)模糊不確定值可信度證據(jù)理論主觀Bayes概率3不確定性的匹配推理過程是一個不斷尋找和運用可用知識的過程。所謂可用知識，是指其前提條件可與已知事實相匹配的知識。在不確定性推理中，通?；谄ヅ潆p方的相似度進行匹配。4組合證據(jù)的不確定性知識的前提條件可以是若干簡單條件連接起來構(gòu)成的復(fù)合條件，稱為組合證據(jù)組合證據(jù)不確定性的常用計算方法：

1.最大最小方法2.概率方法3.有界方法5不確定性的傳遞與合成不確定性的傳遞：

在每一步推理中，如何把證據(jù)及知識的不確定性傳遞給結(jié)論？

在多步推理中，如何把初始證據(jù)的不確定性傳遞給最終結(jié)論？結(jié)論不確定性的合成：

用不同知識進行推理得到了相同結(jié)論，但不確定性的程度不相同

6例：“前提是咳嗽，結(jié)論是肺炎”的概率一種方法是在患咳嗽的人中統(tǒng)計得肺炎的人數(shù)，由于患咳嗽的人很多，因此需要做大量的統(tǒng)計工作。由于患肺炎的人比患咳嗽的人少很多，因此更可行的方法是在患肺炎的人中統(tǒng)計咳嗽的人數(shù)，然后通過Bayes公式即可確定上述知識的概率。9模糊理論模糊性

人們在認識客觀事物的過程中產(chǎn)生各種概念，概念反映事物的本質(zhì)屬性和特征，包括內(nèi)涵和外延兩個方面。

內(nèi)涵---概念所反映的對象的特有屬性，質(zhì)的方面

外延---概念所反映的對象的總和，量的方面

男生，女生，教授，講師…..

老教授，青年教師，高個子…..

概念的外延沒有明確的邊界，存在模糊性10模糊理論隸屬度：模糊性的度量，反映一事物屬于某一模糊概念范疇的程度

μA:U→[0,1]

例如“20歲左右”可以表示為：

0.8/18+0.9/19+1/20+0.9/21+0.8/22…具有近似性、非線性與隨機性的區(qū)別事物明確，狀態(tài)不定----隨機性事物本身不明確---模糊性《FuzzySet》,L.A.Zadeh,1965113.5.3可信度方法在確定性理論的基礎(chǔ)上，結(jié)合概率論提出的一種不確定性推理方法E.H.Shortliffe，斯坦福大學(xué)，1975在血液病診斷專家系統(tǒng)MYCIN中得到了成功應(yīng)用直觀、簡單且有效12什么是可信度？人們根據(jù)以往經(jīng)驗對某個事物或現(xiàn)象為真的程度的判斷，或者說是人們對某個事物或現(xiàn)象為真的相信程度。例：

沈強昨天沒來上課，理由是頭疼?？尚哦染哂休^大的主觀性和經(jīng)驗性，準確性難以把握。但由于領(lǐng)域?qū)＜揖哂胸S富的專業(yè)知識及實踐經(jīng)驗，給出該領(lǐng)域知識的可信度還是可行的。13C-F模型基于可信度表示的不確定性推理基本方法。知識不確定性的表示

IFETHENH（CF（H,E））產(chǎn)生式表示可信度(CertaintyFactor)[-1,1]例：

IF發(fā)燒AND流鼻涕THEN感冒（0.8）14可信度的計算CF（H，E）=MB（H，E）-MD（H，E）信任增長度不信任增長度

1，若P（H）=1

MB（H，E）=max{P(H/E),P(H)}-P(H)

1-P(H) ,否則1，若P（H）=0

MD（H，E）=min（P(H/E），P(H)）-P（H）

-P(H),否則15可信度的計算MB（H，E）=(P(H/E)-P(H))/(1-P(H)),若P(H/E)>P(H)

CF(H,E)=0,若P(H/E)=P(H)-MD（H，E）=-(P(H)-P(H/E))/P(H),若P(H/E)<P(H)1.CF（H,E）＞O，則P（H/E）＞P（H）。說明前提條件E的出現(xiàn)增加了H為真的概率，即增加了H為真的可信度。極大值：CF（H,E）=12.

CF（H,E）=O，則P（H/E）=P（H）說明E所對應(yīng)的證據(jù)與H無關(guān)。3.

CF（H，E）＜0，則P（H/E）＜P（H）。說明由于前提條件E的出現(xiàn)減少H為真的概率，即增加了H為假的可信度。極小值：CF（H，E）=-1P(H/E)11-10MBMD16可信度的性質(zhì)互斥性同一證據(jù)，不能同時增加對H的信任程度，和對H的不信任程度

當MB（H，E）＞O時，MD（H，E）=0當MD（H，E）＞O時，MB（H，E）=O同一前提E支持若干個不同的結(jié)論H1,...,Hn，則

∑CF（Hi，E）≦1i=1,...,n

例：如果專家給出的知識有如下情況

CF（H1,E）＝O.7，CF（H2,E）＝O.4

因O.7＋O.4=1．l＞1為非法，應(yīng)進行調(diào)整或規(guī)范化。17可信度的性質(zhì)對H的信任增長度等于對非H的不信任增長度

MD(￢H,E)=(P(￢H,E)-P(￢H))/(-P(￢H))=((1-P(H,E))–(1-P(H)))/(P(H)-1)=((P(H)-P(H,E))/(P(H)-1)=(-(P(H,E)-P(H))/-(1-P(H))=MB(H,E)CF（H，E）＋CF（￢H，E）＝MB（H，E）－MD（H，E）＋MB（￢H，E）－MD（￢H，E）

＝MB（H，E）-0＋0-MD（￢H，E））＝MB（H，E）-MD（￢H，E）＝0

實際應(yīng)用中P（H）和P（H／E）的值很難獲得，CF（H，E）的值多由領(lǐng)域?qū)＜抑苯咏o出。可信度不是概率！18證據(jù)的不確定性同樣采用“可信度”可信度的來源

1.初始證據(jù)：可信度由提供證據(jù)的用戶給出。2.中間結(jié)論作為當前推理的證據(jù)：可信度是在推出該結(jié)論時由不確定性的傳遞算法計算得到。組合證據(jù)不確定性的計算

1.

E＝E1ANDE2AND…ANDEn

CF（E）＝min｛CF（E1），CF（E2），…，CF（En）｝2.E＝E1ORE2OR…OREn

CF（E）=max｛CF（E1），CF（E2），…，CF（En）｝19不確定性的傳遞C－F模型中的不確定性推理實際上是從不確定性的初始證據(jù)出發(fā)，不斷運用相關(guān)的不確定性知識，逐步推出最終結(jié)論和該結(jié)論可信度的過程。每一次運用不確定性知識，都需要由證據(jù)的不確定性和知識的不確定性去計算結(jié)論的不確定性。計算公式如下：

CF（H）=CF（H，E）*max{0,CF（E）}1.CF（E）＜0，即相應(yīng)證據(jù)以某種程度為假，則CF（H）＝0。說明在該模型中沒有考慮證據(jù)為假時對結(jié)論H所產(chǎn)生的影響。2.CF（E）=1，上式可推出CF（H）=CF（H，E）。說明當證據(jù)為真時，結(jié)論H的可信度等于知識的靜態(tài)強度。20結(jié)論不確定性的合成由多條知識推出相同結(jié)論，并且這些知識的前提相互獨立，結(jié)論的可信度又不相同，則需計算該結(jié)論的綜合可信度。通過兩兩合成實現(xiàn)：

（1）分別對每條知識求出其CF（H）：CF1（H）=CF（H，E1）*max｛O，CF（E1）｝

CF2（H）=CF（H，E2）*max｛0，CF（E2）｝

（2）求E1與E2對H的綜合可信度：

CF1(H)+CF2(H)-CF1(H)*CF2(H),若CF1≥0,CF2≥0

CF1(H)+CF2(H)+CF1(H)*CF2(H),若CF1<0,CF2<0

CF(H)=CF1(H)+CF2(H)

1-min{|CF1(H)|,|CF2(H)|},若CF1,CF2異號21例:設(shè)有如下一組知識：

r1：IFE1THENH(0.9)

r2：IFE2THENH(0.6)

r3：IFE3THENH(-0.5)

r4：IFE4AND(E5ORE6)THENE1(0.8)

已知：CF（E2）=0.8，CF（E3）=0.6，CF（E4）=0.5，CF（E5）=0.6，CF（E6）=0.8求：CF（H）=?CF(E1)=0.8*max(0,min(0.5,max(0.6,0.8)))=0.4HE1E2E3E4E5E6OR0.90.6-0.50.80.80.60.50.60.80.4CF1(H)=0.9*0.4=0.36CF2(H)=0.6*0.8=0.48CF3(H)=-0.5*0.6=-0.30CF12(H)=0.36+0.48-0.36*0.48=0.67CF123(H)=(0.67-0.3)/(1-min(0.67,0.3))=0.37/0.7=0.530.53223.5.4主觀Bayes方法R．O．Duda，1976年提出成功應(yīng)用于地礦勘探專家系統(tǒng)PROSPECTOR知識不確定性的表示

IFETHEN（LS，LN）H

P(E/H)P(┐E/H)1-P(E/H)LS=LN==P(E/┐H)P(┐E/┐H)1-P(E/┐H)LS和LN的取值范圍均為[0，＋∞)23LS和LN的含義

幾率等于H出現(xiàn)的概率與H不出現(xiàn)的概率之比。隨著P(H)的增大，O（H）也在增大，并且P（x）=0時,O（x）=O;P（x）=1時,O（X）→∞

值域從［O，1］放大到[0，＋∞)。幾率：O(H)24幾率和概率的關(guān)系改進Bayes公式當E為真時，可以利用LS將H的先驗幾率O（H）更新為其后驗幾率O（H／E）；

當E為假時，可以用LN將H的先驗幾率O（H）更新為其后驗幾率O（H／┐E)25LS的性質(zhì)當LS＞1時，O（H／E）＞O（H），說明E支持H；LS越大，E對H的支持越充分。當LS→∞時，O（H／E）→∞，即P（H／E）→1，表示由于E的存在，將導(dǎo)致H為真。當LS=l時，O（H／E）=O（H），說明E對H沒有影響。當LS<l時，O（H／E）＜O（H），說明E不支持H。當LS=0時，O（H／E）=0，說明E的存在使H為假。結(jié)論：LS反映的是E的出現(xiàn)對H為真的影響程度。因此，稱LS為知識的充分性度量。26LN的性質(zhì)當LN＞1時，O（H／┐E）＞O（H），說明┐E支持H，即由于E的不出現(xiàn)，增大了H為真的概率。LN越大，┐E對H為真的支持就越強。當LN→∞時，O（H／┐E）→∞，即P（H／┐E）→1，表示由于┐E的存在，將導(dǎo)致H為真。當LN=1時，O(H／┐E)=O(H),說明┐E對H沒有影響。當LN<l時，O（H／┐E）<O（H），說明┐E不支持H。當LN=O時,O（H／IE）=O，說明┐E的存在將導(dǎo)致H為假結(jié)論：LN反映的是當E不存在時對H為真的影響。因此，稱LN為知識的必要性度量。27LS和LN的關(guān)系E和┐E不會同時支持或同時排斥H，因此只有下述三種情況存在：

LS>1且LN<1；LS<1且LN>1；LS=LN=1

LS>1﹤＝﹥P(E/H)/P(E/┐H)>1﹤＝﹥P(E/H)>P(E/┐H)

﹤＝﹥1-P(E/H)<1-P(E/┐H)

﹤＝﹥P(┐E/H)<P(┐E/┐H)

﹤＝﹥P(┐E/H)/P(┐E/┐H)<1﹤＝﹥LN<1

在實際系統(tǒng)中，LS和LN的值均是由領(lǐng)域?qū)＜腋鶕?jù)經(jīng)驗給出的，而不是由LS和LN計算出來的。但計算公式為領(lǐng)域?qū)＜姨峁┝藶長S和LN賦值的依據(jù)。28證據(jù)的不確定性用概率或幾率表示實際應(yīng)用中多采用某種變換的方式。例如，在PROSPECTOR系統(tǒng)中，為方便用戶，引入了可信度C（E／S）的概念。[-5，5]C（E／S）=5*CF（E，S）P（E/S）0-55C（E/S）P（E）1C(E/S)與P(E/S)的對應(yīng)關(guān)系29組合證據(jù)的不確定性1.

E＝E1ANDE2AND…ANDEn

P（E／S）=min{P（E1／S），P（E2／S），…，P（En／S）2.E＝E1ORE2OR…OREn

P（E／S）=max{P（E1／S），P（E2／S），…，P（En／S）｝30不確定性的傳遞主觀Bayes方法推理的任務(wù)就是根據(jù)證據(jù)E的概率P(E)及LS、LN的值，把H的先驗概率P(H）或先驗幾率O(H)更新為后驗概率或后驗幾率。計算公式

311P(E)P(E/S)0P(H/E)1P(H/﹁E)P(H)分段線性插值函數(shù)EH公式32結(jié)論不確定性的合成假設(shè)有n條知識都支持同一結(jié)論H，并且這些知識的前提條件分別是n個相互獨立的證據(jù)E1，E2，…，En，每個證據(jù)對應(yīng)的觀察分別是S1，S2，…，Sn。則在這些觀察下，求H的后驗概率的公式是：33例：如果有規(guī)則

r1：IFE1THEN（2，0.0O01）H1

r2：IFE1ANDE2THEN（1OO，0.0001）H1

r3：IFH1THEN（2O0，O.01）H2

已知：專家給出：O（H1）=0.1，O（H2）=0.01

用戶回答：C（E1／S1）=2，C（E2／S2）=1

求：O（H2／S1，S2）=？H2H1E1andE2r30.1210.01r1r2(2,0.0001)(100,0.0001)(200,0.01)推理網(wǎng)絡(luò)1.O(H1/S1)=0.1382.O(H1/S2)=0.3413.O(H1/S1,S2)=0.4714.O(H2/S1,S2)=0.214343.5.5證據(jù)理論D-S證據(jù)理論A.P.Dempster-G.Shafer用集合表示命題，命題的不確定性問題轉(zhuǎn)化為集合的不確定性問題。將概率論中的單點賦值擴展為集合賦值，弱化了相應(yīng)的公理系統(tǒng)，滿足比概率更弱的要求，可看作一種廣義概率論可以處理由“不知道”引起的不確定性，并且不必事先給出知識的先驗概率。35A.D-S理論的形式描述分別用信任函數(shù)、似然函數(shù)及類概率函數(shù)來描述知識的精確信任度、不可駁斥信任度及估計信任度。概率分配函數(shù)

設(shè)函數(shù)m:2Ω→［O，1］，且滿足

m(Φ)=0

∑m(A)=1(A包含于Ω）

則稱m是2Ω上的概率分配函數(shù)，m（A）稱為A的基本概率數(shù)。36例:

設(shè)Ω={紅，黃，白}，求Ω的冪集2Ω,并定義2Ω上的一個概率分配函數(shù)Ω的冪集：

A0=ΦA(chǔ)1={紅}A2={黃}A3={白}

A4={紅，黃}A5={紅，白}A6={黃，白}

A7={紅，黃，白}=Ω

概率分配函數(shù)：m({},{紅},{黃},{白},{紅，黃},{紅，白},{黃，白},{紅,黃,白}）=（0，0.3，0，0.1，0.2，0.2，0,0.2）

A0A1A2A3A4A5A6A737信任函數(shù)信任函數(shù)（Belieffunction）Bel：2Ω→［0,1」為

Bel(A)=Σm(B)，對所有的其中，2Ω是Ω的冪集。Bel函數(shù)又稱為下限函數(shù)，Bel(A)表示對A為真的總的信任度。例如，對上例有：

Bel({紅})=0.3;Bel({紅,白})=m({紅})+m({白})+m({紅,白})=0.3+0.1+0.2=0.638似然函數(shù)似然函數(shù)(Plausibilityfunction)Pl:2Ω→[0,1]是：

Pl（A）=1-Bel(﹁A)

A包含于Ω，其中﹁A=Ω-A似然函數(shù)又稱之為不可駁斥函數(shù)或上限函數(shù)。Bel(A)表示對A為真的信任度，Bel(﹁A)表示對﹁A為真的信任度，即對A為假的信任度，Pl(A)表示對A為非假的信任度。A0A1A2A3A4A5A6A7Bel({紅})=A1=0.3Pl({紅})=A1+A4+A5=0.9

“紅”為真的信任度Bel({紅})=0.3；0.9是“紅”為非假的信任度；0.9-0.3=0.6是知道非假，但不能肯定是真的部分。39信任函數(shù)與似然函數(shù)的關(guān)系Pl(A)≥Bel(A)Bel(A)和Pl(A)分別為對命題A信任程度的下限和上限，記作A(Bel(A)，Pl(A))命題A的下限和上限說明命題的重要信息A[0，1]說明對A一無所知

A[0，0]說明A是假

A[1，1]說明A是真

A[0.25，1]說明對A部分信任

A[0，0.85]說明對﹁A部分信任

A[0.25，0.85]說明對A和﹁A都有部分信任Pl(A)-Bel(A)表示對A不知道的程度40概率分配函數(shù)的正交和證據(jù)的源頭不同，得到不同的概率分配函數(shù)如何綜合運用這些信息呢？

定義m1和m2的正交和，記作m=m1⊕m2：

若K≠0，正交和m也是概率分配函數(shù)；若K＝0，則不存在正交和m，m1和m2相矛盾。41例：設(shè)Ω={a,b},并從不同的知識源得到的概率分配函數(shù)是：

m1({},{a},,{a,b})=(0,0.3,0.5,0.2)

m2({},{a},,{a,b})=(0,0.6,0.3,0.1)

其正交和m=?同理，m()=0.43,m({a,b})=0.03,

m=m1⊕m2=m({},{a},,{a,b})=(0,0.54,0.43,0.03)42B.基于證據(jù)理論的推理模型信任函數(shù)Bel（A）和似然函數(shù)Pl（A）分別表示命題A的信任度的下限和上限?？梢杂脕肀硎鲋R強度的下限和上限，從而可在此基礎(chǔ)上建立相應(yīng)的不確定性推理模型。隨著概率分配函數(shù)的定義不同，將產(chǎn)生不同的應(yīng)用模型431.知識不確定性的表示IFETHENH={h1,h2,……,hn}CF={c1,c2,……,cn}其中，E為前提條件；H是結(jié)論，用樣本空間中的子集表示，h1,h2,……,hn是該子集中的元素；CF是可信度因子，用集合形式表示。該集合中的元素c1,c2,……,cn用來表示h1,h2,……,hn的可信度，ci與hi一一對應(yīng)。2.證據(jù)不確定性的表示CER(E)

初始證據(jù)的確定性是由用戶給出的；中間結(jié)論的確定性由推理得到。3.組合證據(jù)的不確定性表示

合取關(guān)系，取最小值；析取關(guān)系，取最大值。444.不確定性的傳遞算法

已有知識：

IFETHENH={h1,h2,……,hn}CF={c1,c2,……,cn}

求結(jié)論H的確定性CER(H）

（1）求H的概率分配函數(shù)

（2）求Bel（H）、PI（H）及f（A）（3）求CER（H）45例：設(shè)有如下規(guī)則

r1：IFE1ANDE2THENA={a1,a2}CF={0.3,0.5}

r2：IFE3AND（E4ORE5）THENB={b1}CF={0.7}

r3：IFATHENH={h1,h2,h3}CF={0.1,0.5,0.3}

r4：IFBTHENH={h1,h2,h3}CF={0.4,0.2,0.1}

已知用戶對初始證據(jù)給出的確定性為：

CER（E1）＝O.8CER（E2）=O.6CER（E3）＝O.9

CER（E4）＝O.5CER（E5）＝O.7

并假定Ω中的元素個數(shù)|Ω|=10。

求：CER（H）=？

46（1）CER(A)=0.584（2）CER（B）=0.541（3）求正交和m(h1)=0.178m(h2)=0.309m(h3)=0.168（4）求CER(H)=0.759H={a1,a2}AB={b1}={h1,h2,h3}E1E2E3E4E5orr2推理網(wǎng)絡(luò)r1r3r40.80.60.90.50.7{0.3,0.5}{0.7}{0.1,0.5,0.3}{0.4,0.2,0.1}473.5.6模糊推理(fuzzyreasoning)基于模糊知識表示的不確定性推理由已知的模糊知識和證據(jù)推出模糊結(jié)論理論基礎(chǔ)是模糊集及其在此基礎(chǔ)上發(fā)展起來的模糊邏輯所處理的事物本身是模糊的本質(zhì)上區(qū)別于概率方法48A.模糊推理基礎(chǔ)模糊集合

設(shè)為論域，為元素，論域中的模糊集A是以：→[0，1]為隸屬函數(shù)表征的集合。隸屬函數(shù)表征屬于模糊集合A的程度或等級有限支集無限支集49模糊推理基礎(chǔ)模糊集合的基本運算

并：交：補：相等：包含：50模糊推理基礎(chǔ)模糊關(guān)系關(guān)系表示客觀事物之間的聯(lián)系在普通集合理論中，關(guān)系R描述事物之間“有”與“無”的肯定關(guān)系。但有些事物之間不能簡單地采用肯定或否定的詞匯去表達，例如，“我不太了解他”，“我比較喜歡他”等。Fuzzy集合X到Fuzzy集合Y的一個Fuzzy關(guān)系，是指以直積X×Y為論域的一個Fuzzy子集，記為R。有限論域上的模糊關(guān)系用關(guān)系矩陣或關(guān)系圖表示51例：設(shè)人的身高論域U={140,150,160,170,180};體重論域V={40,50,60,70,80,90},則身高與體重的模糊關(guān)系可定義為：52模糊推理基礎(chǔ)模糊關(guān)系的運算并，交