主講：夏幼明《人工智能》示范課程2在現(xiàn)實(shí)世界中，存在著大量的不確定性信息，如隨機(jī)的、模糊的及未確知的等。因此，不精確推理是專家系統(tǒng)研制過(guò)程中的一個(gè)十分重要的問(wèn)題。人工智能學(xué)者提出了許多新的不精確推理模型，比較有代表性的是：確定性理論、主觀Bayes方法、Dempster/Shafer證據(jù)理論及可能性理論等。每種不精確推理方法都有它的特點(diǎn)和適用領(lǐng)域。

“不精確知識(shí)推理”基本概念3不精確性推理方法研究產(chǎn)生的原因大致如下：很多原因?qū)е峦唤Y(jié)果推理所需的信息不完備背景知識(shí)不足信息描述模糊信息中含有噪聲劃分是模糊的推理能力不足解題方案不唯一“不精確知識(shí)推理”基本概念4不確定性推理的研究和發(fā)展Shortliffe等人1975年結(jié)合MYCIN系統(tǒng)的建立提出了確定性理論。DURA等人1976年在PROSPECTOR的基礎(chǔ)上給出了概率法。DempsterShafter1976年提出證據(jù)理論。Zadeh兩年后提出了可能性理論，1983年提出了模糊邏輯?！安痪_知識(shí)推理”基本概念5確定性理論MYCIN系統(tǒng)是第一個(gè)采用了不確定推理邏輯的專家系統(tǒng)，在20世紀(jì)70年代非常有名。這個(gè)系統(tǒng)提出該確定性方法時(shí)遵循了下面的原則：（1）不采用嚴(yán)格的統(tǒng)計(jì)理論。使用的是一種接近統(tǒng)計(jì)理論的近似方法。（2）用專家的經(jīng)驗(yàn)估計(jì)代替統(tǒng)計(jì)數(shù)據(jù)。（3）盡量減少需要專家提供的經(jīng)驗(yàn)數(shù)據(jù)，盡量使少量數(shù)據(jù)包含多種信息。（4）新方法應(yīng)適用于證據(jù)為增量式地增加的情況。（5）專家數(shù)據(jù)的輕微擾動(dòng)不影響最終的推理結(jié)論?！安痪_知識(shí)推理”基本概念6確定性理論MYCIN系統(tǒng)是第一個(gè)采用了不確定推理邏輯的專家系統(tǒng)，在20世紀(jì)70年代非常有名?！安痪_知識(shí)推理”基本概念

用戶

解釋模塊咨詢模塊

知識(shí)獲取模塊感染病專家與知識(shí)工程師知識(shí)庫(kù)動(dòng)態(tài)數(shù)據(jù)庫(kù)(推理記錄)患者數(shù)據(jù)庫(kù)(原始數(shù)據(jù)庫(kù))MYCIN系統(tǒng)結(jié)構(gòu)圖

7確定性理論MYCIN推理策略采用反向推理和深度優(yōu)先搜索。診斷治療過(guò)程如下：(1)確定患者有無(wú)細(xì)菌性感染。(2)確定可能引起感染的有機(jī)體。(3)確定對(duì)其有抑制作用的藥物。(4)選擇對(duì)治療最合適的藥物。這四個(gè)步驟由目標(biāo)規(guī)則來(lái)執(zhí)行?！安痪_知識(shí)推理”基本概念8不確定性推理概率推理可信度方法證據(jù)理論主觀bayes方法貝葉斯網(wǎng)的不確定性知識(shí)推理“不精確知識(shí)推理”核心內(nèi)容9不確定性推理概述不確定性的表示與度量不確定性知識(shí)推理算法“不確定性推理”核心內(nèi)容10不確定性推理概述不確定性推理是建立在非經(jīng)典邏輯基礎(chǔ)上的一種推理，是基于不確定性知識(shí)的推理。不確定性推理從不確定性的初始證據(jù)出發(fā)，通過(guò)運(yùn)用不確定性知識(shí)，推出具有一定程度的不確定性的和合理的或近乎合理的結(jié)論。在不確定性推理中，知識(shí)和證據(jù)都具有不確定性，這為推理機(jī)的設(shè)計(jì)與實(shí)現(xiàn)增加了復(fù)雜度和難度。除了必須解決推理方向、推理方法和控制策略等基本問(wèn)題外，一般還需要解決不確定性的表示與度量、不確定性匹配、不確定性的傳遞算法以及不確定性的合成等問(wèn)題?！安淮_定性推理”核心內(nèi)容11不確定性推理概述不確定性(uncertainty)就是一個(gè)命題(亦即所表示的事件)的真實(shí)性不能完全肯定,而只能對(duì)其為真的可能性給出某種估計(jì)。如果烏云密布并且電閃雷鳴,則很可能要下暴雨。如果頭痛發(fā)燒,則大概是患了感冒。這是兩個(gè)含有不確定性的命題。當(dāng)然,它們描述的是人們的經(jīng)驗(yàn)性知識(shí)?！安淮_定性推理”核心內(nèi)容12不確定性推理概述不確定性(imprecision)就是一個(gè)命題中所出現(xiàn)的某些言詞其涵義不夠確切,從概念角度講,也就是其代表的概念的內(nèi)涵沒(méi)有硬性的標(biāo)準(zhǔn)或條件,其外延沒(méi)有硬性的邊界,即邊界是軟的或者說(shuō)是不明確的。小王是個(gè)高個(gè)子。張三和李四是好朋友。如果向左轉(zhuǎn),則身體就會(huì)向左稍傾。這幾個(gè)命題中就含有不確定性,因?yàn)槠渲械难栽~“高”、“好朋友”、“稍傾”等的涵義都是不確切的?！安淮_定性推理”核心內(nèi)容13不確定性推理概述不完全性就是對(duì)某事物來(lái)說(shuō),關(guān)于它的信息或知識(shí)還不全面、不完整、不充分。在破案的過(guò)程中，警方所掌握的關(guān)于罪犯的有關(guān)信息，

往往就是不完全的。但就是在這種情況下，辦案人員仍能通過(guò)分析、推理等手段而最終破案?！安淮_定性推理”核心內(nèi)容14不確定性推理概述不一致性就是在推理過(guò)程中發(fā)生了前后不相容的結(jié)論；或者隨著時(shí)間的推移或者范圍的擴(kuò)大，原來(lái)一些成立的命題變得不成立、不適合了。牛頓定律對(duì)于宏觀世界是正確的，但對(duì)于微觀世界和宇宙觀世界卻是不適合的?！安淮_定性推理”核心內(nèi)容15不確定性推理概述對(duì)于不確定性知識(shí)，其表示的關(guān)鍵是如何描述不確定性。一般的做法是把不確定性用量化的方法加以描述，而其余部分的表示模式與前面介紹的知識(shí)基本相同。對(duì)于不同的不確定性，人們提出了不同的描述方法和推理方法。下面我們主要介紹(狹義)不確定性和不確切性知識(shí)的表示與推理方法，對(duì)于不完全性和不一致性知識(shí)的表示，簡(jiǎn)介幾種非標(biāo)準(zhǔn)邏輯。“不確定性推理”核心內(nèi)容16不確定性推理概述隨機(jī)性以牛頓理論為代表的確定性科學(xué)，創(chuàng)造了給世界以精確描繪的方法，將整個(gè)宇宙看作是鐘表式的動(dòng)力學(xué)系統(tǒng)，處于確定、和諧、有序的運(yùn)動(dòng)之中?？陀^世界上隨機(jī)的，映射到人腦的客觀世界，即主觀世界也應(yīng)該是隨機(jī)的。因此，人類在認(rèn)知過(guò)程中表現(xiàn)出的智能和知識(shí)，不可避免地伴隨有隨機(jī)性。隨機(jī)性無(wú)處不在，隨機(jī)性使得世界更為復(fù)雜，也更為豐富多彩?！安淮_定性推理”核心內(nèi)容17不確定性推理概述模糊性直到20世紀(jì)，人們才認(rèn)識(shí)到，模糊性并不是壞事。它能夠用較少的代價(jià)，傳遞足夠的信息，并能對(duì)復(fù)雜事物做出高效率的判斷和處理。哲學(xué)家羅素早在1923年一篇題為Vagueness的論文中明確指出：“認(rèn)為模糊知識(shí)必定是靠不住的，這種看法是大錯(cuò)特錯(cuò)的”。隨著科學(xué)技術(shù)的發(fā)展，科學(xué)家們已經(jīng)認(rèn)識(shí)到：硬要把模糊事物人為地精確化，不僅會(huì)以方法的復(fù)雜性為代價(jià)，而且會(huì)降低結(jié)果的意義性?！安淮_定性推理”核心內(nèi)容18不確定性的表示與度量不確定性的表示知識(shí)不確定性考慮因素：?jiǎn)栴}描述能力、便于推算

含義：知識(shí)的不確定程度，或表態(tài)強(qiáng)度表示：用概率

[0，1]，越接近0越假，越接近1越真用可信度

[-1,1]，大于0接近于真，小于0接近于假“不確定性推理”核心內(nèi)容可信度是指人們根據(jù)以往經(jīng)驗(yàn)對(duì)某個(gè)事物或現(xiàn)象為真的程度的一個(gè)判斷，或者說(shuō)是人們對(duì)某個(gè)事物或現(xiàn)象為真的相信程度。可信度具有一定的主觀性，較難把握。但對(duì)某一特定領(lǐng)域，讓該領(lǐng)域?qū)＜医o出可信度還是可行的。19不確定性的表示與度量不確定性的表示表示形式：在C-F模型中，知識(shí)是用產(chǎn)生式規(guī)則表示的，其一般形式為：IFETHENH(CF(H,E))

其中，E是知識(shí)的前提條件；H是知識(shí)的結(jié)論；CF(H,E)是知識(shí)的可信度。例子：IF發(fā)燒AND流鼻涕THEN感冒(0.8)

說(shuō)明：當(dāng)某人確實(shí)有“發(fā)燒”及“流鼻涕”癥狀時(shí)，則有80%的把握是患了感冒?！安淮_定性推理”核心內(nèi)容20不確定性的表示與度量不確定性的表示證據(jù)不確定性證據(jù)來(lái)源：初始證據(jù)、中間結(jié)論

含義：證據(jù)的不確定程度，或動(dòng)態(tài)強(qiáng)度表示：與知識(shí)相同結(jié)論不確定性結(jié)論來(lái)源：知識(shí)、證據(jù)不確定性含義：結(jié)論的不確定程度，或規(guī)則的不確定性表示：當(dāng)規(guī)則的條件被完全滿足時(shí)，產(chǎn)生的結(jié)論的不確定程度。“不確定性推理”核心內(nèi)容21不確定性的表示與度量不確定性的度量確定度量方法的要點(diǎn)：（1）量度要能充分表達(dá)相應(yīng)知識(shí)和證據(jù)不確定性的程度。（2）量度范圍的指定應(yīng)便于領(lǐng)域?qū)＜液陀脩魧?duì)不確定性的估計(jì)。（3）量度要便于對(duì)不確定性的傳遞進(jìn)行計(jì)算，而且對(duì)結(jié)論算出的不確定性量度不能超出量度規(guī)定的范圍。（4）量度的確定應(yīng)當(dāng)是直觀的，并有相應(yīng)的理論依據(jù)?！安淮_定性推理”核心內(nèi)容22不確定性的知識(shí)推理算法不確定性的匹配算法推理是一個(gè)不斷運(yùn)用知識(shí)的過(guò)程。在這一過(guò)程中，為了找到所需的知識(shí)，需要用知識(shí)的前提條件與已知證據(jù)進(jìn)行匹配，只有匹配成功的知識(shí)才有可能被應(yīng)用。在確定性推理中，知識(shí)是否匹配成功是很容易確定的。但在不精確推理中，由于知識(shí)和證據(jù)都具有不確定性，而且知識(shí)所要求的不確定性程度與證據(jù)實(shí)際具有的不確定性程度不一定相同，因而就出現(xiàn)了“怎樣才算匹配成功”的問(wèn)題。“不確定性推理”核心內(nèi)容23不確定性的知識(shí)推理算法不確定性的匹配算法對(duì)怎樣才算匹配成功，常用的解決方法：設(shè)計(jì)一個(gè)算法用來(lái)計(jì)算匹配雙方相似的程度，另外再指定一個(gè)相似的限度，用來(lái)衡量匹配雙方相似的程度是否落在指定的限度內(nèi)。如果落在指定的限度內(nèi)，就稱它們是可匹配的，相應(yīng)的知識(shí)可被應(yīng)用，否則就稱它們是不可匹配的，相應(yīng)的知識(shí)不可應(yīng)用。用來(lái)計(jì)算匹配雙方相似程度的算法稱為不確定性匹配算法，用來(lái)指出相似的限度稱為閾值。“不確定性推理”核心內(nèi)容24不確定性的知識(shí)推理算法不確定性的更新算法不精確推理的根本目的是根據(jù)用戶提供的初始證據(jù)，通過(guò)運(yùn)用不確定性知識(shí)，最終推出不確定性的結(jié)論，并推算出結(jié)論為確定性的程度。不精確推理除了要解決前面提出的問(wèn)題之外，還需要解決不確定性的更新問(wèn)題——在推理過(guò)程中如何考慮知識(shí)不確定性的動(dòng)態(tài)積累和傳遞?！安淮_定性推理”核心內(nèi)容25不確定性的知識(shí)推理算法不確定性的更新算法已知規(guī)則R前提E的不確定性C(E)和規(guī)則的強(qiáng)度f(wàn)(H,E)，如何求假設(shè)H的不確定性C(H)——即定義算法g1，使

C(H)=g1[C(E)，f(H,E)]并行規(guī)則算法——根據(jù)獨(dú)立的證據(jù)E1和E2，分別求得假設(shè)H的不確定性為C1(H)和C2(H)。求出證據(jù)E1和E2的組合導(dǎo)致結(jié)論H的不確定性C(H)。即定義算法g2，使

C(H)=g2[C1(H)，C2(H)]“不確定性推理”核心內(nèi)容26不確定性的知識(shí)推理算法不確定性的更新算法證據(jù)合取的不確定性算法——根據(jù)兩個(gè)證據(jù)E1和E2的不確定性值C(E1)和C(E2)，求出證據(jù)E1和E2合取的不確定性——定義算法g3，使

C(E1

ANDE2)=g3[C(E1)，C(E2)]證據(jù)析取的不確定性算法——根據(jù)兩個(gè)證據(jù)E1和E2的不確定性值C(E1)和C(E2)，求出證據(jù)E1和E2析取的不確定性——定義算法g4，使

C(E1

ORE2)=g4[C(E1)，C(E2)]

“不確定性推理”核心內(nèi)容27不確定性的知識(shí)推理算法不確定性的更新算法組合證據(jù)不確定計(jì)算方法有如下幾種：

a、最大最小法：

C(E1

ANDE2)=min{C(E1)，C(E2)} C(E1

ORE2)=max{C(E1)，C(E2)}

b、概率方法

C(E1

ANDE2)=C(E1)·C(E2) C(E1

ORE2)=C(E1)+C(E2)-C(E1)·C(E2)

c、有界方法

C(E1

ANDE2)=max{0,C(E1)+C(E2)-1} C(E1

ORE2)=min{1,C(E1)+C(E2)}“不確定性推理”核心內(nèi)容28概率論基礎(chǔ)概率推理方法“概率推理”核心內(nèi)容29事件：在一定條件下，可能發(fā)生也可能不發(fā)生的試驗(yàn)結(jié)果。事件有兩種特殊情況：不可能事件與必然事件。事件的概率：事件發(fā)生的可能性大小。條件概率：在事件B已發(fā)生的條件下，事件A發(fā)生的概率，稱為事件A在事件B已發(fā)生的條件下的條件概率，記為P（A|B）。概率論基礎(chǔ)30概率的性質(zhì)概率論基礎(chǔ)31概率的性質(zhì)概率論基礎(chǔ)32概率的計(jì)算公式概率論基礎(chǔ)33概率的計(jì)算公式概率論基礎(chǔ)34設(shè)有如下產(chǎn)生式規(guī)則：IF

E

THEN

H則證據(jù)E的不確定性為E的概率P(E)，基于概率法不精確推理的目的就是求出在證據(jù)E下，結(jié)論H發(fā)生的概率P(H|E)。Bayes方法用于不精確推理的一個(gè)原始條件是：已知前提E的概率P(E)和H的先驗(yàn)概率P(H)，并已知H成立時(shí)E出現(xiàn)的條件概率P(E|H)，可由下面的Bayes公式求H的后驗(yàn)概率概率推理方法35如果一個(gè)證據(jù)E支持多個(gè)假設(shè)H1,H2,…,Hn

，即概率推理方法則可得如下貝葉斯公式：如果有多個(gè)證據(jù)E1,E2,…,Em和多個(gè)結(jié)論H1,H2,…,Hn，并且每個(gè)證據(jù)都以一定的程度支持結(jié)論，則36例設(shè)已知：

P(H1)=0.4，P(H2)=0.3，P(H3)=0.3 P(E1|H1)=0.5,P(E1|H2)=0.6,P(E1|H3)=0.3 P(E2|H1)=0.7,P(E2|H2)=0.9，P(E2|H3)=0.1

求:P(H1|E1E2)、P(H2|E1E2)及P(H3|E1E2)的值。解：由公式（*）可得概率推理方法37概率推理方法概率方法的優(yōu)點(diǎn)是它有較強(qiáng)的理論基礎(chǔ)和較好的數(shù)學(xué)描述，當(dāng)證據(jù)及結(jié)論都彼此獨(dú)立時(shí)，計(jì)算的復(fù)雜度比較低。概率方法的缺點(diǎn)是它要求給出結(jié)論Hi的先驗(yàn)概率P(Hi)及證據(jù)Ej的條件概率P(Ej|Hi)，要獲得這些數(shù)據(jù)是相當(dāng)困難的。Bayes公式的應(yīng)用條件很嚴(yán)格，它要求各事件互相獨(dú)立，若證據(jù)之間存在依賴關(guān)系，就不能直接使用這個(gè)方法了。38“可信度推理方法”的核心內(nèi)容可信度定義與性質(zhì)證據(jù)不確定下CF的計(jì)算可信度推理實(shí)例39可信度定義與性質(zhì)可信度方法的原則(1)用接近統(tǒng)計(jì)理論的近似方法；(2)用專家經(jīng)驗(yàn)估計(jì)代替統(tǒng)計(jì)數(shù)據(jù)；(3)盡量減少經(jīng)驗(yàn)估計(jì)；(4)適用于證據(jù)增量式增加的情況；(5)數(shù)據(jù)的輕微擾動(dòng)不影響最終的推理結(jié)論。40可信度定義與性質(zhì)可信度的定義規(guī)則的形式為：EH(CF(H,E))其中，CF(H,E)是規(guī)則的可信度，或者稱可信因子或規(guī)則強(qiáng)度?？尚哦鹊娜≈捣秶?1和1之間，其語(yǔ)義表示在已知證據(jù)E的情況下對(duì)結(jié)論H為真的支持程度。CF(H,E)>0，表示證據(jù)的存在增加結(jié)論為真的程度，CF(H,E)的值越大結(jié)論H越真；CF(H,E)=1表示證據(jù)存在結(jié)論為真。CF(H,E)<0，表示證據(jù)的存在增加結(jié)論為假的程度，CF(H,E)的值越小結(jié)論H越假；CF(H,E)=-1表示證據(jù)存在結(jié)論為假。CF(H,E)=0表示證據(jù)與結(jié)論沒(méi)有關(guān)系。41可信度定義與性質(zhì)可信度方法的特點(diǎn)設(shè)E為證據(jù)，H為假設(shè)，則概率論公式為P(H|E)+P(?H|E)=1CF(CertaintyFactor)表示確認(rèn)理論下的定量可信度，則有公式CF(H|E)+CF(?H|E)=0含義：E肯定了H(=1)就同時(shí)否定了?H(=-1)。42可信度定義與性質(zhì)可信度方法的性質(zhì)用兩個(gè)量來(lái)表示在給定證據(jù)下，對(duì)某個(gè)假設(shè)的肯定MB(measurebelief)和否定MD(disbelief)的程度。含義：MB(H|E)=a，證據(jù)E的出現(xiàn)使假設(shè)H的可信度增加了數(shù)量a。MD(H|E)=b，證據(jù)E的出現(xiàn)使假設(shè)H的不可信度增加了數(shù)量b。顯然，a與b不能同時(shí)大于0。定義：CF(H|E)=MB(H|E)-MD(H|E)43可信度定義與性質(zhì)可信度方法的性質(zhì)MB和MD的解釋：其值應(yīng)該由專家給出，但為了提供某種理論依據(jù)，給出其概率解釋，一般不直接用于構(gòu)造知識(shí)庫(kù)。44可信度定義與性質(zhì)可信度方法的性質(zhì)MB和MD的性質(zhì)

(1)由定義，當(dāng)p(H)=1時(shí)MB(H|E)=p(H|E)=1MD(H|E)=p(?H|E)=0 (2)由定義，當(dāng)p(?H)=1時(shí)MB(H|E)=p(H|E)=0MD(H|E)=p(?H|E)=1 (3)恒有：0≤MB(H|E)，MD(H|E)≤1 (4)互斥性：當(dāng)MB(H|E)>0時(shí)MD(H|E)=0當(dāng)MD(H|E)>0時(shí)MB(H|E)=0即恒有MB(H|E)*MD(H|E)=0 (5)若MB(H|E)=1時(shí)則對(duì)任何E’有MD(H|E’)=0；反之，若MD(H|E)=1時(shí)則對(duì)任何E’有MB(H|E’)=045可信度定義與性質(zhì)可信度方法的性質(zhì)MB和MD的性質(zhì)

復(fù)合證據(jù)的處理

(1)MB(H|E1&E2)=MB(H|E1)+MB(H|E2)-MB(H|E1)*MB(H|E2) MD(H|E1&E2)=MD(H|E1)+MD(H|E2)-MD(H|E1)*MD(H|E2)

多于2個(gè)證據(jù)的，可以進(jìn)一步組合(E1&E2)&E3...(2)MB(H|E1&E2)=MB(H|E1) ；MD(H|E1&E2)=MD(H|E1)

其中E2為未知真假的證據(jù)46可信度定義與性質(zhì)可信度方法的性質(zhì)MB和MD的性質(zhì)

可信度因子CF(H|E)=MB(H|E)-MD(H|E)根據(jù)MB/MD的互斥性知，CF只取MB或MD之一值CF性質(zhì)：

(1)-1≤CF(H|E)≤1 (2)CF(H|E)+CF(?H|E)=0 (3)令E+=E1&…&En為所有支持H的證據(jù)總和(即MB(H|Ei)>0)/E-=E’1&…&E’m為所有不支持H的證據(jù)總和(即MD(H|Ej)>0) CF(H|E+&E-)=MB(H|E+)-MD(H|E-)47可信度定義與性質(zhì)可信度方法的性質(zhì)

當(dāng)多個(gè)證據(jù)導(dǎo)出同一假設(shè)時(shí)，先求出各自MB/MD，然后利用復(fù)合證據(jù)處理公式得出總的MB/MD，再得到CF。

(4)若H1

Hk是k個(gè)互相獨(dú)立的假設(shè)，E為對(duì)其有利的證據(jù)，則

48證據(jù)不確定下的CF計(jì)算證據(jù)E本身不確定，其可信度用CF(E)或CF(E|S)表示，S是證據(jù)E的觀察

/有性質(zhì)如下：(1)當(dāng)證據(jù)E以某種程度為真時(shí)，0<CF(E)≤1；當(dāng)證據(jù)E以某種程度為假時(shí)，-1≤CF(E)<0(2)證據(jù)E肯定真時(shí)CF(E)=1；證據(jù)E肯定假時(shí)CF(E)=-1；對(duì)證據(jù)E一無(wú)所知時(shí)CF(E)=0。CF對(duì)復(fù)合證據(jù)的處理：同MB/MD的定義

(1)CF(H|E1&E2)=CF(H|E1)+CF(H|E2)

CF(H|E1)*CF(H|E2) (2)CF(H|E1&E2)=CF(H|E1)其中E2為未知真假的證據(jù)。49證據(jù)不確定下的CF計(jì)算證據(jù)的合取與析取

(1)E=E1and…andEn CF(E1and…andEn)=min{CF(E1),…,CF(En)} (2)E=E1or…orEn CF(E1or…orEn)=max{CF(E1),…,CF(En)}50證據(jù)不確定下的CF計(jì)算由證據(jù)與規(guī)則的可信度求假設(shè)的可信度

CF(H|S)=CF(H,E)max{0,CF(E)}(CF(E)<0時(shí)則不能應(yīng)用) MB(H|S)=MB(H,E)max{0,CF(E)} MD(H|S)=MD(H,E)max{0,CF(E)}51可信度推理實(shí)例設(shè)有推理網(wǎng)絡(luò)如下圖所示，其推理規(guī)則為

(1)A∧B→H,0.7 (2)C→H,0.5 (3)(D∨E)∧F∧(G∨I)→H,0.9 (4)J→H,0.3每個(gè)證據(jù)的可信度標(biāo)在葉子節(jié)點(diǎn)的下面，節(jié)點(diǎn)分叉帶弧者為與節(jié)點(diǎn)HCJABFDEGI

0.20.5

0.40.20.80.10.60.4

-0.80.30.90.50.752可信度推理實(shí)例求解步驟：當(dāng)可信度小于給定的閾值0.2時(shí)，不再進(jìn)行計(jì)算

(1)CF(H|A∧B)=0.7*min{0.2,0.5}=0.14

按照閾值規(guī)定可不考慮其對(duì)假設(shè)H推理的貢獻(xiàn)，即下一步不參與計(jì)算

(2)CF(H|C)=0.5*0.4=0.2 (3)CF(H|(D∨E)∧F∧(G∨I))=0.9*min{max{0.4,0.2},0.6,max{0.8,0.1}}=0.9*0.4=0.36 (4)CF(H|J)=0.3*(-0.8)=-0.2453可信度推理實(shí)例求解步驟：當(dāng)可信度小于給定的閾值0.2時(shí)，不再進(jìn)行計(jì)算

(5)由定義可知

MB1=0.2 MB2=0.36 MB3=0 MD1=0 MD2=0 MD3=0.24 MB=0.2+0.360.2*0.36=0.488 MD=0.24

故CF=MBMD=0.4880.24=0.24854可信度推理實(shí)例求解步驟：當(dāng)可信度小于給定的閾值0.2時(shí)，不再進(jìn)行計(jì)算

如果將CF=0.14計(jì)算在內(nèi)，則

MB=0.14+0.2+0.360.14*0.20.14*0.360.2*0.36+0.14*0.2*0.36=0.55968 MD=0.24 CF=0.559680.24=0.31968

注意：計(jì)算的步驟是分別求每個(gè)證據(jù)的CF或MB/MD，然后用復(fù)合證據(jù)公式計(jì)算MB/MD，最后得CF=MBMD55證據(jù)理論證據(jù)理論是由Dempster于1967年首先提出，由他的學(xué)生shafer于1976年進(jìn)一步發(fā)展起來(lái)的一種不精確推理理論，也稱為Dempster/Shafer證據(jù)理論(D-S證據(jù)理論)，屬于人工智能范疇，最早應(yīng)用于專家系統(tǒng)中，具有處理不確定信息的能力。作為一種不確定推理方法，證據(jù)理論的主要特點(diǎn)是：滿足比貝葉斯概率論更弱的條件；具有直接表達(dá)“不確定”和“不知道”的能力。56證據(jù)理論在DS證據(jù)理論中，由互不相容的基本命題（假定）組成的完備集合稱為識(shí)別框架，表示對(duì)某一問(wèn)題的所有可能答案，但其中只有一個(gè)答案是正確的。該框架的子集稱為命題。分配給各命題的信任程度稱為基本概率分配（BPA，也稱m函數(shù)），m(A)為基本可信數(shù)，反映著對(duì)A的信度大小。57證據(jù)理論信任函數(shù)Belgium（A）表示對(duì)命題A的信任程度，似然函數(shù)Pl(A)表示對(duì)命題A非假的信任程度，也即對(duì)A似乎可能成立的不確定性度量。實(shí)際上，[Bel(A),Pl(A)]表示A的不確定區(qū)間；[0,Bel(A)]表示命題A支持證據(jù)區(qū)間；[0,Pl(A)]表示命題A的擬信區(qū)間；

[Pl(A),1]表示命題A的拒絕證據(jù)區(qū)間。設(shè)m1和m2是由兩個(gè)獨(dú)立的證據(jù)源（傳感器）導(dǎo)出的基本概率分配函數(shù)，則Dempster聯(lián)合規(guī)則可以計(jì)算這兩個(gè)證據(jù)共同作用產(chǎn)生的反映融合信息的新的基本概率分配函數(shù)。58證據(jù)理論證據(jù)理論的形式化描述信任函數(shù)與似然函數(shù)的關(guān)系概率分配函數(shù)的正交和設(shè)M1和M2是兩個(gè)概率分配函數(shù)，則其正交和M=M1⊕M2為式中：59證據(jù)理論證據(jù)理論的形式化描述設(shè)M1,M2,…,Mn是n個(gè)概率分配函數(shù)，則其正交和M=M1⊕M2⊕…⊕Mn為其中60證據(jù)理論證據(jù)理論的不確定性推理模型概率分配函數(shù)與類概率函數(shù)設(shè)D={s1,s2,…,sn}，M為定義在上的概率分配函數(shù)，且滿足其中，|A|表示命題A對(duì)應(yīng)于集合中元素的個(gè)數(shù)。61證據(jù)理論證據(jù)理論的不確定性推理模型對(duì)任何命題，其信任函數(shù)與似然函數(shù)分別為

于是可得，對(duì)任意62證據(jù)理論證據(jù)理論的不確定性推理模型設(shè)M1和M2是上的基本概率分配函數(shù)，其正交和為

其中，|A|和|D|分別是A和D中元素的個(gè)數(shù)。命題A的類概率函數(shù)為其中，63證據(jù)理論證據(jù)理論的不確定性推理模型類概率函數(shù)的性質(zhì)：

~

根據(jù)上述性質(zhì)可得如下性質(zhì)：64證據(jù)理論證據(jù)理論的不確定性推理模型不確定性知識(shí)用如下產(chǎn)生式規(guī)則表示：

其中，E為條件，H是結(jié)論，它用樣本空間中的子集表示，是該子集中的元素。CF是可信度因子，用集合形式表示，其中用來(lái)指出的可信度，與一一對(duì)應(yīng)。滿足如下條件：65證據(jù)理論證據(jù)理論的不確定性推理模型證據(jù)不確定性的表示

不確定性證據(jù)E的確定性用CER(E)表示。對(duì)于初始證據(jù)，其確定性由用戶給出；對(duì)于用前面推理所得結(jié)論作為當(dāng)前推理的證據(jù)，其確定性由推理得到。CER(E)的范圍為[0，1]，即66證據(jù)理論證據(jù)理論的不確定性推理模型組合證據(jù)不確定性的表示規(guī)則的條件可以為組合證據(jù)，當(dāng)組合證據(jù)是多個(gè)證據(jù)的合取時(shí)，即

則當(dāng)組合證據(jù)是多個(gè)證據(jù)的析取時(shí)，即則67證據(jù)理論證據(jù)理論的不確定性推理模型不確定性的傳遞算法設(shè)有知識(shí)則結(jié)論H的確定性可由下列步驟求出：（1）求H的概率分配函數(shù)（2）求出（3）求H的確定性CER（H）

其中，MD(H|E)定義為68證據(jù)理論證據(jù)理論推理示例

設(shè)有如下知識(shí)規(guī)則

已知用戶對(duì)初始證據(jù)給出的確定性是：求：CER（H）的值69證據(jù)理論證據(jù)理論推理示例

解：由給出的知識(shí)可形成如圖所示的推理網(wǎng)絡(luò)

HABG70證據(jù)理論證據(jù)理論推理示例

解：由給出的知識(shí)可形成如圖所示的推理網(wǎng)絡(luò)

HABG71證據(jù)理論證據(jù)理論推理示例

解：由給出的知識(shí)可形成如圖所示的推理網(wǎng)絡(luò)

HABG72證據(jù)理論證據(jù)理論推理示例

解：由給出的知識(shí)可形成如圖所示的推理網(wǎng)絡(luò)

求正交和值

由于R4與R5相同的結(jié)論H

，因而需要先對(duì)R4和R5分別求出概率分配函數(shù)，然后通過(guò)它們的正交和得到的概率分配函數(shù)。對(duì)于R4，其概率分配函數(shù)為

73證據(jù)理論證據(jù)理論推理示例

解：由給出的知識(shí)可形成如圖所示的推理網(wǎng)絡(luò)

求正交和值對(duì)于R5

，其概率分配函數(shù)為現(xiàn)在可求M1與M2的正交和M。代入數(shù)據(jù)得：74證據(jù)理論證據(jù)理論推理示例

解：由給出的知識(shí)可形成如圖所示的推理網(wǎng)絡(luò)

求正交和值代入數(shù)據(jù)得

同理可得75證據(jù)理論證據(jù)理論推理示例

解：由給出的知識(shí)可形成如圖所示的推理網(wǎng)絡(luò)

求CER（H）值所以有，76主觀bayes方法知識(shí)不確定性的表示設(shè)事件A1，A2，A3，…，An中任意兩個(gè)事件都不相交，則對(duì)任何事件B有下式成立：該定理就叫Bayes定理，上式稱為Bayes公式。

77主觀bayes方法知識(shí)不確定性的表示在主觀貝葉斯方法中，用下列產(chǎn)生式規(guī)則表示知識(shí)：

式中，（LS,LN）表示該知識(shí)的靜態(tài)強(qiáng)度，LS稱為充分性因子，衡量證據(jù)E對(duì)結(jié)論H的支持程度；LN稱為必要性因子，衡量~E對(duì)H的支持程度。其定義為：公式中，LS和LN的數(shù)值由領(lǐng)域?qū)＜覜Q定。78主觀bayes方法知識(shí)不確定性的表示幾率函數(shù)為

即X的幾率等于X的概率與X不出現(xiàn)的概率之比。由上兩式可得：79主觀bayes方法知識(shí)不確定性的表示將幾率概率代入上式得

即：以上式可以看出：LS越大，O(H|E)就越大，且P(H|E)也越大，這說(shuō)明E對(duì)H的支持越強(qiáng)。當(dāng)LS趨于無(wú)窮時(shí)，P(H|E)趨于1，這說(shuō)明E的存在導(dǎo)致H為真。同理有：

LN反映了~H的出現(xiàn)對(duì)H的支持程度。80主觀bayes方法知識(shí)不確定性的表示證據(jù)的不確定性也用概率P表示，主觀Bayes方法的不確定性推理過(guò)程，就是根據(jù)證據(jù)E的概率P(E)和LS、LN以及先驗(yàn)概率P(H)計(jì)算后驗(yàn)(條件)概率P(H|E)的過(guò)程。但是，證據(jù)E可以是確定的，也可以是不確定的，并且也可能由多個(gè)證據(jù)支持同一結(jié)論。當(dāng)證據(jù)不確定時(shí)，只有通過(guò)觀察S，得到在此觀察下的后驗(yàn)概率P(E|S)，然后求后驗(yàn)概率P(H|S)。有如下公式：

P(H|S)=P(H|E)P(E|S)+P(H|~E)P(~E|S)81主觀bayes方法知識(shí)不確定性的表示P(H|S)=P(H|E)P(E|S)+P(H|~E)P(~E|S)1)當(dāng)P(E|S)=1時(shí)，有P(~E|S)=0，于是有：P(H|S)=P(H|E)2)當(dāng)P(E|S)=0時(shí)，有P(~E|S)=1，于是有：P(H|S)=P(H|~E)3)當(dāng)P(E|S)=P(E)時(shí)，P(H|S)=P(H|E)P(E)+P(H|~E)P(~E)=P(H)4)在其他情況：如圖表示P(H|S)P(H|E)P(H)P(H|?E)P(E)P(E|S)1082主觀bayes方法知識(shí)不確定性的表示4)在其他情況：如圖表示由上圖可得如下式子：P(H|S)P(H|E)P(H)P(H|?E)P(E)P(E|S)1083主觀bayes方法知識(shí)不確定性的表示由于P(E|S)是很難確定的，這時(shí)，引入可信度的概念C(E|S)它的取值在-5到5之間，11個(gè)數(shù)值。

當(dāng)C(E|S)=-5時(shí)，P(E|S)=0；當(dāng)C(E|S)=0時(shí)，P(E|S)=P(E)；當(dāng)C(E|S)=5時(shí)，P(E|S)=1；當(dāng)C(E|S)取其它值時(shí)，可通過(guò)對(duì)上述三點(diǎn)進(jìn)行分段線性插值得到，如圖所示。

P(E|S)P(E)C(E|S)50-5184貝葉斯網(wǎng)的不確定性知識(shí)推理貝葉斯網(wǎng)絡(luò)是一種概率網(wǎng)絡(luò)，它是基于概率推理的圖形化網(wǎng)絡(luò)，而貝葉斯公式則是這個(gè)概率網(wǎng)絡(luò)的基礎(chǔ)。貝葉斯網(wǎng)絡(luò)是基于概率推理的數(shù)學(xué)模型，所謂概率推理就是通過(guò)一些變量的信息來(lái)獲取其他的概率信息的過(guò)程，基于概率推理的貝葉斯網(wǎng)絡(luò)(Bayesiannetwork)是為了解決不定性和不完整性問(wèn)題而提出的，它對(duì)于解決復(fù)雜設(shè)備不確定性和關(guān)聯(lián)性引起的故障有很的優(yōu)勢(shì)，在多個(gè)領(lǐng)域中獲得廣泛應(yīng)用。

85貝葉斯網(wǎng)的不確定性知識(shí)推理貝葉斯網(wǎng)的基本概念貝葉斯網(wǎng)的推理模式貝葉斯網(wǎng)的D分離及其推理貝葉斯網(wǎng)的特點(diǎn)用貝葉斯網(wǎng)學(xué)習(xí)和動(dòng)作86貝葉斯網(wǎng)的基本概念一個(gè)貝葉斯網(wǎng)絡(luò)是一個(gè)有向無(wú)環(huán)圖(DirectedAcyclicGraph，DAG)，由代表變量節(jié)點(diǎn)及連接這些節(jié)點(diǎn)有向邊構(gòu)成。節(jié)點(diǎn)代表隨機(jī)變量，節(jié)點(diǎn)間的有向邊代表了節(jié)點(diǎn)間的互相關(guān)系(由父節(jié)點(diǎn)指向其子節(jié)點(diǎn))，用條件概率進(jìn)行表達(dá)關(guān)系強(qiáng)度，沒(méi)有父節(jié)點(diǎn)的用先驗(yàn)概率進(jìn)行信息表達(dá)。節(jié)點(diǎn)變量可以是任何問(wèn)題的抽象，如：測(cè)試值，觀測(cè)現(xiàn)象，意見(jiàn)征詢等。適用于表達(dá)和分析不確定性和概率性的事件，應(yīng)用于有條件地依賴多種控制因素的決策，可以從不完全、不精確或不確定的知識(shí)或信息中做出推理。

87貝葉斯網(wǎng)的基本概念給定變量集合Vj，如果p(V|Vi,Vj)=p(V|Vj)，那么稱變量V條件獨(dú)立于變量Vi，用符號(hào)I(V,Vi|Vj)表示。貝葉斯網(wǎng)的結(jié)點(diǎn)用隨機(jī)變量表示，每個(gè)結(jié)點(diǎn)Vi條件獨(dú)立于由Vi的父結(jié)點(diǎn)給定的Vi的非后代結(jié)點(diǎn)構(gòu)成的任何結(jié)點(diǎn)子集。也就是說(shuō)，假設(shè)S(Vi)是圖G中非Vi后代結(jié)點(diǎn)的任何結(jié)點(diǎn)集合，P(Vi)是G中Vi的直接雙親。圖G表示對(duì)所有Vi有I(Vi,S(Vi)|P(Vi))。根據(jù)條件獨(dú)立，于是有：p(V|S(Vi),P(Vi))=p(V|P(Vi))。88貝葉斯網(wǎng)的基本概念給定變量集合Vj，如果p(V|Vi,Vj)=p(V|Vj)，那么稱變量V條件獨(dú)立于變量Vi，用符號(hào)I(V,Vi|Vj)表示。假設(shè)V1,V2,…,Vk是貝葉斯網(wǎng)的結(jié)點(diǎn)，給定由網(wǎng)絡(luò)假設(shè)的條件獨(dú)立性，于是所有結(jié)點(diǎn)的聯(lián)合概率有：

貝葉斯網(wǎng)有時(shí)也稱為因果關(guān)系網(wǎng)。89貝葉斯網(wǎng)的基本概念為了構(gòu)造一個(gè)給定變量集合的貝葉斯網(wǎng)可以從原因變量直接向結(jié)果畫(huà)弧，這樣做就構(gòu)成一個(gè)貝葉斯網(wǎng)。例：構(gòu)造一個(gè)舉積木的貝葉斯網(wǎng)。原因是：“電池被充電”(B)和“積木是可舉起來(lái)的”(L)；B和L對(duì)應(yīng)的結(jié)果是：“手臂移動(dòng)”(M)。B對(duì)應(yīng)的結(jié)果是：“電池被充了電量”(G)。相對(duì)應(yīng)的貝葉斯網(wǎng)如圖所示：利用貝葉斯網(wǎng)絡(luò)的聯(lián)合概率求解公式，有：p(B,G,M,L)=p(G|B)p(M|B,L)p(B)p(L)由條件概率的性質(zhì)，有：p(G,B,M,L)=p(G|B,M,L)p(M|B,L)p(B|L)p(L)利用貝葉斯網(wǎng)可以減少計(jì)算量。p(B)=0.95p(L)=0.7BGMLp(G|B)=0.95p(G|?B)=0.95p(M|?B,L)=0.0p(M|?B,?L)=0.0p(M|B,L)=0.9p(M|B,?L)=0.0590貝葉斯網(wǎng)的推理模式在貝葉斯網(wǎng)中有三個(gè)重要的推理模式：因果推理或由上向下推理，診斷推理或自底向上推理，辯解。以上例說(shuō)明其使用。1、因果推理或由上向下推理給定積木是可舉的(L)，計(jì)算手臂能移動(dòng)(M)的概率p(M|L)。由于積木是可舉的是手臂能移動(dòng)的原因之一，所以，此計(jì)算是因果推理的實(shí)例。L是證據(jù)，M是詢問(wèn)結(jié)點(diǎn)。在計(jì)算時(shí)，首先，把p(M|L)表示為：p(M|L)=p(M|B,L)p(B|L)+p(M|?B,L)p(?B|L)由于p(B|L)=p(B)，p(?B|L)=p(?B)，所以：p(M|L)=p(M|B,L)p(B)+p(M|?B,L)p(?B)于是，直接計(jì)算，可得：p(M|L)=0.855p(?M|?L)=p(?M|B,?L)p(B)+p(?M|?B,?L)p(?B)p(?M|?L)=0.95×0.95+1×0.05=0.9525p(B)=0.95p(L)=0.7BGMLp(G|B)=0.95p(G|?B)=0.95p(M|?B,L)=0.0p(M|?B,?L)=0.0p(M|B,L)=0.9p(M|B,?L)=0.0591貝葉斯網(wǎng)的推理模式在貝葉斯網(wǎng)中有三個(gè)重要的推理模式：因果推理或由上向下推理，診斷推理或自底向上推理，辯解。以上例說(shuō)明其使用。2、診斷推理或自底向上推理現(xiàn)在計(jì)算手臂沒(méi)移動(dòng)時(shí)(?M)，積木不可舉(?L)的概率p(?L|?M)。這是上例推理的一個(gè)逆否命題的等價(jià)命題。由結(jié)果到起因的一個(gè)反演。這類推理稱為診斷推理。利用貝葉斯規(guī)則有：p(?L|?M)×p(?M)=p(?M|?L)×p(?L)用因果推理有：p(?M|?L)=0.9525于是：p(?L|?M)×p(?M)=0.9525×0.3p(B)=0.95p(L)=0.7BGMLp(G|B)=0.95p(G|?B)=0.95p(M|?B,L)=0.0p(M|?B,?L)=0.0p(M|B,L)=0.9p(M|B,?L)=0.0592貝葉斯網(wǎng)的推理模式在貝葉斯網(wǎng)中有三個(gè)重要的推理模式：因果推理或由上向下推理，診斷推理或自底向上推理，辯解。以上例說(shuō)明其使用。2、診斷推理或自底向上推理現(xiàn)在計(jì)算手臂沒(méi)移動(dòng)時(shí)(?M)，積木不可舉(?L)的概率p(?L|?M)。這是上例推理的一個(gè)逆否命題的等價(jià)命題。由結(jié)果到起因的一個(gè)反演。這類推理稱為診斷推理?；舅枷耄菏菍⒃瓎?wèn)題向因果推理轉(zhuǎn)換。同理，有：p(L|?M)×p(?M)=p(?M|L)×p(L)p(?M|L)=1-p(M|L)=0.145，于是：p(L|?M)×p(?M)=0.145×0.7=0.1015注意到：p(L|?M)+p(?L|?M)=1故有，p(?M)=0.9525×0.3+0.1015p(B)=0.95p(L)=0.7BGMLp(G|B)=0.95p(G|?B)=0.95p(M|?B,L)=0.0p(M|?B,?L)=0.0p(M|B,L)=0.9p(M|B,?L)=0.0593貝葉斯網(wǎng)的推理模式在貝葉斯網(wǎng)中有三個(gè)重要的推理模式：因果推理或由上向下推理，診斷推理或自底向上推理，辯解。以上例說(shuō)明其使用。2、診斷推理或自底向上推理現(xiàn)在計(jì)算手臂沒(méi)移動(dòng)時(shí)(?M)，積木不可舉(?L)的概率p(?L|?M)。這是上例推理的一個(gè)逆否命題的等價(jià)命題。由結(jié)果到起因的一個(gè)反演。這類推理稱為診斷推理?；舅枷耄菏菍⒃瓎?wèn)題向因果推理轉(zhuǎn)換。同理，有：p(L|?M)×p(?M)=p(?M|L)×p(L)p(?M|L)=1-p(M|L)=0.145，于是：p(L|?M)×p(?M)=0.145×0.7=0.1015注意到：p(L|?M)+p(?L|?M)=1故有，p(?M)=0.9525×0.3+0.1015p(B)=0.95p(L)=0.7BGMLp(G|B)=0.95p(G|?B)=0.95p(M|?B,L)=0.0p(M|?B,?L)=0.0p(M|B,L)=0.9p(M|B,?L)=0.0594貝葉斯網(wǎng)的D分離及其知識(shí)推理用例子給出D分離的概念：在下圖中，通常G的知識(shí)能影響B(tài)的知識(shí)，即結(jié)果影響起因，B的知識(shí)會(huì)影響M的知識(shí)。但是，如果給定起因B，G并不能告訴有關(guān)M的更多的信息，則稱BD分離(依賴方向的分離)G和M。如果對(duì)貝葉斯網(wǎng)中的結(jié)點(diǎn)Vi和Vj之間的每個(gè)無(wú)向路徑，在路徑上存在某個(gè)結(jié)點(diǎn)Vb，它有如下三個(gè)性質(zhì)之一，則稱結(jié)點(diǎn)Vi和Vj條件獨(dú)立于給定的結(jié)點(diǎn)集合S(I(Vi,Vj|S))：1、Vb在S中，且路徑上的兩條弧都從Vb開(kāi)始。2、Vb在S中，且路徑上的一條弧以Vb為頭，另一個(gè)以Vb為尾。3、Vb和它的任何后繼都不在S中，且路徑上的兩條弧都以Vb為頭。Vb2ViVjVb1Vb3Vb2ViVjVb1Vb3Vb2ViVjVb1Vb3p(B)=0.95p(L)=0.7BGMLp(G|B)=0.95p(G|?B)=0.95p(M|?B,L)=0.0p(M|?B,?L)=0.0p(M|B,L)=0.9p(M|B,?L)=0.0595貝葉斯網(wǎng)的D分離及其知識(shí)推理用例子給出D分離的概念：如果對(duì)貝葉斯網(wǎng)中的結(jié)點(diǎn)Vi和Vj之間的每個(gè)無(wú)向路徑，在路徑上存在某個(gè)結(jié)點(diǎn)Vb，它有如下三個(gè)性質(zhì)之一，則稱結(jié)點(diǎn)Vi和Vj條件獨(dú)立于給定的結(jié)點(diǎn)集合S(I(Vi,Vj|S))：1、Vb在S中，且路徑上的兩條弧都從Vb開(kāi)始。2、Vb在S中，且路徑上的一條弧以Vb為頭，另一個(gè)以Vb為尾。3、Vb和它的任何后繼都不在S中，且路徑上的兩條弧都以Vb為頭。p(B)=0.95p(L)=0.7BGMLp(G|B)=0.95p(G|?B)=0.95p(M|?B,L)=0.0p(M|?B,?L)=0.0p(M|B,L)=0.9p(M|B,?L)=0.0596貝葉斯網(wǎng)的D分離及其知識(shí)推理用例子給出D分離的概念：如果對(duì)貝葉斯網(wǎng)中的結(jié)點(diǎn)Vi和Vj之間的每個(gè)無(wú)向路徑，在路徑上存在某個(gè)結(jié)點(diǎn)Vb，它有如下三個(gè)性質(zhì)之一，則稱結(jié)點(diǎn)Vi和Vj條件獨(dú)立于給定的結(jié)點(diǎn)集合S(I(Vi,Vj|S))：1、Vb在S中，且路徑上的兩條弧都從Vb開(kāi)始。2、Vb在S中，且路徑上的一條弧以Vb為頭，另一個(gè)以Vb為尾。3、Vb和它的任何后繼都不在S中，且路徑上的兩條弧都以Vb為頭。如果給定S，當(dāng)這些性質(zhì)中的任何一個(gè)占據(jù)一條路徑時(shí)，則稱Vb阻塞那條路徑。如果Vi和Vj之間所有路徑都被阻塞，則稱SD分離Vi和Vj，并有Vi和Vj條件獨(dú)立于給定的S。I(G,L|B)、I(G,L)、I(B,L)。但是，I(B,L|M)不成立。p(B)=0.95p(L)=0.7BGMLp(G|B)=0.95p(G|?B)=0.95p(M|?B,L)=0.0p(M|?B,?L)=0.0p(M|B,L)=0.9p(M|B,?L)=0.0597貝葉斯網(wǎng)的D分離及其知識(shí)推理用例子給出D分離的概念：如果對(duì)貝葉斯網(wǎng)中的結(jié)點(diǎn)Vi和Vj之間的每個(gè)無(wú)向路徑，在路徑上存在某個(gè)結(jié)點(diǎn)Vb，它有如下三個(gè)性質(zhì)之一，則稱結(jié)點(diǎn)Vi和Vj條件獨(dú)立于給定的結(jié)點(diǎn)集合S(I(Vi,Vj|S))：1、Vb在S中，且路徑上的兩條弧都從Vb開(kāi)始。2、Vb在S中，且路徑上的一條弧以Vb為頭，另一個(gè)以Vb為尾。3、Vb和它的任何后繼都不在S中，且路徑上的兩條弧都以Vb為頭。如果給定S，當(dāng)這些性質(zhì)中的任何一個(gè)占據(jù)一條路徑時(shí)，則稱Vb阻塞那條路徑。如果Vi和Vj之間所有路徑都被阻塞，則稱SD分離Vi和Vj，并有Vi和Vj條件獨(dú)立于給定的S。給定證據(jù)集合S，如果兩個(gè)結(jié)點(diǎn)集合Vi和Vj被SD分離，則稱它們是條件獨(dú)立的。給定證據(jù)集合S，如果Vi中的所有結(jié)點(diǎn)和Vj中的所有結(jié)點(diǎn)之間的每條無(wú)向路徑被阻塞，則稱Vi和Vj被SD分離。98貝葉斯網(wǎng)的D分離及其知識(shí)推理在polytree中的概率推理Polytree網(wǎng)是一個(gè)DAG，在該圖中的任何兩個(gè)結(jié)點(diǎn)之間，順著弧的每個(gè)方向只有一條路徑。對(duì)于Polytree網(wǎng)中的一個(gè)結(jié)點(diǎn)Q，如果有些結(jié)點(diǎn)僅通過(guò)Q的雙親與Q相連，則稱這些結(jié)點(diǎn)在Q的上方；如果一些結(jié)點(diǎn)僅通過(guò)Q的后繼與Q相連，則稱這些結(jié)點(diǎn)在Q的下方。于是，對(duì)于結(jié)點(diǎn)Q，有三種類型的證據(jù)：1、所有的證據(jù)結(jié)點(diǎn)在Q的上方；2、所有的證據(jù)結(jié)點(diǎn)在Q的下方；3、在Q的上方和下方均有證據(jù)結(jié)點(diǎn)。P1P7P6P5P4P3P2QP9P8P13P12P14P10P11P1599貝葉斯網(wǎng)的D分離及其知識(shí)推理在polytree中的概率推理1、所有的證據(jù)結(jié)點(diǎn)在Q的上方；計(jì)算P(Q|P5,P4)，這時(shí)，按照自底向上的遞歸算法計(jì)算。首先，計(jì)算Q的每個(gè)祖先的概率，遞歸的計(jì)算這些祖先的祖先。最后，得到所求的概率。P(Q|P5,P4)=P(Q,P6,P7|P5,P4)+P(Q,?P6,P7|P5,P4)+P(Q,P6,?P7|P5,P4)+P(Q,?P6,?P7|P5,P4)簡(jiǎn)記為：利用條件獨(dú)立的定義產(chǎn)生Q的雙親部分的證據(jù)，于是P1P7P6P5P4P3P2QP9P8P13P12P14P10P11P15100貝葉斯網(wǎng)的D分離及其知識(shí)推理在polytree中的概率推理1、所有的證據(jù)結(jié)點(diǎn)在Q的上方；計(jì)算P(Q|P5,P4）利用條件獨(dú)立的定義產(chǎn)生Q的雙親部分的證據(jù)，于是由已知條件，我們知道，Q條件獨(dú)立于它的雙親給定的非后繼結(jié)點(diǎn)，于是有：D分離允許分割雙親，于是有：P1P7P6P5P4P3P2QP9P8P13P12P14P10P11P15由已知條件，P4與P6獨(dú)立，P5與P7獨(dú)立，所以有：101貝葉斯網(wǎng)的D分離及其知識(shí)推理在polytree中的概率推理2、所有的證據(jù)結(jié)點(diǎn)在Q的下方；計(jì)算P(Q|P12,P13,P14,P11)，這時(shí)，所有的證據(jù)結(jié)點(diǎn)都在Q的下方。在頂層用貝葉斯規(guī)則寫(xiě)出：用D分離，I({P12,P13},{P14,P11}|Q)，產(chǎn)生：P1P7P6P5P4P3P2QP9P8P13P12P14P10P11P15102貝葉斯網(wǎng)的D分離及其知識(shí)推理在polytree中的概率推理1、所有的證據(jù)結(jié)點(diǎn)在Q的上下方；計(jì)算P(Q|P12,P13,P14,P11)，考慮p(P12,P13|Q),這時(shí)，觀察結(jié)點(diǎn)P9與詢問(wèn)結(jié)點(diǎn)集{P12,P13}之間的關(guān)系，于是有：利用D分離，I({P12,P13},Q|P9),故有：這時(shí)，為計(jì)算p(P9|Q)考慮P9的父結(jié)點(diǎn)，于是有：注意：P12與P13獨(dú)立于給定的P9,故P1P7P6P5P4P3P2QP9P8P13P12P14P10P11P15103貝葉斯網(wǎng)的D分離及其知識(shí)推理在polytree中的概率推理1、所有的證據(jù)結(jié)點(diǎn)在Q的上下方；計(jì)算P(Q|P12,P13,P14,P11)，現(xiàn)在，把自頂向下過(guò)程應(yīng)用到計(jì)算p(P14,P11|Q),于是有：由于I(P14,P11|P10)，故有：這時(shí)，把自頂向下過(guò)程應(yīng)用p(P11|P10),于是有：P1P7P6P5P4P3P2QP9P8P13P12P14P10P11P15由于P10和P11相互獨(dú)立：有104貝葉斯網(wǎng)的特點(diǎn)

1。貝葉斯網(wǎng)絡(luò)本身是一種不定性因果關(guān)聯(lián)模型。貝葉斯網(wǎng)絡(luò)與其他決策模型不同，它本身是將多元知識(shí)圖解可視化的一種概率知識(shí)表達(dá)與推理模型，更為貼切地蘊(yùn)含了網(wǎng)絡(luò)節(jié)點(diǎn)變量之間的因果關(guān)系及條件相關(guān)關(guān)系。

2。貝葉斯網(wǎng)絡(luò)具有強(qiáng)大的不確定性問(wèn)題處理能力。貝葉斯網(wǎng)絡(luò)用條件概率表達(dá)各個(gè)信息要素之間的相關(guān)關(guān)系，能在有限的，不完整的，不確定的信息條件下進(jìn)行學(xué)習(xí)和推理。

3。貝葉斯網(wǎng)絡(luò)能有效地進(jìn)行多源信息表達(dá)與融合。貝葉斯網(wǎng)絡(luò)可將故障診斷與維修決策相關(guān)的各種信息納入網(wǎng)絡(luò)結(jié)構(gòu)中，按節(jié)點(diǎn)的方式統(tǒng)一進(jìn)行處理，能有效地按信息的相關(guān)關(guān)系進(jìn)行融合。用貝葉斯網(wǎng)學(xué)習(xí)和動(dòng)作學(xué)習(xí)一個(gè)貝葉斯網(wǎng)是尋找一個(gè)網(wǎng)絡(luò)，它能最好地匹配一個(gè)數(shù)據(jù)訓(xùn)練集，即尋找一個(gè)DAG結(jié)構(gòu)，并確定它中的每個(gè)結(jié)點(diǎn)的條件概率表。一般貝葉斯網(wǎng)絡(luò)的構(gòu)建是首先由相關(guān)領(lǐng)域的專家根據(jù)事物間的關(guān)系來(lái)確定出結(jié)構(gòu)模型，即有向無(wú)環(huán)圖，然后再利用其它方法確定每個(gè)節(jié)點(diǎn)的條件概率，但這樣構(gòu)建的網(wǎng)絡(luò)模型無(wú)法保證其客觀性和可靠性．因此，研究人員嘗試引入客觀的觀測(cè)數(shù)據(jù)，希望通過(guò)將觀測(cè)數(shù)據(jù)與專家知識(shí)相結(jié)合來(lái)共同構(gòu)建貝葉斯網(wǎng)絡(luò)，并進(jìn)一步在沒(méi)有專家先驗(yàn)知識(shí)的情況下，嘗試完全從觀測(cè)數(shù)據(jù)中學(xué)習(xí)得到網(wǎng)絡(luò)結(jié)構(gòu)和參數(shù)．其中網(wǎng)絡(luò)結(jié)構(gòu)的學(xué)習(xí)不但是整個(gè)學(xué)習(xí)過(guò)程的基礎(chǔ)，并且是一個(gè)“NP難題”，因此更吸引了大量研究人員的注意。用貝葉斯網(wǎng)學(xué)習(xí)和動(dòng)作學(xué)習(xí)一個(gè)貝葉斯網(wǎng)是尋找一個(gè)網(wǎng)絡(luò)，它能最好地匹配一個(gè)數(shù)據(jù)訓(xùn)練集，即尋找一個(gè)DAG結(jié)構(gòu)，并確定它中的每個(gè)結(jié)點(diǎn)的條件概率表。已知網(wǎng)絡(luò)結(jié)構(gòu)在已知DAG結(jié)構(gòu)，要得到結(jié)點(diǎn)的條件概率表(CPT)，確定CPT有兩種情況，首先考慮：1、沒(méi)有缺失數(shù)據(jù)如果有充足的訓(xùn)練樣本，只要計(jì)算每個(gè)結(jié)點(diǎn)和它雙親的采樣統(tǒng)計(jì)信息。假如給定結(jié)點(diǎn)Vi的雙親P(Vi),現(xiàn)在計(jì)算Vi的CPT。對(duì)于每個(gè)結(jié)點(diǎn)都可以指派一個(gè)值，現(xiàn)在考慮對(duì)