工業(yè)大數(shù)據(jù)與人工智能2024年2月6日HFUT主編：汪萌1匯報人：徐娟03事后可解釋的推理04貝葉斯網(wǎng)絡(luò)決策02事前可解釋的推理01知識推理的基本概念205多智能體系統(tǒng)與協(xié)同決策3概念：知識推理是指根據(jù)知識圖譜中已有的知識，采用某些方法，推理出新的知識或識別知識圖譜中錯誤的知識。知識推理的分類：盡管有很多學(xué)者對知識推理領(lǐng)域進行了深入的研究，并從不同的角度（如分布式表示角度、圖神經(jīng)網(wǎng)絡(luò)角度、神經(jīng)-符號角度、基于可解釋性角度等）對推理模型進行梳理和總結(jié)。本節(jié)主要采用是基于可解釋性角度來對知識推理進行分類，其主要可劃分為事前可解釋性的推理和事后可解釋性的推理。知識推理的基本概念4事前可解釋的推理概念：事前解釋模型，是指那些在設(shè)計之初即融入了內(nèi)在可解釋性要素，或?qū)⒖山忉屇K無縫嵌入其結(jié)構(gòu)中的模型體系。事前可解釋推理模型被進一步細(xì)分為全局可解釋和局部可解釋兩種類型。全局可解釋模型意味著其整體運行邏輯和決策過程能夠被清晰地闡述和理解，而局部可解釋模型則側(cè)重于針對每一次具體決策或預(yù)測，都能夠給出與該決策相關(guān)的局部可理解。5事前可解釋的推理全局可解釋全局可解釋其中包括有基于本體推理和基于規(guī)則的推理。1.基于本體推理：本體構(gòu)成了知識圖譜的核心框架，被視為一種共享的概念模型，具備明確且形式化的規(guī)范性定義，其中包含的概念和關(guān)系均為共識認(rèn)可的要素。在描述邏輯的范疇內(nèi)，本體通常通過一元謂詞和二元謂詞來進行構(gòu)造。6事前可解釋的推理全局可解釋全局可解釋其中包括有基于本體推理和基于規(guī)則的推理。2.基于規(guī)則推理：基于規(guī)則的推理是一種邏輯推理方法，依賴于預(yù)定義的規(guī)則來推導(dǎo)結(jié)論。這些規(guī)則形式化為“如果-那么”語句，用于描述對象之間的關(guān)系或數(shù)據(jù)的行為模式。以醫(yī)療診斷為例，基于規(guī)則的推理系統(tǒng)可以利用一組預(yù)定義的規(guī)則來診斷疾病。假設(shè)有以下規(guī)則：(1)如果病人有發(fā)熱和咳嗽，那么可能患有流感。(2)如果病人有發(fā)熱和皮疹，那么可能患有麻疹。當(dāng)病人的癥狀輸入到系統(tǒng)中時，推理機會檢查這些癥狀與哪些規(guī)則匹配。例如，如果一個病人有發(fā)熱和咳嗽，基于規(guī)則的推理系統(tǒng)將應(yīng)用第一條規(guī)則，并推斷病人可能患有流感。2.基于案例推理：基于案例推理機制（Case-BasedReasoning,CBR）是一種人工智能技術(shù)，其核心理念是借鑒歷史經(jīng)驗和先前案例來解決當(dāng)前相似問題。3.基于注意力機制推理：注意力機制推理能模仿人類注意力分配機制，能夠從海量輸入信息中挑選關(guān)鍵信息予以重點關(guān)注，同時忽略不重要的部分。4.基于強化學(xué)習(xí)推理：其目標(biāo)是通過有限的探索步驟，尋找到與當(dāng)前查詢緊密相關(guān)的合理推理路徑。此類方法將推理路徑搜尋問題抽象為馬爾可夫決策過程，首先從主題實體出發(fā)，依照問題需求選擇適當(dāng)?shù)年P(guān)系，繼而過渡到新的實體節(jié)點；在新實體節(jié)點基礎(chǔ)上，重復(fù)上述選擇關(guān)系的過程，步步迭代，直至達(dá)到預(yù)設(shè)的最大步數(shù)或成功抵達(dá)正確的答案實體。1.基于隨機游走的推理技術(shù)：主要借鑒了路徑排名算法（PRA）的核心思想，將實體間的路徑視作可解釋的預(yù)測特征。7事前可解釋的推理局部可解釋局部可解釋包括有基于隨機游走的推理、基于案例推理、基于注意力機制推理、基于強化學(xué)習(xí)推理。8事后可解釋的推理概念：事后可解釋性作為一種獨特的方法論，旨在從已訓(xùn)練好的復(fù)雜模型中揭示其內(nèi)部工作機制。盡管無法完全揭示模型的內(nèi)在運作原理，但是對于一個特定的分布式推理模型。通過應(yīng)用解釋技術(shù)或構(gòu)建專用的解釋模型，可以對其推理過程、決策行為以及預(yù)測依據(jù)進行一定程度的解讀。難點：近年來，分布式表示推理技術(shù)取得了顯著進展，盡管在性能上表現(xiàn)優(yōu)秀，但其內(nèi)在的黑盒特性阻礙了對模型預(yù)測的直接解釋。9貝葉斯網(wǎng)絡(luò)決策思考

機器自動識別分類，能不能避免錯分類，做到百分之百正確?怎樣才能減少錯誤?

錯分類往往難以避免，因此就要考慮減小因錯分類造成的危害損失，那么如何實現(xiàn)正確的決策?

什么是先驗概率、類概率密度函數(shù)和后驗概率?它們的定義和相互關(guān)系如何?貝葉斯公式正是體現(xiàn)三者關(guān)系的式子。10貝葉斯網(wǎng)絡(luò)決策概率圖模型(ProbabilisticGraphicalModels)-貝葉斯網(wǎng)絡(luò)(BayesNets)大概形象的理解概率圖模型的2種分類貝葉斯網(wǎng)絡(luò)--結(jié)點與結(jié)點之間是以有向箭頭相連接，代表是這個結(jié)點會影響下一個結(jié)點馬爾可夫網(wǎng)絡(luò)--結(jié)點與結(jié)點之間是以無向箭頭相連接，代表是結(jié)點與結(jié)點之間會相互影響11貝葉斯網(wǎng)絡(luò)決策前置知識：當(dāng)兩個變量與變量之間獨立的時候，他們呢發(fā)生的概率是互不影響的：當(dāng)兩個變量與變量之間，依靠另外一個以觀察到的變量存在的時候，才獨立12貝葉斯網(wǎng)絡(luò)決策概率圖表示：因為Y會被X影響力傳播到，所以X和Y一定不獨立YXYX與Y沒有影響關(guān)系，所以X影響力傳播不到Y(jié)，所以X,Y互相獨立：13貝葉斯網(wǎng)絡(luò)決策那比如圖（1）這樣呢？X和Y是否獨立X與Y依靠Z連接，假如Z沒有被觀察到的話，X的影響力只能傳播到Z，Y的影響力也只能傳播到Z，，X與Y之間不直接或間接傳播，所以X，Y獨立。但假如Z被觀察到了，X與Y就不獨立了，如圖（2）：YXZ（1）YXZ（2）14貝葉斯網(wǎng)絡(luò)決策貝葉斯網(wǎng)絡(luò)為例給定三個節(jié)點x1,x2,x3(a)當(dāng)x2被觀察到，x1和x3便構(gòu)成條件獨立，它們之間的關(guān)系也稱之為間接因果關(guān)系。(b)同理。(c)當(dāng)x2未被觀察到，x1和x3是不相互獨立關(guān)系，它們之間的關(guān)系也稱之為共因關(guān)系。(d)當(dāng)x2被觀察到，x1和x3便構(gòu)成獨立關(guān)系，它們之間的關(guān)系也稱之為共果關(guān)系。貝葉斯網(wǎng)絡(luò)便是由多個這樣的概率圖構(gòu)建出來的模型15貝葉斯網(wǎng)絡(luò)決策例子分析（疾病診斷）假設(shè)我們有一個簡單的疾病診斷問題，涉及三個變量：D：患者是否患有某種疾?。―isease）T：患者的檢測結(jié)果（TestResult）S：患者是否有癥狀（Symptoms）我們用一個貝葉斯網(wǎng)絡(luò)來表示這些變量之間的關(guān)系。假設(shè)疾病??是導(dǎo)致癥狀??和檢測結(jié)果??的原因。16貝葉斯網(wǎng)絡(luò)決策構(gòu)建簡單的概率圖STD在這個圖中：D是父節(jié)點，T和S是子節(jié)點。D直接影響T和S。我們需要定義每個變量的條件概率分布。假設(shè)每個變量都是二值的，即取值為真（True）或假（False）。1.先驗概率P(D)P(D=True)=0.01P(D=False))=0.992.

條件概率P(T|D)P(T=True|D=True)=0.95P(T=False|D=True)=0.05P(T=True|D=False)=0.05P(T=False|D=False)=0.953.

條件概率P(S|D)P(S=True|D=True)=0.8P(S=False|D=True)=0.2P(S=True|D=False)=0.1P(S=False|D=False)=0.917貝葉斯網(wǎng)絡(luò)決策構(gòu)建簡單的概率圖STD1.先驗概率P(D)P(D=True)=0.01P(D=False))=0.993.

條件概率P(S|D)P(S=True|D=True)=0.8P(S=False|D=True)=0.2P(S=True|D=False)=0.1P(S=False|D=False)=0.92.

條件概率P(T|D)P(T=True|D=True)=0.95P(T=False|D=True)=0.05P(T=True|D=False)=0.05P(T=False|D=False)=0.95聯(lián)合概率分布P(D,T,S)可以通過鏈?zhǔn)椒▌t計算:P(D,T,S)=P(D)·P(T|D)·P(S|D)18貝葉斯網(wǎng)絡(luò)決策P(D,T,S)=P(D)·P(T|D)·P(S|D)1.患者有病且檢測結(jié)果為真且有癥狀:P(D=True,T=True,S=True)=P(D=True)·P(T=True|D=True)·P(S=True|D=True)=0.01·0.95·0.8=0.00762.患者有病且檢測結(jié)果為真且無癥狀:P(D=True,T=True,S=False)=P(D=True)·P(T=True|D=True)·P(S=False|D=True)=0.01·0.95·0.2=0.00193.患者有病且檢測結(jié)果為假且有癥狀:P(D=True,T=False,S=True)=P(D=False)·P(T=False|D=True)·P(S=True|D=True)=0.01·0.05·0.8=0.00044.患者有病且檢測結(jié)果為假且無癥狀：P(D=True,T=False,S=False)=P(D=True)P(T=False|D=True)·P(S=False|D=True)=0.01·0.05·0.2=0.00015.患者無病且檢測結(jié)果為真且有癥狀:P(D=False,T=True,S=True)=P(D=False)P(T=True|D=False)·P(S=True|D=False)=0.99·0.05·0.1=0.004956.患者無病且檢測結(jié)果為真且無癥狀：P(D=False,T=True,S=False)=P(D=False)P(T=True|D=False)·P(S=False|D=False)=0.99·0.05·0.9=0.044557.患者無病且檢測結(jié)果為假且有癥狀：P(D=False,T=False,S=True)=P(D=False)P(T=False|D=False)·P(S=True|D=False)=0.99·0.95·0.1=0.094058.患者無病且檢測結(jié)果為假且無癥狀P(D=False,T=False,S=False)=P(D=False)P(T=False|D=False)·P(S=False|D=False)=0.99.0.95.0.9=0.8464519貝葉斯網(wǎng)絡(luò)決策P(D,T,S)=P(D)·P(T|D)·P(S|D)推理示例假設(shè)我們知道患者的檢測結(jié)果為真(T=True)，并且有癥狀(S=True)，我們想計算患者有病的概率P(D=True,T=True,S=True)使用貝葉斯定理，其中，P(T=True,S=True)可以通過全概率公式計算P(T=True,S=True)=P(T=True,S=True|D=True)·P(D=True)+P(TTrue,S=True|D=False)·P(D=False)20貝葉斯網(wǎng)絡(luò)決策P(D,T,S)=P(D)·P(T|D)·P(S|D)推理示例代入已知數(shù)值P(T=True,S=True|D=True)=0.95.0.8=0.76P(T=True,S=True|D=False)=0.05.0.1=0.005P(T=True,S=True)=0.76.0.01+0.005·0.99=0.0076+0.00495=0.01255P(D=True,T=True,S=True)

≈0.6056所以，患者有病的概率大約為60.56%。通過這個例子，我們可以看到貝葉斯網(wǎng)絡(luò)如何通過概率圖和條件概率分布來表示變量之間的依賴關(guān)系，并進行推理和預(yù)測。這種模型在工業(yè)決策、醫(yī)學(xué)診斷、風(fēng)險評估等領(lǐng)域有廣泛的應(yīng)用。21智能體系統(tǒng)概念：智能體Agent可以認(rèn)為是一個獨立的系統(tǒng)，該系統(tǒng)能感知所處環(huán)境獲取信息，利用貯備的先驗知識或利用不斷