第5章 機(jī)器學(xué)習(xí)15.1機(jī)器學(xué)習(xí)概述5.1.1學(xué)習(xí) 學(xué)習(xí)是對(duì)某一個(gè)特定目標(biāo)的知識(shí)獲取過(guò)程，系統(tǒng)的內(nèi)部表現(xiàn)為新知識(shí)結(jié)構(gòu)的建立和改進(jìn)，外部表現(xiàn)為系統(tǒng)性能的改善，使之更快、更精確、更健全。 機(jī)器學(xué)習(xí)是指用計(jì)算機(jī)模擬人類的學(xué)習(xí)行為，自動(dòng)地通過(guò)，學(xué)習(xí)獲取知識(shí)和技能，不斷改善性能，實(shí)現(xiàn)系統(tǒng)的自我完善。5.1.2機(jī)器學(xué)習(xí)的意義（1）人類的學(xué)習(xí)成果不能被克隆(C1one)。（2）人類個(gè)體的學(xué)習(xí)成果不能完整地永久保存。（3）人類的學(xué)習(xí)的成本 1/3。（4）人類學(xué)習(xí)還存在著個(gè)體差異、遺忘等特征。5.1.3機(jī)器學(xué)習(xí)研究的發(fā)展21）神經(jīng)元模型研究階段（數(shù)學(xué)生物物理學(xué)）2）符號(hào)學(xué)習(xí)研究發(fā)展階段 （用符號(hào)表示知識(shí)，并用其對(duì)人類學(xué)習(xí)過(guò)程進(jìn)行模擬）3）聯(lián)結(jié)學(xué)習(xí)和符號(hào)學(xué)習(xí)共同發(fā)展階段。4）分析學(xué)習(xí)、決策樹(shù)歸納和遺傳算法、聯(lián)結(jié)和符號(hào)學(xué)習(xí)的集成學(xué)習(xí)5.2機(jī)器學(xué)習(xí)的模型、策略和方法35.2.1簡(jiǎn)單的學(xué)習(xí)模型（1）環(huán)境：環(huán)境指系統(tǒng)所處的外在情形。（2）學(xué)習(xí)環(huán)節(jié)：學(xué)習(xí)環(huán)節(jié)是學(xué)習(xí)系統(tǒng)的核心，采用合適的知識(shí)表示方式，對(duì)感知的環(huán)境信息進(jìn)行加上處理，形成有效的知識(shí)存人系統(tǒng)知識(shí)庫(kù)。（3）知識(shí)庫(kù)：知識(shí)庫(kù)儲(chǔ)存系統(tǒng)經(jīng)過(guò)學(xué)習(xí)獲得的知識(shí)，系統(tǒng)運(yùn)用這些知 識(shí)指導(dǎo)執(zhí)行環(huán)節(jié)的動(dòng)作. 1)良好的知識(shí)表示

2）基于知識(shí)的擴(kuò)充和修改（4）執(zhí)行環(huán)節(jié)：執(zhí)行環(huán)節(jié)是設(shè)計(jì)學(xué)習(xí)系統(tǒng)的目的，是在運(yùn)用學(xué)到的 知識(shí)指導(dǎo)下，完成特定的任務(wù)或動(dòng)作.環(huán)境學(xué)習(xí)環(huán)節(jié)知識(shí)庫(kù)執(zhí)行環(huán)節(jié)5.2.3.1機(jī)械學(xué)習(xí)5機(jī)械學(xué)習(xí)就是記憶，把新知識(shí)儲(chǔ)存起來(lái)，需要時(shí)對(duì)儲(chǔ)存的知識(shí)進(jìn)行檢索，而不再需要計(jì)算和推理。機(jī)械學(xué)習(xí)模式：設(shè)系統(tǒng)的輸人模式為(X1，X2，…，Xm)，對(duì)應(yīng)的輸出模式為(Y1，Y2,…Ym)。使用時(shí)根據(jù)給定的輸人數(shù)據(jù)，直接查找、檢索輸出。機(jī)械學(xué)習(xí)類似數(shù)學(xué)用表、數(shù)據(jù)庫(kù)采用的技術(shù)，用空間換時(shí)間的方法，減少計(jì)算和推理的時(shí)間。機(jī)械學(xué)習(xí)是最簡(jiǎn)單的學(xué)習(xí)方法，同時(shí)又是其他學(xué)習(xí)方法的基礎(chǔ)。記憶學(xué)習(xí)，或死記硬背學(xué)習(xí)(RoteLearning)5.2.3.2傳授學(xué)習(xí)6

環(huán)境提供給系統(tǒng)抽象的、高水平的建議，系統(tǒng)自動(dòng)把它們變換成執(zhí)行環(huán)節(jié)使用的較具體的、低水平的知識(shí)。（1）要求：專家提出建議。判別知識(shí)庫(kù)的缺陷，并提出修正方法。（2)解釋：用一定的知識(shí)表示方式把專家的建議轉(zhuǎn)換成系統(tǒng)內(nèi)部表示。(3)實(shí)用化：學(xué)習(xí)的信息變換過(guò)程，將專家建議轉(zhuǎn)換成具體的知識(shí)。 實(shí)用化過(guò)程往往采用試探性的假設(shè)和近似，確保其合理性， 并不保證其完全正確。得到的假設(shè)還要經(jīng)過(guò)檢驗(yàn)和修正。(4)歸并：將新知識(shí)加入知識(shí)庫(kù)，檢查并保證知識(shí)的相容性。(5)評(píng)價(jià)：實(shí)用化過(guò)程得到的新知識(shí)往往只是假設(shè)，要經(jīng)過(guò)驗(yàn)證和修改， 即需要進(jìn)行評(píng)價(jià)。如果評(píng)價(jià)中發(fā)現(xiàn)了問(wèn)題，就需要進(jìn)行問(wèn)題分析和 知識(shí)庫(kù)修改。實(shí)用化是整個(gè)學(xué)習(xí)過(guò)程的核心。指導(dǎo)式學(xué)習(xí)5.2.3.3示例學(xué)習(xí)7

實(shí)例學(xué)習(xí)能從環(huán)境獲取一些關(guān)于某個(gè)概念的實(shí)例，實(shí)例由老師準(zhǔn)備好，并根據(jù)需要?jiǎng)澐譃檎头蠢?，學(xué)習(xí)系統(tǒng)根據(jù)這些實(shí)例進(jìn)行歸納推理，得出關(guān)于這個(gè)概念的一般性規(guī)則(知識(shí))。提供給系統(tǒng)的實(shí)例通常是非常具體的、低級(jí)的信息， 系統(tǒng)經(jīng)過(guò)學(xué)習(xí)環(huán)節(jié)歸納出概括的、高水平的信息，即規(guī)則(知識(shí))，并能使用學(xué)到的知識(shí)指導(dǎo)以后的執(zhí)行行為。

(Learning

From

Examples實(shí)例學(xué)習(xí))例：教給系統(tǒng)撲克游戲中的“同花”概念8“同花”指一手5張牌為同一花色Diamonds，Clubs，Hearts，Spades。例子空間：一副撲克牌中5張牌的所有可能組合的集合。比如：“同花”的一個(gè)正例： {2，Hearts}，{K，Hearts}，{6，Hearts}，{10，Hearts}，(J，Hearts)}“同花”的一個(gè)反例： {2，Hearts}，{K，Diamonds}，{6，Spades}，{Hearts)，{J，Clubs)}規(guī)則空間：描述一手5張牌中各種組合特征的謂詞公式的集合。設(shè)謂詞Suit(x，y)來(lái)描述一張牌，其中x描述牌的點(diǎn)數(shù)，取值范圍為{2，3，…，K，A}， y描述牌的花色，取值范圍為{Clubs，Diamonds，Hearts，Spades}。那么描述“同花”的規(guī)則可以是：((cl，c2，c3，c4，c5))(y){Suit(c1，y)∧Suit(c2，y) ∧Suit(c3，y)∧Suit(c4，y)∧Suit(c5，y)}框架的類比學(xué)習(xí)例10采用知識(shí)的框架表示，類比學(xué)習(xí)可以描述為將一個(gè)框架(源框架)的槽值傳送到另一框架(目標(biāo)框架)的槽。傳送分為兩步：①利用源框架產(chǎn)生推薦的槽，這些槽的值可以傳送到目標(biāo)框架；②由目標(biāo)框架中已有的信息來(lái)篩選第一步推薦的槽。在“肖鋒和消防車之間類比”，消防車是源框架、肖鋒是目標(biāo)框架，肖鋒：ISA 人性別 男活動(dòng)級(jí) 快音量 極高進(jìn)取心 中等通過(guò)類比獲得肖鋒框架“活動(dòng)級(jí)”、“音量”的值。

消防車：ISA 車輛顏色 紅活動(dòng)級(jí) 快音量 極高燃料效率 中等梯高 XOR(Long，Short)，5.2.3.5基于解釋的學(xué)習(xí)11通過(guò)運(yùn)用相關(guān)的領(lǐng)域知識(shí)及一個(gè)訓(xùn)練實(shí)例，對(duì)某個(gè)目標(biāo)概念進(jìn)行學(xué)習(xí)，最終得到這個(gè)目標(biāo)概念的一般描述式化表示的一般知識(shí)。提出基于解釋學(xué)習(xí)的動(dòng)因：（1）人們經(jīng)常能從觀察或執(zhí)行的單個(gè)實(shí)例中得到一個(gè)一般性的概 念或規(guī)則。(2)歸納學(xué)習(xí)是人類常用的學(xué)習(xí)方法，但由于歸納方法在學(xué)習(xí)中， 靠領(lǐng)域知識(shí)來(lái)幫助分析、判斷實(shí)例的屬性，僅僅通過(guò)實(shí)例間的 比較來(lái)提取共性，這是無(wú)法推理的正確性的原因之一。而基于 解釋學(xué)習(xí)在學(xué)習(xí)過(guò)程中運(yùn)用領(lǐng)域知識(shí)對(duì)行分析、解釋，從而避 免類似問(wèn)題的發(fā)生。(3)由于基于解釋學(xué)習(xí)只需要一兩個(gè)實(shí)例，學(xué)習(xí)的效率高。

(Explanation-BasedLearning)5.3學(xué)習(xí)方法的比較和展望13若以推理能力來(lái)排列各種符號(hào)學(xué)習(xí)方法，則從低至高的順序是：機(jī)械式學(xué)習(xí)、解釋學(xué)習(xí)、類比學(xué)習(xí)、示例學(xué)習(xí)。若從學(xué)習(xí)方法對(duì)領(lǐng)域理論的要求來(lái)看，示例學(xué)習(xí)雖要求環(huán)境提供多個(gè)實(shí)例，但對(duì)領(lǐng)域理論要求較少，而解釋學(xué)習(xí)恰好與它相反。若從知識(shí)獲取角度來(lái)看，示例學(xué)習(xí)通過(guò)學(xué)習(xí)可以產(chǎn)生新概念描述，可用于專家系統(tǒng)的知識(shí)獲取。解釋學(xué)習(xí)的學(xué)習(xí)目標(biāo)主要是改善系統(tǒng)的效率，而不擴(kuò)充概念描述的范圍。5.3.