歸納推理的實現(xiàn)方法第一頁，共二十頁，編輯于2023年，星期六一.機器學(xué)習(xí)的意義

機器學(xué)習(xí)就是計算機自動獲取知識，是知識工程三分支（表示知識、使用知識、獲取知識）之一。

機器學(xué)習(xí)2第二頁，共二十頁，編輯于2023年，星期六二.學(xué)習(xí)的定義（四種觀點） 1.獲取知識的過程

2.掌握技能的過程

3.系統(tǒng)改善自身性能的過程

4.建立理論、形成假設(shè)、發(fā)現(xiàn)事物規(guī)律、 進行歸納推理的過程

機器學(xué)習(xí)

3第三頁，共二十頁，編輯于2023年，星期六三.Simon的學(xué)習(xí)模型圓圈代表信息/知識的集合環(huán)境——外界提供的信息/知識知識庫——系統(tǒng)具有的知識方框代表環(huán)節(jié)

學(xué)習(xí)環(huán)節(jié)——由環(huán)境提供的信息生成知識庫中的知識執(zhí)行環(huán)節(jié)——利用知識庫的知識完成某種任務(wù)，并把執(zhí)行中獲得的信息反饋給學(xué)習(xí)環(huán)節(jié)，進而改進知識庫。機器學(xué)習(xí)

環(huán)境學(xué)習(xí)環(huán)節(jié)知識庫執(zhí)行環(huán)節(jié)4第四頁，共二十頁，編輯于2023年，星期六四.信息/知識的級別(level)和機器學(xué)習(xí)的類型LE——環(huán)境提供的信息/知識的級別

LK——知識庫中提供的信息/知識的級別（高——抽象、概括、一般低——具體、詳細、個別）1）記憶學(xué)習(xí)LE

=LK

2）傳授學(xué)習(xí)LE

＞LK

3）歸納學(xué)習(xí)LE

＜LK

（還有演繹學(xué)習(xí)、類比學(xué)習(xí)LE

=LK）

機器學(xué)習(xí)實例學(xué)習(xí)（有示教）觀察與發(fā)現(xiàn)學(xué)習(xí)（無示教）5第五頁，共二十頁，編輯于2023年，星期六1）記憶學(xué)習(xí)（RoteLearning）LE=LK記憶學(xué)習(xí)就是存儲知識

——存儲環(huán)境提供的或經(jīng)計算和推導(dǎo)得到的知識。再需要時，可以直接檢索知識庫得到這些知識，而不必次計算和推導(dǎo)。知識（聯(lián)想）對

6第六頁，共二十頁，編輯于2023年，星期六記憶學(xué)習(xí)（RoteLearning）例1估算汽車修理費輸入信息：車型、車齡、故障估算：修理費先查知識庫；如未查到，才所有保險公司提供的復(fù)雜公式進行估算，并將知識（聯(lián)想）對

[輸入信息，估算結(jié)果]存入知識庫，供以后使用。

7第七頁，共二十頁，編輯于2023年，星期六記憶學(xué)習(xí)（RoteLearning）例2Samuel下棋程序記憶棋局最佳走步：A—B—C—D，再遇到棋局A時不必再費時搜索。8第八頁，共二十頁，編輯于2023年，星期六討論

記憶學(xué)習(xí)適合于穩(wěn)定的信息環(huán)境記憶與計算的權(quán)衡對于計算/推理十分簡單的情況則不必記憶知識庫知識更新

1）清除過時信息（例：50年代的修理費）

2）吐故納新（容量滿時刪去“年齡”最大的記錄）每記入一個新紀錄時，已有記錄的年齡都加1

被選用的記錄年齡減半9第九頁，共二十頁，編輯于2023年，星期六2）傳授學(xué)習(xí)（LearningbyBeingTold）LE

＞LK

在這種學(xué)習(xí)方式下，由外部環(huán)境向系統(tǒng)提供一般性的指示或建議，系統(tǒng)把它們具體地轉(zhuǎn)化為細節(jié)知識，并加入知識庫中。10第十頁，共二十頁，編輯于2023年，星期六傳授學(xué)習(xí)的過程（5步）1)要求（請求專家提出建議）被動式：被動等待專家提供建議主動式：主動吸引專家注意力，請求專家建議指導(dǎo)2)解釋把建議轉(zhuǎn)成內(nèi)部表示形式3)具體化將內(nèi)部表示形式轉(zhuǎn)化為執(zhí)行環(huán)節(jié)可用的規(guī)則。這是由抽象到具體，由級別高到級別低的過程。4)加入知識庫將新規(guī)則并入知識庫。注意：為防出現(xiàn)矛盾、冗余、環(huán)路等問題，要進行一致性檢查。5)評價執(zhí)行環(huán)節(jié)在使用中檢驗新規(guī)則（有假設(shè)成分）是否正確。如不正確，反饋給學(xué)習(xí)環(huán)節(jié)，自動刪除或報告給專家；由專家確定故障原因，提出新建議。11第十一頁，共二十頁，編輯于2023年，星期六兩類傳授學(xué)習(xí)全自動的機器學(xué)習(xí)

1)—5)步全由機器實現(xiàn)半自動的機器學(xué)習(xí)專家完成其中幾步12第十二頁，共二十頁，編輯于2023年，星期六3）歸納學(xué)習(xí)

LE

＜LK3-1)實例學(xué)習(xí)（LearningfromExample）（有示教）通過從環(huán)境中取得若干與某概念有關(guān)的例子，經(jīng)歸納推理得出一般性概念。在這種學(xué)習(xí)方法中，外部環(huán)境提供給系統(tǒng)一些特殊的實例，這些實例事先被劃分為正例和反例。例1：學(xué)習(xí)“狗”的概念給出正例、反例，程序總結(jié)出什么是狗例2：學(xué)習(xí)下棋給出一些具體棋局及正/誤走法，程序歸納出下棋的一般規(guī)律13第十三頁，共二十頁，編輯于2023年，星期六實例學(xué)習(xí)的兩個空間模型

驗證過程解釋過程示例空間規(guī)則空間(選擇例子)(解釋例子)14第十四頁，共二十頁，編輯于2023年，星期六歸納推理的實現(xiàn)方法(1)化常量為變量學(xué)習(xí)“同花”(FLUSH)的概念，提供兩個正例正例1：SUIT(C1,Clubs)SUIT(C2,Clubs)SUIT(C3,Clubs)SUIT(C4,Clubs)SUIT(C5,Clubs)FLUSH(C1,C2,C3,C4,C5)

正例2：SUIT(C1,Spades)SUIT(C2,Spades)SUIT(C3,Spades)SUIT(C4,Spades)SUIT(C5,Spades)FLUSH(C1,C2,C3,C4,C5)歸納出規(guī)則1：SUIT(C1,X)SUIT(C2,X)SUIT(C3,X)SUIT(C4,X)SUIT(C5,X)

FLUSH(C1,C2,C3,C4,C5)15第十五頁，共二十頁，編輯于2023年，星期六歸納推理的實現(xiàn)方法(2)去掉條件也可以歸納出規(guī)則1：SUIT(C1,X)SUIT(C2,X)SUIT(C3,X)SUIT(C4,X)SUIT(C5,X)

FLUSH(C1,C2,C3,C4,C5)正例3

SUIT(C1,X)RANK(C1,3)SUIT(C2,X)RANK(C2,5)SUIT(C3,X)RANK(C3,7)SUIT(C4,X)RANK(C4,10)SUIT(C5,X)RANK(C5,K)FLUSH(C1,C2,C3,C4,C5)正例4SUIT(C1,X)RANK(C1,1)SUIT(C2,X)RANK(C2,2)SUIT(C3,X)RANK(C3,6)SUIT(C4,X)RANK(C4,9)SUIT(C5,X)RANK(C5,J)FLUSH(C1,C2,C3,C4,C5)16第十六頁，共二十頁，編輯于2023年，星期六歸納推理的實現(xiàn)方法(3)增加選擇正例5：RANK(C1,J)FACE(C1)正例6：

RANK(C1,K)FACE(C1)歸納出：規(guī)則2RANK(C1,J)RANK(C1,Q)RANK(C1,K)FACE(C1)方法(3)增加選擇（增加析取項）是范圍擴大方法(2)去掉條件（去掉合取項）也是范圍擴大方法(1)常量化為變量也是范圍擴大

17第十七頁，共二十頁，編輯于2023年，星期六歸納推理的實現(xiàn)方法(4)曲線(面)擬合正例7(0,2,7)為曲面上的點正例8(6,-1,10)為曲面上的點正例9(-1,-5,-16)為曲面上的點歸納出Z＝2X+3Y+1方法(4)由點到面也是范圍擴大18第十八頁，共二十頁，編輯于2023年，星期六歸納推理的中間步驟可能出錯（不保真）例如正例5：RANK(C1,J)FACE(C1)正例6：

RANK(C1,K)FACE(C1)如果用方法(1)化常量為變量，歸納出的規(guī)則2’RANK(C1,X)FACE(C1)就是錯誤的因為在示例空間中找到反例rank(C1,3)～

FACE(C1)，所以刪除規(guī)則2’，改用方法(3)增加選擇，歸納出正確的規(guī)則2RANK(C1,J)RANK(C1,Q)RANK(C1,K)FA