1、07.10.2020,1,1/,模式識別 Pattern Recognition Chapter I,07.10.2020,2,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,教材/參考文獻： 1鐘珞，潘昊，封筠，何平，模式識別，武漢：武漢大學出版社，2006年9月(ISBN： 730705230) 2李晶皎，朱志良，王愛俠等譯，Sergios Theodorodis, Konstantinos Koutrombas著，模式識別，北京：電子工業(yè)出版社，2004年8月(ISBN：7505399241) 3肖健華，智能模式識別

2、方法，廣州：華南理工大學出版社，2006年1月(ISBN：756232316X）,07.10.2020,3,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.1 模式識別是什么,例子1：醫(yī)生診病過程 1)測量病人的體溫和血壓，化驗血沉，詢問臨床表現(xiàn)； 2)通過綜合分析，抓住主要病癥； 3)醫(yī)生運用自己的知識、經(jīng)驗，根據(jù)主要病癥、測量化驗結(jié)果，作出正確的診斷。 在模式識別技術(shù)中，常用的術(shù)語有：樣本、模式、特征、類型等等，對照醫(yī)生診病過程，有：,07.10.2020,4,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模

3、式識別,Pattern Recognition Ch. 1 導論,1.1 模式識別是什么？,a.樣本：醫(yī)院里的眾多患者，每個患者都是一個樣本； 單一樣本：醫(yī)生診斷的某一患者，就是樣本空間中的一個單一樣本； 樣本值：某一患者的化驗、檢查結(jié)果與表征現(xiàn)象。 b.模式：各樣本值按一定的數(shù)據(jù)準則綜合的結(jié)果； 模式樣本：具有某種模式的樣本； 模式采集：獲取某樣本的測量數(shù)值的過程； c.特征：患者某些具有顯著特征的化驗數(shù)據(jù)及表征； 特征選擇與提?。耗鼙碚?疾病)特異性的化驗結(jié)果與表征；,07.10.2020,5,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recogniti

4、on Ch. 1 導論,1.1 模式識別是什么？,d.判決：醫(yī)生運用知識、病例經(jīng)驗綜合分析給出診斷； 判決準則/規(guī)則：醫(yī)生的知識 判決結(jié)果：將患者明確(或以概率)確定為某一種病癥(或多種/并發(fā)病癥)的患者(及病患嚴重程度) 事實上，最后的結(jié)果也成為分類。因此有預先知道類別(已知病癥)與未知類別(未知病癥)的區(qū)別。 模式識別：就是以計算機為工具、各種傳感器為信息來源，數(shù)據(jù)計算與處理為方法，對各種現(xiàn)象、事物、狀態(tài)等進行準確地分析、判斷識別與歸類。,07.10.2020,6,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.2

5、 模式識別做什么(應用領域)？,基于語音： 重點人物通信監(jiān)控語音識別系統(tǒng)/規(guī)模音頻資料檢索 基于圖像： 光學字符識別(Optical Character Recognition OCR)/車牌識別(Vehicle License Plate Recognition VLPR)/人臉識別/指紋識別/簽名認證/支票認證/表情和手勢識別/農(nóng)作物分類與害蟲識別/生物信息學：DNA識別/航空與衛(wèi)星遙測遙感數(shù)據(jù)資源調(diào)查/軍用目標的圖像識別/基于圖形模式識別的機器人控制等 基于工程數(shù)據(jù)： 振動模式分析與故障診斷/石油鉆井數(shù)據(jù)分析與世故預報/基于狀態(tài)模式的智能控制/數(shù)據(jù)挖掘與知識發(fā)現(xiàn)等,07.10.2020,

6、7,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.3 模式識別怎么做？,由信息傳遞的雙向性可以理解， 其中的每一環(huán)節(jié)都不是孤立的和 單方向的，它們之間相互關(guān)聯(lián)和 依賴，在必要的時候需要循環(huán)、 反饋與迭代。,07.10.2020,8,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.3 模式識別怎么做？,1.3.1 線性與非線性分類 A. 線性分類,Fig.1.2 線性分類,Fig.1.3 非線性分類,B. 非線性分類,07.10.2020,9,

7、王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.3 模式識別怎么做？,1.3.2 分類手段 A. 貝葉斯(Bayes)分類器,(Bayes公式),Fig. 1.4 Bayes分類,07.10.2020,10,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.3 模式識別怎么做？,1.3.2 分類手段 B. 支持向量機(Support Vector Machines SVM)分類器,Fig.1.5 SVM分類,a) 快速求出基于邊界的最優(yōu)分類,b)

8、 在凸集上求出最臨近邊界點,07.10.2020,11,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.3 模式識別怎么做？,1.3.2 分類手段 C. 神經(jīng)網(wǎng)絡(Neural Networks)分類器,Fig.1.6 NN分類,a) NN非線性特征抽取與共享,b) 三層前向神經(jīng)網(wǎng)絡逼近非線性函數(shù),07.10.2020,12,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.3 模式識別怎么做？,1.3.2 分類手段 D. (模糊)聚類分析(Fu

9、zzy Classification)分類器,Fig.1.7 石油鉆井工作狀態(tài)模糊聚類,07.10.2020,13,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.4 模式識別的歷史、發(fā)展、現(xiàn)狀與展望,1929年 G. Tauschek發(fā)明閱讀機 ，能夠閱讀0-9的數(shù)字。 20世紀30年代 Fisher提出統(tǒng)計分類理論,奠定了統(tǒng)計模式識別的基礎。因此，在6070年代，統(tǒng)計模式識別發(fā)展很快，但由于被識別的模式愈來愈復雜，特征也愈多，就出現(xiàn)“維數(shù)災難”。但由于計算機運算速度的迅猛發(fā)展，這個問題得到一定克服。統(tǒng)計模式識別仍是

10、模式識別的主要理論。,07.10.2020,14,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.4 模式識別的歷史、發(fā)展、現(xiàn)狀與展望,上世紀50年代 Noam Chemsky 提出形式語言理論，美籍華人付京蓀提出句法結(jié)構(gòu)模式識別； 60年代 L.A.Zadeh提出了模糊集理論，模糊模式識別理論得到了較廣泛的應用； 80年代 Hopfield提出神經(jīng)元網(wǎng)絡模型理論，近些年人工神經(jīng)元網(wǎng)絡在模式識別和人工智能上得到較廣泛的應用； 90年代 小樣本學習理論、支持向量機也受到了很大的重視。,07.10.2020,15,王杰(博

11、士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.4 模式識別的歷史、發(fā)展、現(xiàn)狀與展望,1973年 IEEE發(fā)起了第一次關(guān)于模式識別的國際會議“ICPR”，成立了國際模式識別協(xié)會-“IAPR”，每2年召開一次國際學術(shù)會議； 1977年 IEEE的計算機學會成立了模式分析與機器智能（PAMI）委員會，每2年召開一次模式識別與圖象處理學術(shù)會議； 國內(nèi)的組織有電子學會，通信學會，自動化協(xié)會，中文信息學會.。,07.10.2020,16,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition

12、 Ch. 1 導論,1.4 模式識別的歷史、發(fā)展、現(xiàn)狀與展望,模式識別的應用領域更加廣泛： 生物、醫(yī)學、軍事、農(nóng)業(yè)、工業(yè)、社會、教育、航天、航空、經(jīng)濟、金融、生物認證、數(shù)字水印 模式識別的計算手段更加先進： 海量存儲技術(shù)、高速計算/并行計算技術(shù)、網(wǎng)格技術(shù)、網(wǎng)絡技術(shù)、新型前端器件(激光、紅外、MEMS、傳感器網(wǎng)絡) 模式識別的新型算法層出不窮： Computation with word(Zadeh)Soft Computation DNA Computation 國內(nèi)外模式識別的學術(shù)活動從未間斷: 小波/模式識別國際會議、機器學習/模式識別國際會議、圖像處理/模式識別國際會議、數(shù)據(jù)挖掘/模式識別國際會議,07.10.2020,17,王杰(博士/教授/博導)鄭州大學電氣工程學院 1/,模式識別,Pattern Recognition Ch. 1 導論,1.4 模式識別,怎么學？怎么考？,學會基本方法以