1、模式識別的分類算法,1,目錄,研究背景 應用領域 相關算法,2,研究背景,模式識別(Pattern Recognition)是指對表征事物或現(xiàn)象的各種形式的(數(shù)值的、文字的和邏輯關系的)信息進行處理和分析,以對事物或現(xiàn)象進行描述、辨認、分類和解釋的過程,是信息科學和人工智能的重要組成部分。,模式識別又常稱作模式分類,3,分類,有監(jiān)督的分類（Supervised Classification）,無監(jiān)督的分類(Unsupervised Classification),二者的主要差別在于： 各實驗樣本所屬的類別是否預先已知。,4,應用領域,主要應用領域是圖像分析與處理、語音識別、聲音分類、通信、計算

2、機輔助診斷、數(shù)據(jù)挖掘等學科。,5,K最鄰近結點算法 (k-Nearest Neighbor algorithm),該算法的基本思路是：在給定新的樣本后，考慮在訓練集中與該新樣本距離最近（最相似）的 K 個樣本，根據(jù)這 K 個樣本所屬的類別判定新樣本所屬的類別,KNN,KNN,6,1.根據(jù)特征項集合描述訓練樣本集的向量,在新樣本到達后，提取特征,確定新樣本的特征向量表示,在訓練集中選出與新樣本最相似的 K 個文樣本，計算公式為：,基本步驟,7,4.在新樣本的K個鄰居中，依次計算每類的權重計算公式如下：,比較類的權重，將文本分到權重最大的那個類別中。,8,KNN,9,LDA,線性判別式分析 (Li

3、near Discriminant Analysis, LDA)，,基本思想：將高維的模式樣本投影到最佳鑒別矢量空間，以達到抽取分類信息和壓縮特征空間維數(shù)的效果，投影后保證模式樣本在新的子空間有最大的類間距離和最小的類內距離,即模式在該空間中有最佳的可分離性,10,假設對于一個n維空間有m個樣本分別為x1,x2,xm,即每個x是一個n行的矩陣,LDA,11,根據(jù)符號說明可得類i的樣本均值為：,總體樣本均值：,LDA,12,類間離散度矩陣和類內離散度矩陣：,LDA,13,LDA,Fisher鑒別準則表達式：,其中 為任意n維列矢量。Fisher線性鑒別分析就是選取使得公式（5）達到最大值的矢量

4、作為投影方向。,14,最佳投影矩陣：,LDA,15,LDA,16,Example,17,Example,18,Example,19,文獻,一種基于中心文檔的KNN中文文本分類算法 魯婷，王浩，姚宏亮 Computer Engineering and Applications計算機工程與應用 Information Content Weighting for Perceptual Image Quality Assessment Zhou Wang, IEEE TRANSACTIONS ON IMAGE PROCESSING CW-SSIM BASED IMAGE CLASSIFICATION IEEE