分類號(hào) 密級(jí) 編號(hào) 中國(guó)科學(xué)院研究生院中國(guó)科學(xué)院研究生院中國(guó)科學(xué)院研究生院中國(guó)科學(xué)院研究生院 博士學(xué)位論文博士學(xué)位論文博士學(xué)位論文博士學(xué)位論文 流形學(xué)習(xí)方法及其在人臉識(shí)別中的應(yīng)用研究 王瑞平 指導(dǎo)教師指導(dǎo)教師指導(dǎo)教師指導(dǎo)教師 高文高文高文高文 教授教授教授教授 中國(guó)科學(xué)院計(jì)算技術(shù)研究所 中國(guó)科學(xué)院計(jì)算技術(shù)研究所 中國(guó)科學(xué)院計(jì)算技術(shù)研究所 中國(guó)科學(xué)院計(jì)算技術(shù)研究所 申請(qǐng)學(xué)位級(jí)別申請(qǐng)學(xué)位級(jí)別申請(qǐng)學(xué)位級(jí)別申請(qǐng)學(xué)位級(jí)別 工學(xué)博士工學(xué)博士工學(xué)博士工學(xué)博士 學(xué)科專業(yè)名稱學(xué)科專業(yè)名稱學(xué)科專業(yè)名稱學(xué)科專業(yè)名稱 計(jì)算機(jī)計(jì)算機(jī)計(jì)算機(jī)計(jì)算機(jī) 應(yīng)用技術(shù)應(yīng)用技術(shù)應(yīng)用技術(shù)應(yīng)用技術(shù) 論文提交日期論文提交日期論文提交日期論文提交日期 2010 年年年 年 4 4 月月月 月 論文答辯日期論文答辯日期論文答辯日期論文答辯日期 2010 年年年 年 5 5 月月月 月 培養(yǎng)單位培養(yǎng)單位培養(yǎng)單位培養(yǎng)單位 中國(guó)科學(xué)院計(jì)算技術(shù)研究所 中國(guó)科學(xué)院計(jì)算技術(shù)研究所 中國(guó)科學(xué)院計(jì)算技術(shù)研究所 中國(guó)科學(xué)院計(jì)算技術(shù)研究所 學(xué)位授予單位學(xué)位授予單位學(xué)位授予單位學(xué)位授予單位 中國(guó)科學(xué)院研究生院中國(guó)科學(xué)院研究生院 中國(guó)科學(xué)院研究生院中國(guó)科學(xué)院研究生院 答辯委員會(huì)主席答辯委員會(huì)主席答辯委員會(huì)主席答辯委員會(huì)主席 查紅彬查紅彬查紅彬查紅彬 教授教授教授教授 聲聲聲 聲 明明明 明 我聲明本論文是我本人在導(dǎo)師指導(dǎo)下進(jìn)行的研究工作及取得的研究成果。盡我所知 ，除了文中特別加以標(biāo)注和致謝的地方外 ，本論文中不 包含其他人已經(jīng)發(fā)表或撰寫過的研究成果 。與我一同工作的同志對(duì)本研究所做的任何貢獻(xiàn)均已在論文中作了明確的說明并表示了謝意 。 作者簽名 ： 日期 ： 論文版權(quán)使用授權(quán)書論文版權(quán)使用授權(quán)書論文版權(quán)使用授權(quán)書論文版權(quán)使用授權(quán)書 本人授權(quán)中國(guó)科學(xué)院計(jì)算技術(shù)研究所可以保留并向國(guó)家有關(guān)部門或機(jī)構(gòu)送交本論文的復(fù)印件和電子文檔 ，允許本論文被查閱和借閱 ，可以將本論文的全部或部分內(nèi)容編入有關(guān)數(shù)據(jù)庫進(jìn)行檢索 ，可以采用影印 、縮印或掃描等復(fù)制手段保存 、匯編本論文 。 （保密論文在解密后適用本授權(quán)書 。） 作者簽 名： 導(dǎo)師簽名 ： 日期 ： I 摘摘摘摘 要要要要 信息技術(shù)和互聯(lián)網(wǎng)的飛速發(fā)展 使得人們可以獲取 日益豐富 的多媒體 資源 ，包括大量的圖片 、視頻 、文本以及聲音數(shù)據(jù)等 。針對(duì)海量數(shù)據(jù)進(jìn)行 快捷有效的處理 ，從中提取用戶所需要的有價(jià)值信息 ，正在成為機(jī)器學(xué)習(xí) 、模式識(shí)別和 計(jì)算機(jī)視覺 領(lǐng)域的研究者們 所共同關(guān)注的問題 。以具體的 人臉識(shí)別問題為例 ，隨著 網(wǎng)絡(luò)資源的普及和視頻采集設(shè)備的發(fā)展 ，研究者 可以 為每個(gè)人收集其不同時(shí)期 、不同場(chǎng)景 、涵蓋不同 光照模式 和姿態(tài)變化等各種 條件下的多幅 圖片 ，并構(gòu)建規(guī)?？捎^的人臉數(shù)據(jù)庫 。如何 充分 有效的挖掘 利用 大規(guī)模 數(shù)據(jù)庫當(dāng)中 的有用信息 ，以設(shè)計(jì) 性能穩(wěn)定 的高精度 人臉識(shí)別分類器 ，則給研究者提出了很大的挑戰(zhàn) 。從模式識(shí)別的角度來看 ，需要解決如下 兩個(gè)基本問題 ：第一 ，如何從人臉圖像數(shù)據(jù)中提取有效 、緊致的特征表示 ；第二 ，如何針對(duì)數(shù)據(jù)集的 分布特性設(shè)計(jì)合理有效的分類算法 。針對(duì)人臉圖像數(shù)據(jù)的表示 ，其核心可以歸結(jié)為高維數(shù)據(jù)的 降維 和特征提取問題 。數(shù)據(jù)降維 可以看作是從原始數(shù)據(jù)中挖掘 有效精簡(jiǎn)信息的過程 ，這一過程不僅可以去除冗余從而發(fā)現(xiàn)數(shù)據(jù)的低維本質(zhì)屬性 ，而且可以簡(jiǎn)化 后續(xù) 數(shù)據(jù)處理的復(fù)雜度 。針對(duì) 人臉圖像數(shù)據(jù)的分類 ，大規(guī)模數(shù)據(jù)的獲取 極大 推動(dòng)了 近年來 基于圖像集合 進(jìn)行 人臉識(shí)別的 研究 進(jìn)展 。這一問題的關(guān)鍵難點(diǎn)在于 ，對(duì)圖像集合中的樣本分布進(jìn)行合理有效的建模 ，并根據(jù)所建的模型綜合利用多樣本提供的信息進(jìn)行 集合 的分類 。 本文正是圍繞上述兩個(gè)基本問題 ，分別在理論研究和應(yīng)用研究?jī)蓚€(gè)層面開展工作 ，在推進(jìn)和完善 理論研究的同時(shí) ，將理論研究成果 應(yīng)用 于解決模式識(shí)別和計(jì)算機(jī)視覺中 的實(shí)際問題 。在理論研究層面 ，本文 主要 從流形學(xué)習(xí)的角度研究 新型高效的 非線性 降維 算法，特別是在流形的局部線性模型表示 、解析映射函數(shù)學(xué)習(xí) 、內(nèi)在變化模式刻畫等方面開展相關(guān)研究 。在應(yīng)用研究層面 ，本文 針對(duì)基于圖像集合的人臉識(shí)別問題 ，主要 從圖像集合的流形建模 、流形之間的距離 定義和 計(jì)算 、多流形判別式分類 學(xué)習(xí) 等方面 開展 相關(guān)研究 。本文在 流形學(xué)習(xí)算法 理論和 圖像集合人臉識(shí)別 應(yīng)用 的研究中取得的主要貢獻(xiàn)如下 ： （ 1）提出了 一種 最大線性嵌入流形學(xué)習(xí) 方法 ，用以解決非線性降維問題 。該方法 通過學(xué)習(xí)一個(gè)參數(shù)式可逆的解析映射函數(shù) ，可以將流形數(shù)據(jù)從原始高維觀察空間保距地投影到一個(gè)全局低維嵌入空間中 。算法 從幾何直覺的角度 ，引入一種 合理有效的局部線性分塊的定義 ，稱為最大線性 分塊，分塊的 非線性程度 通過塊內(nèi)樣本間測(cè)地距離與 歐氏 距離的偏差 來度量 。首先 ，原始的流形采樣數(shù)據(jù)集合被分解為一組 最大線性分塊的組合 ，每個(gè)分塊采用一個(gè)局部線性模型來建模表示 。接下來 ，算法 從每個(gè)局部模型內(nèi)部隨機(jī)選取一定數(shù)量的地標(biāo)點(diǎn) ，利用其測(cè)地距離進(jìn)行多維尺度變換 運(yùn)算 ，進(jìn)而得到最終的保距低維嵌入 空間并完成局部模型的全局對(duì)齊 。這一對(duì)齊過程稱為基于地標(biāo)點(diǎn)的全局對(duì)齊算法 。該對(duì)齊算法避免了傳統(tǒng) 方法 中存在 的局部極值與大規(guī)模迭代優(yōu)化這兩個(gè) 不足 ，并且 只需求解小規(guī)模的特征分解問題就能得到有效的閉形式解 。針對(duì)流形內(nèi)在結(jié)構(gòu)的描述 ，本文流形學(xué)習(xí)方法及其在人臉識(shí)別中的應(yīng)用研究 ： 摘要 法不僅提供了一種快速有效的本質(zhì)維數(shù)估計(jì)方法 ，而且可以顯式建模流形觀 察數(shù)據(jù)的內(nèi)在變化模式 ，從而 可以 廣泛應(yīng)用于 多種實(shí)際問題 。 （ 2）提出了 流形 理論框架 ，將其應(yīng)用于 基于 圖像集合 的人臉識(shí)別 問題 。在該理論框架中 ，屬于每一類別的圖像集合采用非線性表觀流形來建模 ，圖像集合的分類問題 從而 形式化為兩個(gè)流形之間的距離 計(jì)算 問題 ，即流形 注意到實(shí)際問題中的圖像集合可能表示為三種模式層次 ，即點(diǎn) 、子空間 、流形 ，本文系統(tǒng)研究了這三種模式 之間的各種距離 ，并將它們形式化在一個(gè)統(tǒng)一的多層次流形 具體地，將流形表示為一組局部線性模型的組合 ，其中各局部模型采用子空間來刻畫 。這樣 ，兩個(gè)流形之間的距離就可以轉(zhuǎn)化為它們各自對(duì)應(yīng)的子空間對(duì)之間的距離 綜合 。針對(duì)流形 本文從理論上和實(shí)驗(yàn)上探討了算法各個(gè)模塊的多種不同的定義方案 ，包括局部線性模型構(gòu)建 、局部模型距離度量 、局部距離的全局綜合等 。通過圖像集合人臉識(shí)別的實(shí)驗(yàn)驗(yàn)證 表明 ，本文提出的流形 致地優(yōu)于其它對(duì)比的非判別 式算法 ，并且達(dá)到了與當(dāng)前 領(lǐng)先的 基于集合的判別式學(xué)習(xí)算法 可比 的性能 。 （ 3）提出了一種流形判別分析方法 ，將其應(yīng)用于 基于圖像集合的人臉識(shí)別問題 。該方法從監(jiān)督學(xué)習(xí)的角度 ，將圖像 集合分類問題形式化為 面向分類的多流形學(xué)習(xí) 問題 ，通過在流形 最大化流形間隔 ”的思想來學(xué)習(xí) 判別式的 線性投影 空間 ，最終 在該空間內(nèi)對(duì)不同類別的流形進(jìn)行匹配來完成圖像集合的分類 。具體地 ，流形判別分析方法采用圖嵌入的框架來構(gòu)建圖模型 ，采用本征圖和懲罰圖 分別刻畫流形的類內(nèi)緊致性與類間可分性 。通過設(shè)計(jì)的最優(yōu)化目標(biāo)函數(shù)來 學(xué)習(xí)判別式的嵌入空間 ，使得具有不同類別標(biāo)號(hào)的流形之間能夠更好地區(qū)分 ，同時(shí)每個(gè)流形 內(nèi)部 局部區(qū)域的數(shù)據(jù)緊致 性得到增強(qiáng) 。在分類識(shí)別階段 ，通過將待測(cè)試的流形數(shù)據(jù)投影到該判別 空間中 ，就可以 在流形 行更加可靠的分類 。通過 人臉識(shí)別和物體分類兩個(gè)任務(wù) 的實(shí)驗(yàn)對(duì)比表明，本文提出的 流形判別分析方法 取得了與當(dāng)前領(lǐng)先的方法相當(dāng)?shù)男阅?，同時(shí)具有很高的訓(xùn)練和測(cè)試效率 。 綜上所述 ，本文 針對(duì) 流形學(xué)習(xí) 的理論 與應(yīng)用開展了廣泛 深入 的研究 ，在傳統(tǒng)的單流形學(xué)習(xí) 框架下 提出了 一種有效的非線性降維算法 ，該算法 在數(shù)據(jù)降維的功能與效率 兩方面都 展示 出良好 的特點(diǎn) 。本文進(jìn)一步 將該 流形學(xué)習(xí) 算法 推廣 到多流形學(xué)習(xí)問題 ，在圖像集合人臉識(shí)別任務(wù)中取得了成功的應(yīng)用 ，從而在流形學(xué)習(xí)實(shí)用化方面進(jìn)行了有益的探索 。 關(guān)鍵詞關(guān)鍵詞關(guān)鍵詞關(guān)鍵詞 ：流形學(xué)習(xí) ；非線性降維 ；最大 線性嵌入 ；流形 流形判別分析 ；基于圖像集合 的人臉識(shí)別 he of it to a of It a to in an a to in of of it is to in of we In it a to of we to is to is to to in be as in as in a of in is to in a in on In of we on to of of of of of In of we on of of of of as We a a to a 形學(xué)習(xí)方法及其在人臉識(shí)別中的應(yīng)用研究 ： V an by we a of to in a of a is by DS to a no of It LE an of of on of We of of to By as a we as an in we in a MD we a by a of by a is to of of we of is on of is by MD ) as a MD ) MD is to We a to of By as a we as at to an is on of we an to to As a be 形學(xué)習(xí)方法及其在人臉識(shí)別中的應(yīng)用研究 ： in is on of of In in of we an in of We to of to of a in of to 目目目 錄錄錄錄 摘摘摘摘 要要要要. I 目目目目 錄錄錄錄.目錄圖目錄圖目錄圖目錄.目錄表目錄表目錄表目錄.一章第一章第一章第一章 緒論緒論緒論緒論. 1 題研究背景及意義 . 1 形學(xué)習(xí)概述 . 3 性降維方法 . 3 線性降維方法 . 5 合對(duì)比與 討論 . 11 有方法 的主要 問題 . 13 于圖像集合的人臉識(shí)別概述 . 14 文的研究?jī)?nèi)容與主要貢獻(xiàn) . 17 文的組織 . 18 第二章第二章第二章第二章 基于最大線性嵌入的流形學(xué)習(xí)方法基于最大線性嵌入的流形學(xué)習(xí)方法基于最大線性嵌入的流形學(xué)習(xí)方法基于最大線性嵌入的流形學(xué)習(xí)方法. 21 言 . 21 法基本思想 . 22 大線性嵌入算法 . 23 大線性分塊 . 24 部線性模型 . 28 局對(duì)齊算法 . 28 論 . 34 驗(yàn)結(jié)果 . 36 維人工數(shù)據(jù)庫實(shí)驗(yàn) . 36 成人臉數(shù)據(jù)庫實(shí)驗(yàn) . 41 實(shí)人臉數(shù)據(jù)庫實(shí)驗(yàn) . 45 章小結(jié) . 47 第三章第三章第三章第三章 基于流形基于流形基于流形基于流形. 49 流形學(xué)習(xí)方法及其在人臉識(shí)別中的應(yīng)用研究 ： 目錄 言 . 49 題形式化框架 . 50 義在點(diǎn)和子空間上的距離 . 50 義在流形上的距離 . 52 形 . 53 部線性模型構(gòu)建 . 53 部模型距離度量 . 54 部距離的全局綜合 . 58 論 . 62 于度量準(zhǔn)則的分析 . 62 法 復(fù)雜度分析 . 63 前人工作對(duì)比 . 63 驗(yàn)結(jié)果 . 64 驗(yàn)數(shù)據(jù)庫 . 64 比方法與參數(shù)設(shè)置 . 66 驗(yàn)對(duì)比結(jié)果與分析 . 67 法各模塊評(píng)估 . 69 章小結(jié) . 72 第四章第四章第四章第四章 基于流形判別分析的圖像集合人臉識(shí)別基于流形判別分析的圖像集合人臉識(shí)別基于流形判別分析的圖像集合人臉識(shí)別基于流形判別分析的圖像集合人臉識(shí)別. 73 言 . 73 法基本思想 . 74 形判別分析 . 74 題形式化 . 74 部線性模型構(gòu)建 . 76 別函數(shù)的學(xué)習(xí) . 76 于流形判別分析的分類 . 78 論 . 78 基于單樣本的方法對(duì)比 . 78 基于集合的方法對(duì)比 . 79 驗(yàn)結(jié)果 . 79 驗(yàn)數(shù)據(jù)庫 . 79 比方法與參數(shù)設(shè)置 . 80 驗(yàn)對(duì)比結(jié)果與分析 . 82 章小結(jié) . 82 第五章第五章第五章第五章 結(jié)束語結(jié)束語結(jié)束語結(jié)束語. 85 流形學(xué)習(xí)方法及其在人臉識(shí)別