第1章圖像處理與計算機視覺技術綜述第1頁/共66頁課程介紹基礎知識數(shù)學：線性代數(shù)、概率與統(tǒng)計計算機科學：軟件編程電子學：信號處理第2頁/共66頁視覺重要？古語百聞不如一見一目了然眼見為實，耳聽為虛。。。人類信息的主要傳遞手段視覺，聽覺，味覺，觸覺等視覺占60％以上人機交互字符、圖形計算機接收信息手段單一（鍵盤，鼠標）第3頁/共66頁圖像處理重要？兩大應用需求對圖像信息的改進機器自動理解：使計算機具有視覺第4頁/共66頁主要學科圖像處理、計算機視覺和模式識別 計算機圖形學第5頁/共66頁1.1 圖像處理與計算機視覺的發(fā)展及系統(tǒng)構成

1.圖像（Image）可以看作是對物體或場景的一種表現(xiàn)形式抽象定義：二維函數(shù)f(x,y)(x,y):點的空間坐標（實數(shù)）f:點(x,y)的幅度（亮度、強度或灰度）英文單詞Image：一般指用鏡頭等科技手段得到的視覺形象Picture：強調手工描繪的人物或景物畫Drawings：人工繪制的工程圖Lenna1.1.1圖像處理與計算機視覺的概念第6頁/共66頁圖像實例光學圖像LennaIKONOS衛(wèi)星光學圖像423mile高16000miles/h1m分辨率EP－3,海南陵水,01-4-4大腦斷層圖像

遙感圖像第7頁/共66頁2.數(shù)字圖像數(shù)字化：對x，y和f進行離散化數(shù)字圖像（DigitalImage）離散化了的圖像數(shù)字（離散）化過程采樣：坐標離散化量化：函數(shù)值的離散化分類（根據f的性質）灰度圖像（特殊：二值圖像）彩色圖像第8頁/共66頁3.數(shù)字圖像處理DIP（DigitalImageProcessing）廣義：與圖像相關的處理（圖像分析、理解和計算機視覺等）狹義（從輸入和輸出內容）：對圖像進行各種加工，以改善圖像的視覺效果或突出目標，強調圖像之間進行的變換，是一個從圖像到圖像的過程廣義上分為三種類型：低、中、高級處理圖像處理主要是低級處理及部分中級處理第9頁/共66頁3.數(shù)字圖像處理低級處理：輸入輸出都是圖像中級處理：圖像分割及目標的描述，輸出是目標的特征數(shù)據高級處理：目標物體及相互關系的理解，輸出是更抽象的數(shù)據低級處理及部分中級處理如：文本識別（OCR）：1，2，3，4步

1。獲取圖像2。圖像的預處理（如校正）3。提取字符（圖像分割）4。字符的特征描述5。。。第10頁/共66頁4.圖像處理與計算機視覺的區(qū)別與聯(lián)系圖像處理主要集中在二維圖像分析、識別和理解，如光學字符識別、工件表面、顯微圖片和航空照片的分析和解釋等。計算機視覺是采用圖像處理、模式識別、人工智能技術相結合的手段，著重于一幅或多幅圖像的計算機分析，圖像可以由單個或多個傳感器獲取，也可以是單個傳感器在不同時刻獲取的圖像序列。分析是對目標物體的識別，確定目標物體的位置和姿態(tài)，對三維景物進行符號描述和解釋。機器視覺：計算機視覺技術工程化，能夠自動獲取和分析特定的圖像，以控制相應的行為。計算機視覺為機器視覺提供圖像和景物分析的理論及算法基礎，機器視覺為計算機視覺的實現(xiàn)提供傳感器模型、系統(tǒng)構造和實現(xiàn)手段。第11頁/共66頁1.1.2圖像處理與計算機視覺的發(fā)展1.20世紀20年代：報紙業(yè)圖像的編碼與重構技術Bartlane電纜圖片傳輸系統(tǒng)：從倫敦到紐約傳送一幅圖片從1周減少到3小時色調質量和分辨率改善1921年，電報打印機，5個灰度級1922年，穿孔紙帶，5個灰度級1929年，15級灰度第12頁/共66頁2.1964年：航天技術圖像增強和復原技術美國JPL（噴氣推進）實驗室處理衛(wèi)星發(fā)射回來的月球表面的照片圖像畸變的校正第13頁/共66頁3.20世紀70年代：遙感衛(wèi)星和醫(yī)學圖像增強和圖像識別

利用遙感圖片，進行地質資源探測，農作物估產，水文氣象監(jiān)測等圖像重構

X光斷層圖像重構技術，英國G.N.Hounsfield第一臺腦斷層攝像儀應用4.80年代末到90年代：多媒體技術高速計算機和大規(guī)模集成電路的發(fā)展：圖像壓縮和多媒體技術；文本圖像的分析和理解，文字的識別取得重大的進展；圖像通訊和傳輸?shù)膹V泛應用第14頁/共66頁1.1.3圖像處理與計算機視覺的系統(tǒng)構成系統(tǒng)構成框圖第15頁/共66頁采集裝置：兩部分(1)傳感器：能產生與所接受到的電磁能量成正比的模擬電信號（CCD，CMOS）(2)高速圖像采集系統(tǒng)：它能將上述（模擬）電信號轉化為數(shù)字（離散）的形式設備具備上述兩種裝置如：數(shù)碼相機，數(shù)碼攝像機，掃描儀第16頁/共66頁處理裝置：兩部分專用圖像處理系統(tǒng)：是計算機的輔助處理器，主要采用專用集成芯片（ASIC)、數(shù)字信號處理器(DSP)或者FPGA等設計的全硬件處理器。計算機：是整個系統(tǒng)的核心，除了控制整個系統(tǒng)的各個模塊的正常運行外，還承擔最后結果運算和輸出。第17頁/共66頁存儲數(shù)據量度單位比特（bit），字節(jié)（byte=8bit）千字節(jié)（Kbyte）兆（106）字節(jié)（Mbyte）吉（109）字節(jié)（Gbyte）太（1012）字節(jié)（Tbyte）圖像信息量大1024×1024，灰度圖：1M字節(jié)（不壓縮）1024×1024，真彩圖：3M字節(jié)（不壓縮）第18頁/共66頁存儲圖像存儲器(1)處理過程中使用的快速存儲器 計算機內存，幀緩存(2)較快的在線或聯(lián)機存儲器 磁盤，磁光盤(3)不經常使用的數(shù)據庫（檔案庫）存儲器 磁帶，光盤，光盤塔第19頁/共66頁存儲格式（表示格式和文件格式）(1)矢量格式用線段或線段的組合體來表示圖像(WMF)(2)光柵格式用許多像素點的集合來表示圖像

BMP格式，GIF格式，TIFF格式，JPEG格式第20頁/共66頁1.2圖象理解理論框架 1.2.1馬爾視覺計算理論

1.2.2對馬爾理論框架的改進

1.2.3關于馬爾重建理論的討論

1.2.4新理論框架的研究

第21頁/共66頁1.2.1馬爾視覺計算理論

馬爾1982年出版了《視覺》一書

MarrD.1982.VisionAComputationalInvestigationintotheHumanRepresentationandProcessingofVisualInformation.W.H.Freeman

一個理解視覺信息處理的框架 要先理解視覺目的再去理解其中細節(jié)第22頁/共66頁1.2.1馬爾視覺計算理論1.視覺是一個復雜的信息加工過程 視覺是一個遠比人所想象更為復雜的信息加工任務和過程，而且其難度常不為人們所正視為理解視覺這個復雜的過程，要解決兩個問題視覺信息的表達問題：某些信息是突出的和明確的，另一些信息則是隱藏的和模糊的視覺信息的加工問題：對信息處理、分析、理解，將不同表達形式轉換，逐步抽象

第23頁/共66頁1.2.1馬爾視覺計算理論2.視覺信息加工的三個要素

①計算理論；②算法實現(xiàn)；③硬件實現(xiàn)①計算理論可計算性問題：一個任務要用計算機完成，它應該是可以被計算的 一般對于某個特定的問題，如果存在一個程序，對于給定的輸入，這個程序都能在有限步內給出輸出，這個問題就是可計算的第24頁/共66頁1.2.1馬爾視覺計算理論2.視覺信息加工的三個要素①計算理論視覺問題是否可用現(xiàn)代計算機計算？對計算機給定輸入，能否得到人類視覺可獲得的類似結果兩方面的研究內容：①計算的是什么以及為什么要計算它們；②提出一定的約束條件，它們可唯一地確定最終得到的運算結果第25頁/共66頁1.2.1馬爾視覺計算理論2.視覺信息加工的三個要素②算法實現(xiàn) 需要給加工所操作的實體選擇一種合適的表達 選擇加工的輸入和輸出表達 確定完成表達轉換的算法 ①一般情況下可以有許多可選的表達 ②算法的確定常取決于所選的表達 ③給定一種表達，可有多種完成任務的算法第26頁/共66頁1.2.1馬爾視覺計算理論2.視覺信息加工的三個要素③硬件實現(xiàn) 有了表達和算法在物理上如何實現(xiàn)算法也是必不可少的 算法的確定常依賴于物理上實現(xiàn)算法硬件的特點 同一個算法也可由不同的技術途徑實現(xiàn)第27頁/共66頁1.2.1馬爾視覺計算理論2.視覺信息加工的三個要素計算理論：如何由系統(tǒng)的輸入求出輸出。視覺系統(tǒng)輸入的是二維圖像，輸出則是三維物體的形狀、位置和姿態(tài)，任務是研究如何建立輸入輸出之間的關系和約束，如何由二維灰度圖像恢復物體的三維信息。算法實現(xiàn)：如何表達輸入和輸出信息，如何實現(xiàn)計算理論所對應的功能算法，以及如何由一種表示變換成另一種表示。硬件實現(xiàn)：用硬件實現(xiàn)上述表達和算法的問題。 第28頁/共66頁視覺信息加工三要素的含義

要素名稱含義和所解決的問題1計算理論什么是計算目的，為什么要這樣計算2表達和算法怎樣實現(xiàn)計算理論，什么是輸入輸出表達，用什么算法實現(xiàn)表達間的轉換3硬件實現(xiàn)怎樣在物理上實現(xiàn)表達和算法，什么是計算結構的具體細節(jié)1.2.1馬爾視覺計算理論第29頁/共66頁2.視覺信息加工的三個要素它們之間有一定的邏輯因果聯(lián)系，但并無絕對的依賴關系實際上看成兩個層次更恰當一旦有了計算理論，表達和算法與硬件實現(xiàn)是互相影響的 1.2.1馬爾視覺計算理論第30頁/共66頁1.2.1馬爾視覺計算理論3.視覺信息的三級內部表達

(1)基素表達（primalsketch）一種2-D表達，它是圖象特征的集合，描述了物體上屬性發(fā)生變化的輪廓部分只用基素表達不能保證得到對場景的唯一解釋

第31頁/共66頁1.2.1馬爾視覺計算理論3.視覺信息的三級內部表達

(2)

2.5-D表達（2-Dsketch）①將物體可見面正交 投影分解成單元表面②用法線代表單元表 面的取向③將各法線畫出，疊加 于物體輪廓內可見面上第32頁/共66頁1.2.1馬爾視覺計算理論3.視覺信息的三級內部表達

(2)

2.5-D表達（2-Dsketch）本征圖，表示了物體表面面元的朝向可將2.5-D圖轉化成（相對）深度圖既表達了一部分物體輪廓的信息（這與基素表達類似）表達了以觀察者為中心、可觀察到的物體表面的取向信息與人所理解的3-D物體一致（可見物體輪廓以內目標的3-D信息，如邊界、深度，反射特性等）第33頁/共66頁1.2.1馬爾視覺計算理論3.視覺信息的三級內部表達

(2)

2.5-D表達（2-Dsketch）將2.5-D圖轉化成（相對）深度圖給定z(x,y)對x和y的偏導p和q，理論上講可通過在平面上沿任意曲線的積分來恢復z(x,y)為最小化誤差可選擇z(x,y)滿足第34頁/共66頁1.2.1馬爾視覺計算理論3.視覺信息的三級內部表達

(3)

3-D表達（3-Drepresentation）以物體為中心（即也包括了物體不可見部分）的表達形式在以物體為中心的坐標系中描述3-D物體的形狀及其空間組織①空間占有數(shù)組，②單元分解，③幾何模型廣義圓柱體表達方法第35頁/共66頁1.2.1馬爾視覺計算理論3.視覺信息的三級內部表達

從計算機或信息加工的角度來說，視覺可計算性問題可分成幾個步驟，步驟之間是某種表達形式，而每個步驟都是把前后兩種表達形式聯(lián)系起來的計算/加工方法第36頁/共66頁3.視覺信息的三級內部表達

名稱目的基元圖象表達場景的輝度或物體的照度象素（值）基素圖表達圖象中亮度變化位置、物體輪廓的幾何分布和組織結構零交叉、端點、邊緣段、邊界等2.5-D圖在以觀察者為中心的坐標系中表達物體可見表面的取向、深度、邊界等性質局部表面朝向（“針”基元）、表面朝向的不連續(xù)點、深度、深度上不連續(xù)點3-D圖在以物體為中心的坐標系中，用體元或面元集合描述形狀和形狀的空間組織形式3-D模型，以軸線為骨架，將體元或面元附在軸線上1.2.1馬爾視覺計算理論第37頁/共66頁1.2.1馬爾視覺計算理論4.視覺信息處理按照功能模塊的形式組織

把視覺信息的系統(tǒng)看成由一組相對獨立功能模塊所組成的思想，不僅有計算方面進化論和認識論的論據支持，而且某些功能模塊已經能用實驗的方法分離出來人通過使用多種線索或從它們的結合來獲得各種本征視覺信息。這啟示計算機視覺系統(tǒng)應該包括許多模塊，每個模塊獲取某一特定的視覺線索，結合不同的模塊來最終完成視覺任務

第38頁/共66頁1.2.1馬爾視覺計算理論5.計算理論形式化表示必須考慮約束條件

在圖象采集獲取過程中，原始場景中的信息會發(fā)生各種變化(1)當3-D的場景被投影為2-D圖象時，丟失了物體深度和 不可見部分的信息(2)圖象是從特定視角獲取的，同一物體的不同視角圖象 會不同，另外由于物體遮擋也會丟失信息(3)成象投影使得照明、物體幾何形狀和表面反射特性、 攝象機特性、光源與物體和攝象機之間的空間關系 等都被綜合成單一的圖象灰度值，很難區(qū)分(4)在成象過程中不可避免地會引入噪聲和畸變第39頁/共66頁1.2.1馬爾視覺計算理論5.計算理論形式化表示必須考慮約束條件

適定的問題：如果它的解是：①存在的；②唯一的；③連續(xù)地依賴于初始數(shù)據 原始場景中信息發(fā)生變化的原因，使得將視覺處理問題作為光學成象過程逆問題的求解方法不適定，成了病態(tài)問題

利用約束條件可改變病態(tài)問題 通過給計算問題加上約束條件可使它含義明確從而能夠獲解第40頁/共66頁1.2.2對馬爾理論框架的改進

四個有關整體框架的問題：(1)框架中輸入是被動的(2)框架中加工目的不變，總是恢復場景中物體 的位置和形狀等(3)框架未足夠重視高層知識的指導作用(4)整個框架中信息加工過程基本自下而上，單 向流動，沒有反饋 第41頁/共66頁1.2.2對馬爾理論框架的改進

四個方面的相應改進：(1)增加了圖象獲取模塊(2)根據視覺目的進行決策(3)利用高層知識可解決低層信息不足的問題(4)增加了反饋控制流向 圖像獲取早期處理中期處理后期處理視覺目的高層知識第42頁/共66頁1.2.3關于馬爾重建理論的討論1.重建理論的問題不同視覺任務/工作的共同的概念核心被假定為表達，共同的處理目標是根據視覺刺激恢復場景并結合進表達中如果視覺系統(tǒng)能恢復場景的特性，人能進一步從各種線索中提取出從內部構建視覺世界的表達視覺被看作一個由刺激開始，順序的獲取和積累的重建過程

第43頁/共66頁1.2.3關于馬爾重建理論的討論1.重建理論的問題視覺過程不僅僅是一個單通路的處理過程 隨著高層視覺信息的心理學研究成果和對高層視覺區(qū)域的解剖和功能組織的知識的增加

根據重建的表達有一系列問題：(1)在所有可能對場景進行解釋的方法中，包含重建的方法兜的圈子最大，因為重建并不對解釋有直接貢獻第44頁/共66頁1.2.3關于馬爾重建理論的討論1.重建理論的問題根據重建的表達有一系列問題（續(xù)）(2)僅靠從原始圖象中進行重建來實現(xiàn)表達在 實際中也很難實現(xiàn)(3)概念上的問題具有一個普遍統(tǒng)一的表達是否值得?最好的表達應該是最適合工作的表達對給定計算問題選擇正確表達

第45頁/共66頁1.2.3關于馬爾重建理論的討論2.不需重建的表達

“精神表達語義”（semanticsofmental representations）用自然的和可預測的方式來進行表達特征檢測器構成了視覺世界中的某種特征存在性的表達對整個目標和場景的表達可以隨后根據這些基元（如果基元足夠多）來構建第46頁/共66頁1.2.4新理論框架的研究1.基于知識的理論框架

(1) 利用對感知組織的處理過程，從圖象特征中提取相對于觀察方向在大范圍內保持不變的分組和結構(2) 借助圖象特征構建模型，在這個過程中利用概率排隊的方法減小搜索空間(3) 通過求解未知的觀察點和模型參數(shù)尋找空間對應關系，使得3-D模型的投影直接與圖象特征相匹配第47頁/共66頁1.2.4新理論框架的研究2.主動視覺理論框架

(1) 選擇注意機制

(2) 注視控制

第48頁/共66頁1.3圖像處理與計算機視覺的應用領域

及面臨問題

主要相關學科計算機圖形學：原指用圖形、圖表、繪圖等形式表達數(shù)據信息的科學，而計算機圖形學研究的就是如何利用計算機技術來產生這些形式模式識別：試圖把圖像分解成可用符號較抽象地描述的類別計算機視覺：主要強調用計算機實現(xiàn)人的視 覺功能，目前的研究內容主要與圖像 理解相結合 第49頁/共66頁1.3.1圖像處理與計算機視覺的應用領域1.航空航天登月、火星照片處理1.3圖像處理與計算機視覺的應用領域

及面臨問題

第50頁/共66頁飛機遙感、衛(wèi)星遙感第51頁/共66頁