1、壓縮感知（CS）報告人： 汪火根2019.06.12compressive sensingContents引例數(shù)據(jù)壓縮被感知對象壓縮信號被拍攝物體未壓縮信號RAW圖像JPEG編碼圖像重建信號通過顯示器顯示大部分冗余信息在采集后被丟棄,采樣時造成很大的資源浪費,能否直接采集不被丟棄的信息？= 0.98%15015 *1024引例核磁共振（MRI）1 year old female with liver lesion (8X)6 year old male with abdomen (8X)斯坦福大學(xué)Emmanuel Candes患肝病2歲兒童觀測時間2分鐘減少到40秒6 year old mal

2、e with abdomen (8X)CS的研究背景數(shù)據(jù)壓縮與解壓縮的矛盾數(shù)據(jù)壓縮是從數(shù)據(jù)本身的特性出發(fā)，尋找并剔除數(shù)據(jù)中隱含的冗余度，從而達到壓縮的目的。這樣的壓縮有兩個特點：第一、它是發(fā)生在數(shù)據(jù)已經(jīng)被完整采集到之后；第二、它本身需要復(fù)雜的算法來完成。相較而言，解碼過程反而一般來說在計算上比較簡單，以音頻壓縮為例，壓制一個 mp3 文件的計算量遠大于播放（即解壓縮）一個 mp3 文件的計算量。數(shù)據(jù)解壓縮設(shè)備數(shù)據(jù)采集及壓縮設(shè)備廉價、省電、計算能力較低的便攜設(shè)備計算任務(wù)復(fù)雜大型高效的計算機計算任務(wù)簡單矛盾CS的研究背景問題提出采集壓縮采集壓縮后的數(shù)據(jù)傳輸/存儲傳輸/存儲解壓縮解壓縮傳統(tǒng)模型壓縮感

3、知模型如果要想采集很少一部分數(shù)據(jù)并且指望從這些少量數(shù)據(jù)中解壓縮出大量信息，就需要保證：(1) 這些少量的采集到的數(shù)據(jù)包含了原信號的全局信息;（觀測矩陣的設(shè)計）(2) 存在一種算法能夠從這些少量的數(shù)據(jù)中還原出原先的信息來。（信號恢復(fù)算法）這個模型意味著：我們可以在采集數(shù)據(jù)的時候只簡單采集一部分數(shù)據(jù)（壓縮感知），然后把復(fù)雜的部分交給數(shù)據(jù)還原的這一端來做，正好匹配了我們期望的格局。CS的研究背景問題提出2019年，由D. Donoho(美國科學(xué)院院士)、E. Candes(Ridgelet, Curvelet創(chuàng)始人)及華裔科學(xué)家T. Tao(2019年菲爾茲獎獲得者，2019年被評為世界上最聰明的科

4、學(xué)家)等人提出了一種新的信息獲取指導(dǎo)理論，即，壓縮感知。該理論指出：對可壓縮的信號可通過遠低于Nyquist標(biāo)準(zhǔn)的方式進行采樣數(shù)據(jù)，仍能夠精確地恢復(fù)出原始信號。該理論一經(jīng)提出，就在信息論、信號/圖像處理、醫(yī)療成像、模式識別、地質(zhì)勘探、光學(xué)/遙感成像、無線通信，雷達探測，生物傳感，集成電路分析，圖像超分辨率重建等領(lǐng)域受到高度關(guān)注，并被美國科技評論評為2019年度十大科技進展。D. Donoho 因此還獲得了2019年IEEE學(xué)會最佳論文獎。Robust Uncertainty Principles: Exact Signal Reconstruction From Highly Incomple

5、te Frequency InformationIEEE Transactions on Information Theory, Feb. 2019Quantitative Robust Uncertainty Principles and Optimally Sparse Decompositions Foundations of ComputationalMathematics, Apr. 2019Near Optimal Signal Recovery From Random Projections: Universal Encoding Strategies? IEEE Transac

6、tions onInformation Theory, Dec. 2019Emmanuel CandesTerence TaoDave DonohoCS的研究內(nèi)容壓縮感知定義壓縮感知是一種新的在對稀疏或者可壓縮信號采樣的同時實現(xiàn)壓縮目的的理論框架。它是通過一組特定波形去感知信號，即將信號投影到給定波形上面，獲得到一組壓縮數(shù)據(jù)；最后利用最優(yōu)化的方法實現(xiàn)對壓縮數(shù)據(jù)解壓，估計出原始信號的重要信息。其他名稱：壓縮采樣；壓縮傳感Compressed sensing; Compressive sampling;Compressive sensing; Compressed sampling壓縮感知的核心思

7、想是壓縮和采樣合并進行，并且測量值遠小于傳統(tǒng)采樣方法的數(shù)據(jù)量，突破了香農(nóng)采樣定理的瓶頸，使高分辨率的信號采集成為可能。毫無疑問是一種有著極大理論和應(yīng)用前景的想法。它是傳統(tǒng)信息論的一個延伸，但是又超越了傳統(tǒng)的壓縮理論，成為了一門嶄新的子分支。CS的研究內(nèi)容壓縮感知的過程壓縮感知的過程1) 首先利用變換空間描述信號（稀疏變換）；2) 通過特定波形的“感知”直接采集得到少數(shù)精挑細選的線性觀測數(shù)據(jù), 將信號的采樣轉(zhuǎn)變成信息的采樣；3) 通過解一個優(yōu)化問題（因為求解的是一個欠定的方程組）就可以從壓縮觀測的數(shù)據(jù)中恢復(fù)原始信號。CS的研究內(nèi)容壓縮感知數(shù)學(xué)模型一般自然信號x本身并不是稀疏的，需要在某種稀疏基上

8、進行稀疏表示x = Ys,Y為稀疏基矩陣， s為稀疏系數(shù)壓縮感知方程為：y = Fx = FYs。CS的研究內(nèi)容稀疏表示信號的稀疏表示就是將信號投影到正交變換基時, 絕大部分變換系數(shù)的絕對值很小, 所得到的變換向量是稀疏或者近似稀疏的, 可以將其看作原始信號的一種簡潔表達, 這是壓縮感知的先驗條件。變換基可以根據(jù)信號的本身特點靈活選取，常用的有離散余弦變換（DCT）、傅里葉變換（FFT）、離散小波變換（DWT），Gabor變換等。最近幾年，對稀疏表示研究的另一個熱點是信號在冗余字典下的稀疏分解。 這是一種全新的信號表示理論：用超完備的冗余函數(shù)庫取代基函數(shù)，稱之為冗余字典，字典中的元素被稱為原子

9、。目前信號在冗余字典下的稀疏表示的研究集中在兩個方面：一是如何構(gòu)造一個適合某一類信號的冗余字典，二是如何設(shè)計快速有效的稀疏分解算法。目前常用的稀疏分解算法大致可分為匹配追蹤（Matching Pursuit）和基追蹤（Basis Pursuit）兩大類。Peyre把變換基是正交基的條件擴展到了由多個正交基構(gòu)成的正交基字典。即在某個正交基字典里，自適應(yīng)地尋找可以逼近某一種信號特征的最優(yōu)正交基，根據(jù)不同的信號尋找最適合信號特性的一個正交基，對信號進行變換得到最稀疏的信號表示。CS的研究內(nèi)容稀疏表示壓縮感知理論中，通過變換得到信號的稀疏系數(shù)后,需要設(shè)計壓縮采樣系統(tǒng)的觀測部分，它圍繞觀測矩陣展開。觀測

10、器的設(shè)計目的是如何采樣得到M個觀測值，并保證從中能重構(gòu)出長度為N的信號x或者稀疏基基下等價的稀疏系數(shù)向量。CandeS和Tao等證明:獨立同分布的高斯隨機測量矩陣可以成為普適的壓縮感知測量矩陣。2019年Candes等研究者建立了著名的約束等距性（RIP）理論，即要想使信號完全重構(gòu)，必須保證觀測矩陣不會把兩個不同的K項稀疏信號映射到同一個采樣集合中，這就要求從觀測矩陣中抽取的每M個列向量構(gòu)成的矩陣是非奇異的。Donoho給出壓縮感知概念的同時定性和定量的給出測量矩陣要滿足三個特征：由測量矩陣的列向量組成的子矩陣的最小奇異值必須大于一定的常數(shù)；測量矩陣的列向量體現(xiàn)某種類似噪聲的獨立隨機性；滿足稀

11、疏度的解是滿足1范數(shù)最小的向量。CS的研究內(nèi)容感知矩陣設(shè)計壓縮感知的重構(gòu)算法主要分為三大類：1) 凸優(yōu)化算法，它是把非凸問題轉(zhuǎn)換為凸問題通過線性規(guī)劃找到信號的逼近，此類算法主要包括梯度投影法、基追蹤法(BP)、內(nèi)點法、最小角度回歸法等。2) 貪婪算法，它是通過選擇合適的原子并經(jīng)過每次迭代選擇的局部最優(yōu)解來逐步逼近原始信號。此類算法主要包括匹配跟蹤算法(MP)、正交匹配追蹤算法(OMP)、分段正交匹配追蹤（StOMP）,正則化正交匹配追蹤(ROMP),子空間追蹤（SP）,壓縮采樣追蹤（CoSaOMP）算法等。3) 組合算法，它要求信號的采樣支持通過分組測試快速重建，此類算法主要包括傅里葉采樣，鏈

12、式追蹤和HHS追蹤等。此外，迭代閾值法也得到了廣泛的應(yīng)用，此類算法也較易實現(xiàn)，計算量適中，在貪婪算法和凸優(yōu)化算法中都有應(yīng)用。但是，迭代閾值法對于迭代初值和閾值的選取均較敏感，且不能保證求出的解是稀疏的。就目前主流的兩種重建算法而言，凸優(yōu)化算法算法比貪婪算法所求的解更加精確,基于1范數(shù)最小的重建算法計算量巨大，對于大規(guī)模信號無法應(yīng)用；貪婪算法雖然重建速度快，但是在信號重建質(zhì)量上還有待提高。CS的研究內(nèi)容重構(gòu)算法CS的研究現(xiàn)狀國外：在美國、英國、德國、法國、瑞士、以色列等許多國家的知名大學(xué)(例如，麻省理工學(xué)院,斯坦福大學(xué)，普林斯頓大學(xué)，萊斯大學(xué)，杜克大學(xué)，慕尼黑工業(yè)大學(xué)，愛丁堡大學(xué)，等等)成立專門

13、課題組對CS進行研究；2019年，Intel，貝爾實驗室，Google等知名公司也開始組織研究CS；2009年，美國空軍實驗室和杜克大學(xué)聯(lián)合召開CS研討會，與會報告的有小波專家R. Coifman教授，信號處理專家James McClellan教授，微波遙感專家Jian Li教授，理論數(shù)學(xué)專家R.DeVore教授,美國國防先期研究計劃署(DARPA)和美國國家地理空間情報局(NGA)等政府部門成員。2019年7月2628日在杜克大學(xué)召開第二次以壓縮感知和高維數(shù)據(jù)分析為主題的研討會。國內(nèi)：一些高校和科研機構(gòu)也開始追蹤CS的研究。如清華大學(xué)（戴瓊海），西安電子科技大學(xué)（石光明，焦李成），中科院電子

14、所，西安交通大學(xué)（徐宗本），西南交通大學(xué)等。國家自然科學(xué)基金委也自2009年資助了多項壓縮感知方法的研究，涉及無線電，雷達成像，信號稀疏表示，多媒體編碼，人臉識別等領(lǐng)域。綜述性論文15篇以上CS的研究現(xiàn)狀目前CS理論的研究尚屬于起步階段，但已表現(xiàn)出了強大的生命力，并已發(fā)展了分布CS理論(Baron等提出)，1-BIT CS理論(Baraniuk等提出)，Bayesian CS理論(Carin等提出)，無限維CS理論(Elad等提出)，變形CS理論(Meyer等提出)，譜CS理論（Duarte等提出），邊緣CS理論（Guo等提出），Kronecker CS理論（ Duarte等提出），塊CS理論

15、（Gan等提出）等等，已成為數(shù)學(xué)領(lǐng)域和工程應(yīng)用領(lǐng)域的一大研究熱點。它們不僅為許多應(yīng)用科學(xué)如統(tǒng)計學(xué)、信息論、編碼理論、計算機科學(xué)等帶來了新的啟發(fā),而且在許多工程領(lǐng)域如低成本數(shù)碼相機和音頻采集設(shè)備、節(jié)電型圖像采集設(shè)備、高分辨率地理資源觀測、分布式傳感器網(wǎng)絡(luò)、超寬帶信號處理等都具有重要的實踐意義.尤其是在成像方面如地震勘探成像和核磁共振成像中,基于CS理論的新型傳感器已經(jīng)設(shè)計成功,將對昂貴的成像器件的設(shè)計產(chǎn)生重要的影響。在寬帶無線頻率信號分析中,基于CS理論的欠Nyquist采樣設(shè)備的出現(xiàn),將擺脫目前A/D轉(zhuǎn)換器技術(shù)的限制困擾。自從2019年CS的提出，在IEEE的信號處理匯刊，信號處理快報匯刊，信號處理雜志，信息論匯刊等國際知名期刊上開始涌現(xiàn)出上百篇關(guān)于CS理論與應(yīng)用方面的文獻。2019年， IEEE Journal of Selected Topics in Signal Processing專門出版了一期關(guān)于CS的?？?，促進了CS在各個領(lǐng)域應(yīng)用成果的交流。2019年4月，第一本關(guān)于CS的專著Compressed Sensing: Theory and Applications出版，不僅系統(tǒng)的介紹了CS的概念，而且匯集了世界各國學(xué)者在CS理論和應(yīng)用上的觀點和成功范例。Compressive Sensing Resources /cs研究