1、1.1 小波(Wavelet),小波就是空間L2(R)中滿足下述條件的函數(shù)或者信號 :,這時(shí)， 也稱為小波母函數(shù)，(2) 稱為容許性條件。,（1）,（2）,連續(xù)小波,函數(shù)：,為由小波母函數(shù) 生成的依賴于參數(shù)（a,b）的連續(xù)小波，簡稱為小波。,（3）,注釋,注釋：如果小波母函數(shù) 的Fourier 變換 在原點(diǎn) 是連續(xù) 的，那么公式(2)說明 ，,于是,這說明函數(shù) 有波動(dòng)的特點(diǎn)，公式(1)又說明函數(shù) 有衰減的特點(diǎn)，因此，稱函數(shù) 為“小波”。,1.2 小波變換(Wavelet Transform),對于任意的函數(shù)或者信號 ，其小波變換為,（4）,性質(zhì),這樣定義的小波變換具有下列性質(zhì)：,Planche

2、rel恒等式：,小波變換的逆變換公式：,（5）,（6）,性質(zhì),吸收公式：當(dāng)吸收條件,成立時(shí)，有吸收的Plancherel恒等式,（7）,（8）,性質(zhì),吸收的逆變換公式,（9）,1.3.二進(jìn)小波和二進(jìn)小波變換(Dyadic Wavelet Transform),如果小波函數(shù) 滿足穩(wěn)定性條件,(10),則稱 為二進(jìn)小波，對于任意的整數(shù)k,記,(11),逆變換,對于任意的 ，其二進(jìn)小波變換為：,這時(shí)，逆變換公式是,（12）,（13）,重構(gòu)小波,其中 的Fourier變換滿足,稱為二進(jìn)小波 的重構(gòu)小波，比如可?。?（14）,（15）,設(shè)小波為 ，對于任意的整數(shù)k 和j，記,1.4. 正交小波和小波級數(shù)

3、(Orthonormal Wavelet),構(gòu)成空間 的標(biāo)準(zhǔn)正交基，則稱 是正交小波。,如果函數(shù)族,(16),(17),小波級數(shù),這時(shí)，逆變換公式就是小波級數(shù),(18),其中小波系數(shù) 的算法是,(19),連續(xù)和離散統(tǒng)一,上的取值，因此，小波系數(shù) 實(shí)際上是信號f(x)的離散小波變換。其實(shí)，這也是小波變換迷人的風(fēng)采之一：,小波系數(shù)是信號f(x)的小波變換 在二進(jìn)離散點(diǎn),(20),連續(xù)變換和離散變換形式統(tǒng)一； 連續(xù)變換和離散變換都適合全體信號；,2. 小波分析和時(shí)-頻分析(Time-Frequency Analysis ),2.1 窗口Fourier變換和Gabor變換 (Windowed Four

4、ier Transform and Gabor Transform),D.Gabor在1946年開創(chuàng)時(shí)-頻分析的先河提出 Gabor Transform,一般的時(shí)-頻分析是 Windowed Fourier Transform Short-Time Fourier Transform,Windowed Fourier Transform,稱為信號 的窗口Fourier變換，其中的函數(shù) 稱為窗口函數(shù)，一般要求是：,具體地,(21),Gabor Transform,D.Gabor取,(22),是Gaussian函數(shù)，對應(yīng)的變換稱為Gabor變換(1946)。對于Gabor變換，存在如下的頻率再分割

5、公式：,(23),物理解釋,Gabor變換 是信號 在x=x0點(diǎn)“附近”的頻率為 的頻率成分； 只要把信號 在各個(gè)時(shí)間點(diǎn)“附近”的頻率為 的頻率成分全部累加起來，理所當(dāng) 然就應(yīng)該是這個(gè)信號的頻率為 的頻率成 分； Gabor變換 可以認(rèn)為是信號f(x)的另一種等價(jià)描述(因?yàn)镕ourier變換是信號的等價(jià)描述),局限,Gabor變換沒有“好”的（即可以構(gòu)成標(biāo)架或者正交基）離散形式； Gabor變換沒有快速算法：比如沒有類似于離散Fourier變換之FFT的快速數(shù)值算法；,遺憾的是，Gabor變換存在如下局限：,Appendix A Fig.1. Gabor變換的固定時(shí)-頻窗口,t0,0,t1,t

6、,1,2.2. 時(shí)-頻分析(Time-Frequency Analysis）,時(shí)-頻分析本質(zhì)上是信號描述、分析和處理的一種方法，它給信號的“最優(yōu)描述問題”提供一種解決方案。R.Balian(1981)早在八十年代就清清楚楚地描述了這個(gè)問題：,在通訊理論中，人們對于在給定的時(shí)間內(nèi)，把一個(gè)信號表示成“每一個(gè)都同時(shí)具有足夠確定的位置及頻率的諧波”的疊加這種信號的描述方法極感興趣,最優(yōu)描述問題,有用的信息總是同時(shí)被所發(fā)射信號的頻率特性與信號的時(shí)間結(jié)構(gòu)所傳遞，最好的例子是演奏音樂； 把信號表成時(shí)間的函數(shù)其頻率特征無法突出，而Fourier分析又無法標(biāo)定各個(gè)分量發(fā)射的瞬時(shí)位置和持續(xù)時(shí)間； “最優(yōu)描述”應(yīng)該

7、綜合這兩種描述的優(yōu)點(diǎn)，并用一個(gè)離散的刻畫來表示，以適應(yīng)信息理論和計(jì)算機(jī)處理的需要。,Wigner分布函數(shù),Wigner分布函數(shù)是信號時(shí)-頻分析的另一種具體的解決途徑。信號f(x)的Wigner分布函數(shù)是著名理論物理學(xué)家E.P.Wigner在1932年提出來的，定義是：,(24),顯然，這是一個(gè)實(shí)的二元函數(shù) 。,性質(zhì),Wigner分布函數(shù)有如下性質(zhì)：,(25),(26),(27),Wigner分布函數(shù)的物理意義,Wigner分布函數(shù)的Plancherel恒等式成立； Wigner分布函數(shù) 標(biāo)明信號的瞬時(shí)頻率的位置； Wigner分布函數(shù) 標(biāo)明信號的瞬時(shí)位置的頻率。,在能量的意義下，Wigner分

8、布函數(shù)的物理意義是：,Wigner分布函數(shù)理論的局限,Wigner分布函數(shù)的三個(gè)局限：,Wigner分布函數(shù) 只記憶信號的部分信息； Wigner分布函數(shù) 沒有有效的重建算法； Wigner分布函數(shù) 的“瞬時(shí)”是漸近意義的。,2.3. 小波的時(shí)-頻分析(Wavelets Time- Frequency Analysis),小波變換是一種時(shí)-頻描述，它的信息記憶是完全的，是一種等價(jià)的變換描述，具有獨(dú)特的時(shí)頻分析性質(zhì)。引入記號：,(28),中心,半徑,(29),對于 ，如果滿足條件:,窗口函數(shù)及說明,則稱之為窗口函數(shù)， 和 分別稱為它的時(shí)間中心和時(shí)間半徑，而 和 分別稱為它的譜中心和譜半徑。,說明

9、：中心和半徑是下述分布的期望和均方差,小波的時(shí)-頻中心與半徑,2.3.2.小波的時(shí)-頻半徑,2.3.1.小波的時(shí)-頻中心,（29）,（30）,2.3.3. 小波的時(shí)-頻窗,(32),Appendix B Fig.2.小波在時(shí)-頻相平面上的窗,t0,0,t1,2,t,1,2.3.4. 小波的時(shí)-頻特性,小波時(shí)-頻窗的面積恒等于 ； 小波的時(shí)-頻窗是時(shí)-頻相平面中的可變的矩形； 小波時(shí)-頻窗的變化規(guī)律：,（1）尺度參數(shù)a增大時(shí)，小波的時(shí)窗變寬，同時(shí)，它的主頻變低，頻窗變窄； （2）尺度參數(shù)a減小時(shí)，小波的時(shí)窗變窄，同時(shí)，它的主頻變高，頻窗變寬；,小波的頻率分辨率,小波分析具有固定的相對頻率分辨率,

10、(33),主頻變低時(shí)，頻窗變窄，頻率分辨率提高； 主頻變高時(shí)，頻窗變寬，頻率分辨率降低； 高頻時(shí)出現(xiàn)較低的頻率分辨率（難題?。?。,小波的頻帶特性,(1)小波變換處理頻域的方式完全不同于經(jīng)典的Fourier變換，任何小波本質(zhì)上都是以頻帶的形式出現(xiàn)在頻域中，這樣避免了許多理論和計(jì)算上的麻煩； (2)二進(jìn)小波頻域劃分的特色：將參數(shù)a按二進(jìn)方式離散化為,選擇二進(jìn)小波 滿足,二進(jìn)小波 的主頻是,二進(jìn)小波的分頻特性,(34),所在的頻帶是,當(dāng)k取遍全體整數(shù)時(shí)，這些頻帶正好分離覆蓋正頻軸，即,這就是著名的二進(jìn)小波頻帶劃分技術(shù)。,2.4. 正交小波的時(shí)-頻分析Orthonormal Wavelets Time

11、-Frequency Analysis,對于正交小波 ，,(35),其中系數(shù)是,是一個(gè)標(biāo)準(zhǔn)正交基，所以，對于任何信號f(X)，可以展開成小波級數(shù)：,(36),正交小波的吸收譜,由小波變換的定義可知，正交小波級數(shù)的系數(shù) 正好是信號f(x)的小波變換 在二進(jìn)離散點(diǎn)：,(37),上的取值。這說明：對于正交小波來說，任何信號在二進(jìn)離散點(diǎn)上的小波變換包含了它的小波變換的全部信息，所以,正交小波具有優(yōu)美的譜吸收特點(diǎn)。,小波變換與Fourier變換,Fourier變換： 對于任何信號f(x)，只有當(dāng)它是時(shí)間有限時(shí)，它的譜F()(Fourier變換)才是頻率吸收的； 反過來，只有當(dāng)它是頻域有限時(shí)，f(x)才是

12、時(shí)間吸收的;,小波變換: 對于正交小波分析來說，任何信號的正交小波譜都是譜吸收的，即二維小波譜所包含的信息完全被二進(jìn)離散點(diǎn)上的譜吸收。,一點(diǎn)評論,正交小波變換譜的完全吸收性為小波變換的理論分析、數(shù)值計(jì)算和各種應(yīng)用提供了極大的方便。同時(shí)，這些離散的小波譜點(diǎn)，本質(zhì)上意味著時(shí)-頻分析中頻譜分析的頻帶（統(tǒng)計(jì)意義下的區(qū)間），因此，小波分析成功地實(shí)現(xiàn)了人們夢寐以求的“頻帶信息的點(diǎn)處理方式”； 在(a,b)-W(a,b)給出的二維小波譜空間，二進(jìn)離散小波譜點(diǎn)的分布規(guī)律可以用Appendix C Fig.3. 加以說明。,Appendix C Fig.3.正交小波的點(diǎn)譜吸收特性,3. 正交小波和多分辨分析(O

13、rthonormal Wavelet and Multiresolution Analysis),多分辨分析： 上的一列閉的線性子空間 和一個(gè)函數(shù) 共同稱為一個(gè)多分辨分析，如果它們滿足如下的五個(gè)要求：,3.1. 多分辨分析 (Multiresolution Analysis),多分辨分析,2.唯一性公理：,3.稠密性公理：,4.伸縮性公理：,(39),(40),(41),5.構(gòu)造性公理：,(42),生成V0的標(biāo)準(zhǔn)正交基。其中的函數(shù) 稱為尺度函數(shù)(Scale Function)。,1.單調(diào)性公理：,(38),圖像的多分辨分析,多分辨分析(Multiresolution Analysis)方法，在

14、計(jì)算機(jī)科學(xué)和信號處理中，特別是在圖像分析中，通常稱為多尺度分析方法(Multiscale Analysis) ，在小波分析建立之前就已經(jīng)得到了一些理論研究和應(yīng)用，這推動(dòng)了小波變換理論的產(chǎn)生和完善。實(shí)際上，信號f(x)在子空間Vk上的正交投影fk(x)是,圖像的多分辨分析（續(xù)）,正交投影fk(x)正好是原象f(x)在一定的分辨率之下的模糊象，公式(40)說明，當(dāng)分辨率足夠高時(shí)，模糊象和原象重合，即,因此，對fk(x)的分析實(shí)際是對原象的多種分辨率的分析。多分辨分析的困難在于如何從低分辨率的模糊象有效地添加恰當(dāng)?shù)募?xì)節(jié)，得到正確的高分辨率下的模糊象。這些問題的研究都屬于多分辨分析的范圍。,3.2.

15、小波構(gòu)造(Y.Meyer and S.Mallat, 1988),稱之為尺度方程。系數(shù)列 叫低通濾波系數(shù)。,如果 和函數(shù) 是一個(gè)多分辨分析，那么，必然存在一列 系數(shù)，使得,(43),構(gòu)造定理(Y.Meyer and S.Mallat, 1988),令 ， 并構(gòu)造,(44),是L2(R)的標(biāo)準(zhǔn)正交基,則有如下結(jié)論:,(45),是Vk在Vk+1中的正交補(bǔ),構(gòu)造定理的延伸結(jié)果,(46),(47),(49),(48),4. 多分辨分析和金字塔算法(Multiresolution Analysis and Pyramid Algorithms),4.0. 記號 （Notation）：,分別表示信號的趨勢

16、和波動(dòng)或者模糊象和細(xì)節(jié),(50),4.1. 小波分解算法(Decomposition Algorithms of Wavelet),(51),4.2. 小波重建算法(Reconstruction Algorithms of Wavelet),(52),4.3. 金字塔算法(Pyramid Algorithms),(53),引入記號:,它們的幾何意義分別是原信號 在子空間Vk和WK上的正交投影，且它們是相互正交的。由多分辨分析的意義可得,(54),4.3.1. 分解金字塔算法(Decomposition Pyramid Algorithms),信號的分解(Decomposition of Sig

17、nal),空間的分解,空間的分解 (Decomposition of The Subspace),系數(shù)的分解,系數(shù)的分解 (Decomposition of The Coefficients),4.3.2. 重建金字塔算法(Reconstruction Pyramid Algorithms),信號的重建(Reconstruction of Signal),空間的重建,空間的重建 (Reconstruction of Subspace),系數(shù)的重建,系數(shù)的重建 (Reconstruction of The Coeffients),信號的小波分解和合成算法,有限數(shù)字信號的高低通濾波器,矩陣分解算法

18、,矩陣合成算法,有限數(shù)字信號的小波變換編碼,數(shù)字信號小波編碼數(shù)據(jù)量關(guān)系,小波應(yīng)用基本模式,數(shù)字圖像二維小波編碼,數(shù)字圖像二維小波重建,數(shù)字圖像的矩陣小波變換,5.Malvar小波(H.S.Malvar 1987）（R.Coifman and Y.Meyer 1991),5.1 Malvar小波(H.S.Malvar 1987),選擇窗口函數(shù) 滿足如下要求：,時(shí),時(shí),Malvar小波基構(gòu)造,Malvar小波基是函數(shù)族,(55),說明,容易驗(yàn)證，上述函數(shù)族構(gòu)成L2(R)的標(biāo)準(zhǔn)正交基。一般稱這個(gè)函數(shù)族的小波為Malvar小波。Malvar小波和離散余弦變換(DCT)、離散正弦變換(DST)有許多相似

19、之處，根本的差別在于，Malvar小波是真正局部化了的離散余弦變換和離散正弦變換分析，同時(shí)，它還具有變換結(jié)果的遞推數(shù)值算法。,讓人們驚奇的是，物理學(xué)家K.Wilson和數(shù)學(xué)家I.Daubechies也得到了極其相似的結(jié)果。但是，他們兩人和Malvar的工作之間并沒有必然的邏輯的關(guān)系。K.Wilson的想法是，對于實(shí)數(shù)軸的長度是2的等長劃分，按照各個(gè)區(qū)間的奇偶變化，分別輪番使用離散余弦變換和離散正弦變換進(jìn)行信號分析；I.Daubechies的想法是，不僅如此，而且必須加以局部化，局部化因子是同一個(gè)函數(shù) 的2倍整數(shù)平移，只不過要求函數(shù)和它的Fourier變換都是指數(shù)衰減的并使得前述函數(shù)族構(gòu)成 的標(biāo)

20、準(zhǔn)正交基 。,5.2 Malvar小波(R.Coifman and Y.Meyer 1991),選擇 和 并構(gòu)造窗口函數(shù)列 滿足:,窗函數(shù)的構(gòu)造,實(shí)際上，函數(shù) 本質(zhì)上是區(qū)間 的特征函數(shù)的光滑化,Appendix D Fig.4.窗函數(shù)的形狀示意圖,Ak-1,Ak,Ak+1,Ak+k,Ak-k,Ak+1-k+1,k(t),k-1(t),第一類Malvar小波基,第一類Malvar小波為：,(56),第二類Malvar小波基,第二類Malvar小波基為,(57),6. 小波包(Wavelet Packets)(R.Coifman and Y.Meyer and M.V.Wickerhauser 1

21、992),設(shè) 和 是一個(gè)多分辨分析且(43)和(44)成立。記,6.1 正交小波包 (Orthonormal Wavelet Packets),正交小波包的定義,遞推定義的函數(shù)族,(58),(59),k是整數(shù)，m是自然數(shù)。,稱之為小波包。引入記號,正交小波包定理,正交小波包定理 (Coifman and Meyer and Wickerhauser 92) 空間構(gòu)造 是 的標(biāo)準(zhǔn)正交基 空間關(guān)系 (60) 特殊空間關(guān)系,正交小波包的空間分割,小波包實(shí)現(xiàn)小波空間的再分割,6.2小波包和時(shí)-頻分析(Wavelet Packets andits Time-Frequency Analysis),利用正交小波的構(gòu)造定理可知，子空間Wk是Vk在Vk+1中的正交補(bǔ)：,同時(shí)，根據(jù)小波的時(shí)-頻分析特性，可得下列關(guān)系:,正交小波實(shí)現(xiàn)有限頻帶的二進(jìn)分割,正交小波實(shí)現(xiàn)全頻域的二進(jìn)分割,正交小波包對二進(jìn)頻帶的等分割,（62）,Appendix E Fig.5