1、圖像處理中的正則化圖像處理中的正則化二維的圖像可以分解成不同的頻率成分。其中，低頻成分描述大范圍的信息，而高頻成分描述具體的細(xì)節(jié)。在灰度圖像中， 亮度變化小的區(qū)域主要是低頻成分，而亮度變化劇烈的區(qū)域(比如物體的邊緣) 主要是高頻成分。前一章說明當(dāng)噪聲存在時(shí)過濾是必要的。這章需要仔細(xì)看看過濾。過濾也稱為正則化,因?yàn)樗梢越忉尦蓪鈭?zhí)行特定規(guī)律的條件。正規(guī)化的程度是由一個(gè)正則化參數(shù)決定的,這個(gè)參數(shù)應(yīng)該仔細(xì)選擇。 我們本章主要關(guān)注兩個(gè)正則化方法 (TSVD和 Tikhonov) 和三個(gè)計(jì)算正則化參數(shù)的方法 (差異原則 ,廣義交叉驗(yàn)證和 L-曲線標(biāo)準(zhǔn) ).6.1 兩個(gè)重要的方法在前面的章節(jié)中 SVD

2、分析激發(fā)了譜過濾方法的使用，因?yàn)檫@些方法使我們通過過濾因子能控制模糊圖像的譜的內(nèi)容。實(shí)現(xiàn)譜過濾方法必須通過選擇計(jì)算出的解NTb vi ，X filtiui(6.1)i 1i中的過濾因子 i 。為了獲得一個(gè)有理想性質(zhì)的解。這些方法受坐標(biāo)系uiT b 和坐標(biāo)系 viT x 的影響， 其中坐標(biāo)系 uiT b 由向量 ui i1,., N 決定，坐標(biāo)系viT x 由向量 vi i1,., N 決定。操作 b 的數(shù)據(jù)上面提到的坐標(biāo)系是譜坐標(biāo)系,因?yàn)檫@些向量分別是AT A 和 A AT 的特征向量。我們看到了精確的求解方程組Ax b ，當(dāng)數(shù)據(jù)被噪聲污染時(shí)得不到一個(gè)好的解。相反，我們通過（ 5.3）中的過濾

3、展式過濾光譜解，使得在vi 方向上解的元素按過濾因子i 縮放，而且可以減小誤差在uiTb 中的影響。在這一節(jié)中我們討論兩個(gè)最重要的譜過濾方法。1.TSVD 方法 . 對于這個(gè)方法，我們定義對于大奇異值過濾因子的大小為1，對于其他奇異值過濾因子為 0。更確切地說，1,i1,.,k ,(6.2)i0,ik1,., N.參數(shù) k 稱為截?cái)鄥?shù)決定了正則解中奇異值的數(shù)量。注意k 總滿足 1k N 。例如，這是一種用于計(jì)算圖 5.6 所示的解的方法。2.Tikhonov 方法 . 對于這種方法，我們定義過濾因子為2ii,i 1,., N ,(6.3)22i其中0 稱為正則化參數(shù)，這個(gè)參數(shù)的選擇得到了最小

4、化問題minbAx22 x2，(6.4)22x的解向量 X 。圖像處理中的正則化2正如我們將在第 7.2 節(jié)中討論的那樣。我們希望bAx 2 要很小得到了 (6.4)這個(gè)問題，但如果我們選擇 xA1b 使它等于 0，則22NuiT bX 2i 12。i當(dāng)噪聲在一些方向 ui 上的大小超過了奇異值i 的大小時(shí)這個(gè)值是很大的。因此，我們也要保持2X 2 相當(dāng)小，我們 (6.4)中的最小化問題要確保bAX的殘差范數(shù)和解 X的范數(shù)有點(diǎn)小。在去模糊處理中除了SVD 坐標(biāo)系b 外，傅里葉坐標(biāo)系也經(jīng)常被用到 . 過濾是用來消除噪音影響的。用代替符號(hào) b，其中是正交傅里葉變換矩陣的一行。對于低通濾波器，低頻元

5、素對應(yīng)的過濾因子接近1，對應(yīng)于高頻元素的過濾因子接近 0。TSVD 和 Tikhonov 方法和這個(gè)方法是類似的。更多傅里葉濾波法的信息可參見3.傅里葉波濾法我們現(xiàn)在考慮參數(shù)選擇的效果。先考慮對于i的過濾因子i 。則，利用泰勒展開2ii22i1111211221i222iO12344i，我們得到.接下來，我們考慮對于的一個(gè)過濾因子11ii 。再次使用的泰勒擴(kuò)展，得到2212214iii1iii2221222224 . .ii因此，我們可以得出這樣的結(jié)論：Tikhonov 過 濾因子滿足1 ()2O () 4 ),i,iii() 2O ( )4 ),i,ii這意味著，如果我們選擇N ,1，則對于

6、小的指標(biāo) i， i1 ，對于大的指標(biāo)i ，22，對于一個(gè)給定的，在該 “斷點(diǎn) ”的過濾因子變化的本質(zhì)是在該指標(biāo)處。iii6.2 波濾方法的實(shí)現(xiàn)如果我們假設(shè)A 的所有奇異值是非零的，那么這個(gè)naive 解可以寫成XA 1bV1U T b.(6.5)圖像處理中的正則化類似地，譜過濾解可以寫為X filtA 1b V1U T b.(6.6)其中是一個(gè)對角矩陣， 其中包含了特定方法的濾波因子i（例如，TSVD 方法的濾波因子為1 和 0，Tikhonov 的濾波因子為222）。如果譜分解存在的話， （6.5）和（ 6.6）的關(guān)系類似的可以ii寫成譜分解的形式。在第 4 章中，我們講了（1）由圖像去模糊

7、問題導(dǎo)出的各種結(jié)構(gòu)矩陣； （2）如何高效的計(jì)算這些矩陣的 SVD 和譜分解；（3）如何高效的計(jì)算（6.5）的 na?ve 解（參看 VIPs 10,11,12）因?yàn)楸磉_(dá)式（ 6.6）只是（ 6.5）式的一個(gè)變式，所以它對于第4 章中的結(jié)構(gòu)矩陣也能高效的實(shí)現(xiàn)濾波方法。我們可以把（6.6）式寫成1Tb, 其中11。因此，如果濾波因子已經(jīng)給出，則很容易修改VIPsX filt V filt Ufilt10,11,12 去計(jì)算 X filt對于許多結(jié)構(gòu)矩陣都可以高效的計(jì)算出X filt ，以下是計(jì)算X filt 的算法給定P=PSFcenter=row,col=center of PSFB=blurr

8、ed imageBC=string denoting boundary condition(e.g., zero)Phi=filter factors對于周期邊界條件的結(jié)構(gòu)矩陣，用S=fft2(circshift(P,1-center);Sfilt=Phi./S;Xfilt=real(ifft2(fft2(B).*Sfilt);對于有雙對稱PSF的反射邊界條件的結(jié)構(gòu)矩陣，用E1=zeros(size(P);,e1(1,1)=1;S=dct2(dctshift(P,center)./dct2(e1);Sfilt=Phi./S;Xfilt=idct2(dct2(B).*Sfilt);對于可分離的P

9、SF，用Ar, Ac=kronDecomp(P, center, BC);Uc, Sc, Vc=svd(Ac);Ur, Sr, Vr=svd(Ar);S=diag(Sc) * diag(Sr);Sfilt=Phi./S;Xfilt=Vc*(Uc *B*Ur).*Sfilt)*Vr;我們在上文中除了給出TSVD 截?cái)鄥?shù)應(yīng)該滿足1kN 和Tikhonov正則參數(shù)應(yīng)該滿足N1 外并沒有給出如何選擇TSVD方法的參數(shù)k 和Tikhonov方法的參數(shù)。下面我們討論一些選擇以上參數(shù)的自動(dòng)方法，現(xiàn)在我們可以通過實(shí)驗(yàn)選擇它們。例如，在 TSVD中，圖像處理中的正則化我們可以指定限度小于使所有奇異值都被截?cái)嗟?/p>

10、數(shù)。在這種情況下， 濾波因子可以用MATLAB很容易的計(jì)算出，即Phi=(abs(S)=tol);。通過實(shí)驗(yàn)不同的tol 值和顯示得到的濾波解Xfilt，我們可以看到正則的效果。在 Tikhonov 正則的情況中，我們可以為指定一個(gè)值，通過奇異值計(jì)算濾波因子，如下：Phi=abs(S).2./(abs(S).2+alpha2);當(dāng)用 FFTs時(shí)， abs 命令必須用。通過實(shí)驗(yàn)不同的alpha 值和顯示得到的濾波解Xfilt ，我們可以看到正則的效果。圖 6.2 是 TSVD方法和 Tikhonov 方法作用到圖1.2 的南瓜模糊圖像上得到的效果圖。對兩種方法都用反射邊界條件，正則參數(shù)選擇的使圖

11、像更清晰。兩種方法都恢復(fù)了模糊圖像的一些細(xì)節(jié)，但是，TSVD方法得到的圖像上產(chǎn)生了一些微粒。本節(jié)最后，我們看一下Sfilt=Phi./S 的計(jì)算。如果S 中一些奇異值是0，則 MATLAB會(huì)產(chǎn)生“除數(shù)為0 ”的警告， Sfilt 中的一些值會(huì)被賦值成Inf 或者 NaN。為了避免這種情況的發(fā)生，我們可以僅對S中的非 0 元進(jìn)行操作，把Sfilt 中 0 奇異值對應(yīng)的元素賦值為0。這樣的話我們可以用一個(gè)邏輯數(shù)組idx=(S=0)來表示 S 中非 0 元素的位置， 這樣除法就可以實(shí)現(xiàn)了。如下是修改后除法的MATLAB 表示idx=(S=0);Sfilt=zeros(size(Phi);Sfilt(

12、idx)=Phi(idx)./S(idx);6.3 正則誤差和擾動(dòng)誤差為了更好的理解譜濾波方法的機(jī)制和正則性，我們現(xiàn)在看一下正則解X filt 的誤差。就SVD而言，（ 6.6）式可以表示 TSVD解和 Tikhonov 解。由（ 6.6）式，我們可以容易的區(qū)分正則解得兩種不同類型的誤差，具體的得到X filtV1U T bV1U T bexactV1 U T eV1U T AX exactV1 U T eV1 X exactV1U T e因此， X filt 的誤差可以寫成X exactX filt( INVV T) X exactV1 U T e（ 6.7）可以看出誤差包含兩個(gè)不同的部分。

13、1.正則誤差。第一項(xiàng)(INVV T ) Xexact 是正則誤差，它是由正則逆矩陣V1UT 代替A1V1U T 引起的。矩陣VV T 描述了精確解和濾波解的關(guān)系，如果I N ，因?yàn)閂V TI N則正則誤差是0，越接近單位矩陣正則誤差越小。2.擾動(dòng)誤差。第二項(xiàng)V1UTe 是擾動(dòng)誤差，它包含逆噪音和濾波噪音。如果0 ，擾動(dòng)誤差為0,。當(dāng)大部分濾波因子多很小或者為0 時(shí)，逆噪音會(huì)被嚴(yán)重的抑制 （擾動(dòng)誤差很小） 。正則參數(shù)的變化會(huì)改變和兩類誤差。當(dāng)很多濾波因子i 接近1 時(shí)，正則誤差會(huì)很小，但圖像處理中的正則化是，擾動(dòng)誤差會(huì)變大（逆噪音控制了解），我們稱解是undersmoothed 。另一方面，當(dāng)少

14、數(shù)的濾波因子接近 1 時(shí)，正則誤差大擾動(dòng)誤差小，我們稱解是 oversmoothed 。正則參數(shù)選擇時(shí)要平衡這兩種類型的誤差。圖 6.3 說明了正則誤差和擾動(dòng)誤差隨著正則參數(shù)變化而變化的情況。與圖5.6 的問題一樣，用 TSVD正則方法，我們看到當(dāng)k200時(shí)，兩種類型的誤差平衡。盡管條件數(shù)大， 但是我們能把近似解通過正則化得到精確解的原因是譜濾波抑制了逆噪音同時(shí)使正則誤差也變小 （因?yàn)閳D像去模糊問題滿足離散 Picard 條件，即解用譜表示時(shí)， 精確的右邊向量表示 decaying expansion coefficient ）。噪音主要影響的是高頻元素，而高頻元素與小的奇異值有關(guān)而且它會(huì)被譜

15、濾波方法抑制。 78 也最后為 了 更 深 的 理 解 這 個(gè) 問 題 ， 我 們 考 慮 正 則 誤 差 的 范 數(shù) 。 因 為X exactA 1bexact V1U T bexact2y2， V T y2，所以2I N VV T Xexact2I NV T X exact2222I N1U Tbexact 2NT21ui bexactii1i由 Picard 條件知，系數(shù) uiT bexacti 是衰減的。因?yàn)闉V波因子i (i 1,2,.) 接近 1，因式 1 i抑制了大系數(shù) uiT bexacti 。濾波因子 i (iN , N 1,.) 對應(yīng)的因式 1i 接近1，它和小的系數(shù) uiT bexacti 相乘。因此，如果濾波因子能夠合理的選擇，則正則誤差的范數(shù)就不會(huì)很大。6.4 參數(shù)選擇方法對于不適定問題， 正則參數(shù)