摘要 摘要 盲源分離是在源信號與傳輸信道未知的情況下僅利用接收天線的觀測數(shù)據(jù)提 取或恢復(fù)統(tǒng)計獨立的源信號。盲源分離因為在語音處理、醫(yī)學(xué)信號處理，圖像增 強與無線通信等諸多領(lǐng)域具有廣泛的應(yīng)用前景，從而引起了信號處理學(xué)界和神經(jīng) 網(wǎng)絡(luò)學(xué)界的共同興趣。本文圍繞這一熱點課題展開，并把研究重點放在非平穩(wěn)環(huán) 境中的盲源分離算法研究，本文的主要工作包括以下幾個方面： 1 提出一種變步長、變動量項因子的自適應(yīng)改進的自然梯度算法實現(xiàn)源信號 瞬時混合的盲分離。在后向傳播算法的啟發(fā)下，在自然梯度學(xué)習(xí)過程中結(jié)合動量 項以加快收斂速度，同時改善自然梯度算法的穩(wěn)定性。然后在分離模型中提出一 個合適的測度函數(shù)自適應(yīng)控制步長和動量項因子，由此得到的變步長和變動量項 因子的改進的自然梯度算法適合解決時變環(huán)境下的盲源分離問題。實驗表明與經(jīng) 典的自然梯度算法和其它改進的自然梯度算法相比，即使在信源個數(shù)很多的情況 下，本文所提自適應(yīng)改進的自然梯度算法有更快的收斂速度和更好的穩(wěn)態(tài)精確性， 當(dāng)混合矩陣突變或信號功率突變時自適應(yīng)改進的自然梯度算法依然有較好的跟蹤 能力。此外，結(jié)合自然梯度和非線性主分量分析提出了一種塊遞歸的盲源分離方 法，構(gòu)造出按塊遞歸更新的矩陣方程，然后用q r 分解和回代法求解該矩陣方程得 到最優(yōu)分離矩陣。所提方法與已有遞歸型盲源分離算法相比適于實時處理且遺忘 因子的選擇相對簡單，與其它塊處理算法相比有較快的初始收斂速度。 2 針對混合矩陣發(fā)生突變的情況，提出一種基于時變遺忘因子遞歸廣義特征 分解的非白源盲分離算法。首先給出一種新的協(xié)方差矩陣的逆矩陣和時延相關(guān)矩 陣乘積的遞歸更新方程，廣義特征向量的估計經(jīng)由近似冪迭代法和壓縮處理在線 實現(xiàn)，得到的在線算法可以避免同時估計協(xié)方差矩陣及其逆矩陣。為跟蹤混合矩 陣的突然變化，提出一種新穎的基于廣義特征向量關(guān)于協(xié)方差矩陣正交特性的在 線決策規(guī)則，可以判別混合矩陣是否發(fā)生突變，從而利用時變遺忘因子的遞歸廣 義特征分解算法在混合矩陣發(fā)生突變后能獲得較好的跟蹤能力及精確的穩(wěn)態(tài)性 能。 3 充分利用人類發(fā)音的特點和語音信號的非平穩(wěn)特性，提出一種數(shù)目未知的 語音信號瞬時混合的盲分離和信源數(shù)目檢測算法。首先利用遞歸廣義特征分解在 線估計對應(yīng)于最大廣義特征值的廣義特征向量，利用向量相似度定義廣義特征向 量的平均相似度用以擬合信道互擾性能曲線，并根據(jù)平均相似度曲線提取出“高 相似度區(qū)間近似“分離區(qū)間 。然后進一步提取分離性能較好的“高相似度區(qū)間 并剔除部分“混合區(qū)間”，得到“高分離度區(qū)間 。然后對“高分離度區(qū)間中的 廣義特征向量進行多階段聚類確定源信號的數(shù)目，在實現(xiàn)估計信號數(shù)目的同時完 雷達信號處理國家重點實驗室 非平穩(wěn)環(huán)境中的盲源分離算法研究 成信號的盲分離。此外，所提算法可以克服盲提取問題中先提取出的信源性能好 而后提取出的信源性能差的缺點。 4 針對現(xiàn)有卷積混合盲源分離的頻域算法存在的問題，即恢復(fù)出的信號是源 信號和一個未知的濾波器的卷積，且由于部分頻率點處盲源分離方法的失效和無 法精確解決排列和尺度模糊問題，分離出的信號中會泄露進其余的信號分量，影 響分離性能。提出一種基于多信道語音增強的頻域盲源分離后處理方法以消除空 間干擾和背景噪聲。該方法有機結(jié)合盲源分離技術(shù)與陣列處理技術(shù)，既可充分利 用空域信息，又無需增加其它先驗信息。首先在頻域盲源分離方法中利用語譜分 裂技術(shù)得到脅個分離信號，將多輸入多輸出( m i m o ) 混合系統(tǒng)分裂成個單輸 入多輸出( s i m o ) 系統(tǒng)，泄露進該信號的其它信號分量可以視為干擾信號，然后分 別用頻域多信道語音增強方法重構(gòu)出各個語音信號，以消除不同信源間的空間干 擾和環(huán)境噪聲。仿真結(jié)果表明該算法具有良好的性能。 關(guān)鍵詞：盲源分離( b s s ) ，獨立分量分析( i c a ) ，瞬時混合，卷積混合，非平穩(wěn)信 號，非白信號，自然梯度，廣義特征分解( g e d ) ，多信道語音增強，變步長，變遺 忘因子 西安電子科技大學(xué)博士論文 a b s t r a c t i i i a b s t r a c t b l i n ds o u r c es e p a r a t i o n0 3 s s ) a i m st oe x t r a c ti n d e p e n d e n tb u tu n o b s e r v e r e ds o u r c e s i g n a l sf r o mt h e i rm i x t u r e sc a p t u r e db yan u m b e ro fs e n s o r sw i t h o u tk n o w i n gt h e m i x i n gc o e f f i c i e n t s o v e rt h ep a s tt w od e c a d e s ，t h ep r o b l e mo fb s sh a sr e c e i v e dm u c h a t t e n t i o ni nv a r i o u sf i e l d s ，s u c ha ss p e e c ha n da u d i op r o c e s s i n g ，i m a g ee n h a n c e m e n t a n db i o m e d i c a ls i g n a lp r o c e s s i n g t h em a i nw o r k sc a nb es u m m a r i z e da sf o l l o w s ： 1 a na d a p t i v ei m p r o v e dn a t u r a l g r a d i e n ta l g o r i t h mf o r b l i n d s e p a r a t i o n o f i n s t a n t a n e o u sm i x t u r e so fi n d e p e n d e n ts o u r c e si s p r o p o s e d f i r s t , i n s p i r e db yt h e w e l l k n o w nb a c k - p r o p a g a t i o na l g o r i t h m ，w ei n c o r p o r a t eam o m e n t u mt e r mi n t ot h e n a t u r a lg r a d i e n tl e a r n i n gp r o c e s st oa c c e l e r a t et h ec o n v e r g e n c er a t ea n di m p r o v et h e s t a b i l i t y t h e n ，a ne s t i m a t i o nf u n c t i o nf o rt h ea d a p t a t i o no ft h es e p a r a t i o nm o d e li s o b t a i n e dt oa d a p t i v e l yc o n t r o las t e p s i z e p a r a m e t e ra n dam o m e n t u mf a c t o r t h e p r o p o s e dn a t u r a lg r a d i e n ta l g o r i t h mw i t hv a r i a b l es t e p s i z ep a r a m e t e ra n dv a r i a b l e m o m e n t u mf a c t o ri st h e r e f o r ew e l ls u i t e dt ob l i n ds o u r c es e p a r a t i o ni nat i m e - v a r y i n g e n v i r o n m e n t t h ee x p e c t e di m p r o v e m e n ti n t h e c o n v e r g e n c es p e e d ，s t a b i l i t ya n d t r a c k i n ga b i l i t yo ft h ep r o p o s e da l g o r i t h mi sd e m o n s t r a t e db ye x t e n s i v es i m u l a t i o n r e s u l t si nb o t ht i m e - i n v a r i a n ta n dt i m e - v a r y i n ge n v i r o n m e n t s t h ea b i l i t yo ft h e p r o p o s e da l g o r i t h mt os e p a r a t ee x t r e m e l yw e a k ( o rb a d l ys c a l e d ) s o u r c e sa n dm a n y s o u r c e si sa l s ov e r i f i e d i na d d i t i o n ，ab l o c kr e c u r s i v ea p p r o a c hf o rb l i n ds o u r c e s e p a r a t i o ni sp r e s e n t e d f i r s t l y , b a s e do nn a t u l 詛g r a d i e n ta n dn o n l i n e a rp r i n c i p a l c o m p o n e n ta n a l y s i s ，am a t r i xe q u a t i o ni so b t a i n e db yb l o c kr e c u r s i v eu p d a t i n g ，a n dt h e n t h em a t r i xe q u a t i o ni ss o l v e du s i n gq rf a c t o r i z a t i o na n db a c ks u b s t i t u t i o nt oo b t a i nt h e o p t i m a ls e p a r a t i n gm a t r i x c o m p a r e d 誦mo t h e re x i s t i n gr e c u r s i v e - t y p eb s sm e t h o d s ， t h ep r o p o s e da l g o r i t h mi sf e a s i b l et or e a l - t i m ep r o c e s s i n g ，a n dt h ec h o i c eo ft h e f o r g e t t i n gf a c t o ri ss i m p l e c o m p a r e dw i t ho t h e rb l o c kp r o c e s s i n gm e t h o d s ，t h e p r o p o s e da l g o r i t h mh a sf a s ti n i t i a lc o n v e r g e n c es p e e d 2 a ne f f i c i e n tv a r i a b l ef o r g e t t i n gf a c t o rr e c u r s i v eg e n e r a l i z e de i g e n - d e c o m p o s i t i o n a l g o r i t h mi sd e v e l o p e df o rb l i n ds e p a r a t i o no fn o n - w h i t es o u r c e sw h e nt h em i x i n g m a t r i xc h a n g e sa b r u p t l y w ed e r i v ean e wr e c u r s i v e u p d a t ee q u a t i o n f o rt h e m u l t i p l i c a t i o no fac r o s s - c o r r e l a t i o nm a t r i xa n dt h ei n v e r s eo fac o v a r i a n t em a t r i xw i t h c o m p a c tf o r ma n dl o wc o m p u t a t i o n a lc o m p l e x i t y t h eg e n e r a l i z e de i g e n v e c t o r sa r e r e c u r s i v e l ye s t i m a t e db yu s i n gt h ea p p r o x i m a t e dp o w e rm e t h o da n dt h ed e f l a t i o n p r o c e d u r e w i t h o u ta d d i t i o n a lp r i o r ii n f o r m a t i o no ft h em i x t u r e s ，w ep r o p o s ean o v e l 雷達信號處理國家重點實驗室 ! v 非平穩(wěn)環(huán)境中的盲源分離算法研究 o n l i n ed e c i s i o nr u l et ot r a c kt h ea b r u p tv a r i a t i o n so ft h em i x i n gm a t r i xa n dt h e na v a r i a b l ef o r g e t t i n gf a c t o rr e c u r s i v eg e n e r a l i z e de i g e n - d e c o m p o s i t i o na l g o r i t h mf o rb s s i sp r e s e n t e df o r t h et i m e v a r y i n ge n v i r o n m e n t s n 圮i m p r o v e dt r a c k i n ga b i l i t ya n d s t e a d y s t a t ea c c u r a c yo ft h ep r o p o s e da l g o r i t h ma r ev a l i d a t e db y t h ec o m p u t e r s i m u l a t i o nr e s u l t s 3 b ye x p l o i t i n go fs p e e c hn o n s t a t i o n a r i t y , am e t h o df o re s t i m a t i n gt h en u m b e ro f s o u r c e sf r o mi n s t a n t a n e o u sm i x t u r e so fs p e e c hs i g n a l sw i t hu n k n o w ns o u r c en u m b e ri s p r e s e n t e d ，a n dt h e nt h es o u r c e s a r ee x t r a c t e d mf i r s t d o m i n a n tg e n e r a l i z e d e i g e n v e c t o ri se s t i m a t e db yr e c u r s i v eg e n e r a l i z e de i g e n d e c o m p o s i t i o n 碭em e a n s i m i l a r i t y c u d eo ft h ee s t i m a t e d g e n e r a l i z e de i g e n v e c t o ri si n t r o d u c e d t of i t i n t e r - c h a n n e li n t e r f e r e n c ec r r v e ，a n dt h e n “h i g hs i m i l a r i t yi n t e r v a l s a r ee x t r a c t e dt o a p p r o a c h s e p a r a t i o ni n t e r v a l ”m o r e o v e r , “h i g hs e p a r a t i o ni n t e r v a l s ”a r eo b t a i n e d b ye x t r a c t i n g n i g hs i m i l a r i t yi n t e r v a l s w i t hb e t t e rs e p a r a t i o np e r f o r m a n c ea n d e l i m i n a t e m i x t u r e si n t e r v a l ”f i n a l ，t h en u m b e ro ft h es o u r c e si se s t i m a t e dw i t h m u l t i s t a g ec l u t s t e r i n gt e c h n i q u e sa n dt h ec o r r e s p o n d i n gs o u r c e sa r ee x t r a c t e d t h e p r o p o s e da l g o r i t h mc a na v o i ds u f f e r i n gt h ee r r o rp r o p a g a t i o no ft h ed e f l a t i o nt e c h n i q u e ， w h i c he x i s t si na l ls e q u e n t i a la l g o r i t h m s 4 an e wp o s t p r o c e s s i n gm e t h o df o rc o n v o l u t i v em i x t u r e sb l i n ds p e e c hs e p a r a t i o ni s p r o p o s e d - i tu t i l i z e sm u l t i - c h a n n e ls i g n a le n h a n c e m e n tt os u p p r e s ss p a t i a li n t e r f e r e n c e a n db a c k g r o u n dn o i s e d u et oi m p r e c i s i o nf o rs o l v i n gt h ep e r m u t a t i o na m b i g u i t y p r o b l e m ，f r e q u e n c yd o m a i nb l i n ds o u r c es e p a r a t i o nh a si t sf u n d a m e n t a ll i m i t a t i o ni n s e p a r a t i o nq u a l i t y t oo v e r c o m et h a t ，b ys p l i t t i n gs p e c t r o g r a m s ，t h em x nm u l t i - i n p u t m u l t i - o u t p u t ( m 訂o ) s y s t e mw i l lb ec o n v e r t e di n t ons i n g l e - i n p u tm u l t i o u t p u t ( s i m o ) s y s t e mi nf r e q u e n c yd o m a i nb l i n ds p e e c hs e p a r a t i o ns y s t e m f u r t h e r m o r e ，t oa t t e n u a t e s p a t i a li n t e r f e r e n c ef r o mc o m p e t i n gs o u r c e sa n db a c k g r o u n dn o i s e ，t h em u l t i c h a n n e l s i g n a le n h a n c e m e n tm e t h o di se x p l o i t e dt or e c o n s t r u c ts o u r c es i g n a l sf r o mt h en s i m o s y s t e mr e s p e c t i v e l y t h es e p a r a t i o np e r f o r m a n c eo ft h ep r o p o s e da l g o r i t h m i s d e m o n s t r a t e db ye x p e r i m e n t s k e yw o r d s ：b l i n ds o u r c es e p a r a t i o n ( b s s ) ，i n d e p e n d e n tc o m p o n e n ta n a l y s i s ( c a ) ， i n s t a n t a n e o u sm i x t u r e s ，e o n v o l u t i v em i x t u r e s ，n o n s t a t i o n a r ys o u r c e s ，n o n - w h i t es o u r c e ， n a t u r a lg r a d i e n t , g e n e r a l i z e de i g e n - d e e o m p o s i t i o n ( g e d ) ，m u l t i c h a n n e ls p e e c h e n h a n c e m e n t , v a r i a b l es t e p - s i z e ，v a r i a b l ef o r g e t t i n gf a c t o r 西安電子科技大學(xué)博士論文 獨創(chuàng)性聲明 本人聲明所呈交的論文是我個人在導(dǎo)師指導(dǎo)下進行的研究工作及取得的研究成 果。盡我所知，除了本文中特別加以標(biāo)注和致謝中所羅列的內(nèi)容外，論文中不包含其 他人已經(jīng)發(fā)表或撰寫過的研究成果；也不包含為獲得西安電子科技大學(xué)或其它教育機 構(gòu)的學(xué)位或證書而使用過的材料。與我一同工作的同志對本研究所做的任何貢獻均已 在論文中做了明確的說明并表示了謝意。 本人簽名： 關(guān)于論文使用授權(quán)的說明 本人完全了解西安電子科技大學(xué)有關(guān)保留和使用學(xué)位論文的規(guī)定，即：學(xué)校有權(quán) 保留送交論文的復(fù)印件，允許查閱和借閱論文；學(xué)?？梢怨颊撐牡娜炕虿糠謨?nèi)容； - i r 以允許采用影印、縮印或其它復(fù)制手段保存論文。( 保密的論文在解密后遵守此規(guī) 定) 本人簽名： 導(dǎo)師簽名： 嘛一：碑縫 日期：竺! 皇：5 ：旦 第一章緒論 第一章緒論 1 1 引言 盲源分離( b s s ：b l i n ds o u r c es e p a r a t i o n ) 是在源信號與傳輸信道未知的情況下 僅根據(jù)源信號的統(tǒng)計獨立性假設(shè)從觀測信號( 混合信號) 中提取或恢復(fù)源信號。典 型的例子是雞尾酒會( c o c k t a i lp a r t y ) f 司題，即在一個同時存在眾多談話者的環(huán)境中， 由麥克風(fēng)錄取談話者聲音的混合信號，通過信號處理的方法，分離出各位談話者 或特定的談話者的聲音信號。這里術(shù)語“盲”有兩重含義：第一，源信號不能被 觀測；第二，源信號是如何混合的是未知的。顯然，當(dāng)源信號與傳輸信道參數(shù)都 未知時，盲源分離是一種很自然的選擇。 建模成不同的多輸入多輸出的數(shù)學(xué)模型， 為瞬時混合和卷積混合。 盲源分離的混合過程需要根據(jù)實際應(yīng)用 可分為無記憶和有記憶的，也可分別稱 近二十多年來，盲源分離已成為信號處理領(lǐng)域最熱門的研究課題之一，其研 究正突飛猛進，已有諸多著作面世【l - 9 1 。利用源信號或輸入信號的部分量化信息( 如 源信號的相互統(tǒng)計獨立性、恒模性、非白、非平穩(wěn)和非高斯統(tǒng)計性等等) ，盲信號 處理技術(shù)可以有效地實現(xiàn)系統(tǒng)辨識和源信號的恢復(fù)等。盲源分離技術(shù)己在語音識 別、圖像處理、生物信號處理、通信( 特別是無線通信) 信號處理以及源信號不易 或不可能測量的自然信號處理等領(lǐng)域顯示出十分誘人的應(yīng)用前景。 1 2 瞬時混合盲源分離研究發(fā)展與現(xiàn)狀 盲源分離問題的早期研究集中于模型相對簡單的瞬時混合情形。j u a e n 和 h e r a u l t b o q 2 最早在1 9 8 6 年提出了一種類神經(jīng)盲源分離方法，該方法基于反饋神經(jīng) 網(wǎng)絡(luò)，通過取奇次的非線性函數(shù)構(gòu)成h e b b 訓(xùn)練，從而達到盲源分離的目的。雖然 該方法只能用于兩個混合源信號的盲分離，非線性函數(shù)的選取具有隨意性，并且 缺乏理論解釋，但是j u a e n 和h e r a u l t 的工作作為盲源分離問題的研究開端，具有 里程碑式的意義。t o n g 等人【1 3 】分析了盲源分離問題的可辨識性和不確定性，并給 出一種基于高階統(tǒng)計量的矩陣代數(shù)分解方法。c a r d o s o 等人t 1 4 l 提出了一類基于高階 統(tǒng)計量的近似聯(lián)合對角化盲源分離方法，并可用于盲波束形成。c o m o n 1 5 】分析了 瞬時混合信號的盲分離問題，明確了獨立分量分析( i c a ：i n d e p e n d e n tc o m p o n e n t a n a l y s i s ) 的概念，利用可以測度源信號統(tǒng)計獨立性的k u l l b a c k - l e i b e r ( k - l ) 準(zhǔn)則作 為對比函數(shù)( c o n t r a s tf u n c t i o n ) ，并通過對概率密度函數(shù)的高階近似，得出用于測度 信號各分量統(tǒng)計獨立的對比函數(shù)，并由此得出一類基于特征分解的獨立分量分析 雷達信號處理國家重點實驗室 2 非平穩(wěn)環(huán)境中的盲源分離算法研究 方法。這種方法需要對觀測信號進行白化預(yù)處理，而且是一種批處理算法，運算 量大，實時性差。需要指出的是獨立分量分析雖然在概念上是一個簡單的問題， 但它可以引入許多有趣的技術(shù)，如高階統(tǒng)計量、信息論、稀疏編碼、投影跟蹤和 信息幾何等等，并有著廣泛的應(yīng)用。b e l l 等人【1 6 j 基于信息理論，通過最大化輸出 非線性節(jié)點的熵，得出一種最大信息傳輸?shù)臏?zhǔn)則函數(shù)并由此導(dǎo)出一種自適應(yīng)的盲 源分離方法和盲反卷積方法，當(dāng)該方法中非線性函數(shù)的選取逼近源信號的概率分 布時，可以較好的恢復(fù)出源信號，但收斂慢，且需要矩陣求逆運算，穩(wěn)定性也比 較差。在從神經(jīng)網(wǎng)絡(luò)角度研究自適應(yīng)信號分離的獨立分量分析方法時，為克服隨 機梯度優(yōu)化方法收斂比較慢的缺點，c i c h o c k i 等人舊提出了自然梯度算法，它的 學(xué)習(xí)規(guī)則不僅容易計算，而且可以避免矩陣求逆運算。后來，a m a r i t l 8 】從信息幾何 的角度詮釋了自然梯度算法工作原理，并證明了自然梯度算法的有效性，對自然 梯度算法的進一步研究參見文獻【4 】及其中文獻，自然梯度算法的收斂性取決于步 長的選取和初始分離矩陣的取值，如何選擇這些參數(shù)以同時保證收斂速度、穩(wěn)定 性和跟蹤能力較為關(guān)鍵。c a r d o s o 等人【1 9 j 則從自適應(yīng)信號分離必須具有等變化性 ( e q u i v a r i a n t ) 出發(fā)，相對于普通梯度( 絕對梯度) ，定義了相對梯度，由之得到 的算法稱為相對梯度算法，可以證明自然梯度算法與相對梯度算法是等價的，因 而自然梯度算法也具有等變化性。y a n g 等人【2 0 l 已證明：熵最大化與獨立分量分析 是等價的。隨著盲分離算法研究的深入，逐漸引入和產(chǎn)生了許多相關(guān)理論分析， 如c a o 等人【2 1 】的行可分解理論，a m a r i 等人瞄】的半?yún)?shù)統(tǒng)計理論，c a r d o s o 等人 2 3 - 2 4 的局部穩(wěn)定性理論等。 受獨立分量分析的啟發(fā)，k a r h u n e n 等人【2 弛7 j 在主分量分析方法( p c a ：p r i n c i p a l c o m p o n e n t a n a l y s i s ) 引入某種非線性，提出了一類非線性主分量分析的盲源分離 算法。p a j u n e n 等人【2 6 】通過結(jié)合非線性主分量分析( n p c a ) 和近似投影子空間跟蹤 ( p a s t ) 算法圓j 提出了遞歸最小二乘( r l s ) 型的盲源分離算法，實驗結(jié)果表明該算法 的收斂速度優(yōu)于已有的自適應(yīng)盲源分離算法。由于r l s 算法的推導(dǎo)是基于普通的 隨機梯度，而自然梯度算法明顯優(yōu)于普通的隨機梯度算法，朱孝龍等人 2 9 1 將自然 梯度算法與非線性主分量分析的的遞歸最小二乘算法相結(jié)合，提出了基于自然梯 度遞歸最小二乘算法。需要注意的是這兩種遞歸算法 2 6 # 9 1 都需要對觀測信號預(yù)白 化。朱孝龍等人【3 0 】隨后又提出了無需對觀測信號預(yù)白化的基于自然梯度和n p c a 的遞歸最小二乘盲分離方法。 基于廣義特征分解的盲源分離方法【3 1 - 3 3 1 是一種簡單而有效的離線盲分離方 法，它利用源信號的特性，如源信號的非白性、非高斯性或非平穩(wěn)性，由混合信 號的二階或四階統(tǒng)計量構(gòu)造相應(yīng)的矩陣束，通過對構(gòu)成矩陣束的兩個矩陣的精確 聯(lián)合對角化可求出矩陣束的廣義特征向量矩陣，即為待求的分離矩陣。c a r d o s o 等 人1 3 4 1 提出了基于二階統(tǒng)計量的多個不同時延相關(guān)矩陣的近似聯(lián)合對角化算法 西安電子科技大學(xué)博士論文 第一章緒論 ( s o b i ) ，通過對經(jīng)白化預(yù)處理的觀測信號構(gòu)成不同時延的相關(guān)矩陣，通過求一個 酉矩陣使得上述不同時延的相關(guān)矩陣實現(xiàn)近似聯(lián)合對角化，從而可到分離矩陣實 現(xiàn)盲信號分離。基于非正交近似聯(lián)合對角化的盲源分離算法【3 5 3 8 1 則可避免對觀測 信號進行白化預(yù)處理。 除了同步提取所有源信號的并行算法外，盲源分離還可以采用一次只提取一 個源信號的串行算法1 3 9 】，比較典型的有定點( f i x e d - p o i n t ) 算法( 也被稱) 白f a s t l c a 算 法) 4 0 。4 5 】，h y v a r i n e n 等a 4 0 4 1 】首先基于源信號非高斯性測度( 或峭度) ，給出一類 定點訓(xùn)練算法，該類算法能提取單個具有正或負(fù)峭度的源信號。該類算法由于計 算復(fù)雜度小、分離性能好而受到廣泛的關(guān)注。不同學(xué)者又相繼提出了進一步改進 或簡化的f a s t l c a 算法及適用于不同情形的f a s t l c a 算法，如復(fù)值信號的f a s f l c a 算 法1 4 2 ，復(fù)值非高斯非圓信號的f a s t l c a 算法【4 3 】等。該類算法的收斂性能也得到了深 入研究【4 糾5 1 。l i 等人【4 q 提出了一種形式上類似于并行算法的盲提取算法，該算法 的特點是一步就可以提取出一個信號，而不同于傳統(tǒng)的盲信號提取算法提取一個 源信號需要分提取和數(shù)據(jù)壓縮兩步完成。李細(xì)林等人【4 7 l 則提出了基于二階統(tǒng)計量 的盲信號提取算法，通過對自相關(guān)矩陣的近似聯(lián)合對角化實現(xiàn)信號的盲提取，并 且在部分先驗信息給定的情況下可以提取特定的信號。 在現(xiàn)實世界中考慮一些問題時，必須考慮源信號的非平穩(wěn)性。所以近年來， 盲源分離問題中的非平穩(wěn)性引起了大家廣泛的關(guān)注。盲源分離中的非平穩(wěn)性問題 可以分為以下三類：+ ( 1 ) 混合函數(shù)不時變，源信號為非平穩(wěn)的。研究盲分離中的非平穩(wěn)性阿題的 大多數(shù)學(xué)者考慮的是這種情況，s o u l o u m i a c i 4 引對兩個不同時刻協(xié)方差矩陣進行確切 的聯(lián)合對角化( 這等價于解一個廣義特征值問題) ，由此得出的算法能實現(xiàn)非平穩(wěn) 源的盲分離。m a t s u o k a 等人【4 9 】考慮了一個本質(zhì)上是高斯互信息的標(biāo)準(zhǔn)，但他們對 于其中的最優(yōu)化問題只提出一個隨機梯度問題。p h a m 等人【5 0 】提出的擬牛頓型方法 顯然要優(yōu)于前者。c h o i 等入1 5 l l 利用不同的時間窗數(shù)據(jù)框架結(jié)構(gòu)得到多個時延相關(guān) 矩陣，然后用近似聯(lián)合對角化方法來估計混合矩陣。但在實際環(huán)境中的非平穩(wěn)信 號大多不宜視為短時平穩(wěn)的，因此基于時頻分布的非平穩(wěn)信號的盲分離技術(shù) s 2 - s 4 已引起了廣泛的專注。主要原因之一是它能夠?qū)崿F(xiàn)非平穩(wěn)相關(guān)信源的分離，而傳 統(tǒng)盲源分離方法的基本假設(shè)為信源是統(tǒng)計獨立的。 ( 2 ) 混合系統(tǒng)時變、源信號為平穩(wěn)的?；旌舷到y(tǒng)時變也可分為混合矩陣慢變 和突變，這種情況通常需要在線算法跟蹤混合矩陣的變化。e v e r s o n 等【5 5 】提出一種 有效的跟蹤混合矩陣同時估計源信號的方法來解決盲分離問題，這里獨立源的混 合過程根據(jù)馬爾可夫過程建模成進化過程。魁姐e d 【5 6 】在混合系統(tǒng)時變，源的密度 能建模成有限個高斯混合的情況下，用貝葉斯方法，即著名的馬爾可夫鏈蒙特卡 羅( m c m c ) 方法來仿真實現(xiàn)以解決這種情況下的盲分離問題。p a r g a 等人陽也提出 雷達信號處理國家重點實驗室 4 非平穩(wěn)環(huán)境中的盲源分離算法研究 一種混合系統(tǒng)緩慢平滑變化時的盲分離方法，在源信號平穩(wěn)和各態(tài)歷經(jīng)時給出一 種代數(shù)解法，但并沒有給出仿真結(jié)果。 ( 3 ) 混合系統(tǒng)時變、源信號非平穩(wěn)。這種情況最為復(fù)雜，研究相對較少，張 賢達等人【5 8 】提出了基于卡爾曼濾波的盲源分離算法，仿真實驗表明該算法可以適 用于混合矩陣緩慢變化、源信號是語音信號韻情況! p o k h a r e l 等人【5 9 1 提出了基于遞 歸廣義特征分解的盲源分離方法用以改善算法的收斂速度和跟蹤性能，該文中分 別推導(dǎo)了基于非白、非高斯和非平穩(wěn)源信號的遞歸算法，仿真實驗表明所提遞歸 算法具有快速和穩(wěn)定的收斂性能，且給出了混合矩陣慢變、源信號是語音信號的 實驗，但在該例中所用語音信號的樣本太少( 樣本數(shù)為2 0 0 0 ) ，無法真正體現(xiàn)的語 音信號的非平穩(wěn)特性。該文也給出了信道慢變、源信號為b p s k 信號的實驗。 在實際應(yīng)用上需要考慮混合矩陣突變的情形，混合矩陣發(fā)生突變時通常要求 算法具有較快的跟蹤性能。顯然利用步長因子為常數(shù)的隨機梯度的算法不適用于 跟蹤突變的環(huán)境，這是因為當(dāng)步長因子太小時，算法的收斂速度太慢，而當(dāng)步長 因子太大時，失調(diào)太大可能會導(dǎo)致算法發(fā)散。而利用時變步長因子的在線算法來 跟蹤時變的環(huán)境通常能在快速收斂的同時得到更為精確的穩(wěn)態(tài)性能。d o u g l a s 等人 l 刪回顧了幾種自適應(yīng)步長選擇方法，重點介紹了梯度自適應(yīng)步長選擇算法。t h o m a s 等人1 6 l j 給出了一種自調(diào)節(jié)步長選擇算法，大大加快了收斂速度，跟蹤能力也有很 大提高。c h a m b e r s 等人【6 2 】運用了一種梯度自適應(yīng)步長因子的e s a i 算法，將輸入 信號動態(tài)變化時的算法性能和混合矩陣的變化聯(lián)系在一起。y u a n 等人 6 3 j 提出了變 步長符號自然梯度算法，用于獨立信號的在線盲分離，該算法的符號操作是通過 推導(dǎo)歸一化動態(tài)分離模型得到的。類似地，利用常數(shù)遺忘因子的遞歸盲源分離算 法也不適用于跟蹤突變的環(huán)境，這是因為當(dāng)遺忘因子很接近于1 時，算法的收斂 速度太慢，而當(dāng)遺忘因子太小時，失調(diào)太大可能會導(dǎo)致算法發(fā)散。而利用時變遺 忘因子的遞歸算法來跟蹤時變的環(huán)境通常能在快速收斂的同時得到更為精確的穩(wěn) 態(tài)性能。對于混合矩陣突變的情況，滑窗遞歸最小二乘算法比指數(shù)加權(quán)窗有好的 跟蹤性能畔j ，基于p a p a o d y s s e u s 矩陣求逆引理【6 引，利用觀測數(shù)據(jù)通過滑窗加權(quán)求 和的方式構(gòu)造類似文獻 5 9 】的遞歸算法，但是這種方法需要根據(jù)實際情況選擇滑窗 的長度，滑窗太長則穩(wěn)態(tài)性能較好而收斂速度較慢，滑窗較短可提高收斂速度但 穩(wěn)態(tài)性能較差，滑窗太短則易導(dǎo)致算法發(fā)散。 已有研究大多假設(shè)源信號個數(shù)是預(yù)先知道的，從而采用的分離矩陣行數(shù)等于 信源個數(shù)，而實際中源信號的個數(shù)往往是未知的，甚至是隨實際環(huán)境動態(tài)變化的， 欠定盲信號分離只能成功分離部分源信號 6 6 - 6 7 1 ，因此通常研究超定和適定情況下 信源數(shù)目未知的盲源分離問題。c h i c h o c k i 等人【6 8 】將適定盲源分離的自然梯度算法 直接推廣到源信號個數(shù)未知的超定盲源分離的新分離模型中，算法的輸出信號中 會有冗余信號，需要利用輸出信號之間的相關(guān)性，檢測并去除冗余輸出同時確定 西安電子科技大學(xué)博士論文 第一章緒論 5 源信號個數(shù)。y e 等人 6 9 - 7 0 研究了源信號數(shù)目未知與動態(tài)變化時的超定盲源分離可 分離性及對比函數(shù)問題，推導(dǎo)了信源數(shù)目未知的盲源分離的自然梯度算法。l v 等 人【7 l j 則給出了一種數(shù)目未知的稀疏信源的統(tǒng)一的盲源分離方法。 隨著盲源分離技術(shù)應(yīng)用范圍的不斷拓展及相應(yīng)限制性條件的逐步放寬，不同 的學(xué)者們提出了大量適用于特定環(huán)境的盲源分離算法，如基于非負(fù)矩陣分解和稀 疏分量分析的欠定盲源分離算法【7 2 。習(xí)，在非線性混合情況下的盲源分離算法【7 4 1 等， 這里不再一一贅述。 盲信號處理理論經(jīng)過二十多年發(fā)展，無論在研究方向或應(yīng)用領(lǐng)域都在不斷擴 張，除了上述已提及的部分國內(nèi)學(xué)者的研究成果，其他國內(nèi)學(xué)者也在瞬時混合盲 信號處理理論和應(yīng)用技術(shù)的各個方面都取得了重大進展【7 5 硼。凌燮亭等人【7 5 7 6 1 針 對無線通信應(yīng)用較早開展了盲源分離的研究。何振亞、劉琚和楊綠溪等人r 7 7 。8 1 】基 于特征分析和高階譜的盲源分離，提出了一系列基于高階統(tǒng)計量和信息理論的判 據(jù)和算法，進一步研究了基于獨立分量分析的數(shù)字水印技術(shù)。胡光銳等人i s 2 】研究 了基于統(tǒng)計獨立的盲語音分離問題，并提出了基于混合高斯模型概率密度估計的 語音分離方法。馬遠(yuǎn)良等人【8 粥6 j 提出了水聲信號的盲分離的實數(shù)和復(fù)數(shù)算法和性： 能評價準(zhǔn)則，并提出了欠定情況下高階累積量的復(fù)數(shù)混合矩陣盲估計算法。謝勝j 利等人【9 7 - 8 9 研究了盲源分離幾何方法，盲信號分離的多路回波消除結(jié)構(gòu)及稀疏分 量分析。邱天爽等人即】研究了基于分?jǐn)?shù)低階矩的脈沖信號的盲分離，并應(yīng)用于水 聲和語音信號處理。殷福亮等人1 9 l 】研究了基于去相關(guān)和非平穩(wěn)性的盲源分離方法。 陳天平等人睇】研究了白化過程的動態(tài)行為和自然梯度算法的局部穩(wěn)定性。王君等 人 9 3 - 9 4 1 研究高階統(tǒng)計量、徑向基函數(shù)和遺傳算法實現(xiàn)了非線性盲源分離，并提出 了有交叉項抑制的時頻分布基盲源分離技術(shù)。張麗清等人1 9 5 j 研究有激活函數(shù)適應(yīng) 的自然梯度基盲源分離方法。張賢達等人 2 9 - 3 0 , 4 7 , 7 ”1 ，9 6 - 9 9 對盲源分離進行了系統(tǒng)深 入的研究，提出了基于遞歸最小二乘的盲源分離方法，信源數(shù)目未知和動態(tài)變化 時的盲信號分離，學(xué)習(xí)率的自適應(yīng)確定的分階段方法與模糊集方法和基于二階統(tǒng) 計量的連續(xù)盲提取方法等。馮大政等人【1 咿1 0 1 】研究了改進白化技術(shù)，利用矩陣的雙 正交性提出了一種信號盲分離問題的多階段分解算法及矩陣組穩(wěn)健代數(shù)方法從陣 列信號中提取統(tǒng)計獨立信號。此外，還有許多學(xué)者在瞬時混合盲源分離領(lǐng)域收獲 了卓著的成果，這里不一一贅述。 1 3 卷積混合盲源分離研究發(fā)展與現(xiàn)狀 同瞬時混合模型相比，卷積混合是更接近真實狀況的一種模型，對于解決實 際問題具有極為重要的意義，例如，通信系統(tǒng)中的串?dāng)_問題，電話、電視會議系 統(tǒng)中的回波對消問題，都可以看成是卷積混合信號的盲分離問題，因而卷積混合 雷達信號處理國家重點實驗室 6 非平穩(wěn)環(huán)境中的盲源分離算法研究 的盲源分離問題在近幾年來受到越來越多的關(guān)注。并且隨著計算機的運算速度越 來越快，該項技術(shù)可以廣泛的應(yīng)用在語音信號處理、圖像信號處理、通訊信號處 理、水聲信號處理以及醫(yī)學(xué)信號的檢測、數(shù)據(jù)挖掘等領(lǐng)域，有著廣泛的應(yīng)用前景。 目前很多卷積混合信號的盲分離算法是瞬時混合信號盲分離算法在卷積混合情況 下的推廣。而且這種推廣既可以在時域內(nèi)進行，又可以在頻域內(nèi)進行。因此卷積 混合信號盲分離算法可以分為時域與頻域算法兩大類。 時域方法是較早提出的一類針對卷積混合信號盲分離的方法，可分為基于二 階統(tǒng)計量、高階統(tǒng)計量和信息論等的算法?；诙A統(tǒng)計量的算法有w e i n s t e i n 算 法【1 0 2 1 、g e r v e n 算法 1 嘲及k a w a m o t o 等人【1 0 4 1 基于源信號非平穩(wěn)性的瞬時混合信號 盲分離算法推廣到卷積混合信號的盲分離算法，以及b o u s b i a 等人【1 0 5 】把s o b i 算 法推廣得到的相關(guān)矩陣聯(lián)合塊狀對角化算法等，基于二階統(tǒng)計量算法的優(yōu)點在于， 只需要比較少的數(shù)據(jù)量就能獲得較好的估計性能?；诟唠A統(tǒng)計量的算法有y e l l i n 算法【1 0 6 l 、 推廣的e a s i 算法【1 0 7 1 等，這類算法不僅能夠提供系統(tǒng)的相位信息，而 且可以有效地抑制高斯噪聲?；谛畔⒄摰乃惴ㄓ衏 h o i 等人【l 】的動態(tài)遞歸神經(jīng)網(wǎng) 絡(luò)算法及d o u g l a s 等人 1 0 9 j 的自然梯度算法等。由于時域方法