非負(fù)低秩親和度圖的構(gòu)建

1非負(fù)局部約束低秩子空間算法在過去幾十年中，他研究了子空間。譜聚類算法的關(guān)鍵步驟在于構(gòu)建親和度圖。構(gòu)建親和度圖的方案分為基于局部距離和基于全局線性表示兩種?；诰植烤嚯x的方法利用成對(duì)點(diǎn)之間的歐氏距離建立親和度圖,如拉普拉斯特征圖稀疏子空間聚類算法與基于稀疏方法相比,基于低秩的方法旨在找到所有數(shù)據(jù)的最低秩表示,即rank(Z),s.t.X=XZ。此方法更適合追求數(shù)據(jù)空間的全局和內(nèi)在信息。然而,低秩表示算法不能利用數(shù)據(jù)之間局部線性結(jié)構(gòu),這將導(dǎo)致構(gòu)造的親和度矩陣通常是密集的,并且低秩表示中的負(fù)值在構(gòu)建親和度矩陣上沒有任何意義。為了兼顧數(shù)據(jù)的全局和局部結(jié)構(gòu),本文提出了非負(fù)局部約束低秩子空間算法,該算法在低秩表示的基礎(chǔ)上,將數(shù)據(jù)的局部稀疏結(jié)構(gòu)作為約束集成到統(tǒng)一公式中。此外,原始數(shù)據(jù)作為字典不具有代表性,基于學(xué)習(xí)的字典對(duì)噪聲有良好的魯棒性。考慮到最終結(jié)果的準(zhǔn)確性,在預(yù)處理數(shù)據(jù)時(shí),采用Wei2相關(guān)工作2.1子空間的集合令X=[x其中第i個(gè)塊Z2.2低秩表示算法低秩表示算法旨在探索多個(gè)子空間結(jié)構(gòu),從而找到一組數(shù)據(jù)向量的最低秩表示。對(duì)于無噪聲的情況,低秩表示算法將數(shù)據(jù)本身作為字典,并尋找最低秩表示矩陣Z:由于秩函數(shù)不是凸的難以求得最優(yōu)值,式(2)最優(yōu)化問題可以放寬到以下凸優(yōu)化問題:其中||?||對(duì)于存在噪聲的情況,低秩表示算法通過向目標(biāo)函數(shù)(3)添加列和范數(shù)項(xiàng)處理噪聲數(shù)據(jù),使得噪聲稀疏:雖然實(shí)驗(yàn)結(jié)果表明直觀地,該模型消除了大部分噪聲,并采用干凈數(shù)據(jù)作為字典,當(dāng)數(shù)據(jù)本身嚴(yán)重?fù)p壞時(shí),最終的聚類效果比低秩表示算法有明顯提升。3正則項(xiàng)參數(shù)平衡稀疏與低秩約束及法典更新在2.1節(jié)中,說明了對(duì)于塊對(duì)角矩陣Z如果字典是過于完備的(比如用數(shù)據(jù)本身作為字典)可以有無窮多個(gè)可行解,為了解決這個(gè)問題,對(duì)所求的表示矩陣Z加入稀疏與低秩約束:式(6)中β>0是正則項(xiàng)參數(shù)平衡稀疏性與低秩性,表示矩陣Z的每一列z其中||?||同時(shí),也要考慮到噪聲的影響,加入噪聲項(xiàng)E的同時(shí),對(duì)字典進(jìn)行更新:典D根據(jù)2.2節(jié)Wei該模型具體來說,每個(gè)數(shù)據(jù)點(diǎn)由其他數(shù)據(jù)點(diǎn)的線性組合得到,表示矩陣Z是非負(fù)且稀疏的3.2交替方向乘子法對(duì)于式(8),雖然在求解過程時(shí)固定其他變量求解單一變量可以確保函數(shù)為凸函數(shù),但計(jì)算量仍非常巨大。因此在確定字典時(shí),基于Wei根據(jù)引理1可以將式(8)近似地轉(zhuǎn)化為如下兩式:式(9)用核范數(shù)近似替代秩函數(shù)(rank),利用增廣拉格朗日方法去除約束條件后,借由Lin具體迭代求解流程見算法1,其中Θ對(duì)于式(10),交替方向乘子法(ADM)在求解時(shí)需要引入兩個(gè)輔助變量,每個(gè)變量迭代都需要龐大的矩陣計(jì)算。因此,采用線性交替方向自適應(yīng)法(LADMAP)首先,引入輔助變量H使目標(biāo)函數(shù)變量可分離:式(12)的增廣拉格朗日方程為:為后續(xù)計(jì)算簡(jiǎn)便,式(13)化簡(jiǎn)為:線性交替方向自適應(yīng)法(LADMAP)通過求解單一變量時(shí),固定其他變量為最小值來交替更新變量Z、H和E,其中二次項(xiàng)其中?為關(guān)于Z的偏微分操作,Θ、S、Ω分別是奇異值閾值操作、收縮閾值操作、l完整迭代算法流程見算法2。3.3親水矩陣的建立得到表示系數(shù)矩陣Z3.4非負(fù)局部限制低質(zhì)子空間算法定義親和度矩陣W后,剩下工作為構(gòu)建親和度圖,圖中的每個(gè)頂點(diǎn)對(duì)應(yīng)著每個(gè)數(shù)據(jù)點(diǎn)x4視覺任務(wù)性能本章將評(píng)估非負(fù)局部約束低秩子空間算法(NLRSI)對(duì)合成數(shù)據(jù)和實(shí)際計(jì)算機(jī)視覺任務(wù)(運(yùn)動(dòng)分割和手寫數(shù)字聚類)的性能。為了直觀表達(dá)效果,將與基于譜聚類的最先進(jìn)的子空間聚類算法,如稀疏子空間算法(SSC)對(duì)于比較的算法,采用引用文獻(xiàn)中的參數(shù)作為輸入?yún)?shù),其中對(duì)于Hopkins155運(yùn)動(dòng)分割數(shù)據(jù)庫(kù)4.1局部約束低秩算法當(dāng)p=0與p=0.3時(shí),圖2與圖3顯示了親和度矩陣W或者表示系數(shù)矩陣Z通過圖2與圖3的對(duì)比可以看出,非負(fù)低秩稀疏表示算法(NNLRSR)與非負(fù)局部約束低秩算法(NLRSI)對(duì)噪聲的魯棒性能較好,這表明通過局部約束強(qiáng)制更改矩陣結(jié)構(gòu)可以消除大量無關(guān)噪聲,使得聚類效果提升,這也在圖1的準(zhǔn)確率變化趨勢(shì)圖中有所體現(xiàn)。4.2hopcs1-pcr聚類誤差運(yùn)動(dòng)分割是指從視頻序列中提取一組二維點(diǎn)軌跡,將軌跡對(duì)應(yīng)于不同的剛體運(yùn)動(dòng)。這里,數(shù)據(jù)矩陣X的尺寸為2F×N,其中N是二維軌跡的數(shù)量,F是視頻中的幀數(shù)。在仿射投影模型下,n個(gè)不同運(yùn)動(dòng)對(duì)象相關(guān)聯(lián)的二維軌跡位于n個(gè)仿射子空間的組成的R本部分采用Hopkins155數(shù)據(jù)庫(kù)表1顯示了Hopkins155數(shù)據(jù)庫(kù)中155個(gè)序列聚類誤差,圖5與圖6展示了155個(gè)序列應(yīng)用非負(fù)局部約束低秩子空間算法(NLRSI)各自的聚類誤差,明顯的,二物體比三物體聚類誤差更小。同時(shí)從表1中的數(shù)據(jù)可以看出NLRSI算法的聚類誤差比其他算法誤差小,雖然低秩表示算法(LRR)的中位值更低,但是從平均值結(jié)果來看,低秩表示算法對(duì)于某些序列的聚類效果不穩(wěn)定,導(dǎo)致了誤差過大,拉高了平均值。4.3寫數(shù)字手寫數(shù)字聚類是指由不同人筆跡構(gòu)成的一組數(shù)字圖像,將數(shù)字相同的圖像分離出。這里采用美國(guó)郵政手5聚類算法的比較本文提出了非負(fù)局部約束低秩子空間算法(NLRSI),該算法利用數(shù)據(jù)的局部稀疏結(jié)構(gòu)和子空間的全局低秩特征,構(gòu)造體現(xiàn)數(shù)據(jù)向量之間特點(diǎn)的親和度矩陣。理論分析保證了算法獲得的最優(yōu)親和度矩陣具有良好的聚類效果。同時(shí)實(shí)驗(yàn)結(jié)果表明,非負(fù)局部約束低秩子空間算法在運(yùn)動(dòng)分割和手寫數(shù)字聚類任務(wù)中,優(yōu)于現(xiàn)存的幾種最先進(jìn)的聚類算法。但是該算法也