版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)
文檔簡介
競爭學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)自組織神經(jīng)網(wǎng)絡(luò)的典型結(jié)構(gòu)*1競爭學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)自組織神經(jīng)網(wǎng)絡(luò)的典型結(jié)構(gòu)*1自組織神經(jīng)網(wǎng)絡(luò)*2自組織學(xué)習(xí)(self-organizedlearning):通過自動尋找樣本中的內(nèi)在規(guī)律和本質(zhì)屬性,自組織、自適應(yīng)地改變網(wǎng)絡(luò)參數(shù)與結(jié)構(gòu)。自組織網(wǎng)絡(luò)的自組織功能是通過競爭學(xué)習(xí)(competitivelearning)實現(xiàn)的。自組織神經(jīng)網(wǎng)絡(luò)*2自組織學(xué)習(xí)(self-organized1競爭學(xué)習(xí)的概念與原理1.1基本概念分類——分類是在類別知識等導(dǎo)師信號的指導(dǎo)下,將待識別的輸入模式分配到各自的模式類中去。聚類——無導(dǎo)師指導(dǎo)的分類稱為聚類,聚類的目的是將相似的模式樣本劃歸一類,而將不相似的分離開。*31競爭學(xué)習(xí)的概念與原理1.1基本概念*3
相似性測量_歐式距離法*41.1基本概念同一類內(nèi)各個模式向量間的歐式距離不允許超過某一最大值T相似性測量_歐式距離法*41.1基本概念同一類內(nèi)各個模式*5
相似性測量_余弦法1.1基本概念余弦法適合模式向量相同或模式特征只與向量方向相關(guān)的相似性測量同一類內(nèi)各個模式向量間的夾角不允許超過某一最大夾角ψT*5相似性測量_余弦法1.1基本概念余弦法適合模式向量相*61.2競爭學(xué)習(xí)原理競爭學(xué)習(xí)規(guī)則——Winner-Take-All
網(wǎng)絡(luò)的輸出神經(jīng)元之間相互競爭以求被激活或點火,結(jié)果在每一時刻只有一個輸出神經(jīng)元被激活或點火。這個被激活的神經(jīng)元稱為競爭獲勝神經(jīng)元,而其它神經(jīng)元的狀態(tài)被抑制,故稱為WinnerTakeAll。勝者為王*61.2競爭學(xué)習(xí)原理競爭學(xué)習(xí)規(guī)則——Winner-Tak*7競爭學(xué)習(xí)規(guī)則——Winner-Take-All1.向量歸一化
首先將當(dāng)前輸入模式向量X和競爭層中各神經(jīng)元對應(yīng)的內(nèi)星向量Wj全部進行歸一化處理;(j=1,2,…,m)*7競爭學(xué)習(xí)規(guī)則——Winner-Take-All1.向量歸*8原始向量*8原始向量*9歸一化后的向量*9歸一化后的向量*10競爭學(xué)習(xí)原理競爭學(xué)習(xí)規(guī)則——Winner-Take-All2.尋找獲勝神經(jīng)元
當(dāng)網(wǎng)絡(luò)得到一個輸入模式向量時,競爭層的所有神經(jīng)元對應(yīng)的內(nèi)星權(quán)向量均與其進行相似性比較,并將最相似的內(nèi)星權(quán)向量判為競爭獲勝神經(jīng)元。*10競爭學(xué)習(xí)原理競爭學(xué)習(xí)規(guī)則——Winner-Take-A*11
從上式可以看出,欲使兩單位向量的歐式距離最小,須使兩向量的點積最大。即:競爭學(xué)習(xí)規(guī)則——Winner-Take-All*11從上式可以看出,欲使兩單位向量的歐式距離最小,*12競爭學(xué)習(xí)規(guī)則——勝者為王(Winner-Take-All)3.網(wǎng)絡(luò)輸出與權(quán)值調(diào)整jj*
步驟3完成后回到步驟1繼續(xù)訓(xùn)練,直到學(xué)習(xí)率衰減到0。獲勝神經(jīng)元輸出為1,其余為0j=j*之外的j*12競爭學(xué)習(xí)規(guī)則——勝者為王(Winner-Take-Al*13競爭學(xué)習(xí)的幾何意義*13競爭學(xué)習(xí)的幾何意義*14競爭學(xué)習(xí)的幾何意義*14競爭學(xué)習(xí)的幾何意義*15例4.1用競爭學(xué)習(xí)算法將下列各模式分為2類:解:為作圖方便,將上述模式轉(zhuǎn)換成極坐標形式:競爭層設(shè)兩個權(quán)向量,隨機初始化為單位向量:上式中,X1=(x,y)T*15例4.1用競爭學(xué)習(xí)算法將下列各模式分為2類:解:*16*16*17*17*18*18*19*19*20*20*21*21*22*22*23*23*24*24*25*25*262自組織特征映射網(wǎng)
(Self-OrganizingfeatureMap)
1981年芬蘭Helsink大學(xué)的T.Kohonen教授提出一種自組織特征映射網(wǎng),簡稱SOM網(wǎng),又稱Kohonen網(wǎng)。
Kohonen認為:一個神經(jīng)網(wǎng)絡(luò)接受外界輸入模式時,將會分為不同的對應(yīng)區(qū)域,各區(qū)域?qū)斎肽J骄哂胁煌捻憫?yīng)特征,而且這個過程是自動完成的。自組織特征映射正是根據(jù)這一看法提出來的,其特點與人腦的自組織特性相類似。*262自組織特征映射網(wǎng)1981年芬蘭HelsiSOM網(wǎng)的生物學(xué)基礎(chǔ)
生物學(xué)研究的事實表明,在人腦的感覺通道上,神經(jīng)元的組織原理是有序排列。因此當(dāng)人腦通過感官接受外界的特定時空信息時,大腦皮層的特定區(qū)域興奮,而且類似的外界信息在對應(yīng)區(qū)域是連續(xù)映象的。
對于某一圖形或某一頻率的特定興奮過程,神經(jīng)元的有序排列以及對外界信息的連續(xù)映象是自組織特征映射網(wǎng)中競爭機制的生物學(xué)基礎(chǔ)。*27SOM網(wǎng)的生物學(xué)基礎(chǔ)生物學(xué)研究的事實表明,在人腦SOM網(wǎng)的拓撲結(jié)構(gòu)
SOM網(wǎng)共有兩層,輸入層模擬感知外界輸入信息的視網(wǎng)膜,輸出層模擬做出響應(yīng)的大腦皮層。*28SOM網(wǎng)的拓撲結(jié)構(gòu)SOM網(wǎng)共有兩層,輸入層模擬感SOM網(wǎng)的權(quán)值調(diào)整域
SOM網(wǎng)的獲勝神經(jīng)元對其鄰近神經(jīng)元的影響是由近及遠,由興奮逐漸轉(zhuǎn)變?yōu)橐种?,因此其學(xué)習(xí)算法中不僅獲勝神經(jīng)元本身要調(diào)整權(quán)向量,它周圍的神經(jīng)元在其影響下也要程度不同地調(diào)整權(quán)向量。這種調(diào)整可用三種函數(shù)表示:*29SOM網(wǎng)的權(quán)值調(diào)整域SOM網(wǎng)的獲勝神經(jīng)元對其鄰近*30*30SOM網(wǎng)的權(quán)值調(diào)整域
以獲勝神經(jīng)元為中心設(shè)定一個鄰域半徑,該半徑圈定的范圍稱為優(yōu)勝鄰域。在SOM網(wǎng)學(xué)習(xí)算法中,優(yōu)勝鄰域內(nèi)的所有神經(jīng)元均按其離開獲勝神經(jīng)元的距離遠近不同程度地調(diào)整權(quán)值。
優(yōu)勝鄰域開始定得很大,但其大小隨著訓(xùn)練次數(shù)的增加不斷收縮,最終收縮到半徑為零。*31SOM網(wǎng)的權(quán)值調(diào)整域以獲勝神經(jīng)元為中心設(shè)定一個鄰SOM網(wǎng)的運行原理訓(xùn)練階段*32w1w2w3
w4
w5SOM網(wǎng)的運行原理訓(xùn)練階段*32w1w2SOM網(wǎng)的運行原理工作階段*33SOM網(wǎng)的運行原理工作階段*33SOM網(wǎng)的學(xué)習(xí)算法Kohonen學(xué)習(xí)算法(1)初始化
對輸出層各權(quán)向量賦小隨機數(shù)并進行歸一化處理,得到,j=1,2,…m;建立初始優(yōu)勝鄰域Nj*(0);學(xué)習(xí)率賦初始值。(2)接受輸入從訓(xùn)練集中隨機選取一個輸入模式并進行歸一化處理,得到,p{1,2,…,P}。(3)尋找獲勝節(jié)點計算與的點積,j=1,2,…m,從中選出點積最大的獲勝節(jié)點j*。(4)定義優(yōu)勝鄰域Nj*(t)以j*為中心確定t時刻的權(quán)值調(diào)整域,一般初始鄰域Nj*(0)較大,訓(xùn)練過程中Nj*(t)隨訓(xùn)練時間逐漸收縮。*34SOM網(wǎng)的學(xué)習(xí)算法Kohonen學(xué)習(xí)算法*34SOM網(wǎng)的學(xué)習(xí)算法Kohonen學(xué)習(xí)算法*35SOM網(wǎng)的學(xué)習(xí)算法Kohonen學(xué)習(xí)算法*35SOM網(wǎng)的學(xué)習(xí)算法(5)調(diào)整權(quán)值對優(yōu)勝鄰域Nj*(t)內(nèi)的所有節(jié)點調(diào)整權(quán)值:
i=1,2,…n
jNj*(t)
式中,是訓(xùn)練時間t和鄰域內(nèi)第j個神經(jīng)元與獲勝神經(jīng)元j*之間的拓撲距離N的函數(shù),該函數(shù)一般有以下規(guī)律:*36Kohonen學(xué)習(xí)算法SOM網(wǎng)的學(xué)習(xí)算法(5)調(diào)整權(quán)值對優(yōu)勝鄰域Nj*(t)內(nèi)SOM網(wǎng)的學(xué)習(xí)算法(5)調(diào)整權(quán)值*37(6)結(jié)束檢查學(xué)習(xí)率是否衰減到零或某個預(yù)定的正小數(shù)?Kohonen學(xué)習(xí)算法SOM網(wǎng)的學(xué)習(xí)算法(5)調(diào)整權(quán)值*37(6)結(jié)束檢查學(xué)習(xí)*38Kohonen學(xué)習(xí)算法程序流程*38Kohonen學(xué)習(xí)算法程序流程SOM網(wǎng)絡(luò)的功能SOM網(wǎng)絡(luò)的功能特點之一是:保序映射,即能將輸入空間的樣本模式類有序地映射在輸出層上。例動物屬性特征映射1989年Kohonen給出一個SOM網(wǎng)的著名應(yīng)用實例,即把不同的動物按其屬性映射到二維輸出平面上,使屬性相似的動物在SOM網(wǎng)輸出平面上的位置也相近。訓(xùn)練集選了16種動物,每種動物用一個29維向量來表示。前16個分量構(gòu)成符號向量(不同的動物進行16取1編碼),后13個分量構(gòu)成屬性向量,描述動物的13種屬性的有或無(用1或0表示)。SOM網(wǎng)絡(luò)的功能SOM網(wǎng)絡(luò)的功能特點之一是:保序映射,即能16種動物的屬性向量(29維向量的后13個分量)
動物屬性鴿子母雞鴨鵝貓頭鷹隼鷹狐貍狗狼貓虎獅馬斑馬牛小1111110000100000中0000001111000000大00000000000111112只腿11111110000000004只腿0000000111111111毛0000000111111111蹄000000000000011116種動物的屬性向量(29維向量的后13個分量)動物鴿子母
動物屬性鴿子母雞鴨鵝貓頭鷹隼鷹狐貍狗狼貓虎獅馬斑馬牛鬃毛0000000000000110羽毛1111111000000000獵0000111101111000跑0000000011011110飛1001111000000000泳0011000000000000SOM網(wǎng)輸出平面上有10×10個神經(jīng)元,16個動物模式輪番輸入訓(xùn)練,最后輸出平面呈現(xiàn)16種動物屬性特征映射,屬性相似的挨在一起,實現(xiàn)了特征的有序分布。動物鴿子母雞鴨鵝貓頭鷹隼鷹狐貍狗狼貓虎獅馬斑馬牛鬃毛00010×10神經(jīng)元X向量(29維)前16個分量(16取1,表達動物種類。)后13個分量(表達動物屬性)鴨鵝鴿母雞馬斑馬牛隼狼虎獅貓狗狐貓頭鷹鷹動物屬性特征映射10×10神經(jīng)元X向量(29維)前16個分量后13個分量(表
SOM網(wǎng)的功能特點之二是數(shù)據(jù)壓縮。
將高維空間的樣本在保持拓撲結(jié)構(gòu)不變的條件下投影到低維空間。如上例中輸入樣本空間為29維,通過SOM網(wǎng)后壓縮為二維平面的數(shù)據(jù)。
SOM網(wǎng)的功能特點之三是特征抽取。(規(guī)律的發(fā)現(xiàn))
在高維模式空間,很多模式的分布具有復(fù)雜的結(jié)構(gòu),從數(shù)據(jù)觀察很難發(fā)現(xiàn)其內(nèi)在規(guī)律。當(dāng)通過SOM網(wǎng)映射到低維輸出空間后,其規(guī)律往往一目了然,實現(xiàn)某種特征抽取的映射。即高維空間的向量經(jīng)過特征抽取后可以在低維特征空間更加清晰地表達,因此映射的意義不僅僅是單純的數(shù)據(jù)壓縮,更是一種規(guī)律發(fā)現(xiàn)。如上例29維映射到二維后,相近屬性的動物實現(xiàn)了聚類分布的特點。
SOM網(wǎng)有許多應(yīng)用實例:如的聽寫打字機(聲音識別),解決旅行商最優(yōu)路經(jīng)問題,皮革外觀效果分類等。SOM網(wǎng)的功能特點之二是數(shù)據(jù)壓縮。應(yīng)用實例無線車輛自組網(wǎng)中用SOM自動組網(wǎng)*44吳怡;楊瓊;吳慶祥;沈連豐;林瀟;基于自組織映射神經(jīng)網(wǎng)絡(luò)的VANET組網(wǎng)算法,:《通信學(xué)報》2011年第12期,第136-145頁No.1sg1Group626.0763119.31126.0708119.353348.7590No.2sg2Group226.0762119.31126.0943119.313348.75348.75No.3sg3Group626.0761119.31126.0693119.359348.7590No.4sg4Group226.076119.31126.106119.292348.75348.75No.5sg5Group226.0763119.31126.1103119.32348.75348.75No.6sg6Group626.0762119.31126.063119.367348.7590No.7sg7Group226.0761119.31126.0975119.283348.75348.75No.8sg8Group226.076119.31126.0855119.245348.75348.75No.9sy1Group326.0763119.31126.0382119.309168.75168.75No.10sy2Group326.0762119.31125.7656119.293168.75168.75No.11sy3Group326.0761119.31125.8232119.522168.75168.75輸入數(shù)據(jù)輸出分組應(yīng)用實例無線車輛自組網(wǎng)中用SOM自動組網(wǎng)*44吳怡;楊瓊;吳競爭學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)自組織神經(jīng)網(wǎng)絡(luò)的典型結(jié)構(gòu)*45競爭學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)自組織神經(jīng)網(wǎng)絡(luò)的典型結(jié)構(gòu)*1自組織神經(jīng)網(wǎng)絡(luò)*46自組織學(xué)習(xí)(self-organizedlearning):通過自動尋找樣本中的內(nèi)在規(guī)律和本質(zhì)屬性,自組織、自適應(yīng)地改變網(wǎng)絡(luò)參數(shù)與結(jié)構(gòu)。自組織網(wǎng)絡(luò)的自組織功能是通過競爭學(xué)習(xí)(competitivelearning)實現(xiàn)的。自組織神經(jīng)網(wǎng)絡(luò)*2自組織學(xué)習(xí)(self-organized1競爭學(xué)習(xí)的概念與原理1.1基本概念分類——分類是在類別知識等導(dǎo)師信號的指導(dǎo)下,將待識別的輸入模式分配到各自的模式類中去。聚類——無導(dǎo)師指導(dǎo)的分類稱為聚類,聚類的目的是將相似的模式樣本劃歸一類,而將不相似的分離開。*471競爭學(xué)習(xí)的概念與原理1.1基本概念*3
相似性測量_歐式距離法*481.1基本概念同一類內(nèi)各個模式向量間的歐式距離不允許超過某一最大值T相似性測量_歐式距離法*41.1基本概念同一類內(nèi)各個模式*49
相似性測量_余弦法1.1基本概念余弦法適合模式向量相同或模式特征只與向量方向相關(guān)的相似性測量同一類內(nèi)各個模式向量間的夾角不允許超過某一最大夾角ψT*5相似性測量_余弦法1.1基本概念余弦法適合模式向量相*501.2競爭學(xué)習(xí)原理競爭學(xué)習(xí)規(guī)則——Winner-Take-All
網(wǎng)絡(luò)的輸出神經(jīng)元之間相互競爭以求被激活或點火,結(jié)果在每一時刻只有一個輸出神經(jīng)元被激活或點火。這個被激活的神經(jīng)元稱為競爭獲勝神經(jīng)元,而其它神經(jīng)元的狀態(tài)被抑制,故稱為WinnerTakeAll。勝者為王*61.2競爭學(xué)習(xí)原理競爭學(xué)習(xí)規(guī)則——Winner-Tak*51競爭學(xué)習(xí)規(guī)則——Winner-Take-All1.向量歸一化
首先將當(dāng)前輸入模式向量X和競爭層中各神經(jīng)元對應(yīng)的內(nèi)星向量Wj全部進行歸一化處理;(j=1,2,…,m)*7競爭學(xué)習(xí)規(guī)則——Winner-Take-All1.向量歸*52原始向量*8原始向量*53歸一化后的向量*9歸一化后的向量*54競爭學(xué)習(xí)原理競爭學(xué)習(xí)規(guī)則——Winner-Take-All2.尋找獲勝神經(jīng)元
當(dāng)網(wǎng)絡(luò)得到一個輸入模式向量時,競爭層的所有神經(jīng)元對應(yīng)的內(nèi)星權(quán)向量均與其進行相似性比較,并將最相似的內(nèi)星權(quán)向量判為競爭獲勝神經(jīng)元。*10競爭學(xué)習(xí)原理競爭學(xué)習(xí)規(guī)則——Winner-Take-A*55
從上式可以看出,欲使兩單位向量的歐式距離最小,須使兩向量的點積最大。即:競爭學(xué)習(xí)規(guī)則——Winner-Take-All*11從上式可以看出,欲使兩單位向量的歐式距離最小,*56競爭學(xué)習(xí)規(guī)則——勝者為王(Winner-Take-All)3.網(wǎng)絡(luò)輸出與權(quán)值調(diào)整jj*
步驟3完成后回到步驟1繼續(xù)訓(xùn)練,直到學(xué)習(xí)率衰減到0。獲勝神經(jīng)元輸出為1,其余為0j=j*之外的j*12競爭學(xué)習(xí)規(guī)則——勝者為王(Winner-Take-Al*57競爭學(xué)習(xí)的幾何意義*13競爭學(xué)習(xí)的幾何意義*58競爭學(xué)習(xí)的幾何意義*14競爭學(xué)習(xí)的幾何意義*59例4.1用競爭學(xué)習(xí)算法將下列各模式分為2類:解:為作圖方便,將上述模式轉(zhuǎn)換成極坐標形式:競爭層設(shè)兩個權(quán)向量,隨機初始化為單位向量:上式中,X1=(x,y)T*15例4.1用競爭學(xué)習(xí)算法將下列各模式分為2類:解:*60*16*61*17*62*18*63*19*64*20*65*21*66*22*67*23*68*24*69*25*702自組織特征映射網(wǎng)
(Self-OrganizingfeatureMap)
1981年芬蘭Helsink大學(xué)的T.Kohonen教授提出一種自組織特征映射網(wǎng),簡稱SOM網(wǎng),又稱Kohonen網(wǎng)。
Kohonen認為:一個神經(jīng)網(wǎng)絡(luò)接受外界輸入模式時,將會分為不同的對應(yīng)區(qū)域,各區(qū)域?qū)斎肽J骄哂胁煌捻憫?yīng)特征,而且這個過程是自動完成的。自組織特征映射正是根據(jù)這一看法提出來的,其特點與人腦的自組織特性相類似。*262自組織特征映射網(wǎng)1981年芬蘭HelsiSOM網(wǎng)的生物學(xué)基礎(chǔ)
生物學(xué)研究的事實表明,在人腦的感覺通道上,神經(jīng)元的組織原理是有序排列。因此當(dāng)人腦通過感官接受外界的特定時空信息時,大腦皮層的特定區(qū)域興奮,而且類似的外界信息在對應(yīng)區(qū)域是連續(xù)映象的。
對于某一圖形或某一頻率的特定興奮過程,神經(jīng)元的有序排列以及對外界信息的連續(xù)映象是自組織特征映射網(wǎng)中競爭機制的生物學(xué)基礎(chǔ)。*71SOM網(wǎng)的生物學(xué)基礎(chǔ)生物學(xué)研究的事實表明,在人腦SOM網(wǎng)的拓撲結(jié)構(gòu)
SOM網(wǎng)共有兩層,輸入層模擬感知外界輸入信息的視網(wǎng)膜,輸出層模擬做出響應(yīng)的大腦皮層。*72SOM網(wǎng)的拓撲結(jié)構(gòu)SOM網(wǎng)共有兩層,輸入層模擬感SOM網(wǎng)的權(quán)值調(diào)整域
SOM網(wǎng)的獲勝神經(jīng)元對其鄰近神經(jīng)元的影響是由近及遠,由興奮逐漸轉(zhuǎn)變?yōu)橐种?,因此其學(xué)習(xí)算法中不僅獲勝神經(jīng)元本身要調(diào)整權(quán)向量,它周圍的神經(jīng)元在其影響下也要程度不同地調(diào)整權(quán)向量。這種調(diào)整可用三種函數(shù)表示:*73SOM網(wǎng)的權(quán)值調(diào)整域SOM網(wǎng)的獲勝神經(jīng)元對其鄰近*74*30SOM網(wǎng)的權(quán)值調(diào)整域
以獲勝神經(jīng)元為中心設(shè)定一個鄰域半徑,該半徑圈定的范圍稱為優(yōu)勝鄰域。在SOM網(wǎng)學(xué)習(xí)算法中,優(yōu)勝鄰域內(nèi)的所有神經(jīng)元均按其離開獲勝神經(jīng)元的距離遠近不同程度地調(diào)整權(quán)值。
優(yōu)勝鄰域開始定得很大,但其大小隨著訓(xùn)練次數(shù)的增加不斷收縮,最終收縮到半徑為零。*75SOM網(wǎng)的權(quán)值調(diào)整域以獲勝神經(jīng)元為中心設(shè)定一個鄰SOM網(wǎng)的運行原理訓(xùn)練階段*76w1w2w3
w4
w5SOM網(wǎng)的運行原理訓(xùn)練階段*32w1w2SOM網(wǎng)的運行原理工作階段*77SOM網(wǎng)的運行原理工作階段*33SOM網(wǎng)的學(xué)習(xí)算法Kohonen學(xué)習(xí)算法(1)初始化
對輸出層各權(quán)向量賦小隨機數(shù)并進行歸一化處理,得到,j=1,2,…m;建立初始優(yōu)勝鄰域Nj*(0);學(xué)習(xí)率賦初始值。(2)接受輸入從訓(xùn)練集中隨機選取一個輸入模式并進行歸一化處理,得到,p{1,2,…,P}。(3)尋找獲勝節(jié)點計算與的點積,j=1,2,…m,從中選出點積最大的獲勝節(jié)點j*。(4)定義優(yōu)勝鄰域Nj*(t)以j*為中心確定t時刻的權(quán)值調(diào)整域,一般初始鄰域Nj*(0)較大,訓(xùn)練過程中Nj*(t)隨訓(xùn)練時間逐漸收縮。*78SOM網(wǎng)的學(xué)習(xí)算法Kohonen學(xué)習(xí)算法*34SOM網(wǎng)的學(xué)習(xí)算法Kohonen學(xué)習(xí)算法*79SOM網(wǎng)的學(xué)習(xí)算法Kohonen學(xué)習(xí)算法*35SOM網(wǎng)的學(xué)習(xí)算法(5)調(diào)整權(quán)值對優(yōu)勝鄰域Nj*(t)內(nèi)的所有節(jié)點調(diào)整權(quán)值:
i=1,2,…n
jNj*(t)
式中,是訓(xùn)練時間t和鄰域內(nèi)第j個神經(jīng)元與獲勝神經(jīng)元j*之間的拓撲距離N的函數(shù),該函數(shù)一般有以下規(guī)律:*80Kohonen學(xué)習(xí)算法SOM網(wǎng)的學(xué)習(xí)算法(5)調(diào)整權(quán)值對優(yōu)勝鄰域Nj*(t)內(nèi)SOM網(wǎng)的學(xué)習(xí)算法(5)調(diào)整權(quán)值*81(6)結(jié)束檢查學(xué)習(xí)率是否衰減到零或某個預(yù)定的正小數(shù)?Kohonen學(xué)習(xí)算法SOM網(wǎng)的學(xué)習(xí)算法(5)調(diào)整權(quán)值*37(6)結(jié)束檢查學(xué)習(xí)*82Kohonen學(xué)習(xí)算法程序流程*38Kohonen學(xué)習(xí)算法程序流程SOM網(wǎng)絡(luò)的功能SOM網(wǎng)絡(luò)的功能特點之一是:保序映射,即能將輸入空間的樣本模式類有序地映射在輸出層上。例動物屬性特征映射1989年Kohonen給出一個SOM網(wǎng)的著名應(yīng)用實例,即把不同的動物按其屬性映射到二維輸出平面上,使屬性相似的動物在SOM網(wǎng)輸出平面上的位置也相近。訓(xùn)練集選了16種動物,每種動物用一個29維向量來表示。前16個分量構(gòu)成符號向量(不同的動物進行16取1編碼),后13個分量構(gòu)成屬性向量,描述動物的13種屬性的有或無(用1或0表示)。SOM網(wǎng)絡(luò)的功能SOM網(wǎng)絡(luò)的功能特點之一是:保序映射,即能16種動物的屬性向量(29維向量的后13個分量)
動物屬性鴿子母雞鴨鵝貓頭鷹隼鷹狐貍狗狼貓虎獅馬斑馬牛小1111110000100000中0000001111000000大00000000000111112只腿11111110000000004只腿0000000111111111毛0000000111111111蹄000000000000011116種動物的屬性向量(29維向量的后13個分量)動物鴿子母
動物屬性鴿子母雞鴨鵝貓頭鷹隼鷹狐貍狗狼貓虎獅馬斑馬牛鬃毛0000000000000110羽毛1111111000000000獵0000111101111000跑0000000011011110飛1001111000000000泳0011000000000000SOM網(wǎng)輸出平面上有10×10個神經(jīng)元,16個動物模式輪番輸入訓(xùn)練,最后輸出平面呈現(xiàn)16種動物屬性特征映射,屬性相似的挨在一起,實現(xiàn)了特征的有序分布。動物鴿子母雞鴨鵝貓頭鷹隼鷹狐貍狗狼貓虎獅馬斑馬牛鬃毛00010×10神經(jīng)元X向量(29維)前16個分量(16取1,表達動物種類。)后13個分量(表達動物屬性)鴨鵝鴿母雞馬斑馬牛隼狼虎獅貓狗狐貓頭鷹鷹動物屬性特征映射10×10神經(jīng)元X向量(29維)前16個分量后13個分量(表
SOM網(wǎng)的功能特點之二是數(shù)據(jù)壓縮。
將高維空間的樣本在保持拓撲結(jié)構(gòu)不變的條件下投影到低維空間。如上例中輸入樣本空間為29維,通過SOM網(wǎng)后壓縮為二維平面的數(shù)據(jù)。
SOM網(wǎng)的功能特點之三是特征抽取。(規(guī)律的發(fā)現(xiàn))
在高維模式空間,很多模式的分布具有復(fù)雜的結(jié)構(gòu),從數(shù)據(jù)觀察很難發(fā)現(xiàn)其內(nèi)在規(guī)律。當(dāng)通過SOM網(wǎng)映射到低維輸出空間后,其規(guī)律往往一目了然,實現(xiàn)某種特征抽取的映射。即高維空間的向量經(jīng)過特征抽取后可以在低維特征空間更加清
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 鄭州2025年河南新密市招聘教師100人筆試歷年參考題庫附帶答案詳解
- 衡水2025年河北衡水學(xué)院選聘工作人員21人筆試歷年參考題庫附帶答案詳解
- 紹興浙江紹興博物館編外人員招聘筆試歷年參考題庫附帶答案詳解
- 湘西2025年湖南湘西州瀘溪縣招聘勞務(wù)派遣制教師72人筆試歷年參考題庫附帶答案詳解
- 海南2025年海南瓊臺師范學(xué)院附屬桂林洋幼兒園招聘員額制工作人員筆試歷年參考題庫附帶答案詳解
- 河南2025年河南省直第三人民醫(yī)院招聘30人筆試歷年參考題庫附帶答案詳解
- 杭州2025年浙江杭州市西湖區(qū)人民檢察院編外人員招聘筆試歷年參考題庫附帶答案詳解
- 撫州2025年江西撫州市東鄉(xiāng)區(qū)城區(qū)中學(xué)臨聘教師招聘100人筆試歷年參考題庫附帶答案詳解
- 廣西2025年廣西職業(yè)技術(shù)學(xué)院高層次人才招聘21人筆試歷年參考題庫附帶答案詳解
- 山東2025年山東體育學(xué)院招聘博士工作人員(第三批)筆試歷年參考題庫附帶答案詳解
- 人工智能在專業(yè)通信領(lǐng)域的應(yīng)用
- T-CI 178-2023 高大邊坡穩(wěn)定安全智能監(jiān)測預(yù)警技術(shù)規(guī)范
- THHPA 001-2024 盆底康復(fù)管理質(zhì)量評價指標體系
- 傷口的美容縫合減少瘢痕的形成
- MSOP(測量標準作業(yè)規(guī)范)測量SOP
- 顱鼻眶溝通惡性腫瘤的治療及護理
- 人教版四年級《上冊語文》期末試卷(附答案)
- 四川山體滑坡地質(zhì)勘察報告
- 青島啤酒微觀運營
- 工程結(jié)算書(設(shè)備及安裝類)
- 高樁碼頭施工組織設(shè)計-圖文
評論
0/150
提交評論