學(xué)習(xí)向量量化神經(jīng)網(wǎng)絡(luò)模型與學(xué)習(xí)算法第1頁，共15頁，2023年，2月20日，星期六2.7.1LVQ神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)向量量化LVQ(LearningVectorQuantization)神經(jīng)網(wǎng)絡(luò)，屬于前向有監(jiān)督神經(jīng)網(wǎng)絡(luò)類型，在模式識別和優(yōu)化領(lǐng)域有著廣泛的的應(yīng)用由芬蘭學(xué)者TeuvoKohonen提出LVQ神經(jīng)網(wǎng)絡(luò)由輸入層、隱含層和輸出層三層組成，輸入層與隱含層間為完全連接，每個輸出層神經(jīng)元與隱含層神經(jīng)元的不同組相連接。隱含層和輸出層神經(jīng)元之間的連接權(quán)值固定為１。在網(wǎng)絡(luò)訓(xùn)練過程中，輸入層和隱含層神經(jīng)元間的權(quán)值被修改。當(dāng)某個輸入模式被送至網(wǎng)絡(luò)時，最接近輸入模式的隱含神經(jīng)元因獲得激發(fā)而贏得競爭，因而允許它產(chǎn)生一個＂１＂，而其他隱含層神經(jīng)元都被迫產(chǎn)生＂０＂。與包含獲勝神經(jīng)元的隱含層神經(jīng)元組相連接的輸出神經(jīng)元也發(fā)出＂１＂，而其他輸出神經(jīng)元均發(fā)出＂０＂。第2頁，共15頁，2023年，2月20日，星期六2.7.1LVQ神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)第3頁，共15頁，2023年，2月20日，星期六LVQ1算法具體步驟如下：（1）網(wǎng)絡(luò)初始化用較小的隨機數(shù)設(shè)定輸人層和隱含層之間的權(quán)值初始值。（2）輸入向量的輸入將輸人向量送入到輸入層。（3）計算隱含層權(quán)值向量與輸入向量的距離隱含層神經(jīng)元和輸入向量的距離，與自組織化映射的情況相同，由下式給出：2.7.2LVQ神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法

第4頁，共15頁，2023年，2月20日，星期六2.7.2LVQ神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法

（4）選擇與權(quán)值向量的距離最小的神經(jīng)元計算并選擇輸入向量和權(quán)值向量的距離最小的神經(jīng)元，并把其稱為勝出神經(jīng)元，記為。（5）更新連接權(quán)值如果勝出神經(jīng)元和預(yù)先指定的分類一致，稱為正確分類，否則稱為不正確分類。正確分類和不正確分類時權(quán)值的調(diào)整量分別使用公式2-3、2-4：（6）判斷是否滿足預(yù)先設(shè)定的最大迭代次數(shù)，滿足時算法結(jié)束，否則返回2，進入下一輪學(xué)習(xí)。（2-4）

（2-3）

第5頁，共15頁，2023年，2月20日，星期六2.7.2LVQ神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法LVQ2算法（1）~（4）與LVQl算法相同(5)更新連接權(quán)值如果勝出神經(jīng)元1屬于正確分類時，則權(quán)值更新與LVQ1的情況相同，根據(jù)式（2-3）進行權(quán)值的更新。當(dāng)勝出神經(jīng)元1屬于不正確分類時，則另選取一個神經(jīng)元2，它的權(quán)值向量和輸入向量的距離僅比勝出神經(jīng)元1大一點，且滿足以下條件時時：1）神經(jīng)元2屬于正確分類；2）神經(jīng)元2、勝出神經(jīng)元1與輸入向量之間的距離的差值很小。則勝出神經(jīng)元1的權(quán)值改變量按公式2-3計算，而神經(jīng)元2的權(quán)值改變量則按公式（2-3）進行計算。（6）判斷算法是否結(jié)束如果迭代次數(shù)大于預(yù)先設(shè)定的次數(shù)，算法結(jié)束，否則返回第（2）步，進入下一輪學(xué)習(xí)第6頁，共15頁，2023年，2月20日，星期六2.7.3LVQ神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的MATLAB實現(xiàn)

MATLAB中與LVQ相關(guān)的重要函數(shù)和功能

函數(shù)名功能newlvq()建立一個LVQ神經(jīng)網(wǎng)絡(luò)函數(shù)learnlv1()LVQ1權(quán)值學(xué)習(xí)函數(shù)vec2ind()將單值矢量組變換成下標(biāo)矢量plotvec()用不同的顏色畫矢量函數(shù)第7頁，共15頁，2023年，2月20日，星期六2.7.3LVQ神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的MATLAB實現(xiàn)newlvq()功能建立一個向量量化神經(jīng)網(wǎng)絡(luò)函數(shù)格式(1)net=newlvq(2)net=newlvq(PR，S1，PC，LR，LF)說明式(1)返回一個沒有定義結(jié)構(gòu)的空對象，并顯示函數(shù)nntool的幫助文字；式(2)中，net為生成的學(xué)習(xí)向量量化網(wǎng)絡(luò)；PR為一個Rx2維的網(wǎng)絡(luò)輸入向量取值范圍的矩陣[PminPmax]；Sl表示隱含層神經(jīng)元的數(shù)目；PC表示在第二層的權(quán)值中列所屬類別的百分比；LR表示學(xué)習(xí)速率，默認(rèn)值為0.01；Lf表示學(xué)習(xí)函數(shù)，默認(rèn)值為learnlv1。第8頁，共15頁，2023年，2月20日，星期六2.7.3LVQ神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的MATLAB實現(xiàn)ind2vec()功能將下標(biāo)矢量變換成單值矢量組函數(shù)格式vec=ind2vec(ind)說明ind為包含n個下標(biāo)的行向量x；vec為m行n列的向量組矩陣，矩陣中的每個向量i，除了由x中的第i個元素指定的位置為l外，其余元素均為0，矩陣的行數(shù)m等于x中最大的下標(biāo)值。C=[1112222111]

(1,1)1(1,2)1(1,3)1(2,4)1(2,5)1(2,6)1(2,7)1(1,8)1(1,9)1(1,10)111100001110001111000第9頁，共15頁，2023年，2月20日，星期六2.7.3LVQ神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的MATLAB實現(xiàn)learnlv1()功能LVQ1權(quán)值學(xué)習(xí)函數(shù)格式[dW，LS]=learnlv1(W，P，Z，N，A，T，E，gW，gA，D，LP，LS)說明dW為S*R權(quán)值（或閾值）變化矩陣；LS為當(dāng)前學(xué)習(xí)狀態(tài)(可省略)；W為S*R的權(quán)值矩陣或者為S*1的閾值矢量；P為R*Q的輸入矢量或者為1*Q的全為1的矢量；Z為S*Q的輸入層的權(quán)值矢量(可省略)；N為S*Q的網(wǎng)絡(luò)輸入矢量(可省略)；A為S*Q的輸出矢量；T為S*Q的目標(biāo)輸出矢量(可省略)；E為S*Q誤差矢量(可省略)；gW為S*R的與性能相關(guān)的權(quán)重梯度矩陣(可省略)；gA為S*Q的與性能相關(guān)的輸出梯度值矩陣(可省略)；D為S*S的神經(jīng)元距離矩陣(可省略)；LP為學(xué)習(xí)參數(shù)，該函數(shù)的學(xué)習(xí)參數(shù)由LP.lr構(gòu)成，缺省值為0.01；LS為學(xué)習(xí)函數(shù)聲明(可省略)。第10頁，共15頁，2023年，2月20日，星期六2.7.3LVQ神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的MATLAB實現(xiàn)plotvec()功能用不同顏色繪制矢量的函數(shù)格式plotvec(X，C，M)說明X為一個列矢量矩陣；C為標(biāo)記顏色坐標(biāo)的行矢量；M為指定繪圖時矢量的標(biāo)記符號，缺省值為‘+’

第11頁，共15頁，2023年，2月20日，星期六2.7.3LVQ神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的MATLAB實現(xiàn)例2-6針對一組輸入向量，設(shè)計一個LVQ神經(jīng)網(wǎng)絡(luò)，經(jīng)過訓(xùn)練后，能對給定數(shù)據(jù)進行模式識別。

第12頁，共15頁，2023年，2月20日，星期六例2-6運行結(jié)果測試數(shù)據(jù)分類結(jié)果第13頁，共15頁，2023年，2月20日，星期六2.7.3LVQ神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的MATLAB實現(xiàn)例2-6