1、BP網(wǎng)絡(luò)模式識(shí)別,韓紅彩 2010年9月17日,一、 基本原理二、主要特點(diǎn)三、學(xué)習(xí)算法四、仿真實(shí)例,一、基本原理 在神經(jīng)網(wǎng)絡(luò)模式識(shí)別中，根據(jù)標(biāo)準(zhǔn)的輸入輸出模式對(duì)，采用神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法，以標(biāo)準(zhǔn)的模式作為學(xué)習(xí)樣本進(jìn)行訓(xùn)練，通過學(xué)習(xí)調(diào)整神經(jīng)網(wǎng)絡(luò)的連接權(quán)值。當(dāng)訓(xùn)練滿足要求后，得到的神經(jīng)網(wǎng)絡(luò)權(quán)值構(gòu)成了模式識(shí)別的知識(shí)庫，利用神經(jīng)網(wǎng)絡(luò)并行推理算法便可對(duì)所需要的輸入模式進(jìn)行識(shí)別。,二、主要特點(diǎn) 神經(jīng)網(wǎng)絡(luò)模式識(shí)別具有較強(qiáng)的魯棒性。 1.當(dāng)待識(shí)別的輸入模式與訓(xùn)練樣本中的某個(gè)輸入模式相同時(shí)，神經(jīng)網(wǎng)絡(luò)識(shí)別的結(jié)果就是與訓(xùn)練樣本中相對(duì)應(yīng)的輸出模式。 2.當(dāng)待識(shí)別的輸入模式與訓(xùn)練樣本中所有輸入模式都不完全相同時(shí)，則可得到與

2、其相近樣本相對(duì)應(yīng)的輸出模式。 3當(dāng)待識(shí)別的輸入模式與訓(xùn)練樣本中所有輸入模式相差較遠(yuǎn)時(shí)，就得不到正確的識(shí)別結(jié)果，此時(shí)可將這一模式作為新的樣本進(jìn)行訓(xùn)練，使神經(jīng)網(wǎng)絡(luò)獲取新的知識(shí)，并存儲(chǔ)到網(wǎng)絡(luò)的權(quán)值矩陣中，從而增強(qiáng)網(wǎng)絡(luò)的識(shí)別能力。,三、學(xué)習(xí)算法 BP網(wǎng)絡(luò)的訓(xùn)練規(guī)則：正向傳播是輸入信號(hào)從輸入層經(jīng)隱層傳向輸出層，若輸出層得到了期望的輸出，則學(xué)習(xí)算法結(jié)束；否則，轉(zhuǎn)至反向傳播。用于樣本訓(xùn)練的BP網(wǎng)絡(luò)結(jié)構(gòu)圖如圖1所示。,wij wjl . . . . . . . . . . . . . l xl xi i x j xjo j 輸入層節(jié)點(diǎn) 隱層節(jié)點(diǎn) 輸出層節(jié)點(diǎn) 圖1 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),1.前向傳播：計(jì)算網(wǎng)絡(luò)的輸出

3、 （1）求隱層神經(jīng)元的輸入 Xj=wijxi （2）求隱層神經(jīng)元輸出（采用S型函數(shù)） Xjo=f(xj)=1/(1+exp(-xj) （3）求輸出層神經(jīng)元輸出 Xl=wjlxjo （4）求輸出誤差 el=xlo-xl （5）求第p個(gè)樣本的誤差性能指標(biāo)函數(shù) Ep=0.5el2,2.反向傳播：采用梯度下降法，調(diào)整各層間的權(quán)值。 （1）輸出層與隱層的連接權(quán)值wjl學(xué)習(xí)算法 wjl=-elxjo 式中，為學(xué)習(xí)速率，0,1。 （2）k+1時(shí)刻網(wǎng)絡(luò)權(quán)值為 wjl(k+1)=wjl(k)+ wjl （3）隱層與輸入層連接權(quán)值wij學(xué)習(xí)算法 wij=elwjlxjo(1-xjo)xi （4） k+1時(shí)刻網(wǎng)絡(luò)權(quán)值為 wij(k+1)=wij(k)+ wij （5）考慮上次權(quán)值對(duì)本次權(quán)值變化的影響，需要加入動(dòng) 量因子，此時(shí)權(quán)值為 wjl(k+1)=wjl(k)+ wjl+（wjl(k)- wjl(k-1)） wjl(k+1)=wjl(k)+ wjl+（wij(k)- wij(k-1)）,四、仿真實(shí)例 例：取標(biāo)準(zhǔn)樣本為三輸入兩輸出樣本，見表1。BP網(wǎng)絡(luò)結(jié)構(gòu)為3-6-2，權(quán)值初始值取-1,1之間的隨機(jī)數(shù)，學(xué)習(xí)參數(shù)取=0.50，=0.05 表1 訓(xùn)練樣本,編程調(diào)試后，網(wǎng)絡(luò)訓(xùn)練指標(biāo)的變化、測(cè)試樣本及結(jié)果分