1、1 :關(guān)于BP網(wǎng)絡(luò)背面?zhèn)鞑?BP )神經(jīng)網(wǎng)絡(luò)，即學(xué)習(xí)誤差反向傳播誤差反向傳播算法的過程由信息正向傳播和誤差反向傳播兩個(gè)過程組成。 輸入層的各神經(jīng)元接收來自外部的輸入信息，并傳遞給中間層的各神經(jīng)元的中間層是內(nèi)部信息處理層，負(fù)責(zé)信息的轉(zhuǎn)換，根據(jù)信息的變化能力的需要，中間層可以設(shè)計(jì)成單隱藏層或多隱藏層結(jié)構(gòu)，最后的隱藏層傳遞給輸出層的各神經(jīng)元的信息進(jìn)一步如果實(shí)際輸出與預(yù)期輸出不匹配，則進(jìn)入誤差的反向傳播階段。 誤差通過輸出層，修正各層的權(quán)重，使誤差梯度下降，按層反轉(zhuǎn)為隱藏層、輸入層。 每周重復(fù)的信息正向傳播和誤差反向傳播的過程是各層權(quán)重不斷調(diào)整的過程，也是神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練的過程，該過程減少到網(wǎng)絡(luò)輸出

2、誤差可接受的程度，或進(jìn)行到預(yù)設(shè)的學(xué)習(xí)次數(shù)。BP網(wǎng)絡(luò)主要應(yīng)用于函數(shù)近似、模式識(shí)別和分類、數(shù)據(jù)壓縮。 BP神經(jīng)網(wǎng)絡(luò)具有很強(qiáng)的泛化性能，有使網(wǎng)絡(luò)平滑的近似函數(shù)，能合理響應(yīng)訓(xùn)練以外的輸入。同時(shí)，BP網(wǎng)絡(luò)有自己的限制和不足，主要需要很長的訓(xùn)練時(shí)間，網(wǎng)絡(luò)訓(xùn)練的結(jié)果，權(quán)重可能局部最佳，訓(xùn)練數(shù)據(jù)范圍外的數(shù)據(jù)泛化能力差。為了避免訓(xùn)練陷入局部最佳解，本程序采用改進(jìn)的BP網(wǎng)絡(luò)訓(xùn)練，加上動(dòng)量因子，網(wǎng)絡(luò)在最佳解附近有一定的振動(dòng)，脫離局部最佳范圍。在BP網(wǎng)絡(luò)訓(xùn)練中，學(xué)習(xí)速度和運(yùn)動(dòng)量因子的選擇很重要，將在后面的內(nèi)容中詳細(xì)討論。2 :訓(xùn)練的函數(shù)程序訓(xùn)練的函數(shù)是三輸入一輸出的非線性函數(shù)，如下，網(wǎng)絡(luò)結(jié)構(gòu)是3513 :程序和相關(guān)接

3、口(VB )一個(gè)主接口代碼：私有子命令1 _ click ()form2.Visible=FalseForm3.Visible=True終結(jié)子私有子命令2 _ click ()form2.Visible=FalseForm1.Visible=True終結(jié)子私有子命令3 _ click ()form2.Visible=FalseForm4.Visible=True終結(jié)子私有子命令4 _ click ()form2.Visible=FalseForm5.Visible=True終結(jié)子私有子命令5 _ click ()結(jié)束終結(jié)子私有子表單_ load ()command3.啟用=假command4.

4、啟用=false終結(jié)子2顯示網(wǎng)絡(luò)結(jié)構(gòu)代碼：私有子命令1 _ click ()Form3.Visible=Falseform2.Visible=True終結(jié)子3網(wǎng)絡(luò)訓(xùn)練代碼：私有子命令1 _ click ()Form1.Visible=Falseform2.Visible=True終結(jié)子私有子命令2 _ click ()Label2.Caption=正在培訓(xùn)示例Dim i As Integer，japassinteger，k As Integer，aspaseinteger，s As Singledim maxx (1to3) as單音，minx (1to3) as單音，meanx (1to3)

5、 as單音dimx (1to 3，1to 100 ) ass single，sumx(1 To 3) As Single，Temp As Singledim datex (1to 3，1to 100 ) ass single，輸入(1to3) as single，輸出(1to 100 ) as singledim ex (1to 100 ) as單Dim time(1 To 5000) As Integer，cishu(1 To 100) As Integerdim dv _1(1to 5，1to3) ass single，Dw_1(1 To 5) As Singledimrsalissing

6、leDim Maxd As Single，Mind As SingleDim s1(1 To 5) As Single，y1(1to 5，1to 100 ) ass single，s2 As Single，y2(1 To 100) As SingleDim deltW(1 To 100) As Single，deltv (1to 5，1to 100 ) as singleDim Dw(1 To 5) As Single，dv (1to 5，1 to3) as singledim myin (1to3) as單曲dim errorx (1to 5000 ) as單RandomizeFor i=1

7、 To 3Maxx(i)=0Minx(i)=0Meanx(i)=0下一個(gè)時(shí)間=0Maxd=0Mind=0For i=1 To 5For j=1 To 3Dv_1(i，j)=0v(i，j)=2 * Rnd - 1下一個(gè)Dw_1(i)=0w(i)=2 * Rnd - 1下一個(gè)For j=1 To 3For i=1 To 100x(j，i)=4 * (2 * Rnd - 1 )下一個(gè)sumx(j)=0下一個(gè)求財(cái)寶For j=1 To 3For i=1 To 100PS (j，i)=Maxx(j) ThenMaxx(j)=x(j，I )最終PSPK (j，I )=PS (j ) thenMinx(j)

8、=x(j，I )時(shí)間=時(shí)間x (j，I )最終PS下一個(gè)sumx(j)=Temp時(shí)間=0Meanx(j)=sumx(j)/100下一代正規(guī)化For j=1 To 3For i=1 To 100If Maxx(j) - x(j，i)=x(j，i) - Minx(j) ThenR=Maxx(j) - x(j，I )ElseR=x(j，i) - Minx(j )最終PSDatex(j，i)=(x(j，I ) -最大值(j ) )/r下一個(gè)下一代期望的輸出For i=1 To 100For j=1 To 3inputx(j)=Datex(j，I )下一代outputx (I )=2* (inputx

9、(1) sin (inputx (2) ) exp (inputx (3) )下一個(gè)輸出正規(guī)化For i=1 To 100If Maxd=outputx(i) ThenMaxd=outputx(i )最終PSIf Mind=outputx(i) ThenMind=outputx(i )最終PS下一個(gè)For i=1 To 100ex (I )=(輸出(I ) -最小)/(最大最小)下一個(gè)訓(xùn)練For s=1 To 5000 Step 1time(s)=sFor p=1 To 100cishu(p)=pFor i=1 To 3MyIn(i)=Datex(i，p )下一個(gè)For i=1 To 5For

10、 j=1 To 3Temp=Temp v(i，j) * MyIn(j )下一代s1(i)=Temp時(shí)間=0下一個(gè)For i=1 To 5y1(i，p)=1/(1 Exp(-s1(i ) ) )下一個(gè)For i=1 To 3時(shí)間=y1 (I，p ) * w (I )時(shí)間下一個(gè)S2=臨時(shí)時(shí)間=0y2(p)=1/(1 Exp(-s2) )戴爾(p )=(ex (p )-y2(p ) ) * y2(p ) * (1- y2(p ) )For i=1 To 5戴爾電視(I，p )=戴爾電視(p ) * w (I ) * y1(I，p) * (1 - y1(i，p ) )下一個(gè)下一頁誤差For i=1 T

11、o 100時(shí)間=時(shí)間(ex (I )-y2 (I ) ) 2下一個(gè)Errorx(s)=Temp時(shí)間=0調(diào)整權(quán)重For i=1 To 5Dw_1(i)=Dw(i )下一個(gè)For i=1 To 5For j=1 To 100臨時(shí)刪除(j ) * y1 (I，j )下一代Dw(i)=Temp時(shí)間=0下一個(gè)For i=1 To 5For j=1 To 3Dv_1(i，j)=Dv(i，j )下一代下一個(gè)For i=1 To 5For j=1 To 3For k=1 To 100臨時(shí)戴爾電視(I，k ) *數(shù)據(jù)(j，k )下一個(gè)Dv(i，j)=Temp時(shí)間=0下一代下一個(gè)For i=1 To 5w(i)=

12、0.2 * Dw(i) 0.2 * Dw_1(i) w(i )。下一個(gè)For i=1 To 3For j=1 To 5v(j，i)=0.2 * Dv(j，i) 0.2 * Dv_1(j，i) v(j，I )下一代下一個(gè)畫畫兒Picture1.ClsPicture1.ScaleTop=1.5Picture1.ScaleHeight=-2Picture1.ScaleLeft=-10Picture1.ScaleWidth=120picture1. line (-9，0 )-(110，0 )picture1. line (0，0 )-(0，1.5 )For i=1 To 100Picture1.PSet (cishu(i )，Ex(i ) )，RGB (128，128，0 )Picture1.PSet (cishu(i )，y2(i ) )，RGB (128，0，0