1、基于離散Hopfield神經(jīng)網(wǎng)絡(luò)的數(shù)字識別實現(xiàn)學(xué) 院：電子與控制工程學(xué)院姓 名： 學(xué) 號：2016.4基于離散Hopfield神經(jīng)網(wǎng)絡(luò)的數(shù)字識別實現(xiàn)一 離散Hopfield神經(jīng)網(wǎng)絡(luò)概述Hopfield 網(wǎng)絡(luò)作為一種全連接型的神經(jīng)網(wǎng)絡(luò)，曾經(jīng)為人工神經(jīng)網(wǎng)絡(luò)的發(fā)展開辟了新的研究途徑。它利用與階層性神經(jīng)網(wǎng)絡(luò)不同的結(jié)構(gòu)特征和學(xué)習(xí)方法，模擬生物神經(jīng)網(wǎng)絡(luò)的記憶機理，獲得了令人滿意的結(jié)果。這一網(wǎng)絡(luò)及學(xué)習(xí)算法最初是由美國物理學(xué)家J.J Hopfield 于1982 年首先提出的，故稱為Hopfield神經(jīng)網(wǎng)絡(luò)1。Hopfield 最早提出的網(wǎng)絡(luò)是二值神經(jīng)網(wǎng)絡(luò)，神經(jīng)元的輸出值只取1或-1，所以，也稱離散Hopfi

2、eld神經(jīng)網(wǎng)絡(luò)(DHNN,Discrete Hopfield Neural Network)。在離散Hopfield 網(wǎng)絡(luò)中，所采用的神經(jīng)元是二值神經(jīng)元，因此，所輸出的離散值1 和-1分別表示神經(jīng)元處于激活和抑制狀態(tài)2。DHNN是一種單層、輸出為二值的反饋網(wǎng)絡(luò)。假設(shè)有一個由三個神經(jīng)元組成的離散Hopfield神經(jīng)網(wǎng)絡(luò)，其結(jié)構(gòu)如圖1所示。圖1 離散Hopfield 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)在圖1中，第0 層僅僅作為網(wǎng)絡(luò)的輸入，它不是實際神經(jīng)元，所以無計算功能；第1 層是神經(jīng)元，執(zhí)行對輸入信息與權(quán)系數(shù)的乘積求累加和，并經(jīng)非線性函數(shù)f 處理后產(chǎn)生輸出信息。f 是一個簡單的閾值函數(shù)，如果神經(jīng)元的輸出信息大于閾值，

3、那么，神經(jīng)元的輸出取值為1；小于閾值，則神經(jīng)元的輸出取值為-1。對于二值神經(jīng)元，它的計算公式如下：式中，xj為外部輸入，并且有一個DHNN的網(wǎng)絡(luò)狀態(tài)是輸出神經(jīng)元信息的集合。對于一個輸出層是n個神經(jīng)元的網(wǎng)絡(luò)，其t時刻的狀態(tài)為一個n維變量：因為可以取值為1或-1，故n維向量Y(t)有種狀態(tài)，即網(wǎng)絡(luò)有種狀態(tài)。我們考慮DHNN 的一般節(jié)點狀態(tài)。用yj(t)表示第j 個神經(jīng)元，即節(jié)點j 在時刻t 的狀態(tài)，則節(jié)點的下一個時刻(t+1)的狀態(tài)可以求得：如果在i-j時等于0，說明一個神經(jīng)元的輸出并不會反饋到其輸入，這時，DHNN 稱為無自反饋的網(wǎng)絡(luò)。如果wij在i=j 時不等于0，說明一個神經(jīng)元的輸出會反饋到

4、其輸入端，這時，DHNN為有自反饋的網(wǎng)絡(luò)。二 基于Hopfield神經(jīng)網(wǎng)絡(luò)的數(shù)字識別根據(jù)Hopfield 神經(jīng)網(wǎng)絡(luò)相關(guān)知識，下面設(shè)計一個具有聯(lián)想記憶功能的離散型Hopfield 神經(jīng)網(wǎng)絡(luò)，要求該網(wǎng)絡(luò)可以正確識別1、2這兩個個數(shù)字，并且當(dāng)數(shù)字被一定的噪聲干擾后，仍具有較好的識別效果。2.1 設(shè)計思路假設(shè)網(wǎng)絡(luò)由1、2共2個穩(wěn)態(tài)構(gòu)成，每個穩(wěn)態(tài)用10*10 的矩陣表示。該矩陣可直觀地描述阿拉伯?dāng)?shù)字，即把矩陣規(guī)分成10*10個單元，有數(shù)字軌跡的單元用1表示，空白部分用-1表示，如圖2所示。網(wǎng)絡(luò)對這2個穩(wěn)態(tài)即2個數(shù)字（點陣）具有聯(lián)想記憶的功能，當(dāng)有帶噪聲的數(shù)字點陣輸入到該網(wǎng)絡(luò)時，網(wǎng)絡(luò)的輸出便可以得到最接近

5、的目標(biāo)向量(即2個穩(wěn)態(tài))，從而達到正確識別的效果。圖2 數(shù)字1和2的點陣2.2 設(shè)計步驟 按照上述思路，設(shè)計Hopfield 網(wǎng)絡(luò)需要經(jīng)過以下幾個步驟，如圖3所示。圖3 Hopfield 網(wǎng)絡(luò)設(shè)計流程圖2.3 matlab實現(xiàn)利用MATLAB提供的函數(shù)，可以按照Hopfield 網(wǎng)絡(luò)設(shè)計流程圖將設(shè)計步驟一一在MATLAB 環(huán)境下實現(xiàn)。2.3.1 輸入輸出設(shè)計如圖2所示，有數(shù)字的部分用1表示，空白部分用-1表示，即可得到1、2的點陣。將數(shù)字點陣以圖形的形式呈現(xiàn)出來，如圖4所示。圖4 數(shù)字點陣1、2的實現(xiàn)結(jié)果利用這兩個數(shù)字點陣構(gòu)成訓(xùn)練樣本T：T = array_one;array_two;2.3.

6、2 網(wǎng)絡(luò)建立利用newhop( )函數(shù)可以方便地創(chuàng)建一個離散型Hopfield神經(jīng)網(wǎng)絡(luò)：net = newhop(T);2.3.3 產(chǎn)生噪聲的數(shù)字點陣常見的模擬產(chǎn)生帶噪聲數(shù)字的方法有兩種：固定噪聲法和隨機噪聲法。固定噪聲法指的是人工修改的方法改變數(shù)字點陣某些位置值，從而模擬產(chǎn)生帶噪聲的數(shù)字點陣。如果希望產(chǎn)生不同的帶噪聲的數(shù)字矩陣，需要人工做多次的修改，這無疑是比較麻煩的。隨機噪聲產(chǎn)生法是利用產(chǎn)生隨機數(shù)的方法來確定需要修改的點陣位置，進而對數(shù)字點陣進行修改。由于數(shù)字點陣中的值只有1和-1 兩種，所以這里的修改就是將1換成-1，-1換成1。2.3.4 網(wǎng)絡(luò)仿真利用sim()函數(shù)可對神經(jīng)網(wǎng)絡(luò)進行仿真

7、。3 實驗結(jié)果將帶噪聲的數(shù)字點陣輸入已創(chuàng)建好的Hopfield 網(wǎng)絡(luò)，便可對帶噪聲的數(shù)字點陣進行識別，識別結(jié)果仍為數(shù)字點陣形式。實驗結(jié)果如圖5所示圖5 數(shù)字識別結(jié)果實驗程序如下：% Hopfield神經(jīng)網(wǎng)絡(luò)數(shù)字識別clear allclcload data1 array_oneload data2 array_two T = array_one;array_two; net = newhop(T); load data1_noisy noisy_array_oneload data2_noisy noisy_array_two % 產(chǎn)生隨機噪聲 noisy_array_one=array_on

8、e; noisy_array_two=array_two; for i = 1:100 a = rand; if a 0.1 noisy_array_one(i) = -array_one(i); noisy_array_two(i) = -array_two(i); end endnoisy_one = (noisy_array_one); identify_one = sim(net,10,10,noisy_one);identify_one10;noisy_two = (noisy_array_two);identify_two = sim(net,10,10,noisy_two);id

9、entify_two10;Array_one = imresize(array_one,20);subplot(3,2,1)imshow(Array_one)title(標(biāo)準(zhǔn)（數(shù)字1）) Array_two = imresize(array_two,20);subplot(3,2,2)imshow(Array_two)title(標(biāo)準(zhǔn)(數(shù)字2) subplot(3,2,3)Noisy_array_one = imresize(noisy_array_one,20);imshow(Noisy_array_one)title(噪聲(數(shù)字1) subplot(3,2,4)Noisy_array_two = imresize(noisy_array_two,20);imshow(Noisy_a