WhatisArtificalNeuralNetwork?WhatcanANNdoforus?WhencanweuseANN?WhatkindofANNshouldweselect?關于人工神經網絡

人工神經網絡（復習）●人工神經網絡是一個并行和分布式的信息處理網絡結構，該網絡結構一般由許多個神經元組成，每個神經元有一個單一的輸出，它可以連接到很多其他的神經元，其輸入有多個連接通路，每個連接通路對應一個連接權系數。●人工神經網絡系統是以工程技術手段來模擬人腦神經元（包括細胞體，樹突，軸突）網絡的結構與特征的系統。利用人工神經元可以構成各種不同拓撲結構的神經網絡，它是生物神經網絡的一種模擬和近似。主要從兩個方面進行模擬：一是結構和實現機理；二是從功能上加以模擬。●根據神經網絡的主要連接型式而言，目前已有數十種不同的神經網絡模型，其中前饋型網絡和反饋型網絡是兩種典型的結構模型。

網絡屬性感知器BP神經網絡RBF神經網絡SOM神經網絡MATLAB函數newpnewffnewrbnewrbenewc

應用領域分類逼近、預測、分類逼近、預測分類如何選擇神經網絡

需要注意的兩點●雖然人工神經網絡有學習、識別、控制、逼近、分類、預測等強大功能，但應該明確的是它不是萬能的。想要得到一個什么樣子的結果對于是否選擇神經網絡非常重要，如果想要的結果要求非常精準，那么最好不要選擇人工神經網絡模型?！袢绻麑Y果要求不嚴格，系統數學模型未知或者很復雜，比較合適選取人工神經網絡。因為神經網絡對于用戶來說，只是一個“黑匣子”，用戶不需要知道內部結構，只需確定輸入輸出即可。反饋神經網絡●反饋網絡(RecurrentNetwork)，又稱自聯想記憶網絡，其目的是為了設計一個網絡，儲存一組平衡點，使得當給網絡一組初始值時，網絡通過自行運行而最終收斂到這個設計的平衡點上。反饋神經網絡是一種將輸出經過一步時移再接入到輸入層的神經網絡系統?！穹答伨W絡能夠表現出非線性動力學系統的動態(tài)特性。它所具有的主要特性為以下兩點：1.網絡系統具有若干個穩(wěn)定狀態(tài)。當網絡從某一初始狀態(tài)開始運動，網絡系統總可以收斂到某一個穩(wěn)定的平衡狀態(tài)；2.系統穩(wěn)定的平衡狀態(tài)可以通過設計網絡的權值而被存儲到網絡中。●反饋網絡是一種動態(tài)網絡，它需要工作一段時間才能達到穩(wěn)定。該網絡主要用于聯想記憶和優(yōu)化計算。在這種網絡中，每個神經元同時將自身的輸出信號作為輸入信號反饋給其他神經元，它需要工作一段時間才能達到穩(wěn)定。

Hopfield神經網絡●Hopfield網絡是神經網絡發(fā)展歷史上的一個重要的里程碑。由美國加州理工學院物理學家J.J.Hopfield教授于1982年提出，是一種單層反饋神經網絡。Hopfield神經網絡是反饋網絡中最簡單且應用廣泛的模型，它具有聯想記憶的功能?！?984年，Hopfield設計并研制了網絡模型的電路，并成功地解決了旅行商(TSP)計算難題(快速尋優(yōu)問題)。●根據網絡的輸出是離散量或是連續(xù)量，Hopfield網絡也分為離散和連續(xù)的兩種。Hello,I’mJohnHopfield

Hopfield神經網絡Hopfield神經網絡模型是一種循環(huán)神經網絡，從輸出到輸入有反饋連接。在輸入的激勵下，會產生不斷的狀態(tài)變化。反饋網絡有穩(wěn)定的，也有不穩(wěn)定的，如何判別其穩(wěn)定性也是需要確定的。對于一個Hopfield網絡來說，關鍵是在于確定它在穩(wěn)定條件下的權系數。右圖中，第0層是輸入，不是神經元；第二層是神經元。Hopfield神經網絡有兩種：離散Hopfield網絡（DHNN）和連續(xù)Hopfield網絡（CHNN）

。1.離散Hopfield網絡（DHNN）：神經元的輸出只取1和0，分別表示神經元處于激活和抑制狀態(tài)。對于二值神經元，它的計算公式如下

其中，xi為外部輸入。并且有：2.連續(xù)Hopfield網絡（CHNN）拓撲結構和DHNN的結構相同。不同之處在于其函數g不是階躍函數，而是S形的連續(xù)函數。一般取G(u)=1/(1+eu)

離散Hopfield網絡離散Hopfield網絡的結構和工作方式離散Hopfield網絡是一個單層網絡，有n個神經元節(jié)點，每個神經元的輸出均接到其它神經元的輸入。各節(jié)點沒有自反饋，每個節(jié)點都附有一個閥值。每個節(jié)點都可處于一種可能的狀態(tài)（1或－1），即當該神經元所受的刺激超過其閥值時，神經元就處于一種狀態(tài)（比如1），否則神經元就始終處于另一狀態(tài)（比如－1）。

一個DHNN的網絡狀態(tài)是輸出神經元信息的集合。對于一個輸出層是n個神經元的網絡,其t時刻的狀態(tài)為一個n維向量：Y(t)=[y1(t),y2(t),…,yn(t)]T

因為yi(t)可以取值為1或0，故n維向量Y(t)有2n種狀態(tài)，即網絡有2n種狀態(tài)。如圖所示：如果Hopfield網絡是一個穩(wěn)定網絡，有3個神經元，則有8種狀態(tài)。右圖可直觀看出：若在網絡的輸入端上加入一個輸入向量，則網絡的狀態(tài)會產生變化，即從超立方體的一個頂點轉向另一個頂點，并且最終穩(wěn)定于一個特定的頂角。

●假設一個DHNN，其狀態(tài)為Y(t)：Y(t)=[y1(t),y2(t),…,yn(t)]T

如果對于任何△t，當神經網絡從t=0開始，有初始狀態(tài)Y(0)。經過有限時刻t，有：Y(t+△t)=Y(t)

則稱網絡是穩(wěn)定的。

●Hopfield網絡穩(wěn)定的充分條件：權系數矩陣W是對稱矩陣，并且對角線元素為0。

●無自反饋的權系數對稱Hopfield網絡是穩(wěn)定的。

應用舉例（數字識別）

問題設計一個Hopfield網絡，使其具有聯想記憶功能，能正確識別阿拉伯數字，當數字被噪聲污染后仍可以正確地識別。設計思路假設網絡由0-9共10個穩(wěn)態(tài)構成，每個穩(wěn)態(tài)由10*10的矩陣構成，該矩陣用于模擬阿拉伯數字點陣。即將每個數字劃分成10*10方陣，有數字的部分用1表示，空白處用-1表示。設計步驟（1）設計數字點陣（0-9）（2）創(chuàng)建Hopfield網絡（3）設計受到噪聲污染的數字點陣（4）數字識別（5）結果分析

應用舉例（數字識別）%standardnumberarray；矩陣填充，數字模型建立one=[-1-1-1-111-1-1-1-1;-1-1-1-111-1-1-1-1;...-1-1-1-111-1-1-1-1;-1-1-1-111-1-1-1-1;...-1-1-1-111-1-1-1-1;-1-1-1-111-1-1-1-1;...-1-1-1-111-1-1-1-1;-1-1-1-111-1-1-1-1;...-1-1-1-111-1-1-1-1;-1-1-1-111-1-1-1-1];two=[-111111111-1;-111111111-1;...-1-1-1-1-1-1-111-1;-1-1-1-1-1-1-111-1;...-111111111-1;-111111111-1;...-111-1-1-1-1-1-1-1;-111-1-1-1-1-1-1-1;...-111111111-1;-111111111-1];

%plotstandardnumberfigure畫出標準數字圖像-----------------ONE=imresize(one,20);subplot(3,2,1)imshow(ONE)title('standnumber')

TWO=imresize(two,20);subplot(3,2,2)imshow(TWO)title('standnumber')

%--createhopfieldnet創(chuàng)建Hopfield網絡--------------------------T=[one;two]';net=newhop(T);

%--noisearray(randnoise)-人為制造噪聲----------------rand('state',0);fori=1:100a=rand;ifa<0.1one(i)=-one(i);two(i)=-two(i);endendno1=one;no2=two;%--plotnoisyfigure---------------subplot(3,2,3)NO1=imresize(no1,20);imshow(NO1)title('noisynumber')

subplot(3,2,4)NO2=imresize(no2,20);imshow(NO2)title('noisynumber')%plotidentifyfigure—noise1={(no1)'}