人工神經(jīng)網(wǎng)絡(luò)理論及其應(yīng)用引論 神經(jīng)生理學(xué)和神經(jīng)解剖學(xué)的研究結(jié)果表明，神經(jīng)元(Neuron)是腦組織的基本單元，是人腦信息處理系統(tǒng)的最小單元。生物神經(jīng)元生物神經(jīng)網(wǎng)絡(luò)一、生物神經(jīng)網(wǎng)絡(luò)1、生物神經(jīng)元的結(jié)構(gòu)生物神經(jīng)元在結(jié)構(gòu)上由:細(xì)胞體(Cellbody)、樹(shù)突(Dendrite)、軸突(Axon)、突觸(Synapse)四部分組成。用來(lái)完成神經(jīng)元間信息的接收、傳遞和處理。人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)2、

生物神經(jīng)元的信息處理機(jī)理1）信息的產(chǎn)生

神經(jīng)元間信息的產(chǎn)生、傳遞和處理是一種電化學(xué)活動(dòng)。

神經(jīng)元狀態(tài)：靜息興奮抑制

膜電位：極化去極化超極化人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)2、

生物神經(jīng)元的信息處理機(jī)理2）信息的整合空間整合：同一時(shí)刻產(chǎn)生的刺激所引起的膜電位變化，大致等于各單獨(dú)刺激引起的膜電位變化的代數(shù)和。并且，不同刺激對(duì)神經(jīng)元的影響權(quán)重不同。時(shí)間整合：各輸入脈沖抵達(dá)神經(jīng)元的時(shí)間先后不一樣?？偟耐挥|后膜電位為一段時(shí)間內(nèi)的累積。人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)3、生物神經(jīng)網(wǎng)絡(luò)的特點(diǎn)

由多個(gè)生物神經(jīng)元以確定方式和拓?fù)浣Y(jié)構(gòu)

相互連接即形成生物神經(jīng)網(wǎng)絡(luò)。

生物神經(jīng)網(wǎng)絡(luò)的功能不是單個(gè)神經(jīng)元信息

處理功能的簡(jiǎn)單疊加。

神經(jīng)元之間的突觸連接方式和連接強(qiáng)度不

同并且具有可塑性，這使神經(jīng)網(wǎng)絡(luò)在宏觀

呈現(xiàn)出千變?nèi)f化的復(fù)雜的信息處理能力。人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ)二、簡(jiǎn)單人工神經(jīng)元模型(1)每個(gè)神經(jīng)元都是一個(gè)多輸入單輸出的信息處理單元；(2)神經(jīng)元輸入分興奮性輸入和抑制性輸入兩種類(lèi)型；并且影響權(quán)重不同(6)神經(jīng)元本身是非時(shí)變的，即其突觸強(qiáng)度均為常數(shù)。(3)神經(jīng)元具有空間整合特性和閾值特性；(4)不考慮神經(jīng)元輸入與輸出間的時(shí)滯；(5)忽略時(shí)間整合作用和不應(yīng)期；1、模型的六點(diǎn)假設(shè)：神經(jīng)元的人工模型假設(shè)1：多輸入單輸出圖(a)表明，正如生物神經(jīng)元有許多激勵(lì)輸入一祥，人工神經(jīng)元也應(yīng)該有許多的輸入信號(hào)，圖中每個(gè)輸入的大小用確定數(shù)值xi表示，它們同時(shí)輸入神經(jīng)元j，神經(jīng)元的單輸出用oj表示。神經(jīng)元的人工模型假設(shè)2：輸入類(lèi)型：不同輸入影響不同生物神經(jīng)元具有不同的突觸性質(zhì)和突觸強(qiáng)度，其對(duì)輸入的影響是使有些輸入在神經(jīng)元產(chǎn)生脈沖輸出過(guò)程中所起的作用比另外一些輸入更為重要。圖(b)中對(duì)神經(jīng)元的每一個(gè)輸入都有一個(gè)加權(quán)系數(shù)wij，稱(chēng)為權(quán)重值，其正負(fù)模擬了生物神經(jīng)元中突觸的興奮和抑制，其大小則代表了突觸的不同連接強(qiáng)度。神經(jīng)元的人工模型假設(shè)3：空間整合特性和閾值特性作為ANN的基本處理單元，必須對(duì)全部輸入信號(hào)進(jìn)行整合，以確定各類(lèi)輸入的作用總效果，圖(c)表示組合輸人信號(hào)的“總和值”，相應(yīng)于生物神經(jīng)元的膜電位。神經(jīng)元激活與否取決于某一閾值電平，即只有當(dāng)其輸入總和超過(guò)閾值時(shí),神經(jīng)元才被激活而發(fā)放脈沖,否則神經(jīng)元不會(huì)產(chǎn)生輸出信號(hào)。神經(jīng)元的人工模型神經(jīng)元的輸出圖(d)人工神經(jīng)元的輸出也同生物神經(jīng)元一樣僅有一個(gè)，如用oj表示神經(jīng)元輸出，則輸出與輸入之間的對(duì)應(yīng)關(guān)系可用圖(d)中的某種非線性函數(shù)來(lái)表示，這種函數(shù)一般都是非線性的。神經(jīng)元的人工模型神經(jīng)元模型示意圖神經(jīng)元的人工模型2、神經(jīng)元的數(shù)學(xué)模型

——神經(jīng)元j的閾值；

wij——神經(jīng)元i到j(luò)的突觸連接系數(shù)或稱(chēng)權(quán)重值；

f()——神經(jīng)元轉(zhuǎn)移函數(shù)。(2.1)神經(jīng)元的人工模型“與”運(yùn)算（x1∧x2）(0,0)(1,1)(0,1)(1,0)圖5.10與運(yùn)算問(wèn)題圖示輸入輸出超平面閾值條件x1x2x1∧x2w1*x1+w2*x2-θ=0000w1*0+w2*0-θ＜0θ＞0010w1*0+w2*1

-θ＜0θ＞w2100w1*1+w2*0-θ＜0θ＞w1

111w1*1+w2*1-θ≥0θ≤w1+w2

輸出為1用實(shí)心圓，輸出為0的用空心圓，輸入樣本在空間中的分布如圖中所示。由圖可以看出，對(duì)于上述輸入樣本，存在線性分類(lèi)面將他們分開(kāi)。例如，當(dāng)取w1=1，w2=1，θ=1.5時(shí)，可將他們分類(lèi)為兩類(lèi)。x1x2簡(jiǎn)單人工神經(jīng)元模型在邏輯運(yùn)算中的應(yīng)用“或”運(yùn)算（x1∨x2）輸入輸出超平面閾值條件x1x2x1∨x2w1*x1+w2*x2-θ=0000w1*0+w2*0-θ＜0θ＞0011w1*0+w2*1

-θ≥0θ≤w2101w1*1+w2*0-θ≥0θ≤w1

111w1*1+w2*1-θ≥0θ≤w1+w2

(0,1)(0,0)(1,0)圖5.11或運(yùn)算問(wèn)題圖示(1,1)x2x1輸出為1用實(shí)心圓，輸出為0的用空心圓，輸入樣本在空間中的分布如圖中所示。由圖可以看出，對(duì)于上述輸入樣本，存在線性分類(lèi)面將他們分開(kāi)。例如，當(dāng)取w1=1，w2=1，θ=0.5時(shí)，可將他們分類(lèi)為兩類(lèi)?！胺恰边\(yùn)算（?x1）輸入輸出超平面閾值條件x1?x1w1*x1-θ=001w1*0-θ≥0θ≤010w1*1

–θ<0θ>w1圖5.12非運(yùn)算問(wèn)題圖示01輸出為1用實(shí)心圓，輸出為0的用空心圓，輸入樣本在空間中的分布如圖中所示。由圖可以看出，對(duì)于上述輸入樣本，存在線性分類(lèi)面將他們分開(kāi)。例如，當(dāng)取w1=-1，θ=-0.5時(shí)，可將他們分類(lèi)為兩類(lèi)?！爱惢颉边\(yùn)算（x1XORx2）輸入輸出超平面閾值條件x1x2X1XORx2w1*x1+w2*x2-θ=0000w1*0+w2*0-θ＜0θ＞0011w1*0+w2*1-θ≥0θ≤w2101w1*1+w2*0-θ≥0θ≤w1

110w1*1+w2*1-θ<0θ>w1+w2

(0,1)(0,0)(1,0)圖5.