基于誤差反傳的多層感知器2016年—BP神經(jīng)網(wǎng)絡(luò)組員：任葉秦瑤陳威目錄1人工神經(jīng)網(wǎng)絡(luò)簡介2單層感知器3多層感知器BP4實驗案例人工神經(jīng)網(wǎng)絡(luò)1人工神經(jīng)網(wǎng)絡(luò)（簡寫為ANNs）：也簡稱為神經(jīng)網(wǎng)絡(luò)（NNs）或稱作連接模型，它是一種模仿動物神經(jīng)網(wǎng)絡(luò)行為特征，進行分布式并行信息處理的算法數(shù)學模型。這種網(wǎng)絡(luò)依靠系統(tǒng)的復雜程度，通過調(diào)整內(nèi)部大量節(jié)點之間相互連接的關(guān)系，從而達到處理信息的目的。

神經(jīng)元及其突觸是神經(jīng)網(wǎng)絡(luò)的基本器件。因此，模擬生物神經(jīng)網(wǎng)絡(luò)應首先模擬生物神經(jīng)元人工神經(jīng)元(節(jié)點)

從三個方面進行模擬:節(jié)點本身的信息處理能力（數(shù)學模型）節(jié)點與節(jié)點之間連接(拓撲結(jié)構(gòu))相互連接的強度(通過學習來調(diào)整)決定人工神經(jīng)網(wǎng)絡(luò)整體性能的三大要素1.神經(jīng)元的人工模型2.神經(jīng)元的數(shù)學建模：模型的六點假設(shè)：(1)每個神經(jīng)元都是一個多輸入單輸出的信息處理單元；(2)神經(jīng)元輸入分興奮性輸入和抑制性輸入兩種類型；(6)神經(jīng)元本身是非時變的，即其突觸時延和突觸強度均為常數(shù)。(3)神經(jīng)元具有空間整合特性和閾值特性；(4)神經(jīng)元輸入與輸出間有固定的時滯,主要取決于突觸延擱；(5)忽略時間整合作用和不應期；神經(jīng)元的數(shù)學模型：τij—輸入輸出間的突觸時延；Tj—神經(jīng)元j的閾值；wij—神經(jīng)元i到j(luò)的突觸連接系數(shù)或稱權(quán)重值；f()—神經(jīng)元轉(zhuǎn)移函數(shù)。用一個數(shù)學表達式進行抽象與概括：oj(t+1)與xI(t)之間的單位時差代表所有神經(jīng)元具有相同的、恒定的工作節(jié)律Xi和oj的下標體現(xiàn)了假定(1)wij的正負體現(xiàn)了假定(2)3.網(wǎng)絡(luò)拓撲結(jié)構(gòu)類型

層次型結(jié)構(gòu)：將神經(jīng)元按功能分成若干層，如輸入層、中間層（隱層）和輸出層，各層順序相連。有3種典型結(jié)合方式：單純層次型結(jié)構(gòu)輸出層到輸入層有連接層內(nèi)有連接層次型結(jié)構(gòu)互連型網(wǎng)絡(luò)結(jié)構(gòu)：網(wǎng)絡(luò)中任意兩個節(jié)點之間都可能存在連接路徑，根據(jù)網(wǎng)絡(luò)中節(jié)點的互連程度將它細分為三種情況：全互連型結(jié)構(gòu)局部互連型網(wǎng)絡(luò)結(jié)構(gòu)稀疏連接型4.神經(jīng)網(wǎng)絡(luò)學習人工神經(jīng)網(wǎng)絡(luò)最具有吸引力的特點是它的學習能力。概念：改變權(quán)值的規(guī)則稱為學習規(guī)則或?qū)W習算法（亦稱訓練規(guī)則或訓練算法）。神經(jīng)網(wǎng)絡(luò)的學習類型：有導師學習（有監(jiān)督學習）無導師學習（無監(jiān)督學習）灌輸式學習單層感知器2單層感知器模型圖示：只有一層處理單元輸入層也稱為感知層，負責引入外部信息，自身無信息處理能力；輸出層也稱為處理層，每個節(jié)點均具有信息處理能力；兩層之間的連接權(quán)值W表示(n×m的矩陣)

。單層感知器模型的數(shù)學表示：輸入信號：輸出信號：連接權(quán)值：j=1,2,…,m

單層感知器模型的數(shù)學表示：凈輸入：輸出信號：多層感知器的提出：提出的動因

—單計算層感知器的局限性：只能解決線性可分問題，而大量的分類問題是線性不可分的?！鉀Q的有效辦法在輸入層與輸出層之間引入隱層作為輸入模式的“內(nèi)部表示”，將單計算層感知器變成多（計算）層感知器。采用非線性連續(xù)函數(shù)作為轉(zhuǎn)移函數(shù)，使區(qū)域邊界線的基本線素由直線變成曲線，從而使整個邊界線變成連續(xù)光滑的曲線。多層感知器BP3三層BP網(wǎng)絡(luò)輸入層隱層輸出層

BP算法的程序?qū)崿F(xiàn)(1)初始化；

(4)計算各層誤差信號；

(5)調(diào)整各層權(quán)值；

(6)檢查是否對所有樣本完成一次輪訓；(7)檢查網(wǎng)絡(luò)總誤差是否達到精度要求。(2)輸入訓練樣本對X

Xp、d

dp計算各層輸出；(3)計算網(wǎng)絡(luò)輸出誤差；實驗案例41.問題背景各種新型催化劑屬于典型的非線性優(yōu)化問題。三層前饋神經(jīng)網(wǎng)絡(luò)可以任意精度逼近任意連續(xù)函數(shù)。采用BP神經(jīng)網(wǎng)絡(luò)對脂肪醇催化劑配方的實驗數(shù)據(jù)進行學習，以訓練后的網(wǎng)絡(luò)作為數(shù)學模型映射配方與優(yōu)化指標之間的復雜非線性關(guān)系，能獲得相對較高的精度。影響催化劑配方的五個因素：A/Cu、Zn/Cu、B/Cu、C/Cu、Mn/Cu。催化劑配方的三個指標：脂肪酸甲脂轉(zhuǎn)化率TR%、脂肪醇產(chǎn)率YOH%、脂肪醇選擇性SOH%2.實驗數(shù)據(jù)3.網(wǎng)絡(luò)設(shè)計輸入層神經(jīng)元的確定輸入層神經(jīng)元確定為5個，分別是催化劑配方的五個影響因素：A/Cu、Zn/Cu、B/Cu、C/Cu、Mn/Cu。輸出層神經(jīng)元確定

輸出層神經(jīng)元為3個，表示催化劑配方的三個指標：脂肪酸甲脂轉(zhuǎn)化率TR%、脂肪醇產(chǎn)率YOH%和脂肪醇選擇性SOH%隱層

實驗