感知器學(xué)習(xí)算法第1頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月23.1單層感知器3.1.1感知器模型3前饋神經(jīng)網(wǎng)絡(luò)第2頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月3j=1,2,…,m

3.1.1感知器模型前饋神經(jīng)網(wǎng)絡(luò)--單層感知器第3頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月4凈輸入：輸出：(3.1)(3.2)3.1.1感知器模型前饋神經(jīng)網(wǎng)絡(luò)--單層感知器第4頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月5(1)設(shè)輸入向量X=(x1,x2)T輸出：則由方程wijx1+w2jx2-Tj=0

(3.3)確定了二維平面上的一條分界線。ojx1-1x2前饋神經(jīng)網(wǎng)絡(luò)--單層感知器3.1.2感知器的功能第5頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月（1）輸入是二維wijx1+w2jx2–Tj=0 wijx1=Tj-w2jx2 x1=(Tj-w2jx2)/wij

=-(w2j/wij)x2+Tj/wij

=a

x2+c

第6頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月感知器的功能（二維）第7頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月8前饋神經(jīng)網(wǎng)絡(luò)--單層感知器3.1.2感知器的功能第8頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月9(2)設(shè)輸入向量X=(x1,x2,x3)T輸出：則由方程wijx1+w2jx2+w3j

–Tj=0(3.4)確定了三維空間上的一個(gè)分界平面。x2ojx1x3-1前饋神經(jīng)網(wǎng)絡(luò)--單層感知器3.1.2感知器的功能第9頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月（2）輸入是三維wijx1+w2jx2+w3j

x3–Tj=0

x1=a

x2+b

x3+c

是什么？第10頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月11前饋神經(jīng)網(wǎng)絡(luò)--單層感知器3.1.2感知器的功能第11頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月12(3)設(shè)輸入向量X=(x1，x2,…，xn)T則由方程wijx1+w2jx2+…+wnj

–Tj=0(3.6)確定了n維空間上的一個(gè)分界平面。輸出：wijx1+w2jx2+…+wnj

–Tj=0(3.5)前饋神經(jīng)網(wǎng)絡(luò)--單層感知器3.1.2感知器的功能第12頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月13

一個(gè)最簡(jiǎn)單的單計(jì)算節(jié)點(diǎn)感知器具有分類功能。其分類原理是將分類知識(shí)存儲(chǔ)于感知器的權(quán)向量（包含了閾值）中，由權(quán)向量確定的分類判決界面將輸入模式分為兩類。前饋神經(jīng)網(wǎng)絡(luò)--單層感知器3.1.2感知器的功能第13頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月例一用感知器實(shí)現(xiàn)邏輯“與”功能x1 x2 y0 0 00 1 01 0 01 1

1邏輯“與”真值表第14頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月例一用感知器實(shí)現(xiàn)邏輯“與”功能感知器結(jié)構(gòu)wix1+w2x2-T=0

0.5x1+0.5x2-0.75=0第15頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月例二用感知器實(shí)現(xiàn)邏輯“或”功能x1 x2 y0 0 00 1 11 0 11 1 1邏輯“或”真值表第16頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月例二用感知器實(shí)現(xiàn)邏輯“或”功能感知器結(jié)構(gòu)wix1+w2x2-T=0

x1+x2-0.5=0第17頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月思考并回答分界線的方程是什么？感知器的模型如何表示？圖示？數(shù)學(xué)表達(dá)式？感知器結(jié)構(gòu)第18頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月19問(wèn)題：能否用感知器實(shí)現(xiàn)“異或”功能？“異或”的真值表x1 x2 y 0 0 0 0 1 1 1 0 1 1 1 0前饋神經(jīng)網(wǎng)絡(luò)--單層感知器3.1.3感知器的局限性第19頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月203.1.4感知器的學(xué)習(xí)關(guān)鍵問(wèn)題就是求第20頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月3.1.4感知器的學(xué)習(xí)算法Perceptron(感知器)學(xué)習(xí)規(guī)則式中，當(dāng)實(shí)際輸出與期望值相同時(shí)，權(quán)值不需要調(diào)整。感知器學(xué)習(xí)規(guī)則代表一種有導(dǎo)師學(xué)習(xí)。第21頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月22感知器學(xué)習(xí)規(guī)則的訓(xùn)練步驟：(1)對(duì)各權(quán)值w0j(0),w1j(0),┄,wnj(0)，j=1,2,┄,m

（m為計(jì)算層的節(jié)點(diǎn)數(shù)）賦予較小的非零隨機(jī)數(shù)；(2)輸入樣本對(duì){Xp,dp}，其中Xp=(-1,x1p,x2p,┄,xnp)，

dp為期望的輸出向量（教師信號(hào)），上標(biāo)p代表樣本對(duì)的模式序號(hào)，設(shè)樣本集中的樣本總數(shù)為P，則p=1,2,┄,P；前饋神經(jīng)網(wǎng)絡(luò)--單層感知器3.1.4感知器的學(xué)習(xí)算法第22頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月23感知器學(xué)習(xí)規(guī)則的訓(xùn)練步驟：(3)計(jì)算各節(jié)點(diǎn)的實(shí)際輸出ojp(t)=sgn[WjT(t)Xp],j=1,2,...,m；(4)調(diào)整各節(jié)點(diǎn)對(duì)應(yīng)的權(quán)值，Wj(t+1)=Wj(t)+η[djp-ojp(t)]Xp,

j=1,2,┄,m,

其中為學(xué)習(xí)率，用于控制調(diào)整速度，太大會(huì)影響訓(xùn)練的穩(wěn)定性，太小則使訓(xùn)練的收斂速度變慢，一般取0＜η≤1；(5)返回到步驟(2)輸入下一對(duì)樣本，周而復(fù)始直到對(duì)所有樣本，感知器的實(shí)際輸出與期望輸出相等。前饋神經(jīng)網(wǎng)絡(luò)--單層感知器3.1.4感知器的學(xué)習(xí)算法第23頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月24感知器學(xué)習(xí)規(guī)則的訓(xùn)練步驟：（1）權(quán)值初始化（2）輸入樣本對(duì)（3）計(jì)算輸出（4）根據(jù)感知器學(xué)習(xí)規(guī)則調(diào)整權(quán)值（5）返回到步驟(2)輸入下一對(duì)樣本，周而復(fù)始直到對(duì)所有樣本，感知器的實(shí)際輸出與期望輸出相等。前饋神經(jīng)網(wǎng)絡(luò)--單層感知器第24頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月25例三單計(jì)算節(jié)點(diǎn)感知器，3個(gè)輸入。給定3對(duì)訓(xùn)練樣本對(duì)如下：X1=(-1，1，-2，0)T

d1=

1 X2=(-1，0，1.5，-0.5)T

d2=

1X3=(-1，-1，1，0.5)T

d3=1

設(shè)初始權(quán)向量W(0)=(0.5,1,-1,0)T，η=0.1。注意，輸入向量中第一個(gè)分量x0恒等于-1，權(quán)向量中第一個(gè)分量為閾值，試根據(jù)以上學(xué)習(xí)規(guī)則訓(xùn)練該感知器。前饋神經(jīng)網(wǎng)絡(luò)--單層感知器3.1.4感知器的學(xué)習(xí)算法第25頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月26解：第一步輸入X1，得

WT(0)X1=(0.5,1,-1,0)(-1,1,-2,0)T=2.5

o1(0)=sgn(2.5)=1

W(1)=W(0)+η[d1-o1(0)]X1=(0.5,1,-1,0)T+0.1(-1-1)(-1,1,-2,0)T=(0.7,0.8,-0.6,0)T前饋神經(jīng)網(wǎng)絡(luò)--單層感知器3.1.4感知器的學(xué)習(xí)算法第26頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月27第二步輸入X2，得

WT(1)X2=(0.7,0.8,-0.6,0)(-1,0,1.5,-0.5)T=-1.6

o2(1)=sgn(-1.6)=-1

W(2)=W(1)+η[d2-o2(1)]X2=(0.7,0.8,-0.6,0)T+0.1[-1-(-1)](-1,0,1.5,-0.5)T=(0.7,0.8,-0.6,0)T由于d2=o2(1)，所以W(2)=W(1)。前饋神經(jīng)網(wǎng)絡(luò)--單層感知器3.1.4感知器的學(xué)習(xí)算法第27頁(yè)，課件共30頁(yè)，創(chuàng)作于2023年2月28第三步輸入X3，得

WT(2)X3=(0.7,0.8,-0.6,0)(-1,-1,1,0.5)T=-2.1

O3(2)=sgn(-2.1=-1W(3)=W(2)+η[d3-o3(2)]X3=(0.7,0.8,-0.6,0)T+0.1[1-(-1)](-1,-1,1,0.5)T=(0.5,0.6,-0.4,0.1)T第四步返回到第一步，繼續(xù)訓(xùn)練直到dp-op=0，p=1,2,3。前饋神經(jīng)網(wǎng)絡(luò)