神經(jīng)網(wǎng)絡(luò)原理3.自適應(yīng)線性元件由Widrow和Hoff提出，主要用于線性逼近一個(gè)函數(shù)式，因而能用于模式聯(lián)想、信號(hào)處理濾波、預(yù)測(cè)、模型識(shí)別和控制等。線性激活函數(shù),可以輸出任意值比感知器具有更快的收斂速度和精度W-H學(xué)習(xí)規(guī)則(LMS)3.1自適應(yīng)線形神經(jīng)元

模型和結(jié)構(gòu)網(wǎng)絡(luò)結(jié)構(gòu)

Adaline：一個(gè)自適應(yīng)線性神經(jīng)元模型

3.1自適應(yīng)線形神經(jīng)元

模型和結(jié)構(gòu)

主要特點(diǎn)：神經(jīng)元的激活函數(shù)為線性函數(shù)：ai=f(ni)=ni注意：

多層線性網(wǎng)絡(luò)與單層線性網(wǎng)絡(luò)的映射能力相同MALAB構(gòu)造函數(shù):

newlin()newlind()3.2W-H學(xué)習(xí)規(guī)則

W-H學(xué)習(xí)規(guī)則(δ規(guī)則,LMS算法)：由Widrow和Hoff提出的修正權(quán)矢量的學(xué)習(xí)規(guī)則。誤差函數(shù):E(W,B)=1/2SUM[T-A]2=1/2SUM[T-WP-B]2考慮多組輸入輸出對(duì)3.2W-H學(xué)習(xí)規(guī)則修正值:復(fù)習(xí):梯度下降法(最速下降法)MATLAB工具函數(shù):maxlinlr()learnwh()purelin()或3.4例題與分析例3.2模式聯(lián)想：設(shè)輸入和目標(biāo)輸出為

▲共16個(gè)線性方程，有準(zhǔn)確解。但利用其他方法麻煩?！鴮?shí)際中，只需要找到一定精度的近似解?！Y(jié)論：利用自適應(yīng)網(wǎng)絡(luò)在一定精度下快速逼近線性映射。，3.4例題與分析例3.3設(shè)計(jì)訓(xùn)練一個(gè)線性網(wǎng)絡(luò)實(shí)現(xiàn)下列輸入到輸出的變換：P=[123;456],T=[0.51-1]?！菔揪€性相關(guān)出現(xiàn)的情況。本例中系數(shù)矩陣為奇異的?！鴑ewlind.m對(duì)奇異矩陣效果一般；對(duì)非線性問(wèn)題，給出最小均方解，但效果不太理想?！纠欣胣ewlin.m計(jì)算，誤差較newlind.m小。3.4例題與分析例3.4在例3.1的輸入/輸出中增加兩組元素，為P=[101.53.0-1.2],T=[0.51.13.0-1.0]?！纠龣z驗(yàn)自適應(yīng)網(wǎng)絡(luò)的線性逼近能力?！匠虜?shù)大于未知數(shù)個(gè)數(shù)，無(wú)準(zhǔn)確解?！Y(jié)論：本例用自適應(yīng)線性網(wǎng)絡(luò)解決不太適合。例3.5查看學(xué)習(xí)率與訓(xùn)練收斂及收斂速度的關(guān)系3.6單步延遲線及其自適應(yīng)

濾波的實(shí)現(xiàn)

自適應(yīng)濾波是字適應(yīng)網(wǎng)絡(luò)的主要應(yīng)用領(lǐng)域之一，常用于數(shù)字信號(hào)處理領(lǐng)域中。單步延遲線3.6單步延遲線及其自適應(yīng)

濾波的實(shí)現(xiàn)網(wǎng)絡(luò)結(jié)構(gòu)3.6單步延遲線及其自適應(yīng)

濾波的實(shí)現(xiàn)

自適應(yīng)線性濾波器的網(wǎng)絡(luò)輸入/輸出關(guān)系：其中，初始輸入3.6單步延遲線及其自適應(yīng)

濾波的實(shí)現(xiàn)例3.6假定一個(gè)輸入按輸入順序排列，其數(shù)值分別為3，4，5和6。該輸入量自身產(chǎn)生兩次延時(shí)，其延時(shí)量的初始輸入值分別為1和2。用一個(gè)自適應(yīng)線性網(wǎng)絡(luò)對(duì)其濾波所獲得的權(quán)矩陣為[789]。試計(jì)算在給定的輸入值下該網(wǎng)絡(luò)的輸出值。3.7自適應(yīng)線性網(wǎng)絡(luò)的應(yīng)用

1.線性化建模

▲參數(shù)辨識(shí)：系統(tǒng)的模型完全有幾個(gè)參數(shù)決定，根據(jù)數(shù)據(jù)來(lái)求解系統(tǒng)內(nèi)的各個(gè)參數(shù)?！到y(tǒng)建模：通過(guò)實(shí)驗(yàn)所測(cè)得的輸入/輸出數(shù)據(jù)求解系統(tǒng)的最佳匹配模型。實(shí)際物理系統(tǒng)的輸入/輸出關(guān)系式：線性化建模就是將上述關(guān)系利用線性關(guān)系近似代替3.7自適應(yīng)線性網(wǎng)絡(luò)的應(yīng)用▲神經(jīng)網(wǎng)絡(luò)系統(tǒng)建模設(shè)計(jì)原理圖3.7自適應(yīng)線性網(wǎng)絡(luò)的應(yīng)用▲神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型原理圖

3.7自適應(yīng)線性網(wǎng)絡(luò)的應(yīng)用3.消除噪聲

設(shè)有效信號(hào)為c(k)，噪聲信號(hào)為v(k)，混合信號(hào)m(k),引擎噪聲n(k)，誤差e(k)m(k)=v(k)+c(k)e(k)=m(k)-a(k)=v(k)+c(k)-a(k)n(k)作