神經(jīng)網(wǎng)絡(luò)辨識及其應(yīng)用目錄CONTENTS神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)01BP網(wǎng)絡(luò)辨識02BP網(wǎng)絡(luò)的逼近03基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模04基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建模05RBF網(wǎng)絡(luò)的逼近06基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制07Hopfield網(wǎng)絡(luò)辨識08RBF網(wǎng)絡(luò)辨識應(yīng)用-自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制0901神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)從人腦的生理學(xué)和心理學(xué)著手，通過人工模擬人腦的工作機(jī)理來實現(xiàn)智能辨識。神經(jīng)網(wǎng)絡(luò)可以實現(xiàn)非線性系統(tǒng)，甚至模型難以預(yù)先確定的系統(tǒng)的辨識。人工神經(jīng)網(wǎng)絡(luò)（簡稱神經(jīng)網(wǎng)絡(luò)，NeuralNetwork）是模擬人腦思維方式的數(shù)學(xué)模型。神經(jīng)網(wǎng)絡(luò)是在現(xiàn)代生物學(xué)研究人腦組織成果的基礎(chǔ)上提出的，用來模擬人類大腦神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和行為。神經(jīng)網(wǎng)絡(luò)反映了人腦功能的基本特征，如并行信息處理、學(xué)習(xí)、聯(lián)想、模式分類、記憶等。20世紀(jì)80年代以來，人工神經(jīng)網(wǎng)絡(luò)（ANN，ArtificialNeuralNetwork）研究所取得的突破性進(jìn)展。神經(jīng)網(wǎng)絡(luò)辨識采用神經(jīng)網(wǎng)絡(luò)進(jìn)行逼近或建模。神經(jīng)網(wǎng)絡(luò)辨識為解決復(fù)雜的非線性、不確定、未知系統(tǒng)的控制問題開辟了新途徑。一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)生理學(xué)和神經(jīng)解剖學(xué)的研究表明，人腦極其復(fù)雜，由一千多億個神經(jīng)元交織在一起的網(wǎng)狀結(jié)構(gòu)構(gòu)成，其中大腦皮層約140億個神經(jīng)元，小腦皮層約1000億個神經(jīng)元。人腦能完成智能、思維等高級活動。為了能利用數(shù)學(xué)模型來模擬人腦的活動，促使了神經(jīng)網(wǎng)絡(luò)的研究。神經(jīng)網(wǎng)絡(luò)原理如圖6-1所示是單個神經(jīng)元的解剖圖，神經(jīng)系統(tǒng)的基本構(gòu)造是神經(jīng)元(神經(jīng)細(xì)胞)，它是處理人體內(nèi)各部分之間相互信息傳遞的基本單元。每個神經(jīng)元都由一個細(xì)胞體，一個連接其他神經(jīng)元的軸突和一些向外伸出的其它較短分支—樹突組成。軸突的功能是將本神經(jīng)元的輸出信號(興奮)傳遞給別的神經(jīng)元，其末端的許多神經(jīng)末梢使得興奮可以同時傳送給多個神經(jīng)元。樹突的功能是接受來自其它神經(jīng)元的興奮。神經(jīng)元細(xì)胞體將接收到的所有信號進(jìn)行簡單地處理后，由軸突輸出。神經(jīng)元的軸突與另外神經(jīng)元神經(jīng)末梢相連的部分稱為突觸。一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)原理圖6-1單個神經(jīng)元的解剖圖一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)原理神經(jīng)元由三部分構(gòu)成：（1）細(xì)胞體（主體部分）：包括細(xì)胞質(zhì)、細(xì)胞膜和細(xì)胞核；（2）樹突：用于為細(xì)胞體傳入信息；（3）軸突：為細(xì)胞體傳出信息，其末端是軸突末梢，含傳遞信息的化學(xué)物質(zhì)；（4）突觸：是神經(jīng)元之間的接口（104~105個/每個神經(jīng)元）。通過樹突和軸突，神經(jīng)元之間實現(xiàn)了信息的傳遞。神經(jīng)網(wǎng)絡(luò)的研究主要分為三個方面的內(nèi)容，即神經(jīng)元模型、神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法。一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)原理

圖6-2單神經(jīng)元結(jié)構(gòu)模型一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)原理

閾值型函數(shù)表達(dá)式為常用的神經(jīng)元非線性特性有以下三種：閾值型、分段線性型和函數(shù)型。（1）閾值型

一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)原理閾值型函數(shù)如圖6-3所示。圖6-3閾值型函數(shù)一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)原理分段線性型函數(shù)表達(dá)式為（2）分段線性型

一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)原理分段線性型函數(shù)如圖6-4所示。一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)原理圖6-4分段線性函數(shù)

有代表性的有Sigmoid型和高斯型函數(shù)。Sigmoid型函數(shù)表達(dá)式為（3）函數(shù)型

一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)原理Sigmoid型函數(shù)如圖6-5所示。一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)原理圖6-5Sigmoid函數(shù)(1)興奮與抑制：如果傳入神經(jīng)元的沖動經(jīng)整和后使細(xì)胞膜電位升高，超過動作電位的閾值時即為興奮狀態(tài)，產(chǎn)生神經(jīng)沖動，由軸突經(jīng)神經(jīng)末梢傳出。如果傳入神經(jīng)元的沖動經(jīng)整和后使細(xì)胞膜電位降低，低于動作電位的閾值時即為抑制狀態(tài)，不產(chǎn)生神經(jīng)沖動。(2)學(xué)習(xí)與遺忘：由于神經(jīng)元結(jié)構(gòu)的可塑性，突觸的傳遞作用可增強和減弱，因此神經(jīng)元具有學(xué)習(xí)與遺忘的功能。神經(jīng)元具有如下功能：一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)原理神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法是神經(jīng)網(wǎng)絡(luò)智能特性的重要標(biāo)志，神經(jīng)網(wǎng)絡(luò)通過學(xué)習(xí)算法，實現(xiàn)了自適應(yīng)、自組織和自學(xué)習(xí)的能力。目前神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法有多種，按有無教師分類，可分為有教師學(xué)習(xí)（SupervisedLearning）、無教師學(xué)習(xí)（UnsupervisedLearning）和再勵學(xué)習(xí)（ReinforcementLearning）等幾大類。下面介紹兩個基本的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法。一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法Hebb學(xué)習(xí)規(guī)則是一種聯(lián)想式學(xué)習(xí)算法。生物學(xué)家D.O.Hebbian基于對生物學(xué)和心理學(xué)的研究，認(rèn)為兩個神經(jīng)元同時處于激發(fā)狀態(tài)時，它們之間的連接強度將得到加強，這一論述的數(shù)學(xué)描述被稱為Hebb學(xué)習(xí)規(guī)則，即（1）Hebb學(xué)習(xí)規(guī)則一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法

Hebb學(xué)習(xí)規(guī)則是一種無教師的學(xué)習(xí)方法，它只根據(jù)神經(jīng)元連接間的激活水平改變權(quán)值，因此，這種方法又稱為相關(guān)學(xué)習(xí)或并聯(lián)學(xué)習(xí)。假設(shè)誤差準(zhǔn)則函數(shù)為：（2）Delta（δ）學(xué)習(xí)規(guī)則一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法

權(quán)值組成的向量：

一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法

神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的目的是通過調(diào)整權(quán)值，使誤差準(zhǔn)則函數(shù)最小?？刹捎锰荻认陆捣▉韺崿F(xiàn)權(quán)值的調(diào)整，其基本思想是沿著E的負(fù)梯度方向不斷修正W值，直到E達(dá)到最小，這種方法的數(shù)學(xué)表達(dá)式為：

其中

一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法W的修正規(guī)則為

上式稱為δ學(xué)習(xí)規(guī)則，又稱誤差修正規(guī)則。人工神經(jīng)網(wǎng)絡(luò)是對生物神經(jīng)網(wǎng)絡(luò)的某種抽象、簡化與模擬，是由許多并行互聯(lián)的相同的神經(jīng)元模型組成。網(wǎng)絡(luò)的信息處理由神經(jīng)元之間的相互作用來實現(xiàn)，知識與信息存儲在處理單元的相互連接上；網(wǎng)絡(luò)學(xué)習(xí)和識別決定于神經(jīng)元連接權(quán)系數(shù)的動態(tài)演化過程。一個神經(jīng)網(wǎng)絡(luò)模型描述了一個網(wǎng)絡(luò)如何把輸入矢量轉(zhuǎn)化為輸出適量的過程。通常神經(jīng)網(wǎng)絡(luò)有以下三要素：一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)的要素及特征（1）神經(jīng)元（信息處理單元）的特性；（2）神經(jīng)元之間相互連接的拓?fù)浣Y(jié)構(gòu)；（3）為適應(yīng)環(huán)境而改善性能的學(xué)習(xí)規(guī)則。人工神經(jīng)網(wǎng)絡(luò)是由大量處理單元互聯(lián)組成的非線性、自適應(yīng)信息處理系統(tǒng)。它是在現(xiàn)代神經(jīng)科學(xué)研究成果的基礎(chǔ)上提出的，試圖通過模擬大腦神經(jīng)網(wǎng)絡(luò)處理、記憶信息的方式進(jìn)行信息處理。人工神經(jīng)網(wǎng)絡(luò)具有以下幾個特征：一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)神經(jīng)網(wǎng)絡(luò)的要素及特征（1）能逼近任意非線性函數(shù)；（2）信息的并行分布式處理與存儲；（3）可以有多個輸入和多輸出；（4）便于用超大規(guī)模集成電路（VISI）或光學(xué)集成電路系統(tǒng)實現(xiàn)，或用現(xiàn)有的計算機(jī)技術(shù)實現(xiàn)；（5）能進(jìn)行學(xué)習(xí)，以適應(yīng)環(huán)境的變化。神經(jīng)網(wǎng)絡(luò)與系統(tǒng)辨識結(jié)合有別于前面提到的辨識方法。將神經(jīng)網(wǎng)絡(luò)作為被辨識系統(tǒng)的模型，可在已知常規(guī)模型結(jié)構(gòu)的情況下，估計模型的參數(shù)；利用神經(jīng)網(wǎng)絡(luò)的線性、非線性特性，可建立線性、非線性系統(tǒng)的靜態(tài)、動態(tài)、逆動態(tài)及預(yù)測模型，實現(xiàn)非線性系統(tǒng)的建模。一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)人工神經(jīng)網(wǎng)絡(luò)辨識的特點一、神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)(1)不要求建立實際系統(tǒng)的辨識格式,即可省去系統(tǒng)結(jié)構(gòu)建模這一步驟；(2)可以對本質(zhì)非線性系統(tǒng)進(jìn)行辨識；(3)辨識的收斂速度不依賴于待辨識系統(tǒng)的維數(shù),只于神經(jīng)網(wǎng)絡(luò)本身及其所采用的學(xué)習(xí)算法有關(guān)；(4)通過權(quán)值的調(diào)節(jié)可使網(wǎng)絡(luò)輸出逼近于系統(tǒng)輸出；(5)神經(jīng)網(wǎng)絡(luò)作為實際系統(tǒng)的辨識模型,可以用于在線控制。人工神經(jīng)網(wǎng)絡(luò)辨識的特點神經(jīng)網(wǎng)絡(luò)辨識的特點：神經(jīng)網(wǎng)絡(luò)辨識及其應(yīng)用目錄CONTENTS神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)01BP網(wǎng)絡(luò)辨識02BP網(wǎng)絡(luò)的逼近03基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模04基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建模05RBF網(wǎng)絡(luò)的逼近06基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制07Hopfield網(wǎng)絡(luò)辨識08RBF網(wǎng)絡(luò)辨識應(yīng)用-自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制0902BP網(wǎng)絡(luò)辨識1986年，Rumelhart等提出了誤差反向傳播神經(jīng)網(wǎng)絡(luò)，簡稱BP網(wǎng)絡(luò)（BackPropagation），該網(wǎng)絡(luò)是一種單向傳播的多層前向網(wǎng)絡(luò)。誤差反向傳播的BP算法簡稱BP算法，其基本思想是最小二乘法。它采用梯度搜索技術(shù)，使網(wǎng)絡(luò)的實際輸出值與期望輸出值的誤差均方值為最小。二、BP網(wǎng)絡(luò)辨識BP神經(jīng)網(wǎng)絡(luò)BP網(wǎng)絡(luò)具有以下幾個特點：二、BP網(wǎng)絡(luò)辨識BP神經(jīng)網(wǎng)絡(luò)（1）BP網(wǎng)絡(luò)是一種多層網(wǎng)絡(luò)，包括輸入層、隱含層和輸出層；（2）層與層之間采用全互連方式，同一層神經(jīng)元之間不連接；（3）權(quán)值通過δ學(xué)習(xí)算法進(jìn)行調(diào)節(jié)；（4）神經(jīng)元激發(fā)函數(shù)為S函數(shù)；（5）學(xué)習(xí)算法由正向傳播和反向傳播組成；（6）層與層的連接是單向的，信息的傳播是雙向的。含一個隱含層的BP網(wǎng)絡(luò)結(jié)構(gòu)如圖6-6所示，圖中i為輸入層神經(jīng)元，j為隱層神經(jīng)元，k為輸出層神經(jīng)元。二、BP網(wǎng)絡(luò)辨識網(wǎng)絡(luò)結(jié)構(gòu)圖6-6BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)BP網(wǎng)絡(luò)的優(yōu)點為：二、BP網(wǎng)絡(luò)辨識BP網(wǎng)絡(luò)的優(yōu)缺點（1）只要有足夠多的隱層和隱層節(jié)點，BP網(wǎng)絡(luò)可以逼近任意的非線性映射關(guān)系；（2）BP網(wǎng)絡(luò)的學(xué)習(xí)算法屬于全局逼近算法，具有較強的泛化能力。（3）BP網(wǎng)絡(luò)輸入輸出之間的關(guān)聯(lián)信息分布地存儲在網(wǎng)絡(luò)的連接權(quán)中，個別神經(jīng)元的損壞只對輸入輸出關(guān)系有較小的影響，因而BP網(wǎng)絡(luò)具有較好的容錯性。BP網(wǎng)絡(luò)的主要缺點為：二、BP網(wǎng)絡(luò)辨識BP網(wǎng)絡(luò)的優(yōu)缺點（1）待尋優(yōu)的參數(shù)多，收斂速度慢；（2）目標(biāo)函數(shù)存在多個極值點，按梯度下降法進(jìn)行學(xué)習(xí)，很容易陷入局部極小值；（3）難以確定隱層及隱層節(jié)點的數(shù)目。目前，如何根據(jù)特定的問題來確定具體的網(wǎng)絡(luò)結(jié)構(gòu)尚無很好的方法，仍需根據(jù)經(jīng)驗來試湊。由于BP網(wǎng)絡(luò)具有很好的逼近非線性映射的能力，該網(wǎng)絡(luò)在模式識別、圖像處理、系統(tǒng)辨識、函數(shù)擬合、優(yōu)化計算、最優(yōu)預(yù)測和自適應(yīng)控制等領(lǐng)域有著較為廣泛的應(yīng)用。由于BP網(wǎng)絡(luò)具有很好的逼近特性和泛化能力，可用于神經(jīng)網(wǎng)絡(luò)控制器的設(shè)計。但由于BP網(wǎng)絡(luò)收斂速度慢，難以適應(yīng)實時控制的要求。二、BP網(wǎng)絡(luò)辨識神經(jīng)網(wǎng)絡(luò)辨識及其應(yīng)用劉金琨目錄CONTENTS神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)01BP網(wǎng)絡(luò)辨識02BP網(wǎng)絡(luò)的逼近03基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模04基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建模05RBF網(wǎng)絡(luò)的逼近06基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制07Hopfield網(wǎng)絡(luò)辨識08RBF網(wǎng)絡(luò)辨識應(yīng)用-自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制0903BP網(wǎng)絡(luò)的逼近BP網(wǎng)絡(luò)逼近的結(jié)構(gòu)如圖6-7所示，圖中k為網(wǎng)絡(luò)的迭代步數(shù)。BP為網(wǎng)絡(luò)逼近器，y(k)為被控對象實際輸出，yn(k)為BP的輸出。將系統(tǒng)輸出y(k)及輸入u(k)的值作為逼近器BP的輸入，將系統(tǒng)輸出與網(wǎng)絡(luò)輸出的誤差作為逼近器的調(diào)整信號。三、BP網(wǎng)絡(luò)的逼近基本原理圖6-7BP神經(jīng)網(wǎng)絡(luò)逼近的結(jié)構(gòu)圖6-7中，用于逼近的BP網(wǎng)絡(luò)如圖6-8所示。三、BP網(wǎng)絡(luò)的逼近基本原理圖6-8用于逼近的BP網(wǎng)絡(luò)BP算法的學(xué)習(xí)過程由正向傳播和反向傳播組成。在正向傳播過程中，輸入信息從輸入層經(jīng)隱層逐層處理，并傳向輸出層，每層神經(jīng)元（節(jié)點）的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。如果在輸出層不能得到期望的輸出，則轉(zhuǎn)至反向傳播，將誤差信號（理想輸出與實際輸出之差）按聯(lián)接通路反向計算，由梯度下降法調(diào)整各層神經(jīng)元的權(quán)值，使誤差信號減小。三、BP網(wǎng)絡(luò)的逼近基本原理隱層神經(jīng)元的輸入為所有輸入的加權(quán)之和：三、BP網(wǎng)絡(luò)的逼近基本原理（1）前向傳播：計算網(wǎng)絡(luò)的輸出。

則

輸出層神經(jīng)元的輸出：三、BP網(wǎng)絡(luò)的逼近基本原理

網(wǎng)絡(luò)輸出與理想輸出誤差為：

誤差性能指標(biāo)函數(shù)為：

三、BP網(wǎng)絡(luò)的逼近基本原理（2）反向傳播：采用δ學(xué)習(xí)算法，調(diào)整各層間的權(quán)值。

k+1時刻網(wǎng)絡(luò)的權(quán)值為：

根據(jù)梯度下降法，權(quán)值的學(xué)習(xí)算法如下：

其中三、BP網(wǎng)絡(luò)的逼近基本原理

為了避免權(quán)值的學(xué)習(xí)過程發(fā)生振蕩、收斂速度慢，需要考慮上次權(quán)值對本次權(quán)值變化的影響，即加入動量因子a。此時的權(quán)值為：

三、BP網(wǎng)絡(luò)的逼近基本原理

使用BP網(wǎng)絡(luò)逼近對象：三、BP網(wǎng)絡(luò)的逼近仿真實例

BP網(wǎng)絡(luò)逼近程序見chap6_1.m，仿真結(jié)果如圖6-9至6-11所示。圖6-9BP網(wǎng)絡(luò)逼近效果三、BP網(wǎng)絡(luò)的逼近仿真實例圖6-10BP網(wǎng)絡(luò)逼近誤差三、BP網(wǎng)絡(luò)的逼近仿真實例圖6-11Jacobian信息的辨識三、BP網(wǎng)絡(luò)的逼近仿真實例BP網(wǎng)絡(luò)逼近程序:chap6_1.m。神經(jīng)網(wǎng)絡(luò)辨識及其應(yīng)用目錄CONTENTS神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)01BP網(wǎng)絡(luò)辨識02BP網(wǎng)絡(luò)的逼近03基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模04基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建模05RBF網(wǎng)絡(luò)的逼近06基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制07Hopfield網(wǎng)絡(luò)辨識08RBF網(wǎng)絡(luò)辨識應(yīng)用-自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制0904基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模由于神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)、自組織和并行處理等特征，并具有很強的容錯能力和聯(lián)想能力，因此，神經(jīng)網(wǎng)絡(luò)具有模式識別的能力。在神經(jīng)網(wǎng)絡(luò)模式識別中，根據(jù)標(biāo)準(zhǔn)的輸入輸出模式對，采用神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法，以標(biāo)準(zhǔn)的模式作為學(xué)習(xí)樣本進(jìn)行訓(xùn)練，通過學(xué)習(xí)調(diào)整神經(jīng)網(wǎng)絡(luò)的連接權(quán)值。當(dāng)訓(xùn)練滿足要求后，得到的神經(jīng)網(wǎng)絡(luò)權(quán)值構(gòu)成了模式識別的知識庫，利用神經(jīng)網(wǎng)絡(luò)并行推理算法對所需要的輸入模式進(jìn)行識別。基本原理四、基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模神經(jīng)網(wǎng)絡(luò)模式識別具有較強的魯棒性。當(dāng)待識別的輸入模式與訓(xùn)練樣本中的某個輸入模式相同時，神經(jīng)網(wǎng)絡(luò)識別的結(jié)果就是與訓(xùn)練樣本中相對應(yīng)的輸出模式。當(dāng)待識別的輸入模式與訓(xùn)練樣本中所有輸入模式都不完全相同時，則可得到與其相近樣本相對應(yīng)的輸出模式。當(dāng)待識別的輸入模式與訓(xùn)練樣本中所有輸入模式相差較遠(yuǎn)時，就不能得到正確的識別結(jié)果，此時可將這一模式作為新的樣本進(jìn)行訓(xùn)練，使神經(jīng)網(wǎng)絡(luò)獲取新的知識，并存儲到網(wǎng)絡(luò)的權(quán)值矩陣中，從而增強網(wǎng)絡(luò)的識別能力。利用神經(jīng)網(wǎng)絡(luò)的模式識別能力，可實現(xiàn)模型的離線建模；BP網(wǎng)絡(luò)的訓(xùn)練過程如下：正向傳播是輸入信號從輸入層經(jīng)隱層傳向輸出層，若輸出層得到了期望的輸出，則學(xué)習(xí)算法結(jié)束；否則，轉(zhuǎn)至反向傳播。以P個樣本為例，用于訓(xùn)練的BP網(wǎng)絡(luò)結(jié)構(gòu)如圖6-6所示。網(wǎng)絡(luò)的學(xué)習(xí)算法如下：四、基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建?；驹黼[層神經(jīng)元的輸入為所有輸入的加權(quán)之和：四、基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模基本原理（1）前向傳播：計算網(wǎng)絡(luò)的輸出。

隱層神經(jīng)元的輸出xj'采用S函數(shù)激發(fā)xj：

則

輸出層神經(jīng)元的輸出：四、基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建?；驹?/p>

第p個樣本的誤差性能指標(biāo)函數(shù)為：其中N為網(wǎng)絡(luò)輸出層的個數(shù)。

四、基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建?；驹恚?）反向傳播：采用梯度下降法，調(diào)整各層間的權(quán)值。權(quán)值的學(xué)習(xí)算法如下：

四、基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建?；驹?/p>

其中

如果考慮上次權(quán)值對本次權(quán)值變化的影響，需要加入動量因子a，此時的權(quán)值為：四、基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建?；驹?/p>

每一次迭代時，分別依次對各個樣本進(jìn)行訓(xùn)練，更新連接權(quán)值，直到所有樣本訓(xùn)練完畢，再進(jìn)行下一次迭代，直到滿足精度為止。

其中η為學(xué)習(xí)速率，α為動量因子，η∈[0,1]，α∈[0,1]。取標(biāo)準(zhǔn)樣本為3輸入2輸出樣本，如表6-1所示。仿真實例表6-1訓(xùn)練樣本四、基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模輸入輸出1001001000.500101

仿真實例四、基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模

仿真實例四、基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模圖6-12樣本訓(xùn)練的收斂過程仿真實例四、基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模表6-2測試樣本及結(jié)果輸入輸出0.9700.0010.0010.98620.00940.0000.9800.0000.00800.49720.0020.0001.040-0.01451.02020.5000.5000.5000.23950.61081.0000.0000.0001.0000-0.00000.0001.0000.0000.00000.50000.0000.0001.000-0.00001.0000網(wǎng)絡(luò)訓(xùn)練程序chap6_2a.m：網(wǎng)絡(luò)測試程序chap6_2b.m：謝謝觀看神經(jīng)網(wǎng)絡(luò)辨識及其應(yīng)用目錄CONTENTS神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)01BP網(wǎng)絡(luò)辨識02BP網(wǎng)絡(luò)的逼近03基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模04基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建模05RBF網(wǎng)絡(luò)的逼近06基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制07Hopfield網(wǎng)絡(luò)辨識08RBF網(wǎng)絡(luò)辨識應(yīng)用-自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制0905基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建模神經(jīng)網(wǎng)絡(luò)應(yīng)用于系統(tǒng)建模的一個優(yōu)點是通過直接學(xué)習(xí)系統(tǒng)的輸入輸出數(shù)據(jù)使所要求的誤差準(zhǔn)則函數(shù)達(dá)到最小，從而辨識出隱含在系統(tǒng)輸入輸出的關(guān)系。利用神經(jīng)網(wǎng)絡(luò)建模的基本結(jié)構(gòu)圖如圖6-13所示。五、基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建?；驹韴D6-13基本的神經(jīng)網(wǎng)絡(luò)建模結(jié)構(gòu)

五、基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建模基本原理使用BP網(wǎng)絡(luò)對下列對象進(jìn)行建模：五、基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建模仿真實例

將模型離散為200個樣本，每次迭代時，分別依次對各個樣本進(jìn)行訓(xùn)練，更新權(quán)值，直到所有樣本訓(xùn)練完畢，再進(jìn)行下一次迭代，直到滿足迭代要求為止。BP網(wǎng)絡(luò)離線訓(xùn)練程序見chap6_3a.m。BP網(wǎng)絡(luò)在線估計程序見chap6_3b.m。神經(jīng)網(wǎng)絡(luò)離線訓(xùn)練誤差收斂過程如圖6-14，圖6-15表示神經(jīng)網(wǎng)絡(luò)在線估計系統(tǒng)輸入和期望輸出。五、基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建模仿真實例仿真實例圖6-14神經(jīng)網(wǎng)絡(luò)離線訓(xùn)練誤差五、基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建模仿真實例仿真程序：BP網(wǎng)絡(luò)離線訓(xùn)練程序：chap6_3a.mBP網(wǎng)絡(luò)在線估計程序：chap6_3b.m圖6-15神經(jīng)網(wǎng)絡(luò)在線估計五、基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建模謝謝觀看神經(jīng)網(wǎng)絡(luò)辨識及其應(yīng)用劉金琨目錄CONTENTS神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)01BP網(wǎng)絡(luò)辨識02BP網(wǎng)絡(luò)的逼近03基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模04基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建模05RBF網(wǎng)絡(luò)的逼近06基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制07Hopfield網(wǎng)絡(luò)辨識08RBF網(wǎng)絡(luò)辨識應(yīng)用-自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制0906RBF網(wǎng)絡(luò)的逼近徑向基函數(shù)(RBF-RadialBasisFunction)神經(jīng)網(wǎng)絡(luò)是由J.Moody和C.Darken在二十世紀(jì)八十年代末提出的一種神經(jīng)網(wǎng)絡(luò),它是具有單隱層的三層前饋網(wǎng)絡(luò)。RBF網(wǎng)絡(luò)模擬了人腦中局部調(diào)整、相互覆蓋接收域（或稱感受野-ReceptiveField）的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，已證明RBF網(wǎng)絡(luò)能任意精度逼近任意連續(xù)函數(shù)。RBF網(wǎng)絡(luò)的學(xué)習(xí)過程與BP網(wǎng)絡(luò)的學(xué)習(xí)過程類似，兩者的主要區(qū)別在于各使用不同的作用函數(shù)。BP網(wǎng)絡(luò)中隱含層使用的是Sigmoid函數(shù)，其值在輸入空間中無限大的范圍內(nèi)為非零值，因而是一種全局逼近的神經(jīng)網(wǎng)絡(luò)；而RBF網(wǎng)絡(luò)中的作用函數(shù)是高斯基函數(shù)，其值在輸入空間中有限范圍內(nèi)為非零值，因而RBF網(wǎng)絡(luò)是局部逼近的神經(jīng)網(wǎng)絡(luò)。六、RBF網(wǎng)絡(luò)的逼近RBF網(wǎng)絡(luò)理論上，3層以上的BP網(wǎng)絡(luò)能夠逼近任何一個非線性函數(shù)，但由于BP網(wǎng)絡(luò)是全局逼近網(wǎng)絡(luò)，每一次樣本學(xué)習(xí)都要重新調(diào)整網(wǎng)絡(luò)的所有權(quán)值，收斂速度慢，易于陷入局部極小，很難滿足控制系統(tǒng)的高度實時性要求。RBF網(wǎng)絡(luò)是一種三層前向網(wǎng)絡(luò)，由輸入到輸出的映射是非線性的，而隱含層空間到輸出空間的映射是線性的，而且RBF網(wǎng)絡(luò)是局部逼近的神經(jīng)網(wǎng)絡(luò)，因而采用RBF網(wǎng)絡(luò)可大大加快學(xué)習(xí)速度并避免局部極小問題，適合于實時控制的要求。采用RBF網(wǎng)絡(luò)構(gòu)成神經(jīng)網(wǎng)絡(luò)控制方案，可有效提高系統(tǒng)的精度、魯棒性和自適應(yīng)性。六、RBF網(wǎng)絡(luò)的逼近RBF網(wǎng)絡(luò)多輸入單輸出的RBF網(wǎng)絡(luò)結(jié)構(gòu)如圖6-16所示。六、RBF網(wǎng)絡(luò)的逼近RBF網(wǎng)絡(luò)圖6-16RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)采用RBF網(wǎng)絡(luò)逼近一對象的結(jié)構(gòu)如圖6-17所示。六、RBF網(wǎng)絡(luò)的逼近圖6-17RBF神經(jīng)網(wǎng)絡(luò)在線逼近RBF網(wǎng)絡(luò)的逼近在RBF網(wǎng)絡(luò)結(jié)構(gòu)中，為網(wǎng)絡(luò)的輸入向量。設(shè)RBF網(wǎng)絡(luò)的徑向基向量，其中hj為高斯基函數(shù)：六、RBF網(wǎng)絡(luò)的逼近RBF網(wǎng)絡(luò)的逼近

設(shè)網(wǎng)絡(luò)的基寬向量為：

RBF網(wǎng)絡(luò)的輸出為：六、RBF網(wǎng)絡(luò)的逼近RBF網(wǎng)絡(luò)的逼近

根據(jù)梯度下降法，輸出權(quán)值學(xué)習(xí)算法如下：

RBF網(wǎng)絡(luò)性能指標(biāo)函數(shù)為：

六、RBF網(wǎng)絡(luò)的逼近RBF網(wǎng)絡(luò)的逼近

使用RBF網(wǎng)絡(luò)逼近下列對象：仿真實例六、RBF網(wǎng)絡(luò)的逼近

RBF網(wǎng)絡(luò)逼近程序見chap6_4.m。仿真結(jié)果如圖6-18至圖6-20所示。仿真實例六、RBF網(wǎng)絡(luò)的逼近圖6-18RBF網(wǎng)絡(luò)辨識結(jié)果仿真實例六、RBF網(wǎng)絡(luò)的逼近圖6-19RBF網(wǎng)絡(luò)辨識誤差仿真實例六、RBF網(wǎng)絡(luò)的逼近圖6-20Jacobian信息的辨識仿真程序：chap6_4.m神經(jīng)網(wǎng)絡(luò)辨識及其應(yīng)用劉金琨目錄CONTENTS神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)01BP網(wǎng)絡(luò)辨識02BP網(wǎng)絡(luò)的逼近03基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模04基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建模05RBF網(wǎng)絡(luò)的逼近06基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制07Hopfield網(wǎng)絡(luò)辨識08RBF網(wǎng)絡(luò)辨識應(yīng)用-自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制0907基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制自校正控制有兩種結(jié)構(gòu)：直接型與間接型。直接型自校正控制也稱直接逆動態(tài)控制，是前饋控制。間接自校正控制是一種由辨識器將對象參數(shù)進(jìn)行在線估計，用調(diào)節(jié)器（或控制器）實現(xiàn)參數(shù)的自動整定相結(jié)合的自適應(yīng)控制技術(shù)，可用于結(jié)構(gòu)已知而參數(shù)未知但參數(shù)恒定的隨機(jī)系統(tǒng)，也可用于結(jié)構(gòu)已知而參數(shù)緩慢時變的隨機(jī)系統(tǒng)。神經(jīng)自校正控制結(jié)構(gòu)如圖6-21所示，它由兩個回路組成：1.自校正控制器與被控對象構(gòu)成的反饋回路。2.神經(jīng)網(wǎng)絡(luò)辯識器與控制器設(shè)計，實現(xiàn)控制器?？梢?，辯識器與自校正控制器的在線設(shè)計是自校正控制實現(xiàn)的關(guān)鍵。七、基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制神經(jīng)網(wǎng)絡(luò)自校正控制原理七、基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制神經(jīng)網(wǎng)絡(luò)自校正控制原理圖6-21神經(jīng)網(wǎng)絡(luò)自校正控制框圖

RBF網(wǎng)絡(luò)自校正控制考慮被控對象：

七、基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制

RBF網(wǎng)絡(luò)自校正控制

七、基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制

RBF網(wǎng)絡(luò)自校正控制

七、基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制

RBF網(wǎng)絡(luò)自校正控制七、基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制網(wǎng)絡(luò)的權(quán)向量為：

兩個RBF網(wǎng)絡(luò)的輸出分別為：

其中m為RBF網(wǎng)絡(luò)隱層神經(jīng)元的個數(shù)。RBF網(wǎng)絡(luò)自校正控制七、基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制辨識后，對象的輸出為：

采用梯度下降法調(diào)整網(wǎng)絡(luò)的權(quán)值：

設(shè)神經(jīng)網(wǎng)絡(luò)調(diào)整的性能指標(biāo)為：

RBF網(wǎng)絡(luò)自校正控制七、基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制神經(jīng)網(wǎng)絡(luò)權(quán)值的調(diào)整過程為：

圖6-22神經(jīng)網(wǎng)絡(luò)辨識器RBF網(wǎng)絡(luò)自校正控制七、基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制綜上所述，神經(jīng)網(wǎng)絡(luò)自校正控制系統(tǒng)的結(jié)構(gòu)如圖6-23所示。圖6-23神經(jīng)網(wǎng)絡(luò)自校正控制框圖七、基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制被控對象為：

仿真實例RBF網(wǎng)絡(luò)逼近程序見chap6_4.m。仿真結(jié)果如圖6-18至圖6-20所示。圖6-24正弦輸出跟蹤七、基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制仿真實例

七、基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制仿真實例

七、基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制仿真實例仿真程序：chap6_5.m神經(jīng)網(wǎng)絡(luò)辨識及其應(yīng)用劉金琨目錄CONTENTS神經(jīng)網(wǎng)絡(luò)理論基礎(chǔ)01BP網(wǎng)絡(luò)辨識02BP網(wǎng)絡(luò)的逼近03基于數(shù)據(jù)的BP網(wǎng)絡(luò)離線建模04基于模型的BP神經(jīng)網(wǎng)絡(luò)離線建模05RBF網(wǎng)絡(luò)的逼近06基于未知項在線建模的RBF網(wǎng)絡(luò)自校正控制07Hopfield網(wǎng)絡(luò)辨識08RBF網(wǎng)絡(luò)辨識應(yīng)用-自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制0908Hopfield網(wǎng)絡(luò)辨識1986年美國物理學(xué)家J.J.Hopfield利用非線性動力學(xué)系統(tǒng)理論中的能量函數(shù)方法研究反饋人工神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性，提出了Hopfield神經(jīng)網(wǎng)絡(luò)，并建立了求解優(yōu)化計算問題的方程。基本的Hopfield神經(jīng)網(wǎng)絡(luò)是一個由非線性元件構(gòu)成的全連接型單層反饋系統(tǒng)，Hopfield網(wǎng)絡(luò)中的每一個神經(jīng)元都將自己的輸出通過連接權(quán)傳送給所有其它神經(jīng)元，同時又都接收所有其它神經(jīng)元傳遞過來的信息。Hopfield神經(jīng)網(wǎng)絡(luò)是一個反饋型神經(jīng)網(wǎng)絡(luò)，網(wǎng)絡(luò)中的神經(jīng)元在t時刻的輸出狀態(tài)實際上間接地與自己的t-1時刻的輸出狀態(tài)有關(guān)，其狀態(tài)變化可以用差分方程來描述。反饋型網(wǎng)絡(luò)的一個重要特點就是它具有穩(wěn)定狀態(tài)，當(dāng)網(wǎng)絡(luò)達(dá)到穩(wěn)定狀態(tài)的時候，也就是它的能量函數(shù)達(dá)到最小的時候。八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)原理Hopfield神經(jīng)網(wǎng)絡(luò)的能量函數(shù)不是物理意義上的能量函數(shù)，而是在表達(dá)形式上與物理意義上的能量概念一致，表征網(wǎng)絡(luò)狀態(tài)的變化趨勢，并可以依據(jù)Hopfield工作運行規(guī)則不斷進(jìn)行狀態(tài)變化，最終能夠達(dá)到的某個極小值的目標(biāo)函數(shù)。網(wǎng)絡(luò)收斂就是指能量函數(shù)達(dá)到極小值。如果把一個最優(yōu)化問題的目標(biāo)函數(shù)轉(zhuǎn)換成網(wǎng)絡(luò)的能量函數(shù)，把問題的變量對應(yīng)于網(wǎng)絡(luò)的狀態(tài)，那么Hopfield神經(jīng)網(wǎng)絡(luò)就能夠用于解決優(yōu)化組合問題。八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)原理

八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)原理八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)原理圖6-27Hopfield神經(jīng)網(wǎng)絡(luò)模型

八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)原理

為了描述Hopfield網(wǎng)絡(luò)的動態(tài)穩(wěn)定性，定義能量函數(shù)：

八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)原理

八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)原理

八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)原理

八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)原理

Hopfield網(wǎng)絡(luò)線性系統(tǒng)參數(shù)辨識在系統(tǒng)辨識中，直接采用Hopfield神經(jīng)網(wǎng)絡(luò)對時域內(nèi)動態(tài)系統(tǒng)實現(xiàn)參數(shù)估計是一種簡單而直接的動態(tài)系統(tǒng)辨識方法。該方法的特點是根據(jù)Hopfield神經(jīng)網(wǎng)絡(luò)的動力學(xué)機(jī)制，使其神經(jīng)元的輸出值對應(yīng)待識參數(shù)，則系統(tǒng)趨于穩(wěn)定的過程就是待辨識參數(shù)辨識的過程。利用Hopfield網(wǎng)絡(luò)進(jìn)行辨識時，取所定義的辨識能量函數(shù)等于Hopfield網(wǎng)絡(luò)標(biāo)準(zhǔn)能量函數(shù)，通過Hopfield神經(jīng)網(wǎng)絡(luò)動態(tài)方程，得到Hopfield網(wǎng)絡(luò)的連接權(quán)矩陣W和神經(jīng)元的外部輸入I，然后將其代入Hopfield網(wǎng)絡(luò)動態(tài)方程運行，經(jīng)過一段時間后，可得到穩(wěn)定的參數(shù)辨識結(jié)果。八、Hopfield網(wǎng)絡(luò)辨識設(shè)待辨識為二階線性系統(tǒng)的參數(shù)，系統(tǒng)的狀態(tài)方程為

八、Hopfield網(wǎng)絡(luò)辨識1．系統(tǒng)描述Hopfield網(wǎng)絡(luò)線性系統(tǒng)參數(shù)辨識

則二階線性系統(tǒng)的參數(shù)的辨識過程就是向量P的辨識過程。用于辨識的可調(diào)系統(tǒng)為

八、Hopfield網(wǎng)絡(luò)辨識2．參數(shù)辨識基本原理Hopfield網(wǎng)絡(luò)線性系統(tǒng)參數(shù)辨識

由式（6.54）和式（6.55）得：

其中e為狀態(tài)偏差。

八、Hopfield網(wǎng)絡(luò)辨識3．Hopfield網(wǎng)絡(luò)辨識函數(shù)的設(shè)計Hopfield網(wǎng)絡(luò)線性系統(tǒng)參數(shù)辨識由于

即

其中E中的各項可表達(dá)為

八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)線性系統(tǒng)參數(shù)辨識

由于則八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)線性系統(tǒng)參數(shù)辨識

八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)線性系統(tǒng)參數(shù)辨識

Hopfield網(wǎng)絡(luò)能量函數(shù)趨于極小的過程，就是估計矩陣G和F收斂于實際矩陣A和B的過程。通過構(gòu)建一個具體的Hopfield網(wǎng)絡(luò)，可進(jìn)行參數(shù)辨識。八、Hopfield網(wǎng)絡(luò)辨識4．用于辮識的Hopfied網(wǎng)絡(luò)設(shè)計Hopfield網(wǎng)絡(luò)線性系統(tǒng)參數(shù)辨識Hopfield神經(jīng)網(wǎng)絡(luò)第個神經(jīng)元的動態(tài)微分方程為：

八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)線性系統(tǒng)參數(shù)辨識

Hopfield網(wǎng)絡(luò)的標(biāo)準(zhǔn)能量函數(shù)為：利用Hopfield網(wǎng)絡(luò)進(jìn)行辨識時，取所定義的辨識能量函數(shù)與Hopfield網(wǎng)絡(luò)標(biāo)準(zhǔn)能量函數(shù)相等，即E=EN。八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)線性系統(tǒng)參數(shù)辨識

對比式（6.66）、式（6.67）和式（6.71），可將網(wǎng)絡(luò)得權(quán)值表示為：

由式（6.72）的W和I代入（6.69）式，可得到穩(wěn)定的ui，通過雙曲函數(shù)g(·)，可得到網(wǎng)絡(luò)最終辨識結(jié)果的輸出：八、Hopfield網(wǎng)絡(luò)辨識Hopfield網(wǎng)絡(luò)線性系統(tǒng)參數(shù)辨識

由于以下兩點，Hopfield網(wǎng)絡(luò)只能實現(xiàn)參數(shù)的近似辨識：

針對二階系