1、1.系統(tǒng)辨識的概念系統(tǒng)辨識是利用系統(tǒng)運行或實驗過程中獲取的系統(tǒng)輸入-輸出數據求得系統(tǒng)數學模型（傳遞 函數）的方法和技術。過程的概念通常泛指具有時間或空間上的跨度的對象。具體的如：工程系統(tǒng)、生物系統(tǒng)或社會經濟系統(tǒng) 都可以稱為過程模型的概念指過程運動規(guī)律的本質描述。模型按照描述形式分類（1）直覺模型指過程的特性以非解析的形式直接存儲在人腦中靠人的直覺控制過程地進行。（2）物理模型實際過程的一種物理模擬。（3）圖表模型以圖形式或表格的形式來表現過程的特性，也成為非參數模型。（4）數學模型用數學結構的形式來反映實際過程的行為特點。根據模型的特性，數學模型可以分為線性和非線性模型系統(tǒng)線性與關于參數空間線

2、性本質線性與本質非線性動態(tài)和靜態(tài)模型確定性和隨機性模型宏觀（積分方程）和微觀（微分方程）模型等建立過程數學模型的兩種主要方法（1）機理分析法通過分析過程的運動規(guī)律、應用一些已知的規(guī)律、定理和與原理建立過程的數學模型，這種方法也稱為理論建模（2）測試法辨識方法利用輸入輸出數據所提供的信息來建立過程的數學模型白箱一一理論建模黑箱一一辨識建?；蚁湟灰焕碚摻Ｅc辨識建模結合辨識的定義辨識有三個要素-數據、模型類和準則，辨識就是按照一個準則在一組模型類中選擇一個 與數據擬合得最好的模型系統(tǒng)辨識的步驟根據辨識目的，利用先驗知識，初步確立模型結構采集數據進行模型參數和結構辨識驗證獲得最終模型隨機過程無窮多個

3、隨機函數的總體稱為隨機過程。兩層含義：隨機過程& (t)在任一時刻都是隨機變量;隨機過程& (t)是大量樣本函數的集合。各種隨機過程計算公式二維分布函數：F 3 J ； t ,t )=P g(t) x , g(t) x 2 1 2 1 21122二維概率密度函數:d2 F (x , x ; t , t ) f ( x , x ； t , t ) =21212128 x - 6 x一維和n維類推數學期望：反映了隨機過程取值的集中位置E 化(t) = L x P (x ) = a (t)(離散)i = 1E化(t) = J8 xf (x)dx = a(t)(連續(xù))-8方差：反映了隨機過程的集中程度

4、b 2 = D& (t) = E 頃t) - a(t)2 = J8 & (t) - a(t)2 f (x) dx-8自協方差：用來衡量任意兩個時刻上獲得的隨機變量的統(tǒng)計相關特性B(t ,t ) = E& (t ) - a(t )& (t ) - a(t ) TOC o 1-5 h z 121122二x - a (t ) x - a (t ) f (x , x ; t , t ) dx dx 11222121212-8 -8自相關函數：R(t1，12) = E & ()& (12)=J8 x x f (x , x ;t , t )dx dx -8-8122121212二者關系：B (t , t

5、) = R (t , t ) - E&(t ) - E&(t ) 121212互協方差函數：B (t , t ) = E & (t ) - a (t )門(t ) - a (t ) 如 121&12 n 2互相關函數:&暴t, t）= e &（t）n（t）頃 1212特別的：R5（t ） = 0表示兩個隨機過程是不相關（正交的隨機過程）平穩(wěn)隨機過程對于任意的正整數n和任意實數匕，t2，tn，T，隨機過程& （t）的n維概率密度函數滿足f （x , x ,，x ； t , t ,，t ） = f （x , x ,，x ； t + T , t + T ,，t + T ） n 12n 12nn 12

6、n 12n則稱& （t）為平穩(wěn)隨機過程（嚴平穩(wěn)隨機過程或狹義平穩(wěn)隨機過程）若隨機過程& （t）的數學期望和方差與時間無關，自相關函數僅是T的函數，則稱它為寬平穩(wěn) 隨機過程或廣義平穩(wěn)隨機過程。各態(tài)歷經性隨機過程中的任一實現都經歷了隨機過程的所有可能狀態(tài)。平穩(wěn)隨機過程的一些結論平穩(wěn)隨機過程經線性系統(tǒng)傳輸后,輸出仍然為平穩(wěn)隨機過程。輸入是各態(tài)歷經的隨機過程，輸出也是各態(tài)歷經的隨機過程。輸入是高斯過程，輸出也是高斯過程，只是均值和方差發(fā)生了變化。非參數模型辨識方法獲得模型是非參數模型在假設過程是線性的前提下，不必事先確定模型的具體結構，因而這類方法適用于任意復雜 的過程參數模型辨識方法必須首先假定一種

7、模型結構，通過極小化模型與過程之間的誤差準則函數來確定模型的參 數。如果無法確定模型的結構，先進行結構辨識，確定模型的結構參數，然后再確定模型參 數。參數模型與非參數模型轉化施加特定的實驗信號，同時測定過程的輸出，可以求得這些非參數模型，經過適當的數學處 理，將它們的轉化成參數模型一一傳遞函數形式。一階慣性環(huán)節(jié)階躍響應求傳函G (s)=K1 + Ts_ y (8) y (0) A u對于時間常數T,由于t=T時，y(t)=0.63K,所以取y(t)=0.63y( 8)時對應的t就是過程的時 間常數T。18. 一階純滯后階躍響應求傳函KG (s) =e TsK的求法與前面相同，T和T可通過圖解求

8、得。在響應曲線的拐點處作一切線，該切線與時間軸相交于L,與穩(wěn)態(tài)值漸近線相交于M,則0L即為T值，切線ML在時間軸上的投影就19. 一階慣性環(huán)節(jié)脈沖響應G (s)=+ 1)20.二階慣性環(huán)節(jié)脈沖響應2最小二乘提法數學模型：A (z -1) z (k) = B (z -1) u (k) + n (k)(3)將(3)模型寫成最小二乘格式：z(k) = hT (k)0 + n(k)h (k) = - z (k - 1),，一z (k - n ), u (k - 1),，u (k - nb) tI 0 = a , a ，,a , b , b，b tI12na 12nb對 k = 1,2,，L有Zl =

9、HQ +七其中：IZL = z(1), z(2), z(L)t nL = n(1), n(2), n(L)t-hT (1)-z(0) - z (1 - n )u (0)u (1 一 n )H =LhT (2):=-z- z (1 - n )u (1) /cu(2- nb)_hT(L)_z (L 1)-z (L - n )u (L 1)u (L - n )最小二乘統(tǒng)計性質（1） 無偏性：若模型z = H 0 + n中的噪聲向量n的均值為零，即En = 0，并且n TOC o 1-5 h z LLLLLL與H是統(tǒng)計獨立的，即cov n , H = 0，則加權最小二乘參數估計值& 是無偏LL LWL

10、S估計量，即E0 =0，其中0表示系統(tǒng)的真實值。WLS00（2）協方差性質：一堆不懂的公式-（3） 一致性：如果估計值具有一致性，說明它將以概率1收斂于真值。最小二乘參數估 計是一致性收斂的。（前提：噪聲是白噪聲）（4）有效性：估計值偏差的協方差陣將達到最小值。（5） 漸近正態(tài)性：設噪聲n服從正態(tài)分布，則最小二乘估計值0服從正態(tài)分布。LLS殘差指實際觀察值與回歸估計值的差。最小二乘參數估計遞推算法及初值的選取新的估計值0”（k）=老的估計值0”（k - 1） +修正項目的：減小重復計算量和貯存空間、便于在線應用。思想：按觀測次序一步一修正。初值選?。海?） 根據一批數據，利用一次完成算法，預先

11、求得(Hta H ) -1L0L0L0P(0) Ht a zP (L 0) =|0 (L0)=(2)直接給定初始值P (0) = a 2/a -充分大的實數9 (0) = & -充分小的實向量噪聲方差估計噪聲方差Q 2的估計值由下式計算n T 人 _b 2 = LL n L - dim 9 八其中dim 9 = n + n，為輸出殘差，即 = z H 9a b LL L L LS殘差與新息的關系新息 z(k) = z(k) hT (k)9 (k 1)描述k時刻的輸出預報誤差殘差 (k) = z(k) - hT (k)9(k)用來描述k時刻的輸出偏差遞推算法的收斂性如果噪聲是零均值的白噪聲，那么

12、遞推算法給出的參數估計值是一致收斂的。最小二乘法的缺陷當模型噪聲是有色噪聲時，最小二乘參數估計不是無偏一致估計。隨著數據的增長，最小二乘法將出現數據飽和現象，這是由于增益矩陣K(k)隨著k的 增加將逐漸趨近于零，以致遞推算法慢慢失去修正能力。針對這些現象，提出了一些修正算法以解決數據飽和問題：遺忘因子法和限定記憶法遺忘因子的特點遺忘因子的取值大小對算法的性能會產生直接的影響。值增加時，算法的跟蹤能力下降， 但算法的魯棒性增強；值減少時，算法的跟蹤能力增強，但算法的魯棒性下降，對噪聲 更顯得敏感。遺忘因子LS法和加權RLS算法主要的差別加權方式不同加權RLS法各時刻權重是不相關的，也不隨時間變化

13、；遺忘因子法各時刻權重是有關聯的，各時刻權重的大小隨時間變化.加權的效果不一樣加權RLS法獲得的是系統(tǒng)的平均特性；遺忘因子法能實時跟蹤系統(tǒng)明顯的變化,對系統(tǒng)的時變特性具有跟蹤能力.限定記憶法特點限定記憶法的參數估計值始終依賴于有限個最新數據所提供的信息，每增加一個新數據，就 去掉一個老數據，數據長度始終不變。偏差補償最小二乘法基本思想若噪聲為有色噪聲則最小二乘法是有偏的，偏差補償最小二乘法的提出就是為了補償有色噪 聲造成的估計偏差。增廣最小二乘算法增廣最小二乘算法(RELS)是最小二乘算法(RLS)的推廣，只是信息向量和參數向量中 分別增加了噪聲模型的信息和參數。廣義最小二乘法廣義最小二乘的基

14、本思想是基于對數據先進行一次濾波預處理，然后利用普通最小二乘法對 濾波后的數據進行辨識。廣義最小二乘所用的濾波模型實際上就是一種動態(tài)模型，在整個迭 代過程中不斷靠偏差信息來調整這個濾波模型，使它逐漸逼近于一個較好的濾波模型，以便 對數據進行較好的白化處理，使模型參數估計成為無偏一致估計。輔助變量法噪聲為有色噪聲時，直接利用最小二乘法無法獲得模型參數的無偏一致估計,這時可以應用 輔助變量法，選擇合適的輔助變量以得到無偏一致估計。相關兩步法只要求噪聲是與輸入不相關的零均值平穩(wěn)噪聲，則噪聲不影響辨識結果。并不要求噪聲為白 噪聲.多級最小二乘法應用廣義最小二乘法時，當噪聲較大時，很難得到全局最小，可以

15、用多級最小二乘法來辨識。系統(tǒng)的結構辨識模型結構辨識包括：模型驗前結構的假定模型的驗前結構通?？芍苯硬捎貌罘址匠袒驙顟B(tài)方程的表達形式模型結構參數的確定線性過程的模型結構辨識實際上就是確定模型階次或Kronecter不變量梯度校正參數辨識新的參數估計值=老的參數估計值+增益矩陣X新息梯度校正參數辨識的遞歸算法的結構如同上式，但其基本思想與最小二乘類算法不同，它是 通過沿著如下準則函數的負梯度方向，逐步修正模型參數估計值，直至準則函數達到最小。權矩陣選取的意義權矩陣的選擇至關重要，它的作用是用來控制各輸入分量對參數估計值的影響程度。一般地，我們選擇權矩陣的形式為R (k) = c(k)diag A

16、(k), A (k), A (k)。只要適當選擇A (k)，就能控制各輸入分量對參數估計值的影響。例如，如果選擇A (k)=日 i ,0 日 1; i = 1,2,，N意味著輸入分量h +1(k)對參數估計值的影響較h (k)弱，顯然這種情況對參數估計值的影響 最小。如果選擇diag A 1(k), A2(k), . , An (k) = I則各輸入分量的加權值相同，它們對參數估計值的影響是相同的。權矩陣的選擇一般的選擇：c . .R (k) =diag A 1( k), A 2( k), . , A & (k) 義 A (k)h2(k)i = 1、0 c 2最佳權矩陣的選擇(Lyapunov

17、最佳權矩陣):1R *(k) = diag A (k), A (k), , A (k)乂 A (k)h2(k)12Ni ii = 1確定性問題的梯度校正法與隨機性問題的梯度校正法的優(yōu)劣確定性問題的梯度校正法最大的優(yōu)點：計算簡單缺點：如果過程的輸入輸出含有噪聲，這種方法不能用隨機性問題的梯度校正法特點：計算簡單，可用于在線實時辯識缺陷：事先必須知道噪聲的一階矩和二階矩統(tǒng)計特性隨機性問題的權矩陣選擇如果權矩陣選擇如下形式：R (k) = c (k) diag Ak), A 2( k),，A (k)則R (k)中的c (k)可選c (k)=,上 p 0kP 2可以分段選擇R (k)，加快收斂速度。隨

18、機逼近法原理通過極小化零均值噪聲的方差來實現模型的參數辨識。極大似然法極大似然法一一需要構造一個以數據和未知參數為自變量的似然函數，通過極大化似然函 數獲得模型的參數估計值。模型輸出的概率分布將最大可能地逼近實際過程輸出的概率分 布。預報誤差法預報誤差法一一需要事先確定一個預報誤差準則函數，并利用預報誤差的信息來確定模型的 參數。極大似然法和預報誤差法優(yōu)缺點總體而言優(yōu)點：參數估計量具有良好的漸近性質缺點：計算量比較大極大似然法：要求數據的概率分布是已知的，通常都假設它們是服從高斯分布的。實際問題不一定滿足這 一假設，如果數據的概率分布不知道，使用極大似然法存在著一定的困難。預報誤差法：不要求數據概率分布的先驗知識，解決更加一般問題的一種辯識方法，是極大似然法的一種 推廣，當數據的概率分布服從正態(tài)分布時，等價與極大似然法。模型階次和參數估計的關系互相依賴，不能分離。進行參數估計時，需要已知階次，辯識階次時，利用參數估計值，同 時辯識階次和參數估計。模型階次的確定方法根據Hanke