1、最小二乘法在系統(tǒng)辨識中的應(yīng)用王文進控制科學(xué)與控制工程學(xué)院控制理論與控制工程專業(yè)2009010211摘要：在實際的工程中，經(jīng)常要對一個系統(tǒng)建立數(shù)學(xué)模型。很多時候，要面對一個未知的系統(tǒng)，對于這些未知系統(tǒng)，我們所知道的僅僅是它們的一些輸入輸出數(shù)據(jù)，我們要根據(jù)這些測量的輸入輸出數(shù)據(jù)，建立系統(tǒng)的數(shù)學(xué)模型。由此誕生了系統(tǒng)辨識這門科學(xué)，系統(tǒng)辨識就是研究怎樣利用對未知系統(tǒng)的輸入輸出數(shù)據(jù)建立描述系統(tǒng)的數(shù)學(xué)模型的科學(xué)。系統(tǒng)辨識在工程中的應(yīng)用非常廣泛，系統(tǒng)辨識的方法有很多種，最小二乘法是一種應(yīng)用及其廣泛的系統(tǒng)辨識方法。本文主要講述了最小二乘估計在系統(tǒng)辨識中的應(yīng)用。首先，為了便于介紹，用一個最基本的單輸入單輸出模型來

2、引入系統(tǒng)辨識中的最小二乘估計。例如：y=ax+s(1)其中：y、x可測，s為不可測的干擾項，a未知參數(shù)。通過N次實驗，得到測量數(shù)據(jù)y和xk，其中k=l、2、3、，我們所需要做的就是通過這N次實驗得到的數(shù)據(jù)，來確定未知參數(shù)a。在忽略不可測干擾項的前提下，基本的思想就是要使觀測點yk和由式(1)確定的估計點y的差的平方和達到最小。用公式表達出來就是要使J最小：J(y-ax)2=minkkk=1確定未知參數(shù)a的具體方法就是令：dJ/da=0,導(dǎo)出a為xyJ=£-2x(y-ax)=0dakkkk=1kka=k=i為x2kk=1通過上面最基本的單輸入單輸出模型，我們對系統(tǒng)辨識中的最小二乘法有了

3、初步的了解，但在實際的工程中，系統(tǒng)一般為多輸入系統(tǒng)，下面就用一個實際的例子來分析。在接下來的表述中，為了便于區(qū)分，向量均用帶下劃線的字母表示。水泥在凝固過程中，由于發(fā)生了一系列的化學(xué)反應(yīng)，會釋放出一定的熱量。若水泥成分及其組成比例不同，釋放的熱量也會不同。水泥凝固放熱量與水泥成分的關(guān)系模型如下：y=a0+aiXi+心+S其中，y為水泥凝固時的放熱量(卡/克)；Xx2為水泥的幾種成分。引入?yún)?shù)向量：©=a0，%,叫卩經(jīng)過N次試驗，得出N個方程：yk=業(yè)Jg+sk；k=1、2、N其中：2k=1,X,x2,xN卩方程組可用矩陣表示為：y=g+s其中：y=y1,y2,yNT&=s1,

4、s2,sNT1x.x申T_111n11x.x申T12n2_21x.1NxnN申TLN有：估計準則有J=f（y_申t0）2k_k_k=1J=（巴:0）-（yN一巴N0）=（y-0）T（y-0）（y申T0）1-1_*J=yTy+0TT0-yT0-0TTy=yTy+0TT0-20TTy假設(shè)：（T）滿秩，由根據(jù)矩陣值函數(shù)對矩陣變量的導(dǎo)數(shù)和數(shù)量函數(shù)對矩陣變量的導(dǎo)數(shù)可以得出以下兩個公式：a（xta）dxa（xTAx）ax2Axa（0TTy）a0_=tyae上所以：aJa解出參數(shù)估0向量:+°TT20TV）=2T2p0L=（T）-1Ty至此，水泥的凝固放熱量與水泥的成分關(guān)系模型即建立起來了?？偨Y(jié)：在本文中，主要用到了矩陣里的最小二乘法思想，在具體求解過程中，還用到了矩陣值函數(shù)對矩陣變量的求導(dǎo)和數(shù)量函數(shù)對矩陣變量的求導(dǎo)。雖然最小二乘問題在本學(xué)期所學(xué)的矩陣論里不是作為重點來講，但最小二乘法在工程中的作用卻是難以估計的。有統(tǒng)計史家這樣評價，“最小二乘法之于統(tǒng)計