1、數(shù) 值 建 模,數(shù)據(jù)處理的方法及示例,一、插值 二、數(shù)據(jù)擬合 三、神經(jīng)網(wǎng)絡(luò)方法 四、支持向量機,講課大綱,插 值 造飛機的工廠 擬 合 姚沁蕾的身高,在工程實踐與科學(xué)實驗中,常常需要從一組試驗數(shù)據(jù)之中找到自變量與因變量之間的關(guān)系，一般可用一個近似函數(shù)表示。 函數(shù)產(chǎn)生的辦法因觀測數(shù)據(jù)的要求不同而異，數(shù)據(jù)插值與擬合是兩種常用的方法。,1.90,1.88,2.08,2.26,回歸分析,1855年 “遺傳的身高向平均數(shù)方向的回歸” 父母越高，子女的身高會比一般兒童高； 矮個子的兒子比其父要高，身材較高的父母所生子女的身高將回降到人的平均身高。,高爾頓 生物統(tǒng)計學(xué)派奠基人,施化肥量對水稻產(chǎn)量影響的試驗數(shù)

2、據(jù)：,插值與擬合的區(qū)別,插值與擬合的區(qū)別： 插值試圖去通過已知點了解未知點處的函數(shù)值； 擬合則在于在整體上用某種已知函數(shù)去擬合數(shù)據(jù)點列所在未知函數(shù)的性態(tài)。 關(guān)鍵區(qū)別在于插值要求必須經(jīng)過已知點列，擬合只求盡量靠近不必經(jīng)過！,內(nèi)容：插值是離散函數(shù)逼近的重要方法，利用它可通過函數(shù)在有限個點處的取值狀況，估算出函數(shù)在其他點處的近似值 要求：掌握Matlab插值函數(shù)，處理插值應(yīng)用問題 了解分段線性插值的基本思想 了解三次樣條插值的提法和思路 掌握插值函數(shù) interp interp1 interp2 griddata,插 值,圖像插值放大,數(shù)碼相機運用插值的方法可以創(chuàng)造出比傳感器實際像素更多的圖像，這種

3、處理稱為“數(shù)碼變焦”。,106*40原始圖像：,左邊： 最近鄰插值 放大450%,右邊： 雙三次插值 放大450%,插值在圖像三維重建中的應(yīng)用,插值,一維插值 二維插值,最鄰近點插值,分片線性插值,分片雙線性插值,分片雙三次樣條插值,最鄰近點插值,分段線性插值,三次樣條插值,埃爾米特插值,用直線(線性)連接數(shù)據(jù)點列上相鄰的兩點。 比如在兩點xi-1,xi上線性插值函數(shù)為,分段線性插值,三次樣條(spline)插值,是一個細的、可彎曲的木制或塑料條，在飛機或輪船等的設(shè)計制造過程中為描繪出光滑的外形曲線(放樣)所用的工具,從物理上講，樣條滿足插值點的約束，同時使勢能達到最小,三次樣條本質(zhì)上是一段一

4、段的三次多項式拼合而成的曲線，在拼接處,不僅函數(shù)是連續(xù)的,且一階和二階導(dǎo)數(shù)也是連續(xù)的，1946年,Schoenberg將樣條引入數(shù)學(xué),即所謂的樣條函數(shù),什么是樣條？,三次樣條插值函數(shù),三次樣條插值原理,在n個小區(qū)間構(gòu)造S(x)，共有n個三次多項式，需確定4n個參數(shù),在所有節(jié)點上,n+1個方程,在除端點外的節(jié)點上,3(n-1)個方程,這樣就得到4n - 2個方程，為保證待定參數(shù)的唯一性，還差兩個方程。為此，常用的方法是對邊界節(jié)點除函數(shù)值外附加要求，這就是所謂的邊界條件。根據(jù)實際問題的不同，三次樣條插值常用到下列三類邊界條件。, m邊界條件： 即給定端點處的一階導(dǎo)數(shù)值。, M邊界條件： 即給定端點

5、處的二階導(dǎo)數(shù)值（自然邊界條件）。, 周期邊界條件： 當(dāng)y = g(x)是以 b-a= x0 - xn 為周期的周期函數(shù)時，要求S(x) 也是周期函數(shù)，故端點處要滿足 S(a + 0) = S(b - 0), S(a + 0) = S(b - 0)， 此條件稱為周期條件。, Matlab命令： 用Matlab實現(xiàn)分段線性插值不需要編制函數(shù)程序，Matlab中有現(xiàn)成的一維插值函數(shù)interp1。 y=interp1(x0,y0,x, method) method指定插值的方法，默認為線性插值。其值可為： nearest 最近點等值方式插值 linear 線性插值 spline 三次樣條插值 cub

6、ic（新版本改為pchip） 三次Hermite插值或立方插值。 所有的插值方法要求x0是單調(diào)的。 樣條插值還可以這樣： y=spline(x0,y0,x),分段線性插值與樣條插值,一元插值函數(shù),MATLAB中的一元插值函數(shù)為interp1( )， 它的功能是一維數(shù)據(jù)插值（表格查找）。該命令對數(shù)據(jù)點之間進行計算內(nèi)插值，它出一元函數(shù)f(x)在中間點的數(shù)值，其中函數(shù)f(x)由所給數(shù)據(jù)決定。,（1）nearest方法速度最快，占用內(nèi)存最小，但一般來說誤差最大，插值結(jié)果最不光滑； （2）spline三次樣條插值是所有插值方法中運行耗時最長的，其插值函數(shù)以及插值函數(shù)的一階、二階導(dǎo)函數(shù)都連續(xù)，因此是最光滑

7、的插值方法，占用內(nèi)存上比cubic方法小，但當(dāng)已知數(shù)據(jù)點不均勻分布時可能出現(xiàn)異常結(jié)果。 （3）cubic三次多項式插值法中插值函數(shù)及其一階導(dǎo)數(shù)都是連續(xù)的，因此其插值結(jié)果也比較光滑，運算速度比spline方法略快，但占用內(nèi)存最多。在實際的使用中，應(yīng)根據(jù)實際需求和運算條件選擇合適的算法。,例 用interp1對sin函數(shù)進行分段線性插值。,解：在MATLAB命令窗口中輸入以下命令： x=0:2*pi; y=sin(x); xx=0:0.5:2*pi yy=interp1(x,y,xx); plot(x,y,s,xx,yy),例 ：給出數(shù)據(jù)表格如下： 試求三次樣條函數(shù)滿足自然邊界條件 解：在matl

8、ab工作區(qū)輸入如下代碼： x=28 28.7 29 30; y=4.3 3.9 4.1 3.0; x0=28:0.1:30; yy=spline(x,y,x0); plot(x,y,b*,x0,yy,r); 結(jié)果如圖所示：,例：已知飛機下輪廓線上數(shù)據(jù)如下，求x每改變0.1時的y值。,解：在matlab工作區(qū)輸入如下代碼： x0=0 3 5 7 9 11 12 13 14 15; y0=0 1.2 1.7 2.0 2.1 2.0 1.8 1.2 1.0 1.6; x=0:0.1:15; y=spline(x0,y0,x); plot(x,y,r,x0,y0,b*); title(飛機下輪廓線的三

9、次樣條插值); axis equal; axis(0,15,0,3);,例 假設(shè)已知的數(shù)據(jù)點來自函數(shù)。,x=0:.12:1;y=(x.2-3*x+5).*exp(-5*x).*sin(x);%原始數(shù)據(jù) xdat=0:.02:1; ydat=(xdat.2-3*xdat+5).*exp(-5*xdat).*sin(xdat);%插值點坐標 y1=interp1(x,y,xdat); %線性插值結(jié)果 y2=interp1(x,y,xdat, pchip); %三次Hermite插值結(jié)果 y3=interp1(x,y,xdat, spline); %三次樣條插值結(jié)果 y4=interp1(x,y,x

10、dat, nearest); %最近點等值方式插值結(jié)果 plot(xdat,y1,y2,y3,y4,:,x,y,o,xdat,ydat) legend(線性插值, 三次Hermite插值, 三次樣條插值, 最近點等值方式插值, 原始數(shù)據(jù), 插值點),產(chǎn)生數(shù)據(jù)的命令為：x=0:.12:1;y=(x.2-3*x+5).*exp(-5*x).*sin(x); 試根據(jù)生成的數(shù)據(jù)進行插值處理，得出較平滑的曲線。,Matlab程序：,例 為了繪制乙醇水二元溶液的氣液平衡曲線，查到24點實驗數(shù)據(jù)如表4-4所示。表中x和y分別表示液相和氣相中乙醇摩爾分數(shù)。但表中缺少低濃度點的數(shù)據(jù)，且數(shù)據(jù)分布不均勻。試用三次樣

11、條插值法對以下插值點插值并畫出乙醇水二元溶液的氣液平衡曲線。,表 乙醇水二元溶液的氣液平衡曲線實驗值,x=0, 0.018,0.054,0.078,0.111,0.147,0.172,0.203,0.210,0.241,. 0.297,0.320,0.381,0.391,0.423,0.425,0.497,0.507,0.567,0.685,. 0.767,0.838,0.882,0.894; y=0, 0.163,0.328,0.386,0.452,0.491,0.512,0.524,0.520,0.546,. 0.573,0.577,0.600,0.608,0.621,0.623,0.65

12、3,0.656,0.684,0.743,. 0.796,0.846,0.884,0.894; xk=0.010,0.018,0.020,0.050,0.078,0.100,0.118,0.200,0.300,0.400,. 0.425,0.500,0.600,0.700,0.800,0.838,0.866,0.899; yk=spline(x,y,xk); %yk=csapi(x,y,xk); %pp=csape(x,y,second); %yk=ppval(pp,xk); plot(x,y,*,xk,yk,r);grid; legend(樣本點,三次樣條插值,Location,NorthWe

13、st),Matlab程序一：,這里：x和y分別表示樣本點的液相和氣相中乙醇摩爾分數(shù)，xk和yk分別表示插值點的液相和氣相中乙醇摩爾分數(shù)。,已知二元函數(shù)g(x, y)在某矩形區(qū)域R = a,b c,d上互異節(jié)點(x i , y j) 的函數(shù)值 z ij ，如何求出在R 上任一點(x, y)處的函數(shù)值g(x, y)的近似值。,根據(jù)已知數(shù)據(jù)點(x i , y j , z ij) ，構(gòu)造一個具有一定光滑性、簡單易于計算的函數(shù)z = f (x, y)（已知曲面）作為z = g(x, y)（未知曲面）的近似，使曲面z = f (x, y)通過已知數(shù)據(jù)點，即 f (x i , y j ) = z ij 。然

14、后計算點(x, y)的函數(shù)值f (x, y)作為g(x, y)的近似值。,二維插值,數(shù)學(xué)描述,2基本思想,3網(wǎng)格節(jié)點插值,已知 mn 個節(jié)點,最鄰近點插值,網(wǎng)格節(jié)點插值法主要有以下幾種形式：,分片線性插值,分片雙線性插值,分片雙三次樣條插值,4散亂節(jié)點插值,5二維插值的Matlab實現(xiàn),網(wǎng)格節(jié)點插值,要求x0,y0單調(diào)；x，y可取為矩陣，或x 取行向量，y 取為列向量，x,y 的值分別不能超出x0,y0的范圍。,(1) z = interp2 ( x0, y0, z0, x, y, method),被插值點,插值方法,插值節(jié)點,nearest 最鄰近插值 linear 雙線性插值 spline

15、 三次樣條 cubic 雙三次插值 缺省時 雙線性插值,例 假設(shè)由二元函數(shù),可以計算出一些較稀疏的網(wǎng)格數(shù)據(jù)，試根據(jù)這些數(shù)據(jù)對整個函數(shù)曲面進行各種插值擬合，比較擬合結(jié)果，并進行誤差分析。,原始數(shù)據(jù)與原始面圖 x,y=meshgrid(-3:.6:3, -2:.4:2); z=(x.2-2*x).*exp(-x.2-y.2-x.*y); %原始數(shù)據(jù) figure(1) surf(x,y,z) %原始數(shù)據(jù)面圖 axis(-3,3,-2,2,-0.7,1.5) %設(shè)置坐標軸范圍 box on title(原始數(shù)據(jù)面圖) xdat,ydat=meshgrid(-3:.2:3, -2:.2:2); %插值

16、點坐標,線性插值面圖 zdat1=interp2(x,y,z,xdat,ydat); %線性插值結(jié)果 figure(2) surf(xdat,ydat,zdat1) %線性插值面圖 axis(-3,3,-2,2,-0.7,1.5) %設(shè)置坐標軸范圍 box on title(線性插值面圖),立方插值面圖 zdat2=interp2(x,y,z,xdat,ydat,cubic); %立方插值算法結(jié)果 figure(3) surf(xdat,ydat,zdat2) %立方插值算法面圖 axis(-3,3,-2,2,-0.7,1.5) %設(shè)置坐標軸范圍 box on title(立方插值算法面圖),

17、樣條插值面圖 zdat3=interp2(x,y,z,xdat,ydat,spline); %樣條插值結(jié)果 figure(4) surf(xdat,ydat,zdat3) %樣條插值面圖 axis(-3,3,-2,2,-0.7,1.5) %設(shè)置坐標軸范圍 box on title(樣條插值面圖),樣條插值誤差面圖 zdat=(xdat.2-2*xdat).*exp(-xdat.2-ydat.2-xdat.*ydat); figure(6) surf(xdat,ydat,abs(zdat-zdat3) %樣條插值對應(yīng)的誤差面圖 axis(-3,3,-2,2,0,0.025) %設(shè)置坐標軸范圍 b

18、ox on title(樣條插值算法對應(yīng)的誤差面圖),插值點處的函數(shù)值,z = ppval ( pp, x, y ),(2) pp = csape ( x0, y0 , z0, conds, valconds),其中x0,y0,z0為已知的數(shù)據(jù)，x0為m維向量， y0為n維向量，z0 為mn維矩陣。 x,y為一維數(shù)組表示插值點（x為行向量，y為 列向量。 若不考慮邊界條件，以上兩條語句可用下面命令代替 z=csapi(x0,y0,z0,x,y);,被插值點,插值邊界條件及取值，同一維情形,插值節(jié)點,被插值點的函數(shù)值,系數(shù)矩陣,例3-8 在一丘陵地帶測量高程，x和y方向每隔100米測一個點，得高

19、程如下表，試擬合一曲面，確定合適的模型，并由此找出最高點和該點的高程。,原始數(shù)據(jù)面圖 x=100:100:500; y=100:100:400; z=636 697 624 478 450 698 712 630 478 420 680 674 598 412 400 662 626 552 334 310; %原始數(shù)據(jù) figure(1) surf(x,y,z) title(原始數(shù)據(jù)面圖),插值數(shù)據(jù)面圖 xdat,ydat=ndgrid(100:10:500,100:10:400); %插值點網(wǎng)格數(shù)據(jù) %pp=csape(x,y,z); %zdat=fnval(pp,100:10:500,1

20、00:10:400); %經(jīng)插值運算得到的插值點處函數(shù)值 zdat=csapi(x,y,z,100:10:500,100:10:400); %經(jīng)插值運算得到的插值點處函數(shù)值 figure(2) surf(xdat,ydat,zdat) %插值面圖 title(插值數(shù)據(jù)面圖),最高點的高程求解 x_temp=100:500; %以1為步長產(chǎn)生數(shù)據(jù) y_temp=100:400; z_temp=csapi(x,y,z,100:500,100:400); z_max=max(z_temp(:); x_max,y_max=find(z_temp=z_max); xyz_max= x_temp(x_ma

21、x),y_temp(y_max), z_max %最高點和該點的高程,z = griddata ( x0, y0, z0, x, y, method ),散亂節(jié)點插值,被插值點,插值方法,插值節(jié)點,被插值點的函數(shù)值,nearest 最鄰近插值 linear 雙線性插值 cubic 雙三次插值 v4 Matlab提供的插值方法 缺省時 雙線性插值,其中x0,y0,z0為已知的數(shù)據(jù)，這里并不要求是網(wǎng)格型的，可以 是任意分布的，均由向量給出。 x,y為插值點，可以是單個 點，可以是向量或網(wǎng)格型矩陣，得出的應(yīng)該維數(shù)和x，y一致， 表示插值的結(jié)果。 method 表示插值算法，可以為 linear，cu

22、bic，nearest，v4 其中v4是Matlab4.0版本中提供的插值算法，公認效果較好， 但沒有一個正式的名稱，所以用v4表明該算法。,例 已經(jīng)有了 x，y，z 的坐標值，如 x=1 2 3 4; y=2 3 4 5; z=5 6 7 4。 由這些坐標點通過插值方法擬合出三維曲面 。,Matlab程序 x=1 2 3 4; y=2 3 4 5; z=5 6 7 4; x1,y1=meshgrid(1:0.1:4,2:0.1:5); z1=griddata(x,y,z,x1,y1,v4); surf(x1,y1,z1),題例 粗糙山頂曲面的平滑處理(散亂情形) rand(seed,0) x

23、 = rand(100,1)*4-2; y = rand(100,1)*4-2; z = x.*exp(-x.2-y.2); plot3(x,y,z,o); hold on ti = -2:.25:2; XI,YI = meshgrid(ti,ti); ZI = griddata(x,y,z,XI,YI); mesh(XI,YI,ZI);,題例 墨西哥草帽的平滑處理(散亂情形) x = rand(100,1)*16 - 8; y = rand(100,1)*16 - 8; r = sqrt(x.2 + y.2) + eps; z = sin(r)./r; plot3(x,y,z,.,Marke

24、rSize,15) hold on xlin = linspace(min(x),max(x),33); ylin = linspace(min(y),max(y),33); X,Y = meshgrid(xlin,ylin); Z = griddata(x,y,z,X,Y,cubic); mesh(X,Y,Z); axis tight;,南半球氣旋變化的可視圖形,山區(qū)地貌的可視化圖形, Matlab命令：,1. z=interp3(x0,y0,z0,x1,y1, method) 2. z=interpn(x1,x2,xn,z0,xd1,xd2,xdn, method) 3. z=csapi(

25、x1,x2,xn,z0,xd1,xd2,xdn); 4. v=griddata3(x0,y0,z0,v0,x,y,z, method); 5. v=griddata3(X,Y,XI method);, 具體用法請參考Matlab幫助,高維插值的Matlab實現(xiàn),內(nèi)容：擬合是離散函數(shù)逼近的重要方法，利用它可通過函數(shù)在有限個點處的取值狀況，擬合出近似替代函數(shù)，進而估算出函數(shù)在其他點處的近似值。 了解基于最小二乘法則擬合的基本思想 掌握擬合函數(shù) polyfit lsqcurvefit curvefit 掌握cftool曲線擬合工具箱(多目標函數(shù)多法則),擬 合,第九章 第十節(jié),最小二乘法,多項式曲線

26、擬合,對給定的試驗數(shù)據(jù)點(xi,yi)(i=1,2,N)，可以構(gòu)造m次多項式： 由曲線擬合的定義，應(yīng)該使得下式取極小值 通過簡單運算可以得出系數(shù)是下面線性方程組的解,其中,最小二乘擬合,最小二乘法擬合在科學(xué)實驗的統(tǒng)計方法中經(jīng)常使用。它的具體操作過程是從一組實驗數(shù)據(jù)(xi,yi)中擬合出函數(shù)關(guān)系y=f(x)，擬合的標準是使(f(xi)-yi)的平方取極小值。,在工程實踐和科學(xué)計算中，用某種經(jīng)驗函數(shù)解析式y(tǒng)=f(x)來近似刻畫采集數(shù)據(jù)(x,y) 之間的關(guān)系的方法就叫擬合，所謂“擬合”有 “最貼近”之意 。 與插值不同，擬合的主要目 標是要離散點盡量靠近擬合函 數(shù)。一般過程是，我們首先根 據(jù)采樣點的

27、散點分布圖，大致 推測x與y之間的經(jīng)驗函數(shù)形式 (比如多項式、指數(shù)函數(shù)等)， 然后依據(jù)某種法則(比如最常用的最小二乘法則)，確定出的經(jīng)驗函數(shù)解析式中的待定參數(shù)。其中經(jīng)驗函數(shù)和擬合法則是擬合的兩個關(guān)鍵要素！,經(jīng)驗函數(shù)形式： 已經(jīng)擬定為多項式函數(shù)：y= at2 +bt+ c 剩下的工作是確定擬合原則： 可選的法則很多，其中最常用的是最小二乘法則(method of Least Squares)，即各點殘差平方和最小,用Matlab進行數(shù)據(jù)擬合,1. 多項式曲線擬合: polyfit.,y0=polyval(p,x0),p=polyfit(x,y,m),其中, x, y為已知數(shù)據(jù)點向量, 分別表示橫

28、,縱坐標, m為擬合多項式的次數(shù), 結(jié)果返回m次擬合多項式系數(shù), 從高次到低次存放在向量p中.,可求得多項式在x0處的值y0.,用四次多項式擬合下表中所列的數(shù)據(jù)點。,解： x=1:0.2:1.8; y=1 1.09541.18321.26491.3416; p=polyfit(x,y,4) p = -0.0104 0.0854 -0.3121 0.9086 0.3285 即擬合的多項式為 p= -0.0104 + 0.0854x -0.3121x2+ 0.9086 x3+ 0.3285x4。,例1 已知觀測數(shù)據(jù)點如表所示,分別用3次和6次多項式曲線擬合這些數(shù)據(jù)點.,x=0:0.1:1 y=-0

29、.447,1.978,3.28,6.16,7.08,7.34,7.66,9.56,9.48,9.3,11.2 plot(x,y,k.,markersize,25) axis(0 1.3 -2 16) p3=polyfit(x,y,3) p6=polyfit(x,y,6),編寫Matlab程序如下:,t=0:0.1:1.2 s=polyval(p3,t) s1=polyval(p6,t) hold on plot(t,s,r-,linewidth,2) plot(t,s,b-,linewidth,2) grid,x=0:0.1:1 y=-0.447,1.978,3.28,6.16,7.08,7.

30、34,7.66,9.56,9.48,9.3,11.2 plot(x,y,k.,markersize,25) axis(0 1.3 -2 16) p3=polyfit(x,y,3) p6=polyfit(x,y,6),例2 用切削機床進行金屬品加工時, 為了適當(dāng)?shù)卣{(diào)整機床, 需要測定刀具的磨損速度. 在一定的時間測量刀具的厚度, 得數(shù)據(jù)如表所示:,解: 描出散點圖, 在命令窗口輸入:,t=0:1:16 y=30.0 29.1 28.4 28.1 28.0 27.7 27.5 27.2 27.0 26.8 26.5 26.3 26.1 25.7 25.3 24.8 24.0 plot(t,y,*)

31、,解: 描出散點圖, 在命令窗口輸入:,t=0:1:16 y=30.0 29.1 28.4 28.1 28.0 27.7 27.5 27.2 27.0 26.8 26.5 26.3 26.1 25.7 25.3 24.8 24.0 plot(t,y,*),a = -0.3012 29.3804,hold on,plot(t, y1), hold off,a=polyfit(t,y,1),y1=-0.3012*t+29.3804,例2 用切削機床進行金屬品加工時, 為了適當(dāng)?shù)卣{(diào)整機床, 需要測定刀具的磨損速度. 在一定的時間測量刀具的厚度, 得數(shù)據(jù)如表所示:,切削時間 t/h,0,30.0,1,

32、29.1,2,28.4,3,28.1,4,28.0,5,27.7,6,27.5,7,27.2,8,27.0,刀具厚度 y/cm,切削時間 t/h,9,26.8,10,26.5,11,26.3,12,26.1,13,25.7,14,25.3,15,24.8,16,24.0,刀具厚度 y/cm,擬合曲線為:,y=-0.3012t+29.3804,例3 一個15.4cm30.48cm的混凝土柱在加壓實驗中的應(yīng)力-應(yīng)變關(guān)系測試點的數(shù)據(jù)如表所示,1.55,2.47,2. 93,3. 03,已知應(yīng)力-應(yīng)變關(guān)系可以用一條指數(shù)曲線來描述, 即假設(shè),式中, 表示應(yīng)力, 單位是 N/m2; 表示應(yīng)變.,2.89,

33、已知應(yīng)力-應(yīng)變關(guān)系可以用一條指數(shù)曲線來描述, 即假設(shè),式中, 表示應(yīng)力, 單位是 N/m2; 表示應(yīng)變.,解 選取指數(shù)函數(shù)作擬合時, 在擬合前需作變量代換,化為 k1, k2 的線性函數(shù).,于是,令,即,在命令窗口輸入:,x=500*1.0e-6 1000*1.0e-6 1500*1.0e-6 2000*1.0e-6 2375*1.0e-6 y=3.103*1.0e+3 2.465*1.0e+3 1.953*1.0e+3 1.517*1.0e+3 1.219*1.0e+3 z=log(y) a=polyfit(x,z,1) k1=exp(8.3009) w=1.55 2.47 2.93 3.0

34、3 2.89 plot(x,w,*),y1=exp(8.3009)*x.*exp( -494.5209*x),plot(x,w,*,x,y1,r-),已知應(yīng)力-應(yīng)變關(guān)系可以用一條指數(shù)曲線來描述, 即假設(shè),式中, 表示應(yīng)力, 單位是 N/m2; 表示應(yīng)變.,擬合曲線為:,令,則,求得,于是,在實際應(yīng)用中常見的擬合曲線有:,直線,多項式,一般 n=2, 3, 不宜過高.,雙曲線(一支),指數(shù)曲線,2. 非線性曲線擬合: nlinfit.,功能:,x=lsqcurvefit(fun, x0, xdata, ydata),x, resnorm=lsqcurvefit(fun, x0, xdata, y

35、data),根據(jù)給定的數(shù)據(jù) xdata, ydata (對應(yīng)點的橫, 縱坐標), 按函數(shù)文件 fun 給定的函數(shù), 以x0為初值作最小二乘擬合, 返回函數(shù) fun中的系數(shù)向量x和殘差的平方和resnorm.,CFTool曲線擬合工具箱簡介,在command window中鍵入指令cftool即可啟動曲線擬合工具箱。在該集成環(huán)境里面，可以實現(xiàn)多種經(jīng)驗函數(shù)，多種法則的曲線擬合，實時繪制圖像并進行誤差分析。 需要注意的是：在進入Curve Fitting Toolbox環(huán)境進行曲線擬合之前，需要預(yù)先在workspace輸入或載入供擬合的數(shù)據(jù)源,CFTool曲線擬合工具箱簡介,下面還是以引例的采樣數(shù)據(jù)

36、為例，進行演示： t=1:16; y=4 6.4 8 8.4 9.28 9.5 9.7 9.86 10 10.2 10.32 10.42 10.5 10.55 10.58 10.6; cftool,導(dǎo)入數(shù)據(jù),繪制散點圖,進行擬合,這里可供選擇的擬合類型和可選參數(shù)比較多,包括多項式函數(shù),指數(shù)函數(shù),冪函數(shù)等,如何確定最優(yōu)的方案？,CFTool-擬合效果評價指標,SSE - The sum of squares due to error. This statistic measures the deviation of the responses from the fitted values of

37、the responses. A value closer to 0 indicates a better fit. R-square - The coefficient of multiple determination. This statistic measures how successful the fit is in explaining the variation of the data. A value closer to 1 indicates a better fit. Adjusted R-square - The degree of freedom adjusted R

38、-square. It is generally the best indicator of the fit quality when you add additional coefficients to your model. A value closer to 1 indicates a better fit. RMSE - The root mean squared error. A value closer to 0 indicates a better fit.,CFTool-選擇Analysis分析數(shù)據(jù),分析數(shù)據(jù),這里可以計算擬合函數(shù)在采樣點的一階二階導(dǎo)函數(shù)值，并繪制相應(yīng)的函數(shù)圖像

39、,CFTool-擬合薄膜滲透數(shù)學(xué)模型,第一步：導(dǎo)入數(shù)據(jù) load bmstl.mat cftool 第二步：擬合數(shù)據(jù) syms a b c d t f = a*exp(b*t) + c*exp(d*t) cbvst=subs(f,a,b,c,d,0.008839,-0.0001336,-0.004818,-0.001422); f = inline(cbvst) figure t=100:1:1000; plot(t,f(t),b-),CFTool-擬合薄膜滲透數(shù)學(xué)模型,第三步：分析數(shù)據(jù),延伸閱讀,樣條插值實驗.doc Matlab進行一般插值和三次樣條插值比較.doc 曲線擬合cftool工

40、具箱.ppt Matlab的曲線擬合工具箱CFtool使用簡介.doc,神經(jīng)網(wǎng)絡(luò) 潘多拉的魔盒 支持向量機 “XX青年”的分類,神經(jīng)網(wǎng)絡(luò) 支持向量機,分類,回歸,分類,回歸,一般而言, ANN與經(jīng)典計算方法相比并非優(yōu)越, 只有當(dāng)常規(guī)方法解決不了或效果不佳時ANN方法才能顯示出其優(yōu)越性。尤其對問題的機理不甚了解或不能用數(shù)學(xué)模型表示的系統(tǒng),如故障診斷、特征提取和預(yù)測等問題,ANN往往是最有利的工具。另一方面, ANN對處理大量原始數(shù)據(jù)而不能用規(guī)則或公式描述的問題, 表現(xiàn)出極大的靈活性和自適應(yīng)性。,人工神經(jīng)網(wǎng)絡(luò) (Artificial Neural Netwroks -ANN),潘多拉的魔盒,訓(xùn)練樣

41、本,訓(xùn)練目標,待測樣本,仿真值,例,1981年生物學(xué)家格若根（W Grogan）和維什（WWirth）發(fā)現(xiàn)了兩類蚊子(或飛蠓midges)他們測量了這兩類蚊子每個個體的翼長和觸角長，數(shù)據(jù)如下：,翼長 觸角長 類別 1.64 1.38 Af 1.82 1.38 Af 1.90 1.38 Af 1.70 1.40 Af 1.82 1.48 Af 1.82 1.54 Af 2.08 1.56 Af,翼長 觸角長 類別 1.78 1.14 Apf 1.96 1.18 Apf 1.86 1.20 Apf 1.72 1.24 Af 2.00 1.26 Apf 2.00 1.28 Apf 1.96 1.30

42、 Apf 1.74 1.36 Af,問：如果抓到三只新的蚊子，它們的觸角長和翼長分別為(l.24,1.80); (l.28，1.84)；（1.40，2.04）問它們應(yīng)分別屬于哪一個種類？,解法一：,把翼長作縱坐標，觸角長作橫坐標；那么每個蚊子的翼長和觸角決定了坐標平面的一個點.其中 6個蚊子屬于 APf類；用黑點“”表示；9個蚊子屬 Af類；用小圓圈“?！北硎?得到的結(jié)果見圖1,思路：作一直線將兩類飛蠓分開,例如；取A（1.44，2.10）和 B(1.10，1.16)，過A B兩點作一條直線： y 1.47x - 0.017 其中X表示觸角長；y表示翼長,分類規(guī)則：設(shè)一個蚊子的數(shù)據(jù)為（x, y

43、） 如果y1.47x - 0.017，則判斷蚊子屬Apf類； 如果y1.47x - 0.017；則判斷蚊子屬Af類,分類結(jié)果：(1.24，1.80)，(1.28，1.84)屬于Af類；(1.40，2.04）屬于 Apf類,缺陷：根據(jù)什么原則確定分類直線？,若取A=(1.46,2.10), B=(1.1,1.6)不變，則分類直線變?yōu)?y=1.39x+0.071,分類結(jié)果變?yōu)椋?(1.24,1.80)， (1.40,2.04) 屬于Apf類； (1.28,1.84)屬于Af類,哪一分類直線才是正確的呢？,因此如何來確定這個判別直線是一個值得研究的問題一般地講，應(yīng)該充分利用已知的數(shù)據(jù)信息來確定判別直

44、線,再如，如下的情形已經(jīng)不能用分類直線的辦法：,新思路：將問題看作一個系統(tǒng)，飛蠓的數(shù)據(jù)作為輸入，飛蠓的類型作為輸出，研究輸入與輸出的關(guān)系。,翼長 觸角長 類別 1.78 1.14 Apf 1.96 1.18 Apf 1.86 1.20 Apf 1.72 1.24 Af 2.00 1.26 Apf 2.00 1.28 Apf 1.96 1.30 Apf 1.74 1.36 Af,目標值 0.9 0.9 0.9 0.1 0.9 0.9 0.9 0.1,翼長 觸角長 類別 1.64 1.38 Af 1.82 1.38 Af 1.90 1.38 Af 1.70 1.40 Af 1.82 1.48 Af

45、 1.82 1.54 Af 2.08 1.56 Af,目標t 0.1 0.1 0.1 0.1 0.1 0.1 0.1,一、 BP網(wǎng)絡(luò),1. 構(gòu)造多層前向神經(jīng)網(wǎng)絡(luò),net = newff ( A, B, C, trainfun ),Matlab命令,A是一個 n 2的矩陣，第 i 行元素為輸入信號 x i 的最 小值和最大值；,參數(shù)說明,B為一 k 維行向量，其元素為各隱層節(jié)點數(shù)；,trainfun為學(xué)習(xí)規(guī)則采用的訓(xùn)練函數(shù)（常見訓(xùn)練函數(shù)如下 表）。,C為一k 維字符串行向量，每一分量為對應(yīng)層神經(jīng)元的激 勵函數(shù)；,2. 常見訓(xùn)練函數(shù),MATLAB中激勵函數(shù)為,其字符串分別為：logsig，tans

46、ig，purelin,3. 激勵函數(shù),除了需要輸入A,B,C,trainfun外，還有些默認的參數(shù)可 修改，如下表,4. 可修改參數(shù),注：不同版本Matlab的可修改參數(shù)列表可能不同。, net, tr, Y1, E = train ( net, X, Y ),5. BP網(wǎng)絡(luò)的訓(xùn)練與泛化,網(wǎng)絡(luò)訓(xùn)練,訓(xùn)練跟蹤信息,訓(xùn)練后網(wǎng)絡(luò),網(wǎng)絡(luò)實際輸出,誤差矩陣,網(wǎng)絡(luò)訓(xùn)練函數(shù),未經(jīng)訓(xùn)練網(wǎng)絡(luò),網(wǎng)絡(luò)實際輸入,網(wǎng)絡(luò)應(yīng)有輸出,X為nM矩陣，為輸入數(shù)據(jù)矩陣，M為樣本的組數(shù)。Y為 mM矩陣，為輸出數(shù)據(jù)矩陣。,訓(xùn)練結(jié)束后，對新的輸入點數(shù)據(jù)X2，調(diào)用sim函數(shù)進行泛 化，得出這些輸入點處的輸出矩陣Y2.,數(shù)據(jù)泛化,Y2=si

47、m(net,X2),用經(jīng)過訓(xùn)練的網(wǎng)絡(luò)對于不是樣本集的輸入，計算出相應(yīng) 的輸出。,什么是數(shù)據(jù)泛化？,例 y=sin（x）的模擬,%- % 產(chǎn)生訓(xùn)練樣本與測試樣本 n1 = 1:2:200; x1 = sin(n1*0.1); n2 = 2:2:200; x2 = sin(n2*0.1); %- xn_train = n1; % 訓(xùn)練樣本，每一列為一個樣本 dn_train = x1; % 訓(xùn)練目標，行向量 xn_test = n2; % 測試樣本，每一列為一個樣本 dn_test = x2; % 測試目標，行向量,%- % 函數(shù)接口賦值 NodeNum = 20; % 隱層節(jié)點數(shù) TypeNum

48、 = 1; % 輸出維數(shù) p1 = xn_train; % 訓(xùn)練輸入 t1 = dn_train; % 訓(xùn)練輸出 Epochs = 1000; % 訓(xùn)練次數(shù) P = xn_test; % 測試輸入 T = dn_test; % 測試輸出(真實值) %-,%- % 設(shè)置網(wǎng)絡(luò)參數(shù) %TF1 = tansig;TF2 = purelin; % 缺省值 %TF1 = tansig;TF2 = logsig; TF1 = logsig;TF2 = purelin; %TF1 = tansig;TF2 = tansig; %TF1 = logsig;TF2 = logsig; %TF1 = purelin

49、;TF2 = purelin; % 指定訓(xùn)練參數(shù) net.trainFcn = trainlm; % 內(nèi)存使用最多（快） %net.trainFcn = trainbfg; %net.trainFcn = trainrp; % 內(nèi)存使用最少（慢） %net.trainFcn = traingda; % 變學(xué)習(xí)率 %net.trainFcn = traingdx;,% 生成網(wǎng)絡(luò) net = newff(minmax(p1),NodeNum TypeNum,TF1 TF2,net.trainFcn); net.trainParam.epochs = Epochs; % 最大訓(xùn)練次數(shù) net.tra

50、inParam.goal = 1e-8; % 最小均方誤差 net.trainParam.min_grad = 1e-20; % 最小梯度 net.trainParam.show = 200; % 訓(xùn)練顯示間隔 net.trainParam.time = inf; % 最大訓(xùn)練時間,%- % 結(jié)果作圖 plot(n1,x1,k*:,n2,T,r+:,n2,X,bo:); % 訓(xùn)練樣本值、測試樣本的真實值與預(yù)測值 legend(訓(xùn)練樣本值,測試樣本的真實值,預(yù)測值); title(BP神經(jīng)網(wǎng)絡(luò)回歸);,%- % 訓(xùn)練與測試 net = train(net,p1,t1); % 訓(xùn)練 X = sim

51、(net,P); % 測試 - 輸出為預(yù)測值 %-,例 腎病的判斷,支持向量機 (Support Vector MachineSVM),本質(zhì)是一種分類算法. 重點在于對支持向量的選取，對于非線性問題，利用核函數(shù)來實現(xiàn)非線性空間向線性空間的轉(zhuǎn)變. 優(yōu)點在于少數(shù)支持向量決定了最終結(jié)果，避免了維數(shù)災(zāi)難.,“XX青年”的分類,普通青年,文藝青年,XX青年,任務(wù)：設(shè)計一個分類器。 要求：在經(jīng)過一定數(shù)量樣本訓(xùn)練后，分類器能夠比較準確地判斷青年所屬類型（文藝orXX）。,文藝青年,xx青年,神經(jīng)網(wǎng)絡(luò)固有的一些缺陷,1.網(wǎng)絡(luò)結(jié)構(gòu)難以確定 2.容易陷入局部最優(yōu) 3.采用了經(jīng)驗風(fēng)險最小化原則（ERM），即用經(jīng)驗風(fēng)

52、險取代期望風(fēng)險：根據(jù)概率論中的大數(shù)定理，只有當(dāng)樣本數(shù)目趨向無窮時，經(jīng)驗風(fēng)險才趨向于期望風(fēng)險,支持向量機,支持向量機，Support Vector Machines,SVM 可以避免以上缺陷： 1.將問題轉(zhuǎn)化為二次規(guī)劃問題，理論上可以得到全局最優(yōu)解 2.建立在統(tǒng)計學(xué)的VC（Vapnik-Chervonenks Dimension）維理論和結(jié)構(gòu)化風(fēng)險最小化原則(Structural Risk Minimization, SRM)的基礎(chǔ)上，有效地避免了維數(shù)災(zāi) 3.可以較好地解決小樣本問題,支持向量機的背景和原理,背景 支持向量機（Support Vector Machines,SVM)是基于統(tǒng)計學(xué)習(xí)理論(Statistical Learning Theory或SLT)的一種新型機器學(xué)習(xí)方法,它由V. Vapnik等在1992年提出。隨著SLT理論的不斷完善，SVM也越來越受到人們的重視，目前，SVM算法在模式識別、回歸估計、概率密度函數(shù)估計等方面都有應(yīng)用。,支持向量機用于分類,如下圖的二分類問題，可以看作在特征空間的分類：,wTx + b = 0,wTx + b 0,wTx + b 0,f(x) =