1、模式識別作業(yè)作業(yè)1：已知四個訓(xùn)練樣本 w1=(0,0),(0,1) w2=(1,0),(1,1) 使用感知器固定增量法求判別函數(shù) 設(shè)w1=(1,1,1,1) k=1 要求編寫程序上機運行，寫出判別函數(shù)，并打出圖表。解：程序:function W iters=perceptionclassfy(W1,Pk)x1=0 0 1'x2=0 1 1'x3=1 0 1'x4=1 1 1' Wk=W1;FLAG=0;iters=0;if Wk'*x1<=0 Wk=Wk+x1; FLAG=1;endif Wk'*x2<=0 Wk=Wk+x2; FLA

2、G=1;endif Wk'*x3>=0 Wk=Wk-x3; FLAG=1;endif Wk'*x4>=0 Wk=Wk-x4; FLAG=1;enditers=iters+1;while(FLAG) FLAG=0; if Wk'*x1<=0 Wk=Wk+x1; FLAG=1; end if Wk'*x2<=0 Wk=Wk+x2; FLAG=1; end if Wk'*x3>=0 Wk=Wk-x3; FLAG=1; end if Wk'*x4>=0 Wk=Wk-x4; FLAG=1; end iters=iters

3、+1;endW=Wk;作業(yè)2：在下列條件下，求待定樣本x=(2,0)T的類別，畫出分界線，編程上機。1、 二類協(xié)方差相等，2、二類協(xié)方差不等。 訓(xùn)練樣本號k1 2 31 2 3特征x11 1 2-1 -1 -2特征x21 0 -11 0 -1類別1. 二類協(xié)方差相等程序如下： x1=mean(1,1,2),mean(1,0,-1)'x2=mean(-1,-1,-2),mean(1,0,-1)'m=cov(1,1;1,0;2,-1);n=cov(-1,1;-1,0;-2,-1);m1=inv(m);n1=inv(n);p=log(det(m)/(det(n);q=log(1);x

4、=2,0'l=m+n;l1=inv(l);g1=0.5*(x-x1)'*m1*(x-x1)-0.5*(x-x2)'*n1*(x-x2)+0.5*p-qg1 = -64>> (x2-x1)'*m1ans = -32.0000 -16.0000 化簡矩陣多項式g1=0.5*(x-x1)'*m1*(x-x1)-0.5*(x-x2)'*n1*(x-x2)+0.5*p-q 其中x1，x2已知，x設(shè)為 下面用MATLAB化簡，程序如下：>> syms x11;>> syms x22;>> w1=-32*x11+

5、(-16)*x22+0.5*(x1'*l1*x1-x2'*l1*x2)-q,simplify(w1); w1 = - 32*x11 - 16*x22因此分界線方程為- 32*x11 - 16*x22=0，即2. 二類協(xié)方差不等>>x1=mean(1,1,2),mean(1,0,-1)'>> x2=mean(-1,-1,-2),mean(1,0,-1)'>> m=cov(1,1;1,0;2,-1);>> n=cov(-1,1;-1,0;-2,-1);>> m1=inv(m);n1=inv(n);>&

6、gt; p=log(det(m)/(det(n)>> q=log(1)>> x=2,0'>> g1=0.5*(x-x1)'*m1*(x-x1)-0.5*(x-x2)'*n1*(x-x2)+0.5*p-qg1<0,則判定屬于類。化簡矩陣多項式0.5*(x-x1)'*m1*(x-x1)-0.5*(x-x2)'*n1*(x-x2)+0.5*p-q，其中x1，x2已知，x設(shè)為，化簡到下面用MATLAB化簡，程序如下：>> syms x1;>> syms x2;>>w=(12*x1-16

7、+6*x2)*(x1-4/3)+(6*x1-8+4*x2)*x2-(12*x1+16-6*x2)*(x1+4/3)-(-6*x1-8+4*x2)*x2,simplify(w) w = (x1 - 4/3)*(12*x1 + 6*x2 - 16) - (x1 + 4/3)*(12*x1 - 6*x2 + 16) + x2*(6*x1 - 4*x2 + 8) + x2*(6*x1 + 4*x2 - 8) ans = 8*x1*(3*x2 - 8) 因此8*x1*(3*x2 - 8)=-64x1+24x2x1=0,即x1=0，或者x2=8/3，很顯然分界線方程為x1=0，因為x2=8/3不能區(qū)分類以

8、下是MATLAB繪圖程序。>> x1=1;1;2;x2=1;0;-1;plot(x1,x2,'mx','markersize',15);axis(-5,5,-5,5);grid on;hold on>>x1=-1;-1;-2;x2=1;0;-1;plot(x1,x2,'m*','markersize',15);axis(-5,5,-5,5);hold on>>x1=2;x2=0;plot(x1,x2,'mp','markersize',15);axis(-5,5,

9、-5,5);hold on>>x2=-5:0.02:5;x1=0;plot(x1,x2,'b');axis(-5,5,-5,5);>>x1=-5:0.02:5;x2=-2*x1;plot(x1,x2,'-.k');axis(-5,5,-5,5);最終運行結(jié)果如下：說明：X點為類的樣本點，*點為類的樣本點，為待定樣本，實直線為二類協(xié)方差不等的時候的分界線，點劃線為二類協(xié)方差相等時的分界線。作業(yè)3設(shè)有如下三類模式樣本集1，2和3，其先驗概率相等，求Sw和Sb1：(1 0)T, (2 0) T, (1 1) T2：(-1 0)T, (0 1)

10、T, (-1 1) T3：(-1 -1)T, (0 -1) T, (0 -2) T解：由于本題有三類模式，且三類樣本集的先驗概率相等，則概率均為1/3。 多類情況的類內(nèi)散布矩陣，可寫成各類的類內(nèi)散布矩陣的先驗概率的加權(quán)和，即：其中Ci是第i類的協(xié)方差矩陣。這里，有：則類間散步矩陣常寫成：其中為多類模式（如共有c類）分布的總體均值向量，即：,c則 因此 作業(yè)4 設(shè)有如下兩類樣本集，其出現(xiàn)的概率相等：1：(0 0 0)T, (1 0 0) T, (1 0 1) T , (1 1 0) T2：(0 0 1)T, (0 1 0) T, (0 1 1) T , (1 1 1) T用K-L變換，

11、分別把特征空間維數(shù)降到二維和一維，并畫出樣本在該空間中的位置。解： 將所有這些樣本的各分量都減去0.5，便可以將所有這些樣本的均值移到原點，即(0,0,0)點。 新得到的兩類樣本集為：1：(-0.5 -0.5 -0.5)T, (0.5 -0.5 -0.5) T, (0.5 -0.5 0.5) T , (0.5 0.5 -0.5) T2：(-0.5 -0.5 0.5)T, (-0.5 0.5 -0.5) T, (-0.5 0.5 0.5) T , (0.5 0.5 0.5) T解特征值方程,求R的特征值。求得特征值其對應(yīng)的特征向量可由。求得：1、將其降到二維的情況： 選和對應(yīng)的變換向量作為變換矩陣，由得變換后的二維模