1實(shí)驗(yàn)內(nèi)容（1）掌握回歸分析的思想和計(jì)算步驟；（2）編寫程序完成回歸分析的計(jì)算，包括后續(xù)的顯著性檢驗(yàn)、殘差分析、Box-Cox變換等內(nèi)容。2模型建立與求解（數(shù)據(jù)結(jié)構(gòu)與算法描述）Y與X1,X2,…，上一一的關(guān)系可表示為Y=f（Xl,X2,…，上__）+8，回歸分析既是利用Y與X1,X2,…，耳一_的觀測(cè)數(shù)據(jù)，并在誤差項(xiàng)的某些假定下確定f（Xl,X2,…，上__）。利用統(tǒng)計(jì)推斷方法對(duì)所確定的函數(shù)的合理性一級(jí)由此關(guān)系所揭示的Y與X1,X2,…，上-一的關(guān)系作分析。用最小二乘法計(jì)算回歸參數(shù)總離差平方和ssT=Sk(yL-y)殘差平方和SSE=器一幻回歸平方和SST=SSE+SSRR為復(fù)相關(guān)系數(shù)

R2Box-Cox變換對(duì)Y做如下變換：通過最大似然方法確定丄問題轉(zhuǎn)化為選擇〕?，使SSE(A；zA)=(za)t(i-x(xTx)_1xT)z5x,達(dá)到最小，其中嚴(yán)=”：〉/[□J汩瓷入HO1Iinyqnr=iyL]U=o3.實(shí)驗(yàn)數(shù)據(jù)為：習(xí)題2.4yL=-84.6563-95.9537xL1——47.1764xL2誤差方差估計(jì)為：4.9445e+004復(fù)相關(guān)系數(shù)：0.9595exersice2_6得b=-54.98774.70820.3393R=0.9376因此回歸方程為：y=-54.9877+4.7082X1+0.3393X2習(xí)題2.9Y=162.8759——1.2103X1——0.6659X2——8.6130Xa復(fù)相關(guān)系數(shù)：0.82024．程序代碼清單：2.4functionhuigui(X,Y)D=xlsread('2.4.xls');p=3;n=15;X=D(:,1:end-1);Y=D(:,end);a=ones(n,1);X=[a,X];B=(inv(X'*X))*X'*YH=X*inv(X'*X)*X';y1=mean(Y);%￡坯務(wù)心0卩y2=B(1)+B(2).*X(:,2)+B(3).*X(:,3);%?01eOpSST=sum((Y—y1).^2)%x^企?坯。fSSE=sum((Y—y2).^2)%2￡2[￡坯?坯。fSSR=sum((y2-y1).A2)%?016￡坯?坯。fMSR=SSR/(p—1)%務(wù)心?坯》0ieMSE=SSE/(n—p)%^u^^2B2iF=MSR/MSE;R=sqrt(SSR/SST)%k^EaizI&i0IpEyo=SSE/(n-p)%?坯2[i企逝0卩y3=y2-Y;%2B2iQpe=(eye(n)-H)*Y;%2E2[T6A.zplot(Y,e,'*')未進(jìn)行Box-Cox變換時(shí)的殘差分析進(jìn)行Box-Cox變換后，殘差圖為2.6loadexersice2_6.txtdata=exersice2_6;[b,R]=reg(data)function[b,R]=reg(data)X=data(:,1:end-1);Y=data(:,end);temp=ones(length(data),1);X=[temp,X];b=inv(X'*X)*X'*Y;YY=X*b;SST=sum((Y-mean(Y)).八2);SSE=sum((Y-YY)/2);R=sqrt(1-SSE/SST);2.9functionhuigui(X,Y)D=xlsread('2.9.xls');p=4;n=23;X=D(:,1:end-1);Y=D(:,end);a=ones(n,1);X=[a,X];B=(inv(X'*X))*X'*YH=X*inv(X'*X)*X';y1=mean(Y);%￡坯務(wù)心0卩y2=B(1)+B(2).*X(:,2)+B(3).*X(:,3)+B(4).*X(:,4);%?0】60卩SST=sum((Y—y1).^2);%x^企?坯。fSSE=sum((Y—y2).^2);%2￡2[￡坯?坯。fSSR=sum((y2-y1).A2);%?0】6￡坯?坯。fMSR=SSR/(p—1);%務(wù)心?坯》0】6MSE=SSE/(n—p);%^u^^2B2iF=MSR/MSE;R=sqrt(SSR/SST)%k^EaizIa10IpEyo=SSE/(n-p);%?坯2[i企吻卩y3=y2-Y;%2B2iQpe=(eye(n)-H)*Y;%2E2[T6A.zplot(Y,e,'*')

殘差分析上課紀(jì)律（20%）實(shí)驗(yàn)過程及結(jié)果（40%）實(shí)驗(yàn)報(bào)告質(zhì)量（40%）總分：教師簽字：模型建立與求解(數(shù)據(jù)結(jié)構(gòu)與算法描述)主成分分析：將p個(gè)特征變量?二：，一通過線性組合綜合成盡量小的幾個(gè)綜合性變量二門'(q<p),而且要求二門?二.能充分反映原來(lái)p個(gè)特征向量特性，又互不線性相關(guān)。典型相關(guān)分析：將兩組變量間的相關(guān)性凝結(jié)為少數(shù)幾對(duì)典型變量間的相關(guān)性，通過對(duì)相關(guān)性較大的少數(shù)幾對(duì)典型變量的研究來(lái)了解原來(lái)的兩組變量的相關(guān)性。主成分分析設(shè)來(lái)自于X的一個(gè)容量為n的樣本觀測(cè)數(shù)據(jù)二二:,i=l,2,...,n這時(shí)，我們便可以用其樣本的協(xié)方差矩陣S或樣本系數(shù)相關(guān)矩陣R分別作為工或:的估計(jì)進(jìn)行主成分分析。s=?:「二二二二二-■-：-7其中曲，j=l,2,...,pj，k=l,2,…，其中曲，j=l,2,...,pj，k=l,2,…，p設(shè)S=J為樣本協(xié)方差矩陣，其特征值為I二I二，二二二，相應(yīng)的正交單位化特征向量為M2-訂這里二=:遼遼(i=l,2,...,p)。則第k個(gè)樣本主成分可表示為

,k=l,2,...,p其中x=：：門’一'表示X=；_?上'的觀測(cè)值。當(dāng)依次代入觀測(cè)值■■：=二_二：?：：：；：(i=l,2,...,n)時(shí)，便得到第k個(gè)樣本成分"的n個(gè)觀測(cè)值:(i=l,2,...,n)，我們稱之為第k個(gè)樣本主成分的得分。第k個(gè)樣本主成分的貢獻(xiàn)率為「二二，前m個(gè)樣本主成分的累計(jì)貢獻(xiàn)率為二一：典型相關(guān)分析關(guān)于X和Y的n組觀測(cè)數(shù)據(jù)：=二_二：-■■：：：：，二=二_心■::,i=l,2,...,n同主成分分析一樣，利用這些觀測(cè)數(shù)據(jù)的樣本協(xié)方差矩陣S=P&n1-^21^22-1作為工的估計(jì)，其中nvA-TVA-^-11sN—丄-yJ

nvA-TVA-^-11sN—丄-yJ

TV)-?-(y

v)(-以S代替工所求得的典型變量和典型相關(guān)系數(shù)分別成為樣本典型變型相關(guān)系數(shù)。具體地，第k對(duì)樣本典型相關(guān)變量為［：=X,■>y,k=l,2,…，p樣本典型相關(guān)系數(shù)=J,k=l,2,…，p其中二乜壬二丄環(huán)為「遷二三/的特征值（從而也是了=w—1的前p個(gè)最大特征值），野，烏，…，％和可，E,…，石,分別為A和豆的相應(yīng)于特征值乂二的正交單位化特征向量；X=：：：_二：■一'和D-:?分別代表X和Y的觀測(cè)值，亠為弱的正平方根。同樣，我們也可以求標(biāo)準(zhǔn)化樣本的樣本典型變量與樣本典型相關(guān)系數(shù)。典型相關(guān)系數(shù)的顯著性檢驗(yàn)在總體:L,L■服從p+q維正態(tài)分布\一：（M，工）條件下，對(duì)一般情況的第k個(gè)假設(shè)，可用如下的似然比統(tǒng)計(jì)量進(jìn)行檢驗(yàn)。令A(yù)t=Hu-襯）鞏二-n—7(p—q—3)lnAk其中=二壬二丄環(huán)為各樣本典型相關(guān)系數(shù)的平方，即矩陣/乂三/（或匚m）的特征值,n為樣本容量。采用的是一個(gè)在樣本容量n較小時(shí)有更好逼近精度的漸近服從F分布的統(tǒng)計(jì)量，即其中如=(p-k-l)(q-k-1]二二二wt_丁(p_k+1)(q—k+1)+1W二n-f(p+q+3)(p-k4-l}B(q-k4-l}：-41—彳8_址+]尸_3_上_1]7當(dāng)某個(gè)k值使得::-<-1=2時(shí)，取t=1.當(dāng)*為真時(shí)，冬漸近服從自由度為和二二的F分布，且大的乙值意味著應(yīng)拒絕，故檢驗(yàn)P值為Pk=卩％血三虬)=P(F(d畑如)>&其中乙為冬的觀測(cè)值。實(shí)驗(yàn)數(shù)據(jù)與實(shí)驗(yàn)結(jié)果習(xí)題4.5相關(guān)系數(shù)矩陣R為1.0000-0.13620.0245-0.20610.9445-0.0655-0.0535-0.0466-0.13621.0000-0.1496-0.0210-0.10630.9177-0.0956-0.03870.0245-0.14961.0000-0.05640.0415-0.06580.9398-0.0044-0.2061-0.0210-0.05641.0000-0.10900.04220.02000.90110.9445-0.10630.0415-0.10901.0000-0.0434-0.02670.0770-0.06550.9177-0.06580.0422-0.04341.0000-0.07870.0652-0.0535-0.09560.93980.0200-0.0267-0.07871.00000.0329-0.0466-0.0387-0.00440.90110.07700.06520.03291.0000各主成分的貢獻(xiàn)率為0.27830.25310.22810.20800.01380.00980.00520.0037前兩個(gè)主成分的累計(jì)貢獻(xiàn)率為0.5314按第一主成分將30個(gè)省、區(qū)、市排序0.1江西0.0984西藏0.0919湖北0.0702黑龍江0.054天津0.0481貴州0.0442海南0.0436青海0.0396安徽0.0352新疆0.034北京0.0332山東0.0263吉林0.0232河北

-0.037山西-0.04陜西-0.0417福建-0.0448江蘇-0.046云南-0.0469遼寧-0.0484河南-0.0528上海-0.0551廣西-0.0569甘肅-0.061湖南-0.0627內(nèi)蒙古-0.0694浙江-0.0699廣東-0.0702寧夏-0.0768四川習(xí)題4.8典型相關(guān)變量分別為0.77030.3822-0.63770.92410.9239-0.0071-0.38261.0000樣本典型相關(guān)系數(shù)為0.1577000.0053顯著性檢驗(yàn)k[1]=1s[1]=0.052772F[1]=228.011886d1[1]=4.000000d2[1]=272.000000k[2]=2s[2]=0.004007F[2]=34054.665184d1[2]=1.000000d2[2]=137.000000所以第一對(duì)顯著相關(guān)習(xí)題4.10典型變量分別為-0.53010.70090.13260.63220.15400.8686-0.5651-0.69640.47750.80570.3569-0.1847-0.0440-0.54090.9483-0.59070.76160.2581典型相關(guān)系數(shù)為

557.47970009.2910000270.9025顯著性檢驗(yàn)d1[1]=9.000000d1[2]=4.000000d1[3]=1.000000d1[1]=9.000000d1[2]=4.000000d1[3]=1.000000d2[1]=326.271395k[2]=2s[2]=2.563813F[2]=-25.343880d2[2]=270.000000k[3]=3s[3]=1.339616F[3]=-34.478358d2[3]=136.000000所以一，二對(duì)典型變量顯著相關(guān)4．程序代碼清單：習(xí)題4.5%cwstd.m,用總和標(biāo)準(zhǔn)化法標(biāo)準(zhǔn)化矩陣functionstd=cwstd(vector)cwsum=sum(vector,1);對(duì)%列求和[a,b]=size(vector);矩陣大小，a為行數(shù),b為列數(shù)fori=1:aforj=1:bstd(i,j)=vector(i,j)/cwsum(j);endend%cwfac.mfunctionresult=cwfac(vector);fprintf('相關(guān)系數(shù)矩陣：\n')std=CORRCOEF(vector)%計(jì)算相關(guān)系數(shù)矩陣fprintf('特征向量(vec)及特征值(val):\n')[vec,val]=eig(std)%求特征值(val)及特征向量(vec)newval=diag(val);[y,i]=sort(newval);對(duì)特征根進(jìn)行排序，y為排序結(jié)果，i為索引fprintf('特征根排序：\n')forz=1：length(y)newy(z)=y(length(y)+1-z);endfprintf('%g\n',newy)rate=y/sum(y);fprintf('\n貢獻(xiàn)率：\n')newrate=newy/sum(newy)sumrate=0;newi=[];fork=length(y)：-1：1sumrate=sumrate+rate(k);newi(length(y)+1-k)=i(k);ifsumrate>0.85break;endend記下累積貢獻(xiàn)率大85%的特征值的序號(hào)放入newi中fprintf('主成分?jǐn)?shù)：％g\n\n',length(newi));fprintf('主成分載荷：\n')forp=1:length(newi)forq=1:length(y)result(q,p)=sqrt(newval(newi(p)))*vec(q,newi(p));endend計(jì)算%載荷disp(result)%cwscore.m,計(jì)算得分functionscore=cwscore(vector1,vector2);sco=vector1*vector2;csum=sum(sco,2);[newcsum,i]=sort(-1*csum);[newi,j]=sort(i);fprintf('計(jì)算得分：\n')score=[sco,csum,j]%得分矩陣：sco為各主成分得分；csum為綜合得分；j為排序結(jié)果%cwprint.mfunctionprint=cwprint(filename,a,b);%filename為文本文件文件名，a為矩陣行數(shù)(樣本數(shù))，b為矩陣列數(shù)(變量指標(biāo)數(shù))fid=fopen(filename,'r')vector=fscanf(fid,'%g',[ab]);fprintf('標(biāo)準(zhǔn)化結(jié)果如下：\n')v1=cwstd(vector)result=cwfac(v1);cwscore(v1,result);習(xí)題4.8functionDXn=140;s11=[1.000.63;0.631.00];s22=[1.000.42;0.421.00];s12=[0.240.06;-0.060.07];s21=[0.24-0.06;0.060.07];A=inv(s11)*s12*inv(s22)*s21;B=inv(s22)*s21*inv(s11)*s12;[vala,e]=eig(A)[valb,f]=eig(B)p2=diag(vala);p1=sqrt(vala);p=2;q=2;temp=1;s=ones(1,p);d1=s;d2=s;t=s;F=s;w=140-0.5*(p+q+3);fork=1:pfori=k:ptemp=temp*(1-p2(k));ends(k)=temp;d1(k)=(p-k+1)*(q-k+1);t(k)=sqrt(((p_k+1)入2*(q_k+1)入2_4)/((p_k+1)入2+(q_k+1)入2_5));d2(k)=w*t(k)-0.5*(p-k+1)*(q-k+1)+1;F(k)=d2(k)/d1(k)*((1_s(k)A(1/t(k)))/s(k)A(1/t(k)));endforj=1:pfprintf('k[%d]=%d\ts[%d]=%f\tF[%d]=%f\td1[%d]=%f\td2[%d]=%f\n',j,j,j,s(j),j,F(j),j,d1(j),j,d2(j));end習(xí)題4.10functionDXs=load('exercise4_6.txt');n=49;X=s(:,2:4);Y=s(:,5:7);s11=cov(X);s22=cov(Y);s12=zeros(3,3);forj=1:3fork=1:3sum=0;fori=1:nsum=sum+(X(i,j)_mean(X(:,j)))*(Y(i,k)_mean(Y(:,k)));ends12(j,k)=sum;endends21=s12';A=inv(s11)*s12*inv(s22)*s21;B=inv(s22)*s21*inv(s11)*s12;[vala,e]=eig(A)[valb,f]=eig(B)p2=diag(vala);p1=sqrt(vala);p=3;q=3;temp=1;s=ones(1,p);d1=s;d2=s;t=s;F=s;w=140_0.5*(p+q+3);fork=1:pfori=k:ptemp=temp*(1-p2(k));ends(k)=temp;d1(k)=(p-k+1)*(q-k+1);t(k)=sqrt(((p_k+1)入2*(q_k+1)入2_4)/((p_k+1)入2+(q_k+1)入2_5));d2(k)=w*t(k)-0.5*(p-k+1)*(q-k+1)+1;F(k)=d2(k)/d1(k)*((1_s(k)A(1/t(k)))/s(k)A(1/t(k)));endforj=1:pfprintf('k[%d]=%d\ts[%d]=%f\tF[%d]=%f\td1[%d]=%f\td2[%d]=%f\n',j,j,j,s(j),j,F(j),j,d1(j),j,d2(j));end上課紀(jì)律（20%）實(shí)驗(yàn)過程及結(jié)果（40%）實(shí)驗(yàn)報(bào)告質(zhì)量（40%）總分：教師簽字：模型建立與求解(數(shù)據(jù)結(jié)構(gòu)與算法描述)假定對(duì)所研究的對(duì)象(總體)在抽樣前已有一定的認(rèn)識(shí)，常用先驗(yàn)分布來(lái)描述這種認(rèn)識(shí)，然后，基于抽取的樣本對(duì)先驗(yàn)認(rèn)識(shí)作修正，得到后驗(yàn)分布，而各種統(tǒng)計(jì)推斷均基于后驗(yàn)分布進(jìn)行。將Bayes統(tǒng)計(jì)的思想用于判別分析，就得到Bayes判別。設(shè)總體:的協(xié)方差矩陣相等且為工，這樣得到兩個(gè)正態(tài)總體的Bayes判別為l>￡當(dāng)W±(x)>W2(x)<xEG2/當(dāng)W±(x)<W2(x)當(dāng)=，=及未知時(shí)，它們分別由匚:得訓(xùn)練樣本算得的均值三—二：及協(xié)方差矩陣的聯(lián)合估計(jì)S(=云)來(lái)估計(jì)，線性判別函數(shù)為誤判概率的計(jì)算[Ri=[x：W(x)>d}[R2={x：W(x)<d]其中W(x)=一、__一、：「二-二，d=>-三“一-“：，實(shí)驗(yàn)數(shù)據(jù)與實(shí)驗(yàn)結(jié)果先驗(yàn)概率相等時(shí)：1樣品屬于1總體

2樣品屬于1總體3樣品屬于1總體4樣品屬于1總體5樣品屬于1總體6樣品屬于1總體7樣品屬于1總體8樣品屬于1總體9樣品屬于2總體10樣品屬于1總體11樣品屬于1總體12樣品屬于1總體13樣品屬于2總體14樣品屬于2總體15樣品屬于2總體16樣品屬于2總體17樣品屬于2總體18樣品屬于2總體19樣品屬于2總體20樣品屬于2總體21樣品屬于2總體22樣品屬于2總體23樣品屬于2總體24樣品屬于2總體25樣品屬于2總體26樣品屬于2總體27樣品屬于2總體28樣品屬于2總體29樣品屬于1總體30樣品屬于2總體31樣品屬于2總體32樣品屬于2總體33樣品屬于2總體34樣品屬于2總體35樣品屬于2總體誤判率的回代估計(jì)為:0.0571431樣品屬于1總體2樣品屬于1總體3樣品屬于1總體4樣品屬于1總體5樣品屬于1總體6樣品屬于1總體7樣品屬于1總體8樣品屬于1總體9樣品屬于2總體10樣品屬于1總體11樣品屬于1總體12樣品屬于1總體13樣品屬于2總體14樣品屬于2總體15樣品屬于2總體16樣品屬于2總體17樣品屬于2總體18樣品屬于2總體19樣品屬于2總體20樣品屬于2總體21樣品屬于2總體22樣品屬于2總體23樣品屬于2總體24樣品屬于2總體25樣品屬于2總體26樣品屬于2總體27樣品屬于2總體28樣品屬于1總體29樣品屬于1總體30樣品屬于2總體31樣品屬于2總體32樣品屬于2總體33樣品屬于2總體34樣品屬于2總體35樣品屬于1總體誤判率的交叉確認(rèn)估計(jì)為:0.114286先驗(yàn)概率按比例分配時(shí)1樣品屬于2總體2樣品屬于1總體3樣品屬于1總體4樣品屬于1總體5樣品屬于2總體6樣品屬于1總體7樣品屬于1總體8樣品屬于1總體9樣品屬于2總體10樣品屬于1總體11樣品屬于2總體12樣品屬于2總體13樣品屬于2總體14樣品屬于2總體15樣品屬于2總體16樣品屬于2總體

17樣品屬于2總體18樣品屬于2總體19樣品屬于2總體20樣品屬于2總體21樣品屬于2總體22樣品屬于2總體23樣品屬于2總體24樣品屬于2總體25樣品屬于2總體26樣品屬于2總體27樣品屬于2總體28樣品屬于2總體29樣品屬于1總體30樣品屬于2總體31樣品屬于2總體32樣品屬于2總體33樣品屬于2總體34樣品屬于2總體35樣品屬于2總體誤判率的回代估計(jì)為:0.1714291樣品屬于1總體2樣品屬于1總體3樣品屬于1總體4樣品屬于1總體5樣品屬于1總體6樣品屬于1總體7樣品屬于1總體8樣品屬于1總體9樣品屬于2總體10樣品屬于1總體11樣品屬于1總體12樣品屬于1總體13樣品屬于2總體14樣品屬于2總體15樣品屬于2總體16樣品屬于2總體17樣品屬于2總體18樣品屬于2總體19樣品屬于2總體20樣品屬于2總體21樣品屬于2總體22樣品屬于2總體23樣品屬于2總體24樣品屬于2總體25樣品屬于2總體26樣品屬于2總體27樣品屬于2總體28樣品屬于2總體29樣品屬于1總體30樣品屬于2總體31樣品屬于2總體32樣品屬于2總體33樣品屬于2總體34樣品屬于2總體35樣品屬于2總體誤判率的交叉確認(rèn)估計(jì)為:0.0571434．程序代碼清單：functionpanbie(X1,X2)X=load('exercise5_4.txt');X1=X(1:12,:);X2=X(13:35,:);x1=ones(1,7);x2=ones(1,7);i=0;fori=1:7x1(i)=mean(X1(:,i));x2(i)=mean(X2(:,i));endS=cov(X);a1=inv(S)*x1';a2=inv(S)*x2';%b1=-0.5*x1*inv(S)*x1'+log(12/35);b2=-0.5*x2*inv(S)*x2'+log(23/35);i=0;cou%nt1=0;count2=0;%按比例分配b1=-0.5*x1*inv(S)*x1';b2=-0.5*x2*inv(S)*x2';i=0;count1=0;count2=0;%等概率分配forj=1:12W1=a1'*X(j,:)'+b1;W2=a2'*X(j,:)'+b2;if(W1>=W2)i=1;fprintf('%d\t樣品屬于％4總體\n',j,i);elsei=2;fprintf('%d\t樣品屬于％4總體\n',j,i);count1=count1+1;endendfork=1:23W1=a1'*X2(k,:)'+b1;W2=a2'*X2(k,:)'+b2;if(W1>=W2)i=1;fprintf('%d\t樣品屬于％4總體\n',k+12,i);count2=count2+1;elsei=2;fprintf('%d\t樣品屬于％4總體\n',k+12,i);endendp=(count1+count2)/35;fprintf('誤判率的回代估計(jì)為：％f\n',p);functionpanbie1()X=load('exercise5_4.txt');i=0;count1=0;count2=0;form=1：12%對(duì)總體一的剔除ifm==1X1=X(2：12,：);X5=X1;endifm==12X1=X(1：11,：);X5=X1;else