ArticlesfromAngry淺談協(xié)方差矩20100831230855今天看的時候又看到了協(xié)方差矩陣這個破東西，以前看模式分類的時候就特困學(xué)過概率統(tǒng)計的孩子都知道，統(tǒng)計里最基本的概念就是樣本的均值，方差，或者再加個標(biāo)準(zhǔn)差首先我們給你個含有個樣本的集合，依次給出這些概念的公式描述，這些高中學(xué)過數(shù)學(xué)的孩子都應(yīng)該知道吧，帶而過很顯然，均值描述的是樣本集合的中間點，它告訴我們的信息是很有限的，而標(biāo)準(zhǔn)差給我們描述的則是樣本集合的各個樣本點到均值的距離之平均 以這兩個集合例，，，，和，，，，兩個集合的均值都是，但顯然兩個集合差別是很大的，計算兩者的標(biāo)準(zhǔn)差，前者是，后者是，顯然后者較為集中，故其標(biāo)準(zhǔn)差小 些，標(biāo)準(zhǔn)差描述的就是這種“散布度” 之所以除以-而不是除以，是因為這樣能使我們以較小的樣本集更好的近總體的標(biāo)準(zhǔn)差，即統(tǒng)計上所謂的“無偏估計” 而方差則僅僅是標(biāo)準(zhǔn)差的平方上面幾個統(tǒng)計量看似已經(jīng)描述的差不多了，但我們應(yīng)該注意到，標(biāo)準(zhǔn)差和方差般是用來描述維數(shù)據(jù)的，但現(xiàn)實生活我們常常遇到含有數(shù)據(jù)的數(shù)據(jù)集，最簡單的大家上學(xué)時免不了要統(tǒng)計多個學(xué)科的考試成績面對這樣的數(shù)據(jù)集，我們當(dāng)然可以按照每維獨(dú)立的計算其方差，但是通常我們還想了解，比如，個男孩子的程度跟他受子歡迎程度是否存在些聯(lián)系啊，嘿嘿~協(xié)方差就是這樣以引出“相關(guān)系數(shù)”的定義)，也就是說個人越就越受子歡迎，嘿嘿，那 可見，協(xié)方差矩陣是個對稱的矩陣，而且對角線是各個維度上的方差上面涉及的內(nèi)容都比較容易，協(xié)方差矩陣似乎也很簡單，但實戰(zhàn)起來就很容易讓人迷茫了必須要明確點同樣本之間的這個我將結(jié)合下面的例子說明，以下的演示將使用，為了)首先，隨機(jī)產(chǎn)生個10*3維的整數(shù)矩陣作為樣本集，10為樣本的個數(shù)，3為樣本的MySampe=f根據(jù)公式，計算協(xié)方差需要計算均值，那是按行計算均值還是按列呢，我開始就老是困擾這個問題前面我們也特別強(qiáng)調(diào)了，協(xié)方差矩陣是計算不同維度間的協(xié)方差，要時刻牢記這點樣本矩陣的每行是個樣本，每列為個維度，所以我們要按列計算均值為了描述方便，我們先將三個維度的數(shù)據(jù)分別賦值：dm1=MySampe(:,1);dm2=MySampe(:,2);dm3=MySampe(:,3);sum((dm1mean(dm1)).*(dm2mean(dm2)))/(se,11sum((dm1mean(dm1)).*(dm3mean(dm3)))/(se,11sum((dm2mean(dm2)).*(dm3mean(dm3)))/(se,11sd(dm1)^2sd(dm2)^2sd(dm3)^2 cov(MySamp 樣：今天突然發(fā)現(xiàn)，原來協(xié)方差矩陣還可以這樣計算，先讓樣本矩陣中心化，即每 維度減去該維度的均值，使每 維度上的均值為，然后直接用新的到的樣本矩陣乘上它的轉(zhuǎn)置，然后除以(-)即可 其實這種方法也是由前面的公式通道來，只不過理解起來不是很直觀，但在抽象的公式推導(dǎo)時還是很常用的！同樣給出X=MySampe repma(mean(MySampe),10,1); 中心化樣本矩陣，使各維度均值為0C=(X'*X)./(sze(X,1)1);理解協(xié)方差矩陣的關(guān)鍵就在于牢記它計算的是不同維度之間的協(xié)方差，而不是不同個行是個個維來~1、協(xié)方差隨量之間的協(xié)方差可以表示之間的協(xié)方差，如元素Cij就是反映的隨量Xi,Xj的協(xié)方差。相關(guān)矩陣也叫相關(guān)系數(shù)矩陣，是由矩陣各列間的相關(guān)系數(shù)構(gòu)成的。也就是說，相關(guān)矩陣第i行第j列的求取相關(guān)矩陣的函數(shù)為：correoff用函數(shù)表達(dá)為E(X)之類的就可以計算出來了，但真給你一個樣本，每個樣本都是二維的，所以只可能有X和Y兩種維度。所以協(xié)方差(i,j)=（i列的所有元素-i列的均值）*（j列的所有元素-列的均值用計算這個例ans=2.9167--0.3333差的計算公式為：協(xié)方差(i,j)=（i列所有元素-i列均值）*（j列所有元素-j列均值（樣本數(shù)-X,Y表示兩維的，4維就直接套用計算公式，不用X,Y那么具有迷惑性（3）與計算驗Z=[1234;3412;231ans=1.0