第五章第二節(jié)一、類間距離二、類間距離的遞推公式三、譜系聚類法的步驟譜系聚類法四、譜系聚類法的統(tǒng)計(jì)量11/17/2022第五章第二節(jié)一、類間距離二、類間距離的遞推公式三、譜系聚則其均值為若中有樣品一、類間距離以i,j分別表示樣品以表示i,j的距離分別表示兩個(gè)類，它們分別含有個(gè)樣品.稱其為該類的重心。由于類的形式和形狀多種多樣，所以類與類之間的距離有多種定義與計(jì)算方法。下面我們介紹類間距離的定義。11/17/2022則其均值為若中有樣品一、類間距離以i,j分別表示樣品以表示i類與之間的距離記為（1）最短距離即用兩類中樣品之間的距離最短者作為兩類距離（2）最長距離即用兩類中樣品之間的距離最長者作為兩類距離11/17/2022類與之間的距離記為（1）最短距離即用兩類中樣品之間的距離最短（3）類平均距離即用兩類中所有兩兩樣品之間的距離平均作為兩類之間的距離。類平均距離還可用下列方式定義：11/17/2022（3）類平均距離即用兩類中所有兩兩樣品之間的距離平均（4）重心距離其中分別是的重心.（5）離差平方和距離對重心而言11/17/2022（4）重心距離其中分別是的重心.（5）離差平方和距離對重心而二、類間距離的遞推公式按照譜系聚類法的思想，先將樣品聚合成小類，再逐步擴(kuò)大為大類。個(gè)樣品.現(xiàn)包含合并得到，設(shè)由現(xiàn)在的問題是由與其他類的距離計(jì)算與的距離.這就是說要建立類間距離的遞推公式.11/17/2022二、類間距離的遞推公式按照譜系聚類法的思想，先將樣品事實(shí)上（1）最短距離（2）最長距離事實(shí)上11/17/2022事實(shí)上（1）最短距離（2）最長距離事實(shí)上11/10/2022（3）類平均距離事實(shí)上則若11/17/2022（3）類平均距離事實(shí)上則若11/10/2022（4）重心距離的合并集的重心是而11/17/2022（4）重心距離的合并集的重心是而11/10/2022由有11/17/2022由有11/10/2022（5）離差平方和距離若記是離差平方和距離，是重心平方距離，則有11/17/2022（5）離差平方和距離若記是離差平方和距離，是重心平方距離，則在一定條件下，以上介紹的5種類間距離的遞推公式可以構(gòu)成統(tǒng)一的形式。假定樣品之間的距離皆采用歐式平方距離，即則類間距離遞推公式有統(tǒng)一的形式：11/17/2022在一定條件下，以上介紹的5種類間距離的遞推公則類間距距離名稱最短距離最長距離類平均距離重心距離離差平方和距離注11/17/2022距離名稱最短距離最長距離類平均距離重心距離離差平方和距離注1三、譜系聚類法的步驟1）n個(gè)樣品開始時(shí)作為n個(gè)類,計(jì)算兩兩之間的距離,構(gòu)成一個(gè)對稱距離矩陣此時(shí)2）選擇中非對角線上的最小元素，設(shè)這個(gè)最小11/17/2022三、譜系聚類法的步驟1）n個(gè)樣品開始時(shí)作為n個(gè)類,計(jì)在中消去所對應(yīng)的行與列，并加入由新類與剩下的其他未聚合的類間的距離所組成的一行和一列，得到一個(gè)新的距離矩陣它是n-1階方陣.3）從出發(fā)重復(fù)步驟2的作法得再由出發(fā)重復(fù)上述步驟，直到n個(gè)樣品聚為1個(gè)大類為止。4）在合并過程中要記下合并樣品的編號(hào)及兩類合并時(shí)的水平（即距離）并繪制聚類譜系圖。元素是這時(shí)將合并成一個(gè)新類11/17/2022在中消去所對應(yīng)的行與列，并加入由新類與剩下的其他未聚合的類間例1.歐洲各國語言有許多相似之處，有的甚至十分相近。以E，N，Da，Du，G，F(xiàn)r，S，I，P，H，F(xiàn)i分別表示英語、挪威語、丹麥語、荷蘭語、德語、法語、西班牙語、意大利語、波蘭語、匈牙利語和芬蘭語這11種語言。人們以任兩種語言對1~10這十個(gè)數(shù)字拼寫中第一個(gè)字母不相同的個(gè)數(shù)定義兩種語言間的“距離”。這種“距離”是廣義距離。例如，英語和挪威語只有數(shù)字1和8的第一個(gè)字母不同，故這兩種語言間的距離定義為2。這樣得到11種語言間的距離矩陣如下：11/17/2022例1.歐洲各國語言有許多相似之處，有的甚至十分11

用下列方法對這11種語言進(jìn)行譜系聚類：（1）最短距離法，并畫譜系圖；（2）最長距離法，并畫譜系圖；（3）類平均距離法，并畫譜系圖；（4）重心距離法；（5）離差平方和距離法（Ward法）11/17/2022用下列方法對這11種語言進(jìn)行譜系聚類：11/10/211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/2022分為3類11/17/2022分為3類11/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/2022四、譜系聚類法的統(tǒng)計(jì)量一個(gè)較好的聚類應(yīng)該在類內(nèi)各樣品盡可能相似的前提下，使得類的個(gè)數(shù)盡可能少。主要用到以下幾種統(tǒng)計(jì)量：統(tǒng)計(jì)量半偏相關(guān)統(tǒng)計(jì)量偽F統(tǒng)計(jì)量統(tǒng)計(jì)量偽11/17/2022四、譜系聚類法的統(tǒng)計(jì)量一個(gè)較好的聚類應(yīng)該在類內(nèi)各樣品統(tǒng)計(jì)量設(shè)某譜系水平上類的個(gè)數(shù)是G。類中樣品的類內(nèi)平方和為其中是類的重心.越小，說明中各樣品越相似.11/17/2022統(tǒng)計(jì)量設(shè)某譜系水平上類的個(gè)數(shù)是G。類中樣品的類內(nèi)平方和為其中在譜系的第G層共有G個(gè)類。定義又以T記所有樣品的總離差平方和，其中11/17/2022在譜系的第G層共有G個(gè)類。定義又以T記所有樣品的總離差平方和定義統(tǒng)計(jì)量為統(tǒng)計(jì)量可用于評價(jià)每次合并時(shí)的聚類效果。顯然1）n個(gè)樣品各為一類時(shí)，2）n個(gè)樣品合并成一類時(shí)，速下降的上一類。3）的值總是隨著分類數(shù)目的減少而減小，取快11/17/2022定義統(tǒng)計(jì)量為統(tǒng)計(jì)量可用于評價(jià)每次合并時(shí)的聚類效果。顯然1）n這一統(tǒng)計(jì)量與離差平方和距離有關(guān)。設(shè)類的離差平方和分別是將合并成后，離差平方和半偏相關(guān)統(tǒng)計(jì)量11/17/2022這一統(tǒng)計(jì)量與離差平方和距離有關(guān)。設(shè)類的離差平方和分別是將合并其中合并后離差平方和的增加量為大時(shí)，說明上一次合并效果越好。由類合并成類時(shí)的半偏相關(guān)統(tǒng)計(jì)量SPRSQ為SPRSQ是上一步值與該步值的差值。當(dāng)SPRSQ值越11/17/2022其中合并后離差平方和的增加量為大時(shí)，說明上一次合并效果越好。偽F統(tǒng)計(jì)量PSFPSF值越大表示這些觀測可顯著地分為G個(gè)類。偽統(tǒng)計(jì)量PST2是PST2大，說明合并為后，使得離差平方和增量相對于原的類內(nèi)離差平方和大。這表明合并的兩個(gè)類是很分開的。也就是上一次聚類效果較好。11/17/2022偽F統(tǒng)計(jì)量PSFPSF值越大表示這些觀測可顯著地分為G個(gè)類。例2.對例4.1提供的數(shù)據(jù)進(jìn)行聚類分析?？疾斓?～27號(hào)省市區(qū)，指標(biāo)變量的含義如例4.1所述.利用下列聚類法將上述樣品進(jìn)行分類，分析分幾類為合適，并寫出各種聚類方法得到的分類結(jié)果。（1）最長距離法；（2）類平均距離法；（3）重心距離法；（4）離差平方和距離法；11/17/2022例2.對例4.1提供的數(shù)據(jù)進(jìn)行聚類分析?？疾斓?～11/17/202211/10/202211/17/202211/10/2022最長距離法分2類結(jié)果11/17/2022最長距離法分2類結(jié)果11/10/2022類平均距離法11/17/2022類平均距離法11/10/2022類平均距離法分2類結(jié)果11/17/2022類平均距離法分2類結(jié)果11/10/2022重心距離法11/17/2022重心距離法11/10/2022重心距離法分2類結(jié)果注：分類結(jié)果與類平均法分類結(jié)果相同11/17/2022重心距離法分2類結(jié)果注：分類結(jié)果與類平均法分類結(jié)果相同11/離差平方和距離法11/17/2022離差平方和距離法11/10/2022離差平方和距離法分2類結(jié)果11/17/2022離差平方和距離法分2類結(jié)果11/10/2022第五章第二節(jié)一、類間距離二、類間距離的遞推公式三、譜系聚類法的步驟譜系聚類法四、譜系聚類法的統(tǒng)計(jì)量11/17/2022第五章第二節(jié)一、類間距離二、類間距離的遞推公式三、譜系聚則其均值為若中有樣品一、類間距離以i,j分別表示樣品以表示i,j的距離分別表示兩個(gè)類，它們分別含有個(gè)樣品.稱其為該類的重心。由于類的形式和形狀多種多樣，所以類與類之間的距離有多種定義與計(jì)算方法。下面我們介紹類間距離的定義。11/17/2022則其均值為若中有樣品一、類間距離以i,j分別表示樣品以表示i類與之間的距離記為（1）最短距離即用兩類中樣品之間的距離最短者作為兩類距離（2）最長距離即用兩類中樣品之間的距離最長者作為兩類距離11/17/2022類與之間的距離記為（1）最短距離即用兩類中樣品之間的距離最短（3）類平均距離即用兩類中所有兩兩樣品之間的距離平均作為兩類之間的距離。類平均距離還可用下列方式定義：11/17/2022（3）類平均距離即用兩類中所有兩兩樣品之間的距離平均（4）重心距離其中分別是的重心.（5）離差平方和距離對重心而言11/17/2022（4）重心距離其中分別是的重心.（5）離差平方和距離對重心而二、類間距離的遞推公式按照譜系聚類法的思想，先將樣品聚合成小類，再逐步擴(kuò)大為大類。個(gè)樣品.現(xiàn)包含合并得到，設(shè)由現(xiàn)在的問題是由與其他類的距離計(jì)算與的距離.這就是說要建立類間距離的遞推公式.11/17/2022二、類間距離的遞推公式按照譜系聚類法的思想，先將樣品事實(shí)上（1）最短距離（2）最長距離事實(shí)上11/17/2022事實(shí)上（1）最短距離（2）最長距離事實(shí)上11/10/2022（3）類平均距離事實(shí)上則若11/17/2022（3）類平均距離事實(shí)上則若11/10/2022（4）重心距離的合并集的重心是而11/17/2022（4）重心距離的合并集的重心是而11/10/2022由有11/17/2022由有11/10/2022（5）離差平方和距離若記是離差平方和距離，是重心平方距離，則有11/17/2022（5）離差平方和距離若記是離差平方和距離，是重心平方距離，則在一定條件下，以上介紹的5種類間距離的遞推公式可以構(gòu)成統(tǒng)一的形式。假定樣品之間的距離皆采用歐式平方距離，即則類間距離遞推公式有統(tǒng)一的形式：11/17/2022在一定條件下，以上介紹的5種類間距離的遞推公則類間距距離名稱最短距離最長距離類平均距離重心距離離差平方和距離注11/17/2022距離名稱最短距離最長距離類平均距離重心距離離差平方和距離注1三、譜系聚類法的步驟1）n個(gè)樣品開始時(shí)作為n個(gè)類,計(jì)算兩兩之間的距離,構(gòu)成一個(gè)對稱距離矩陣此時(shí)2）選擇中非對角線上的最小元素，設(shè)這個(gè)最小11/17/2022三、譜系聚類法的步驟1）n個(gè)樣品開始時(shí)作為n個(gè)類,計(jì)在中消去所對應(yīng)的行與列，并加入由新類與剩下的其他未聚合的類間的距離所組成的一行和一列，得到一個(gè)新的距離矩陣它是n-1階方陣.3）從出發(fā)重復(fù)步驟2的作法得再由出發(fā)重復(fù)上述步驟，直到n個(gè)樣品聚為1個(gè)大類為止。4）在合并過程中要記下合并樣品的編號(hào)及兩類合并時(shí)的水平（即距離）并繪制聚類譜系圖。元素是這時(shí)將合并成一個(gè)新類11/17/2022在中消去所對應(yīng)的行與列，并加入由新類與剩下的其他未聚合的類間例1.歐洲各國語言有許多相似之處，有的甚至十分相近。以E，N，Da，Du，G，F(xiàn)r，S，I，P，H，F(xiàn)i分別表示英語、挪威語、丹麥語、荷蘭語、德語、法語、西班牙語、意大利語、波蘭語、匈牙利語和芬蘭語這11種語言。人們以任兩種語言對1~10這十個(gè)數(shù)字拼寫中第一個(gè)字母不相同的個(gè)數(shù)定義兩種語言間的“距離”。這種“距離”是廣義距離。例如，英語和挪威語只有數(shù)字1和8的第一個(gè)字母不同，故這兩種語言間的距離定義為2。這樣得到11種語言間的距離矩陣如下：11/17/2022例1.歐洲各國語言有許多相似之處，有的甚至十分11

用下列方法對這11種語言進(jìn)行譜系聚類：（1）最短距離法，并畫譜系圖；（2）最長距離法，并畫譜系圖；（3）類平均距離法，并畫譜系圖；（4）重心距離法；（5）離差平方和距離法（Ward法）11/17/2022用下列方法對這11種語言進(jìn)行譜系聚類：11/10/211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/2022分為3類11/17/2022分為3類11/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/202211/17/202211/10/2022四、譜系聚類法的統(tǒng)計(jì)量一個(gè)較好的聚類應(yīng)該在類內(nèi)各樣品盡可能相似的前提下，使得類的個(gè)數(shù)盡可能少。主要用到以下幾種統(tǒng)計(jì)量：統(tǒng)計(jì)量半偏相關(guān)統(tǒng)計(jì)量偽F統(tǒng)計(jì)量統(tǒng)計(jì)量偽11/17/2022四、譜系聚類法的統(tǒng)計(jì)量一個(gè)較好的聚類應(yīng)該在類內(nèi)各樣品統(tǒng)計(jì)量設(shè)某譜系水平上類的個(gè)數(shù)是G。類中樣品的類內(nèi)平方和為其中是類的重心.越小，說明中各樣品越相似.11/17/2022統(tǒng)計(jì)量設(shè)某譜系水平上類的個(gè)數(shù)是G。類中樣品的類內(nèi)平方和為其中在譜系的第G層共有G個(gè)類。定義又以T記所有樣品的總離差平方和，其中11/17/2022在譜系的第G層共有G個(gè)類。定義又以T記所有樣品的總離差平方和定義統(tǒng)計(jì)量為統(tǒng)計(jì)量可用于評價(jià)每次合并時(shí)的聚類效果。顯然1）n個(gè)樣品各為一類時(shí)，2）n個(gè)樣品合并成一類時(shí)，速下降的上一類。3）的值總是隨著分類數(shù)目的減少而減小，取快11/17/2022定義統(tǒng)計(jì)量為統(tǒng)計(jì)量可用于評價(jià)每次合并時(shí)的聚類效果。顯然1）n這一統(tǒng)計(jì)量與離差平方和距離有關(guān)。設(shè)類的離差平方和分別是將合并成后，離差平方和半偏相關(guān)統(tǒng)計(jì)量11/17/2022這一統(tǒng)計(jì)量與離差平方和距離有關(guān)。設(shè)類的離差平方和分別是將合并其中合并后離差平方和的增加量為大時(shí)，說明上一次合并效果越好。由類合并成類時(shí)的半偏相關(guān)統(tǒng)計(jì)量SPRSQ為SPRSQ是上一步值