1、課程名稱(chēng)：課程名稱(chēng)： 數(shù)據(jù)挖掘與統(tǒng)計(jì)決策數(shù)據(jù)挖掘與統(tǒng)計(jì)決策 教教 師：師： 廖廖 芹芹 Email : Email : 問(wèn)題：?jiǎn)栴}：如果有如果有6060個(gè)因素影響銀行貸款，要判別是否給企業(yè)貸款，如個(gè)因素影響銀行貸款，要判別是否給企業(yè)貸款，如何用少數(shù)主要的若干個(gè)影響因素，建立貸款判別規(guī)則？即如何從一何用少數(shù)主要的若干個(gè)影響因素，建立貸款判別規(guī)則？即如何從一組數(shù)據(jù)提取具有因果關(guān)系的分類(lèi)判別規(guī)則？組數(shù)據(jù)提取具有因果關(guān)系的分類(lèi)判別規(guī)則？ 決策樹(shù)：決策樹(shù)：通過(guò)樣本數(shù)據(jù)對(duì)分類(lèi)類(lèi)別信息的確定性程度，建立樹(shù)結(jié)構(gòu)通過(guò)樣本數(shù)據(jù)對(duì)分類(lèi)類(lèi)別信息的確定性程度，建立樹(shù)結(jié)構(gòu)表示分類(lèi)因果關(guān)系，以提取分類(lèi)規(guī)則的分類(lèi)方法。表示分

2、類(lèi)因果關(guān)系，以提取分類(lèi)規(guī)則的分類(lèi)方法。問(wèn)題：?jiǎn)栴}：對(duì)下列對(duì)下列14個(gè)分類(lèi)樣本數(shù)據(jù)集，如何建立天氣分類(lèi)決策樹(shù)？個(gè)分類(lèi)樣本數(shù)據(jù)集，如何建立天氣分類(lèi)決策樹(shù)？五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)- - ID3算法算法P150五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)- - ID3算法算法P152五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)- - ID3算法算法P153在條件在條件V下，減少或下，減少或五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)- - ID3算法算法P153五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)- - ID3算

3、法算法P154五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)- - ID3算法算法補(bǔ)充補(bǔ)充類(lèi)似類(lèi)似P155（5.6）五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)- - ID3算法算法補(bǔ)充補(bǔ)充類(lèi)似類(lèi)似P155（5.7）五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)- - ID3算法算法補(bǔ)充補(bǔ)充類(lèi)似類(lèi)似P155（5.7）五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)（比特）（比特）決策樹(shù)決策樹(shù)- - ID3算法算法P156補(bǔ)充補(bǔ)充類(lèi)似類(lèi)似P155（5.8）,（5.9）,P156（5.10）決策樹(shù)決策樹(shù)- - ID3算法算法P156五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)

4、決策樹(shù)決策樹(shù)決策樹(shù)- - ID3算法算法天氣天氣風(fēng)力風(fēng)力濕度有雨有雨 晴晴 多云多云 潮濕潮濕 正常正常 有風(fēng)有風(fēng) 無(wú)風(fēng)無(wú)風(fēng) 可以看到：可以看到：對(duì)樣本需要四個(gè)屬性才能分類(lèi)的問(wèn)題，通過(guò)決策樹(shù)可以用兩個(gè)屬性就對(duì)樣本需要四個(gè)屬性才能分類(lèi)的問(wèn)題，通過(guò)決策樹(shù)可以用兩個(gè)屬性就 可以分類(lèi)?？梢酝ㄟ^(guò)決策樹(shù)提取分類(lèi)的判別規(guī)則以應(yīng)用?？梢苑诸?lèi)?？梢酝ㄟ^(guò)決策樹(shù)提取分類(lèi)的判別規(guī)則以應(yīng)用。 問(wèn)題：?jiǎn)栴}：少了某因素變量的決策樹(shù)是否合理？是否可以應(yīng)用？少了某因素變量的決策樹(shù)是否合理？是否可以應(yīng)用？五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)用建立的決策樹(shù)檢驗(yàn)第用建立的決策樹(shù)檢驗(yàn)第1 1號(hào)樣本：號(hào)樣本： 1 1號(hào)樣本：天氣

5、：晴；溫度：熱；濕度：潮濕；風(fēng)力：沒(méi)風(fēng)；號(hào)樣本：天氣：晴；溫度：熱；濕度：潮濕；風(fēng)力：沒(méi)風(fēng)； 用規(guī)則用規(guī)則1 1 ：則氣候?qū)儆冢簞t氣候?qū)儆贜 N類(lèi)，與樣本的專(zhuān)家判別結(jié)果一樣類(lèi)，與樣本的專(zhuān)家判別結(jié)果一樣結(jié)論：最多用兩個(gè)因素變量（屬性）即可以判別天氣類(lèi)別。結(jié)論：最多用兩個(gè)因素變量（屬性）即可以判別天氣類(lèi)別。只有一個(gè)因素變只有一個(gè)因素變量就可以判別量就可以判別五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)Clementine輔助決策樹(shù)輔助決策樹(shù)五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)Clementine輔助決策樹(shù)輔助決策樹(shù)決策樹(shù)決策樹(shù)- - C4.5算法

6、算法P158H（X，a）=（X，a）（）（）（）（a） 決策樹(shù)決策樹(shù)- - C4.5算法算法P154決策樹(shù)決策樹(shù) C4.5算法算法P158五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)-C4.5-C4.5算法算法P158-P159五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)-C4.5算法算法P159五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)-C4.5算法算法補(bǔ)充補(bǔ)充一、決策樹(shù)一、決策樹(shù) -C4.5算法算法補(bǔ)充補(bǔ)充五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)-C4.5算法算法補(bǔ)充補(bǔ)充五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)-C4.5

7、算法算法補(bǔ)充補(bǔ)充五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)-CART算法算法P159五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)-CART算法算法P159五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)-CART算法算法P160五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)-CART算法算法P160決策樹(shù)決策樹(shù)-CART算法算法P1612=11311133/130.196決策樹(shù)決策樹(shù)-CART算法算法P161五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)0.196決策樹(shù)決策樹(shù)-CART算法算法補(bǔ)充補(bǔ)充五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖

8、掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)P170五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù) 葉結(jié)點(diǎn)深度是指葉結(jié)點(diǎn)相距葉結(jié)點(diǎn)深度是指葉結(jié)點(diǎn)相距根結(jié)點(diǎn)的層數(shù)。如下決策樹(shù)，根結(jié)點(diǎn)的層數(shù)。如下決策樹(shù)， 葉結(jié)點(diǎn)數(shù)葉結(jié)點(diǎn)數(shù)=2+3+1=6=2+3+1=6， 葉結(jié)點(diǎn)深度和葉結(jié)點(diǎn)深度和=2=2* *2+32+3* *2+12+1* *1=111=11決策樹(shù)決策樹(shù)- -剪枝算法剪枝算法當(dāng)?shù)竭_(dá)某結(jié)點(diǎn)的樹(shù)具有指定的實(shí)例識(shí)別率時(shí)，停止生長(zhǎng)當(dāng)?shù)竭_(dá)某結(jié)點(diǎn)的樹(shù)具有指定的實(shí)例識(shí)別率時(shí)，停止生長(zhǎng)P171已經(jīng)成長(zhǎng)已經(jīng)成長(zhǎng)決策樹(shù)決策樹(shù)-剪枝算法剪枝算法P171五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)-剪枝算法剪枝算法P17

9、2五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)-剪枝算法剪枝算法P172決策樹(shù)決策樹(shù)-剪枝算法剪枝算法P172五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)-剪枝算法剪枝算法P173五、數(shù)據(jù)挖掘方法五、數(shù)據(jù)挖掘方法決策樹(shù)決策樹(shù)決策樹(shù)決策樹(shù)-剪枝算法剪枝算法P173決策樹(shù)決策樹(shù)-剪枝算法剪枝算法P174數(shù)據(jù)挖掘軟件數(shù)據(jù)挖掘軟件ClementineClementine輔助決策樹(shù)輔助決策樹(shù)城市醫(yī)療水平能力綜合評(píng)價(jià)分類(lèi)決策樹(shù)建立城市醫(yī)療水平能力綜合評(píng)價(jià)分類(lèi)決策樹(shù)建立1 1、導(dǎo)入評(píng)價(jià)樣本數(shù)據(jù)并選擇模型；、導(dǎo)入評(píng)價(jià)樣本數(shù)據(jù)并選擇模型；2 2、設(shè)置參數(shù)、設(shè)置參數(shù)城市醫(yī)療水平能力綜合評(píng)價(jià)

10、分類(lèi)決策樹(shù)建立城市醫(yī)療水平能力綜合評(píng)價(jià)分類(lèi)決策樹(shù)建立( (類(lèi)別定性取值情況）類(lèi)別定性取值情況）10個(gè)樣本個(gè)樣本如果導(dǎo)入數(shù)據(jù)時(shí)選擇是連續(xù)如果導(dǎo)入數(shù)據(jù)時(shí)選擇是連續(xù)型取值的型取值的范圍范圍，則，則C5.0方法方法的決策樹(shù)也是兩叉形式，只的決策樹(shù)也是兩叉形式，只有選擇離散型的取值時(shí)，才有選擇離散型的取值時(shí)，才有三叉以上的輸出。有三叉以上的輸出。 當(dāng)修剪嚴(yán)重度為當(dāng)修剪嚴(yán)重度為90%90%、95%95%時(shí)，決策樹(shù)分別見(jiàn)下面左與右，時(shí)，決策樹(shù)分別見(jiàn)下面左與右，左樹(shù)的深度減少了一層，右樹(shù)的深度減少了兩層。左樹(shù)的深度減少了一層，右樹(shù)的深度減少了兩層。城市醫(yī)療水平能力綜合評(píng)價(jià)分類(lèi)決策樹(shù)建立城市醫(yī)療水平能力綜合評(píng)價(jià)

11、分類(lèi)決策樹(shù)建立(樣本定性取值情況）樣本定性取值情況）樣本樣本不修剪分類(lèi)不修剪分類(lèi)正確率正確率修剪修剪90%90%分分類(lèi)正確率類(lèi)正確率修剪修剪95%95%分分類(lèi)正確率類(lèi)正確率建模樣本建模樣本100%90%70%檢驗(yàn)樣本檢驗(yàn)樣本44.44%44.44%33.33%與神經(jīng)網(wǎng)絡(luò)模型預(yù)與神經(jīng)網(wǎng)絡(luò)模型預(yù)測(cè)誤差相比，檢驗(yàn)測(cè)誤差相比，檢驗(yàn)樣本誤差增加了。樣本誤差增加了。城市醫(yī)療水平能力綜合評(píng)價(jià)分類(lèi)城市醫(yī)療水平能力綜合評(píng)價(jià)分類(lèi)二叉決策樹(shù)二叉決策樹(shù)建立建立模型建立：模型建立： 選擇選擇“建模建模”中的中的“C&RC&R樹(shù)樹(shù)”節(jié)點(diǎn)，右鍵設(shè)置模型參數(shù)。分別設(shè)置根以下的節(jié)點(diǎn)，右鍵設(shè)置模型參數(shù)。分別設(shè)置根

12、以下的層為層為5,35,3和和2 2，得到不同的決策樹(shù)，得到不同的決策樹(shù)。 模型結(jié)果：模型結(jié)果： 運(yùn)行模型得到?jīng)Q策樹(shù)分類(lèi)結(jié)果，右鍵瀏覽模型結(jié)果：根以下層為運(yùn)行模型得到?jīng)Q策樹(shù)分類(lèi)結(jié)果，右鍵瀏覽模型結(jié)果：根以下層為5 5時(shí)，表示根以下層數(shù)目不會(huì)超時(shí)，表示根以下層數(shù)目不會(huì)超過(guò)過(guò)5 5，結(jié)果如下所示，可以發(fā)現(xiàn)，結(jié)果只有，結(jié)果如下所示，可以發(fā)現(xiàn)，結(jié)果只有3 3層，也就是說(shuō)根以下層達(dá)到層，也就是說(shuō)根以下層達(dá)到3 3時(shí)，已經(jīng)對(duì)數(shù)據(jù)完全分類(lèi)。時(shí)，已經(jīng)對(duì)數(shù)據(jù)完全分類(lèi)。若設(shè)置根以下層為若設(shè)置根以下層為3 3，結(jié)果也是與下面結(jié)果一致。，結(jié)果也是與下面結(jié)果一致。 城市醫(yī)療水平能力綜合評(píng)價(jià)分類(lèi)城市醫(yī)療水平能力綜合評(píng)價(jià)分

13、類(lèi)二叉決策樹(shù)二叉決策樹(shù)建立建立( (類(lèi)別定量取值情況）類(lèi)別定量取值情況）根以下根以下5 5層與層與3 3層決策樹(shù)結(jié)果見(jiàn)左圖，根以下層決策樹(shù)結(jié)果見(jiàn)左圖，根以下2 2層決策樹(shù)結(jié)果見(jiàn)右圖：層決策樹(shù)結(jié)果見(jiàn)右圖：當(dāng)同節(jié)點(diǎn)的樣當(dāng)同節(jié)點(diǎn)的樣本是同類(lèi)別時(shí)，本是同類(lèi)別時(shí)，表示已分類(lèi)完表示已分類(lèi)完畢。畢。當(dāng)同節(jié)點(diǎn)的樣本當(dāng)同節(jié)點(diǎn)的樣本不同類(lèi)別時(shí)，以不同類(lèi)別時(shí)，以同類(lèi)樣本占節(jié)點(diǎn)同類(lèi)樣本占節(jié)點(diǎn)樣本為權(quán)重加權(quán)樣本為權(quán)重加權(quán)平均平均模型檢驗(yàn)：模型檢驗(yàn)： 可以看到模型的自檢驗(yàn)的可以看到模型的自檢驗(yàn)的100%100%準(zhǔn)確的，誤差是準(zhǔn)確的，誤差是0 0，而檢驗(yàn)樣本檢驗(yàn)的絕對(duì)平均誤差是，而檢驗(yàn)樣本檢驗(yàn)的絕對(duì)平均誤差是1.778.1

14、.778.可以把分類(lèi)結(jié)果導(dǎo)出，可以看出建模樣本的準(zhǔn)確率是可以把分類(lèi)結(jié)果導(dǎo)出，可以看出建模樣本的準(zhǔn)確率是100%100%，檢驗(yàn)樣本的準(zhǔn)確率是，檢驗(yàn)樣本的準(zhǔn)確率是33.33%33.33%。 城市醫(yī)療水平能力綜合評(píng)價(jià)分類(lèi)城市醫(yī)療水平能力綜合評(píng)價(jià)分類(lèi)二叉決策樹(shù)二叉決策樹(shù)建立建立學(xué)習(xí)樣本學(xué)習(xí)樣本病人數(shù)病人數(shù)醫(yī)生數(shù)醫(yī)生數(shù)工作人員工作人員數(shù)數(shù)門(mén)診所數(shù)門(mén)診所數(shù)死亡率死亡率醫(yī)療能力醫(yī)療能力評(píng)價(jià)評(píng)價(jià)醫(yī)療能力評(píng)醫(yī)療能力評(píng)價(jià)（根以下價(jià)（根以下3 3層）層）醫(yī)療能力評(píng)價(jià)醫(yī)療能力評(píng)價(jià)（根以下（根以下2 2層）層）上海上海0.50.51.51.51.51.51.51.5-1.5-1.51.51.51.51.51.51.5北

15、京北京-0.5-0.51.51.51.51.51.51.50.50.51.51.51.51.51.51.5沈陽(yáng)沈陽(yáng)-1.5-1.5-1.5-1.5-1.5-1.5-0.5-0.50.50.5-1.5-1.5-1.5-1.5-1.5-1.5武漢武漢0.50.50.50.50.50.5-0.5-0.5-1.5-1.5-0.5-0.5-0.5-0.5-0.25-0.25哈爾濱哈爾濱1.51.50.50.5-0.5-0.5-1.5-1.5-0.5-0.5-0.5-0.5-0.5-0.5-0.25-0.25重慶重慶0.50.50.50.5-1.5-1.5-1.5-1.5-1.5-1.5-1.5-1.5-

16、1.5-1.5-1.5-1.5成都成都-0.5-0.50.50.50.50.5-0.5-0.5-0.5-0.5-0.5-0.5-0.5-0.5-0.25-0.25蘭州蘭州1.51.50.50.5-0.5-0.50.50.51.51.51.51.51.51.51.51.5青島青島0.50.5-1.5-1.51.51.51.51.5-0.5-0.50.50.50.50.50.50.5鞍山鞍山0.50.5-0.5-0.5-0.5-0.5-1.5-1.51.51.50.50.50.50.5-0.25-0.25天津天津-1.5-1.50.50.5-1.5-1.50.50.5-0.5-0.5-1.5-1.

17、51.51.51.51.5廣州廣州-0.5-0.50.50.50.50.50.50.5-0.5-0.50.50.51.51.51.51.5南京南京-1.5-1.50.50.50.50.50.50.5-0.5-0.50.50.51.51.51.51.5西安西安0.50.50.50.5-0.5-0.50.50.50.50.50.50.5-0.5-0.51.51.5長(zhǎng)春長(zhǎng)春0.50.50.50.50.50.5-0.5-0.50.50.50.50.51.51.5-0.25-0.25太原太原1.51.50.50.50.50.50.50.51.51.51.51.5-1.5-1.51.51.5大連大連-1.

18、5-1.5-0.5-0.5-1.5-1.5-0.5-0.50.50.5-1.5-1.51.51.5-1.5-1.5濟(jì)南濟(jì)南1.51.51.51.51.51.50.50.5-0.5-0.51.51.5-1.5-1.51.51.5撫順撫順0.50.5-1.5-1.5-1.5-1.5-1.5-1.50.50.5-0.5-0.51.51.5-1.5-1.5三層樣本正確率：自檢三層樣本正確率：自檢100%, 100%, 檢驗(yàn)檢驗(yàn) 33%33%二層樣本正確率：自檢二層樣本正確率：自檢40%, 40%, 檢驗(yàn)檢驗(yàn) 33%33%城市醫(yī)療水平能力綜合評(píng)價(jià)分類(lèi)城市醫(yī)療水平能力綜合評(píng)價(jià)分類(lèi)二叉決策樹(shù)二叉決策樹(shù)建立建

19、立問(wèn)題：?jiǎn)栴}：智能功能實(shí)現(xiàn)，需要知識(shí)規(guī)則和知識(shí)推理的支持，決策樹(shù)可智能功能實(shí)現(xiàn)，需要知識(shí)規(guī)則和知識(shí)推理的支持，決策樹(shù)可以支持提取確定性的知識(shí)規(guī)則，但實(shí)際中可能出現(xiàn)許多不確定的情以支持提取確定性的知識(shí)規(guī)則，但實(shí)際中可能出現(xiàn)許多不確定的情況。如何提取不確定性規(guī)則？況。如何提取不確定性規(guī)則？購(gòu)物籃問(wèn)題：購(gòu)物籃問(wèn)題：超市中每天有大量的購(gòu)買(mǎi)數(shù)據(jù)，這些數(shù)據(jù)中發(fā)現(xiàn)啤酒超市中每天有大量的購(gòu)買(mǎi)數(shù)據(jù)，這些數(shù)據(jù)中發(fā)現(xiàn)啤酒與尿片的關(guān)系密切，是否需要關(guān)注這種情況而改變超市中這兩種物與尿片的關(guān)系密切，是否需要關(guān)注這種情況而改變超市中這兩種物品的擺放位置，以適應(yīng)顧客的需要？品的擺放位置，以適應(yīng)顧客的需要？應(yīng)用問(wèn)題：應(yīng)用問(wèn)題

20、：為了促銷(xiāo)產(chǎn)品，應(yīng)該以什么方案配置才具有激勵(lì)購(gòu)買(mǎi)積為了促銷(xiāo)產(chǎn)品，應(yīng)該以什么方案配置才具有激勵(lì)購(gòu)買(mǎi)積極性的作用？極性的作用？擴(kuò)展問(wèn)題：擴(kuò)展問(wèn)題：未來(lái)產(chǎn)品產(chǎn)業(yè)鏈的發(fā)展與什么有關(guān)？發(fā)展速度與增長(zhǎng)幅未來(lái)產(chǎn)品產(chǎn)業(yè)鏈的發(fā)展與什么有關(guān)？發(fā)展速度與增長(zhǎng)幅度的可能性如何預(yù)測(cè)？度的可能性如何預(yù)測(cè)？思路：思路：可以采用關(guān)聯(lián)分析或時(shí)序關(guān)聯(lián)分析，發(fā)現(xiàn)事物之間同時(shí)出現(xiàn)可以采用關(guān)聯(lián)分析或時(shí)序關(guān)聯(lián)分析，發(fā)現(xiàn)事物之間同時(shí)出現(xiàn)可能性大的行為模式和規(guī)則，以支持原因之間、原因與結(jié)果之間的可能性大的行為模式和規(guī)則，以支持原因之間、原因與結(jié)果之間的推理。推理。六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法關(guān)聯(lián)分析關(guān)聯(lián)分析關(guān)聯(lián)規(guī)則分析關(guān)聯(lián)規(guī)則分析六、數(shù)

21、據(jù)挖掘方法六、數(shù)據(jù)挖掘方法關(guān)聯(lián)分析關(guān)聯(lián)分析思路：思路：1 1、物品或項(xiàng)目出現(xiàn)可能性大的才關(guān)注；、物品或項(xiàng)目出現(xiàn)可能性大的才關(guān)注； 2 2、A A出現(xiàn)導(dǎo)致出現(xiàn)導(dǎo)致B B出現(xiàn)可能性大的規(guī)則才關(guān)注；出現(xiàn)可能性大的規(guī)則才關(guān)注； 3 3、指定期望可能性，大于這一可能性的項(xiàng)目或規(guī)則才關(guān)注。、指定期望可能性，大于這一可能性的項(xiàng)目或規(guī)則才關(guān)注。由此定義支持度與置信度。由此定義支持度與置信度。 補(bǔ)充補(bǔ)充 以不確定性度量以不確定性度量關(guān)聯(lián)規(guī)則分析主要概念關(guān)聯(lián)規(guī)則分析主要概念=P189關(guān)聯(lián)規(guī)則分析主要概念關(guān)聯(lián)規(guī)則分析主要概念關(guān)聯(lián)規(guī)則分析關(guān)聯(lián)規(guī)則分析-Apriori方法方法P189關(guān)聯(lián)規(guī)則分析關(guān)聯(lián)規(guī)則分析-Aprio

22、ri方法方法=P190六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法關(guān)聯(lián)分析關(guān)聯(lián)分析其中，其中，“過(guò)濾過(guò)濾”是指判別項(xiàng)目集是否大于最小支持度，如果大于就是指判別項(xiàng)目集是否大于最小支持度，如果大于就保留，否則淘汰保留，否則淘汰六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法關(guān)聯(lián)分析關(guān)聯(lián)分析補(bǔ)充，類(lèi)似補(bǔ)充，類(lèi)似P191例例6.2 六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法關(guān)聯(lián)分析關(guān)聯(lián)分析補(bǔ)充，類(lèi)似補(bǔ)充，類(lèi)似P192例例6.2 六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法關(guān)聯(lián)分析關(guān)聯(lián)分析補(bǔ)充，類(lèi)似補(bǔ)充，類(lèi)似P193例例6.2 問(wèn)題：?jiǎn)栴}：除除BCEBCE外，還有其外，還有其它的最大頻繁集嗎？它的最大頻繁集嗎？六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法關(guān)聯(lián)分析關(guān)

23、聯(lián)分析設(shè)有五種物品：設(shè)有五種物品：A,B,C,D,E,銷(xiāo)售記錄的五項(xiàng)業(yè)務(wù)銷(xiāo)售記錄的五項(xiàng)業(yè)務(wù)T為：為： 業(yè)務(wù)：業(yè)務(wù)：T001 T002 T003 T004 T005T001 T002 T003 T004 T005 物品：物品：ACD BCE ABCE ABCE DACD BCE ABCE ABCE D問(wèn)題：?jiǎn)栴}：下面物品中，哪些物品之間被購(gòu)買(mǎi)有密切關(guān)系？什么物品被下面物品中，哪些物品之間被購(gòu)買(mǎi)有密切關(guān)系？什么物品被買(mǎi)可以導(dǎo)致另一些物品被買(mǎi)？買(mǎi)可以導(dǎo)致另一些物品被買(mǎi)？同理可以得到同理可以得到: BCE，BE C，CE B 的規(guī)則的規(guī)則 六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法關(guān)聯(lián)分析關(guān)聯(lián)分析BC Conf

24、=1, Supp=3/43/43/3=13/43/43/43/43/41Clementine 輔助過(guò)程及結(jié)果輔助過(guò)程及結(jié)果六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法關(guān)聯(lián)分析關(guān)聯(lián)分析Clementine 輔助過(guò)程及結(jié)果輔助過(guò)程及結(jié)果六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法關(guān)聯(lián)分析關(guān)聯(lián)分析Clementine 輔助城市醫(yī)療水平影響因素的關(guān)聯(lián)分析輔助城市醫(yī)療水平影響因素的關(guān)聯(lián)分析學(xué)習(xí)樣本學(xué)習(xí)樣本樣本樣本病人數(shù)病人數(shù)醫(yī)生數(shù)醫(yī)生數(shù)工作人員數(shù)工作人員數(shù)門(mén)診所數(shù)門(mén)診所數(shù)死亡率死亡率醫(yī)療能力評(píng)價(jià)醫(yī)療能力評(píng)價(jià)上海上海0.51.51.51.5-1.51.5北京北京-0.51.51.51.50.51.5沈陽(yáng)沈陽(yáng)-1.5-1.5-1.

25、5-0.50.5-1.5武漢武漢0.50.50.5-0.5-1.5-0.5哈爾濱哈爾濱1.50.5-0.5-1.5-0.5-0.5重慶重慶0.50.5-1.5-1.5-1.5-1.5成都成都-0.50.50.5-0.5-0.5-0.5蘭州蘭州1.50.5-0.50.51.51.5青島青島0.5-1.51.51.5-0.50.5鞍山鞍山0.5-0.5-0.5-1.51.50.5檢驗(yàn)樣本檢驗(yàn)樣本樣本樣本病人數(shù)病人數(shù)醫(yī)生數(shù)醫(yī)生數(shù)工作人員數(shù)工作人員數(shù)門(mén)診所數(shù)門(mén)診所數(shù)死亡率死亡率醫(yī)療能力評(píng)價(jià)醫(yī)療能力評(píng)價(jià)天津天津-1.50.5-1.50.5-0.5-1.5廣州廣州-0.50.50.50.5-0.50.5南

26、京南京-1.50.50.50.5-0.50.5西安西安0.50.5-0.50.50.50.5長(zhǎng)春長(zhǎng)春0.50.50.5-0.50.50.5太原太原1.50.50.50.51.51.5大連大連-1.5-0.5-1.5-0.50.5-1.5濟(jì)南濟(jì)南1.51.51.50.5-0.51.5撫順撫順0.5-1.5-1.5-1.50.5-0.5Clementine Clementine 輔助城市醫(yī)療水平影響因素的關(guān)聯(lián)分析輔助城市醫(yī)療水平影響因素的關(guān)聯(lián)分析1 1、導(dǎo)入評(píng)價(jià)樣本數(shù)據(jù)并選擇模型，其中、導(dǎo)入評(píng)價(jià)樣本數(shù)據(jù)并選擇模型，其中數(shù)據(jù)集中的取值轉(zhuǎn)換為定性取值：數(shù)據(jù)集中的取值轉(zhuǎn)換為定性取值： 1.5=V, 0.

27、5=g, -0.5=a, -1.5=b1.5=V, 0.5=g, -0.5=a, -1.5=b2 2、設(shè)置參數(shù)、設(shè)置參數(shù)六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法關(guān)聯(lián)分析關(guān)聯(lián)分析Clementine Clementine 輔助城市醫(yī)療水平影響因素的關(guān)聯(lián)分析輔助城市醫(yī)療水平影響因素的關(guān)聯(lián)分析 不同支持度和置信度下的關(guān)聯(lián)規(guī)則數(shù)目不同支持度和置信度下的關(guān)聯(lián)規(guī)則數(shù)目最小支持度最小支持度50%50%40%40%30%30%30%30%20%20%最小置信度最小置信度50%50%40%40%50%50%40%40%20%20%規(guī)則數(shù)目規(guī)則數(shù)目2 22 238385151349349 最小支持度為最小支持度為30%3

28、0%和最小置信度為和最小置信度為50%50%時(shí)的部分關(guān)聯(lián)規(guī)則時(shí)的部分關(guān)聯(lián)規(guī)則后項(xiàng)前項(xiàng)支持度支持度 % %置信度置信度 % %醫(yī)生數(shù)=g醫(yī)療能力評(píng)價(jià)=a30100病人數(shù)=g死亡率=b30100工作人員數(shù)=v門(mén)診所數(shù)=v30100門(mén)診所數(shù)=v工作人員數(shù)=v30100病人數(shù)=v工作人員數(shù)=a3067死亡率=v工作人員數(shù)=a3067死亡率死亡率 = a= a醫(yī)療能力評(píng)價(jià)醫(yī)療能力評(píng)價(jià) = a = a and and 醫(yī)生數(shù)醫(yī)生數(shù) = g= g303067 67 門(mén)診所數(shù)門(mén)診所數(shù) = a= a醫(yī)療能力評(píng)價(jià)醫(yī)療能力評(píng)價(jià) = a = a and and 醫(yī)生數(shù)醫(yī)生數(shù) = g= g303067 67 醫(yī)生數(shù)醫(yī)生

29、數(shù) = g= g死亡率死亡率 = b and = b and 病人數(shù)病人數(shù) = g= g303067 67 醫(yī)療能力評(píng)價(jià)醫(yī)療能力評(píng)價(jià) = = v v門(mén)診所數(shù)門(mén)診所數(shù) = v and = v and 工作人員數(shù)工作人員數(shù) = v= v303067 67 病人數(shù)病人數(shù) = g= g門(mén)診所數(shù)門(mén)診所數(shù) = v and = v and 工作人員數(shù)工作人員數(shù) = v= v303067 67 醫(yī)療能力評(píng)價(jià)醫(yī)療能力評(píng)價(jià) = = a a醫(yī)生數(shù)醫(yī)生數(shù) = g= g505060 60 死亡率死亡率 = b= b病人數(shù)病人數(shù) = g= g505060 60 六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法關(guān)聯(lián)分析關(guān)聯(lián)分析 對(duì)最小支持

30、度為對(duì)最小支持度為30%30%和最小置信度為和最小置信度為50%50%時(shí)得到的模型，進(jìn)行建模檢驗(yàn)樣本的關(guān)系預(yù)測(cè)。時(shí)得到的模型，進(jìn)行建模檢驗(yàn)樣本的關(guān)系預(yù)測(cè)。建模樣本關(guān)系預(yù)測(cè)：對(duì)每一樣本，把與樣本建模樣本關(guān)系預(yù)測(cè)：對(duì)每一樣本，把與樣本匹配前項(xiàng)的匹配前項(xiàng)的后項(xiàng)后項(xiàng)結(jié)果列示，顯示對(duì)應(yīng)的規(guī)則置信度，以及有關(guān)規(guī)則數(shù)。結(jié)果列示，顯示對(duì)應(yīng)的規(guī)則置信度，以及有關(guān)規(guī)則數(shù)。例：例：醫(yī)療能力評(píng)價(jià)醫(yī)療能力評(píng)價(jià) = a and 醫(yī)生數(shù)醫(yī)生數(shù) = g 則有死亡率死亡率 = a 0.67六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法關(guān)聯(lián)分析關(guān)聯(lián)分析檢驗(yàn)樣本關(guān)系預(yù)測(cè)檢驗(yàn)樣本關(guān)系預(yù)測(cè)六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法關(guān)聯(lián)分析關(guān)聯(lián)分析問(wèn)題問(wèn)題1：

31、有多少顧客購(gòu)買(mǎi)了打印機(jī)后，相隔多長(zhǎng)時(shí)間會(huì)購(gòu)買(mǎi)打印紙？有多少顧客購(gòu)買(mǎi)了打印機(jī)后，相隔多長(zhǎng)時(shí)間會(huì)購(gòu)買(mǎi)打印紙？其中又有多少顧客其中又有多少顧客相隔多長(zhǎng)時(shí)間會(huì)購(gòu)買(mǎi)硒鼓相隔多長(zhǎng)時(shí)間會(huì)購(gòu)買(mǎi)硒鼓 ？ 問(wèn)題問(wèn)題2：顧客購(gòu)買(mǎi)了顧客購(gòu)買(mǎi)了A移動(dòng)銷(xiāo)售方案，相隔多長(zhǎng)時(shí)間會(huì)轉(zhuǎn)購(gòu)買(mǎi)移動(dòng)銷(xiāo)售方案，相隔多長(zhǎng)時(shí)間會(huì)轉(zhuǎn)購(gòu)買(mǎi)B移動(dòng)移動(dòng)銷(xiāo)售方案？銷(xiāo)售方案？ 思路：思路：1）對(duì)具有時(shí)間特點(diǎn)的顧客行為模式進(jìn)行關(guān)聯(lián)分析，稱(chēng)為時(shí)序關(guān)聯(lián)，挖掘）對(duì)具有時(shí)間特點(diǎn)的顧客行為模式進(jìn)行關(guān)聯(lián)分析，稱(chēng)為時(shí)序關(guān)聯(lián)，挖掘具有時(shí)間先后發(fā)生的判別規(guī)則。具有時(shí)間先后發(fā)生的判別規(guī)則。 2）把同一顧客的先后行為模式轉(zhuǎn)換為具有先后項(xiàng)目順序的序列表示，在）把同一顧客的先后行

32、為模式轉(zhuǎn)換為具有先后項(xiàng)目順序的序列表示，在序列中求頻繁出現(xiàn)的項(xiàng)目序列。序列中求頻繁出現(xiàn)的項(xiàng)目序列。主要概念：主要概念：例：例：A A顧客：顧客：2 2月購(gòu)買(mǎi)月購(gòu)買(mǎi)“打印機(jī)，打印紙打印機(jī)，打印紙”， 3 3月購(gòu)買(mǎi)月購(gòu)買(mǎi)“打印紙打印紙”，7 7月購(gòu)買(mǎi)月購(gòu)買(mǎi)“硒鼓硒鼓” ” ； B B顧客顧客：1 1月購(gòu)買(mǎi)月購(gòu)買(mǎi)“打印紙打印紙”， 2 2月購(gòu)買(mǎi)月購(gòu)買(mǎi)“打印機(jī)打印機(jī)”，6 6月購(gòu)買(mǎi)硒鼓月購(gòu)買(mǎi)硒鼓 ； C C顧客：顧客：1 1月購(gòu)買(mǎi)月購(gòu)買(mǎi)“打印機(jī)，打印紙，硒鼓打印機(jī)，打印紙，硒鼓 ” ”,4,4月購(gòu)買(mǎi)月購(gòu)買(mǎi)“打印紙打印紙”,6,6月購(gòu)買(mǎi)月購(gòu)買(mǎi)“打印紙打印紙”六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法時(shí)序關(guān)聯(lián)分析時(shí)

33、序關(guān)聯(lián)分析例如打印機(jī)例如打印機(jī)是一項(xiàng)目是一項(xiàng)目例如例如A顧客顧客先買(mǎi)先買(mǎi)“打印機(jī)，打印紙打印機(jī)，打印紙”，再買(mǎi)，再買(mǎi)“硒硒鼓鼓”是一項(xiàng)目集組成的序列：是一項(xiàng)目集組成的序列：s1，s2,其中，其中， s1由由“打印機(jī)，打印紙打印機(jī)，打印紙”組成，組成，s2由硒由硒鼓組成。鼓組成。問(wèn)題：?jiǎn)栴}：有有B B顧客，先買(mǎi)打印機(jī)，再買(mǎi)打印紙顧客，先買(mǎi)打印機(jī)，再買(mǎi)打印紙 有有C C顧客，買(mǎi)打印機(jī)顧客，買(mǎi)打印機(jī) 有有D顧客，先買(mǎi)打印機(jī)，再買(mǎi)硒鼓顧客，先買(mǎi)打印機(jī)，再買(mǎi)硒鼓問(wèn)哪一顧客的購(gòu)買(mǎi)模式被問(wèn)哪一顧客的購(gòu)買(mǎi)模式被A顧客模式包含？顧客模式包含？Supp六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法時(shí)序關(guān)聯(lián)分析時(shí)序關(guān)聯(lián)分析8、C

34、onf()=Suup()P208 時(shí)序時(shí)序關(guān)聯(lián)規(guī)則分析關(guān)聯(lián)規(guī)則分析主要問(wèn)題主要問(wèn)題六、數(shù)據(jù)挖掘方法六、數(shù)據(jù)挖掘方法時(shí)序關(guān)聯(lián)分析時(shí)序關(guān)聯(lián)分析時(shí)序時(shí)序關(guān)聯(lián)規(guī)則分析關(guān)聯(lián)規(guī)則分析-Apriori-G方法方法P208 思路：思路：先從事務(wù)數(shù)據(jù)中找先從事務(wù)數(shù)據(jù)中找大項(xiàng)目集大項(xiàng)目集，由大項(xiàng)目，由大項(xiàng)目集組成可能出現(xiàn)的時(shí)序模式，再集組成可能出現(xiàn)的時(shí)序模式，再求大序列集求大序列集。時(shí)序時(shí)序關(guān)聯(lián)規(guī)則分析關(guān)聯(lián)規(guī)則分析-Apriori-G方法方法時(shí)序時(shí)序關(guān)聯(lián)規(guī)則分析關(guān)聯(lián)規(guī)則分析-Apriori-G方法方法大項(xiàng)目集挖掘過(guò)程如下：大項(xiàng)目集挖掘過(guò)程如下：時(shí)序時(shí)序關(guān)聯(lián)規(guī)則分析關(guān)聯(lián)規(guī)則分析-Apriori-G方法方法20%時(shí)序

35、時(shí)序關(guān)聯(lián)規(guī)則分析關(guān)聯(lián)規(guī)則分析-Apriori-G方法方法 當(dāng)總顧客數(shù)為當(dāng)總顧客數(shù)為5 5時(shí)，最少支持度為時(shí)，最少支持度為20%20%，則項(xiàng)目集支持度要大于，則項(xiàng)目集支持度要大于1/5=1/5=20%20%, ,才保留。才保留。所以，（所以，（3030），（），（4040），（），（7070），（），（9090），（），（4040，7070）是頻繁）是頻繁集（大項(xiàng)集）集（大項(xiàng)集）時(shí)序時(shí)序關(guān)聯(lián)規(guī)則分析關(guān)聯(lián)規(guī)則分析-Apriori-G方法方法時(shí)序時(shí)序關(guān)聯(lián)規(guī)則分析關(guān)聯(lián)規(guī)則分析-Apriori-G方法方法時(shí)序時(shí)序關(guān)聯(lián)規(guī)則分析關(guān)聯(lián)規(guī)則分析-Apriori-G方法方法顧客號(hào)映射如下顧客號(hào)映射如下時(shí)序時(shí)序關(guān)聯(lián)

36、規(guī)則分析關(guān)聯(lián)規(guī)則分析-Apriori-G方法方法2/42/4補(bǔ)充補(bǔ)充時(shí)序時(shí)序關(guān)聯(lián)規(guī)則分析關(guān)聯(lián)規(guī)則分析-Apriori-G方法方法補(bǔ)充補(bǔ)充時(shí)序時(shí)序關(guān)聯(lián)規(guī)則分析關(guān)聯(lián)規(guī)則分析-Apriori-G方法方法六七月份同一日期六七月份同一日期有識(shí)別情況有識(shí)別情況時(shí)序關(guān)聯(lián)分析案例時(shí)序關(guān)聯(lián)分析案例Clementine12輔助過(guò)程輔助過(guò)程時(shí)序關(guān)聯(lián)分析案例時(shí)序關(guān)聯(lián)分析案例Clementine12輔助過(guò)程輔助過(guò)程時(shí)序關(guān)聯(lián)分析案例時(shí)序關(guān)聯(lián)分析案例Clementine12輔助過(guò)程輔助過(guò)程問(wèn)題：為何沒(méi)出現(xiàn)雙箭頭三項(xiàng)的規(guī)則？問(wèn)題：為何沒(méi)出現(xiàn)雙箭頭三項(xiàng)的規(guī)則？2/42/4時(shí)序關(guān)聯(lián)分析案例時(shí)序關(guān)聯(lián)分析案例Clementine12

37、輔助過(guò)程輔助過(guò)程把三種后項(xiàng)結(jié)果列示，當(dāng)樣本中出現(xiàn)對(duì)把三種后項(xiàng)結(jié)果列示，當(dāng)樣本中出現(xiàn)對(duì)應(yīng)應(yīng)T的項(xiàng)與列示的后項(xiàng)被包含在挖掘規(guī)的項(xiàng)與列示的后項(xiàng)被包含在挖掘規(guī)則中時(shí)，顯示規(guī)則的置信度為則中時(shí)，顯示規(guī)則的置信度為0.5.時(shí)序關(guān)聯(lián)分析案例時(shí)序關(guān)聯(lián)分析案例Clementine12輔助城市醫(yī)療建設(shè)時(shí)序關(guān)聯(lián)輔助城市醫(yī)療建設(shè)時(shí)序關(guān)聯(lián)問(wèn)題：?jiǎn)栴}：城市醫(yī)療建設(shè)過(guò)程的影響因素具有哪些時(shí)序發(fā)展關(guān)系？城市醫(yī)療建設(shè)過(guò)程的影響因素具有哪些時(shí)序發(fā)展關(guān)系？年限年限樣本樣本基礎(chǔ)基礎(chǔ)建設(shè)建設(shè)醫(yī)生醫(yī)生引進(jìn)引進(jìn)工作人員工作人員 引進(jìn)引進(jìn)門(mén)診所門(mén)診所 建設(shè)建設(shè)設(shè)備設(shè)備建設(shè)建設(shè)環(huán)境環(huán)境建設(shè)建設(shè)1997上海aaabbb1998上海ggaabb1

38、999上海ggggaa2000上海vvvvgg1997北京aabbba1998北京aaaaba1999北京aggggg2000北京avvvgv1997沈陽(yáng)bbbagb1998沈陽(yáng)aabagb1999沈陽(yáng)babaga2000沈陽(yáng)bbbagb1997武漢abaabb1998武漢aagabb1999武漢gaaabb2000武漢gggaba1997哈爾濱aaabbb1998哈爾濱agbaba1999哈爾濱ggbaab2000哈爾濱vgabaa年限年限樣本樣本基礎(chǔ)基礎(chǔ)建設(shè)建設(shè)醫(yī)生醫(yī)生引進(jìn)引進(jìn)工作人工作人員引進(jìn)員引進(jìn)門(mén)診所門(mén)診所 建設(shè)建設(shè)設(shè)備設(shè)備建設(shè)建設(shè)環(huán)境環(huán)境建設(shè)建設(shè)1997重慶babbbb1998重慶

39、aaabba1999重慶agaabb2000重慶ggbabb1997成都abbbab1998成都abaaaa1999成都aagaaa2000成都gggaaa1997蘭州abbaab1998蘭州aaaaaa1999蘭州ggagag2000蘭州vgagvv1997青島bbaabb1998青島bbagab1999青島abggaa2000青島abvvag1997鞍山abbbab1998鞍山ababaa1999鞍山gaabga2000鞍山gaabvg1 1）數(shù)據(jù)預(yù)處理）數(shù)據(jù)預(yù)處理 數(shù)據(jù)進(jìn)行處理，使得數(shù)據(jù)具有變量和時(shí)間特征，如下表所示，數(shù)據(jù)進(jìn)行處理，使得數(shù)據(jù)具有變量和時(shí)間特征，如下表所示，A-FA-F分別

40、代表各分別代表各個(gè)標(biāo)量，中間的個(gè)標(biāo)量，中間的a,b,v,ga,b,v,g為原來(lái)變量的取值，為原來(lái)變量的取值，1-41-4代表不同的年份代表不同的年份 年限年限樣本樣本基礎(chǔ)建設(shè)基礎(chǔ)建設(shè)A A醫(yī)生引進(jìn)醫(yī)生引進(jìn)B B工作人員工作人員引進(jìn)引進(jìn)C C門(mén)診所建門(mén)診所建設(shè)設(shè)D D設(shè)備建設(shè)設(shè)備建設(shè)E E環(huán)境建設(shè)環(huán)境建設(shè)F F19971997上海上海Aa1Aa1Ba1Ba1Ca1Ca1Db1Db1Eb1Eb1Fb1Fb119981998上海上海Ag2Ag2Bg2Bg2Ca2Ca2Da2Da2Eb2Eb2Fb2Fb219991999上海上海Ag3Ag3Bg3Bg3Cg3Cg3Dg3Dg3Ea3Ea3Fa3Fa32

41、0002000上海上海Av4Av4Bv4Bv4Cv4Cv4Dv4Dv4Eg4Eg4Fg4Fg4時(shí)序關(guān)聯(lián)分析案例時(shí)序關(guān)聯(lián)分析案例Clementine12輔助城市醫(yī)療建設(shè)時(shí)序關(guān)聯(lián)輔助城市醫(yī)療建設(shè)時(shí)序關(guān)聯(lián)2 2）時(shí)序關(guān)聯(lián)規(guī)則模型建立）時(shí)序關(guān)聯(lián)規(guī)則模型建立 時(shí)序關(guān)聯(lián)分析案例時(shí)序關(guān)聯(lián)分析案例Clementine12輔助城市醫(yī)療建設(shè)時(shí)序關(guān)聯(lián)輔助城市醫(yī)療建設(shè)時(shí)序關(guān)聯(lián)3 3）模型結(jié)果分析）模型結(jié)果分析 分別設(shè)置不同的置信度和支持度，運(yùn)行時(shí)序規(guī)則模型，規(guī)則數(shù)目如下：分別設(shè)置不同的置信度和支持度，運(yùn)行時(shí)序規(guī)則模型，規(guī)則數(shù)目如下：最小支持度最小支持度70%70%60%60%50%50%最小置信度最小置信度70%70

42、%60%60%50%50%規(guī)則數(shù)目規(guī)則數(shù)目1 16 63131 最小支持度為最小支持度為60%60%和最小置信度為和最小置信度為60%60%時(shí)的時(shí)的有效規(guī)則有效規(guī)則前項(xiàng)前項(xiàng) 后項(xiàng)后項(xiàng)支持度支持度 % %置信度置信度 % %Cb1Cb1Aa2Aa260.060.0100.0100.0Aa1Aa1Aa2Aa270.070.085.7185.71Aa1Aa1Da2Da270.070.085.7185.71Fb1Fb1Aa2Aa290.090.077.7877.78Fb1Fb1Ca2Ca290.090.066.6766.67Fb1Fb1Da2Da290.090.066.6766.67時(shí)序關(guān)聯(lián)分析案例時(shí)

43、序關(guān)聯(lián)分析案例Clementine12輔助城市醫(yī)療建設(shè)時(shí)序關(guān)聯(lián)輔助城市醫(yī)療建設(shè)時(shí)序關(guān)聯(lián)將提取的規(guī)則轉(zhuǎn)換為文字：將提取的規(guī)則轉(zhuǎn)換為文字：規(guī)則規(guī)則1 1：若工作人員引進(jìn)：若工作人員引進(jìn)=b=b，則第二年基礎(chǔ)建設(shè)，則第二年基礎(chǔ)建設(shè)=a=a，支持度為，支持度為60%60%，置信度，置信度100%100%規(guī)則規(guī)則2 2：若基礎(chǔ)建設(shè)：若基礎(chǔ)建設(shè)=a,=a,則第二年基礎(chǔ)建設(shè)則第二年基礎(chǔ)建設(shè)=a=a，支持度為，支持度為70%70%，置信度，置信度85.71%85.71%規(guī)則規(guī)則3 3：若基礎(chǔ)建設(shè)：若基礎(chǔ)建設(shè)=a,=a,則第二年門(mén)診所建設(shè)則第二年門(mén)診所建設(shè)=a=a，支持度為，支持度為70%70%，置信度，置信度

44、85.71%85.71%規(guī)則規(guī)則4 4：若環(huán)境建設(shè)：若環(huán)境建設(shè)=b, =b, 則第二年基礎(chǔ)建設(shè)則第二年基礎(chǔ)建設(shè)=a=a，支持度為，支持度為90%90%，置信度，置信度77.78%77.78%規(guī)則規(guī)則5 5：若環(huán)境建設(shè)：若環(huán)境建設(shè)=b, =b, 則工作人員引進(jìn)則工作人員引進(jìn)=a=a，支持度為，支持度為90%90%，置信度，置信度66.67%66.67%規(guī)則規(guī)則6 6：若環(huán)境建設(shè)：若環(huán)境建設(shè)=b, =b, 則第二年門(mén)診所建設(shè)則第二年門(mén)診所建設(shè)=a=a，支持度為，支持度為90%90%，置信度，置信度66.67%66.67%時(shí)序關(guān)聯(lián)分析案例時(shí)序關(guān)聯(lián)分析案例Clementine12輔助城市醫(yī)療建設(shè)時(shí)序關(guān)

45、聯(lián)輔助城市醫(yī)療建設(shè)時(shí)序關(guān)聯(lián)若不考慮事務(wù)發(fā)生的時(shí)間間隔性，可將數(shù)據(jù)處理為：若不考慮事務(wù)發(fā)生的時(shí)間間隔性，可將數(shù)據(jù)處理為：年限年限樣本樣本基礎(chǔ)建設(shè)基礎(chǔ)建設(shè)A A醫(yī)生引進(jìn)醫(yī)生引進(jìn)B B工作人員引進(jìn)工作人員引進(jìn)C C門(mén)診所建設(shè)門(mén)診所建設(shè)D D設(shè)備建設(shè)設(shè)備建設(shè)E E環(huán)境建設(shè)環(huán)境建設(shè)F F19971997上海上海AaAaBaBaCaCaDbDbEbEbFbFb19981998上海上海AgAgBgBgCaCaDaDaEbEbFbFb19991999上海上海AgAgBgBgCgCgDgDgEaEaFaFa20002000上海上海AvAvBvBvCvCvDvDvEgEgFgFg分別設(shè)置不同的置信度和支持度，運(yùn)行

46、分別設(shè)置不同的置信度和支持度，運(yùn)行時(shí)序規(guī)則模型，在沒(méi)有先后時(shí)間條件下，時(shí)序規(guī)則模型，在沒(méi)有先后時(shí)間條件下，規(guī)則數(shù)目、最小支持度和最小置信度都是規(guī)則數(shù)目、最小支持度和最小置信度都是60%60%的有效規(guī)則如下所示：的有效規(guī)則如下所示：最小支持度最小支持度80%80%70%70%60%60%50%50%最小置信度最小置信度80%80%70%70%60%60%50%50%規(guī)則數(shù)目規(guī)則數(shù)目7 730307777235235前項(xiàng)前項(xiàng) 后項(xiàng)后項(xiàng)支持度支持度 % %置信度置信度 % %FbFbFaFa90.090.0100.0100.0FbFbAaAa90.090.088.8988.89FbFbCaCa90.

47、090.088.8988.89AaAaCaCa100.0100.080.080.0AaAaFaFa100.0100.080.080.0AaAaAaAa100.0100.080.080.0AaAaDaDa100.0100.080.080.0時(shí)序關(guān)聯(lián)分析案例時(shí)序關(guān)聯(lián)分析案例Clementine12輔助城市醫(yī)療建設(shè)時(shí)序關(guān)聯(lián)輔助城市醫(yī)療建設(shè)時(shí)序關(guān)聯(lián)取值沒(méi)有時(shí)間的時(shí)序關(guān)聯(lián)，提取規(guī)則的文字表示：取值沒(méi)有時(shí)間的時(shí)序關(guān)聯(lián)，提取規(guī)則的文字表示：規(guī)則規(guī)則1 1：若環(huán)境建設(shè)：若環(huán)境建設(shè)=b=b，則未來(lái)環(huán)境建設(shè)，則未來(lái)環(huán)境建設(shè)=a=a，支持度為，支持度為90%90%，置信度，置信度100%100%規(guī)則規(guī)則2 2：若環(huán)

48、境建設(shè)：若環(huán)境建設(shè)=b=b，則未來(lái)基礎(chǔ)建設(shè)，則未來(lái)基礎(chǔ)建設(shè)=a=a，支持度為，支持度為90%90%，置信度，置信度88.89%88.89%規(guī)則規(guī)則3 3：若環(huán)境建設(shè)：若環(huán)境建設(shè)=b=b，則未來(lái)工作人員引進(jìn)，則未來(lái)工作人員引進(jìn)=a=a，支持度為，支持度為90%90%，置信度，置信度88.89%88.89%規(guī)則規(guī)則4 4：若基礎(chǔ)建設(shè)：若基礎(chǔ)建設(shè)=a=a，則未來(lái)工作人員引進(jìn)，則未來(lái)工作人員引進(jìn)=a=a，支持度為，支持度為100%100%，置信度，置信度80%80%規(guī)則規(guī)則5 5：若基礎(chǔ)建設(shè)：若基礎(chǔ)建設(shè)=a=a，則未來(lái)環(huán)境建設(shè)，則未來(lái)環(huán)境建設(shè)=a=a，支持度為，支持度為100%100%，置信度，置信度

49、80%80%規(guī)則規(guī)則6 6：若基礎(chǔ)建設(shè)：若基礎(chǔ)建設(shè)=a=a，則未來(lái)基礎(chǔ)建設(shè)，則未來(lái)基礎(chǔ)建設(shè)=a=a，支持度為，支持度為100%100%，置信度，置信度80%80%規(guī)則規(guī)則7 7：若基礎(chǔ)建設(shè)：若基礎(chǔ)建設(shè)=a=a，則未來(lái)門(mén)診所建設(shè)，則未來(lái)門(mén)診所建設(shè)=a=a，支持度為，支持度為100%100%，置信度，置信度80%80% 時(shí)序關(guān)聯(lián)分析案例時(shí)序關(guān)聯(lián)分析案例Clementine12輔助城市醫(yī)療建設(shè)時(shí)序關(guān)聯(lián)輔助城市醫(yī)療建設(shè)時(shí)序關(guān)聯(lián)取值體現(xiàn)時(shí)間的時(shí)序關(guān)聯(lián)，提取規(guī)則的文字表示：取值體現(xiàn)時(shí)間的時(shí)序關(guān)聯(lián)，提取規(guī)則的文字表示：規(guī)則規(guī)則1 1：若工作人員引進(jìn)：若工作人員引進(jìn)=b=b，則第二年基礎(chǔ)建設(shè)，則第二年基礎(chǔ)建設(shè)

50、=a=a，支持度為，支持度為60%60%，置信度，置信度100%100%規(guī)則規(guī)則2 2：若基礎(chǔ)建設(shè)：若基礎(chǔ)建設(shè)=a,=a,則則第二年基礎(chǔ)建設(shè)第二年基礎(chǔ)建設(shè)=a=a，支持度為，支持度為70%70%，置信度，置信度85.71%85.71%規(guī)則規(guī)則3 3：若基礎(chǔ)建設(shè)：若基礎(chǔ)建設(shè)=a,=a,則則第二年門(mén)診所建設(shè)第二年門(mén)診所建設(shè)=a=a，支持度為，支持度為70%70%，置信度，置信度85.71%85.71%規(guī)則規(guī)則4 4：若環(huán)境建設(shè)：若環(huán)境建設(shè)=b, =b, 則則第二年基礎(chǔ)建設(shè)第二年基礎(chǔ)建設(shè)=a=a，支持度為，支持度為90%90%，置信度，置信度77.78%77.78%規(guī)則規(guī)則5 5：若環(huán)境建設(shè)：若環(huán)境

51、建設(shè)=b, =b, 則則工作人員引進(jìn)工作人員引進(jìn)=a=a，支持度為，支持度為90%90%，置信度，置信度66.67%66.67%規(guī)則規(guī)則6 6：若環(huán)境建設(shè)：若環(huán)境建設(shè)=b, =b, 則則第二年門(mén)診所建設(shè)第二年門(mén)診所建設(shè)=a=a，支持度為，支持度為90%90%，置信度，置信度66.67%66.67%遺傳算法遺傳算法基本概念基本概念P241七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法問(wèn)題：?jiǎn)栴}：1、如何求一組評(píng)價(jià)指標(biāo)值（、如何求一組評(píng)價(jià)指標(biāo)值（X1,X2,X3,X4,X5)，使醫(yī)療評(píng)價(jià)能力最大且醫(yī)療成本最??？，使醫(yī)療評(píng)價(jià)能力最大且醫(yī)療成本最??？ 2、對(duì)、對(duì)N個(gè)股票，如何分配投資比例，使收益最大

52、且風(fēng)險(xiǎn)在可接受范圍？個(gè)股票，如何分配投資比例，使收益最大且風(fēng)險(xiǎn)在可接受范圍？ 3、要使網(wǎng)絡(luò)收益在期望范圍，影響網(wǎng)絡(luò)收益的因素應(yīng)在什么范圍變化？、要使網(wǎng)絡(luò)收益在期望范圍，影響網(wǎng)絡(luò)收益的因素應(yīng)在什么范圍變化？特點(diǎn)：隨機(jī)搜索，優(yōu)勝劣汰特點(diǎn)：隨機(jī)搜索，優(yōu)勝劣汰七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法基本概念基本概念P241-242七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法基本概念基本概念補(bǔ)充補(bǔ)充七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法補(bǔ)充補(bǔ)充P242七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法 對(duì)個(gè)體進(jìn)行選擇復(fù)制對(duì)個(gè)體進(jìn)行選擇復(fù)制 按一定概率和

53、定義進(jìn)行變異按一定概率和定義進(jìn)行變異 按一定概率和定義進(jìn)行交叉按一定概率和定義進(jìn)行交叉滿足終止條件滿足終止條件 對(duì)每一個(gè)體計(jì)算適應(yīng)值對(duì)每一個(gè)體計(jì)算適應(yīng)值 顯示適應(yīng)值或最優(yōu)解顯示適應(yīng)值或最優(yōu)解 隨機(jī)產(chǎn)生初始種群隨機(jī)產(chǎn)生初始種群遺傳算法遺傳算法主要流程主要流程P243遺傳算法遺傳算法編碼設(shè)計(jì)編碼設(shè)計(jì)P242七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法編碼設(shè)計(jì)編碼設(shè)計(jì)P242七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法適應(yīng)值函數(shù)設(shè)計(jì)適應(yīng)值函數(shù)設(shè)計(jì)P243七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法選擇選擇算子設(shè)計(jì)算子設(shè)計(jì)P244遺傳算法遺傳

54、算法選擇選擇算子設(shè)計(jì)算子設(shè)計(jì)P244遺傳算法遺傳算法交叉算子設(shè)計(jì)交叉算子設(shè)計(jì)P245遺傳算法遺傳算法交叉算子設(shè)計(jì)交叉算子設(shè)計(jì)P246七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法交叉算子設(shè)計(jì)交叉算子設(shè)計(jì)P246七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法交叉算子設(shè)計(jì)交叉算子設(shè)計(jì)P246七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法交叉算子設(shè)計(jì)交叉算子設(shè)計(jì)P246遺傳算法遺傳算法交叉算子設(shè)計(jì)交叉算子設(shè)計(jì)P246七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法變異變異算子設(shè)計(jì)算子設(shè)計(jì)P247遺傳算法遺傳算法變異變異算子設(shè)計(jì)算子

55、設(shè)計(jì)P247七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法應(yīng)用例應(yīng)用例P247七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法應(yīng)用例應(yīng)用例P248遺傳算法遺傳算法應(yīng)用例應(yīng)用例P249七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法應(yīng)用神經(jīng)網(wǎng)絡(luò)權(quán)值優(yōu)化應(yīng)用神經(jīng)網(wǎng)絡(luò)權(quán)值優(yōu)化P250遺傳算法遺傳算法應(yīng)用神經(jīng)網(wǎng)絡(luò)權(quán)值優(yōu)化應(yīng)用神經(jīng)網(wǎng)絡(luò)權(quán)值優(yōu)化P250七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法應(yīng)用神經(jīng)網(wǎng)絡(luò)權(quán)值優(yōu)化應(yīng)用神經(jīng)網(wǎng)絡(luò)權(quán)值優(yōu)化P250七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法應(yīng)用神經(jīng)網(wǎng)絡(luò)權(quán)值優(yōu)化應(yīng)用神經(jīng)網(wǎng)絡(luò)

56、權(quán)值優(yōu)化P250七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法應(yīng)用神經(jīng)網(wǎng)絡(luò)權(quán)值優(yōu)化應(yīng)用神經(jīng)網(wǎng)絡(luò)權(quán)值優(yōu)化P251七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法應(yīng)用神經(jīng)網(wǎng)絡(luò)權(quán)值優(yōu)化應(yīng)用神經(jīng)網(wǎng)絡(luò)權(quán)值優(yōu)化P251七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法模式定理有關(guān)概念模式定理有關(guān)概念P251七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法遺傳算法遺傳算法模式定理有關(guān)概念模式定理有關(guān)概念P252遺傳算法遺傳算法模式定理有關(guān)概念模式定理有關(guān)概念P252遺傳算法的遺傳算法的模式定理有關(guān)概念模式定理有關(guān)概念P253七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳

57、算法遺傳算法遺傳算法的遺傳算法的模式定理模式定理P254 分析：分析：第二章管理與決策支持的數(shù)據(jù)挖掘方法（三）第二章管理與決策支持的數(shù)據(jù)挖掘方法（三）遺傳算法的遺傳算法的模式定理模式定理P2542 2）遺傳算法的遺傳算法的模式定理模式定理P2543 3）4 4）遺傳算法的遺傳算法的模式定理模式定理P2545 5）七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法問(wèn)題描述問(wèn)題描述 在城市醫(yī)療能力評(píng)價(jià)中，令在城市醫(yī)療能力評(píng)價(jià)中，令X1病床數(shù)，病床數(shù)，X2醫(yī)生數(shù)，醫(yī)生數(shù)，X3工作人員工作人員數(shù)，數(shù)，X4診所數(shù)，診所數(shù)，X5死亡率，死亡率，Y醫(yī)療能力，醫(yī)療能力， 若設(shè)若設(shè)Xi?1000，10000，i=

58、1，2，3，X4 ?10，100， X5 ?0，0.2，Y ?0，1， X=（X1，X2，X3，X4，X5）要求：要求：設(shè)計(jì)遺傳算法，求達(dá)到醫(yī)療能力最好且總成本最小的設(shè)計(jì)遺傳算法，求達(dá)到醫(yī)療能力最好且總成本最小的X（即（即Xi的最優(yōu)組的最優(yōu)組合）？合）？設(shè)計(jì)包括：設(shè)計(jì)包括：（1）定義醫(yī)生、病床、工作人員、診所的成本條件；）定義醫(yī)生、病床、工作人員、診所的成本條件；（2）設(shè)計(jì)編碼、適值函數(shù)、選擇算子、交叉算子和變異算子；）設(shè)計(jì)編碼、適值函數(shù)、選擇算子、交叉算子和變異算子； 其中，適應(yīng)值函數(shù)要求設(shè)計(jì)為一般形式；當(dāng)輸入其中，適應(yīng)值函數(shù)要求設(shè)計(jì)為一般形式；當(dāng)輸入ai、bi、C、D時(shí)，可以時(shí)，可以建立不

59、同參數(shù)下的適值函數(shù)建立不同參數(shù)下的適值函數(shù): DcbXaXfnitiii1)(1)(軟件輔助遺傳算法的求解軟件輔助遺傳算法的求解七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法 為了能夠使用為了能夠使用MatlabMatlab里面的遺傳算法工具箱來(lái)解決此次問(wèn)題，需要把里面的遺傳算法工具箱來(lái)解決此次問(wèn)題，需要把MatlabMatlab升級(jí)到升級(jí)到7.107.10（20122012版本）或者以上。版本）或者以上。 打開(kāi)打開(kāi)MatlabMatlab之后，直接的窗口中輸入之后，直接的窗口中輸入optimtooloptimtool，然后選擇，然后選擇gag

60、a，或者直接輸入，或者直接輸入gatoolgatool，調(diào)用遺傳，調(diào)用遺傳算法工具箱。如下圖所示：算法工具箱。如下圖所示： 界面分界面分3 3個(gè)板塊，其中個(gè)板塊，其中左邊和中間左邊和中間的板塊是遺傳算法參數(shù)的設(shè)置區(qū)域，第三板塊是對(duì)于各個(gè)參數(shù)的板塊是遺傳算法參數(shù)的設(shè)置區(qū)域，第三板塊是對(duì)于各個(gè)參數(shù)的說(shuō)明。的說(shuō)明。 在使用遺傳算法工具箱之前，需要對(duì)之前寫(xiě)好的適應(yīng)值函數(shù)做小小的修改，以使其能應(yīng)用在遺在使用遺傳算法工具箱之前，需要對(duì)之前寫(xiě)好的適應(yīng)值函數(shù)做小小的修改，以使其能應(yīng)用在遺傳算法工具箱里面。傳算法工具箱里面。 七、數(shù)據(jù)挖掘方法七、數(shù)據(jù)挖掘方法遺傳算法遺傳算法利用利用Matlab的多層感知機(jī)的神經(jīng)網(wǎng)絡(luò)模型，學(xué)習(xí)后