1、會(huì)計(jì)學(xué)1智能決策理論與方法智能決策理論與方法22021年11月30日17時(shí)15分第1頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第2頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分n歸納學(xué)習(xí)是指從給定的關(guān)于某個(gè)概念的一系列已知的正例和反例中歸納出一個(gè)通用的概念描述。n泛化(Generalization)是用來(lái)擴(kuò)展一假設(shè)的語(yǔ)義信息，使其能夠包含更多的正例。泛化所得到的結(jié)論并不總是正確的。n常用泛化方法：n將常量轉(zhuǎn)為變量規(guī)則：對(duì)于概念F(v)，如果v的某些取值a,b,使F(v)成立，則這些概念可被泛化為：對(duì)于v的所有值，F(xiàn)(v)均成立：)()(|)()(vFvbFaF第3頁(yè)/共52頁(yè)2021年11

2、月30日17時(shí)15分)()(Re|)()()(RevApplevdvApplevCirclevd)()()(Re|)()(RevApplevBluevdvApplevd)()()(Re|)()()(RevApplevCirclevdvApplevCirclevd第4頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分化必須有相應(yīng)的終止泛化算法的策略。sxLxbvAauA)()(|)()(第5頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分動(dòng)物哺乳類(lèi)鳥(niǎo)類(lèi)企鵝食肉類(lèi)蹄類(lèi)飛禽類(lèi)走禽類(lèi)虎印度豹長(zhǎng)頸鹿斑馬信天翁鷹駝鳥(niǎo)第1層第2層第3層第4層第6頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第7頁(yè)/共52頁(yè)202

3、1年11月30日17時(shí)15分A0A1A1A2-11-11-110010110第8頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第9頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分A0A1A1A2-11-11-110010110第10頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第11頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分為k個(gè)子集，且假設(shè)第j個(gè)子集中包含Pj個(gè)正例，Nj個(gè)反例，則第j個(gè)子集的信息熵為I(Pj,Nj)。)log()log(),(NPNNPNNPPNPPNPI第12頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分kjjjjjNPINPNPAE1),()(第13頁(yè)/共52頁(yè)202

4、1年11月30日17時(shí)15分)()()(ASplitiAGainAgainratiokjjjjjnNPnNPASpliti1)log()(第14頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第15頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第16頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分xxxxxf|)(xxxf11)(xxxeexforexf11)(11)(第17頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第18頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第19頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第20頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分PppPpppEYYE1

5、121)(21第21頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分 1jijijiEttt第22頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第23頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分nplot(P,T,P,Y,o)第24頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分012345678910-0.500.511.522.533.54012345678910-0.500.511.522.533.540510152025303540455010-310-210-110010110250 EpochsTraining-BluePerformance is 0.00225488, Goal

6、is 0第25頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第26頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第27頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第28頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分l時(shí)兩者相等。dxdyyxpyxffR),()()(liiiempyxflfR1)(1)()()(limfRfRempl第29頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分)(min()(min(limfRfRempl第30頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分這是小樣本統(tǒng)計(jì)理論與經(jīng)典統(tǒng)計(jì)理論的本質(zhì)區(qū)別，也是將Vapnik統(tǒng)計(jì)方法稱(chēng)之為小樣本統(tǒng)計(jì)理論的原因。lhlhfRfR

7、emp)4ln) 12(ln()()(第31頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分結(jié)論：要想使實(shí)際風(fēng)險(xiǎn)最小不僅要使經(jīng)驗(yàn)風(fēng)險(xiǎn)最小，還同時(shí)需要使分類(lèi)器函數(shù)f的VC維h盡可能最小，這就是結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則。因此尋找最小屬性集變得非常有意義。第32頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第33頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分距離為：2|wbwxdii第34頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分1)(. .21minbwxytswwiiT第35頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分dixxxxK)1 (),(21)/exp(),(2221ixxxxK)(tan

8、h(),(2121kxxkxxKi第36頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第37頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分(7)轉(zhuǎn)到(2)。第38頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分到離散化連續(xù)屬性集的全部分割點(diǎn)。),(,),(),(),(PcP210iiiikiiiiiiiiCciCccccccccc3kik ki i-121ikieci1ikic2ic1ic0iics 第39頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分s碼值。si為連續(xù)屬性ci的起點(diǎn)值，ei為其終點(diǎn)值)(122)()()(11iiililssijisesmsc第40頁(yè)/共52頁(yè)2021年11月3

9、0日17時(shí)15分表示了分割點(diǎn)集的一條染色體。miikill1) 1)(第41頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分)()(),(/UCardXCCarddCkdUX第42頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分NiiiidCdCN1),(),(第43頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分s40.31s20.49s10.14s30.06第44頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分1)() 1)(11irkjlijj) 1)() 1)(11iijjkilkjl第45頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第46頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分)() 1)(11irkjlijj第47頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分第48頁(yè)/共52頁(yè)2021年11月30日17時(shí)15分c1c2c3dc1c2c3d1911922.6134.527093.122612031.2138.720278.2116.1931515.519910.9228.718653.411112013.2217.110117.2218.812122.7113.615020.4123.226652.5114.8588.6113.514119.1120.46513.3123.321449.8140.417269.611c2c3c11c12c21c