1、數(shù)據(jù)挖掘十大算法之 AdaBoost,An example,給定如下表所示的訓(xùn)練數(shù)據(jù)：,AdaBoost算法,Adaptive,Boosting,AdaBoost,主要思想：從弱學(xué)習(xí)算法出發(fā)，反復(fù)學(xué)習(xí)，得到一系列弱 分類器，然后組合這些弱分類器，構(gòu)成一個(gè)強(qiáng) 分類器。,幾個(gè)概念,強(qiáng)可學(xué)習(xí)：在PAC學(xué)習(xí)的框架中，一個(gè)概念（類），如果存在一個(gè)多項(xiàng)式的學(xué)習(xí)算法能夠?qū)W習(xí)它，并且正確率很高，那么就稱這個(gè)概念是強(qiáng)可學(xué)習(xí)的,弱可學(xué)習(xí)：在PAC學(xué)習(xí)的框架中，一個(gè)概念（類），如果存在一個(gè)多項(xiàng)式的學(xué)習(xí)算法能夠?qū)W習(xí)它，學(xué)習(xí)的正確率僅比隨機(jī)猜測(cè)略好，那么就稱這個(gè)概念是弱可學(xué)習(xí)的,在PAC學(xué)習(xí)框架下，一個(gè)概念是強(qiáng)可學(xué)習(xí)的

2、充分必要條件是這個(gè)概念是弱可學(xué)習(xí)的,AdaBoost算法,. . .,弱分類器,強(qiáng)分類器,AdaBoost算法,AdaBoost算法,弱分類器1,AdaBoost算法,權(quán)重增大,弱分類器2,AdaBoost算法,權(quán)重增加,AdaBoost算法,弱分類器3,AdaBoost算法,最終的強(qiáng)分類器,AdaBoost算法,An example,給定如下表所示的訓(xùn)練數(shù)據(jù)：,AdaBoost算法,Adaboost算法最終分類器的錯(cuò)誤率是多少？,AdaBoost的目標(biāo)：最小化損失函數(shù),AdaBoost算法在人臉檢測(cè)上的應(yīng)用,參考文獻(xiàn)：P. Viola and M. Jones. Robust real-ti

3、me face detection. IJCV 57(2), 2004.,人臉檢測(cè)的目標(biāo),級(jí)聯(lián)分類器,人臉檢測(cè)中的弱分類器,AdaBoost算法改進(jìn),參考文獻(xiàn)： Y. Freund and R. E. Schapire. A decision-theoretic generalization of on-line learning and an application to boosting. Journal of Computer and System Sciences, 55(1):119139, 1997. Y. Freund and R. E. Schapire. A short introduction to boosting. Journal ofJapanese Societ