1、2007/4/20,東北大學(xué)工學(xué)部橋本研究室,A General Framework for Mining Concept-Drifting Data Streams with Skewed Distributions生分布偏対一般的枠組,出典：SIAM Conference on Data Mining 2007(SDM07) 著者：J.Gao, W.Fan,J.Han,P.S.Yu 発表者：橋本研究室年西村聖 所屬：東北大學(xué)工學(xué)部 発表日：2007/4/20,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,1,目次,背景 既存手法問(wèn)題 予測(cè)誤差原因 提案手法誤差削減 実験方法結(jié)果 考察,背景

2、,分類：大量予決（）分 例.不正検出 毎日大量履歴,不正僅 分布偏 ,不正手段日変化（） 不正見逃大変！ 分布偏， 対応手法必要,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,2,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,3,基本的型分類學(xué)習(xí)流,學(xué)習(xí)用,學(xué)習(xí),分類,1,2,分類,分類,発生構(gòu)築,発生,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,4,既存手法問(wèn)題點(diǎn),分布取，安定仮定 生分布偏仮定 條件付確率変化捉実際観測(cè)，結(jié)合確率 結(jié)合確率変化條件付確率変化，生起確率変化分 結(jié)合確率変化捉， 詳細(xì)分析,x:事例y:,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,5,予測(cè)誤差関係,予測(cè)誤差

3、発生結(jié)合確率変化 表種類 予測(cè)誤差発生指標(biāo)， 対応既存手法同様 最新再構(gòu)築必要,分類予測(cè),2007/4/20,東北大學(xué)工學(xué)部橋本研究室,6,分類結(jié)果含誤差種類,予測(cè)誤差誤差（真分類誤率)+分散 ：分類用制約 分散：異學(xué)習(xí)用場(chǎng)合分類予測(cè)差 大學(xué)習(xí)精度 小學(xué)習(xí)結(jié)果安定 適切設(shè)定 提案手法學(xué)習(xí)C4.5用， 枝刈適度保,提案手法流,學(xué)習(xí),學(xué)習(xí),分類,1,2,分類,分類,再構(gòu)築,最新,発生,過(guò)去少數(shù),學(xué)習(xí)用,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,7,學(xué)習(xí)最新用, 分布偏過(guò)去少數(shù)再利用， 多數(shù)數(shù)減分布偏 図流,少數(shù)分類事例 多數(shù)分類事例,過(guò)去少數(shù),最新,2007/4/20,8,東北大學(xué)工學(xué)部橋本研

4、究室,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,9,分散削減,利點(diǎn)：過(guò)去少數(shù)用，事例不足 分散減 欠點(diǎn)：過(guò)去事例用，現(xiàn)在異 増，増 ，多數(shù)事例現(xiàn)在反映， 數(shù)十分上昇僅 見予測(cè)精度上昇,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,10,學(xué)習(xí),複數(shù)分類用 予測(cè)精度向上計(jì) 學(xué)習(xí)結(jié)果， 分類 予測(cè)平均，事例x 少數(shù)屬確率 ：分類數(shù) ：學(xué)習(xí)結(jié)果 ：各分類予測(cè)結(jié)果,學(xué)習(xí),學(xué)習(xí)用k,學(xué)習(xí)用,分類,分類,結(jié)果平均,學(xué)習(xí)用,分類k,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,11,學(xué)習(xí)分散削減,學(xué)習(xí)結(jié)果誤差用表現(xiàn) 分散項(xiàng)分散以下 分類數(shù)k大分散分散小，精度上,2007/4/20,東北大學(xué)工學(xué)部橋本研究室

5、,12,実験方法目的,提案手法他手法比，提案手法分布偏対優(yōu)位性示 表2提案手法他手法 提案手法 SE(Sampling+Ensemble)分類數(shù)5個(gè) 比較手法 NS(No sampling +Single model) SS(Sampling+Single model),2007/4/20,東北大學(xué)工學(xué)部橋本研究室,13,人工,実現(xiàn) 11個(gè)作 1000 実現(xiàn) 間各次元値,重変 P(x),P(y|x)変相當(dāng) 変化方向10%確率反転 分布偏実現(xiàn) 少數(shù)全體1%設(shè)定 生,分布偏 実現(xiàn),2007/4/20,東北大學(xué)工學(xué)部橋本研究室,14,條件付確率，生起確率変化,P(x)変化 事例x正規(guī)分布従，x各次元

6、平均値変化,x分布?jí)浠?P(y|x)変化 事例x小數(shù)c割當(dāng)條件付確率 表 （）x各次元値次元重関數(shù)， 分布偏（少數(shù)全體%）設(shè)定,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,15,人工ROC曲線,Figure2-(a)人工ROC曲線 提案手法他手法遙,縦軸：検出率 少數(shù)正 分類確率 橫軸：誤検出率 多數(shù) 誤分類確率 左上近 理想的分類,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,16,人工精度-再現(xiàn)率,Figure2-(b).人工精度-再現(xiàn)率 提案手法他手法精度再現(xiàn)率高保,縦軸:精度 少數(shù) 予測(cè)中正確率 橫軸:再現(xiàn)率(検出率) 精度再現(xiàn)率経験的 ,2007/4/20,東北大學(xué)工學(xué)部橋本研究室

7、,17,既存手法対応分布偏対，提案手法，學(xué)習(xí)用対応 既存手法同様,分類再構(gòu)築対応,対詳細(xì)分析 課題 問(wèn)題，多問(wèn)題対応,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,18,考察,毎回再構(gòu)築，現(xiàn)在変化対応再構(gòu)築方法，再構(gòu)築頻度減,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,19,靜聴,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,20,予測(cè)精度比較,補(bǔ)助表AUC比較,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,21,実（UCI machine learning repository公開）,偏分布実現(xiàn) 使，分布偏加工 少數(shù)，殘多數(shù) 実現(xiàn) 偏分布保 分 実現(xiàn) 実現(xiàn)為，元 分同士微妙異 実現(xiàn),程度弱 補(bǔ)助表実,実,補(bǔ)助表実,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,22,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,23,実ROC曲線,Figure3-(a)実ROC曲線 実程度激，人工程提案手法改善見 ，提案手法最優(yōu),2007/4/20,東北大學(xué)工學(xué)部橋本研究室,24,実精度-再現(xiàn)率,図実精度-再現(xiàn)率 程度激人工差， 提案手法一番精度再現(xiàn)率高保,2007/4/20,東北大學(xué)工學(xué)部橋本研究室,25,人工詳