結合全局和局部正則化的半監(jiān)督二分類算法摘要:針對在半監(jiān)督分類問題中單獨使用全局學習容易出現的在整個輸入空間中較難獲得一個優(yōu)良的決策函數的問題,以及單獨使用局部學習可在特定的局部區(qū)域內習得較好的決策函數的特點,提出了一種結合全局和局部正則化的半監(jiān)督二分類算法。該算法綜合全局正則項和局部正則項的優(yōu)點,基于先驗知識構建的全局正則項能平滑樣本的類標號以避免局部正則項學習不充分的問題,通過基于局部鄰域內樣本信息構建的局部正則項使得每個樣本的類標號具有理想的特性,從而構造出半監(jiān)督二分類問題的目標函數。通過在標準二類數據集上的實驗,結果表明所提出的算法其平均分類正確率和標準誤差均優(yōu)于基于拉普拉斯正則項方法、基于正則化拉普拉斯正則項方法和基于局部學習正則項方法。

關鍵詞:半監(jiān)督學習;二分類問題;全局正則化;局部正則化;平滑

semi-supervisedbinaryclassificationalgorithmbasedon

globalandlocalregularization

英文作者名ljia1,2,3*

英文地址(1.schoolofmathematicalsciences,innermongoliauniversity,hohhotneimongol010021,china;

2.collegeofcomputerandinformationscience,chongqingnormaluniversity,chongqing400047,china;

3.collegeofscience,chinaagriculturaluniversity,beijing100083,china)

abstract:asforsemi-supervisedclassificationproblem,itisdifficulttoobtainagoodclassificationfunctionfortheentireinputspaceifgloballearningisusedalone,whileiflocallearningisutilizedalone,agoodclassificationfunctiononsomespecifiedregionsoftheinputspacecanbegot.accordingly,anewsemi-supervisedbinaryclassificationalgorithmbasedonamixedlocalandglobalregularizationwaspresentedinthispaper.thealgorithmintegratedthebenefitsofglobalregularizerandlocalregularizer.globalregularizerwasbuilttosmooththeclasslabelsofthedatasoastolesseninsufficienttrainingoflocalregularizer,andbasedupontheneighboringregion,localregularizerwasconstructedtomakeclasslabelofeachdatahavethedesiredproperty,thustheobjectivefunctionofsemi-supervisedbinaryclassificationproblemwasconstructed.comparativesemi-supervisedbinaryclassificationexperimentsonsomebenchmarkdatasetsvalidatethattheaverageclassificationaccuracyandthestandarderroroftheproposedalgorithmareobviouslysuperiortootheralgorithms.

[1]鄧乃揚,田英杰.數據挖掘中的新方法——支持向量機[m].北京:科學出版社,2004.

[2]鄧乃揚,田英杰.支持向量機:理論、算法與拓展[m].北京:科學出版社,2009.

[3]呂佳.基于動態(tài)隧道系統(tǒng)的k-means聚類算法研究[j].重慶師范大學學報:自然科學版,2009,26(1):73-77.

[4]chapelleo,scholkopfb,ziena.semi-supervisedlearning[m].cambridge:mitpress,2006.

[5]zhuxj.semi-supervisedlearningliteraturesurvey[eb/ol].[2010-05-10]./~jerryzhu/pub/ssl_survey.pdf.

[6]呂佳.基于改進分類模型的文本分類系統(tǒng)實現[j].重慶師范大學學報:自然科學版,2009,26(2):68-73.

[7]zhuxj,ghaharmaniz,laffertyj.semi-supervisedlearningusinggaussianfieldsandharmonicfunctions[c