題目：基于歷史記錄的超長拼音輸入法學生姓名: 學生學號: 專 業(yè): 指導教師: 學院(系): 基于歷史記錄的超長拼音輸入法摘要中文輸入法是中文信息處理的重要組成部分，也是中文操作系統(tǒng)的計算機人機交互的重要環(huán)節(jié)。在學術界和工業(yè)界都有著很高的地位，大型的互聯(lián)網公司和軟件開發(fā)公司都在SunPiyinSunPinyinWindows關鍵詞：中文拼音輸入法，歷史記錄，超長預測基于歷史記錄的超長拼音輸入法基于歷史記錄的超長拼音輸入法THELONGESTFORECASTPINYININPUTMETHODBASEDONHISTORICALRECORDABSTRACTChineseInputMethodplaysanimportantroleinChineselanguageprocessing,andisakeyfactorofhuman-computerinteractionforChinese.IthashighstatusinacademiaandLargeInternetcompaniesandsoftwaredevelopmentcompaniesaredevelopingtheirowninputmethodproduct.DuringalltheChinesepinyininputmethod,theSunPinyininputmethodisthebestonewhichisopensource.Inthisarticle,wechooseSunPinyinasthekernelofthenewChinesepinyininputmethodonWindows.Basedonthis,wechoosesegmentationalgorithmtoanalysisthehistoricalrecord,whichisthemostimportantpartoftoimplementthelongestforecastChinesepinyininputmethodbasedonhistoricalrecord.FposedevaluationsystemforChineseinputmethodbasedonkeystrokecountfromtheviewofuserexperience.Itprovethatthenewinputmethodpreformquitewell.Keywords:ChinesePinyinInputMethod,HistoricalRecord,LongestForecast目錄第一章1研究義 1研究景 1研究容 2論文構 2第二章Windows輸?shù)臉嫾夹g 3IME3IME架現(xiàn) 3音入的計 4入安裝 5章結 5第章SunPinyin入法 6SunPinyin輸法 6SunPinyin輸法擎 7SunPinyin移植 8UCS-4轉字 9章結 9第四章于史錄音預算法 10入歷記分析 10史錄析長測算（HRAP） 10章結 13第五章入評測 14驗境 14驗果 14第六章結展望 16謝辭 18第第18頁共18頁第一章緒論研究意義17（[1]研究背景[2][3][4]使用[5][6]SunPinyinSunPinyinSunPinyin研究內容本文的研究分為三個方面：WindowsWindowsSunPinyinSunPinyinSunPinyin進一步研究。以SunPinyin輸入法作為輸入法的內核，實現(xiàn)下的SunPinyinSunPinyinSunPinyinLinuxWindows論文結構本文接下來的章節(jié)安排如下：第二章WindowsWindowsSunPinyinLinuxSunPinyinWindows操作系統(tǒng)上，在Windows上實現(xiàn)SunPinyin輸入法。第二章Windows下輸入法的構建技術Windows下輸入法的實現(xiàn)主要有兩種方法：本文采用基于輸入法框架的方式實現(xiàn)。IME（Hook）在Windows95以后，微軟提出了輸入法管理器輸入法生成器（InputMethodManager-InputMethodIMM-IMEAPIIMM-IMEWindowsXPTS（extSeceaeokMMEWindowsTSF請IMM-IMEAPIIMM-IMEIMM-IME框架的原理是當前活動窗口開啟輸入法之后，鍵盤和鼠標等事件就會通過系統(tǒng)進程用戶界面模塊轉交給IME處理，IME再轉交給當前輸入法處理，處理的結果返還給IME，IME根據(jù)結果反饋給用戶界面模塊。之后由用戶界面模塊交給應用程序的活動窗口IME與輸入法框架相關基本概念有：（nputModMngerMndos（nputModEdiorMEMEIME.ime（nputConexndosUSER.exe基于歷史記錄的超長拼音輸入法基于歷史記錄的超長拼音輸入法（，實現(xiàn)一個輸入法程序的主要工作就是完善輸入法編輯器，實現(xiàn)輸入法必需的API接口。對于一個輸入法編輯器，它由兩部分組成：ME（MEConesonneaceWindowsME（MEUsrneacIMMIME轉換界面主要是幾個API接口函數(shù)的實現(xiàn)，對于一個鍵盤輸入法來說，有四個函數(shù)是必須要實現(xiàn)：IMEINFOIMEIMEcoposonndo）canddaendo。最進入整句輸入模式后，輸入法的界面并沒有發(fā)生太大的變化。它在字典查詢的基礎上對于一個現(xiàn)代的輸入法而言，它提供的界面必須實現(xiàn)以下交互：輸入法安裝IMEDDLWindowsAPISystem32輸入法安裝調用的接口是ImmInstallIME，這個API是一個特定的注冊輸入法的函API本章小結本章中，我們介紹在Windows下建立輸入法需要的框架以及實現(xiàn)一個輸入法所需要實現(xiàn)的功能。通過框架和設計，我們可以實現(xiàn)一個在Windows下的簡單的輸入法。第三章SunPinyin輸入法WindowsLinuxSunPinyinWindowsSunPinyin是所有開源的輸入法中應用最廣的。要在Windows下使用SunPinyin輸入法，需要對SunPinyin輸入法進行代碼移植。SunPinyinSunPinyinMacLinuxSUN亞洲研究中心為OpenSolaris開發(fā)的基于統(tǒng)計學語言模型的輸入法。統(tǒng)計語言模型（LanguageNNgamModHddnMovModHM、（MaximumEntropyModel）SunPinyinNN-gramN-gramWnWw1w2…wnWP(W)P(W)P(W)=P(w1)P(w2|w1)P(w3|w1w2)…P(wn|w1w2…wn-1)從上式可以得出，要計算出出詞wn的出現(xiàn)概率，必須首先獲得它前面的詞出現(xiàn)概率。這樣計算是有困難的，通過簡化問題，可以更容易的計算出該值。win-1N(N-gramP(W)=P(w1)P(w2|w1)P(w3|w1w2)…P(wi|wi-N+1…wi-1)…≈i=1,…,nP(wi|wi-N+1wi-1)符號i=1,…,nP(…)表示概率的連乘。在實際使用中，二元模型（bi-gram）和三元模型（tri-gram）NSunPinyin輸入法是基于三元模型實現(xiàn)，即在其中的任意一個詞出現(xiàn)的概率僅與它之前的兩個詞相關。有：

P(W)≈i=1,…,nP(wi|wi-2w-1)公式中的參數(shù)可以通過一個語料庫訓練的到。這時公式可轉化為：P(wi|wi-2wi-1)≈count(wi-2wi-1wi)/count(wi-2wi-1)式中count(…)表示一個特定序列的詞在整個語料庫中出現(xiàn)的次數(shù)。SunPinyin概念模型ime\src\slmback-off（回退N-gram（NSunPinyinime\src\lexiconeyeengmSyllableSegmentorcandidates中列出所有候選詞。在用戶提交（commit）候選句（或詞）之后，它要更新歷史緩存來記LatticeBuilderLatticeLatticeSyllableSegmentorminganming’anmin’ganSyllableGraphLatticeBuilder。LatticeBuilder（LatticeLatticeLatticeLatticeHistoryCache：歷史緩存，記錄用戶最近提交的候選詞。這里使用的是一個類似bi-gram的模型。在計算P(z|xy)時，用Psmooth(z|xy)和Pcache(z|y)來插值得到。而Pcache(z|y)，是P(z|y)的MLE(MaximumLikelihoodEstimation)，和P(z)的MLE的插值。SunPinyinCBone/CskeletonlatticeBone對應一個sllale（或者嚴格的說，是一個sgmnt，而CSeeon是Boe的雙向鏈表（sdsunPnin2latiesyllableSunPinyin2CLatticeCSkeletonCBone/CBoneInnerDataCLatticeFrame。其它的像TLexiconStateTLatticeState基本沒有變化，僅把位置信息從iterator換成了index。另外為了支持用戶詞典，在TLexiconState加入了一些相應的字段，例如m_words，m_syls。用戶詞典SunPinyinHistoryCachebi-gramunigramunigram在SunPinyin2中，通過sqlite3實現(xiàn)用戶詞典，目前的輸入法模型支持詞的長度不超過6。SunPinyinSunPinyin輸入法是Linux下的輸入法，它的整體實現(xiàn)都是基于Linux，并沒有提供WindowsSunPinyinWindowsSunPinyinCndos和nuxStudio2013WindowsC++DEBUGSunPinyinSunPinyinLinux下，SunPinyinSconsSconsPythonmakeSconsLinuxVS2013SunPinyinSunPinyin從網上得到的詞典和訓練模型并不能直接使用，這些文件都是UTF-8格式。但在實際SunPinyinLinuxLinux下，Scons文件LinuxLinuxWindows基于歷史記錄的超長拼音輸入法基于歷史記錄的超長拼音輸入法UCS-4SunPinyinUCS-4SunPinyinLinuxLinux的格式存在，所以提供的轉換函數(shù)是這兩個格式之間的轉換。但是這個編碼在WindowsGBKUCS-4UnicodeUnicode32位要將UCS-4轉換成能在Windows下使用的漢字編碼，轉換過程如下：UCS-4wstringwstringstring。String中的對象就是UCS4指針第一個位置的32位元所對應的漢字，不斷重復上邊的操作，就能將一個UCS-4編碼的串轉成對應的詞。本章小結SunPinyinSunPinyinWindows第四章基于歷史記錄的拼音預測算法SunPinyinWindows在已有的輸入法的歷史記錄分析并不完善，僅在某一些環(huán)境中使用歷史記錄。并且，要實現(xiàn)基于歷史記錄分析預測的輸入法算法，要解決兩個重要的問題：針對基于歷史記錄分詞預測的輸入法，提出了一個新的算法，叫歷史記錄分析預測算法，簡稱HRAP。（HRAP）HRAPHRAP4.2.1中文分詞技術2080（oadMxumMchngMhodM、逆向最大匹配算法（BakadMxumMchngMhod，BM、雙向最大匹配法（Bi-directionMaximumMatchingMethod，BM）等。正向最大匹配法iii[9]1/169。正向匹配算法描述：（1）NN（2）逆向最大匹配法：分詞過程與FMM法相同，不同的是從句子（或文章）末尾開始處理，BMMFMM1/245。雙向最大匹配法：使用正向最大匹配法和逆向最大匹配法同時進行分詞。比較兩種方法的分詞結果，以該結果作為分詞。據(jù)SunM.S.和BenjaminK.T.（1995）的研究表明，中文中90.0％左右的句子，正向最大匹配法和逆向最大匹配法的結果重合且正確，有大概，1.0元文法（N-gram）和隱形馬爾科夫（HiddenMarkovModel，HMM）基于歷史記錄的超長拼音輸入法基于歷史記錄的超長拼音輸入法HRAPHRAPMMSEGSunPinyinMMSEGN-gramMMSEG（Simple）和復雜最大匹配方法（Cpex，兩種算法都是基于正向最大匹配的。不同之處在于，簡復雜最大匹配算法在簡單最大匹配上增加了四個規(guī)則：1211MMSEG在此基礎上，基于統(tǒng)計詞頻的分詞算法就可以幫助我們更好的解決這個問題。HRAP分詞算法的實現(xiàn)：MMSEGHRAP分詞算法的兼顧了效率和分詞的準確率。，HRAP對于不同長度的詞，存儲方式不一樣。對于只有一字的詞。不用將其后一個詞存入。對于多個字組成的詞，每個音節(jié)都需存儲一遍。HRAP分詞結果存儲部分：1如果詞的字數(shù)大于1，1（2）zui zuida pi pipei suan suanfa shi HRAPNNHRAP預測部分：NN4.3第五章輸入法評測在本次項目中，選取的實驗環(huán)境的參數(shù)如下：764位；notepad++。MoonPinyin5-1圖5-1MoonPinyin輸入法效果be”和“n”分別是一次擊鍵。用戶選擇算一3/2。本次項目中，選取的實驗數(shù)據(jù)信息如下：字數(shù)詞條數(shù)來源9531110000人民日報語料庫表5-1實驗數(shù)據(jù)信息通過選取不同的N值，獲得一個平均擊鍵次數(shù)與詞條數(shù)的關系圖，比較獲得一個較為合適的閥值。結果如下圖所示。圖5-2不同閥值N下的關系圖（每100條取一次數(shù)據(jù)）N115001500條數(shù)據(jù)以前的數(shù)據(jù)關系圖。每10條詞條取一次數(shù)據(jù)。結果如圖5-3.圖5-3不同閥值下的關系圖（每10條取一次數(shù)據(jù)）HRAPHRAP基于歷史記錄的超長拼音輸入法基于歷史記錄的超長拼音輸入法第六章總結和展望WindowsLinuxSunPinyinWindowsWindowsWindowsSunPinyinSunPinyin基于歷史記錄的超長拼音輸入法的實現(xiàn)是一個很好的開端，我們可以在這上面進行更加深入的研究：對于SunPinyin輸入法，它所提供的語言模型是N-gram靜態(tài)模型，所有的N-gram“”參考文獻LewisMetal.Ethnologue:Languagesoftheworld[M],9.[S.l.]:SILinternationalDallas,TX,2009.ChenZ,LeeKANewStatisticalApproachChinesePinyinInput[C]//Proceedingsofthe38thAnnualMeetingoftheAssociationforComputationalLinguistics.HongKong:AssociationforComputationalLinguistics,2000:241–247.\h/anthology/P00-1031.JiangGuanX,etal.PinYin-to-CharacterConversionModelbasedonSupportMachines[J].JournalofChineseinformationprocessing,2007,21(2):100–105.X,etal.AMaximumEntropyApproachtoChinesePinConversion[C]//Systems,ManandCybernetics,2006.SMC’06.IEEEInternationalConferenceon..[S.l.]:[s.n.],2006，4:2956–2959.X,Xetal.AConditionalRandomFieldsApproachtoChinesePinyin-to-CharacterConversion[J].JournalofCommunicationandComputer,2009,6(4):25–31.S,ZhaoH,Bl.AMachineTranslationApproachforChineseWholeSentencePinyin-to-CharacterConversion[C]//Proceedingsofthe26thPacificAsiaConferenceonLanguage,Information,andComputation.Bali,Indonesia:FacultyofComputerScience,UniversitasIndonesia,2012:333–342.\h/anthology/Y12-1036.ZhengC,SunM.CHIME:AnEfficientError-tolerantChinesePinyinInputMethod[C]//ProceedingsoftheTwenty-SecondInternationalJointConferenceonArtificialIntelligence-Three.[S.l.]:AAAIPress,\h/10.5591/978-1-57735-516-8/IJCAI11-424.DWSJ·198（2：4452.10]J200（102605260.蔣建洪，趙嵩正，羅玫·詞典與統(tǒng)計方法結合的中文分詞模型的研究與應用[J]·計算201（1：03870391.HMM200883741.[D]·IMM-IME200201：0170120.J201012232.謝辭在此本科設計論文完成之際，我要感謝在這本科四年中在學習和生活中給我提供幫助的老師和同學們。首先，我要感謝趙海老師。作為我設計的指導老師，他早我完成設計的過程中給了我悉心的指導，在遇到困難時給我指出了研究方向，使我能夠順利的完成設計。在和導師的交流中，我對導師的科研熱情和嚴謹?shù)闹螌W態(tài)度敬佩不已。他敏銳的思維方式和認真的工作態(tài)度，對我產生了很大的影響。其次，感謝王學長，他在畢業(yè)的過程中給我提供很多幫助，在遇到問題時，他的回答給我指明了方向。感謝實驗室的學長。在設計的過程中提供了指導和意見。再次，我要感謝我的家人和朋友們，感謝你們一直以來對我的幫助和支持。最后，衷心感謝從百忙之中抽出時間來審閱本次畢業(yè)論文的導師們！第第3頁共3頁THELONGESTFORECASTPINYININPUTMETHODBASEDONHISTORICALRECORDChineseisworld'smostpopulouslanguage,whichhasmorethan1.7billionpeopleuseiteveryItisusedinChina,Singapore,Malaysia,Japan,NorthKorea,SouthKorea,Indonesia,Thailand,Cambodia,MyanmarandotheroverseasChineseregions.Amongthis,morethan870millionpeopleuseitasmothertongue.ChineseisnotonlytheofficiallanguageofThePeople'sRepublicofChina,butalsooneoftheworkinglanguageofUnitedNations,whichplaysagrowingpartintheworld.Chinesehasalonghistoryanditisoneoftheoldestlanguageintheworld.Chinaisoneoftheareaswherecivilizationdevelopedearliest.Ithasarecordedhistoryofnearly5,000years.AsthelanguageofChina,Chinesehasdeepculturalbackground.ChineseisapartofChinesecivilization,itrecordsthehistoryofChinesecivilization.Inthesametime,itmakesagreatinfluenceonneighboringcountries.canseealotofChinesewordsinJapanese,KoreanandVietnamese.theadventoftheinformationage,thedevelopmentofChineseisfacinggreatopportunitiesandchallenges.Ononehand,moreandmoretechnologynewwordsarecreated,whichisasmallprobleminChinese.Chineseisphonetic,ideographicandtopographywhichmakeitcansolvetheproblemoftheconstructionofnewwords.Buttothewesternlanguage,creatingnewwordsisabigproblem.Peoplechooselongwordtorepresentnewtechnologywords.Thismaketheyarenoteasytoreadandunderstand.alsoabigproblemtouseitindailylife.Ontheotherhand,Chineseoriginatedinhieroglyphs.Soitcannotdirectlyinputbystandardkeyboard.InordertoinputChineseintocomputer,weneedaprogramnamedinputmethod,whichisusedtoconverttheinputcodesintoChinesecharacter.InputtingChineseintocomputerdependsontheinputmethod.AsthebasicmeanstoinputChinese,inputmethodplaysanimportantroleinChineseinformationprocessingAlotofnews,literatureandotherrecordsareenteredintocomputertoprocess,memoryandspreadeveryAgoodinputmethodcannotonlysavegreatamountofresourceandtime,italsohelpstheculturestospread.ChineseinputmethodisessentialsoftwareofChineseoperatingsystem.Bothacademiaandindustryhavereceivedmuchattentiontoit.SomebigsoftwarecompaniesandInternetcompanieshaveitsowninputmethod,suchasMicrosoft,Google.TherearetwomaincategoriesofChineseinputmethod.Oneisshape-basedinputmethod,suchas"wubizixing",theotherisPinyin,orpronunciation-basedinputmethod,suchas"ChineseCStar","MSPY",etc.Becauseofitsfacilitytolearnandtouse,PinyinisthemostpopularChineseinputmethod.Over97%oftheusersinChinausePinyinforinput.AlthoughPinyininputmethodhassomanyadvantages,italsosuffersfromseveralproblems,includingPinyin-to-charactersconversionerrors,usertypingerrors,andUIproblemsuchastheneedoftwoseparatemodewhiletypingChineseandEnglish,etc.Pinyin-basedmethodautomaticallyconvertsPinyintoChinesecharacters.But,thereareonlyabout406syllables;theycorrespondtoover6000Chinesecharacters.Soitisvery基于歷史記錄的超長拼音輸入法基于歷史記錄的超長拼音輸入法difficultforsystemtoselectthecorrectcorrespondingChinesecharactersautomatically.Intheearlytimes,thePinyininputmethodissimple.Itisadictionarysearchprogram,theuserinputthepinyinandtheprogramsearchthewholedictionarytolistthematchChineseCharacter.SoitcanonlyinputonePinyinandafewofmultiplePinyininput.Withthedevelopmentofinputmethod,anewclassofinputmethodisfound,whichiscalledsentence-basedinputmethods.Thesentence-basedinputmethodsisbasedonstatisticallanguagemode.Instatisticallanguagemode,Pinyin-basedinputmethodismodeledasHiddenmarkovmodel(HMM),observationstatesarepinyinsyllables,hiddenstatesareChinesewords,sothePinyin-basedinputmethodistodecodetheChinesewordsequencefromthepinyinsequence.Inordertosolvetheerroneousinputproblem,Pinyin-basedinputmethodaddtheparterror-tolerant.Thismodeisthemostpopularandisthemainalgorithmofinputmethod.Inthisarticle,weintroducethemajorpartofrealizingalongestforecastpinyin-basedinputmethodbasedonhistoricalrecord.Wedivideitintothreeparts,thisthreepartsarethreephasestoimplementtheinputmethod.ThefirstpartistorealizeasimplePinyin-basedinputmethodonWindows.Therearetwomainwaytoachieveaninputmethod.Oneusesthehook,thisistheearliestItusessystemhookstointerceptinformationformthekeyboard.ThenhookfunctioncanconverttheinformationintoChinesecharactersandsendingthoseChinesecharacterstotheapplication.AnotherwayisuseinputmethodwhichisalsocalledIME.InputMethodManager(IMM)isatechnologyusedbyanapplicationtocommunicatewithaninputmethodeditor(IME),whichrunsasaservice.TheIMEallowscomputeruserstoentercomplexcharactersandsymbols,suchasJapanesekanjicharacters,byusingastandardkeyboard.IMEdefinestheprogrammingspecificationofinputmethod,whichcomposesbysomeWindowsAPI.foundthekeyfunctionAPI,andrealizethem.Duringthewholeproject,statuscandidatewindowandcompositionwindowarethewayhowusercancommunicatewiththeinputmethod.AlltheinputinformationisshowedthosethreeWindows,maketheinputmethodperformwell.ThesecondpartistoCodemigration.AsweallSunPinyinisthebestopensourceinputmethod,andinthisproject,wechooseSunPinyinasthekerneloftheinputmethod.ButSunPinyinisaprograminLinux,wecannotdirectlyuseinWindows.SoweneedCodemigration.SunPinyinisastatisticallanguagemodelbasedChineseinputmethod,whichwasfirstlydevelopedbySunBeijingGlobalizationteam.AnditbasesonN-gram.ForitiscodeinC++,soweneednotchangethecode.ThereareonlyafewfunctionisnotsuitinWindows,wefindthemandchangeintothefunctioninWindows.Duringtheproject,weusestudio2013tohelpdebug.Intheend,weaddtheSunPinyintothesimpleinputmethodinWindows,thuswerealizetheSunPinyinintheWindows.ThelastpartistoanalysisthehistoricalrecordandpredicttheChinesecharacter.Thepredictionisbasedonwords.Inordertomaketheprediction,weneedfindthosewordsfromhistoricalrecord.Butthereisaproblem,therearenowordboundariesinconventionallyprintedtext.Sincethewordissuchafundamentallinguisticunit,itisnecessarytoidentifywordsinChinesetextsothathigher-levelanalysescanbeperformed.Inthisproject,wechooseMMSEGGasthealgorithmtoidentifywords.Maximummatchingcantakemanyforms.Oneissimplemaximummatching,whichisthebasicformistoresolvetheambiguityofasingleword.Theotheriscomplexmaximummatching,thisismuchmorecomplexthanthebasicformanditusesfourrulestoresolvetheambiguities.Inthealgorithm,weusesimplemaximummatching,sothereexistssomeambiguities.Forthepurposetoresolvethem,thestatisticalmodelisused.Whensomecharacterscanbeaword,theprobabilityofthosecharactersstaytogetherisgreat.TocombinetheMMSEGGandstatisticalmodel,aquietwellwordidentificationsystemforChinesetextiscreated.Thenwemakeprediction,forthosewords,welistthembythetimetheyinput.Theuserinputsomepinyincharacters,wecomparethemwiththeword’spinyininthehistoricalwordlist,findthematchone.Addthiswordtothecandidate,thusgoalofanalysisthehistori