Markov-Modulated泊松過程模型

在用戶行為識(shí)別中的應(yīng)用楊峰賈春福南開大學(xué)信息技術(shù)科學(xué)學(xué)院2005年8月23日Markov-Modulated泊松過程模型

在用戶行為識(shí)別1關(guān)于MMPPMarkovmodulated泊松過程（MMPP）非齊次Poisson過程，其強(qiáng)度變量服從馬氏過程一個(gè)雙重隨機(jī)過程：表現(xiàn)觀測值特征的非齊次泊松過程表現(xiàn)該泊松過程密度變化轉(zhuǎn)移特征的時(shí)間連續(xù)的馬氏過程關(guān)于MMPPMarkovmodulated泊松過程（MMP2Markov-Modulated泊松過程模型描述

令{Xt}是一個(gè)連續(xù)時(shí)間的馬氏過程，狀態(tài)空間為S=(1,…,k)，且{Xt}有無窮小轉(zhuǎn)移概率矩陣Q={qij}。令λ=(λ1,…,λk)，{N(t)}為非齊次泊松過程，強(qiáng)度函數(shù)為{λ(X(t))}，即給定{λ(X(t))}，{N(t)}為泊松分布。這樣的過程稱為Markov-Modulated泊松過程Markov-Modulated泊松過程模型描述3MMPP模型算法（轉(zhuǎn)化為隱馬氏模型）

令τ0=0，τk為{N(t)}中第k個(gè)事件發(fā)生的時(shí)間，令Xk=X(τk)，Yk=τk-τ(k-1)，則可以認(rèn)為{(Xk,Yk)}為隱馬氏模型。所以，可以利用轉(zhuǎn)化的離散隱馬氏模型通過估計(jì){X(t)}的跳點(diǎn)處的狀態(tài)來估計(jì)過程{X(t)}。MMPP模型算法（轉(zhuǎn)化為隱馬氏模型）4

令為過程{X(t)}的第k次跳躍時(shí)間，則是離散時(shí)間的時(shí)齊的馬氏鏈，其轉(zhuǎn)移概率矩陣為其中是{Xt}的Q--矩陣，并有{Xt}在狀態(tài)i的逗留時(shí)間服從指數(shù)分布.所以，MMPP模型可簡化為由此，我們把MMPP模型轉(zhuǎn)化為離散時(shí)間的隱馬氏模型，即可利用隱馬氏模型中常用的算法求解相關(guān)參數(shù)。令為過程{X(t)}的第k次跳躍時(shí)間5隱馬氏模型（HMM）

雙重隨機(jī)過程：馬氏鏈，描述模型中本質(zhì)的狀態(tài)的轉(zhuǎn)移描述狀態(tài)和觀察值之間對(duì)應(yīng)關(guān)系的過程特點(diǎn)：相關(guān)算法（前向算法、后向算法）隱馬氏模型（HMM）6隱馬氏模型（HMM）中隱馬氏模型（HMM）中7Markov-Modulated泊松過程模型在用戶行為識(shí)別中的應(yīng)用課件8利用前向算法和后向算法，可以得到P(Y=y|Φ)應(yīng)用：通過計(jì)算觀測序列P(Y=y|Φ)的值判斷序列的正常程度。利用前向算法和后向算法，可以得到9MMPP模型參數(shù)估計(jì)重估計(jì)算法MMPP模型參數(shù)估計(jì)10Markov-Modulated泊松過程模型在用戶行為識(shí)別中的應(yīng)用課件11MMPP模型應(yīng)用用戶鼠標(biāo)行為識(shí)別用戶鼠標(biāo)行為服從MMPP過程，通過計(jì)算用戶鼠標(biāo)行為序列的P(Y=y|Φ)，來區(qū)分非法用戶。MMPP模型應(yīng)用用戶鼠標(biāo)行為識(shí)別12Markov-Modulated泊松過程模型在用戶行為識(shí)別中的應(yīng)用課件13數(shù)據(jù)來源:測試過程中正常數(shù)據(jù)與異常數(shù)據(jù)各取前五個(gè)的P(Y=y|Φ)值(給定參數(shù)下序列出現(xiàn)的概率),以便直觀感受正常數(shù)據(jù)與異常數(shù)據(jù)的差別程度.N為每組數(shù)據(jù)的觀測值數(shù)，K是狀態(tài)數(shù)。結(jié)果:正常序列的概率值集中在E的負(fù)210次方左右,異常序列的概率值集中在E的負(fù)240次方左右,具有較好的區(qū)分度.

數(shù)據(jù)來源:14Markov-Modulated泊松過程模型在用戶行為識(shí)別中的應(yīng)用課件15ROC曲線分析:識(shí)別率在0.87的情況下,誤報(bào)率為0.04.識(shí)別率在0.92的情況下,誤報(bào)率為0.18.模型具有比較好的ROC曲線.

ROC曲線分析:16結(jié)論及進(jìn)一步的工作

MMPP模型對(duì)于基于鼠標(biāo)點(diǎn)擊的點(diǎn)過程的行為識(shí)別具有很好的準(zhǔn)確度。由于本文討論的算法是基于前向后向算法的，因此意味著它的較低的復(fù)雜度能夠應(yīng)用到實(shí)際系統(tǒng)中來。本文是嘗試性的工作，進(jìn)一步我們將繼續(xù)研究用戶的特定行為模式和鼠標(biāo)行為的關(guān)系，進(jìn)而研究用戶的網(wǎng)絡(luò)鼠標(biāo)行為的特征，即用戶在訪問網(wǎng)絡(luò)時(shí)的鼠標(biāo)行