法課包演文稿題、和音內(nèi)，象學和講師有完知于善在程使課范外任何第散。何其人不盜、造中創(chuàng)及內(nèi)，律 利。課 咨 互聯(lián)網(wǎng)新技 教育領航 鄒主要內(nèi)概率計參數(shù)估模型預思考：實踐問題應該如何建 中文分

JasonBell.MachineLearning:Hands-OnforDevelopersandTechnicalHMM定隱馬爾科夫模型(HMMHiddenMarkovModel)可用 隱馬爾科夫模型的貝zz2z和x2 HMM的確A,B, HMM的參N是可能的狀態(tài)M是可能的觀測Qq1,q2,qNVv1,v2,vM HMM的參數(shù)AB, Oo1,o2,oTA[aij]NNaijPit1qjitqiaij是在時刻qi的條件下時刻t1qj HMM的參數(shù)AB,B是觀測概率矩陣Bbik Pov bik是在時刻t處于狀態(tài)qivkπ是初始狀態(tài)概率向量：iπi是時刻t=1處于狀態(tài)qi的概 HMM的參數(shù)總 A,B, HMM的兩個基本性 , ,i , i, Pi t t t

t

t Poi,o,i , i, Pot

T

T

HMM舉、按照下面的方法抽取小球，得到球顏色的 列 該示例的各個參狀態(tài)集合：Q={盒子1，盒子2，盒子觀測集合：V={紅，白狀態(tài)序列和 列的長度初始概率分布狀態(tài)轉(zhuǎn)移概率分布觀測概率分布

A

B

0.2

0.7 HMM的3個基本問概率計算問題：前向-后向算法——動態(tài) 給定模型A,B,和觀 列Oo,o,o，計 列 學習問題：Baum-Welch算法(狀態(tài)未知)—— 列P(O|λ)最預測問題：Viterbi算法——動態(tài)規(guī) 列Oo1,o2,oT求給定 概率計算問算這二者是理解HMM的算法重 直接計算 狀態(tài)序列Ii1,i2,iT，求各個狀態(tài)序列I 列Oo1,o2,oT的聯(lián)合概率 直接計算PI IPI iTPOI,POI, O和I同時出現(xiàn)的聯(lián)合概率

iT iT

a

直接計算

POI,

iai iia

i

ibi 1 1 2 T1 TPOPO,IPOI,PII i1bi1o1ai1i2i1,i2

ibiT1 T 直接計算法分POPO,IPOI,PI i1,i2

ibioaiibi 1 1

ibiT1 數(shù)為NT，因此，時間復雜度為O(TNT)，復 借鑒算法的優(yōu)給定一個長度為N的數(shù)組，求該數(shù)組的一個最長的單調(diào)子序列(不要求連續(xù))數(shù)組：567128的LIS：567給定一個長度為N的數(shù)組，求該數(shù)組中連續(xù)的一段數(shù)組(子組)，使得該子數(shù)組的和最數(shù)組：12310472最大子數(shù)組：31047 定義：前向概率-后向概iPy,y,y,qi i

, ,, qi,

t t 前向算定義：給定λ，定義到時刻t部分觀列為記做：iPoo,o,iq 可以遞推計算前向概率αt(i)及 列概 前向算iPoo,o 1初值1i1 t1itjajij NN最終：PO

前向算tiPo1,o2,ot,itqi思考：前向算法的時間復雜度是O(N2T)重 第二步遞推：對于t=1,2…T- t1itjajij 例：盒子球模

A

B 0.2

0.7 解：盒子球模

A

B

0.2

0.7

0.20.5 11111

0.7

1A

B

2 0.40.4 2 2

0.2

0.7

131

0.40.7211jaj1j 22223

32333 解：盒子球模3

32

3

330.041870.03551 后向算 t t i , t t 可以遞推計算后向概率βt(i)及 列概

N j

tN1POiN1

后向算法的說 ot+1的觀測概率(bjot+1項)，然后考慮狀態(tài)qj之 前向后向概率

iPy,y,y,qi iP , ,, qi, t t Piq,O POiq,Pi t Po,o, i t Po,oiq,Po iq,Piq

t

Po,o,iqPo iq, t 思考：試計算ijP思考：試計算ijPiqj t

qO, 單個狀態(tài)的概Piq,Oi 記：iPiqO 單個狀態(tài)的概 Piq,Oi iPiqO,

Piq,Oit it

γ的意2態(tài)it*，從而得到一個狀態(tài)序列I*={i1*i*iT*}，2

i i

tit 兩個狀態(tài)的聯(lián)i,jPiq,i qO, t 兩個狀態(tài)的聯(lián)i,jPiq, qO, t Piq, q,O t POPiq, q,O

t j

Piq, q,O t tPiqt t

q,Oj

j 期Tt1TT在觀測O下狀態(tài)i轉(zhuǎn)移到狀態(tài)jTti,t 學習算 HMM的學習非常簡單，是監(jiān)督學習 大數(shù)定列和對應的狀態(tài)序列{(O1,I1),(O2,I2)…HMM的參數(shù)估 監(jiān)督學習方初始概率? iii

?ij

N

k

Baum-Welch算 附：EM算法整體框 Baum-Welch算是HMM參數(shù)的當前估計值，λ

lnPO,I II

EM過

iai iia

i

ibi 1 1 2 T1 T

Q,lnPO,IPO,IIlni1PO,III i1 i t t

ln

t

itot極大極大化Q，求得參數(shù) ,I i 1

ln NlnPO,ii

ln ln

N初始狀態(tài)概N

lniPO,

iiNN

對i11i

i

N

1

i 轉(zhuǎn)移概率和觀

Ti PO,it

lnaij

i,it1 t

j1tT ji,Taij

t

tTTPi

tTtTttT

t

t t t1,otvk

T

PO,t

i

tt預測算 預測的近似算態(tài)it*，從而得到一個狀態(tài)序列I*={i1*i2*iT*}，給定模型和 列，時刻t處于狀態(tài)qi的

t 會出現(xiàn)此狀態(tài)在實際 算法：走棋盤/格子取 問題分若當前位于(x,y)dp[0,0]=a[0,0]/第一行(列)累 Viterbi算 Viterbi算imaxPi

,...i,o,...o1

t

imax

i,i,...i, ,...ot

t

t maxja1j

P*max1i 例

A

B 0.2

0.7

B

解：觀測向量O=“紅白

0.4

0.7 i

A

0.2B

解：觀測向量O=“紅白

0.2

在t=2時，對每個狀態(tài)i，求在t=1時狀態(tài)為t=2δ2(t) imaxja maxja求

t

1

1

1

解：觀測向量O=“紅白 求最優(yōu)路徑圖 Baum-Welch：主函 前向-后 EM迭 Baum-Welch算法的結(jié) HMM與中文分

JasonBell.MachineLearning:Hands-OnforDevelopersandTechnical總思考：可否用深度學習代替 參考文 ChristopherM.Bishop.PatternRecognitionandMachineRadinerL,JuangB.AnintroductionofhiddenmarkovModels.ASSPMagazine,LawrenceR.Rabiner.AtutorialonhiddenMarkovmodelsandselectedapplicationsinspeechrecognition.ProceedingsoftheIEEE77.2,pp.257-28