正態(tài)過程（高斯過程）獨(dú)立過程獨(dú)立增量過程維納過程泊松過程馬爾可夫過程生滅過程

4幾種重要的隨機(jī)過程正態(tài)過程（高斯過程）4幾種重要的隨機(jī)過程4.1.1正態(tài)分布（高斯分布）

定義1：如果隨機(jī)變量X的概率密度為則稱X為服從參數(shù)的正態(tài)分布，記為，其中，為均值；為方差。分布函數(shù)為當(dāng)時(shí)的正態(tài)分布稱為標(biāo)準(zhǔn)正態(tài)分布，記為。分布函數(shù)4.1正態(tài)過程(高斯過程)4.1.1正態(tài)分布（高斯分布）4.1正態(tài)過程(高斯過程)4.1.1正態(tài)分布（高斯分布）

定義2：如果n維隨機(jī)變量的概率密度為其中，為均值向量，為協(xié)方差矩陣，則稱X服從n維正態(tài)分布，稱X為n維正態(tài)隨機(jī)變量

。

n維正態(tài)分布完全由一階矩和二階矩所確定。4.1.1正態(tài)分布（高斯分布）4.1.1正態(tài)分布（高斯分布）中心極限定理：設(shè)是n個(gè)相互獨(dú)立同分布的隨機(jī)變量，每個(gè)隨機(jī)變量的均值為，方差為，則即的極限分布為標(biāo)準(zhǔn)正態(tài)分布N(0,1)；

近似地服從正態(tài)分布。該定理表明，若有大量相互獨(dú)立的隨機(jī)變量，且每個(gè)隨機(jī)變量對(duì)它們之和的影響足夠小時(shí)，則當(dāng)這些隨機(jī)變量的個(gè)數(shù)趨于無窮大時(shí)，這些隨機(jī)變量的和服從正態(tài)分布，而與每個(gè)隨機(jī)變量的分布無關(guān)。4.1.1正態(tài)分布（高斯分布）4.1.1正態(tài)分布（高斯分布）

n維正態(tài)隨機(jī)變量的性質(zhì)：（1）（n維正態(tài)分布的邊沿分布）設(shè)是n維正態(tài)隨機(jī)向量，則X的任一子向量也服從正態(tài)分布。Cb是保留C的第k1,k2,…,km行和列所得到的m×m矩陣4.1.1正態(tài)分布（高斯分布）Cb是保留C的第k1,k2,4.1.1正態(tài)分布（高斯分布）

n維正態(tài)隨機(jī)變量的性質(zhì)：（2）（獨(dú)立性）定理1：n維正態(tài)分布的隨機(jī)變量相互統(tǒng)計(jì)獨(dú)立的充要條件是它們兩兩互不相關(guān)。定理2：若X是正態(tài)分布的隨機(jī)向量，X1和X2是X的兩個(gè)子向量，即，則X1與X2相互統(tǒng)計(jì)獨(dú)立的充要條件是它們的互協(xié)方差矩陣為0。4.1.1正態(tài)分布（高斯分布）4.1.1正態(tài)分布（高斯分布）

n維正態(tài)隨機(jī)變量的性質(zhì)：（3）（線性變換）設(shè)是n維正態(tài)隨機(jī)變量，均值為，協(xié)方差矩陣為C。若，其中，則。若e=(ejk)是m×

n矩陣,是m×

1的列矩陣，即m維向量，則，。

4.1.1正態(tài)分布（高斯分布）4.1.1正態(tài)分布（高斯分布）

n維正態(tài)隨機(jī)變量的性質(zhì)：（3）（線性變換）定理1：服從n維正態(tài)分布的充要條件是它的任何一個(gè)線性組合服從一維正態(tài)分布。定理2：若服從n維正態(tài)分布，而若e=(ejk)是m×n矩陣,則服從m維正態(tài)分布。正態(tài)分布隨機(jī)變量的線性變換不變性4.1.1正態(tài)分布（高斯分布）正態(tài)分布隨機(jī)變量的線性變換不4.1.2正態(tài)隨機(jī)過程（高斯過程）定義：若隨機(jī)過程{X(t),t?T},對(duì)于任意n個(gè)時(shí)刻t1,t2,…,tn?T,n維隨機(jī)變量[X(t1),X(t2),…,X(tn)]的聯(lián)合概率分布為n維正態(tài)分布，則稱{X(t),t?T}為正態(tài)過程（或高斯過程）。概率分布：特征函數(shù)：4.1.2正態(tài)隨機(jī)過程（高斯過程）特征函數(shù)：4.1.2正態(tài)隨機(jī)過程（高斯過程）性質(zhì)：（1）正態(tài)過程{X(t),t?T}的n維概率密度及特征函數(shù)完全由它的均值向量和協(xié)方差矩陣所確定。（二階矩過程）（2）對(duì)于正態(tài)過程，獨(dú)立性和不相關(guān)性是等價(jià)的。若一個(gè)正態(tài)過程{X(t),t?T}在任意n個(gè)時(shí)刻t1,t2,…,tn?T,采樣，所得的n維隨機(jī)變量X(t1),X(t2),…,X(tn)兩兩互不相關(guān)，則，這些隨機(jī)變量也是相互獨(dú)立的。對(duì)于多個(gè)正態(tài)過程，若兩兩互不相關(guān)，則兩兩相互獨(dú)立。

[證明]

X(t1),X(t2),…,X(tn)兩兩互不相關(guān)，則協(xié)方差函數(shù)

4.1.2正態(tài)隨機(jī)過程（高斯過程）n維正態(tài)概率密度等于n個(gè)一維正態(tài)概率密度的乘積。n維正態(tài)概率密度等于n個(gè)一維正態(tài)概率密度的乘積。4.1.2正態(tài)隨機(jī)過程（高斯過程）

性質(zhì)：（3）對(duì)于正態(tài)過程，寬平穩(wěn)與嚴(yán)平穩(wěn)是等價(jià)的。嚴(yán)平穩(wěn)過程二階矩存在寬平穩(wěn)過程寬平穩(wěn)過程:n維分布相同，不隨時(shí)間、位置的推移而變化嚴(yán)平穩(wěn)過程：4.1.2正態(tài)隨機(jī)過程（高斯過程）嚴(yán)平穩(wěn)過程二階矩存在寬平4.1.2正態(tài)隨機(jī)過程（高斯過程）

性質(zhì)：（4）正態(tài)過程的線性不變性。正態(tài)過程的線性組合仍為正態(tài)過程；正態(tài)過程經(jīng)過線性系統(tǒng)（變換）后仍為正態(tài)過程。

4.1.2正態(tài)隨機(jī)過程（高斯過程）4.1.2正態(tài)隨機(jī)過程（高斯過程）

性質(zhì)：（5）正態(tài)過程的均方微積分

定理1

設(shè)為k維正態(tài)隨機(jī)向量,且均方收斂于,則X也是k維正態(tài)隨機(jī)向量。

定理2

設(shè){X(t),t∈T}是正態(tài)過程,且在T上均方可導(dǎo),則該過程的導(dǎo)數(shù){X′(t),t∈T}也是正態(tài)過程。

定理3

設(shè){X(t),t∈T}是正態(tài)過程,且在T上均方可積,則該過程的積分是正態(tài)過程。

4.1.2正態(tài)隨機(jī)過程（高斯過程）4.1.2正態(tài)隨機(jī)過程（高斯過程）

復(fù)正態(tài)過程：設(shè){X(t),t?T}和{Y(t),t?T}為兩個(gè)實(shí)正態(tài)過程，定義為復(fù)正態(tài)過程。對(duì)于復(fù)正態(tài)過程，在n個(gè)時(shí)刻采樣，得到n個(gè)復(fù)正態(tài)隨機(jī)變量，2n個(gè)實(shí)正態(tài)隨機(jī)變量；n個(gè)復(fù)正態(tài)隨機(jī)變量的聯(lián)合概率密度，應(yīng)是2n維實(shí)正態(tài)隨機(jī)變量的聯(lián)合概率密度。4.1.2正態(tài)隨機(jī)過程（高斯過程）4.1.2正態(tài)隨機(jī)過程（高斯過程）例題：設(shè)有隨機(jī)過程，式中為常數(shù)，U和V是相互獨(dú)立的正態(tài)隨機(jī)變量，且均值皆為0，方差都是。求X(t)的一維、二維概率密度。

解：在任意時(shí)刻，該隨機(jī)過程是正態(tài)隨機(jī)變量U和V的線性組合，因此，是一正態(tài)過程。求出均值和方差函數(shù)，即可求出其概率密度。

4.1.2正態(tài)隨機(jī)過程（高斯過程）4.1.2

正態(tài)隨機(jī)過程（高斯過程）4.1.2正態(tài)隨機(jī)過程（高斯過程）

定義：如果隨機(jī)過程{X(t),t?T}，對(duì)應(yīng)于任意n個(gè)時(shí)刻t1,t2,…,tn?T的n個(gè)隨機(jī)變量X(t1),X(t2),…,X(tn)相互獨(dú)立，則稱該隨機(jī)過程為獨(dú)立過程。

n維概率分布由一維分布確定：當(dāng)時(shí)間參數(shù)是離散時(shí)，若X(n)(n=1,2,…)是相互獨(dú)立的隨機(jī)變量，稱{X(n),n=1,2,…}是獨(dú)立隨機(jī)序列。

獨(dú)立隨機(jī)序列在實(shí)際中是存在的，如重復(fù)拋硬幣試驗(yàn)結(jié)果就形成一個(gè)獨(dú)立隨機(jī)序列；而對(duì)于任何連續(xù)參數(shù)過程，當(dāng)t1與t2充分接近時(shí)，X(t1)和X(t2)將不可能完全獨(dú)立。因此參數(shù)連續(xù)的獨(dú)立過程實(shí)際上是不存在的，是一種理想化的隨機(jī)過程。4.2獨(dú)立過程定義：如果隨機(jī)過程{X(t),t?T}，對(duì)應(yīng)于任意

例1：伯努利隨機(jī)序列。伯努利試驗(yàn)僅有兩種結(jié)果，各次試驗(yàn)結(jié)果互不影響，伯努利隨機(jī)序列{X(n),n=1,2,…}是獨(dú)立隨機(jī)序列。定義概率分布：均值：均方值：方差：相關(guān)函數(shù)：協(xié)方差函數(shù)：4.2獨(dú)立過程例1：伯努利隨機(jī)序列。伯努利試驗(yàn)僅有兩種結(jié)果，各次試

例2：高斯白噪聲。如果隨機(jī)過程{X(t),-∞<t<+∞}的均值為0，方差為，相關(guān)函數(shù)滿足功率譜為常數(shù)，即，則稱

{X(t),-∞<t<+∞}為連續(xù)參數(shù)白噪聲（過程）。如果對(duì)于每個(gè)t?(-∞,+∞),X(t)是正態(tài)隨機(jī)變量，則稱

{X(t),-∞<t<+∞}為高斯白噪聲（過程）。高斯白噪聲是獨(dú)立隨機(jī)過程。如熱噪聲。4.2獨(dú)立過程例2：高斯白噪聲。4.2獨(dú)立過程

例2：高斯白噪聲。如果隨機(jī)序列{X(n),n=0,1,2,…}的均值為0，方差為，相關(guān)函數(shù)滿足功率譜為常數(shù)，即，則稱

{X(n),n=0,1,2,…}為白噪聲序列。如果白噪聲序列X(n),n=0,1,2,…

都服從正態(tài)分布，則稱

{X(n),n=0,1,2,…}為高斯白噪聲序列。高斯白噪聲序列是獨(dú)立隨機(jī)序列。4.2獨(dú)立過程例2：高斯白噪聲。4.2獨(dú)立過程

定義：設(shè){X(t),t?T}是一隨機(jī)過程，如果對(duì)于任意正整數(shù)n≥2，以及任意的t1,t2,…,tn?T,且0≤t1<t2<…<tn，該隨機(jī)過程的增量X(t2)-X(t1),X(t3)-X(t2),…,X(tn)-X(tn-1)相互獨(dú)立，則稱{X(t),t?T}為獨(dú)立增量過程。

特點(diǎn)：在任意時(shí)間間隔上，過程狀態(tài)的改變，并不影響將來任一時(shí)間間隔上過程狀態(tài)的改變。也稱為無后效性。

如，呼喚電話交換機(jī)的次數(shù)；訪問網(wǎng)絡(luò)的用戶量；進(jìn)入商店的顧客數(shù)；等。如果獨(dú)立增量過程{X(t),t?T},對(duì)于任意實(shí)數(shù)>0，以及任意的t1,t2,

t1+,t2+?T，隨機(jī)變量X(t2+)-X(t1+),與X(t2)-X(t1)有相同的分布，稱{X(t),t?T}為平穩(wěn)獨(dú)立增量過程。如拋硬幣，布朗運(yùn)動(dòng)等。4.3獨(dú)立增量過程定義：設(shè){X(t),t?T}是一隨機(jī)過程，如果對(duì)于

定義：對(duì)于任意的t1<t2?T,如果隨機(jī)過程{X(t),t?T}的增量X(t2)-X(t1)的概率分布，只與時(shí)間間隔的長(zhǎng)度t2-t1有關(guān)，而與起點(diǎn)t1無關(guān)，則稱{X(t),t?T}為平穩(wěn)增量過程。

例1和過程。設(shè){X(n),n=1,2,…}是獨(dú)立隨機(jī)序列，稱

為和過程。若P{X(0)=0}=1,則{Y(n),n=0,1,2,…}是獨(dú)立增量過程。若{X(n),n=1,2,…}的各個(gè)隨機(jī)變量具有相同的分布，稱{X(n),n=1,2,…}是獨(dú)立同分布隨機(jī)序列。則{Y(n),n=0,1,2,…}是平穩(wěn)獨(dú)立增量過程。4.3獨(dú)立增量過程定義：對(duì)于任意的t1<t2?T,如果隨機(jī)過程{X

例1證明

在這兩個(gè)Y(n)的增量中，沒有共同的X(n)。由獨(dú)立序列X(n)的相互獨(dú)立性知，和過程Y(n)是獨(dú)立增量過程。又Y(n2)-Y(n1)與Y(n2+m)-Y(n1+m)都是X(n)的n2-n1個(gè)隨機(jī)變量之和。當(dāng)X(n)是獨(dú)立同分布隨機(jī)序列時(shí)，Y(n2)-Y(n1)與Y(n2+m)-Y(n1+m)

有相同的概率分布，這時(shí)，和過程Y(n)便是平穩(wěn)獨(dú)立增量過程。也可得Y(n2-n1)與Y(n2)-Y(n1)同分布。4.3獨(dú)立增量過程例1證明4.3獨(dú)立增量過程

性質(zhì)1：如果{X(t),t≥0}是平穩(wěn)獨(dú)立增量過程，且X(0)=0，則（1）均值函數(shù)m(t)=mt,（m為常數(shù)）；（2）方差函數(shù)D(t)=σ2t,(σ為常數(shù)）；（3）協(xié)方差函數(shù)C(t1,t2)=σ2min(t1,t2)=D(min(t1,t2)).證明（略）（1）設(shè)m(t)=E[X(t)]m(t+s)=E[X(t+s)]=E[X(t+s)-X(s)+X(s)-X(0)]=E[X(t+s)-X(s)]+E[X(s)-X(0)]=E[X(t)-X(0)]+E[X(s)-X(0)]=E[X(t)]+E[X(s)]=m(t)+m(s)

根據(jù)線性算子的可加性條件，

m(t)=mt（m=m(1)).4.3獨(dú)立增量過程性質(zhì)1：如果{X(t),t≥0}是平穩(wěn)獨(dú)立增量過證明（略）（2）方差函數(shù)D(t)=σ2t,(σ為常數(shù)）；設(shè)D(t)=D[X(t)]D(t+s)=E{[X(t+s)-m(t+s)]2}=E{[X(t+s)]2}-[m(t+s)]2=E{[X(t+s)-X(s)+X(s)-X(0)]2}-[m(t+s)]2=E{[X(t+s)-X(s)]2}+E{[X(s)-X(0)]2}+2E{[X(t+s)-X(s)][X(s)-X(0)]}–[m(t+s)]2=E{[X(t)]2}-(mt)2+E{[X(s)]2}-(ms)2

+2E{[X(t+s)-X(s)][X(s)-X(0)]}-2(mt)(ms)=D[X(t)]+D[X(s)]+2C[X(t+s)-X(s),X(s)-X(0)]=D(t)+D(s)

根據(jù)線性算子的可加性條件，

D(t)=σ2t

（σ2=D(1)).4.3獨(dú)立增量過程證明（略）（2）方差函數(shù)D(t)=σ2t,(σ為證明（略）（3）協(xié)方差函數(shù)C(t1,t2)=σ2min(t1,t2)

當(dāng)t1<t2

，

C(t1,t2)=E{[X(t2)-m(t2)][X(t1)-m(t1)]}=E{[X(t2)-X(t1)+X(t1)-m(t2)+m(t1)-m(t1)][X(t1)-m(t1)]}=E({[X(t2)-X(t1)]-[m(t2)-m(t1)]+[X(t1)-m(t1)]}[X(t1)-m(t1)])=E({[X(t2)-X(t1)]-[m(t2)-m(t1)]}[X(t1)-m(t1)])+E{[X(t1)-m(t1)]2]}=C[X(t2)-X(t1),X(t1)]+D(t1)=D(t1)=σ2t1

同理，當(dāng)t1>t2,C(t1,t2)=D(t2)=σ2t2

所以，C(t1,t2)=σ2D[min(t1,t2)])=σ2min(t1,t2)。即，兩時(shí)刻的協(xié)方差等于較小時(shí)刻狀態(tài)的方差。4.3獨(dú)立增量過程證明（略）（3）協(xié)方差函數(shù)C(t1,t2)=σ2min

性質(zhì)2：獨(dú)立增量過程的有限維分布由初始隨機(jī)變量和增量過程的概率分布確定。

證明（略）：首先證明獨(dú)立增量過程可以表示成若干個(gè)獨(dú)立的增量過程之和。對(duì)于獨(dú)立增量過程{X(t),t≥0}，X(0)=0，令Yn=X(tn)-X(tn-1)為增量過程,有

Y1=X(t1)，Y2=X(t2)-X(t1),…,Yn=X(tn)-X(tn-1)

X(tn)=Yn+X(tn-1)=Yn+Yn-1+X(tn-2)=…=Yn+Yn-1+…+Y2+Y1=4.3獨(dú)立增量過程性質(zhì)2：獨(dú)立增量過程的有限維分布由初始隨機(jī)變量和增量

性質(zhì)2：獨(dú)立增量過程的有限維分布由初始隨機(jī)變量和增量過程的概率分布確定。

證明（略）

獨(dú)立增量過程{X(t),t≥0}，X(0)=0，令Yn=X(tn)-X(tn-1)為增量過程,有

Y1=X(t1)，Y2=X(t2)-X(t1),…,Yn=X(tn)-X(tn-1)，相互獨(dú)立

X(t1)=Y1,X(t2)=Y1+Y2,…,X(tn)=Y1+Y2+…+Yn

X(t)

的n維特征函數(shù)：4.3獨(dú)立增量過程性質(zhì)2：獨(dú)立增量過程的有限維分布由初始隨機(jī)變量和增量

性質(zhì)2：獨(dú)立增量過程的有限維分布由初始隨機(jī)變量和增量過程的概率分布確定。

4.3獨(dú)立增量過程（略）性質(zhì)2：獨(dú)立增量過程的有限維分布由初始隨機(jī)變量和增量

例2二項(xiàng)計(jì)數(shù)過程。設(shè){X(n),n=1,2,…}是伯努利獨(dú)立同分布隨機(jī)序列，各個(gè)隨機(jī)變量的分布律為

則其和過程{Y(n),n=0,1,2,…}稱為二項(xiàng)計(jì)數(shù)過程。表示n次伯努利試驗(yàn)中某事件發(fā)生的次數(shù)。顯然，二項(xiàng)計(jì)數(shù)過程是平穩(wěn)獨(dú)立增量過程。一維概率分布：二維概率分布：4.3獨(dú)立增量過程例2二項(xiàng)計(jì)數(shù)過程。設(shè){X(n),n=1,2,…}

例2二項(xiàng)計(jì)數(shù)過程：均值函數(shù)：方差函數(shù)：協(xié)方差函數(shù)：4.3獨(dú)立增量過程例2二項(xiàng)計(jì)數(shù)過程：4.3獨(dú)立增量過程

布朗運(yùn)動(dòng)

1827年，布朗發(fā)現(xiàn)的懸浮在液體中的花粉微粒在液體分子不斷隨機(jī)碰撞下的不規(guī)則運(yùn)動(dòng)。若取水面上平面坐標(biāo)系的原點(diǎn)為花粉的起始位置，任意時(shí)刻t花粉所處的位置可用橫坐標(biāo)X(t)和縱坐標(biāo)Y(t)表示。特點(diǎn)：（1）起始時(shí)刻位于原點(diǎn)(X(t)=0,Y(t)=0)。（2）時(shí)間和取值都是連續(xù)的(t≥0)。（3）在任意時(shí)刻花粉的位移方向和位移量都是隨機(jī)的；且朝各個(gè)方向運(yùn)動(dòng)的概率相等，每次的位移量都很小。對(duì)于一個(gè)方向，如x坐標(biāo)，符合伯努利試驗(yàn)(向左向右位移的概率相等,分別為1/2)；在該方向上的位移X(t)為和過程.因X(t)=0,X(t)為獨(dú)立增量過程。4.4維納過程布朗運(yùn)動(dòng)1827年，布朗發(fā)現(xiàn)的懸浮在液體中的花粉微

布朗運(yùn)動(dòng)

（4）在各個(gè)不相交時(shí)間間隔，花粉沿某個(gè)方向的位移是相互獨(dú)立的，且相同時(shí)間間隔的概率分布相同，是一平穩(wěn)獨(dú)立增量過程。（5）根據(jù)中心極限定理，花粉在某個(gè)方向的位移，如X(t)及其增量X(t2)-X(t1)（0≤t1<t2）都服從正態(tài)分布。（6）在x方向上，由于左移和右移距離的概率分布是對(duì)稱的，X(t)的均值為0

(E[X(t)]=0)

。（7）刻畫位移分散程度的方差正比于時(shí)間間隔的長(zhǎng)度(D[X(t)]=C2t)。維納1918年給出了這類運(yùn)動(dòng)（過程）的數(shù)學(xué)描述——維納過程。4.4維納過程布朗運(yùn)動(dòng)4.4維納過程維納過程定義：

若隨機(jī)過程{W(t),0≤t<∞}滿足下列條件：（1）P{W(0)=0}=1;

（2）W(t)為平穩(wěn)獨(dú)立增量過程；（3）每一增量W(t2)-W(t1)服從均值為0,方差為σ2|t2-t1|的正態(tài)分布,且σ>0;W(t2)-W(t1)～N(0,σ2|t2-t1|)則稱{W(t),0≤t<∞}為維納過程。W(t)～N(0,σ2t)

稱σ=1的維納過程為標(biāo)準(zhǔn)維納過程。

W(t2)-W(t1)～N(0,|t2-t1|)4.4維納過程維納過程定義：4.4維納過程

維納過程的統(tǒng)計(jì)特征：均值：E[W(t)]=E[W(t)-W(0)]=0

方差：D(t)=D[W(t)]2=D[W(t)-W(0)]2

=σ2|t-0|=

σ2

t

自相關(guān)函數(shù)：當(dāng)t1<t2

，

R(t1,t2)=E[W(t1)W(t2)]=E{[W(t1)-W(0)][W(t2)-W(t1)+W(t1)-W(0)]}=E{[W(t1)-W(0)]2}+E{[W(t2)-W(t1)][W(t1)-W(0)]}=E{[W(t1)]2}=σ2t1

R(t1,t2)=σ2min(t1,t2)

自協(xié)方差函數(shù)：

C(t1,t2)=R(t1,t2)=σ2min(t1,t2)4.4維納過程維納過程的統(tǒng)計(jì)特征：4.4維納過程維納過程的統(tǒng)計(jì)特征：

n維概率密度：正態(tài)分布

n維均值向量

n維協(xié)方差矩陣[C(t1,t2)=R(t1,t2)=σ2min(t1,t2)]4.4維納過程維納過程的統(tǒng)計(jì)特征：4.4維納過程維納過程的性質(zhì)：（1）維納過程是平穩(wěn)獨(dú)立增量過程；（2）維納過程的增量是正態(tài)分布，維納過程是正態(tài)過程；（3）維納過程具有無后效性,是馬爾可夫過程；（4）維納過程是非平穩(wěn)過程；（5）維納過程是均方連續(xù)、均方不可導(dǎo)、均方可積的二階矩過程。

均方可導(dǎo)準(zhǔn)則：存在。4.4維納過程維納過程的性質(zhì)：4.4維納過程4.5.1

計(jì)數(shù)過程定義：在[0,t)內(nèi)出現(xiàn)隨機(jī)事件A的總數(shù)組成的過程{N(t),t

≥0}稱為計(jì)數(shù)過程。計(jì)數(shù)過程滿足：（1）N(t)≥0

；（2）N(t)是正整數(shù)；（3）如果有兩個(gè)時(shí)刻t1,t2，且t1<t2，則N(t1)≤N(t2);（4）對(duì)于t1<t2，N(t2)-N(t1)表示在時(shí)間間隔[t1,t2）內(nèi)事件A出現(xiàn)的次數(shù)。若計(jì)數(shù)過程在不相交的事件間隔內(nèi)事件A出現(xiàn)的次數(shù)是相互獨(dú)立的，則稱此計(jì)數(shù)過程為獨(dú)立增量計(jì)數(shù)過程。若計(jì)數(shù)過程在時(shí)間間隔[t1,t1+s)內(nèi)出現(xiàn)事件A的次數(shù)只與時(shí)間差S有關(guān)，而與起始時(shí)間t1無關(guān)，則稱此計(jì)數(shù)過程為平穩(wěn)增量計(jì)數(shù)過程。

4.5泊松過程4.5.1計(jì)數(shù)過程4.5泊松過程4.5.2

泊松過程及其性質(zhì)泊松過程定義：

定義1

如果計(jì)數(shù)過程{N(t),t

≥0}滿足：（1）P{N(0)=0}=1

；（2）N(t)是平穩(wěn)獨(dú)立增量過程；（3）在[t,t+Δt)內(nèi)出現(xiàn)一次事件的概率為（4）在[t,t+Δt)內(nèi)出現(xiàn)二次及二次以上事件的概率為則稱{N(t),t

≥0}是參數(shù)為λ的泊松過程(齊次)。顯然，在[t,t+Δt)內(nèi)不出現(xiàn)事件的概率為4.5.2泊松過程及其性質(zhì)4.5.2

泊松過程及其性質(zhì)泊松過程定義：定義2

如果計(jì)數(shù)過程{N(t),t

≥0}滿足：（1）P{N(0)=0}=1

；（2）N(t)是獨(dú)立增量過程；（3）對(duì)于任意0≤t1<t2，N(t2)-N(t1)服從參數(shù)為λ(t2-t1)的泊松分布，即則稱{N(t),t

≥0}是參數(shù)為λ的泊松過程。

定義1給出在小的時(shí)間間隔內(nèi)增量分布的極限性質(zhì)，從微觀上給出增量的分布；

定義2從宏觀上給出了增量的具體概率分布。4.5.2泊松過程及其性質(zhì)4.5.2

泊松過程及其性質(zhì)泊松過程的統(tǒng)計(jì)特征：

均值：

顯然,單位時(shí)間內(nèi)事件發(fā)生的統(tǒng)計(jì)平均次數(shù),即平均頻率.4.5.2泊松過程及其性質(zhì)單位時(shí)間內(nèi)事件發(fā)生的統(tǒng)計(jì)平均次4.5.2

泊松過程及其性質(zhì)泊松過程的統(tǒng)計(jì)特征：均方值：方差：4.5.2泊松過程及其性質(zhì)方差：4.5.2

泊松過程及其性質(zhì)泊松過程的統(tǒng)計(jì)特征：

相關(guān)函數(shù)：當(dāng)t1<t2當(dāng)t1>t2協(xié)方差函數(shù)：綜合：4.5.2泊松過程及其性質(zhì)當(dāng)t1<t2當(dāng)t1>t4.5.2

泊松過程及其性質(zhì)泊松過程的統(tǒng)計(jì)特征：

一維概率分布：

二維概率分布：（t1<t2）4.5.2泊松過程及其性質(zhì)（t1<t2）4.5.2

泊松過程及其性質(zhì)泊松過程的性質(zhì)：（1）泊松過程是平穩(wěn)獨(dú)立增量過程；（2）泊松過程是馬爾可夫過程；（3）泊松過程是非平穩(wěn)過程，但其增量具有平穩(wěn)性；（4）泊松過程是是均方連續(xù)、均方不可導(dǎo)、均方可積的二階矩過程。（5）對(duì)于強(qiáng)度為λ的泊松過程，各次事件出現(xiàn)的時(shí)間間隔是相互獨(dú)立同分布的隨機(jī)變量，且都服從參數(shù)為λ的指數(shù)分布。

4.5.2泊松過程及其性質(zhì)4.5.2

泊松過程及其性質(zhì)泊松過程的性質(zhì)：

定理:

計(jì)數(shù)過程是泊松過程的充分必要條件是事件發(fā)生的時(shí)間間隔是獨(dú)立的指數(shù)分布。

4.5.2泊松過程及其性質(zhì)4.5.3

泊松過程的特點(diǎn)泊松過程的特點(diǎn)：（1）計(jì)數(shù)過程；（2）增量是獨(dú)立、平穩(wěn)的；（3）在充分小的時(shí)間間隔內(nèi)事件出現(xiàn)二次及二次以上的概率趨于0；（4）強(qiáng)度λ為常數(shù)，單位時(shí)間內(nèi)事件出現(xiàn)的次數(shù)不變；

-----齊次泊松過程4.5.3泊松過程的特點(diǎn)4.5.4非齊次泊松過程定義：如果計(jì)數(shù)過程{N(t),t≥0}滿足：（1）P{N(0)=0}=1

；（2）{N(t),t≥0}是獨(dú)立增量過程；（3）在[t,t+Δt)內(nèi)出現(xiàn)一次事件的概率為（4）在[t,t+Δt)內(nèi)出現(xiàn)二次及二次以上事件的概率為則稱{N(t),t≥0}是強(qiáng)度為λ(t)的非齊次泊松過程。顯然，當(dāng)λ(t)=λ時(shí)，{N(t),t≥0}是齊次泊松過程。4.5.4非齊次泊松過程4.5.4非齊次泊松過程定理：如果{N(t),t≥0}是非齊次泊松過程，且λ(t)為連續(xù)函數(shù)，則在時(shí)間間隔[t0,t0+t)內(nèi)事件A出現(xiàn)k次的概率為其中，為強(qiáng)度函數(shù)。特別地，當(dāng)t0=0時(shí)，4.5.4非齊次泊松過程特別地，當(dāng)t0=0時(shí)，4.5.4非齊次泊松過程均值：方差：例：某設(shè)備的使用期限為10年，前5年內(nèi)平均2.5年需要維修一次，后5年平均2年需維修一次，求在使用期限內(nèi)只維修過1次的概率。解：維修次數(shù)與時(shí)間有關(guān)，該過程是非齊次伯松過程，其強(qiáng)度函數(shù)為4.5.4非齊次泊松過程馬爾可夫過程的概念馬爾可夫鏈4.6馬爾可夫過程馬爾可夫過程的概念4.6馬爾可夫過程4.6.1馬爾可夫過程的概念4.6.1.1有關(guān)定義隨機(jī)過程馬爾可夫性：（物理描述）

當(dāng)隨機(jī)過程在時(shí)刻ti所處的狀態(tài)為已知的條件下，過程在時(shí)刻t(>ti)所處的狀態(tài)，與過程在ti時(shí)刻以前的狀態(tài)無關(guān)，而僅與在ti時(shí)刻的狀態(tài)有關(guān)。這種已知“現(xiàn)在”狀態(tài)的條件下，“將來”狀態(tài)與“過去”狀態(tài)無關(guān)的性質(zhì)，稱為馬爾可夫性或無后效性。具有馬爾可夫性或無后效性的隨機(jī)過程，即是馬爾可夫過程。4.6.1馬爾可夫過程的概念4.6.1馬爾可夫過程的概念4.6.1.1有關(guān)定義馬爾可夫過程定義：（條件概率）給定隨機(jī)過程{X(t),t?T},若對(duì)于任意n(≥3)個(gè)時(shí)刻t1<t2<…<tn-1<tn?T,有

P{X(tn)<xn|X(t1)=x1,X(t2)=x2,…,X(tn-1)=xn-1}=P{X(tn)<xn|X(tn-1)=xn-1}或F{xn|x1,x2,…,xn-1;t1,t2,…,tn-1}=F{xn;tn|xn-1;tn-1}或f{xn|x1,x2,…,xn-1;t1,t2,…,tn-1}=f{xn;tn|xn-1;tn-1}則稱隨機(jī)過程{X(t),t?T}為馬爾可夫過程。4.6.1馬爾可夫過程的概念4.6.1馬爾可夫過程的概念4.6.1.1有關(guān)定義例1

直線上的隨機(jī)游動(dòng)。例2

電話交換站在某時(shí)刻接到的呼喚次數(shù)。

[0,t]=[0,tm]+(tm,t]次數(shù)(t)=次數(shù)(tm)+次數(shù)(tm,t)例3

布朗運(yùn)動(dòng)。概率p概率q概率p概率qX(0)X(n)4.6.1馬爾可夫過程的概念概率p概率q概率p概率qX(04.6.1馬爾可夫過程的概念4.6.1.1有關(guān)定義轉(zhuǎn)移概率分布函數(shù)和轉(zhuǎn)移概率密度的定義：把馬爾可夫過程{X(t),t?T}的條件概率分布函數(shù)，

F(x2;t2|x1;t1}=P{X(t2)<x2|X(t1)=x1}稱為馬爾可夫過程的(狀態(tài)）轉(zhuǎn)移概率函數(shù)。

如果則稱f(x;t|x0;t0)為馬爾可夫過程的轉(zhuǎn)移概率密度。4.6.1馬爾可夫過程的概念4.6.1馬爾可夫過程的概念4.6.1.1有關(guān)定義齊次馬爾可夫過程的定義：如果馬爾可夫過程的轉(zhuǎn)移概率函數(shù)或轉(zhuǎn)移概率密度,只與轉(zhuǎn)移前后的狀態(tài)及相應(yīng)的二個(gè)時(shí)刻的時(shí)間差有關(guān)，而與二個(gè)時(shí)刻無關(guān)，即

F(x2;t2|x1;t1)=F(x2|x1;t2-t1)

f(x2;t2|x1;t1)=f(x2|x1;t2-t1)稱具有這種特性的馬爾可夫過程為齊次馬爾可夫過程。4.6.1馬爾可夫過程的概念4.6.1馬爾可夫過程的概念4.6.1.1有關(guān)定義高階馬爾可夫過程的定義：如果馬爾可夫過程在tn時(shí)刻的狀態(tài)，只與tn時(shí)刻以前的tn-1,tn-2,…tn-k這k個(gè)時(shí)刻的狀態(tài)有關(guān)，而與更前時(shí)刻的狀態(tài)無關(guān)，即

F(xn;tn|xn-1,xn-2,…,xn-k,xn-k-1,…,x2,x1;tn-1,tn-2,…,tn-k,tn-k-1,…,t2,t1)=F(xn;tn|xn-1,xn-2,…,xn-k;tn-1,tn-2,…,tn-k)或f(xn;tn|xn-1,xn-2,…,xn-k,xn-k-1,…,x2,x1;tn-1,tn-2,…,tn-k,tn-k-1,…,t2,t1)=f(xn;tn|xn-1,xn-2,…,xn-k;tn-1,tn-2,…,tn-k)則稱具有這種特性的馬爾可夫過程為k階馬爾可夫過程。4.6.1馬爾可夫過程的概念4.6.1馬爾可夫過程的概念

例1

獨(dú)立過程是馬爾可夫過程。

[證]

設(shè){X(t),t?T}是一獨(dú)立過程，隨機(jī)事件X(t1)=x1,X(t2)=x2,…,X(tn-1)=xn-1,X(tn)<

xn相互獨(dú)立，所以

P{X(tn)<xn|X(t1)=x1,X(t2)=x2,…,X(tn-1)=xn-1}=P{X(tn)<xn}=P{X(tn)<xn|X(tn-1)=xn-1}因此，{X(t),t?T}是馬爾可夫過程。4.6.1馬爾可夫過程的概念4.6.1馬爾可夫過程的概念

例2

獨(dú)立增量過程是馬爾可夫過程。

[證]

設(shè){X(t),t?T}是一獨(dú)立增量過程，且X(0)=0，有X(t1)-X(0)=X(t1),X(t2)-X(t1),…,X(tn-1)-X(tn-2),X(tn)-X(tn-1)相互獨(dú)立。在X(tn-1)已知的條件下，X(tn)-X(tn-1)與X(t1)，X(t2)=X(t2)-X(t1)+X(t1),X(t3)=X(t3)-X(t2)+X(t2),…,X(tn-1)=X(tn-1)-X(tn-2)+X(tn-2)相互獨(dú)立。

P{X(tn)<xn|X(t1)=x1,X(t2)=x2,…,X(tn-1)=xn-1}=P{X(tn)-X(tn-1)<xn-xn-1|X(t1)=x1,X(t2)=x2,…,X(tn-1)=xn-1}=P{X(tn)-X(tn-1)<xn-xn-1}=P{X(tn)<xn|X(tn-1)=xn-1}因此，{X(t),t?T}是馬爾可夫過程。4.6.1馬爾可夫過程的概念4.6.1馬爾可夫過程的概念例3

維納過程{W(t),t≥0}是獨(dú)立增量過程，且W(0)=0，所以，維納過程是馬爾可夫過程。例4

泊松過程{N(t),t≥0}是獨(dú)立增量過程，且N(0)=0，所以，泊松過程是馬爾可夫過程。思考：馬爾可夫過程的無前效性。4.6.1馬爾可夫過程的概念4.6.2馬爾可夫鏈4.6.2.1馬爾可夫鏈的概念馬爾可夫鏈?zhǔn)菂?shù)集T和狀態(tài)空間E皆離散的馬爾可夫過程。T={0,1,2,…}，E={i1,i2,…}.馬爾可夫鏈定義：設(shè)隨機(jī)序列{X(n),n=0,1,2,…}的離散狀態(tài)空間為E={i1,i2,…},若對(duì)于任意的非負(fù)整數(shù)k和n1<n2<…<nm,以及任意i1,i2,…,im,im+k?E,有

P{X(nm+k)=im+k|X(n1)=i1,X(n2)=i2,…,X(nm)=im}=P{X(nm+k)=im+k|X(nm)=im}則稱隨機(jī)序列{X(n),n=0,1,2,…}為馬爾可夫鏈。4.6.2馬爾可夫鏈4.6.2馬爾可夫鏈4.6.2.1馬爾可夫鏈的概念馬爾可夫鏈的狀態(tài)轉(zhuǎn)移和狀態(tài)轉(zhuǎn)移矩陣：n1n2n1n2n1n2n3C-K4.6.2馬爾可夫鏈n1n2n1n2n1n2n3C-K4.6.2馬爾可夫鏈4.6.2.1馬爾可夫鏈的概念馬爾可夫鏈的轉(zhuǎn)移概率及其矩陣：馬爾可夫鏈{X(n),n=0,1,2,…}在時(shí)刻m處于狀態(tài)i的條件下，在時(shí)刻m+k處于狀態(tài)j的條件概率，稱為馬爾可夫鏈在m時(shí)刻的k步轉(zhuǎn)移概率，記為

pij(m,k)=P{X(m+k)=j|X(m)=i}

當(dāng)k=1時(shí)，pij=pij(m,1)=P{X(m+1)=j|X(m)=i}稱為馬爾可夫鏈在m時(shí)刻的一步轉(zhuǎn)移概率，簡(jiǎn)稱轉(zhuǎn)移概率。k為轉(zhuǎn)移步長(zhǎng)。顯然，0≤pij(