1、隨機(jī)方法及應(yīng)用（隨機(jī)過(guò)程）,畢軍 ,內(nèi)容：,一、Posson 過(guò)程 二、Markov 鏈 三、連續(xù)時(shí)間的Markov 鏈 四、平穩(wěn)隨機(jī)過(guò)程 五、平穩(wěn)隨機(jī)過(guò)程的譜分析 六、時(shí)間序列分析,參考書： 1、隨機(jī)過(guò)程（第四版），劉次華，華中理工大學(xué)出版社。 2、隨機(jī)過(guò)程（Stochastic Process)，Sheldon M1.Ross著，龔光魯 譯，機(jī)械工業(yè)出版社。 3、Probability, Random Variables, and Stochastic Processes,A.Papoulis,S.U.Pilliai,(保錚 等譯，第四版，西安交通大學(xué)出版社）。,第一章 隨機(jī)過(guò)程的概念與基

2、本類型,預(yù)備知識(shí) 簡(jiǎn)要回顧一下概率論中與本課程有關(guān)的基本概念：隨機(jī)試驗(yàn)、樣本空間、事件、概率、隨機(jī)變量等,隨機(jī)試驗(yàn),試驗(yàn)結(jié)果事先不能準(zhǔn)確預(yù)言，三個(gè)特征: 可以在相同條件下重復(fù)進(jìn)行； 每次試驗(yàn)結(jié)果不止一個(gè)，可預(yù)先知道試驗(yàn)所有可能結(jié)果； 每次試驗(yàn)前不能確定那個(gè)結(jié)果會(huì)出現(xiàn)。,樣本空間,隨機(jī)試驗(yàn)所有可能結(jié)果組成的集合，記為,事件,樣本空間的子集A稱為事件,集合運(yùn)算,古典概率,隨機(jī)試驗(yàn)中一切可能結(jié)果是有限多個(gè)； 則事件A發(fā)生的概率可表示為,統(tǒng)計(jì)概率,用事件的頻率近似地去表達(dá)事件的概率； 若在同樣的條件下，將隨機(jī)試驗(yàn)獨(dú)立的重復(fù)做n次，事件A出現(xiàn)了nA次，則事件A的頻率是,當(dāng)試驗(yàn)次數(shù)n增大時(shí)，其中大量的頻率

3、聚集在一個(gè)常數(shù)周圍； 這個(gè)常數(shù)是客觀存在的，反映了事件A出現(xiàn)可能性的大小，我們認(rèn)為這個(gè)常數(shù)就是事件的概率。,公理化定義概率,對(duì)于一個(gè)事件A樣本空間，假定滿足以下3個(gè)條件的數(shù)P(A)： 0P(A) 1; P()=1; 若A1,A2,.,Ak兩兩互斥，則,我們稱P（A）為事件A的一個(gè)概率。,概率空間,規(guī)定一個(gè)隨機(jī)試驗(yàn)，所有樣本點(diǎn)之集合構(gòu)成樣本空間 ，在樣本空間中一個(gè)樣本點(diǎn)或若干個(gè)樣本點(diǎn)之適當(dāng)集合F稱為事件域，F(xiàn)中的每一個(gè)集合稱為事件（即與隨機(jī)試驗(yàn)有關(guān)的一切可觀察事件的集）。若A F，則P(A)就是事件A的概率，并稱這三個(gè)實(shí)體的結(jié)合（ ，F(xiàn)，P）為一個(gè)概率空間,條件概率,在事件B已發(fā)生這一條件下，事

4、件A發(fā)生的概率。,全概率,若有N個(gè)互斥事件Bn（n=1,2,N），它的并集等于整個(gè)樣本空間，則,設(shè)事件A1，A2，An構(gòu)成一個(gè)完備事件組，概率P(Ai)0,i=1,2,n,對(duì)于任何一個(gè)事件B，若P(B)0, 有,貝葉斯公式(先驗(yàn)概率，后驗(yàn)概率）,獨(dú)立事件,隨機(jī)變量,定義： 設(shè)（ ，F(xiàn)，P）是概率空間，X=X(e)是定義在上的實(shí)函數(shù)，如果對(duì)任意實(shí)數(shù)x，e:X(e) x F，則稱X(e)是F上的隨機(jī)變量。,由于數(shù)學(xué)分析不能直接利用來(lái)研究集合函數(shù)，這樣影響對(duì)隨機(jī)現(xiàn)象的研究。解決這個(gè)問(wèn)題的方法，主要是設(shè)法在集合函數(shù)與數(shù)學(xué)分析中所研究的點(diǎn)函數(shù)間建立某種聯(lián)系，從而能用數(shù)學(xué)分析法研究隨機(jī)現(xiàn)象。,X(e)就是

5、一個(gè)函數(shù)，它把樣本點(diǎn)映射到實(shí)數(shù)軸上，隨機(jī)變量就是從原樣本空間到新樣本空間的一種映射，我們通常把這樣一種對(duì)應(yīng)關(guān)系稱之為在概率空間上的一個(gè)隨機(jī)變量。,離散型隨機(jī)變量： 只取有限個(gè)數(shù)值或可列無(wú)窮多個(gè)值。,連續(xù)型隨機(jī)變量： 從原樣本空間到新樣本空間的映射是某一個(gè)范圍，是一段（或幾段）實(shí)線（也可能是整個(gè)坐標(biāo)軸）。,分布函數(shù)（一個(gè)描述隨機(jī)變量取值的概率分布情況的統(tǒng)一方法）,性質(zhì)： F(x)是非降函數(shù)； 0F(x) 1； Px1Xx2=F(x2)-F(x1) F(x)是右連續(xù)。,離散型隨機(jī)變量的概率分布用分布列描述,01分布,二項(xiàng)分布,泊松分布,連續(xù)型隨機(jī)變量的概率分布用概率密度描述,均勻分布,正態(tài)分布,指

6、數(shù)分布,隨機(jī)變量函數(shù)的分布,在給定某任意的隨機(jī)變量X，以及它的概率分布函數(shù)FX(x)，希望進(jìn)一步求出給定的隨機(jī)變量的某些可測(cè)函數(shù)（如Y=g(X)）的概率分布函數(shù)。,非線性放大器,Y,X,Y的概率分布函數(shù)公式為,如果上式右端概率的導(dǎo)數(shù)對(duì)于y處處存在，那么這個(gè)導(dǎo)數(shù)就給出了隨機(jī)變量Y的概率密度,n維隨機(jī)變量及其分布函數(shù),設(shè)（ ，F(xiàn)，P）是概率空間，X=X(e)（X1(e),Xn(e)）是定義在上的n維空間Rn中取值的向量函數(shù)。如果對(duì)于任意X=(X1,Xn) Rn，e:X1(e) x1,Xn(e) xn F，則稱X=X(e)為n維隨機(jī)變量。稱,為X=(X1,X2,Xn)的聯(lián)合分布函數(shù),邊際分布,若二維

7、聯(lián)合分布函數(shù)中有一個(gè)變?cè)呌跓o(wú)窮，則其極限函數(shù)便是一維分布函數(shù)，對(duì)于這種特殊性質(zhì)，我們稱其為邊際分布。 對(duì)于任意兩個(gè)隨機(jī)變量X,Y，其聯(lián)合分布函數(shù)為FXY(x,y)，則,分別稱F1(x)和F2(y)為FXY(x,y)關(guān)于X和關(guān)于Y的邊際分布函數(shù)。,離散型隨機(jī)變量（X，Y）邊際分布函數(shù)計(jì)算如下,連續(xù)型隨機(jī)變量（X，Y）邊際分布函數(shù)計(jì)算如下,相互獨(dú)立的隨機(jī)變量,設(shè)X，Y是兩個(gè)隨機(jī)變量，若對(duì)任意實(shí)數(shù)x，y有,則稱X，Y為相互獨(dú)立的隨機(jī)變量。,若X，Y為相互獨(dú)立隨機(jī)變量，則有,條件分布,隨機(jī)變量的數(shù)字特征,統(tǒng)計(jì)平均與隨機(jī)變量的數(shù)學(xué)期望 隨機(jī)變量函數(shù)的期望值 方差 協(xié)方差 相關(guān)系數(shù) 獨(dú)立與不相關(guān),一、數(shù)

8、學(xué)期望,設(shè)離散隨機(jī)變量X，它可能取4個(gè)值x1，x2，x3，x4，做試驗(yàn)n次，計(jì)算X的算術(shù)平均可得：,P(X=xk),連續(xù)隨機(jī)變量數(shù)學(xué)期望定義,隨機(jī)變量函數(shù)的期望值,已知隨機(jī)變量X的數(shù)學(xué)期望值，求隨機(jī)變量函數(shù)Y=g(X)的數(shù)學(xué)期望，,設(shè)X1,X2, ,Xn為隨機(jī)變量，求隨機(jī)變量函數(shù)Y=a1X1+a2X2+anXn的數(shù)學(xué)期望。,N維隨機(jī)變量的數(shù)學(xué)期望滿足線性運(yùn)算，不受獨(dú)立條件限制,已知隨機(jī)變量X1和X2，求隨機(jī)變量函數(shù)Yg1(X1)g2(X2)的數(shù)學(xué)期望,假設(shè)兩個(gè)隨機(jī)變量X1和X2相互獨(dú)立，則有,二、方差（隨機(jī)變量取值的離散程度）,注：方差反映隨機(jī)變量取值的離散程度。,三、協(xié)方差與相關(guān)系數(shù),引入一個(gè)描述兩個(gè)隨機(jī)變量相關(guān)程度的系數(shù),XY稱為歸一化的協(xié)方差系數(shù)或相關(guān)系數(shù)。,若XY0，則稱隨機(jī)變量X和Y不相關(guān)。,統(tǒng)計(jì)獨(dú)立,不相關(guān),統(tǒng)計(jì)獨(dú)立,不相關(guān),設(shè)Z是一個(gè)隨機(jī)變量，具有均勻概率密度,令X=sinZ，Y=cosZ，求隨機(jī)變量X和Y是否相關(guān)，是否獨(dú)立？,四、K階原點(diǎn)矩，k階中心矩,隨機(jī)變量X，若E|X|k，稱EXk為k階原點(diǎn)矩。而稱E|X|k為X的k階絕對(duì)原點(diǎn)矩。,離散隨機(jī)變量,連續(xù)隨機(jī)變量,又若EX存在，且E|X-EX|k ，稱,為X的k階中心矩。,離散隨機(jī)變量,連續(xù)隨機(jī)變量,一階原點(diǎn)矩就是隨機(jī)變量的數(shù)學(xué)期望，,二階中心矩就是隨機(jī)變量的方差，,小節(jié),概率論中的基本概念