1、1,一、基本概念,試驗結果事先不能準確預言，三個特征: 可以在相同條件下重復進行； 每次試驗結果不止一個，可預先知道試驗所有可能結果； 每次試驗前不能確定那個結果會出現(xiàn)。,樣本空間,隨機試驗所有可能結果組成的集合，記為,隨機事件,在隨機試驗中，可能出現(xiàn)也可能不出現(xiàn)，而在大量重復試驗中具有某種規(guī)律性的事件叫做隨機事件，簡稱事件。隨機事件通常用大寫英文字母A、B、C等表示。,1.1 概率空間,隨機試驗,2,注：由于事件是集合，故集合的運算（并、交、差、上極限、下極限、極限等）都適用于事件。,注：所謂某個事件在 試驗中是否出現(xiàn)，當且僅當該事件所包含的某個樣本點是否出現(xiàn)，因此一個事件實際上對應于的一個

2、確定的子集。,3,二、概率的公理化定義,為了完成隨機現(xiàn)象的數(shù)學描述，還要規(guī)定隨機事件族上的概率函數(shù)即對中的每個事件要定義一個稱作為的概率的數(shù) ，作為事件A的函數(shù)必須假定滿足三條公理。,非負性；,規(guī)范性；,兩兩互不相容，即,有,則稱P為（，F(xiàn)）上的概率，（，F(xiàn)，P）稱為概率空間，P（A）為事件A的概率。,定義1.2：設（，F(xiàn)）是可測空間， 是定義在F上的實值函數(shù)，如果 滿足,4,由此定義出發(fā)，可推出概率的其它一些性質：,即概率具有單調性；,新事件：,連續(xù)性定理,5,條件概率,在事件B已發(fā)生這一條件下，事件A發(fā)生的概率。,全概率公式,若有N個互斥事件Bn（n=1,2,N），它的并集等于整個樣本空間

3、，則,三、幾個重要公式,加法公式,6,設事件B1，B2，Bn構成一個完備事件組，概率P(Bi)0,i=1,2,n,對于任何一個事件A，若P(A)0, 有,貝葉斯公式（后驗概率公式或逆概率公式）：,獨立事件：,獨立事件族：設（，F(xiàn)，P）是概率空間， 如果對任意 有 則稱Y為獨立事件族。,7,1.2 隨機變量及其分布,一、一維隨機變量及其分布函數(shù),由于數(shù)學分析不能直接利用來研究集合函數(shù)，這樣影響對隨機現(xiàn)象的研究。解決這個問題的方法，主要是設法在集合函數(shù)與數(shù)學分析中所研究的點函數(shù)間建立某種聯(lián)系，從而能用數(shù)學分析去研究隨機現(xiàn)象。,8,X(e)就是一個函數(shù)，它把樣本點映射到實數(shù)軸上，隨機變量就是從原樣本

4、空間到新樣本空間的一種映射，我們通常把這樣一種對應關系稱之為在概率空間上的一個隨機變量。下面我們給出隨機變量的數(shù)學定義。,定義1.4：設（ ，F(xiàn)，P）是概率空間，X=X(e)是定義在上的實函數(shù)，如果對任意實數(shù)x，e:X(e) x F，則稱X(e)是F上的隨機變量。,9,事件,隨機變量,離散型隨機變量：只取有限個數(shù)值或可列無窮多個值。,連續(xù)型隨機變量：從原樣本空間到新樣本空間的映射是某一個范圍，是一段（或幾段）實線（也可能是整個坐標軸），隨機變量可以取值于某一區(qū)間中的任一數(shù)。,10,分布函數(shù)（一個描述隨機變量取值的概率分布情況的統(tǒng)一方法）,11,離散型隨機變量X的概率分布用分布律描述：,12,離

5、散型隨機變量的概率分布用分布列描述：,01分布,二項分布,泊松分布,連續(xù)型隨機變量的概率分布用概率密度描述,均勻分布,正態(tài)分布,指數(shù)分布,13,二、n維隨機變量及其分布函數(shù),定義1.5 設（ ，F(xiàn)，P）是概率空間，X=X(e)（X1(e),Xn(e)）是定義在上的n維空間Rn中取值的向量函數(shù)。如果對于任意x=(x1,xn) Rn，e:X1(e) x1,Xn(e) xn F，則稱X=X(e)為n維隨機變量。稱,為X=(X1,X2,Xn)的聯(lián)合分布函數(shù),14,15,三、邊緣分布,若二維聯(lián)合分布函數(shù)中有一個變元趨于無窮，則其極限函數(shù)便是一維分布函數(shù)，對于這種特殊性質，我們稱其為邊緣分布。,對于任意兩

6、個隨機變量X,Y，其聯(lián)合分布函數(shù)為：,則：,分別稱FX(x)和FY(y)為 關于X和關于Y的邊緣分布函數(shù)。,16,離散型隨機變量（X，Y）邊緣分布律計算如下,連續(xù)型隨機變量（X，Y）邊緣概率密度計算如下,17,相互獨立的隨機變量,設X，Y是兩個隨機變量，若對任意實數(shù)x，y有,則稱X，Y為相互獨立的隨機變量。,若X，Y為相互獨立隨機變量，則有,聯(lián)合密度,邊緣密度,邊緣密度,聯(lián)合密度,18,四、條件分布,條件概率,條件分布函數(shù),兩邊對x微分,19,1.3 隨機變量的數(shù)字特征,隨機變量的數(shù)學期望 隨機變量函數(shù)的期望 方差 協(xié)方差 相關系數(shù) 獨立與不相關,20,一、數(shù)學期望,21,隨機變量函數(shù)的期望,

7、已知隨機變量X的數(shù)學期望，求隨機變量函數(shù)Y=g(X)的數(shù)學期望，,對于多維隨機變量,22,設X1,X2, ,Xn為隨機變量，求隨機變量函數(shù)Y=a1X1+a2X2+anXn的數(shù)學期望。,已知隨機變量X1和X2，求隨機變量函數(shù)YaX1+bX2的數(shù)學期望,23,加權和的期望等于加權期望的和,求數(shù)學期望是線性運算,數(shù)學期望的線性運算不受獨立條件限制,已知隨機變量X1和X2，求隨機變量函數(shù)Yg1(X1)g2(X2)的數(shù)學期望,24,假設兩個隨機變量X1和X2相互獨立，則有,因此，有,25,二、方差（隨機變量取值的離散程度）,26,三、協(xié)方差與相關系數(shù),引入一個描述兩個隨機變量相關程度的系數(shù),XY稱為歸一

8、化的協(xié)方差系數(shù)或相關系數(shù)。,若XY0，則稱隨機變量X和Y不相關。,27,若兩個隨機變量X和Y的聯(lián)合矩滿足,則稱隨機變量X和Y統(tǒng)計獨立,28,四、K階原點矩、k階中心矩,隨機變量X，若E|X|k，稱EXk為k階原點矩。,離散隨機變量,連續(xù)隨機變量,又若EX存在，且E|X-EX|k ，稱,為X的k階中心矩。,離散隨機變量,連續(xù)隨機變量,29,一階原點矩就是隨機變量的數(shù)學期望，,數(shù)學期望大致的描述了概率分布的中心。,二階中心矩就是隨機變量的方差，,方差反映隨機變量取值的離散程度。,01分布,泊松分布,正態(tài)分布,常用分布的數(shù)學期望和方差,30,中心化的兩個隨機變量X-EX，Y-EY的互相關矩稱為隨機變

9、量X和Y的協(xié)方差，,協(xié)方差是描述隨機現(xiàn)象中，隨機變量X和Y概率相關的程度。,31,相互獨立,不相關,相互獨立,不相關,設Z是一個隨機變量，具有均勻概率密度,令X=sinZ，Y=cosZ，求隨機變量X和Y是否相關，是否獨立？,32,1.4 特征函數(shù)、母函數(shù),數(shù)字特征只反映了概率分布的某些側面，一般并不能通過它們來確定分布函數(shù)，這里將要引進的特征函數(shù)，既能完全決定分布函數(shù)而又具有良好的分析性質。,一、復隨機變量,對復隨機變量也可以平行于實隨機變量建 立起一系列結果。,33,二、特征函數(shù),34,對離散型隨機變量，若其分布律為,35,三、特征函數(shù)的性質,36,37,因而可作下列積分號下的微分,38,此

10、性質使我們可以方便地求得隨機變量的各階矩,39,40,（7）特征函數(shù)與分布函數(shù)是相互唯一確定的,證略,41,唯一性定理： 分布函數(shù)由其特征函數(shù)唯一決定,而分布函數(shù)由其連續(xù)點上的值唯一決定 不連續(xù)點利用右連續(xù)性,42,即在特征函數(shù)絕對可積的條件下，概率密度 與特征函數(shù)構成一對付氏變換。,43,因此用控制收斂定理知（極限號與積分號 交換的勒貝格控制收斂定理）,44,45,四、多元特征函數(shù),46,47,48,49,50,51,52,53,54,55,利用特征函數(shù)與分布一一對應的唯一性得,56,注：求隨機變量的特征函數(shù)的方法,（3）用Fourier變換去求解。,（1）一般定義求解；,（2）對一些特殊分

11、布可化為微分方程求解；,（4）利用特征函數(shù)求多個獨立隨機變量和的分布。,要求： （1）會求一些常用的隨機變量的特征函數(shù)；,（2）記住一些重要分布的特征函數(shù)，如正態(tài)分布；,（3）利用特征函數(shù)求相應隨機變量的各階矩；,57,五、母函數(shù),對于整值隨機變量，有一種處理方法很便于應用，這就是母函數(shù)法。,58,59,例、求二項分布、泊松分布、幾何分布 的母函數(shù),60,（1）唯一性，非負整數(shù)值隨機變量的分布列 由其母函數(shù)唯一確定,六、母函數(shù)的性質,61,62,63,3、獨立隨機變量之和的母函數(shù)等于母函數(shù)之積,64,65,(4) 隨機個隨機變量之和的母函數(shù),66,67,68,一、密度函數(shù)與特征函數(shù),69,70,二、幾個常用結論,71,72,73,74,1.6 條件期望,一、條件分布及條件期望,（1）隨機變量關于事件的條件分布及條件期望,條件數(shù)學期望：,75,（2）離散型隨機