1、2020/7/29,1.1 隨機(jī)事件及其概率 1.2 隨機(jī)變量及其分布 1.3 隨機(jī)變量的數(shù)字特征 1.4 極限定理初步,第一章 概率論基礎(chǔ),2020/7/29,一、樣本空間與隨機(jī)事件,為了研究隨機(jī)現(xiàn)象，就要對(duì)研究對(duì)象進(jìn)行觀測或試驗(yàn)，這種觀測或試驗(yàn)統(tǒng)稱為隨機(jī)試驗(yàn)。,實(shí)驗(yàn)可以在相同條件下重復(fù)進(jìn)行；,每次試驗(yàn)，可能出現(xiàn)各種不同結(jié)果;,每一次試驗(yàn)，實(shí)際只出現(xiàn)一種結(jié)果，至于實(shí)際出現(xiàn)哪一種結(jié)果，試驗(yàn)之前是無法預(yù)先知道的。,1.1 隨機(jī)事件及其概率,隨機(jī)試驗(yàn),2020/7/29,隨機(jī)試驗(yàn)的每個(gè)基本結(jié)果稱為樣本點(diǎn)，記為。,全體樣本點(diǎn)的集合稱為樣本空間，記為。,樣本空間,2020/7/29,在隨機(jī)試驗(yàn)中可能發(fā)

2、生也可能不發(fā)生的事情稱為隨機(jī)事件，簡稱事件.,事件就是由樣本點(diǎn)組成的某個(gè)集合.,基本事件,復(fù)合事件,必然事件,不可能事件,隨機(jī)事件,2020/7/29,1.事件的包含,2.事件的相等,3.事件的積（交）,4.互不相容（互斥）事件,事件間的關(guān)系,5.事件的和（并）,6.對(duì)立事件,7.差事件,2020/7/29,1.交換律,2.結(jié)合律,3.分配律,4.對(duì)偶原則,事件間的運(yùn)算,2020/7/29,二、事件的概率,概率的直觀定義,統(tǒng)計(jì)概率,古典概率,幾何概率,2020/7/29,非負(fù)性：0P(A)1,規(guī)范性：P()=1,有限可加性：若 A1，A2， An是一 組兩兩互不相容的事件，則有,統(tǒng)計(jì)、古典、幾

3、何概率的性質(zhì),2020/7/29,設(shè)隨機(jī)試驗(yàn)E的樣本空間為，對(duì)試驗(yàn)E的任一隨機(jī)事件A，定義一個(gè)實(shí)值函數(shù)P(A),若滿足：,非負(fù)性: 0P(A)1,規(guī)范性: P()=1,可列可加性：若 A1,A2,An,兩兩互不相 容，則有,則稱P(A)為事件A的概率。,概率的公理化定義,2020/7/29,P()=0,有限可加性：若 A1,A2, An是一 組兩兩互不相容的事件，則有,對(duì)任一隨機(jī)事件A,有,若A包含B,有P(A-B)=P(A)-P(B),對(duì)任意事件A、B,有,概率的性質(zhì),2020/7/29,對(duì)任意事件A、B，有P(A-B)=P(A)-P(AB),若A包含B,有P(A)P(B),若AB=,有P(

4、A+B)=P(A)+P(B),對(duì)任意3個(gè)事件A1,A2, A3,有,推論,2020/7/29,三、條件概率與乘法公式,條件概率,設(shè)、B是隨機(jī)試驗(yàn)E的兩個(gè)隨機(jī)事件， 且P(A)0,則稱 為已知事件A發(fā)生條件下，事件B發(fā)生的 條件概率。,2020/7/29,設(shè)A，B為任意事件，,P(AB)=P(A)P(B|A),P(AB)=P(B)P(A|B),推廣到n個(gè)事件的情況：,乘法公式,2020/7/29,設(shè)A1,A2,An兩兩互不相容， 且 ,即B的發(fā)生總是與A1, A2,An之一同時(shí)發(fā)生則對(duì)于事件B,有,全概率公式,2020/7/29,設(shè)A1,A2,An兩兩互不相容， 且 ,即B的發(fā)生總是與A1, A

5、2,An之一同時(shí)發(fā)生，則在B已經(jīng)發(fā)生的 條件下, Ak的條件概率為,貝葉斯公式,2020/7/29,四、事件的獨(dú)立性,事件的獨(dú)立性,定義：若兩事件A、B滿足 P(AB)= P(A) P(B)， 則稱A、B相互獨(dú)立。,2020/7/29,在相同條件下，重復(fù)n次做同一試驗(yàn)， 每次試驗(yàn)只有兩個(gè)可能結(jié)果；,n次試驗(yàn)是相互獨(dú)立的；,每次試驗(yàn)中P(A)=p不變。,伯努利概型,2020/7/29,在n次伯努利概型試驗(yàn)中，每次試驗(yàn)事件A發(fā)生的概率為p(0p1)，則在n次試驗(yàn)中，事件A恰好發(fā)生k次的概率Pn(k)為,伯努利定理,2020/7/29,一、隨機(jī)變量與分布函數(shù),對(duì)于隨機(jī)試驗(yàn)E，是其樣本空間。如果對(duì)每一

6、個(gè)樣本點(diǎn)w,都對(duì)應(yīng)著一個(gè)實(shí)數(shù)X(w)，則稱上的實(shí)值函數(shù)X(w)為隨機(jī)變量 ，簡記為X。,1.2 隨機(jī)變量及其分布,隨機(jī)變量,2020/7/29,許多隨機(jī)事件都可以通過形如Xx的事件來表示:,2020/7/29,設(shè)X是一個(gè)隨機(jī)變量，稱,為X的分布函數(shù)。F(x)也可記為FX(x).,分布函數(shù),2020/7/29,1-F(x),F(x2)-F(x1),P(Xx) P(x1Xx2) P(x1Xx2) P(x1Xx2),F(x)-F(x-0),F(x-0),F(x2-0)-F(x1),F(x2)-F(x1-0),已知X的分布函數(shù)為F(x)，下列各事件概率用F(x) 如何表示？,2020/7/29,F(x

7、+0)=F(x),1.單調(diào)不減,2.非負(fù)有界,3.右連續(xù),分布函數(shù)的性質(zhì),2020/7/29,設(shè)xk(k=1,2,)是離散型隨機(jī)變量X所取的一切可能值，pk是X取值xk的概率，則稱,為離散型隨機(jī)變量X的概率分布或分布律。,分布列,離散型隨機(jī)變量及其分布,2020/7/29,設(shè)隨機(jī)變量X的分布函數(shù)為F(x) ,如果存在非負(fù)函數(shù)f(x) , 使得對(duì)任意的實(shí)數(shù)x,都有,則稱X為連續(xù)型隨機(jī)變量, f(x)稱為X的概率密度函數(shù),簡稱為概率密度或分布密度。,連續(xù)型隨機(jī)變量及其分布,2020/7/29,概率密度的性質(zhì),2020/7/29,0-1分布,若隨機(jī)變量X只可能取0和1兩個(gè)值，其概率分布為 P(X=1

8、)= p，P(X=0)=1-p (0p1) 則稱X服從參數(shù)為p的0-1分布。,常見隨機(jī)變量及其分布,二項(xiàng)分布,若隨機(jī)變量X的概率分布為,稱X服從參數(shù)為n和p的二項(xiàng)分布，記作XB(n, p)。,2020/7/29,泊松分布,若隨機(jī)變量X的概率分布為,其中常數(shù)0,則稱X服從參數(shù)為的泊松分布，記作XP().,常見隨機(jī)變量及其分布,2020/7/29,在獨(dú)立試驗(yàn)序列中，若一次貝努利試驗(yàn)中某事件A發(fā)生的概率為P(A)=p，只要事件A不發(fā)生, 試驗(yàn)就不斷地重復(fù)下去，直到事件A發(fā)生，試驗(yàn)才停止。設(shè)隨機(jī)變量X為直到事件A發(fā)生為止所需的試驗(yàn)次數(shù)，X的概率分布為,則稱X服從參數(shù)為p的幾何分布，記作XG(p).,幾

9、何分布,常見隨機(jī)變量及其分布,2020/7/29,設(shè)N個(gè)元素分為兩類,有M個(gè)屬于第一類,N-M個(gè)屬于第二類.現(xiàn)在從中不重復(fù)抽取n個(gè),其中包含的第一類元素的個(gè)數(shù)X的分布律為,其中nN,MN,l=minn,M,n,N,M均為正整數(shù),則稱X服從參數(shù)為N,M,n的超幾何分布，記作XH(N,M,n).,超幾何分布,常見隨機(jī)變量及其分布,2020/7/29,若隨機(jī)變量X的概率密度為,則稱X服從區(qū)間a,b上的均勻分布,記作XUa,b.,常見隨機(jī)變量及其分布,均勻分布,2020/7/29,若隨機(jī)變量X的概率密度為,其中,0為常數(shù),則稱X服從參數(shù)為的指數(shù)分布,記作XE.,常見隨機(jī)變量及其分布,指數(shù)分布,2020

10、/7/29,若隨機(jī)變量X的概率密度為,其中和都是常數(shù), 0，則稱X服從參數(shù)為和2的正態(tài)分布.記作XN(,2),常見隨機(jī)變量及其分布,正態(tài)分布,2020/7/29,正態(tài)分布的概率密度圖形,正態(tài)分布的分布函數(shù)圖形,2020/7/29,=0, =1時(shí)的正態(tài)分布稱為標(biāo)準(zhǔn)正態(tài)分布.,其密度函數(shù)和分布函數(shù)常用 和 表示,標(biāo)準(zhǔn)正態(tài)分布,2020/7/29,任何一個(gè)一般的正態(tài)分布都可以通過線性變換轉(zhuǎn)化為標(biāo)準(zhǔn)正態(tài)分布.,2020/7/29,二、多維隨機(jī)變量及其分布,二維隨機(jī)變量,對(duì)于隨機(jī)試驗(yàn)E，是其樣本空間。X(w) 和Y(w)是定義在樣本空間上的兩個(gè)隨機(jī)變量,由它們構(gòu)成的向量(X,Y)稱為二維隨機(jī)變量或二維隨

11、機(jī)向量。,2020/7/29,設(shè)(X,Y)是二維隨機(jī)變量,對(duì)于任意實(shí)數(shù)x, y,稱二元函數(shù) F(x,y)=P(X x,Yy) 為二維隨機(jī)變量(X,Y)的聯(lián)合分布函數(shù)，簡稱分布函數(shù)。,聯(lián)合分布函數(shù),2020/7/29,2. 0F(x,y)1,1. x1x2, F(x1,y)F(x2,y) y1y2, F(x,y1)F(x,y2),聯(lián)合分布函數(shù)的性質(zhì),4. F(x+0,y)=F(x,y), F(x,y+0)=F(x,y),2020/7/29,設(shè)(xk,yk)(k=1,2,)是二維隨機(jī)變量(X,Y)所取的一切可能值，且(X,Y)取各個(gè)可能值的概率為,則稱 (X,Y)為二維離散型隨機(jī)變量，上式為二維離

12、散型隨機(jī)變量 (X,Y)的聯(lián)合分布律，簡稱分布律。,二維離散型隨機(jī)變量,2020/7/29,聯(lián)合分布列,2020/7/29,設(shè)二維隨機(jī)變量 (X,Y)的分布函數(shù)為F(x,y)，如果存在非負(fù)函數(shù)f(x,y)使得對(duì)任意的實(shí)數(shù)x, y,都有,則稱 (X,Y)為連續(xù)型隨機(jī)變量，其中f(x,y) 稱為 (X,Y)的聯(lián)合概率密度函數(shù)，簡稱聯(lián)合概率密度或聯(lián)合分布密度。,二維連續(xù)型隨機(jī)變量,2020/7/29,聯(lián)合概率密度的性質(zhì),2020/7/29,均勻分布,設(shè)G為平面上的有界區(qū)域，若二維隨機(jī)變量(X,Y)的概率密度函數(shù)為,其中 為區(qū)域G的面積，則稱二維隨機(jī)變量(X,Y)在G上服從均勻分布。,常見的二維連續(xù)型

13、隨機(jī)變量的分布,2020/7/29,二維正態(tài)分布,若二維隨機(jī)變量(X,Y)的分布密度為,其中10, 20, | |1, 則稱 (X,Y) 服從 參數(shù)為1 ,2,1,2,的二維正態(tài)分布。記作(X,Y) N(1 ,2,12,22,),常見的二維連續(xù)型隨機(jī)變量的分布,2020/7/29,設(shè)二維隨機(jī)變量(X,Y)的聯(lián)合分布函數(shù)為F(x,y)=P(Xx,Yy),則隨機(jī)變量X的分布函數(shù),稱為(X,Y)關(guān)于X的邊緣分布函數(shù)。,稱為(X,Y)關(guān)于Y的邊緣分布函數(shù)。,邊緣分布,2020/7/29,設(shè)(X,Y)為離散型隨機(jī)變量，其聯(lián)合分布律為,則(X,Y)關(guān)于X、Y的邊緣分布函數(shù)分別為,(X,Y)關(guān)于X、Y的邊緣

14、分布律分別為,邊緣分布離散型,2020/7/29,設(shè)(X,Y)為連續(xù)型隨機(jī)變量，其聯(lián)合分布函數(shù)和聯(lián)合概率密度分別為F(x,y)和 f(x,y),則,分別稱為(X,Y)關(guān)于X和Y的邊緣概率密度函數(shù)，簡稱邊緣概率密度。,邊緣分布連續(xù)型,2020/7/29,如果二維隨機(jī)變量(X,Y)滿足,則稱X與Y相互獨(dú)立 .,連續(xù)型,對(duì)任意x,y, 有,離散型,隨機(jī)變量的獨(dú)立性,2020/7/29,設(shè) (X,Y) 是二維離散型隨機(jī)變量，對(duì)于固定的 j，若P(Y=yj)0，則稱,為在Y=yj下，隨機(jī)變量X的條件分布律.,條件分布離散型,2020/7/29,稱為已知 Y=y下，X的條件概率密度函數(shù) .,稱為已知 X=

15、x下，Y的條件概率密度函數(shù) .,條件分布連續(xù)型,2020/7/29,如果yk=g(xk)中有一些是相同的，把它們作適當(dāng)并項(xiàng)即可.,若X是離散型隨機(jī)變量，X的分布律為,若yk=g(xk)的值互不相等, Y=g(X)的分布律為,三、隨機(jī)變量函數(shù)的分布,一維隨機(jī)變量函數(shù)的分布離散型,2020/7/29,若X是連續(xù)型隨機(jī)變量，其概率密度為fX(x)，則求Y=g(X)的分布問題的方法是，從分布函數(shù)定義出發(fā)，通過等概率事件的轉(zhuǎn)化，建立Y與X的分布函數(shù)之間的關(guān)系，得到Y(jié)的分布函數(shù)FY(y)，然后對(duì)FY(y)求導(dǎo)得到概率密度fY(y)。這種求解連續(xù)型隨機(jī)變量函數(shù)的分布問題的方法稱為分布函數(shù)法。,一維隨機(jī)變量函

16、數(shù)的分布連續(xù)型,2020/7/29,設(shè)隨機(jī)變量X的概率密度為fX(x),又設(shè)y=g(x)嚴(yán)格單調(diào)且可導(dǎo),則Y=g(X)是一個(gè)連續(xù)型隨機(jī)變量,其概率密度為,定理,其中,(, )是y=g(x)的值域.,2020/7/29,設(shè)(X,Y)為離散型隨機(jī)變量，,Z=g(X,Y)為一維離散型隨機(jī)變量.若對(duì)于不同的(xi,yj),g (xi,yj)的值互不相同,則Z的分布律為,若對(duì)于不同的(xi,yj), g(xi,yj)有相同的值,則應(yīng)取這些相同值對(duì)應(yīng)的概率之和。,二維隨機(jī)變量函數(shù)的分布離散型,2020/7/29,設(shè)(X,Y)為連續(xù)型隨機(jī)變量，聯(lián)合概率密度為f (x,y)，,Z=g(X,Y)為一維連續(xù)型隨機(jī)

17、變量，Z的分布函數(shù)為,二維隨機(jī)變量函數(shù)的分布連續(xù)型,然后將二重積分化為累次積分計(jì)算，再對(duì)FZ(z)求導(dǎo)得到概率密度fZ(z)。這也就是再次應(yīng)用分布函數(shù)法解決隨機(jī)變量函數(shù)的分布。,2020/7/29,x+y=z,解:,二維隨機(jī)變量函數(shù)的分布 Z=X+Y,2020/7/29,若X、Y獨(dú)立,2020/7/29,一、數(shù)學(xué)期望,1.3 隨機(jī)變量的數(shù)字特征,數(shù)學(xué)期望的定義離散型,設(shè)X是離散型隨機(jī)變量，它的分布律是:,為X的數(shù)學(xué)期望.,2020/7/29,設(shè)X是連續(xù)型隨機(jī)變量，其密度函數(shù)為 f (x),如果,絕對(duì)收斂,則定義X的數(shù)學(xué)期望為,數(shù)學(xué)期望的定義連續(xù)型,2020/7/29,設(shè)Y是隨機(jī)變量X的連續(xù)函數(shù)

18、，Y=g(X)，則,當(dāng)X為離散型時(shí)，P(X= xk)=pk ; 當(dāng)X為連續(xù)型時(shí)，X的密度函數(shù)為f (x).,隨機(jī)變量函數(shù)的數(shù)學(xué)期望,2020/7/29,設(shè)(X,Y)是二維隨機(jī)變量，Z=g(X,Y)，則,隨機(jī)變量函數(shù)的數(shù)學(xué)期望,2020/7/29,1. E(aX+b)=aE(X)+b;,2. E(X+Y) = E(X)+E(Y);,3. 設(shè)X、Y相互獨(dú)立，則 E(XY)=E(X)E(Y)。,E(aX)=aE(X),E(b)=b,數(shù)學(xué)期望的性質(zhì),2020/7/29,D(X)=E(X2)-E(X)2,二、方差,方差的定義,2020/7/29,1. D(aX+b)=a2D(X) ;,D(aX)=a2D

19、(X),D(b)=0,D(-X)= D(X),方差的性質(zhì),2020/7/29,2.若X、Y相互獨(dú)立,D(X+Y) = D(X)+D(Y);,方差的性質(zhì),2020/7/29,3.切比雪夫不等式,設(shè)隨機(jī)變量X有數(shù)學(xué)期望和方差2，則對(duì)于任給0,有,方差的性質(zhì),2020/7/29,X的標(biāo)準(zhǔn)化隨機(jī)變量,E(X*)=0, D(X*)=1,三、隨機(jī)變量“標(biāo)準(zhǔn)化”及矩,隨機(jī)變量“標(biāo)準(zhǔn)化”,2020/7/29,E(Xk)X的k階原點(diǎn)矩,E(X-E(X)kX的k階中心矩,E(X)X的1階原點(diǎn)矩,D(X) X的2階中心矩,矩,2020/7/29,若X 0-1分布，那么E(X)=p， D(X)=p(1-p);,若X

20、B(n,p)，那么E(X)=np，D(X)= np(1-p);,若X P()，那么E(X)=，D(X)=;,若X G(p)，那么E(X)=1/p，D(X)=(1-p)/p2.,四、常見分布的數(shù)學(xué)期望與方差,2020/7/29,若X E(), 那么E(X)=1/, D(X)=1/2;,若X Ua,b, 那么E(X)=(a+b)/2, D(X)=(b-a)2/12;,若X N(,2), 那么E(X) =, D(X) =2.,2020/7/29,設(shè)(X,Y)為二維隨機(jī)變量，若,E X-E(X)Y-E(Y) ,存在，則稱其為X和Y的協(xié)方差，記為cov(X,Y)。,五、協(xié)方差與相關(guān)系數(shù),定義協(xié)方差,20

21、20/7/29,為隨機(jī)變量X和Y的相關(guān)系數(shù)。,設(shè)D(X)0, D(Y)0,稱,定義相關(guān)系數(shù),2020/7/29,3 cov(X1+X2,Y)= cov(X1,Y) + cov(X2,Y),1 cov(X,Y)= cov(Y,X),2 cov(aX,bY) = ab cov(X,Y) a,b是常數(shù),性質(zhì),2020/7/29,六、多維隨機(jī)變量的數(shù)字特征,定義數(shù)學(xué)期望,設(shè) 為p維隨機(jī)變量，E(Xi)是第i個(gè)隨機(jī)變量的數(shù)學(xué)期望（或均值）(i=1,2,p)，則稱,為p維隨機(jī)變量x的數(shù)學(xué)期望(或均值向量).,2020/7/29,為x與y的協(xié)方差陣.,設(shè) 為p維隨機(jī)變量，設(shè) 為q維隨機(jī)變量， 是第xi與yj的協(xié)方差，則稱,定義協(xié)方差陣,2020/7/29,為x的方差陣.,設(shè) 為p維隨機(jī)變量，則稱,定義方差陣,2020/7/29,設(shè)x與y是多維隨機(jī)變量，A與B是常數(shù)矩陣，c為常數(shù)向量，則有,均值向量、協(xié)方差陣和方差陣的性質(zhì),2020/7/29,一、隨