1、概率論與數(shù)理統(tǒng)計(jì)復(fù)習(xí)第一章 概率論的基本概念一.基本概念隨機(jī)試驗(yàn)e:(1)可以在相同的條件下重復(fù)地進(jìn)行;(2)每次試驗(yàn)的可能結(jié)果不止一個(gè),并且能事先明確試驗(yàn)的所有可能結(jié)果;(3)進(jìn)行一次試驗(yàn)之前不能確定哪一個(gè)結(jié)果會出現(xiàn).樣本空間s: e的所有可能結(jié)果組成的集合. 樣本點(diǎn)(基本事件):e的每個(gè)結(jié)果.隨機(jī)事件(事件):樣本空間s的子集.必然事件(s):每次試驗(yàn)中一定發(fā)生的事件. 不可能事件(f):每次試驗(yàn)中一定不會發(fā)生的事件.二. 事件間的關(guān)系和運(yùn)算1.ab(事件b包含事件a )事件a發(fā)生必然導(dǎo)致事件b發(fā)生.2.ab(和事件)事件a與b至少有一個(gè)發(fā)生.3. ab=ab(積事件)事件a與b同時(shí)發(fā)生.

2、4. a-b(差事件)事件a發(fā)生而b不發(fā)生.5. ab=f (a與b互不相容或互斥)事件a與b不能同時(shí)發(fā)生.6. ab=f且ab=s (a與b互為逆事件或?qū)α⑹录?表示一次試驗(yàn)中a與b必有一個(gè)且僅有一個(gè)發(fā)生. b=a, a=b .運(yùn)算規(guī)則 交換律 結(jié)合律 分配律 德摩根律 三. 概率的定義與性質(zhì)1.定義 對于e的每一事件a賦予一個(gè)實(shí)數(shù),記為p(a),稱為事件a的概率.(1)非負(fù)性 p(a)0 ; (2)歸一性或規(guī)范性 p(s)=1 ;(3)可列可加性 對于兩兩互不相容的事件a1,a2,(a iaj=, ij, i,j=1,2,),p(a1a2)=p( a1)+p(a2)+2.性質(zhì) (1) p(

3、f) = 0 , 注意: a為不可能事件 p(a)=0 . (2)有限可加性 對于n個(gè)兩兩互不相容的事件a1,a2,a n ,p(a1a2a n)=p(a1)+p(a2)+p(a n) (有限可加性與可列可加性合稱加法定理)(3)若ab, 則p(a)p(b), p(b-a)=p(b)-p(a) . (4)對于任一事件a, p(a)1, p(a)=1-p(a) .(5)廣義加法定理 對于任意二事件a,b ,p(ab)=p(a)+p(b)-p(ab) .對于任意n個(gè)事件a1,a2,a n+(-1)n-1p(a1a2a n)四.等可能(古典)概型1.定義 如果試驗(yàn)e滿足:(1)樣本空間的元素只有有限

4、個(gè),即s=e1,e2,e n;(2)每一個(gè)基本事件的概率相等,即p(e1)=p(e2)= p(e n ).則稱試驗(yàn)e所對應(yīng)的概率模型為等可能(古典)概型.2.計(jì)算公式 p(a)=k / n 其中k是a中包含的基本事件數(shù), n是s中包含的基本事件總數(shù).五.條件概率1.定義 事件a發(fā)生的條件下事件b發(fā)生的條件概率p(b|a)=p(ab) / p(a) ( p(a)0).2.乘法定理 p(ab)=p(a) p (b|a) (p(a)0); p(ab)=p(b) p (a|b) (p(b)0). p(a1a2a n)=p(a1)p(a2|a1)p(a3|a1a2)p(a n|a1a2a n-1) (n

5、2, p(a1a2a n-1) 0)3. b1,b2,b n是樣本空間s的一個(gè)劃分(bibj=,ij,i,j=1,2,n, b1b2b n=s) ,則當(dāng)p(b i)0時(shí),有全概率公式 p(a)=當(dāng)p(a)0, p(b i)0時(shí),有貝葉斯公式p (bi|a)= . 六.事件的獨(dú)立性 1.兩個(gè)事件a,b,滿足p(ab) = p(a) p(b)時(shí),稱a,b為相互獨(dú)立的事件.(1)兩個(gè)事件a,b相互獨(dú)立 p(b)= p (b|a) .(2)若a與b,a與,與b, ,與中有一對相互獨(dú)立,則另外三對也相互獨(dú)立.2.三個(gè)事件a,b,c滿足p(ab) =p(a) p(b), p(ac)= p(a) p(c),

6、 p(bc)= p(b) p(c),稱a,b,c三事件兩兩相互獨(dú)立. 若再滿足p(abc) =p(a) p(b) p(c),則稱a,b,c三事件相互獨(dú)立.3.n個(gè)事件a1,a2,a n,如果對任意k (1kn),任意1i1i2i kn.有,則稱這n個(gè)事件a1,a2,a n相互獨(dú)立.第二章 隨機(jī)變量及其概率分布一.隨機(jī)變量及其分布函數(shù)1.在隨機(jī)試驗(yàn)e的樣本空間s=e上定義的單值實(shí)值函數(shù)x=x (e)稱為隨機(jī)變量.2.隨機(jī)變量x的分布函數(shù)f(x)=pxx , x是任意實(shí)數(shù). 其性質(zhì)為:(1)0f(x)1 ,f(-)=0,f()=1. (2)f(x)單調(diào)不減,即若x1x2 ,則 f(x1)f(x 2

7、).(3)f(x)右連續(xù),即f(x+0)=f(x). (4)px1xx2=f(x2)-f(x1).二.離散型隨機(jī)變量 (只能取有限個(gè)或可列無限多個(gè)值的隨機(jī)變量)1.離散型隨機(jī)變量的分布律 px= x k= p k (k=1,2,) 也可以列表表示. 其性質(zhì)為:(1)非負(fù)性 0pk1 ; (2)歸一性 .2.離散型隨機(jī)變量的分布函數(shù) f(x)=為階梯函數(shù),它在x=x k (k=1,2,)處具有跳躍點(diǎn),其跳躍值為p k=px=x k .3.三種重要的離散型隨機(jī)變量的分布(1)x(0-1)分布 px=1= p ,px=0=1p (0p1) .(2)xb(n,p)參數(shù)為n,p的二項(xiàng)分布px=k=(k=

8、0,1,2,n) (0p0)三.連續(xù)型隨機(jī)變量1.定義 如果隨機(jī)變量x的分布函數(shù)f(x)可以表示成某一非負(fù)函數(shù)f(x)的積分f(x)=,- x ,則稱x為連續(xù)型隨機(jī)變量,其中f (x)稱為x的概率密度(函數(shù)).2.概率密度的性質(zhì)(1)非負(fù)性 f(x)0 ; (2)歸一性 =1 ;(3) px 10).(3)xn (m,s2 )參數(shù)為m,s的正態(tài)分布 -x0.特別, m=0, s2 =1時(shí),稱x服從標(biāo)準(zhǔn)正態(tài)分布,記為xn (0,1),其概率密度 , 標(biāo)準(zhǔn)正態(tài)分布函數(shù) , f(-x)=1-(x) .若xn (m,s2), 則z=n (0,1), px1z a= pzz a/2= a,則點(diǎn)z a,-

9、z a, z a/ 2分別稱為標(biāo)準(zhǔn)正態(tài)分布的上,下,雙側(cè)a分位點(diǎn). 注意：f(z a)=1-a , z 1- a= -z a.四.隨機(jī)變量x的函數(shù)y= g (x)的分布1.離散型隨機(jī)變量的函數(shù) xx 1 x2 x k p kp 1 p2 p k y=g(x)g(x1) g(x2) g(x k) 若g(x k) (k=1,2,)的值全不相等,則由上表立得y=g(x)的分布律.若g(x k) (k=1,2,)的值有相等的,則應(yīng)將相等的值的概率相加,才能得到y(tǒng)=g(x)的分布律.2.連續(xù)型隨機(jī)變量的函數(shù)若x的概率密度為fx(x),則求其函數(shù)y=g(x)的概率密度fy(y)常用兩種方法：(1)分布函數(shù)

10、法 先求y的分布函數(shù)fy(y)=pyy=pg(x)y=其中k(y)是與g(x)y對應(yīng)的x的可能值x所在的區(qū)間(可能不只一個(gè)),然后對y求導(dǎo)即得fy(y)=fy /(y) .(2)公式法 若g(x)處處可導(dǎo),且恒有g(shù) /(x)0 (或g / (x)0 ),則y=g (x)是連續(xù)型隨機(jī)變量,其概率密度為 其中h(y)是g(x)的反函數(shù) , a= min (g (-),g () b= max (g (-),g () .如果f (x)在有限區(qū)間a,b以外等于零,則 a= min (g (a),g (b) b= max (g (a),g (b) .第三章 二維隨機(jī)變量及其概率分布 一.二維隨機(jī)變量與聯(lián)合

11、分布函數(shù)1.定義 若x和y是定義在樣本空間s上的兩個(gè)隨機(jī)變量,則由它們所組成的向量(x,y)稱為二維隨機(jī)向量或二維隨機(jī)變量.對任意實(shí)數(shù)x,y,二元函數(shù)f(x,y)=pxx,yy稱為(x,y)的(x和y的聯(lián)合)分布函數(shù).2.分布函數(shù)的性質(zhì)(1)f(x,y)分別關(guān)于x和y單調(diào)不減.(2)0f(x,y)1 , f(x,- )=0, f(-,y)=0, f(-,-)=0, f(,)=1 .(3) f(x,y)關(guān)于每個(gè)變量都是右連續(xù)的,即 f(x+0,y)= f(x,y), f(x,y+0)= f(x,y) .(4)對于任意實(shí)數(shù)x 1x 2 , y 1y 2px 1xx 2 , y 1yy 2= f(x

12、2,y2)- f(x2,y1)- f(x1,y2)+ f(x1,y1)二.二維離散型隨機(jī)變量及其聯(lián)合分布律1.定義 若隨機(jī)變量(x,y)只能取有限對或可列無限多對值(x i,y j) (i ,j =1,2, )稱(x,y)為二維離散型隨機(jī)變量.并稱px= x i,y= y j = p i j為(x,y)的聯(lián)合分布律.也可列表表示. 2.性質(zhì)(1)非負(fù)性 0p i j1 . (2)歸一性 . 3. (x,y)的(x和y的聯(lián)合)分布函數(shù)f(x,y)= 三.二維連續(xù)型隨機(jī)變量及其聯(lián)合概率密度 1.定義 如果存在非負(fù)的函數(shù)f (x,y),使對任意的x和y,有f(x,y)= 則稱(x,y)為二維連續(xù)型隨

13、機(jī)變量,稱f(x,y)為(x,y)的(x和y的聯(lián)合)概率密度.2.性質(zhì) (1)非負(fù)性 f (x,y)0 . (2)歸一性 .(3)若f (x,y)在點(diǎn)(x,y)連續(xù),則(4)若g為xoy平面上一個(gè)區(qū)域,則.四.邊緣分布1. (x,y)關(guān)于x的邊緣分布函數(shù) fx (x) = pxx , y= f (x , ) .(x,y)關(guān)于y的邊緣分布函數(shù) fy (y) = px0,則稱px=x i |y=yj 為在y= yj條件下隨機(jī)變量x的條件分布律.同樣,對于固定的i,若px=xi0,則稱py=yj|x=x i 為在x=xi條件下隨機(jī)變量y 的條件分布律.第四章 隨機(jī)變量的數(shù)字特征一.數(shù)學(xué)期望和方差的定

14、義隨機(jī)變量x 離散型隨機(jī)變量 連續(xù)型隨機(jī)變量 分布律px=x i= pi ( i =1,2,) 概率密度f (x)數(shù)學(xué)期望(均值)e(x) (級數(shù)絕對收斂) (積分絕對收斂)方差d(x)=ex-e(x)2 =e(x2)-e(x)2 (級數(shù)絕對收斂) (積分絕對收斂)函數(shù)數(shù)學(xué)期望e(y)=eg(x) (級數(shù)絕對收斂) (積分絕對收斂)標(biāo)準(zhǔn)差s(x)=d(x) .二.數(shù)學(xué)期望與方差的性質(zhì)1. c為為任意常數(shù)時(shí), e(c) = c , e(cx) = ce(x) , d(c) = 0 , d (cx) = c 2 d(x) .2.x,y為任意隨機(jī)變量時(shí), e (xy)=e(x)e(y) .3. x與

15、y相互獨(dú)立時(shí), e(xy)=e(x)e(y) , d(xy)=d(x)+d(y) .4. d(x) = 0 px = c=1 ,c為常數(shù).三.六種重要分布的數(shù)學(xué)期望和方差 e(x) d(x)1.x (0-1)分布px=1= p (0p1) p p (1- p)2.x b (n,p) (0p1) n p n p (1- p)3.x p(l) l l4.x u(a,b) (a+b)/2 (b-a) 2/125.x服從參數(shù)為q的指數(shù)分布 q q26.x n (m,s2) m s2四.矩的概念隨機(jī)變量x的k階(原點(diǎn))矩e(x k ) k=1,2,隨機(jī)變量x的k階中心矩ex-e(x) k隨機(jī)變量x和y的

16、k+l階混合矩e(x ky l) l=1,2,隨機(jī)變量x和y的k+l階混合中心矩ex-e(x) k y-e(y) l 第六章 樣本和抽樣分布一.基本概念總體x即隨機(jī)變量x ; 樣本x1 ,x2 ,x n是與總體同分布且相互獨(dú)立的隨機(jī)變量;樣本值x1 ,x2 ,x n為實(shí)數(shù);n是樣本容量.統(tǒng)計(jì)量是指樣本的不含任何未知參數(shù)的連續(xù)函數(shù).如：樣本均值 樣本方差 樣本標(biāo)準(zhǔn)差s樣本k階矩( k=1,2,) 樣本k階中心矩( k=1,2,)二.抽樣分布 即統(tǒng)計(jì)量的分布1.的分布 不論總體x服從什么分布, e () = e(x) , d () = d(x) / n .特別,若x n (m,s2 ) ,則 n

17、(m, s2 /n) .2.c2分布 (1)定義 若xn (0,1 ) ,則y = c2(n)自由度為n的c2分布.(2)性質(zhì) 若y c2(n),則e(y) = n , d(y) = 2n .若y1 c2(n1) y2 c2(n2) ,則y1+y2 c2(n1 + n2).若x n (m,s2 ), 則 c2(n-1),且與s2相互獨(dú)立. (3)分位點(diǎn) 若y c2(n),0 a 1 ,則滿足 的點(diǎn)分別稱為c2分布的上、下、雙側(cè)a分位點(diǎn). 3. t分布(1)定義 若xn (0,1 ),y c2 (n),且x,y相互獨(dú)立,則t=t(n)自由度為n的t分布.(2)性質(zhì)n時(shí),t分布的極限為標(biāo)準(zhǔn)正態(tài)分布

18、.xn (m,s2 )時(shí), t (n-1) .兩個(gè)正態(tài)總體 相互獨(dú)立的樣本 樣本均值 樣本方差x n (m1,s12 ) 且s12=s22=s2 x1 ,x2 ,x n1 s12y n (m2,s22 ) y1 ,y2 ,y n2 s22則 t (n1+n2-2) , 其中 (3)分位點(diǎn) 若t t (n) ,0 a1 , 則滿足的點(diǎn)分別稱t分布的上、下、雙側(cè)a分位點(diǎn). 注意: t 1- a (n) = - t a (n).4.f分布 (1)定義 若uc2(n1), v c2(n2), 且u,v 相互獨(dú)立,則f =f(n1,n 2)自由度為(n1,n2)的f分布.(2)性質(zhì)(條件同3.(2) f

19、(n1-1,n2-1)(3)分位點(diǎn) 若f f(n1,n2) ,0 a 1,則滿足的點(diǎn)分別稱為f分布的上、下、雙側(cè)a分位點(diǎn). 注意: 第七章 參數(shù)估計(jì)一.點(diǎn)估計(jì) 總體x的分布中有k個(gè)待估參數(shù)q1, q2, qk.x1 ,x2 ,x n是x的一個(gè)樣本, x1 ,x2 ,x n是樣本值.1.矩估計(jì)法先求總體矩解此方程組,得到,以樣本矩al取代總體矩m l ( l=1,2,k)得到矩估計(jì)量,若代入樣本值則得到矩估計(jì)值.2.最大似然估計(jì)法若總體分布形式(可以是分布律或概率密度)為p(x, q1, q2, qk),稱樣本x1 ,x2 ,x n的聯(lián)合分布為似然函數(shù).取使似然函數(shù)達(dá)到最大值的,稱為參數(shù)q1, q2,qk的最大似然估計(jì)值,代入樣本得到最大似然估計(jì)量. 若l(q1, q2, qk)關(guān)于q1, q2, qk可微,則一般可由似然方程組 或 對數(shù)似然方程組 (i