概率論-考研講義筆記

?隨機事件與概率

.概率論基本概念

?隨機試驗

?樣本空間(集合)、樣本點

?隨機事件：樣本空間的子集

?事件間的關(guān)系

?包含：A發(fā)發(fā)生一定導致B發(fā)生，則B包含A

?相等：A=B,A包含B,B包含A

?互斥：AB不可能同時發(fā)生，ACIB=0

?對立一定互斥，互斥不一定對立

?事件的運算

?并：A、B至少發(fā)生一個

?交：A、B同時發(fā)生

?差：A-B,A發(fā)生B不發(fā)生

?對立事件：A不發(fā)生

?德摩根律，A-B=A-AB=AB/差變交

?概率

?公理化定義

?非負性

?規(guī)范性

?可列可加性(互不相容時)

■崛

?P(A-R)=P(A)-P(AR)

?若AuB,則P(A)WP(B)

?P(AUB)=P(A)+P(B)-P(AB)

?□(□□DU□)=□(□)-□(□)+□(□)-□(□□)-□(□□)-□；□□)+□(□□□),推廣

?Boole不等式:(UnionBound)(非互不相容的事件集)兩種方法證明

p(u⑷加pg：

?古典概型

?特點：樣本空間的元素只有有限個;每個樣本點發(fā)生的可能性相同

?定義：P(A);A包含樣本點數(shù)/Q包含樣本點數(shù)=(|A|)/(|Q|)

?典型例題

?男n女m,圍成一圈，女生互不相鄰的概率？

'"N(〃+M!―

?抽簽原理

?隨機取數(shù)(乘積能被10整除)：分解成兩個事件的交——至少一個偶數(shù)，至少一個5

?取即釘：利用巨斥性

?幾何概型

?特點：樣本空間無限性；等可能性

?定義：口(口)=□的幾何測度/□的幾何測度=(□(□))/(□(□))

?典型例題

?約會問題：0<=x,y<=60,|x-y|<=15,面積

?蒲豐投針

?條件概率

?定義：□(□!□)=□(□□)/□(□)

?本質(zhì)：縮減的樣本空間

?乘法公式：

?□(□□)=□(□)□(□!□),□(□□)=□(□)□(□!□),

?推廣到多個事件：若口■口□□???□(□-□))>□,則口(□口

□□)=□(□□)□(□□!□□)??□(□□■□(□-□))

?全概率公式(求結(jié)果發(fā)生的概率(即求□(□)))

設(shè)備*2，…,41為樣本空間n的一個劃分，P(4*)>0,k=l,2…n,則有

P(B)=E￡=|P(4&)P(8|4).

?應用：推遲決定原則

?貝葉斯公式：(已知事件□發(fā)生，求□由第□個原因引起的概率(即求口(□口|口)))

設(shè)AI，A2，…,4n為樣本空間。的一個劃分，P(4)>0,1=1,2，…,幾則

=P(4)P(BH)

'E；=]P(4/)P田修)

?應用：患肝癌概率，三囚犯問題，三門問題

?獨立性：P(AB)=P(A)P(B)

?性質(zhì)：P(B|A)=P(B),概率為0或1的事件與任意事件獨立，AA與B,B，都相互獨立

?獨立與互不相容的關(guān)系：(P(A)、P(B)均大于0)若A、B相互獨立，則不可能互不相容；若A、

B互不相容，則不可能相互獨立(P(A)P(B)>0)

?n個事件的獨立性：n個事件獨立=>其中任意k個事件獨立，反之不成立

?分組獨立性：

□例：設(shè)勺，…,48相互駕J則

41U42,43A4U45，46-^7?^8

相互獨立。

?獨立事件至少發(fā)生一次的概率：

若41dz，?-4相互獨立，則

P(U34)=1-P(五)哂)…咽).

游別地，若P(4)=p/=1,2…n,W

P(U%4)=1-(1-pV-1,當n"?8

?應用：系統(tǒng)可靠性，矩陣乘法驗證

?離散型隨機變量

?隨機變量

?定義：把口中的每一個樣本點□與一個實數(shù)□(口)相對應，稱實值函數(shù)□:口一口為隨機變量，隨機

變量在某范圍的取值表示隨機事件

?Y=g(X)的分布：合并相同項

?二維離散型隨機變量(X,Y)

?聯(lián)合分布律:□□□=□(□=□□,□=□□)(歹I」表)

?邊緣分布律：P{X=xi}=Pi-ZP(Y=yj)=Pj

?兩個離散型隨機變量的獨立性：對所有x,y,□(□=□,□=□)=□(□=□)□(□=□),則X,Y獨立

?推廣：多個離散型隨機變量的獨立性：對任意取值的xl，…,xn,P(Xl=xl，…,Xn=xn)=P(X1

=xl)...P(Xn=xn)(只要一個公式)

?期望

?定義

設(shè)x為離散型版機變量，分布律為

P(X=X1)=p(,i=1,2,...

若級數(shù)Eti為P,絕對收斂，則體級數(shù)工之為P,的和為x的數(shù)學期里，記為E(X),即

若級數(shù)EZiMlP,發(fā)散，則稱X的數(shù)學期望不存在

?有4個盒子，編號為1,234?，F(xiàn)將3個球隨機放入4只盒子。用口表示有球盒子的最小號碼，

求□(口).

?隨機變量函數(shù)的期望：

□￡(y)=E(/(X))=左/(勺)p(x=勺)=￡/a)Pi

?期望的線性性質(zhì)：(如何證明*)(不依賴于獨立性)

?例：猴子打字

?fE(f(x))!=f(E(x)),如E[xA2]>=E[x]A2

IJensen不等式：設(shè)f為下凸函數(shù)，則E[f(x)]>=f(E[x])

?幾個典型的離散型隨機變量

?0-1分布(伯努利試驗)：隨機試驗只有兩個結(jié)果：A與A：A發(fā)生則X=1,否則X=0,X為

指示變量

?期望：E[X]=p

?方差：D(X)=p(l-p)

?二項分布(n重伯努利試驗,每次實驗結(jié)果相互獨立，X為n次試驗中A發(fā)生的次數(shù))：

?定義：記為X~B(rip)

P(X=i)=C)pf(l-p尸,i=0,1，…,n

?期望：E(x)=np(證明：公式*/期望的線性性質(zhì))

?二項式定理：

n

r=0

?方差：D(X)=npQ-p)(由0-1分布方差相加而來)

?二項分布的最大值(解法*)：(n+l)p-l<=kO<

?泊松近似公式：(n>

(泊松定理)設(shè)〃PnT〃>0)為常數(shù)，則對于任意固定的正整數(shù)有

圾O(1—Pn尸=看"

?泊松分布(大量實驗中稀有事件出現(xiàn)的次數(shù)，人意義：事件的平均發(fā)生次數(shù))

?定義：(驗證*)

如果隨機變量X的分布律為

乃

P(X=1c)=—(&=0,1,2,...)

其中入>0為常數(shù)，則稱陋機變量X服從參數(shù)為入的泊松分布，記為

x-PW

l+x+2!+3!+4!+-

?期望：E(X)=A(證明*)

?方差：D(X)=A(證明*)

?泊松變量的和：仍是泊松變量：若,口~口(口口)且口，□典，則□+□一□(□□+□□)

(證明*!)

?例：昆蟲卵的分布”(條件概率+全概率公式)

?幾何分布(多重伯努利試驗，不斷重復直至A發(fā)生所需次數(shù))

?定義：

X服從參數(shù)為p的幾何分布，即

P(X=k)=qip(k=1,2,...)

記為

X?G(p).

?無記憶性(證明*,P(X>t)=qAt):假設(shè)已經(jīng)經(jīng)歷了□次失敗，則從當前起直至成功所

需次數(shù)與口無關(guān)。嚴格地，設(shè)口~口(口)，則對于任意自然數(shù)口，口有□(□>□+□|□>□)=□(□>□),

等價地,□(□=□+□|□>□)=□(□=□)

?期望：E(x)=1/p(三種證明方法*:定義(注意求導、負號)/定理/條件期望)

定理：設(shè)？是取值為非負整數(shù)的離散隨機變量，則

E(x)=yP(X>i).

?方差：D(x)=(l-p)/pA2(證明*:兩種算Epe2]方法：定義(求導、錯位相減)/條件期

里+無記憶性)

?典型例題：票券收集問題(調(diào)和級數(shù)H(n)=lnn+0(l)),快速排序比較次數(shù)X的期望

?條件期望(常結(jié)合無記憶性)

?條件分布(某事件A發(fā)生的條件下X的分布)：P(X=x|A)

?條件期望

在事件4(P(4)>0)的條件下，隨機變量X的條件期望可定義為

E[X\A\=\xP(X=x\A)

X

□E[x\Y=y]=Y.XXP(X=XIr=y)

?全期望公式(證明*)

□對于隨機變量X和Y,

E[X]=^P(Y=y)E\X\Y=y]

y

?應用：證明幾何分布的期望(按第一次事件是否發(fā)生分情況，利用無記憶性)

?條件期望定義的隨機變量：f（Y）;

?性質(zhì)：E[E[X|Y]]=E[X]（證明*,用全期望公式）

?應用：分支過程（遞歸式）

?方差

?馬爾可夫不等式（證明*，引入變量I<=x/a）只知道期望，且取值非負時使用，P（X>=cE[x]）

<=1/c

設(shè)隨機變量x非負，則對任意。>0,

￡（X）

P（X>a）<

a

?方差（反應數(shù)據(jù)的離散程度）

?定義：D(X)=E[(X-E[X])A2]

?簡便計算：D（X）=E[X八2]-E兇人2

?性質(zhì)：D(c),O,D(cX)=cA2D(X),D(-X)=D(X)(無線性性質(zhì))

?協(xié)方差

?定義：隨機變量口和口間的協(xié)方差為

?口（口±口）=口（口）+口（口）±口口口口（口,口）（證明）

?性質(zhì)

?cov(X,c)=0

?cov(aX,bY)=ab-cov(X,Y)

?cov(Xl+X2,Y)=cov(Xl,Y)+cov(X2,Y)

?若X與Y獨立，則cov(X,Y)=0(反之不成立)，即E[XY]=E[X]E[Y],D(X+Y)=D(X-

Y)=D(X)+D(Y)

?隨機變量和的方差

對于有限個陋機變量Xi，X2，…,xn,

咆:產(chǎn)）工0(%)+2Wcov(M，X/)

特別地，若，…,X“兩兩獨立，則

?切比雪夫不等式（證明*：利用馬爾可夫）

對于任意a>0,

P(|X-E[X]|>a)<^

?例：拋硬幣

.連續(xù)型隨機變量

.一維連續(xù)型隨機變量

?分布函數(shù)

?定義：F(x)=P(X<=x)

?P(xl<=X<=x2)=F(x2)-F(xl)

?性質(zhì)(反之，任一有下列三個性質(zhì)的函數(shù)都是某隨機變量的分布函數(shù))

?單調(diào)不減(證明)

?F(-oo)=0,F(+oo)=1

?F(x)是右連續(xù)的(左閉右開)

1-------------

P1+P2+P3-------

--------

Pl-----------

---------------1——'-----------'------------X

.V]-----------工3M

?連續(xù)型隨機變量

?定義

設(shè)X為系機變量，F(xiàn)(x)為X的分布函數(shù)，若存在非負函數(shù)p(x),使對于任意實數(shù)x有

「(*)=(P?)dt

/.8

劇稱X為連續(xù)型掩機變量，其中p(x)稱為X的概率密度函數(shù)，簡稱宙度函數(shù)。

?性質(zhì)

?對任意X,p(x)>0

?J(-oo,+oo)p(x)dx=1

?F(x)是連續(xù)函數(shù)

?P(xl<=X<=x2)=F(x2)-F(xl)=f(xl,x2)p(x)dx

?P(x=a)=0

?若P(x)在點x處連續(xù)，則F(x),=p(x)

?連續(xù)型隨機變量函數(shù)的分布計算

?分布函數(shù)法

先求y=g(X)的分布函數(shù)

戶心)=P(Y<y)=P(g(x)<y)=fPxMdx

Jx:q(M)Wy

y的密度函數(shù)PY(y)=4(y)

?定理(繞過積分)

及牌R丈ftx的，良弟歐力

?心a<x<b

W⑶］。Mt

(。可為?8??弓力8%管施?y-0(x)在(o.3大處可??尺?'(幻假大干。(或植小于6?f,*桂軍曹電力

西⑺,師?、俅á?口073

。Mt

Mt?-muit(郡40?。9,).，-1110X1,9).09)).

?聯(lián)合分布函數(shù)

?定義：F(x,y)=P(X<x,Y<y)(幾何意義：無窮矩形)

?性質(zhì)

?F(x,y)對每個變量單增不減

?F(-oo,y)=0,F(0,-co)=0,F(-oo,-co)=0,F(+oo,+oo)=1

?F(x,y)關(guān)于每個變量右連續(xù)

?邊緣分布函數(shù):FX(x)=F(x,+oo)=P(X<=x),FY(y)=F(+oo,y)=P(Y<=y)

?隨機變量的獨立性

?定義：對任意xyP(X<=x,Y<=y)=P(X<=x)P(Y<=y)<=>F(xzy)=FX(x)FY(y)f則隨機

變量X,Y相互獨立

?定理：若X,Y獨立，則f(X),g(Y)也獨立

?期望(絕對收斂則存在)

r+00

E(X)=Ixp(x)dx

J—g

?性質(zhì)

類似于離散型，連續(xù)型7.期望同樣具有線性性

質(zhì)

□X連續(xù)型，密度函數(shù)為p(x),令丫=g(X)(g(x)

連續(xù))?若。：gCOpCOd工絕對收斂，則

E(y)=E[g(X)]=虞gO)pO)d筋

口類似地，XI連續(xù)型,聯(lián)合密度為p(Xy),則

E(Z)=E[g(X")]

r+OO,+8

=IIg(xty)p(xty)dxdy

J-8J-8

?方差、協(xié)方差：同連續(xù)型

?二維連續(xù)型隨機變量

?定義

對于二維禁機變*(X,y)的分布函數(shù)F(x,y),如果存在非負而數(shù)P(x,y),使得時于任意的X7有

F(")=(Ip(u.v)dudv

J—CDJ.CD

則稱(x,y)是二維連埃型總機支*,由數(shù)p(*,y)稱為(xi)的聯(lián)合級率密度由敦，簡稱概率由度.

■蜩

?P(X,y)>=0

?f(-oo,+oo)J(-oo,+co)p(x,y)dxdy=F(+oo,+oo)=1

若p@，y)在點(%y)連續(xù)，則有

。2尸(")

dxdy=p(xy).

設(shè)G是平面上的一個區(qū)域，點(x,y)落在G中的概率為

?((X,Y)wG)=l^p(xty)dxdy

?邊緣密度：已知聯(lián)合密度p(x,y),求X,Y的密度函數(shù)

,+8,+8

PxW=F'XM=Ip(x,y)dy,pr(y)=F》(y)=Ip(x,y)d4

J一8)一8

邊緣分布函數(shù)與邊緣密度函數(shù)的關(guān)系

G(X)=[Px(戈)此K(P)=J：P1(切力

?二維隨機變量函數(shù)的分布：已知p(x,y),求Z=g(X,Y)的概率密度

?分布函數(shù)法

允氽Z-g(M>9約分布的象

Fz(z)=P(Z<z)=P(g(X,Y)<z)=jjpCx.y'idxdy,DtS{(x,y)|^(x,y)<z]

畀求Z的密度禽*PXD&Q)

?卷積公式(Z=x+Y)

卷積公式

若x,y相互獨立，則

Pz(Z)=L"x(X)P>(Z-幻公

或Pz⑵=J「Px(Z-『)Py(『)如

?不獨立時

,z(z)=Lp(x^-x)dx

或由Fx(z)=J二甸=p(x,y)dx

類似得：0z(z)=J：P(z-y,y)dy

?極大極小分布

設(shè)Xi，…,％,是n個相互獨立的幀機變量，它＜1的分布函數(shù)分別為尸M(X)」=1，…,n則

。M=m產(chǎn)為的分布函數(shù)為F?(z)=Fx,(z)…也㈤

oN=mjnXf的分布由數(shù)為FN(Z)=1-[l-Fx/z)]…[1-Fx.(z)]

特別地，當X]…,X”獨立同分布時

oFM=]F(z)F

。Fw(z)=1-(1-F(z)]"

?二維隨機變量條件分布率

?二維連續(xù)型隨機變量獨立的條件：p(x,y)=pX(x)pY(y)

?條件分布、條件密度

在x=x條件下，y的條件分布為

尸wx=x(y)=尸(丫4y|x=x)=

-00PxW

y條件密度為Py|x=x(y)=甯，也記為PY\XMX)

□同理，在y=y條件下，x的條件分布為

XP(u,y)

Px\Y=yM=P(X<x\Y=y)=

-00py(y)

x條件密度為Px\Y=yM=窩,也記為Px|"X|y)

?乘法公式

p("y)=Px(%)Py|x(y|x)，Px(%)>0

p(%,y)=p『(y)px|y3y),py(y)>o

?全概率公式

r+co「+8

PxW=p(xty)dy=Px\Y(x\y)pYWdy

-co-co

p+00「+8

Pr(y)=p(x,y)dx=PY\x(yWpxWdx

?/-on-on

?典型連續(xù)型隨機變量的分布

?均勻分布

?密度函數(shù)

定義設(shè)連續(xù)型隨機變量X具有概率密度

i/

一,a<x<b,

P(x)b-Q

0,其它，

則稱X在區(qū)間（%b）區(qū)間上服從均勻分布,

記為X~U（a、b）.

?分布函數(shù)

AX<</,

x-a

尸(x)=?,a<x<b

b-ay

1,x>b.

?期望，方差

E(X)=*（刈=答

?定理(FY(y)<=y)

設(shè)x的分布函數(shù)F（x）嚴格單調(diào)遞增，令y=F（x）,則y~u（0,i）.

設(shè)X?U(a,b),則對于任意a<cWdVb,

c-a

P(X<c\X<d)=--

a—a

?指數(shù)分布

?密度函數(shù)

設(shè)連續(xù)型隨機變量X的概率密度為

Ae~Ax,x>0

PW=0,x<0

其中人為常數(shù)，則稱X服從參數(shù)為2的指數(shù)分布，記為X?￡（入）.

?分布函數(shù)

1-e-Ax,x>0

F(X)=

0,x<0

?期望，方差

設(shè)X?E(2),則E(X)=p0(X)=/

AA

?無記憶性

設(shè)X?E(R,則對于任意實數(shù)s,t>。有

P(X>s+t\X>t)=P(X>s)

?多個指數(shù)分布隨機變量極小值的分布

設(shè)Xi?E(Z),i=l,2，…,71,且相互獨立，令

y=nunXj,則Y?EC)且P(m\nXt=X'=備

?正態(tài)分布

?密度函數(shù)

設(shè)連續(xù)型陸機支量*的物率由度為

P(X)=^1-e--,-8<x<co

其中“,。8>0)為常數(shù)，則徐X根從參數(shù)為的正態(tài)分布(也叫高斯分布)，記為X~N3,O2)

?幾何特征

□當％=〃時，p(%)取得最大值尋

?曲線在□=□士口處有拐點

?當固定□，改變匚大小時，圖形的形狀不變，只是沿著橫軸作平移變換

?當固定□，改變匚大小時，圖形對稱軸不變，但形狀在改變；□越小，圖形越高越陡，反

之圖形越彳氐越緩

?分布函數(shù)

丫1r(J")2

口/(％)=J_8P⑷或=嬴Qe2"dt

?期望，方差(證明r換元，奇函數(shù)，。=1、R=1的正態(tài)分布積分=1)

□設(shè)X?N^t,a2),則E(X)=%D(X)=a2

?標準正態(tài)分布N(0,l)

□標準正態(tài)分布的密度函數(shù)記為*(%)

1_x^

<p(x)=—z=e~~2,-00<X<00

yj2n

標準正態(tài)分布的分布函數(shù)記為0(X)

?性質(zhì)(隨機變量函數(shù)公式證明*)

□設(shè)X?N(〃R2),y=ax+b(aro),則

Y?N(a〃+b,(aa)2)

?一般正態(tài)分布的概率計算

推論

若X?N（〃,a2），則y=一?N（0,1）

?獨立正態(tài)分布隨機變量的和

設(shè)X~~加（〃2。分,且兩者獨立，則Z=X+y~N（〃1++蟾）

?典型二維連續(xù)型隨機變量分布

?二維均勻分布

設(shè)。是平面上的有界區(qū)域，其面積為4,如果二維隨機變量（MY）的密度函數(shù)為

fl

P（4,.=

0,（“）￡。

則稱（XI）服從。上的二維均勻分布。

?二維正態(tài)分布

(x,y)?域內(nèi),P)

?邊緣分布

□設(shè)(x,y)?N(〃I,〃2，吐星p),則

x?N(〃I,說),y?N(〃2,而

]F)2

2<T

即：PxM=ykZnaje1,-00<X<4-0C

1(y-M2)2

Py(y)=—}=-e2.,-00<y<+8

y/2na2

?獨立性:X,Y獨立<=>p=0

?協(xié)方差:cov(X,Y)=polo2,cov(X*,Y*)=p

?相關(guān)系數(shù)

?標準化隨機變量

X.=X-E(X)

~yfW

□E(X')=0

□D(X*)=1

?相關(guān)系數(shù)

_cov(x,y)

Pxv―J“(X)D(y)

□記X,y的標準化隨機變量為X*,F,則有

C0V(X\r)=pXY

?相關(guān)系數(shù)性質(zhì)

?柯西許瓦茲不等式

［E（xr）］2<E（X2）E“2）

\PXY\<I,即［cov（X,y）］2<D（x）D（y）

IPxyl=1當且僅當存在常數(shù)使得

P[Y=aX+b）=1,

即x與y有線性關(guān)系的概率為i。

?不相關(guān)等價定義

X

-p=0

XyXY

y

不-cov（x,y）=o

獨

相

立-E（AT）=￡（Z）￡（y）

關(guān)

一^￡）（x±y）=/）（x）+o（y）

若（x,y）服從二維正態(tài)分布，則

x,y相互獨立ox,y不相關(guān)

?相關(guān)性

?若|口口口|二口,則稱口，口線性相關(guān)

?□□□=□,正相關(guān)

?□□□=-□,負相關(guān)

?□□口表示□與□存在線性關(guān)系的強弱程度。

?|口口口|越大，匚與□線性關(guān)系越強，反之越弱

?|口口口|二口表示口與□不存在線性關(guān)系，稱為不相關(guān)。

?極限理論

?大數(shù)定律（研究隨機變量序列的均值收斂問題）

?實例：如果工件的測量值真值為口，第口次測量值為口口，則{口口}就是一個獨立同分布，均值為口

的隨機變量序列。當□充分大時，□次測量的平均值應該和真值□很接近。大量測量值的算術(shù)平

均值具有穩(wěn)定性，這就是大數(shù)定律的反映。

?依解收斂

設(shè)匕,丫2，…,Yn，…是隨機變量序列，a是一個常數(shù)；若對4意￡>0,有

limP{\Y-a|<e）=1

吁sn

或

limP{|r,,-a|>€）=0

則稱匕）2，…,4，.“依概率收斂于a,記為

p

ynTa

?區(qū)別于數(shù)列的收斂：對于給定的￡,Yn和a的距離可能會大于或等于s,只是當n趨向于

無窮時，這個取值偏差較大的概率將趨于0

?連續(xù)映射定理（依概率收斂的隨機變量的函數(shù)也依概率收斂）（證明）

p

匚若函數(shù)g（?）在點Q處連續(xù)，則

p

g（X“）Tg（a）

若（二公函數(shù)g（?Q在點（a,b）處連續(xù)，則

p

。（入叱切-貝珥》）

pP

口例：*"+4-*僅+瓦XnYn-^ab

?大數(shù)定律

?定義：隨機變量的平均值依概率趨向于它們數(shù)學期望的平均值.

設(shè)X1，…,Xm…是隨機變量序列，對任意￡>0,有

!吧喂"一/外<￡卜1.

或罌尸除N'=0,

1〃P1n

即L￡EXk，

〃hl〃hl

則稱｛X〃｝服從大數(shù)定律。

?馬爾可夫大數(shù)定律（利用切比雪夫不等式）

定理：

設(shè)隨機序列可｝滿足20（2￡=1Xk）To5T8）,

則5?｝服從大數(shù)定律.

?切比雪夫大數(shù)定律（兩兩互不相關(guān)）

定理：

設(shè)｛X』為兩兩互不相關(guān)的發(fā)機變量序列，且存在常敷&使用對每個總機交員*卜。（**）4。"=1.2…”

則5/展從大數(shù)定體.

?獨立同分布大數(shù)定律（切比雪夫大數(shù)定律的特殊情形）

定理：

設(shè)｛X』為獨立同分布的總機丈量序列，其E（X*）=",0（**）=/均存在，時｛*”｝及從大斂定律，亦即

匯…

?該定理條件□（口口）=□人口可以省去，即只需期望存在。（被稱為辛欽大數(shù)定律）

?伯努利大數(shù)定律（頻率穩(wěn)定性的嚴格數(shù)學定義）

定理：設(shè)n,為n直倍身利優(yōu)齡中事件A發(fā)生的次畋.記p?P(Q.則時任意的*>0.W

01

S^P(I?-P|-*(I?--

?中心'極限定理(隨機變量和的正態(tài)分布)

?定義(Zn的極限分布為標準正態(tài)分布)

設(shè)｛X/為獨立總機變量序列，且E(X?),D(X*)存在，令Z”為E，]X&標壟化的覽機變量，即

Z=?=/上一比?￡(x&)

J"=1。(一

著對任意X,

1fx_tl

limP(Z?<x)=-=e2dt=4>(x)

n-8\Z2nJ.n

則稱｛XQ服從中心極隈定理.

?獨立同分布情形中心、榔艮定理(本質(zhì)上WXk服從正態(tài)分布,從而標準化后服從標準正態(tài)分布)

定理(林德貝格?勒維中心極限定理)：

設(shè)X1，…,又中…獨立同分布，且

E(XQ=D(Xk)=晶(k=1,2,...)

則｛Xn｝服從中心極限定理，即

X

1.D?^k=lk-\,X

hmP----------------<x]=4>(x)

〃T81y/n(yj

?對于獨立同分布的隨機變量序列｛□_□｝

?大數(shù)定律描述了其均值(或和)在口-8的趨勢

?中心極限定理則能給出給定n與x時的具體概率近似(也可以知道概率與x,求n;或者

知道概率與n,求x)

?伯努利情形中心極限定理

定理(德莫佛?拉普拉斯中心極限定理)：

設(shè)“是n重伯努利試驗中事件4發(fā)生的次數(shù)，記

p=P(A),q=1-p,則對任意無ER,有

(H-np

hmP-n,，<x=4>(x)

n—8Iyjnpq

?推論(n較大時二項分布的概率計算方法)n較大時，.n~N(np,np(l-p))

設(shè)〃“~8(n,p),則當n充分大時，有

a-npu—npb-np

n一中

(>JnPQyfnPQxfnpQ

?用頻率估計概率時誤差的估計

?統(tǒng)計量與抽樣分布

?基本概念

?總體、個體

?總體：研究對象的某項數(shù)量指標的值的全體。

?個體：總體中的每個元素為個體。

?研究對象的數(shù)量指標□的取值在客觀上有一定的分布,因此，可將其看做隨機變量，它的分

布稱為總體分布。

?樣本

?樣本的二重性：

?就一次具體觀察而言，樣本值是確定的數(shù)

?在不同的抽樣下，樣本值會發(fā)生變化，因此可看做是隨機變量

?樣本定義

定義：設(shè)隨機變量X的分布函數(shù)是F（M,若X],…，X〃

是具有同一分布函數(shù)F的相互獨立的隨機變量，

則稱〃為從總體X中得到的容量為n的簡

單隨機樣本，簡稱為樣本，其觀察值.￡，???，.，

稱為樣本值。

?特點

?代表性：樣本的每個分量口口與總體口具有相同的分布

?獨立'生:，…,□□相互獨立。

?樣本聯(lián)合分布/密度

由定義知：若x，...,x“為x的一個樣本，則X，…,x.

的聯(lián)合分布函數(shù)為：

n

尸（天,.../〃）二口/（七）

i=l

設(shè)X的密度為p（x）,則X\,…,X"的聯(lián)合概率

密度為：

P*（X],…,x〃）=np（xj

；=i

?統(tǒng)計量（是隨機變量）

定義：設(shè)X],…,X,為來自總體X的一個樣本，

g（X”...,X.）是X“...,X”的函數(shù),若g是連續(xù)

函數(shù)，且g中不含任何扭fl參數(shù)；

則稱g（乂，…,X〃）是一個統(tǒng)計量。

設(shè)項,…,x“是（X”…，X"）的樣本值o

則稱雙是雙X1,…，X”）的觀察值。

?常用統(tǒng)計量

?樣本均值

又=I於"

n1-1

?樣本方差

n/=!ni=l

?修正樣本方差

鞏=去部田

?二者關(guān)系

國=（〃-1）53，

J〃一1?

?樣本標準差

s“二啊L田

?樣本k階原點矩

樣本A階（原點）矩：A=l,2,...

?樣本k階中心距

樣本〃階中心矩：紇=1￡（毛-文）Ak=

n1=1

?結(jié)論1:樣本均值的均值和方差

2

￡%=//,DX=—.

n

?正態(tài)總體的抽樣分布

?正態(tài)總體樣本的線性函數(shù)的分布

?定義

設(shè)Xi，X”???，X〃是來自正態(tài)總體X?N(“y2)

的樣本，則統(tǒng)計量U=%Xi+〃2X2+…蟲名

也服從正態(tài)分布：

U~N(迂%,，/；).

/=1/=1

?特別地，若取a=l/n,貝!JU=X--N(p,o2/ni

?標準正態(tài)分布的上a分位點

設(shè)X?N(O,l),Ovavl,稱滿足

P(X>ua)=a

的點〃a為X的上a分位點

?X吩布(獨立+N(O,1)!)

?定義

定義：設(shè)天,爸，，匕相互獨立，都服從正態(tài)

分布N(0,1),則稱隨機變量：

/=X*X22+..?+X.2

所服從的分布為自由度為〃的/分布.

i己為/?/(〃),

?性質(zhì)

?1、可加性:設(shè)Xl-x2(nD,X2~x2(n2),且XI,X2相互獨立,則X1+X2-x2(nl+n2)

?2、若X-x2(n),則E(X)=n,D(X)=2n.(證明)

0k=奇

?X?分布的上a分位點

對于給定的。，稱滿足條件

的點4為/（〃）的上a分位點，記為：/（〃）

?t分布

?定義（二者獨立！）

設(shè)x?N（O,I）,丫?/2（〃），且丫，丫獨立，

則稱隨機變量T=/-服從自由度為〃的t

分布，記為T~

?t分布的上a分位點

對于給定的〃，OV〃V1,稱滿足條件

P{T>fa（n）}=a

的點%（〃）為“〃）分布的上a分位點.

/分布的上a分位點的性質(zhì)：

（式〃）=-/式〃）

?F分布

?定義（獨立?。?/p>

設(shè)^~/（〃）V?/（%）,且獨立，則稱

隨機變量尸=的服從自由度為（%,%）的尸分

V/〃2

布,記為F?F（nl9n2）.

?F分布的上a分位點

對于給定的a,0<a<1,稱滿足條件

P｛尸>"（%，%）｝=。

的點尸a（巧,%）為尸（勺,%）分布的上a分位點如圖所示.

若則尸（叫，〃1）?

KY（〃”〃2）=^T^―7

乙（〃2，〃1）

?關(guān)于正態(tài)總體抽樣分布的四個定理

?L樣本均值的分布（X、N（|j,o2/n））

設(shè)X],X”…,X〃是來自正態(tài)總體X?用心？）

的樣本，X=-YXI則：

y

?N（0,1）.

?2、樣本方差的分布（X2分布）（獨立*）

設(shè)A…X是來自正態(tài)總體N（b2）的樣本，

區(qū)和S：分別為樣本均值和樣本方差，則有

（1）弊?/（I）（或：5―呼"?/（…）、

（2）豕與S：獨立.

?3、由1和2推論（t分布）

定理3設(shè)ApAi-Y〃是來自正態(tài)總體的樣本，

區(qū)和S；為樣本均值和樣本方差，則有

又--?〃_1）?

?4、兩正態(tài)總體，樣本方差比（S12/S22）（F分布）、樣本均值差—V）的分布（t分

布）（證明*）

設(shè)X?NW/；）,y?N（〃2，b；）,且X與】獨立，

XM…,x〃是來自'的樣本心來自I的樣本,

工和「分別是這兩個樣本的樣本均值，S；和￡分別是

是X,Y的修正樣本方差：

則有⑴當空?尸-1,%T）；

（2）當。；=內(nèi)=。2時,

—（〃一〃2）+"2、

-------,-----t（ni+”2—2）,

川一+一

\巧〃2

其中S：=（〃】-21⑶,s.,=,屁.

+〃2-2

.參數(shù)估計

?點估計（構(gòu)造1個統(tǒng)計量）

?矩估計

?原則：以樣本矩作為總體矩的估計，從而得到參數(shù)的估計量。

?矩的定義

?k階原點矩：E[X「k]

?k階中心距：E[（X-EX『k]

?期望是1階矩,方差是2階中心距

?矩估計定義

設(shè)總體X的分布類型已知，X的分布函數(shù)為

其中,。1，。2…，外為未知參數(shù)?

設(shè)X/,X2,…，X〃為來自總體X的樣本，

若=%“（。1，82,…，。〃）存在（m=1,…，k）

機階樣本矩為4m=:EL1XF(m=1….，k)

(%(81,62,…，％)=4

令

這是包含〃個未知參數(shù)％…,4的方程組，

從中解出方程組的解?！?。

用?！?.分別作為的…，”的估計量,

這一方法稱為矩估計法

這種估計量稱為矩估計量:矩估計量的

觀察值稱為綽估計值。

?方法

?一個未知參數(shù)時（用X一代替EX）

1)先求出EX=4(6)

2)解出。=g(EX)

3)為矩估計量。

ni=l

?兩個未知參數(shù)時

1)計算E￥,EY2E￥=〃i(q,q)

EX2=

2)解出呢“，用EY、ET表示

4=，（EX,EX2）

〔q=/（EX,EX2）

用￡’弋替EX,用屹尤代替EX2,有

3)〃，■】

生即為配4的矩估計量。

A—1

%=/人元-?;）

力1-1

?注意：Sn有兩種形式！

2

-ix；-X=S；t

ni=i

?結(jié)論

無論總體X服從何種分布，總體均值

EX=內(nèi)總體方差DX=?作為未知參數(shù)，

其矩估計量一定是樣本均值和樣本方差,

即：1〃

2=￡于=—方可一燈

?極大似然估計

?原則：選取估計值使得觀測值出現(xiàn)的概率最大

?離散情況：似然函數(shù)

A/=i

￡（xj,x〃;6）=max￡（X1,