《概率論與數(shù)理統(tǒng)計(jì)》筆記一、課程導(dǎo)讀“概率論與數(shù)理統(tǒng)計(jì)”是研究隨機(jī)現(xiàn)象的規(guī)律性的一門(mén)學(xué)科在自然界，在人們的實(shí)踐活動(dòng)中，所遇到的現(xiàn)象一般可以分為兩類：確定性現(xiàn)象隨機(jī)現(xiàn)象確定性現(xiàn)象在一定的條件下，必然會(huì)出現(xiàn)某種確定的結(jié)果．例如，向上拋一枚硬幣，由于受到地心引力的作用，硬幣上升到某一高度后必定會(huì)下落．我們把這類現(xiàn)象稱為確定性現(xiàn)象（或必然現(xiàn)象）．同樣，任何物體沒(méi)有受到外力作用時(shí)，必定保持其原有的靜止或等速運(yùn)動(dòng)狀態(tài)；導(dǎo)線通電后，必定會(huì)發(fā)熱；等等也都是確定性現(xiàn)象．隨機(jī)現(xiàn)象在一定的條件下，可能會(huì)出現(xiàn)各種不同的結(jié)果，也就是說(shuō)，在完全相同的條件下，進(jìn)行一系列觀測(cè)或?qū)嶒?yàn)，卻未必出現(xiàn)相同的結(jié)果．例如，拋擲一枚硬幣，當(dāng)硬幣落在地面上時(shí)，可能是正面（有國(guó)徽的一面）朝上，也可能是反面朝上，在硬幣落地前我們不能預(yù)知究竟哪一面朝上．我們把這類現(xiàn)象稱為隨機(jī)現(xiàn)象（或偶然現(xiàn)象）．同樣，自動(dòng)機(jī)床加工制造一個(gè)零件，可能是合格品，也可能是不合格品；射擊運(yùn)動(dòng)員一次射擊，可能擊中10環(huán)，也可能擊中9環(huán)8環(huán)……甚至脫靶；等等也都是隨機(jī)現(xiàn)象．統(tǒng)計(jì)規(guī)律性對(duì)隨機(jī)現(xiàn)象，從表面上看，由于人們事先不能知道會(huì)出現(xiàn)哪一種結(jié)果，似乎是不可捉摸的；其實(shí)不然．人們通過(guò)實(shí)踐觀察到并且證明了，在相同的條件下，對(duì)隨機(jī)現(xiàn)象進(jìn)行大量的重復(fù)試驗(yàn)（觀測(cè)），其結(jié)果總能呈現(xiàn)出某種規(guī)律性．例如，多次重復(fù)拋一枚硬幣，正面朝上和反面朝上的次數(shù)幾乎相等；對(duì)某個(gè)靶進(jìn)行多次射擊，雖然各次彈著點(diǎn)不完全相同，但這些點(diǎn)卻按一定的規(guī)律分布；等等．我們把隨機(jī)現(xiàn)象的這種規(guī)律性稱為統(tǒng)計(jì)規(guī)律性．●應(yīng)用例子摸球游戲中誰(shuí)是真正的贏家在街頭巷尾常見(jiàn)一類“摸球游戲”．游戲是這樣的：一袋中裝有16個(gè)大小、形狀相同，光滑程度一致的玻璃球．其中8個(gè)紅色、8個(gè)白色．游戲者從中一次摸出8個(gè)，8個(gè)球中．當(dāng)紅白兩種顏色出現(xiàn)以下比數(shù)時(shí)．摸球者可得到相應(yīng)的“獎(jiǎng)勵(lì)”或“處罰”：結(jié)果（比數(shù)）A(8:0)B(7:1)C(6:2)D(5:3)E(4:4)獎(jiǎng)金（元）1010.50.2-2注：表中“-2”表示受罰2元解：此游戲（實(shí)為賭博），從表面上看非常有吸引力，5種可能出現(xiàn)的結(jié)果．有4種可得獎(jiǎng)．且最高獎(jiǎng)達(dá)10元．而只有一種情況受罰．罰金只是2元．因此就吸引了許多人特別是好奇的青少年參加．結(jié)果卻是受罰的多，何以如此呢？其實(shí)．這就是概率知識(shí)的具體應(yīng)用：現(xiàn)在是從16個(gè)球中任取8個(gè)．所有可能的取法為種．即基本事件總數(shù)有限．又因?yàn)槭侨我獬槿。ＷC了等可能性．是典型的古典概型問(wèn)題．由古典概率計(jì)算公式．很容易得到上述5種結(jié)果．其對(duì)應(yīng)的概率分別是：假設(shè)進(jìn)行了1000次摸球試驗(yàn)，5種情況平均出現(xiàn)的次數(shù)分別為：0、10、122、487、381次，經(jīng)營(yíng)游戲者預(yù)期可得2×381-(10×0＋1×10＋0.5×122＋0.2×487)=593.6（元）．這個(gè)例子的結(jié)論可能會(huì)使我們大吃一驚，然而正是在這一驚之中．獲得了對(duì)古典概率更具體、更生動(dòng)的知識(shí).戲院設(shè)座問(wèn)題乙兩戲院在競(jìng)爭(zhēng)500名觀眾，假設(shè)每個(gè)觀眾完全隨意地選擇一個(gè)戲院，且觀眾之間選擇戲院是彼此獨(dú)立的，問(wèn)每個(gè)戲院至少應(yīng)該設(shè)多少個(gè)座位才能保證觀眾因缺少座位而離開(kāi)的概率小于5%?解由于兩個(gè)戲院的情況相同，故只需考慮甲戲院即可。設(shè)甲戲院需設(shè)m個(gè)座位，定義，i=1,2,…,500依題意，若用x表示選擇甲戲院的觀眾總數(shù)，則，問(wèn)題化為求m使因?yàn)镋(xi)=D(xi)=0.5,由中心極限定理近似地故，查標(biāo)準(zhǔn)正態(tài)分布表知，從而解得，即每個(gè)戲院至少應(yīng)該設(shè)多少269個(gè)座位。各章的重點(diǎn)難點(diǎn)第一章事件與概率●●●古典概率全概率公式與貝葉斯公式(*)獨(dú)立試驗(yàn)序列第二章離散型隨機(jī)變量●●離散隨機(jī)變量的概率分布分布函數(shù)●●常用分布：超幾何分布H(n,M,N)、二項(xiàng)分布B(n,p)、泊松分布P(λ)隨機(jī)變量的數(shù)學(xué)期望與方差的概念及性質(zhì)第三章連續(xù)型隨機(jī)變量●●●●●●●●●連續(xù)隨機(jī)變量的概率密度、均勻分布U[a,b]、指數(shù)分布e(λ)、正態(tài)分布N(μ,σ2)分布函數(shù)二維隨機(jī)變量的分布（聯(lián)合分布）邊際分布隨機(jī)變量函數(shù)的數(shù)學(xué)期望常用分布的數(shù)學(xué)期望與方差相關(guān)矩與相關(guān)系數(shù)隨機(jī)變量的和的分布切比雪夫不等式第四章大數(shù)定律與中心極限定理●●大數(shù)定律（辛欽定理、伯努里定理）中心極限定理（列維定理、德莫威爾-拉普拉斯定理）第五章數(shù)理統(tǒng)計(jì)的基本知識(shí)●●總體與樣本的概念常用統(tǒng)計(jì)量：樣本均值、樣本方差、修正樣本方差●●數(shù)理統(tǒng)計(jì)中的常用分布：χ2分布、t分布、F分布(*)正態(tài)總體的統(tǒng)計(jì)量分布：定理1~定理4第六章點(diǎn)估計(jì)●●●參數(shù)的矩估計(jì)：極大似然法無(wú)偏估計(jì)第七章假設(shè)檢驗(yàn)●正態(tài)總體均值的假設(shè)檢驗(yàn)●正態(tài)總體標(biāo)準(zhǔn)差的假設(shè)檢驗(yàn)正態(tài)總體均值的區(qū)間估計(jì)正態(tài)總體方差的區(qū)間估計(jì)（未知μ）學(xué)習(xí)方法指導(dǎo)●●二、本課程是研究隨機(jī)現(xiàn)象的統(tǒng)計(jì)規(guī)律性的數(shù)學(xué)學(xué)科。因?yàn)檠芯繉?duì)象，所以在學(xué)習(xí)方法上與分析數(shù)學(xué)、線性代數(shù)等其它課程有很大不同。在學(xué)習(xí)過(guò)程中，會(huì)遇到較多的、獨(dú)特的概念和分析方法，初學(xué)者可能會(huì)感到很不習(xí)慣，入門(mén)會(huì)有一定困難，但是只要肯于鉆研并掌握較好的學(xué)習(xí)方法，多數(shù)學(xué)生不僅能達(dá)到考核的基本要求，而且還會(huì)產(chǎn)生較大的學(xué)習(xí)興趣。這是因?yàn)楦怕收撆c數(shù)理統(tǒng)計(jì)與社會(huì)生活實(shí)際的聯(lián)系十分緊密，應(yīng)用特別廣泛，因而容易激發(fā)人們的興趣。下面，結(jié)合本課程的特點(diǎn)，介紹某些行之有效的學(xué)習(xí)方法供學(xué)生參考。1．學(xué)習(xí)概率論的基本概念時(shí)，首先要注意這些概念的統(tǒng)計(jì)背景。概率論部分的基本概念比較多，特別從第二章“隨機(jī)變量及其分布”開(kāi)始，似乎“高難動(dòng)作”一個(gè)接著一個(gè)來(lái)。如果對(duì)基本概不能很好理解，勢(shì)必影響自學(xué)的信心。實(shí)際上，概率論的許多基本概念來(lái)源于統(tǒng)計(jì)實(shí)踐，因此弄清其統(tǒng)計(jì)背景乃是入門(mén)的向?qū)?。例如，概率?lái)源于頻率，它是大量獨(dú)立重復(fù)試驗(yàn)時(shí)頻率的穩(wěn)定值。因此，頻率是概率的先導(dǎo)。而概率又是頻率的抽象和發(fā)展。進(jìn)而可理解概率的某些基本特性也是相應(yīng)的頻率特性的高度概括和抽象。又如，連續(xù)隨機(jī)變量的概率密度的統(tǒng)計(jì)背景是統(tǒng)計(jì)直方圖；隨機(jī)變量的分布函數(shù)實(shí)質(zhì)上是一種“累計(jì)概率”，它來(lái)源于統(tǒng)計(jì)中的經(jīng)驗(yàn)分布函數(shù)；而隨機(jī)變量的期望概念則是樣本均值的抽象，在提供了頻率分布的前提下，樣本均值實(shí)際上是一種加權(quán)平均值（“權(quán)”就是頻數(shù)），而離散隨機(jī)變量的期望恰恰是這種加權(quán)平均值概念的提升和推廣，即將頻率提升為概率，將有限推廣到無(wú)限等等。2．重視概念的甄別，即弄清某些容易混淆的概念之間的區(qū)別。在概率論中存在許多容易混淆的概念，如果不能認(rèn)真區(qū)分，仔細(xì)加以甄別，就不能正確理解這些重要概念，在應(yīng)用時(shí)就會(huì)產(chǎn)生各種各樣的錯(cuò)誤?；ゲ幌嗳菔录c相互獨(dú)立事件是最容易混淆的一對(duì)概念“互不相容”是指兩個(gè)事件不能同時(shí)發(fā)生。而“相互獨(dú)立”則是指一個(gè)事件發(fā)生與否對(duì)另一事件發(fā)生的概率沒(méi)有影響。隨機(jī)變量的獨(dú)立性與不相關(guān)性是兩個(gè)既有區(qū)別又有聯(lián)系的概念。兩個(gè)隨機(jī)變量相互獨(dú)立條件概率P(A|B)與乘積概率P(AB)也是容易混淆的一對(duì)概念不相關(guān)條件概率是已知某事件發(fā)生條件下，另一事件發(fā)生的概率，而乘積概率中所涉及的事件都沒(méi)有“已經(jīng)發(fā)生”的假定。兩者的關(guān)系為P(AB)=P(B)P(A|B)3．善于識(shí)別一些重要的概率模型并能正確進(jìn)行計(jì)算是提高分析和解決概率實(shí)際問(wèn)題能力的關(guān)鍵。在概率論中有許多經(jīng)長(zhǎng)期實(shí)踐概括出的重要概率模型（簡(jiǎn)稱“概型”），學(xué)生必須了解其背景、特點(diǎn)和適用范圍，要熟記計(jì)算公式，以便能正確應(yīng)用。例如：（1）古典概型：一類具有有限個(gè)“等可能”發(fā)生的基本事件的概率模型。（2）完備事件組模型：若干個(gè)兩兩互不相容的事件在一次試驗(yàn)中有且僅有一個(gè)發(fā)生的一類概率模型。它主要用于某些復(fù)雜事件的計(jì)算——全概率公式，以及某些條件概率的計(jì)算——貝葉斯公式。（3）貝努利概型與二項(xiàng)分布模型：貝努利概型是關(guān)于獨(dú)立重復(fù)試驗(yàn)序列的一類重要的概率模型，其特點(diǎn)是各個(gè)重復(fù)試驗(yàn)是獨(dú)立進(jìn)行的，且每次試驗(yàn)中僅有兩個(gè)對(duì)立的結(jié)果：事件A發(fā)生或不發(fā)生，則在n次獨(dú)立重復(fù)試驗(yàn)中，事件A恰好發(fā)生m次的概率為，其中p=P(A).（4）泊松分布：物理上存在一種質(zhì)點(diǎn)流，稱為泊松流，它是由源源不斷的隨機(jī)出現(xiàn)的許多質(zhì)點(diǎn)構(gòu)成的一種隨機(jī)質(zhì)點(diǎn)流。例如，電話交換臺(tái)所接到的呼喚形成一呼喚流，到某商店去購(gòu)物的顧客形成一顧客流，經(jīng)過(guò)某塊天空的流星形成流星流，放射性物質(zhì)不斷放出的質(zhì)點(diǎn)形成質(zhì)點(diǎn)流等等。泊松流的主要特征之一就是在任意兩個(gè)不相交的時(shí)間區(qū)間內(nèi)各自出現(xiàn)的質(zhì)點(diǎn)個(gè)數(shù)是相互獨(dú)立的。加上另一些特征，即可導(dǎo)出泊松流的概率模型.（5）正態(tài)分布——最重要的概率模型：根據(jù)中心極限定理的意義可知：無(wú)數(shù)微小的，又相互獨(dú)立作用的隨機(jī)因素，如果它們同分布，則它們累加起來(lái)的總效應(yīng)必定服從正態(tài)分布。這是正態(tài)分布應(yīng)用最為廣泛的根本原因。例如人體的身高、體重，測(cè)量的誤差等都服從正態(tài)分布。（6）均勻分布——“等可能”取值的連續(xù)化模型：如果連續(xù)隨機(jī)變量?jī)H在某有限區(qū)間[a，b]內(nèi)取值，且具有概率密度則稱服從區(qū)間[a，b]上的均勻分布。除以上6種常見(jiàn)的概率模型外，還有指數(shù)分布，隨機(jī)變量的函數(shù)等模型，不再—一列舉，可參看教材有關(guān)內(nèi)容。4．對(duì)于某些難度較大的特殊算法要在理解的基礎(chǔ)上進(jìn)行“典例復(fù)算”學(xué)生普遍反映本課程自學(xué)較難，除概念抽象外，恐怕一些特殊的計(jì)算方法也會(huì)帶來(lái)不少學(xué)習(xí)上的困難。要突破這一點(diǎn)，最好的方法是將有關(guān)的典型例題讀完后，合上書(shū)，認(rèn)真復(fù)算一遍，邊算邊加深理解。例如，關(guān)于已知隨機(jī)變量的分布列或概率密度，求分布函數(shù)的方法。從分布函數(shù)的定義出發(fā)，可得出關(guān)于離散隨機(jī)變量和連續(xù)隨機(jī)變量分布函數(shù)的計(jì)算公式，分別為和困難在于這兩個(gè)公式的具體應(yīng)用。5．學(xué)習(xí)數(shù)理統(tǒng)計(jì)部分，最重要的是要領(lǐng)會(huì)各種統(tǒng)計(jì)方法內(nèi)在的統(tǒng)計(jì)思想，其次是要熟練掌握操作步驟。例如，極大似然估計(jì)法的主要統(tǒng)計(jì)思想是：如果在一次試驗(yàn)中，某個(gè)樣本x1,x2，…，xn一旦出現(xiàn)，就有理由認(rèn)為該樣本出現(xiàn)的概率最大。具體操作時(shí)，只要利用總體的已知分布（其中包含待估的本知參數(shù)）構(gòu)造樣本的聯(lián)合分布，即似然函數(shù)，再應(yīng)用微積分的極值原理找出最大值點(diǎn)，即得極大似然估計(jì)量。又如，區(qū)間估計(jì)實(shí)際上是以一定的把握（置信概率）去估計(jì)未知參數(shù)所落入的范圍（置信區(qū)間）。區(qū)間估計(jì)方法最主要的統(tǒng)計(jì)思想是：設(shè)法構(gòu)造一個(gè)與待估未知參數(shù)有關(guān)的統(tǒng)計(jì)量，利用它的抽樣分布，在給定的置信概率下確定臨界值，再作適當(dāng)?shù)母怕屎愕茸冃渭纯色@得置信區(qū)間。簡(jiǎn)言之，就是以統(tǒng)計(jì)量及其抽樣分布為武器，達(dá)到用樣本推斷總體的目的。數(shù)理統(tǒng)計(jì)既然是用部分去推斷總體，特別是區(qū)間估計(jì)和假設(shè)檢驗(yàn)都只是根據(jù)一次抽樣所得的樣本值去下結(jié)論，這就不可能不犯錯(cuò)誤，于是就產(chǎn)生了區(qū)間估計(jì)的可靠性（置信概率）和假設(shè)檢驗(yàn)的兩類錯(cuò)誤問(wèn)題。這就是說(shuō)，數(shù)理統(tǒng)計(jì)工作者對(duì)實(shí)際問(wèn)題下結(jié)論時(shí)往往不是簡(jiǎn)單地回答“是”或“非”，而是帶有一定的犯錯(cuò)誤的概率。這樣做，既體現(xiàn)了實(shí)事求是的科學(xué)精神，又鼓勵(lì)人們通過(guò)不斷實(shí)踐，經(jīng)過(guò)多次試驗(yàn)逐步獲得較為準(zhǔn)確和可靠的結(jié)論。學(xué)生在學(xué)習(xí)數(shù)理統(tǒng)計(jì)這部分內(nèi)容時(shí)應(yīng)充分領(lǐng)會(huì)和把握統(tǒng)計(jì)方法的這一重要特色。6．在重視基本概念、基本理論和基本方法學(xué)習(xí)的前提下，也要注意概率統(tǒng)計(jì)中專用語(yǔ)言和符號(hào)的規(guī)范使用。本課程的教學(xué)實(shí)踐和考試的情況反映出學(xué)生的學(xué)習(xí)效果不容樂(lè)觀。許多學(xué)生對(duì)基本知識(shí)和基本技能不能正確理解和掌握。例如，求得的概率是負(fù)值或大于1，方差小于0，相關(guān)系數(shù)大于1等錯(cuò)誤大有人在；對(duì)于“至少發(fā)生1個(gè)”、“至多發(fā)生2個(gè)”等概率論專用語(yǔ)言不理解，從而不能正確表達(dá)事件；計(jì)算概率時(shí)，對(duì)有關(guān)事件A，”B，C等或有關(guān)隨機(jī)變量X，Y等的含義不事先設(shè)定；正態(tài)分布計(jì)算中對(duì)一般的正態(tài)變量不作“標(biāo)準(zhǔn)化變換”；關(guān)于事件或隨機(jī)變量獨(dú)立性的判定或證明更是錯(cuò)誤百出，答非所問(wèn)。特別是數(shù)理統(tǒng)計(jì)部分，許多考生或者放棄，或者胡亂解答一通。這些現(xiàn)象充分說(shuō)明，學(xué)生一定要重視基本概念、基本原理和基本方法的真正理解和掌握。7．必須做相當(dāng)多的習(xí)題。凡數(shù)學(xué)課程，只是看書(shū)而不做習(xí)題是很難真正掌握好的。通常是，看書(shū)時(shí)明白了，當(dāng)要做習(xí)題時(shí)又無(wú)從下手。做習(xí)題能幫助我們復(fù)習(xí)提高，加深對(duì)概念的理解，對(duì)算法的掌握。三、注意事項(xiàng)《概率論與數(shù)理統(tǒng)計(jì)》是研究隨機(jī)現(xiàn)象數(shù)量規(guī)律的學(xué)科，解決問(wèn)題方法思路與其它數(shù)學(xué)學(xué)科大不相同，概念難以理解，規(guī)律不易掌握，習(xí)題處理困難。為提高學(xué)習(xí)效果，保證學(xué)習(xí)質(zhì)量，學(xué)習(xí)《概率論與數(shù)理統(tǒng)計(jì)》應(yīng)注意以下幾方面的問(wèn)題：1、善于歸納，尋找共性。本課程內(nèi)容較為散亂，每個(gè)問(wèn)題都有不同背景，系統(tǒng)歸結(jié)，找出共性，有利于整體掌握所學(xué)內(nèi)容。例如：古典概型所求概率是隨機(jī)事件在樣本空間所占比例，是隨機(jī)事件樣本點(diǎn)數(shù)與樣本點(diǎn)總數(shù)之比，幾何概型雖然對(duì)象不同（樣本點(diǎn)無(wú)窮多個(gè)，不可數(shù)），所求概率是兩個(gè)幾何體度量之比，但也是隨機(jī)事件在樣本空間所占比例，兩者本質(zhì)思路都是一樣的，搞清這一點(diǎn)，對(duì)全面掌握知識(shí)很有幫助；2、學(xué)科交叉，提高認(rèn)識(shí)。本課程雖然內(nèi)容獨(dú)特，但我們將概率視為函數(shù)之后，就可以用《數(shù)學(xué)分析》方法進(jìn)行研究，廣泛應(yīng)用極限、導(dǎo)數(shù)、積分之后，不僅處理問(wèn)題嚴(yán)格科學(xué)，更提高了對(duì)問(wèn)題的理解認(rèn)識(shí)；3、聯(lián)系實(shí)際，培養(yǎng)興趣。本課程產(chǎn)生的背景，是迫切解決當(dāng)時(shí)實(shí)際問(wèn)題的需要。當(dāng)今社會(huì)環(huán)境中，政治、軍事、經(jīng)濟(jì)等大量問(wèn)題都可以用概率方法研究解決，如利用概率研究彩票、保險(xiǎn)、天氣預(yù)報(bào)等。解決這些問(wèn)題很有意義，也很有趣，興趣做動(dòng)力，也是提高學(xué)習(xí)效率的一個(gè)重要因素；4、加強(qiáng)練習(xí)，掌握技巧。獨(dú)立完成作業(yè)是學(xué)生學(xué)好本課程的一項(xiàng)重要的、必不可少的工作。通過(guò)