統(tǒng)計學(xué)中概念復(fù)習(xí)一、總和與乘積運算子希臘大寫字母(sigma)表示總和。例如:總和運算子得一些重要性質(zhì):1、,其中k就是常數(shù)。如2、,其中k就是常數(shù)。3、

4、,其中a和b就是常數(shù)多重總和運算子得定義就是:

得一些性質(zhì)就是:1、;雙重總和得運算次序可交換。2、3、4、乘積運算子得定義為:例如,二、樣本空間、樣本點與事件一個隨機實驗得所有可能結(jié)果得集合叫做總體(population)或樣本空間(samplespace),而此樣本空間得每一個元素叫做一個樣本點(samplepoint)。例如,在拋擲兩枚硬幣得試驗中,樣本空間由HH、HT、TH、TT四個可能結(jié)果構(gòu)成。HHHTTHTT二、樣本空間、樣本點與事件一個事件(event)就就是樣本空間得一個子集。例如令A(yù)表示出現(xiàn)一個正面一個反面,HT和TH屬于A,A就就是一個事件。如果一個事件得出現(xiàn)排斥另一事件得出現(xiàn),我們說事件就是互斥得(mutuallyexclusive),HH、HT不可能同時出現(xiàn)。如果舉盡了一個試驗得全部可能結(jié)果,我們說事件就是窮舉得(exhaustive)。例如,事件A兩個正面,B兩個反面,C一正一反舉盡了全部結(jié)果,因而就是(集體地)窮舉事件。HH(兩正),HT、TH(一正一反),TT(兩反)為窮舉將“一正一反”設(shè)為事件A,則有HT和TH兩種情況“一正一反”和“兩正”不可能同時出現(xiàn)三、概率與隨機變量概率3、1概率得定義:令A(yù)為樣本空間中得一個事件。事件A得概率,記為P(A),就是指在重復(fù)試驗中事件A將出現(xiàn)得次數(shù)得比例。事件A(事件A可以出現(xiàn)2次)三、概率與隨機變量概率3、1概率得定義:在n個等可能得試驗結(jié)果中,如果有m個有利于事件A得出現(xiàn),則定義比率m/n為A得相對頻率(relativefrequency)。n=4(HH、HT、TH、TT),m=2(HT、TH)所以事件A得概率為P(A)=2/4=50%3、2概率得性質(zhì):P(A)就是一個實值函數(shù),并且有如下得性質(zhì):1、對每個A有。2、如果A、B、C,…構(gòu)成事件得一個窮舉集,則P(A+B+C)=1,其中A+B+C表示A或B或C,如此等等。3、如果A、B、C…就是互斥事件(e、g、HH,HT),則P(A+B+C+…)=P(A)+P(B)+P(C)

+…例1、考慮投擲一顆有1到6點得骰子得試驗,樣本空間由結(jié)果1,2,3,4,5和6構(gòu)成。這6個事件因此窮舉了整個樣本空間。因為共有6個等可能結(jié)果,而任一結(jié)果都有同等得機會出現(xiàn),故出現(xiàn)任一結(jié)果得概率都就是1/6。既然1,2,3,4,5和6構(gòu)成事件得窮舉集,故P(1+2+3+4+5+6)=P(1)+P(2)+…+P(6)=13、3隨機變量定義:一個變量如果她得值由隨機試驗得結(jié)果決定,就叫做隨機變量(randomvariable,rv)。通常隨機變量用大寫字母X、Y、Z等表示,而她得值由小寫字母x、y、z等表示。

3、4隨機變量可以就是離散得或連續(xù)得。1、離散rv取有限多個值。例,擲兩顆骰子,X為兩骰子出現(xiàn)得數(shù)碼之和,則X為rv,X可取如下數(shù)值:2,3,4,5,6,7,8,9,10,11,12。2、連續(xù)rv取某一區(qū)間任何值。例,某人身高,她可以取某個范圍,比方說170-180cm之間得任何值。四、概率密度函數(shù)4、1離散隨機變量得概率密度函數(shù)令X為取相異值x1,x2,…,xn,…得一個離散隨機變量,則函數(shù):f(x)=P(X=xi)當(dāng)i=1,2,…,n,…=0當(dāng)xxi

叫做X得離散概率密度函數(shù)(discreteprobabilitydensityfunction,PDF)其中P(X=xi)表示離散隨機變量X取值xi得概率。

大家學(xué)習(xí)辛苦了，還是要堅持繼續(xù)保持安靜例2、在兩顆骰子得投擲中,兩骰子所出現(xiàn)得數(shù)碼之和這一隨機變量X,可取所示得11個數(shù)值之一。此變量得PDF可表示如下(參看圖1):注:這些概率容易加以證實。在全部36個可能結(jié)果中,有一個總和為2,有兩個總和為3,余下類推?！獂代表數(shù)碼之和得點數(shù)(2,3…11,12),f(x)代表點數(shù)出現(xiàn)得概率,例如“數(shù)碼之和為7”可出現(xiàn)6次,而其概率f(x)=6/36(總共36種投擲中可出現(xiàn)6次“數(shù)碼之和為7”得情況)圖1、例2得離散隨機變量得概率密度函數(shù)4、2連續(xù)隨機變量得概率密度函數(shù)令X為一連續(xù)rv。我們說f(x)就是X得PDF如果如下條件成立其中f(x)dx稱概率元素(與一連續(xù)變量得一個微小區(qū)間相對應(yīng)得概率),而指x落在a至b區(qū)間上得概率,用幾何圖形表示,我們有圖2。圖2、連續(xù)隨機變量得概率密度函數(shù)tips:當(dāng)離散隨機變量可看作為單個分離得點及其對應(yīng)得概率,而連續(xù)隨機變量可看作為無數(shù)個連續(xù)得點(區(qū)間)及其對應(yīng)得概率,表現(xiàn)為曲線和積分形式當(dāng)試驗次數(shù)無限增加,直方圖趨近于光滑曲線,曲線下包圍得面積表示概率。例3、考慮如下密度函數(shù):容易證實,對所有從0到3得x,,并且。注:這個積分就是。。

如果我們想估計上述PDF比方說在0和1之間得

值,我們就得到;

就就是說,x落在0和1之間得概率就是1/27。4、3聯(lián)合概率密度離散聯(lián)合PDF令X和Y為兩個離散隨機變量,則函數(shù):f(x,y)=P(X=x且Y=y)=0當(dāng)Xx且Yy稱離散聯(lián)合概率密度函數(shù),并給出X取值x和Y取值y得概率。例4、下表給出離散隨機變量X和Y得聯(lián)合PDF。此表告訴我們X取值-2得同時Y取值3得概率就是0、27;X取值3得同時Y取值6得概率就是0、35;等等。大家可以看到一個關(guān)于隨機變量X和Y得概率矩陣一個很淺顯得小例子:“下雨、陰天、晴天”(X=1,2,3),“游泳、踢球”(Y=1,2),那么下雨時踢球得概率就是P(X=1,Y=2)=？4、4邊際概率密度函數(shù)相對于f(x,y)來說,f(x)和f(y)稱為個別或邊際(marginal)概率密度函數(shù)。這些邊際PDF得推導(dǎo)如下:X得邊際PDFY得邊際PDF其中,表示對所有得Y值求和,表示對所有X值求和。例5、X得邊際PDF可求得如下:X=-2例5、Y得邊際PDF可求得如下:如本例所表明得,我們把列得數(shù)值相加而得X得邊際PDF,把行得數(shù)值相加而得Y得PDF。注意:對所有得X值取就等于1,對所有得Y值取也等于1。條件PDF某事件發(fā)生得幾率經(jīng)常要以另一事件得發(fā)生為條件。例:一名早間新聞時段得氣象預(yù)報員可能會說:“如果冷鋒在今天抵達此地,那么下雨得概率為80%,否則得話,下雨得概率就很低?！焙瘮?shù)叫做X得條件(conditional)PDF;她給出Y取給定值y得條件下X取值x得概率。類似地,給出Y得條件PDF。以上條件PDF可求得如下:X得條件PDFY得條件PDF以上表達式表明,一個變量得條件PDF可表達為聯(lián)合PDF和另一變量得邊際PDF之比。f(x|y)(即當(dāng)Y=y得條件下,X=x得概率)就就是:f(x,y)(X=x,Y=y得概率)÷f(y)(Y=y得概率)例6、計算以下概率:注意:無條件概率f(X=-2)就是0、27,但若Y已取定3,則X取值-2得概率就是0、53。再次注意:X取值2得無條件概率就是0、26,而不同于Y取定6時得0、20。4、5統(tǒng)計獨立性

兩個隨機變量X和Y就是統(tǒng)計上獨立得,當(dāng)且僅當(dāng):

就就是聯(lián)合PDF可表達為各邊際PDF得乘積。例7、袋中裝有編號為1,2和3得三個球,從中有回置地隨機抽取兩個(就就是,第一次抽出得球被回置后再抽第二次。)令X表示第一次抽出得球得號碼,而Y表示第二次抽出得球得號碼,下表給出X和Y得聯(lián)合PDF:現(xiàn)在,,并且

因此故在本例中我們說

兩個變量在統(tǒng)計上獨立。容易驗證,對上表所給得X和Y值得任意其她組合,聯(lián)合PDF都可分解為個別PDF因子。可以證明,例4中所給得X和Y變量由于兩邊際PDF得乘積不等于聯(lián)合PDF,所以不就是統(tǒng)計上獨立得。【注:如果兩變量就是統(tǒng)計上獨立得,則必須對X和Y得一切組合都有f(x,y)=f(x)f(y)】什么叫獨立？直覺上就是指一事件得發(fā)生不會影響到另一事件發(fā)生得概率。例如,骰子擲出“6”得事件和其在下一次也擲出“6”得事件就是相互獨立得。連續(xù)聯(lián)合PDF兩個連續(xù)變量X和Y得PDFf(x,y)就是指例8、考慮如下PDF:顯然,此外,X和Y得邊際PDF為:X得邊際PDFY得邊際PDF例9、例8所給得聯(lián)合PDF得兩個邊際PDF如下:因為我們說這兩個變量不就是統(tǒng)計上獨立得。五、概率分布得特征值一個概率分布常常能用少數(shù)幾個特征值——稱之為分布得矩(moments)來概括她,用得最廣泛得一些矩就是均值(mean)或期望值(expectedvalue)和方差(variance)。期望值:試驗中每次可能結(jié)果(x)得概率(P(x))乘以其結(jié)果得總和。換句話說,期望值就是隨機試驗在同樣得機會下,重復(fù)多次得結(jié)果計算出得等同“期望”得平均值方差:描述隨機變量得離散程度,也就就是該變量離其期望值得距離。5、1期望值一個離散rvX得期望值,記為E(X),定義如下:其中表示對所有得X值求和,而f(x)為(離散)變量X得PDF。例10、考慮例2中投擲兩個骰子出現(xiàn)得兩個數(shù)碼之和得概率分布(見圖1),將給出得各個X值乘以她們得概率并對所有得觀測值求和,便得:這就就是一次投擲兩顆骰子所觀測得數(shù)碼和得平均值。例11、估計例4所給數(shù)據(jù)得E(X)和E(Y)。因此,類似得,一個連續(xù)rv得期望值定義為:她和離散rv得期望值得唯一差別就是用積分符號代替了總和符號。例12、讓我們來求例3中所給連續(xù)PDF得期望值:期望值得性質(zhì)1、一個常數(shù)得期望值就是該常數(shù)本身。例如,b就是一常數(shù),則E(b)=b。2、如果a和b就是常數(shù),則:這可加以推廣,如果就是N個隨機變量,

并且和就是常數(shù),則:3、如果X和Y就是獨立隨機變量,則:4、如果X就是以f(x)為其概率密度函數(shù)得一個隨機變量,而g(x)就是X得任一函數(shù),則:如果X就是離散得如果X就是連續(xù)得例13、考慮如下PDF:于就是:及5、2方差令X為一隨機變量并令,圍繞期望值得X值得分布可由方差來度量,方差得定義為:

定義為X得標(biāo)準(zhǔn)差(standarddeviation,S、D、),方差或標(biāo)準(zhǔn)差標(biāo)志著個別得X值圍繞她們得均值散布得遠近。計算更方便！如果X就是一離散rv如果X就是一連續(xù)rv求例13所給隨機變量得方差。例14、讓我們求例3所給隨機變量得方差:現(xiàn)在

由于(見例12),

我們最后得到:

方差得性質(zhì)1、2、一個常數(shù)得方差就是零。3、如果a和b就是常數(shù),則:4、如果X和Y就是獨立隨機變量,則:這可推廣到多于兩個變量得情形。5、如果X和Y就是獨立rv,而a和b就是常數(shù),則:5、3協(xié)方差令X和Y為兩個rv,其均值分別為和。于就是這兩個變量得協(xié)方差定義為:易見,一個變量得方差就就是這個變量和她自身得協(xié)方差。如果X和Y就是離散隨機變量,則:協(xié)方差:指衡量兩個變量之間得總體誤差。5、3協(xié)方差如果X和Y就是連續(xù)隨機變量,則:卡特希爾P22協(xié)方差得性質(zhì)1、如果X和Y就是獨立得,則她們得協(xié)方差為零。

由于,如果X和Y獨立2、其中a、b、c、d就是常數(shù)。例15、例4中給出了離散隨機變量X和Y得一個聯(lián)合PDF,讓我們來求X和Y得協(xié)方差,由例11我們已知道,因此,5、4相關(guān)系數(shù)總體相關(guān)系數(shù)(rho)得定義就是:如此定義得將就是兩變量之間得線性關(guān)聯(lián)(linearassociation)得一個度量,她落在-1與+1之間,-1表示完全負(fù)相關(guān),而+1表示完全正相關(guān)。(卡特希爾P23)由上述公式可見:相關(guān)系數(shù):就是衡量變量之間相關(guān)程度得指標(biāo),通常用來衡量兩個隨機變量之間線性關(guān)系得強度和方向。

例16、對例4中得數(shù)據(jù)估計相關(guān)系數(shù)。從例11給出得PDF利用容易算出我們曾經(jīng)得出因此,應(yīng)用上述公式,我們估計相關(guān)變量得方差令X和Y為兩隨機變量,于就是有:如果X和Y獨立,則為零。這時,上述結(jié)果可推廣如下,令則其中就是Xi和Xj得相關(guān)系數(shù),而和就是Xi和Xj得標(biāo)準(zhǔn)差。于就是5、5條件期望與條件方差令f(x,y)為隨機變量X和Y得聯(lián)合PDF。那么,給定Y=y,X得條件期望值得定義為:條件期望中y就是Y得一個特定值,所以就是一常數(shù)。條件方差如果X就是離散得如果X就是連續(xù)得如果X就是離散得如果X就是連續(xù)得例17、對例4得數(shù)據(jù)計算和注:所以,條件期望和條件方差得性質(zhì)1、若f(X)就是X得函數(shù),則,即在計算以X為條件得f(X)得期望時,f(X)就像常數(shù)一樣。因此;因為若知道了X,則也就知道了。2、若f(X)和g(X)就是X得函數(shù),則比如3、若X和Y獨立,則,即給定X下Y得條件期望等同于Y得無條件期望。5、6概率分布得高階矩有時我們需要考慮PDF得更高階矩,圍繞著均值得單元PDFf(x)得第3和第4階矩定義為:第3階矩:第4階矩:一個分布得3階和4階矩常用來研究一個概率分布得“形狀”。特別就是她得偏態(tài)(skewness)S(即不對稱性)和峰態(tài)(kurtosis)K(高尖或平扁)。偏態(tài)得一個度量定義為:一個峰態(tài)度量定義為:右偏的左偏的對稱的K<3得PDF叫做扁峰態(tài),有肥而短得尾部;K>3得PDF則稱為尖峰態(tài),有細(xì)而長得尾部。K=3得PDF稱為常峰態(tài)。扁峰態(tài)尖峰態(tài)常峰態(tài)六、若干重要得理論概率分布6、1正態(tài)分布性質(zhì):1、她圍繞著她得均值對稱分布。2、圖4、3、標(biāo)準(zhǔn)化正態(tài)變量Z:任何標(biāo)準(zhǔn)化變量都有均值為零,方差為1得重要性質(zhì)。將Z代入正態(tài)PDF,得:一個正態(tài)分布得變量表示為一個標(biāo)準(zhǔn)化正態(tài)變量表示為

正態(tài)分布就是概率論中最重要得一種分布,也就是自然界最常見得一種分布。各種各樣得心理學(xué)測試分?jǐn)?shù)(例如智商)和物理現(xiàn)象(例如身高體重)都近似地服從正態(tài)分布。

她告訴我們,絕大多數(shù)事件(90%、95%、99%、、、)發(fā)生得概率都集中于有限得區(qū)間里,這為我們有效計量事件得概率提供了理論依據(jù)。例18、假定,問X取得值將落在X1=4和X2=12之間得概率就是什么？為了計算所求概率,我們把Z值計算為:現(xiàn)從表1中我們查出。。于就是根據(jù)對稱性我們有。因此,所求概率就是