1、1統(tǒng)計量與抽樣分布1.1根本概念：統(tǒng)計量、樣本矩、經(jīng)驗分布函數(shù)總體X的樣本Xi,X2,Xn,那么T(X1,X2,Xn即為統(tǒng)計量樣本均值樣本方差s2(Xi2X)修正樣本方差n(Xi1X)樣本k階原點矩AkXik,(k1,2,.)樣本k階中央矩Bk(XiX)k,(k1,2,.)經(jīng)驗分布函數(shù)Fn(X)v3,(X)其中Vn(x)表示隨機事件XX出現(xiàn)的次數(shù)n1_顯然Vn(x)B(n,F(x),那么有EFn(x)F(x)DFn(x)-F(x)1F(x)n補充：2n1*2_22ESnDXESnDXEXDX(EX)n21n2-2SnXiXni1二項分布B(n,p):PXkC：pk(1p)nk,(k0,1,.,

2、n)EX=npDX=np(1-p)k泊松分布P()：PXke,(k0,1,.)k!EXDX1,、均勻分布U(a,b):f(x),(axb)baab12EXDX(ba)212指數(shù)分布：f(x)ex,(x0)F(x)1ex,(x0)11EX-DX正態(tài)分布N(2):f(x)/exp(x)22EXDXnSnE(-)nESnD(咯2(n1)DS22(n1)2n當(dāng)0時,EX0EX2EX43EXDX(1-)21.2統(tǒng)計量：充分統(tǒng)計量、因子分解定理、完備統(tǒng)計量、指數(shù)型分布族T是0的充分統(tǒng)計量f(X1,X2,.,XnTt)與.無關(guān)T是0的完備統(tǒng)計量要使Eg(T)=0,必有g(shù)(T)=0L(f(Xi;h(X1,X2

3、,Xn)g(T(x1,X2,Xn)；)且h非負(fù)T是0的充分統(tǒng)計量f(Xi;C()exob()T(Xi,X2,.,Xn)h(x1,X2,.,Xn)T是.的充分完備統(tǒng)計量f(Xi;C()eX3n()T1(X1,X2,.,Xn)b2()T2(X1,X2,.,Xn)h(X1,X2,.,Xn)(Ti,T2)是(1,2)的充分完備統(tǒng)計量1.3抽樣分布:22分布,t分布,F分布,分位數(shù),正態(tài)總體樣本均值和方差的分布,非正態(tài)總體樣本均值的分布2分布：2x；x|X22,、一(n)f(x)/xn11e2x2(x0)2萬成)22nT分布:X=t(n)當(dāng).Y/nn>2時,ET=0DTF分布:1FF(n2,n)補

4、充:Z=X+Y的概率密度fz(z)f(x,zx)dxf(zy,y)dyf(x,y)是X和Y的聯(lián)合概率密度f(x,xz)xdxrY-、一、Z的概率留度fz(z)Xyg(x)的概率密度fy(y)fx(g1(y)g1(y)函數(shù)：()0x1exdx(1)()(n)(n1)!,(1)1一111B函數(shù)：B(,)°x1(1x)1dxB(,1.4次序統(tǒng)計量及其分布：次序統(tǒng)計量、樣本中位數(shù)X、樣本極差RX(k)的分布密度:fx(k)(x)(T*FF(x)k11F(x)nkf(x),(k1,2,.,n)X(1)的分布密度:fx(i)(x)nf(x)1F(x)n1X(n)的分布密度:fx(x)x(n)nf

5、(x)F(x)n12參數(shù)估計2.1點估計與優(yōu)良性：概念、計無偏估計、均方誤差準(zhǔn)那么、相合估計(一致估計卜漸近正態(tài)估的均方誤差：MSE(,)E()2(E)2假設(shè)是無偏估計,那么MSE(,)對于的任意一個無偏估計量*,那么是的最小方差無偏估計,記MVUE相合估計(一致估計):limEnnlimDn2.2 點估計量的求法：矩估計法、最大似然估計法矩估計法：求出總體的k階原點矩：akEXkxkdF(x;1,2,.,m)解方程組akX：(k=1,2,.,m),得kk(X1,X2,.,Xn)即為所求最大似然估計法:寫出似然函數(shù)L()nlnIf(xi;),求出lnL及似然方程上10i=1,2,.,m解似然方

6、程得到«1區(qū),.,4),即最大似然估計i(X1,X2,.,Xn)i=1,2,.,m補充:似然方程無解時,求出的定義域中使得似然函數(shù)最大的值,即為最大似然估計2.3 MVUE和有效估計：最小方差無偏估計、有效估計T是的充分完備統(tǒng)計量,是的一個無偏估計E(|T)為的惟一的MVUE最小方差無偏估計的求解步驟：求出參數(shù)的充分完備統(tǒng)計量T求出ETg(),那么g1(T)是的一個無偏估計或求出一個無偏估計,然后改寫成用T表示的函數(shù)-.、._1_1綜合,Eg(T)Tg(T)是的MVUE或者:求出的矩估計或ML估計,再求效率,為1貝U必為MVUET是g()的一個無偏估計,那么滿足信息不等式DT(X)g

7、'()2甘.,其中nI()I()Elnf(X;)()E21nf(X;)0,f(X;)為樣本的聯(lián)合分布.最小方差無偏估計到達羅-克拉姆下界有效估計量效率為11無偏估計的效率：e()nI()是的最大似然估計,且是的充分統(tǒng)計量的有效估計)及單側(cè)估計、非正2.4 區(qū)間估計：概念、正態(tài)總體區(qū)間估計(期望、方差、均值差、方差比態(tài)總體參數(shù)和區(qū)間估計一個總體的情況：XN(2)2.,求的置信區(qū)間:2-.未知,求的置信區(qū)間:S；/vnt(n1)*Snt(n、n21),求2的置信區(qū)間:n2(Xi)2i1(n)2(Xi)2i1n2(Xi)2i1未知,求2的置信區(qū)間:(XiX)2n(XiX)2：(n)2n(Xi

8、X)212-(n)22(n1)2(n1)i12(n1)1-兩個總體的情況:21,1),Y-N(；)12的區(qū)間估計N(0,1)2)21n12,.未知時,2的區(qū)間估計:2)(n12未知時,2S2nn2_*2S1nl1扁(n21)除n1n2(ni2)t(n1n221"22nin22)F(n21,n1)2Sim_*2S2n2_(n21,n21)21萬22Gn一2-F1,n11)S2n2飛非正態(tài)總體的區(qū)間估計:X當(dāng)n時,S-nN(0,1)lim-S-1nS1,故用Sn代替Sn-1Xmn1m/1nn=N(0,1)m3統(tǒng)計決策與貝葉斯估計3.1統(tǒng)計決策的根本概念：三要素、統(tǒng)計決策函數(shù)及風(fēng)險函數(shù)三要

9、素：樣本空間和分布族、行動空間(判決空間)、損失函數(shù)L(,d)統(tǒng)計決策函數(shù)d(X):本質(zhì)上是一個統(tǒng)計量,可用來估計未知參數(shù)風(fēng)險函數(shù)：R(,d)EL(,d(X)是關(guān)于的函數(shù)3.2貝葉斯估計：先驗分布與后驗分布、貝葉斯風(fēng)險、貝葉斯估計求樣本X=(X1,X2,.,Xn)的分布：q(x|f(xi|1樣本X與的聯(lián)合概率分布：f(x,)h(|x)m(x)q(x|)()求f(x,)關(guān)于x的邊緣密度m(x)f(x,)d的后驗密度為：h(|x)f(x,)m(x)取L(,d)(d)2時的貝葉斯估計為：E(|x)h(|x)d2R(,d)E(d)2貝葉斯風(fēng)險為：2&(d)ER(,d)E(d)2h(|x)d取L

10、(,d)()(d)2時,貝葉斯估計為:E()|xE()|x補充：C()的貝葉斯估計：取損失函數(shù)L(,d)(C()d)2,那么貝葉斯估計為C()EC()|xC()h(|x)df(x,)df(x,)E(|x)h(|x)ddm(x)f(x,)d3.3minimax估計對決策空間中的決策函數(shù)di(X),d2(X),.,分別求出在上的最大風(fēng)險值maxR(,d)在所有的最大風(fēng)險值中選取相對最小值,此值對應(yīng)的決策函數(shù)就是最小最大決策函數(shù).4假設(shè)檢驗4.1根本概念：零假設(shè)(Ho)與備選假設(shè)(Hi)、檢驗規(guī)那么、兩類錯誤、勢函數(shù)零假設(shè)通常受到保護,而備選假設(shè)是當(dāng)零假設(shè)被拒絕后才能被接受.檢驗規(guī)那么：構(gòu)造一個統(tǒng)計

11、量T(X1,X2,.,X3),當(dāng)H0服從某一分布,當(dāng)Ho不成立時,T的偏大偏小特征.據(jù)此,構(gòu)造拒絕域W第一類錯誤(棄真錯誤)：PTW|H0為真第二類錯誤(存?zhèn)五e誤)：PTW|Ho為假1.XW勢函數(shù)：()E(X)PXW(X)'0,XW.當(dāng)0時,()為犯第一類錯誤的概率1時,1()為犯第二類錯誤的概率4.2正態(tài)總體均值與方差的假設(shè)檢驗:t檢驗、X2檢驗、F檢驗、單邊檢驗一個總體的情況：XN(2)2,檢驗H0：Hi:0：UN(0,1)H0：Hi：0：TS：；n1),檢驗H0：Hi：n(Xii12)22(n)未知,檢驗H0：Hi：n2(XiX)i1(n1)兩個總體的情況:N(12),N(I)2

12、.未知時,檢驗H0：1H1：n1n2(必n22).(必1)S1*21(n21)S*n22未知時,檢驗H0：2H1：12單邊檢驗：舉例說明,2,檢驗H0：t(n1n22)構(gòu)造U1立時U1為WUu4.3非參數(shù)假設(shè)檢驗方法:22擬合優(yōu)度檢驗：H°：R*2S1n1HF(nS2n21,n21)H1：N(0,1),給定顯著性水平,有PU1當(dāng)H0成defTU,因此PU.一nuPU1故拒絕域2.擬合優(yōu)度檢驗、科爾莫戈羅夫檢驗、斯米爾諾夫檢驗m(Ninp0)22/Pi0H1:pa.W(mnPi0r1)其中Ni表示樣本中取值為i的個數(shù),r表示分布中未知參數(shù)的個數(shù)科爾莫戈羅夫檢驗：Ho：F(x)Fo(x)

13、Hi:F(x)Fo(x)實際檢驗的是Fn(x)F0(x)W眄supFn(x)Fo(x)Dn,斯米爾諾夫檢驗:Ho：F(x)G(x)Hi：F(x)G(x)實際檢驗的是Fn(x)Gn(x)WlimsupFni(x)Gn2(x)Dni,n2,nx4.4似然比檢驗明確零假設(shè)和備選假設(shè)：Ho:oH1:|(xx)SUpL(xi,xn；)構(gòu)造似然比:L1(x1,.,xn)Lo(xi,.,xn)SUpL(xi,.,xn；)o拒絕域：W(xi,.,xn)5方差分析5.i單因素方差分析：數(shù)學(xué)模型、離差平方和分解、顯著性檢驗、參數(shù)估計Xijiij數(shù)學(xué)模型jN(o,2),(i=i,2,.,m;j各j相互獨立mni總離

14、差平方和qt(XjX)2iijimni組內(nèi)離差平方和qe(XjXj2iijim組間離差平方和QAni(XiX)2iiQA構(gòu)造統(tǒng)計量F(i)QF(rQeQe(nr)ii2(XiXkN(ik,()且-nink,2,.,ni)Ho：i2QtQeQAQ2E(,)2nr當(dāng)Ho成立時,E(2)2rii,nr),當(dāng)Ho不成立時,有偏大特征應(yīng)用:假設(shè)原始數(shù)據(jù)比擬大而且集中,可減去同一數(shù)值XijXijk再解題口1輔助量：P-(niniXij)2,Q112-(Xij)2,Ri1nij1niXij2QaQP,QeQ,Qtrp5.2兩因素方差分析：數(shù)學(xué)模型、離差平方和分解、顯著性檢驗數(shù)學(xué)模型X八ij2N(0,),(i

15、=1,2,.,r;j=1,2,.,s)H01:各/目互獨立總離差平方和QT(Xjj1X)2QTQeQbQa組內(nèi)離差平方和qeni_(XijXi?X?jXi)2j1E(Qe(r1)(s1)因素B引起的離差平方和QbX)2當(dāng)H0成立時,qbE(s1因素A引起的離差平方和Qas(Xi?X)2當(dāng)H0成立時,E(Qa輔助量：p構(gòu)造統(tǒng)計量:sX八ijj1,QiX八ij,QiiX八ij,RsX2八ijj1QiP,QbQiip,QeQiQiiFbQa(r1)Qe(r1)(s1)Qb(s1)Qe(r1)(s1)6回歸分析6.1一元線性回歸:b2b*2)回歸模型、回歸模型:Xi2N(0,)各/目互獨立QaQeF(

16、r1,(r1)(s1)QeF(s1,(r1)(s1)未知參數(shù)的估計(3、(T2)、參數(shù)估計量的分布(3aY0i=1,2,.,n.(XX)(YY)i1(xi1X)2222的估計：1n一(Yni1Y)221(一nn(xi1-N(,-),一、2(Xx)、i1)分布：_2N(,1x-2)n(Xx)2i1_cc2cx)SnYSnx*2n6.2多元線性回歸：回歸模型、參數(shù)估計、分布YXi回歸模型:iN(0,2In)i=1,2,n.各i相互獨立參數(shù)估計：XtY(XtX)(XTX)1XTY7多元分析初步7.1 定義及性質(zhì)：定義、性質(zhì)XNp(,)其中為X的均值向量,為X的協(xié)方差矩陣Y=CX+b,那么YNp(Cb,