數(shù)理統(tǒng)計試題及答案1.設(shè)隨機變量X的密度函數(shù)為f(x;θ)=θ(1+x)^{-(θ+1)},?x>0,?θ>0.(1)求θ的矩估計量θ?_M；(2)求θ的最大似然估計量θ?_L；(3)計算Fisher信息量I(θ)，并給出θ?_L的漸近分布；(4)構(gòu)造θ的一個無偏估計量，并比較其方差與Cramér–Rao下界?！敬鸢概c解析】(1)先求總體一階矩E[X]=∫_0^∞x·θ(1+x)^{-(θ+1)}dx令u=1+x，則E[X]=θ∫_1^∞(u?1)u^{-(θ+1)}du=θ[∫_1^∞u^{-θ}du?∫_1^∞u^{-(θ+1)}du]=θ[1/(θ?1)?1/θ]=1/(θ?1),?θ>1.令樣本均值X?=1/(θ?1)，解得θ?_M=1+1/X?.(2)對樣本X_1,…,X_n，似然函數(shù)L(θ)=θ^n∏_{i=1}^n(1+X_i)^{-(θ+1)}.對數(shù)似然?(θ)=nlnθ?(θ+1)∑_{i=1}^nln(1+X_i).令導(dǎo)數(shù)為零?′(θ)=n/θ?∑_{i=1}^nln(1+X_i)=0?θ?_L=n/∑_{i=1}^nln(1+X_i).(3)計算二階導(dǎo)數(shù)?″(θ)=?n/θ^2，故觀測信息I_n(θ)=?E[?″(θ)]=n/θ^2.單樣本Fisher信息量I(θ)=1/θ^2。由MLE漸近理論，√n(θ?_L?θ)?dN(0,θ^2).(4)令T=θ?_L。由于E[θ?_L]不易直接求，采用無偏化技巧：注意到∑ln(1+X_i)服從Gamma(n,θ)分布，其密度f_Y(y)=θ^ny^{n?1}e^{?θy}/Γ(n),?y>0.于是E[1/Y]=∫_0^∞(1/y)·θ^ny^{n?1}e^{?θy}/Γ(n)dy=θ^n/Γ(n)·Γ(n?1)/θ^{n?1}=θ/(n?1),?n>1.因此E[n/Y]=nθ/(n?1)?令θ^*=(n?1)/Y=(n?1)/∑ln(1+X_i)，則E[θ^]=θ，即θ^無偏。其方差Var(θ^*)=E[(n?1)^2/Y^2]?θ^2=(n?1)^2·θ^2/[(n?1)(n?2)]?θ^2=θ^2/(n?2),?n>2.Cramér–Rao下界為1/(nI(θ))=θ^2/n。比較：Var(θ^*)=θ^2/(n?2)>θ^2/n，但差距隨n增大而消失。2.設(shè)(X_i,Y_i),i=1,…,n來自二元正態(tài)N_2(μ,Σ)，其中μ=(μ_1,μ_2)^T,?Σ=[[σ_1^2,ρσ_1σ_2],[ρσ_1σ_2,σ_2^2]].(1)寫出μ_1?μ_2的1?α置信區(qū)間；(2)檢驗H_0:ρ=0vsH_1:ρ≠0，給出檢驗統(tǒng)計量及其零分布；(3)若n=30，樣本相關(guān)系數(shù)r=0.45，求p值并給出結(jié)論（α=0.05）?！敬鸢概c解析】(1)令D_i=X_i?Y_i，則D_i~N(μ_D,σ_D^2)，其中μ_D=μ_1?μ_2,?σ_D^2=σ_1^2+σ_2^2?2ρσ_1σ_2。樣本均值D?與樣本方差S_D^2獨立，(D??μ_D)/(S_D/√n)~t_{n?1}.故1?α置信區(qū)間為D?±t_{n?1,α/2}·S_D/√n.(2)檢驗ρ=0采用Pearson相關(guān)系數(shù)r=∑(X_i?X?)(Y_i??)/√[∑(X_i?X?)^2∑(Y_i??)^2].在H_0下，T=r√(n?2)/√(1?r^2)~t_{n?2}.拒絕域|T|>t_{n?2,α/2}.(3)代入n=30,r=0.45，T=0.45√28/√(1?0.45^2)=2.53.雙側(cè)p值=2P(t_{28}>2.53)=0.017<0.05，拒絕H_0，認(rèn)為ρ顯著不為零。3.某工廠欲估計產(chǎn)品缺陷率p。質(zhì)檢員抽取N=800件，發(fā)現(xiàn)缺陷品36件。(1)給出p的95%置信區(qū)間；(2)若希望估計誤差不超過0.01，求所需最小樣本量；(3)采用Bayes方法，取Beta(2,2)為先驗，求后驗均值及95%可信區(qū)間；(4)比較經(jīng)典與Bayes區(qū)間長度并解釋差異?！敬鸢概c解析】(1)經(jīng)典Wald區(qū)間p?=36/800=0.045，SE=√[p?(1?p?)/N]=0.0073，95%區(qū)間0.045±1.96×0.0073=[0.0306,0.0594]。Wilson區(qū)間更精確：[p?+z^2/(2N)±z√{p?(1?p?)/N+z^2/(4N^2)}]/[1+z^2/N]=[0.0315,0.0601]。(2)要求半寬0.01，按最壞p=0.5計算n≥(z_{0.975}/0.01)^2·0.25=9604。若采用當(dāng)前p?=0.045，n≥(1.96/0.01)^2·0.045·0.955≈1650，實際取n=1650即可。(3)先驗Be(2,2)，似然Bin(36|N,p)，后驗Be(2+36,2+800?36)=Be(38,766)。后驗均值=38/(38+766)=0.0470。95%可信區(qū)間用Beta分位數(shù)：[Be_{0.025}(38,766),Be_{0.975}(38,766)]=[0.0335,0.0620]。(4)經(jīng)典Wilson長度=0.0286，Bayes長度=0.0285，幾乎相同；Bayes區(qū)間略右移，因先驗均值0.5向先驗“拉”了少許，但數(shù)據(jù)足夠大，影響微小。4.設(shè)X_1,…,X_niid服從Laplace分布，密度f(x;μ,σ)=1/(2σ)exp(?|x?μ|/σ),?μ∈?,σ>0.(1)求μ與σ的極大似然估計；(2)證明μ?_L是樣本中位數(shù)，并給出其漸近分布；(3)構(gòu)造σ的一個無偏估計量；(4)當(dāng)n=101，觀測中位數(shù)m=3.2，求μ的95%置信區(qū)間?！敬鸢概c解析】(1)對數(shù)似然?(μ,σ)=?nln(2σ)?1/σ∑|X_i?μ|.對μ：最小化∑|X_i?μ|，得μ?_L=median{X_i}.對σ：令??/?σ=0?σ?_L=1/n∑|X_i?μ?_L|.(2)由(1)已得μ?_L=median。Laplace下，√n(μ?_L?μ)?dN(0,σ^2).這是因為密度在μ處值為1/(2σ)，故漸近方差1/[4nf(μ)^2]=σ^2/n。(3)令S=∑|X_i?μ?_L|。已知|X_i?μ|~Exp(1/σ)，但μ?_L替換后分布復(fù)雜。利用對稱性，可證E[S]=(n?1)σ，故σ^*=S/(n?1)無偏。(4)n=101，σ?_L=∑|X_i?m|/101，但σ未知。用σ?_L估計，漸近方差σ^2/n≈σ?_L^2/101。95%區(qū)間m±1.96·σ?_L/√101。若未給出σ?_L，可用MAD估計：MAD=median|X_i?m|，對Laplace有E[MAD]=σln2，故σ≈MAD/ln2，代入得區(qū)間3.2±1.96·(MAD/ln2)/10.05。5.線性模型Y=Xβ+ε，ε~N_n(0,σ^2I)，X為n×p列滿秩。(1)證明β?=(X^TX)^{-1}X^TY是BLUE；(2)推導(dǎo)σ^2的無偏估計及其分布；(3)對線性假設(shè)H_0:Cβ=d，其中C為q×p行滿秩，給出F檢驗統(tǒng)計量；(4)若n=50,p=5,q=2，顯著性水平α=0.05，求拒絕域臨界值?！敬鸢概c解析】(1)高斯–馬爾可夫定理：對任意線性組合c^Tβ，Var(c^Tβ?)=σ^2c^T(X^TX)^{-1}c最小，故β?是BLUE。(2)殘差平方和RSS=Y^T(I?H)Y，H=X(X^TX)^{-1}X^T。RSS~σ^2χ^2_{n?p}，故σ?^2=RSS/(n?p)無偏。(3)受約束模型殘差RSS_H=(Y?Xβ?_H)^T(Y?Xβ?_H)，其中β?_H滿足Cβ=d。F=[(RSS_H?RSS)/q]/[RSS/(n?p)]~F_{q,n?p}underH_0.(4)查表F_{2,45,0.95}=3.20，拒絕域F>3.20。6.設(shè)X_1,…,X_n來自Poisson(λ)。(1)求λ的UMVUE；(2)檢驗H_0:λ=λ_0vsH_1:λ>λ_0，構(gòu)造一致最優(yōu)勢檢驗；(3)若n=20，λ_0=3，觀測到T=∑X_i=75，求p值；(4)給出λ的Bayes估計，先驗Gamma(a,b)，并討論后驗穩(wěn)健性?！敬鸢概c解析】(1)T=∑X_i是完全充分統(tǒng)計量，E[T/n]=λ，故T/n是UMVUE。(2)Poisson屬指數(shù)族，對單邊檢驗存在UMP。拒絕域T>k，臨界值k滿足P_{λ_0}(T>k)=α。(3)T~Po(60)underH_0，p=P(T≥75)=1?P(T≤74)=0.021<0.05，拒絕。(4)先驗Ga(a,b)，后驗Ga(a+T,b+n)，Bayes估計λ?_B=(a+T)/(b+n)。當(dāng)a,b→0得λ?_B≈T/n，與MLE一致，后驗穩(wěn)健。7.bootstrap與jackknife比較(1)定義jackknife估計偏差與方差公式；(2)對樣本中位數(shù)，說明為何jackknife不穩(wěn)健；(3)用bootstrap估計中位數(shù)標(biāo)準(zhǔn)誤，給出算法步驟；(4)若樣本量n=1001，原始中位數(shù)m=5.3，B=5000次bootstrap中位數(shù)標(biāo)準(zhǔn)差0.42，求95%bootstrap置信區(qū)間。【答案與解析】(1)令θ?_{(i)}為刪除第i點之估計，θ?_{(·)}=1/n∑θ?_{(i)}。偏差估計bias_{JK}=(n?1)(θ?_{(·)}?θ?)。方差估計Var_{JK}=(n?1)/n∑(θ?_{(i)}?θ?_{(·)})^2。(2)中位數(shù)在n奇偶變化時定義跳躍，刪除一點可能使中位數(shù)突變，導(dǎo)致jackknife方差估計不穩(wěn)定。(3)bootstrap算法：forb=1…B從原始樣本有放回抽n個，得中位數(shù)m^*_b；計算sd_{boot}=√[1/(B?1)∑(m^_b?m^_{(·)})^2]。(4)用percentile法，排序bootstrap中位數(shù)，取2.5%與97.5%分位數(shù)。若正態(tài)近似，5.3±1.96×0.42=[4.48,6.12]。8.隨機效應(yīng)模型Y_{ij}=μ+α_i+ε_{ij},?α_i~N(0,σ_α^2),?ε_{ij}~N(0,σ^2),?i=1,…,a;j=1,…,b.(1)給出ANOVA表并定義均方；(2)推導(dǎo)σ_α^2與σ^2的ANOVA估計；(3)檢驗H_0:σ_α^2=0的統(tǒng)計量；(4)若a=10,b=6，MSA=42.3，MSE=8.7，求σ?_α^2并解釋實際含義?！敬鸢概c解析】(1)來源??df??SS??MS組間?a?1?SSA=∑∑(Y?_{i·}?Y?_{··})^2?MSA=SSA/(a?1)組內(nèi)?a(b?1)SSE=∑∑(Y_{ij}?Y?_{i·})^2?MSE=SSE/[a(b?1)](2)E[MSA]=σ^2+bσ_α^2,?E[MSE]=σ^2。故σ?^2=MSE,?σ?_α^2=(MSA?MSE)/b。(3)F=MSA/MSE~F_{a?1,a(b?1)}underH_0。(4)σ?_α^2=(42.3?8.7)/6=5.6，表明組間變異顯著大于組內(nèi)，生產(chǎn)線間差異不可忽略。9.非參數(shù)密度估計(1)寫出核密度估計公式，并解釋帶寬h作用；(2)推導(dǎo)AMISE最優(yōu)帶寬h_{opt}對高斯核與正態(tài)f的表達(dá)式；(3)若樣本n=500，σ?=2.1，求h_{opt}；(4)討論自適應(yīng)帶寬與固定帶寬優(yōu)劣?！敬鸢概c解析】(1)f?_h(x)=1/(nh)∑K((x?X_i)/h)，K為核函數(shù)。h控制平滑：過大過平滑，過小過波動。(2)對K=?,f=N(μ,σ^2)，h_{opt}=[8√π∫K^2/(∫f″^2)]^{1/5}n^{?1/5}=[8√π·1/(2√π)]^{1/5}σn^{?1/5}=1.06σn^{?1/5}.(3)h_{opt}=1.06×2.1×500^{?0.2}=0.79。(4)自適應(yīng)帶寬在尾部稀疏處放大，峰值處減小，可減少偏差；但計算復(fù)雜，需pilot估計。10.高維回歸模型Y=Xβ+ε，ε~N_n(0,σ^2I)，p>n。(1)說明為何OLS不可行；(2)給出Lasso優(yōu)化問題并解釋稀疏性；(3)推導(dǎo)Lasso的