2025年大學(xué)《統(tǒng)計學(xué)》專業(yè)題庫——非參數(shù)回歸方法在統(tǒng)計學(xué)中的應(yīng)用考試時間：______分鐘總分：______分姓名：______一、選擇題（請將正確選項的字母填入括號內(nèi)。每題3分，共30分）1.在變量間關(guān)系未知或不滿足參數(shù)模型假設(shè)時，通?？紤]使用()。A.線性回歸B.邏輯回歸C.非參數(shù)回歸D.生存分析2.Nadaraya-Watson核回歸估計式中，h通常被稱為()。A.核函數(shù)B.帶寬C.權(quán)重D.回歸系數(shù)3.下列哪種核函數(shù)滿足對稱性和積分為1的條件？()A.Epanechnikov核B.Cauchy核C.三角核D.高斯核4.影響函數(shù)主要用于()。A.估計模型參數(shù)B.估計模型方差C.模型診斷，識別強(qiáng)影響點(diǎn)D.選擇核帶寬5.交叉驗(yàn)證（如留一法、k折交叉驗(yàn)證）在選擇非參數(shù)回歸帶寬的主要目的是()。A.使模型參數(shù)最小化B.使模型預(yù)測誤差最小化C.使模型解釋度最大化D.使模型復(fù)雜度最小化6.與核回歸相比，LOESS的主要優(yōu)勢在于()。A.對異常值不敏感B.能自動選擇帶寬C.更適合處理非線性關(guān)系，尤其是分段線性關(guān)系D.計算效率更高7.非參數(shù)回歸估計的()隨樣本量的增大而趨于真實(shí)回歸函數(shù)。A.方差B.偏差C.標(biāo)準(zhǔn)誤D.A和B8.對于給定的數(shù)據(jù)集和核函數(shù)，增大帶寬h，核回歸估計()。A.更平滑，偏差增大，方差減小B.更平滑，偏差減小，方差增大C.更不平滑，偏差增大，方差增大D.更不平滑，偏差減小，方差減小9.在非參數(shù)回歸模型中，選擇核帶寬的主要理論依據(jù)是()。A.使殘差平方和最小B.保證估計的漸近正態(tài)性C.平衡偏差-方差復(fù)合誤差D.使核函數(shù)滿足特定條件10.若使用高斯核進(jìn)行核回歸，則點(diǎn)x_0處的估計值是()的加權(quán)平均。A.所有點(diǎn)y_iB.與x_0距離最近的y_iC.所有點(diǎn)y_i，權(quán)重與|x-x_0|的平方成反比D.所有點(diǎn)y_i，權(quán)重與|x-x_0|成反比二、填空題（請將答案填入橫線上。每空3分，共30分）1.非參數(shù)回歸的核心思想是在每個局部區(qū)域使用________來估計回歸函數(shù)。2.核回歸估計式k(h)=Σλ_i(x_i,x_0)y_i可以寫為k(h)=Σ________y_i，其中λ_i(x_i,x_0)是加權(quán)函數(shù)。3.影響函數(shù)I(x_0)的定義為I(x_0)=________/d(x_0)^2，其中d(x_0)是x_0處的殘差。4.LOESS方法通過在數(shù)據(jù)點(diǎn)附近擬合________來進(jìn)行局部加權(quán)回歸。5.選擇非參數(shù)回歸帶寬時，常用的交叉驗(yàn)證方法包括________和________。6.如果非參數(shù)回歸模型假設(shè)檢驗(yàn)的p值很小，則表明________在統(tǒng)計上顯著。7.Nadaraya-Watson估計式在x_0處的值是________的加權(quán)平均，權(quán)重由核函數(shù)和帶寬決定。8.對于非參數(shù)回歸，置信區(qū)間的構(gòu)建通?；赺_______分布或________方法。9.核回歸中，帶寬h的選擇直接影響模型的________和________。10.LOESS方法中的帶寬和階數(shù)（degree）都是重要的________參數(shù)。三、簡答題（請簡要回答下列問題。每題10分，共40分）1.簡述Nadaraya-Watson核回歸估計的基本思想及其推導(dǎo)過程。2.解釋什么是影響函數(shù)？它在非參數(shù)回歸診斷中有什么作用？3.比較核回歸和局部多項式回歸（LOESS）的主要區(qū)別和適用場景。4.簡述選擇非參數(shù)回歸模型帶寬的主要方法及其優(yōu)缺點(diǎn)。四、計算題（請展示必要的計算步驟。每題15分，共30分）1.假設(shè)給定數(shù)據(jù)點(diǎn)(x,y)=(1,2),(2,3),(3,5)和高斯核k(u)=(2/√π)*exp(-u^2/2)。令帶寬h=1，計算點(diǎn)x=2處的Nadaraya-Watson核回歸估計值。2.假設(shè)對數(shù)據(jù)集(x_i,y_i)(i=1,2,...,n)使用LOESS方法擬合一個線性模型（即LOESS的階數(shù)為1），帶寬h使得每個局部窗口大約包含50%的數(shù)據(jù)點(diǎn)。請解釋當(dāng)x_new位于數(shù)據(jù)集分布的左側(cè)區(qū)域（遠(yuǎn)離大部分?jǐn)?shù)據(jù)點(diǎn)）時，LOESS估計值是如何形成的？它與在x_new處直接使用所有數(shù)據(jù)點(diǎn)進(jìn)行簡單線性回歸得到的值有何不同？---試卷答案一、選擇題1.C2.B3.D4.C5.B6.C7.D8.B9.C10.C二、填空題1.局部線性回歸（或局部常數(shù)回歸）2.加權(quán)函數(shù)λ_i(x_i,x_0)3.殘差(y_i-?_i)4.線性（或多項式）模型5.留一法，k折交叉驗(yàn)證6.某個特定點(diǎn)（或某條特定曲線）對模型的影響是顯著的7.數(shù)據(jù)點(diǎn)y_i（或局部數(shù)據(jù)y_i）8.漸近正態(tài)，Bootstrap9.平滑度，估計方差（或偏差和方差）10.調(diào)整（或控制）三、簡答題1.答案：Nadaraya-Watson核回歸的基本思想是在點(diǎn)x_0附近，使用加權(quán)平均的方式來估計回歸函數(shù)f(x_0)。權(quán)重由一個核函數(shù)k(u)和帶寬h決定，核函數(shù)衡量每個數(shù)據(jù)點(diǎn)x_i與x_0的相似度，帶寬控制核函數(shù)影響的范圍。推導(dǎo)過程通常從局部加權(quán)回歸出發(fā)，令加權(quán)函數(shù)為k(h*(x-x_0))，然后利用核函數(shù)的性質(zhì)進(jìn)行積分計算，最終得到估計式f^(h)(x_0)=Σk(h*(x_i-x_0))*y_i/Σk(h*(x_i-x_0))。解析思路：考察對核回歸核心思想和數(shù)學(xué)推導(dǎo)的掌握。需要說明其基于加權(quán)平均的思想，明確權(quán)重由核函數(shù)和帶寬決定，并簡單提及推導(dǎo)中核函數(shù)的使用。2.答案：影響函數(shù)I(x_0)用于衡量數(shù)據(jù)點(diǎn)x_0（或觀測值y_0）對非參數(shù)回歸擬合結(jié)果的影響程度。它定義為I(x_0)=(?_0-?_0(x_0,x_i,y_i,h))/d(x_0)^2，其中?_0是包含x_0的模型估計值，?_0(x_0,x_i,y_i,h)是移除x_0后的模型在x_0處的估計值，d(x_0)是x_0處的殘差(y_0-?_0)。絕對值大的影響函數(shù)表明該點(diǎn)對模型影響顯著，可能是異常值或模型誤設(shè)定點(diǎn)，需要進(jìn)行診斷。解析思路：考察對影響函數(shù)定義、計算公式及其診斷意義的理解。需要給出影響函數(shù)的標(biāo)準(zhǔn)表達(dá)式，解釋其分子代表擬合差異，分母是殘差平方，并說明其用于識別強(qiáng)影響點(diǎn)。3.答案：主要區(qū)別在于平滑方式和靈活性。核回歸是固定帶寬下對整個樣本點(diǎn)的加權(quán)平均，權(quán)重隨x與x_0的距離呈單調(diào)變化。LOESS則是在每個局部窗口內(nèi)進(jìn)行回歸，帶寬控制窗口大小，回歸階數(shù)（degree）控制局部擬合的復(fù)雜度。核回歸對異常值更敏感，而LOESS通過局部擬合對異常值有更好的魯棒性。核回歸在帶寬選擇上更直接，而LOESS需要同時選擇帶寬和階數(shù)。核回歸理論性質(zhì)（如一致性）研究更成熟，LOESS更靈活，能更好地捕捉局部的非線性結(jié)構(gòu)和轉(zhuǎn)折點(diǎn)。解析思路：考察對兩種核心非參數(shù)回歸方法在機(jī)制、對異常值敏感度、參數(shù)選擇、靈活性和魯棒性等方面的比較。4.答案：選擇非參數(shù)回歸帶寬的主要目的是平衡模型的偏差和方差，以獲得最小復(fù)合誤差。過小的帶寬會導(dǎo)致模型偏差小但方差大，擬合過于“崎嶇”，無法反映整體趨勢；過大的帶寬會導(dǎo)致模型方差小但偏差大，擬合過于平滑，丟失重要信息。常用方法包括：*交叉驗(yàn)證：如留一法（Leave-One-OutCV,LOOCV），k折交叉驗(yàn)證（k-foldCV）。通過在不同帶寬下計算預(yù)測誤差（如MSE），選擇使交叉驗(yàn)證誤差最小的帶寬。LOOCV計算量較大但精確，k折CV計算量適中。*基于正則化的方法：如正則化最小二乘法。*啟發(fā)式方法：如基于樣本密度或距離的方法，或根據(jù)經(jīng)驗(yàn)規(guī)則（如n的某個分?jǐn)?shù)）。交叉驗(yàn)證是最常用且理論上較有依據(jù)的方法，但計算成本較高。解析思路：考察對帶寬選擇重要性的理解（偏差-方差平衡）以及常用選擇方法的掌握，特別是交叉驗(yàn)證的原理和類型。四、計算題1.答案：f^(h)(2)=Σk(h*(x_i-2))*y_i/Σk(h*(x_i-2))=(k(1)*2+k(0)*3+k(-1)*5)/(k(1)+k(0)+k(-1))=(exp(-1)*2+1*3+exp(-1)*5)/(exp(-1)+1+exp(-1))=(2*(1/√π)*exp(-1)+3+5*(1/√π)*exp(-1))/(2*(1/√π)*exp(-1)+1)=(7*(1/√π)*exp(-1)+3)/(2*(1/√π)*exp(-1)+1)≈(7*0.6065+3)/(2*0.6065+1)≈(4.2455+3)/(1.213+1)≈7.2455/2.213≈3.275解析思路：考察對Nadaraya-Watson估計式公式的理解和具體計算能力。要求學(xué)生明確公式，代入給定的數(shù)據(jù)點(diǎn)(x_i,y_i)=(1,2),(2,3),(3,5)和帶寬h=1，以及高斯核函數(shù)k(u)=(2/√π)*exp(-u^2/2)的值（特別是k(0)=1,k(±1)=exp(-1)≈0.3679）。需要展示清晰的加權(quán)求和過程。2.答案：當(dāng)x_new位于數(shù)據(jù)集左側(cè)區(qū)域且遠(yuǎn)離大部分?jǐn)?shù)據(jù)點(diǎn)時，LOESS方法會找到一個包含x_new的局部窗口（由帶寬h決定）。在這個窗口內(nèi)，所有數(shù)據(jù)點(diǎn)(x_i,y_i)都會參與局部線性回歸（因?yàn)長OESS階數(shù)為1）。由于x_new遠(yuǎn)離該窗口內(nèi)的其他數(shù)據(jù)點(diǎn)，它在該局部線性回歸模型中的杠桿作用（leverage）會相對較大。這意味著x_new的位置對局部回歸線的斜率有較大影響。因此，LOESS估計值?_new主要由x_new附近的（杠桿作用大的）數(shù)據(jù)點(diǎn)決定，并且很可能接近這些靠近x_new的點(diǎn)的y值。與簡單線性回歸相比，簡單線性回歸使用所有數(shù)據(jù)點(diǎn)計算整個樣本的回歸線，x_new的位置影響的是