2025年大學(xué)《應(yīng)用統(tǒng)計(jì)學(xué)》專業(yè)題庫(kù)——高維數(shù)據(jù)處理與特征選擇考試時(shí)間：______分鐘總分：______分姓名：______一、選擇題（每小題2分，共10分。請(qǐng)將正確選項(xiàng)的代表字母填寫在括號(hào)內(nèi)。）1.在高維數(shù)據(jù)場(chǎng)景下，下列哪種現(xiàn)象被稱為“維度災(zāi)難”？(A)數(shù)據(jù)量隨維度增加而急劇增長(zhǎng)(B)特征之間的相關(guān)性隨維度增加而增強(qiáng)(C)體積隨維度增加呈指數(shù)級(jí)增長(zhǎng)，使得數(shù)據(jù)點(diǎn)在高維空間中變得稀疏(D)模型訓(xùn)練所需的計(jì)算資源隨維度增加而線性增加2.下列哪種方法屬于過(guò)濾法進(jìn)行特征選擇？(A)使用決策樹(shù)模型評(píng)估特征重要性并進(jìn)行選擇(B)通過(guò)計(jì)算特征與目標(biāo)變量的互信息來(lái)選擇信息量大的特征(C)利用Lasso回歸模型訓(xùn)練后篩選出系數(shù)不為零的特征(D)采用遺傳算法搜索最優(yōu)特征子集3.主成分分析（PCA）的核心目標(biāo)是？(A)直接預(yù)測(cè)目標(biāo)變量(B)將數(shù)據(jù)投影到低維空間，并盡可能保留原始數(shù)據(jù)的主要變異信息(C)篩選出與目標(biāo)變量相關(guān)性最高的少數(shù)幾個(gè)特征(D)對(duì)特征進(jìn)行非線性變換以提取更多信息4.在高維數(shù)據(jù)中，特征之間存在高度相關(guān)性的問(wèn)題是？(A)會(huì)增加過(guò)濾法特征選擇的難度(B)會(huì)導(dǎo)致包裹法模型評(píng)估結(jié)果不穩(wěn)定(C)使得數(shù)據(jù)在高維空間中更加稀疏(D)上述所有問(wèn)題的原因5.Lasso回歸在模型訓(xùn)練過(guò)程中，通過(guò)引入什么正則項(xiàng)來(lái)實(shí)現(xiàn)特征選擇？(A)特征平方和的懲罰項(xiàng)(B)特征絕對(duì)值和的懲罰項(xiàng)(C)模型系數(shù)與目標(biāo)變量偏差的懲罰項(xiàng)(D)殘差平方和的懲罰項(xiàng)二、填空題（每空2分，共10分。請(qǐng)將答案填寫在橫線上。）6.當(dāng)樣本量小于特征數(shù)量時(shí)，直接使用最小二乘法估計(jì)普通線性回歸模型參數(shù)將會(huì)______。7.特征選擇方法主要可以分為三大類：過(guò)濾法、______和嵌入法。8.在進(jìn)行PCA降維前，通常需要對(duì)原始數(shù)據(jù)進(jìn)行______中心化處理。9.評(píng)價(jià)一個(gè)特征選擇方法好壞的指標(biāo)之一是保留度（p保留度），它衡量在刪除被選特征后，模型性能下降的______。10.使用Lasso回歸進(jìn)行特征選擇時(shí)，正則化參數(shù)λ的取值越大，被選中的特征數(shù)量通常越______。三、簡(jiǎn)答題（每題5分，共20分。）11.簡(jiǎn)述高維數(shù)據(jù)帶來(lái)的主要挑戰(zhàn)及其在統(tǒng)計(jì)分析中的影響。12.比較過(guò)濾法、包裹法和嵌入法這三種特征選擇方法的主要區(qū)別。13.簡(jiǎn)要解釋主成分分析（PCA）的基本思想及其在數(shù)據(jù)降維中的作用。14.在實(shí)際應(yīng)用中，選擇使用特征選擇還是降維方法（如PCA）可能需要考慮哪些因素？四、計(jì)算題（每題10分，共20分。）15.假設(shè)通過(guò)計(jì)算得到某數(shù)據(jù)集進(jìn)行PCA后的前兩個(gè)主成分的載荷向量（即標(biāo)準(zhǔn)化的PC1和PC2在各原始特征上的系數(shù)）如下：PC1:(0.6,0.8,0)PC2:(0,0.3,0.9)該數(shù)據(jù)集共有3個(gè)原始特征，分別記為X1,X2,X3。請(qǐng)計(jì)算第一個(gè)樣本點(diǎn)（X1=1,X2=2,X3=3）在PC1和PC2上的得分。16.假設(shè)使用Lasso回歸對(duì)某數(shù)據(jù)集進(jìn)行特征選擇，得到模型訓(xùn)練后的系數(shù)估計(jì)值為：β0=5,β1=0.2(特征X1),β2=0(特征X2),β3=-0.5(特征X3),β4=0(特征X4)。請(qǐng)根據(jù)Lasso回歸的特征選擇原則，確定被選中的特征及其系數(shù)。五、綜合應(yīng)用題（共20分。）17.假設(shè)你正在研究一種新的疾病診斷方法，收集了100個(gè)病人樣本，每個(gè)樣本測(cè)量了1000個(gè)生物標(biāo)志物（特征），并用一個(gè)二元變量（0表示健康，1表示患?。┍硎酒涫欠窕加性摷膊　Ｕ?qǐng)?jiān)O(shè)計(jì)一個(gè)包含數(shù)據(jù)預(yù)處理、特征選擇和模型評(píng)估的分析流程來(lái)幫助診斷該疾病。要求：a.提出至少兩種可能的預(yù)處理步驟，并說(shuō)明理由。b.選擇一種特征選擇方法，并說(shuō)明選擇該方法的理由。c.簡(jiǎn)述你會(huì)如何選擇一個(gè)合適的機(jī)器學(xué)習(xí)模型來(lái)預(yù)測(cè)疾病，以及如何評(píng)估所選模型的性能。d.討論在上述分析中，特征選擇和模型評(píng)估如何協(xié)同工作以改善最終診斷效果。試卷答案一、選擇題1.(C)2.(B)3.(B)4.(D)5.(B)二、填空題6.不可識(shí)別（或無(wú)解，或不確定）7.包裹法8.標(biāo)準(zhǔn)化（或中心化）9.比例（或程度）10.少三、簡(jiǎn)答題11.解析思路：高維數(shù)據(jù)挑戰(zhàn)主要在于“維度災(zāi)難”，導(dǎo)致數(shù)據(jù)稀疏、距離度量和分類難度增加、計(jì)算復(fù)雜度急劇上升。在統(tǒng)計(jì)分析中，它使得傳統(tǒng)統(tǒng)計(jì)方法（如最小二乘法）失效或需要大量樣本才能有效，特征冗余和多重共線性問(wèn)題嚴(yán)重，增加了模型解釋的難度。需要專門的預(yù)處理、降維或特征選擇技術(shù)來(lái)應(yīng)對(duì)。12.解析思路：過(guò)濾法基于特征本身的統(tǒng)計(jì)屬性（與目標(biāo)變量的關(guān)系）獨(dú)立于模型進(jìn)行選擇；包裹法將模型性能作為評(píng)價(jià)標(biāo)準(zhǔn)，通過(guò)搜索算法選擇特征子集，計(jì)算成本高；嵌入法在模型訓(xùn)練過(guò)程中自動(dòng)完成選擇（如Lasso的懲罰項(xiàng)）。核心區(qū)別在于是否依賴特定模型以及計(jì)算復(fù)雜度。13.解析思路：PCA通過(guò)線性變換將原始高維變量投影到新的正交子空間（主成分），使得投影后的變量（主成分）按方差大小排序，前幾個(gè)主成分保留了數(shù)據(jù)絕大部分變異信息。其作用是降維，減少數(shù)據(jù)維度，去除冗余和噪聲，可視化高維數(shù)據(jù)，為后續(xù)分析（如聚類、分類）做準(zhǔn)備。14.解析思路：需考慮因素包括：數(shù)據(jù)維度與樣本量的比例、特征間的相關(guān)性、模型對(duì)輸入維度敏感度、計(jì)算資源限制、模型解釋性要求、特征選擇/降維的目標(biāo)（是提高精度還是簡(jiǎn)化模型）。例如，特征高度相關(guān)時(shí)，過(guò)濾法可能更有效；樣本量遠(yuǎn)大于維度時(shí)，包裹法可行；需要模型解釋性時(shí)，傾向于過(guò)濾法或選擇少數(shù)特征；計(jì)算資源有限時(shí)，簡(jiǎn)單方法優(yōu)先。四、計(jì)算題15.解析思路：計(jì)算PC得分為：Score=PC=(X*Loadings)。首先將原始數(shù)據(jù)標(biāo)準(zhǔn)化（均值為0，方差為1）。然后計(jì)算PC1得分=(X標(biāo)準(zhǔn)化)*PC1載荷向量，PC2得分=(X標(biāo)準(zhǔn)化)*PC2載荷向量。這里直接用原始值計(jì)算得分：（1*0.6+2*0.8+3*0）=1.8和（1*0+2*0.3+3*0.9）=3.0。答案：PC1得分=1.8；PC2得分=3.0。16.解析思路：Lasso回歸通過(guò)懲罰項(xiàng)使部分系數(shù)精確為零來(lái)實(shí)現(xiàn)特征選擇。系數(shù)絕對(duì)值越大，重要性越高。系數(shù)為零的特征被排除。根據(jù)給出的系數(shù)，X1的系數(shù)為0.2（非零），X2和X4的系數(shù)為零，X3的系數(shù)為-0.5（非零）。因此，被選中的特征是X1和X3。答案：選中的特征為X1和X3，其系數(shù)分別為0.2和-0.5。五、綜合應(yīng)用題17.解析思路：a.預(yù)處理：①缺失值處理：生物標(biāo)志物數(shù)據(jù)常有缺失，需填充（如均值/中位數(shù)填充、KNN填充）或刪除含缺失樣本。理由：缺失值影響模型訓(xùn)練和結(jié)果。②數(shù)據(jù)標(biāo)準(zhǔn)化：不同標(biāo)志物量綱和取值范圍差異大，需進(jìn)行Z-score標(biāo)準(zhǔn)化。理由：保證所有特征具有可比性，是PCA和許多機(jī)器學(xué)習(xí)算法的要求。b.特征選擇：選擇Lasso回歸。理由：①Lasso能將不重要特征的系數(shù)壓縮至零，實(shí)現(xiàn)特征選擇。②生物標(biāo)志物通常數(shù)量龐大，Lasso有助于篩選出最具預(yù)測(cè)能力的少數(shù)標(biāo)志物，降低模型復(fù)雜度。③與線性回歸模型結(jié)合緊密，易于實(shí)現(xiàn)和解釋。c.模型選擇與評(píng)估：①選擇：可選用邏輯回歸（配合Lasso選擇的結(jié)果）、支持向量機(jī)或隨機(jī)森林等。理由：這些模型適用于二分類問(wèn)題。②評(píng)估：使用交叉驗(yàn)證（如10折交叉驗(yàn)證）評(píng)估模型在未見(jiàn)數(shù)據(jù)上的性能。指標(biāo)選用AUC（ROC曲線下面積）、準(zhǔn)確率、精