2025年人工智能與機器學習基礎知識試卷及答案一、單項選擇題（每題2分，共20分）1.以下哪種算法屬于監(jiān)督學習？A.K-means聚類B.主成分分析（PCA）C.支持向量機（SVM）D.關聯(lián)規(guī)則挖掘2.在邏輯回歸中，若使用均方誤差（MSE）作為損失函數(shù)，可能導致的主要問題是？A.計算復雜度高B.損失函數(shù)非凸，優(yōu)化困難C.模型容易欠擬合D.無法處理多分類問題3.以下關于激活函數(shù)的描述，錯誤的是？A.Sigmoid函數(shù)在輸入絕對值較大時會出現(xiàn)梯度消失B.ReLU函數(shù)在輸入為負時梯度為0，可能導致“神經(jīng)元死亡”C.Tanh函數(shù)的輸出范圍是[-1,1]，比Sigmoid更易收斂D.GELU（高斯誤差線性單元）的輸出僅依賴于輸入的絕對值4.假設某二分類任務中，真實標簽為[1,0,1,1,0]，模型預測概率為[0.8,0.3,0.6,0.4,0.7]（閾值設為0.5），則模型的精確率（Precision）為？A.0.6B.0.75C.0.8D.0.55.以下哪種技術不屬于模型壓縮方法？A.知識蒸餾（KnowledgeDistillation）B.權重剪枝（WeightPruning）C.梯度累積（GradientAccumulation）D.量化（Quantization）6.在Transformer模型中，多頭注意力（Multi-HeadAttention）的主要作用是？A.增加模型的參數(shù)量B.并行計算不同子空間的注意力信息C.解決長距離依賴問題D.替代循環(huán)神經(jīng)網(wǎng)絡（RNN）的序列建模能力7.關于欠擬合（Underfitting）的描述，正確的是？A.訓練集和測試集的誤差均較高B.訓練集誤差低，測試集誤差高C.模型對訓練數(shù)據(jù)的細節(jié)過度學習D.可通過增加正則化強度解決8.以下哪項不是強化學習（ReinforcementLearning）的核心要素？A.狀態(tài)（State）B.策略（Policy）C.損失函數(shù)（LossFunction）D.獎勵（Reward）9.在隨機梯度下降（SGD）中，“隨機”指的是？A.隨機初始化模型參數(shù)B.隨機選擇激活函數(shù)C.隨機選擇訓練樣本的子集計算梯度D.隨機調整學習率10.對于時間序列預測任務，以下哪種模型的長期依賴建模能力最弱？A.LSTMB.TransformerC.簡單循環(huán)神經(jīng)網(wǎng)絡（RNN）D.門控循環(huán)單元（GRU）二、填空題（每空2分，共20分）1.機器學習中，將數(shù)據(jù)劃分為訓練集、驗證集和測試集的主要目的是__________。2.決策樹中，信息增益的計算基于__________的減少量。3.深度學習中，BatchNormalization（BN）的主要作用是__________。4.生成對抗網(wǎng)絡（GAN）由__________和判別器兩部分組成。5.線性回歸模型的參數(shù)估計通常使用__________方法求解。6.在K近鄰（KNN）算法中，當K過小時，模型容易__________（填“過擬合”或“欠擬合”）。7.交叉熵損失函數(shù)的表達式為__________（假設二分類，真實標簽為y∈{0,1}，預測概率為p）。8.Transformer模型的位置編碼（PositionalEncoding）用于__________。9.梯度下降的更新公式為__________（用θ表示參數(shù)，η表示學習率，L表示損失函數(shù)）。10.無監(jiān)督學習的典型任務包括__________（列舉至少一種）。三、簡答題（每題8分，共32分）1.簡述監(jiān)督學習、無監(jiān)督學習和半監(jiān)督學習的區(qū)別，并各舉一個典型應用場景。2.解釋過擬合的定義及常見解決方法（至少列出4種）。3.對比卷積神經(jīng)網(wǎng)絡（CNN）和循環(huán)神經(jīng)網(wǎng)絡（RNN）在處理數(shù)據(jù)時的差異，說明各自適用的場景。4.什么是遷移學習（TransferLearning）？其核心思想是什么？列舉一種遷移學習的具體方法。四、計算題（共18分）1.（8分）某三分類任務中，模型預測結果與真實標簽的混淆矩陣如下：||真實類別A|真實類別B|真實類別C||--|--|--|--||預測A|15|3|2||預測B|2|20|5||預測C|1|4|25|計算該模型的總體準確率（Accuracy）、類別B的召回率（Recall）和宏F1值（Macro-F1）。（結果保留兩位小數(shù)）2.（10分）假設一個簡單的神經(jīng)網(wǎng)絡結構為：輸入層（2個神經(jīng)元）→隱藏層（2個神經(jīng)元，激活函數(shù)為Sigmoid）→輸出層（1個神經(jīng)元，激活函數(shù)為Sigmoid）。已知輸入x=[0.5,0.8]，隱藏層權重矩陣W?=[[0.2,-0.1],[0.4,0.3]]（第一行對應隱藏層第一個神經(jīng)元的輸入權重，第二行對應第二個神經(jīng)元），偏置b?=[0.1,-0.2]；輸出層權重w?=[0.6,-0.5]，偏置b?=0.3。計算該網(wǎng)絡的輸出值（結果保留四位小數(shù)）。五、論述題（共10分）結合當前技術發(fā)展，論述大語言模型（如GPT-4、Llama3）在訓練和應用中面臨的主要挑戰(zhàn)，并提出至少兩種可能的優(yōu)化方向。答案一、單項選擇題1.C2.B3.D4.B5.C6.B7.A8.C9.C10.C二、填空題1.評估模型的泛化能力（或避免過擬合）2.信息熵（或熵）3.減少內部協(xié)變量偏移（或加速訓練、穩(wěn)定訓練）4.生成器5.最小二乘法（或最小均方誤差）6.過擬合7.\(L=-[y\logp+(1-y)\log(1-p)]\)8.捕捉序列中的位置信息（或表示詞的順序）9.\(\theta=\theta-\eta\cdot\nabla_\thetaL(\theta)\)10.聚類、降維、異常檢測（任答一種即可）三、簡答題1.區(qū)別：監(jiān)督學習使用帶標簽數(shù)據(jù)訓練，目標是學習輸入到標簽的映射；無監(jiān)督學習使用無標簽數(shù)據(jù)，目標是發(fā)現(xiàn)數(shù)據(jù)內在結構；半監(jiān)督學習結合少量標簽數(shù)據(jù)和大量無標簽數(shù)據(jù)。場景：監(jiān)督學習（圖像分類）、無監(jiān)督學習（用戶分群）、半監(jiān)督學習（醫(yī)療影像輔助診斷，標簽成本高時）。2.定義：模型在訓練集上表現(xiàn)很好，但在未見過的測試集上表現(xiàn)較差，即泛化能力弱。解決方法：增加數(shù)據(jù)量、正則化（L1/L2）、早停（EarlyStopping）、dropout、簡化模型結構、數(shù)據(jù)增強。3.差異：CNN通過局部感受野和權值共享捕捉空間特征，適合處理網(wǎng)格化數(shù)據(jù)（如圖像）；RNN通過循環(huán)結構捕捉序列時間依賴，適合處理時序數(shù)據(jù)（如文本、語音）。場景：CNN用于圖像識別，RNN用于機器翻譯或時間序列預測。4.定義：將從源任務學到的知識遷移到目標任務，解決目標任務數(shù)據(jù)不足的問題。核心思想：不同任務間存在可遷移的特征或模式。方法：微調（Fine-tuning）預訓練模型（如用BERT預訓練模型微調完成情感分析任務）。四、計算題1.總體準確率：總正確數(shù)=15+20+25=60，總樣本數(shù)=15+3+2+2+20+5+1+4+25=77，準確率=60/77≈0.7792（77.92%）。類別B召回率：真實B的樣本數(shù)=3+20+4=27，正確預測B的數(shù)量=20，召回率=20/27≈0.7407（74.07%）。宏F1值：-類別A：精確率=15/(15+2+1)=15/18≈0.8333，召回率=15/(15+3+2)=15/20=0.75，F(xiàn)1=2×0.8333×0.75/(0.8333+0.75)≈0.7895。-類別B：精確率=20/(3+20+4)=20/27≈0.7407，召回率=20/27≈0.7407，F(xiàn)1=2×0.7407×0.7407/(0.7407+0.7407)=0.7407。-類別C：精確率=25/(2+5+25)=25/32≈0.7812，召回率=25/(2+5+25)=25/32≈0.7812，F(xiàn)1=0.7812。宏F1=(0.7895+0.7407+0.7812)/3≈0.7705（77.05%）。2.隱藏層計算：-隱藏層第一個神經(jīng)元輸入：\(z_{11}=0.5×0.2+0.8×(-0.1)+0.1=0.1-0.08+0.1=0.12\)，激活值\(a_{11}=1/(1+e^{-0.12})≈0.5298\)。-隱藏層第二個神經(jīng)元輸入：\(z_{12}=0.5×0.4+0.8×0.3+(-0.2)=0.2+0.24-0.2=0.24\)，激活值\(a_{12}=1/(1+e^{-0.24})≈0.5596\)。輸出層計算：輸出層輸入\(z_2=0.5298×0.6+0.5596×(-0.5)+0.3=0.3179-0.2798+0.3=0.3381\)，輸出值\(a_2=1/(1+e^{-0.3381})≈0.5832\)。五、論述題主要挑戰(zhàn)：-訓練成本高：大模型參數(shù)量達千億級，需要海量計算資源（如GPU集群）和能源消耗，限制了研究和應用門檻。-數(shù)據(jù)質量與偏見：依賴大規(guī)模文本數(shù)據(jù)，可能包含錯誤信息、偏見（如性別/種族歧視），導致模型輸出不可靠。-可解釋性差：模型內部決策過程不透明，難以定位錯誤來源，在醫(yī)療、法律等敏感領域應用受限。-推理效率低：千億參數(shù)模型的實時推理延遲高，難以滿足低延遲場景（如對話系統(tǒng)）需求。優(yōu)化方向：-模型壓縮與輕量化：通