2024年人工智能導論機器學習專項練習題及答案一、選擇題1.以下哪種算法不屬于監(jiān)督學習算法？()A.決策樹B.支持向量機C.K-均值聚類D.線性回歸答案：C解析：監(jiān)督學習是指利用一組已知類別的樣本調(diào)整分類器的參數(shù)，使其達到所要求性能的過程。決策樹、支持向量機和線性回歸都屬于監(jiān)督學習算法，它們在訓練過程中需要有標簽的數(shù)據(jù)。而K-均值聚類是一種無監(jiān)督學習算法，它不需要事先知道數(shù)據(jù)的標簽，而是通過數(shù)據(jù)之間的相似度將數(shù)據(jù)劃分為不同的簇。2.在機器學習中，過擬合是指()A.模型在訓練集上表現(xiàn)差，在測試集上表現(xiàn)也差B.模型在訓練集上表現(xiàn)好，在測試集上表現(xiàn)差C.模型在訓練集上表現(xiàn)差，在測試集上表現(xiàn)好D.模型在訓練集和測試集上表現(xiàn)都好答案：B解析：過擬合是指模型在訓練數(shù)據(jù)上表現(xiàn)得非常好，能夠很好地擬合訓練數(shù)據(jù)中的噪聲和細節(jié)，但在新的、未見過的數(shù)據(jù)（測試集）上表現(xiàn)不佳。因為模型過于復雜，記住了訓練數(shù)據(jù)的所有特征，而沒有學習到數(shù)據(jù)的一般性規(guī)律，所以在面對新數(shù)據(jù)時無法做出準確的預測。3.以下關(guān)于梯度下降算法的說法，錯誤的是()A.梯度下降是一種優(yōu)化算法，用于尋找函數(shù)的最小值B.批量梯度下降每次迭代使用所有的訓練樣本C.隨機梯度下降每次迭代只使用一個訓練樣本D.小批量梯度下降每次迭代使用的樣本數(shù)量必須是固定的答案：D解析：梯度下降是一種常用的優(yōu)化算法，其目的是通過迭代的方式找到函數(shù)的最小值。批量梯度下降在每次迭代時會使用所有的訓練樣本進行計算，以更新模型的參數(shù)。隨機梯度下降每次只使用一個訓練樣本進行參數(shù)更新，這樣可以加快訓練速度。小批量梯度下降每次使用一小部分訓練樣本進行參數(shù)更新，其使用的樣本數(shù)量可以根據(jù)實際情況進行調(diào)整，并不是必須固定的。4.以下哪種方法可以用于特征選擇？()A.主成分分析（PCA）B.獨熱編碼（One-HotEncoding）C.標準化（Standardization）D.正則化（Regularization）答案：A解析：特征選擇是從原始特征中選擇出最具有代表性和相關(guān)性的特征，以提高模型的性能和效率。主成分分析（PCA）是一種常用的特征選擇和降維方法，它通過線性變換將原始特征轉(zhuǎn)換為一組新的不相關(guān)的特征，即主成分，然后選擇方差較大的主成分作為新的特征。獨熱編碼是一種對分類特征進行編碼的方法，標準化是對特征進行歸一化處理的方法，正則化是用于防止過擬合的方法，它們都不屬于特征選擇方法。5.在神經(jīng)網(wǎng)絡(luò)中，激活函數(shù)的作用是()A.增加模型的線性性B.使模型能夠?qū)W習到非線性關(guān)系C.減少模型的計算量D.提高模型的收斂速度答案：B解析：如果神經(jīng)網(wǎng)絡(luò)中沒有激活函數(shù)，那么無論網(wǎng)絡(luò)有多少層，它都只能表示線性關(guān)系，因為線性組合的線性組合仍然是線性的。激活函數(shù)的引入使得神經(jīng)網(wǎng)絡(luò)能夠?qū)W習到非線性關(guān)系，從而可以處理更復雜的問題。激活函數(shù)通常是非線性函數(shù)，如Sigmoid函數(shù)、ReLU函數(shù)等。雖然激活函數(shù)在一定程度上可能會影響模型的計算量和收斂速度，但這不是其主要作用。6.以下關(guān)于支持向量機（SVM）的說法，正確的是()A.SVM只能處理線性可分的數(shù)據(jù)B.SVM的目標是找到一個超平面，使得不同類別的樣本到該超平面的距離之和最大C.核函數(shù)的作用是將低維空間的數(shù)據(jù)映射到高維空間，從而使數(shù)據(jù)在高維空間中線性可分D.SVM在處理大規(guī)模數(shù)據(jù)集時效率非常高答案：C解析：支持向量機不僅可以處理線性可分的數(shù)據(jù)，還可以通過使用核函數(shù)處理線性不可分的數(shù)據(jù)。SVM的目標是找到一個超平面，使得不同類別的樣本到該超平面的間隔最大，而不是距離之和最大。核函數(shù)的主要作用是將低維空間的數(shù)據(jù)映射到高維空間，使得原本在低維空間中線性不可分的數(shù)據(jù)在高維空間中變得線性可分。SVM在處理大規(guī)模數(shù)據(jù)集時，由于需要計算樣本之間的核矩陣，計算量較大，效率相對較低。7.在決策樹算法中，信息增益是指()A.劃分前數(shù)據(jù)集的熵與劃分后各子集的熵的加權(quán)和的差值B.劃分后各子集的熵的加權(quán)和與劃分前數(shù)據(jù)集的熵的差值C.劃分前數(shù)據(jù)集的信息熵與劃分后各子集的信息熵的最大值的差值D.劃分后各子集的信息熵的最大值與劃分前數(shù)據(jù)集的信息熵的差值答案：A解析：信息增益是決策樹算法中用于選擇最優(yōu)劃分屬性的一個重要指標。它的計算方法是用劃分前數(shù)據(jù)集的熵減去劃分后各子集的熵的加權(quán)和。信息增益越大，說明使用該屬性進行劃分能夠獲得更多的信息，即該屬性對分類的貢獻越大。8.以下關(guān)于K近鄰（K-NN）算法的說法，錯誤的是()A.K-NN是一種懶惰學習算法，它不需要進行顯式的訓練過程B.K值的選擇對K-NN算法的性能影響很大C.K-NN算法在處理高維數(shù)據(jù)時效果較好D.K-NN算法的時間復雜度較高，尤其是在處理大規(guī)模數(shù)據(jù)集時答案：C解析：K-NN是一種懶惰學習算法，它在訓練階段只是簡單地存儲所有的訓練樣本，而不進行模型的訓練。在預測時，根據(jù)待預測樣本與訓練樣本之間的距離，選擇K個最近鄰的樣本，然后根據(jù)這些樣本的類別進行投票或平均等操作來確定待預測樣本的類別。K值的選擇對K-NN算法的性能有很大影響，K值過小容易導致過擬合，K值過大容易導致欠擬合。K-NN算法在處理高維數(shù)據(jù)時會遇到“維度災難”問題，因為隨著維度的增加，樣本之間的距離變得越來越難以區(qū)分，所以效果往往不佳。此外，K-NN算法在處理大規(guī)模數(shù)據(jù)集時，由于需要計算待預測樣本與所有訓練樣本之間的距離，時間復雜度較高。9.以下哪種聚類算法是基于密度的聚類算法？()A.K-均值聚類B.層次聚類C.DBSCAND.高斯混合模型（GMM）答案：C解析：基于密度的聚類算法是通過數(shù)據(jù)點的密度來確定聚類的邊界。DBSCAN（Density-BasedSpatialClusteringofApplicationswithNoise）是一種典型的基于密度的聚類算法，它將具有足夠密度的區(qū)域劃分為聚類，并將低密度區(qū)域中的點視為噪聲點。K-均值聚類是基于距離的聚類算法，它通過迭代的方式將數(shù)據(jù)點分配到不同的簇中，使得簇內(nèi)的點之間的距離最小。層次聚類是通過逐步合并或分裂簇來構(gòu)建聚類層次結(jié)構(gòu)。高斯混合模型（GMM）是一種基于概率模型的聚類算法，它假設(shè)數(shù)據(jù)是由多個高斯分布混合而成的。10.以下關(guān)于集成學習的說法，正確的是()A.集成學習只能使用相同類型的基學習器B.隨機森林是一種集成學習方法，它使用的基學習器是決策樹C.集成學習的目的是通過組合多個弱學習器來提高模型的性能，所以集成學習一定比單個基學習器的性能好D.提升（Boosting）算法是一種并行的集成學習方法答案：B解析：集成學習可以使用不同類型的基學習器，只要它們能夠?qū)?shù)據(jù)進行預測。隨機森林是一種集成學習方法，它通過隨機選擇特征和樣本，構(gòu)建多個決策樹作為基學習器，然后將這些決策樹的預測結(jié)果進行綜合，以提高模型的性能。雖然集成學習的目的是通過組合多個弱學習器來提高模型的性能，但并不是所有情況下集成學習都一定比單個基學習器的性能好，這取決于基學習器的質(zhì)量和集成的方法。提升（Boosting）算法是一種串行的集成學習方法，它通過迭代的方式依次訓練多個基學習器，每個基學習器會根據(jù)前一個基學習器的錯誤進行調(diào)整。二、填空題1.機器學習中，根據(jù)是否有標簽數(shù)據(jù)，可將學習任務(wù)分為監(jiān)督學習、無監(jiān)督學習和__________。答案：半監(jiān)督學習2.線性回歸模型的目標是找到一條直線，使得所有數(shù)據(jù)點到該直線的__________最小。答案：誤差平方和3.在神經(jīng)網(wǎng)絡(luò)中，常用的激活函數(shù)有Sigmoid函數(shù)、ReLU函數(shù)和__________等。答案：Tanh函數(shù)4.決策樹算法中，常用的劃分標準有信息增益、__________和基尼指數(shù)等。答案：信息增益率5.支持向量機中，軟間隔是為了處理__________的數(shù)據(jù)。答案：線性不可分6.K-均值聚類算法的目標是最小化所有數(shù)據(jù)點到其所屬簇的__________的平方和。答案：質(zhì)心7.特征工程包括特征提取、特征選擇和__________等步驟。答案：特征變換8.集成學習中，Bagging方法通過__________的方式構(gòu)建多個基學習器。答案：自助采樣9.主成分分析（PCA）的主要目的是進行__________和特征選擇。答案：降維10.正則化是一種防止__________的方法，常用的正則化方法有L1正則化和L2正則化。答案：過擬合三、判斷題1.監(jiān)督學習和無監(jiān)督學習的區(qū)別在于是否有標簽數(shù)據(jù)。()答案：√解析：監(jiān)督學習需要使用有標簽的數(shù)據(jù)進行訓練，模型通過學習標簽和特征之間的關(guān)系來進行預測。無監(jiān)督學習則使用無標簽的數(shù)據(jù)，其目的是發(fā)現(xiàn)數(shù)據(jù)中的內(nèi)在結(jié)構(gòu)和模式，如聚類、降維等。2.過擬合是指模型在訓練集和測試集上的表現(xiàn)都很差。()答案：×解析：過擬合是指模型在訓練集上表現(xiàn)很好，但在測試集上表現(xiàn)不佳。這是因為模型過于復雜，學習到了訓練數(shù)據(jù)中的噪聲和細節(jié)，而沒有學習到數(shù)據(jù)的一般性規(guī)律。3.梯度下降算法一定能找到函數(shù)的全局最小值。()答案：×解析：梯度下降算法是一種迭代的優(yōu)化算法，它通過沿著函數(shù)的負梯度方向更新參數(shù)，以逐步逼近函數(shù)的最小值。然而，梯度下降算法并不一定能找到函數(shù)的全局最小值，尤其是在函數(shù)存在多個局部最小值的情況下，它可能會陷入局部最小值而無法找到全局最小值。4.主成分分析（PCA）是一種有監(jiān)督的特征選擇方法。()答案：×解析：主成分分析是一種無監(jiān)督的特征選擇和降維方法，它只考慮數(shù)據(jù)的特征本身，而不考慮數(shù)據(jù)的標簽信息。它通過線性變換將原始特征轉(zhuǎn)換為一組新的不相關(guān)的特征，即主成分，然后選擇方差較大的主成分作為新的特征。5.支持向量機（SVM）只能處理二分類問題。()答案：×解析：支持向量機不僅可以處理二分類問題，還可以通過一些擴展方法處理多分類問題，如一對多（One-vs-Rest）和一對一（One-vs-One）等方法。6.K-均值聚類算法對初始質(zhì)心的選擇非常敏感。()答案：√解析：K-均值聚類算法的性能和結(jié)果很大程度上取決于初始質(zhì)心的選擇。不同的初始質(zhì)心可能會導致不同的聚類結(jié)果，甚至可能會陷入局部最優(yōu)解。7.集成學習中，Bagging方法和Boosting方法都是并行的集成方法。()答案：×解析：Bagging方法是一種并行的集成方法，它通過自助采樣的方式獨立地構(gòu)建多個基學習器。而Boosting方法是一種串行的集成方法，它依次訓練多個基學習器，每個基學習器會根據(jù)前一個基學習器的錯誤進行調(diào)整。8.正則化可以提高模型的泛化能力。()答案：√解析：正則化是一種防止過擬合的方法，它通過在損失函數(shù)中添加正則化項，限制模型的復雜度，使得模型更加平滑，從而提高模型在新數(shù)據(jù)上的泛化能力。9.信息增益越大，說明該屬性對分類的貢獻越小。()答案：×解析：信息增益越大，說明使用該屬性進行劃分能夠獲得更多的信息，即該屬性對分類的貢獻越大。在決策樹算法中，通常會選擇信息增益最大的屬性作為當前節(jié)點的劃分屬性。10.神經(jīng)網(wǎng)絡(luò)中的隱藏層越多，模型的性能就一定越好。()答案：×解析：雖然增加神經(jīng)網(wǎng)絡(luò)的隱藏層可以提高模型的表達能力，使其能夠?qū)W習到更復雜的非線性關(guān)系，但隱藏層過多也會導致模型過于復雜，容易出現(xiàn)過擬合問題，并且訓練時間和計算資源也會大幅增加。因此，并不是隱藏層越多，模型的性能就一定越好，需要根據(jù)具體問題進行合理的設(shè)計。四、簡答題1.簡述監(jiān)督學習和無監(jiān)督學習的區(qū)別。(1).數(shù)據(jù)類型：監(jiān)督學習使用有標簽的數(shù)據(jù)進行訓練，即每個樣本都有對應(yīng)的標簽，用于指示樣本所屬的類別或具體的數(shù)值。無監(jiān)督學習使用無標簽的數(shù)據(jù)，只包含樣本的特征信息，沒有明確的標簽。(2).學習目標：監(jiān)督學習的目標是學習標簽和特征之間的關(guān)系，以便對新的樣本進行預測，例如分類和回歸任務(wù)。無監(jiān)督學習的目標是發(fā)現(xiàn)數(shù)據(jù)中的內(nèi)在結(jié)構(gòu)和模式，如聚類、降維等。(3).應(yīng)用場景：監(jiān)督學習常用于需要根據(jù)已知信息進行預測的場景，如疾病診斷、股票價格預測等。無監(jiān)督學習常用于數(shù)據(jù)探索、異常檢測等場景，例如發(fā)現(xiàn)客戶群體的細分、檢測網(wǎng)絡(luò)中的異常流量等。2.什么是過擬合和欠擬合？如何解決過擬合和欠擬合問題？過擬合定義：過擬合是指模型在訓練數(shù)據(jù)上表現(xiàn)得非常好，但在新的、未見過的數(shù)據(jù)（測試集）上表現(xiàn)不佳。這是因為模型過于復雜，學習到了訓練數(shù)據(jù)中的噪聲和細節(jié)，而沒有學習到數(shù)據(jù)的一般性規(guī)律。解決方法：(1).增加數(shù)據(jù)：收集更多的訓練數(shù)據(jù)可以減少模型對噪聲的學習，提高模型的泛化能力。(2).正則化：在損失函數(shù)中添加正則化項，如L1正則化和L2正則化，限制模型的復雜度。(3).減少模型復雜度：減少模型的參數(shù)數(shù)量，例如減少神經(jīng)網(wǎng)絡(luò)的層數(shù)和神經(jīng)元數(shù)量，或降低決策樹的深度。(4).早停法：在訓練過程中，當模型在驗證集上的性能不再提升時，停止訓練，避免模型過度擬合訓練數(shù)據(jù)。欠擬合定義：欠擬合是指模型在訓練數(shù)據(jù)和測試數(shù)據(jù)上的表現(xiàn)都很差，這是因為模型過于簡單，無法學習到數(shù)據(jù)的復雜特征和模式。解決方法：(1).增加模型復雜度：例如增加神經(jīng)網(wǎng)絡(luò)的層數(shù)和神經(jīng)元數(shù)量，或提高決策樹的深度。(2).特征工程：提取更多的有用特征，或?qū)μ卣鬟M行組合和變換，以增加數(shù)據(jù)的復雜度。(3).調(diào)整模型參數(shù)：嘗試不同的模型參數(shù)，找到更合適的參數(shù)組合，以提高模型的性能。3.簡述梯度下降算法的原理和步驟。原理梯度下降算法是一種優(yōu)化算法，用于尋找函數(shù)的最小值。它的基本思想是通過迭代的方式，沿著函數(shù)的負梯度方向更新參數(shù)，使得函數(shù)的值逐漸減小，直到達到函數(shù)的最小值或滿足停止條件。步驟(1).初始化參數(shù)：隨機初始化模型的參數(shù)，如神經(jīng)網(wǎng)絡(luò)的權(quán)重和偏置。(2).計算梯度：計算損失函數(shù)關(guān)于參數(shù)的梯度，梯度表示函數(shù)在當前點的變化率和方向。(3).更新參數(shù)：根據(jù)梯度和學習率更新參數(shù)，學習率控制了每次更新的步長。更新公式為：θ=θ?α?L((4).重復步驟(2)和(3)：不斷迭代，直到滿足停止條件，如達到最大迭代次數(shù)、損失函數(shù)的變化小于某個閾值等。4.簡述主成分分析（PCA）的原理和步驟。原理主成分分析是一種無監(jiān)督的特征選擇和降維方法，它的基本原理是通過線性變換將原始特征轉(zhuǎn)換為一組新的不相關(guān)的特征，即主成分。這些主成分按照方差從大到小排列，方差越大的主成分包含的信息越多。通過選擇方差較大的主成分作為新的特征，可以在保留大部分信息的同時，減少特征的維度。步驟(1).數(shù)據(jù)標準化：對原始數(shù)據(jù)進行標準化處理，使得每個特征的均值為0，方差為1，以消除不同特征之間的量綱影響。(2).計算協(xié)方差矩陣：計算標準化后數(shù)據(jù)的協(xié)方差矩陣，協(xié)方差矩陣反映了特征之間的相關(guān)性。(3).計算特征值和特征向量：對協(xié)方差矩陣進行特征分解，得到特征值和對應(yīng)的特征向量。(4).選擇主成分：根據(jù)特征值的大小，選擇方差較大的主成分。通常選擇前k個特征值對應(yīng)的特征向量作為主成分，其中k是降維后的維度。(5).轉(zhuǎn)換數(shù)據(jù)：將原始數(shù)據(jù)投影到選擇的主成分上，得到降維后的數(shù)據(jù)。5.簡述支持向量機（SVM）的原理和工作流程。原理支持向量機的基本原理是在特征空間中找到一個最優(yōu)的超平面，使得不同類別的樣本到該超平面的間隔最大。對于線性可分的數(shù)據(jù)，存在一個唯一的最優(yōu)超平面可以將不同類別的樣本完全分開。對于線性不可分的數(shù)據(jù)，支持向量機通過引入軟間隔和核函數(shù)的概念，將數(shù)據(jù)映射到高維空間，使得數(shù)據(jù)在高維空間中線性可分。工作流程(1).數(shù)據(jù)準備：收集和預處理訓練數(shù)據(jù)，包括特征選擇、標準化等操作。(2).選擇核函數(shù)：根據(jù)數(shù)據(jù)的特點和問題的需求，選擇合適的核函數(shù)，如線性核、多項式核、高斯核等。(3).訓練模型：使用訓練數(shù)據(jù)和選擇的核函數(shù)，求解支持向量機的優(yōu)化問題，得到最優(yōu)的超平面和支持向量。(4).模型評估：使用測試數(shù)據(jù)對訓練好的模型進行評估，計算模型的準確率、召回率等指標。(5).預測：使用訓練好的模型對新的樣本進行預測，根據(jù)樣本到超平面的位置判斷樣本所屬的類別。6.簡述決策樹算法的原理和構(gòu)建過程。原理決策樹是一種基于樹結(jié)構(gòu)進行決策的模型，它通過對特征進行遞歸劃分，將數(shù)據(jù)空間劃分為不同的區(qū)域，每個區(qū)域?qū)?yīng)一個類別或具體的數(shù)值。決策樹的每個內(nèi)部節(jié)點表示一個特征上的劃分，每個分支表示劃分的結(jié)果，每個葉節(jié)點表示一個類別或具體的數(shù)值。構(gòu)建過程(1).選擇根節(jié)點：從所有特征中選擇一個最優(yōu)的特征作為根節(jié)點的劃分特征，通常使用信息增益、信息增益率或基尼指數(shù)等指標來選擇最優(yōu)特征。(2).劃分數(shù)據(jù)集：根據(jù)根節(jié)點的劃分特征，將數(shù)據(jù)集劃分為不同的子集。(3).遞歸構(gòu)建子樹：對每個子集，重復步驟(1)和(2)，選擇最優(yōu)的特征進行劃分，直到滿足停止條件，如子集的樣本數(shù)小于某個閾值、所有樣本屬于同一類別等。(4).剪枝：為了防止過擬合，對構(gòu)建好的決策樹進行剪枝操作，去除一些不必要的節(jié)點和分支。7.簡述K-近鄰（K-NN）算法的原理和工作流程。原理K-近鄰算法的基本原理是基于“近朱者赤，近墨者黑”的思想，即一個樣本的類別可以由它的K個最近鄰的樣本的類別來決定。在預測時，計算待預測樣本與所有訓練樣本之間的距離，選擇距離最近的K個樣本，然后根據(jù)這K個樣本的類別進行投票或平均等操作，來確定待預測樣本的類別或具體的數(shù)值。工作流程(1).數(shù)據(jù)準備：收集和預處理訓練數(shù)據(jù)，包括特征選擇、標準化等操作。(2).選擇K值：根據(jù)經(jīng)驗或交叉驗證等方法，選擇合適的K值。(3).計算距離：計算待預測樣本與所有訓練樣本之間的距離，常用的距離度量方法有歐氏距離、曼哈頓距離等。(4).選擇K個最近鄰：根據(jù)計算得到的距離，選擇距離最近的K個訓練樣本。(5).進行預測：對于分類問題，根據(jù)K個最近鄰樣本的類別進行投票，選擇票數(shù)最多的類別作為待預測樣本的類別；對于回歸問題，計算K個最近鄰樣本的平均值作為待預測樣本的預測值。8.簡述集成學習的原理和常見的集成方法。原理集成學習的基本原理是通過組合多個弱學習器來構(gòu)建一個強學習器，以提高模型的性能和泛化能力。弱學習器是指那些性能略優(yōu)于隨機猜測的學習器，通過將多個弱學習器的預測結(jié)果進行綜合，可以減少單個弱學習器的誤差，提高整體的預測準確率。常見的集成方法(1).Bagging：Bagging是一種并行的集成方法，它通過自助采樣的方式從原始數(shù)據(jù)集中有放回地抽取多個子集，然后在每個子集上獨立地訓練一個基學習器，最后將這些基學習器的預測結(jié)果進行平均（回歸問題）或投票（分類問題）。隨機森林是Bagging方法的一個典型代表，它使用決策樹作為基學習器。(2).Boosting：Boosting是一種串行的集成方法，它依次訓練多個基學習器，每個基學習器會根據(jù)前一個基學習器的錯誤進行調(diào)整。在訓練過程中，會給那些被前一個基學習器分類錯誤的樣本賦予更高的權(quán)重，使得后續(xù)的基學習器更加關(guān)注這些難分類的樣本。常見的Boosting算法有Adaboost、GradientBoosting等。(3).Stacking：Stacking是一種將多個基學習器的預測結(jié)果作為輸入，再訓練一個元學習器的集成方法。首先，使用原始數(shù)據(jù)集訓練多個基學習器，然后將這些基學習器對原始數(shù)據(jù)集的預測結(jié)果作為新的特征，與原始特征一起組成新的數(shù)據(jù)集，最后在新的數(shù)據(jù)集上訓練一個元學習器，以得到最終的預測結(jié)果。9.簡述特征工程的主要步驟和方法。主要步驟(1).特征提?。簭脑紨?shù)據(jù)中提取出對模型有意義的特征。例如，從文本數(shù)據(jù)中提取詞頻、TF-IDF等特征；從圖像數(shù)據(jù)中提取顏色特征、紋理特征等。(2).特征選擇：從提取的特征中選擇出