2025年計(jì)算機(jī)輔助設(shè)計(jì)師(人工智能應(yīng)用安全技術(shù))專業(yè)考試試卷及答案一、單項(xiàng)選擇題（共20題，每題1.5分，共30分）1.以下哪項(xiàng)技術(shù)是人工智能模型訓(xùn)練中保護(hù)數(shù)據(jù)隱私的核心手段？A.數(shù)據(jù)標(biāo)準(zhǔn)化B.聯(lián)邦學(xué)習(xí)C.批量歸一化D.隨機(jī)森林答案：B2.在差分隱私機(jī)制中，參數(shù)ε的數(shù)值越小，意味著：A.隱私保護(hù)強(qiáng)度越低B.隱私保護(hù)強(qiáng)度越高C.數(shù)據(jù)可用性越高D.模型訓(xùn)練速度越快答案：B3.對抗樣本攻擊的本質(zhì)是：A.向輸入數(shù)據(jù)添加人眼不可察的擾動(dòng)，導(dǎo)致模型輸出錯(cuò)誤B.直接篡改模型參數(shù)文件C.攻擊模型訓(xùn)練的計(jì)算資源（如GPU）D.通過社會(huì)工程學(xué)獲取模型訓(xùn)練數(shù)據(jù)答案：A4.以下哪項(xiàng)不屬于AI模型可解釋性的常用方法？A.SHAP值分析B.LIME局部解釋C.模型參數(shù)量統(tǒng)計(jì)D.激活最大化可視化答案：C5.醫(yī)療AI系統(tǒng)中，患者電子病歷的“去標(biāo)識化”處理需滿足的核心要求是：A.無法通過單一信息直接識別患者身份B.刪除所有文字描述，僅保留數(shù)值數(shù)據(jù)C.將數(shù)據(jù)格式統(tǒng)一為CSVD.確保數(shù)據(jù)存儲介質(zhì)的物理安全答案：A6.針對AI模型的“后門攻擊”通常通過以下哪種方式實(shí)現(xiàn)？A.在訓(xùn)練數(shù)據(jù)中插入特定觸發(fā)模式（如特定顏色斑塊）B.修改模型的優(yōu)化器參數(shù)C.增加模型的隱藏層數(shù)量D.降低訓(xùn)練數(shù)據(jù)的標(biāo)注質(zhì)量答案：A7.聯(lián)邦學(xué)習(xí)中“橫向聯(lián)邦”與“縱向聯(lián)邦”的主要區(qū)別在于：A.參與方的數(shù)據(jù)特征重疊度不同B.模型訓(xùn)練的硬件架構(gòu)不同C.數(shù)據(jù)傳輸?shù)募用芩惴ú煌珼.模型聚合的頻率不同答案：A8.以下哪項(xiàng)是AI算法倫理風(fēng)險(xiǎn)的典型表現(xiàn)？A.模型在特定人群（如少數(shù)族裔）上的分類準(zhǔn)確率顯著低于平均水平B.模型訓(xùn)練時(shí)間過長導(dǎo)致計(jì)算資源浪費(fèi)C.模型輸出結(jié)果的小數(shù)點(diǎn)后位數(shù)過多D.模型參數(shù)文件占用存儲空間過大答案：A9.在AI系統(tǒng)的安全評估中，“對抗魯棒性測試”的主要目的是：A.驗(yàn)證模型在正常數(shù)據(jù)下的準(zhǔn)確率B.測試模型對惡意擾動(dòng)數(shù)據(jù)的抵抗能力C.評估模型的計(jì)算效率D.檢查模型是否存在代碼漏洞答案：B10.隱私計(jì)算技術(shù)中，“安全多方計(jì)算（MPC）”的核心優(yōu)勢是：A.無需共享原始數(shù)據(jù)即可完成聯(lián)合計(jì)算B.計(jì)算速度遠(yuǎn)快于傳統(tǒng)加密技術(shù)C.僅需一方持有完整數(shù)據(jù)即可運(yùn)行D.對硬件性能要求極低答案：A11.以下哪種攻擊類型屬于“模型竊取攻擊”？A.通過API接口多次調(diào)用模型并分析輸出，復(fù)現(xiàn)模型結(jié)構(gòu)B.向模型輸入惡意構(gòu)造的圖像導(dǎo)致分類錯(cuò)誤C.篡改訓(xùn)練數(shù)據(jù)中的標(biāo)簽值D.攻擊模型部署的服務(wù)器操作系統(tǒng)答案：A12.深度學(xué)習(xí)模型的“梯度泄露攻擊”主要威脅的是：A.模型的計(jì)算效率B.訓(xùn)練數(shù)據(jù)的隱私C.模型的泛化能力D.硬件的穩(wěn)定性答案：B13.AI系統(tǒng)的“可追溯性”要求不包括：A.記錄模型訓(xùn)練的完整數(shù)據(jù)來源B.保存模型迭代的版本歷史C.追蹤模型輸出結(jié)果的決策路徑D.限制模型的推理速度答案：D14.針對生成式AI（如AIGC）的內(nèi)容安全風(fēng)險(xiǎn)，最直接的防護(hù)手段是：A.增加模型的參數(shù)量B.部署內(nèi)容審核與過濾系統(tǒng)C.降低模型的生成速度D.限制用戶的輸入長度答案：B15.在AI數(shù)據(jù)生命周期中，“數(shù)據(jù)銷毀”階段的關(guān)鍵操作是：A.刪除數(shù)據(jù)存儲路徑的快捷方式B.使用安全擦除工具覆蓋存儲介質(zhì)C.將數(shù)據(jù)轉(zhuǎn)移至離線硬盤D.對數(shù)據(jù)進(jìn)行壓縮打包答案：B16.以下哪項(xiàng)不屬于AI模型“毒化攻擊”的典型手段？A.在訓(xùn)練數(shù)據(jù)中添加錯(cuò)誤標(biāo)簽的樣本B.向訓(xùn)練數(shù)據(jù)注入特定模式的噪聲C.調(diào)整模型的學(xué)習(xí)率參數(shù)D.在訓(xùn)練數(shù)據(jù)中插入后門觸發(fā)樣本答案：C17.生物特征識別AI的安全風(fēng)險(xiǎn)主要體現(xiàn)在：A.生物特征數(shù)據(jù)一旦泄露難以重置B.識別速度慢于傳統(tǒng)密碼驗(yàn)證C.對光照變化不敏感D.僅支持單一生物特征（如指紋）答案：A18.人工智能應(yīng)用安全的“最小必要原則”要求：A.收集盡可能多的用戶數(shù)據(jù)以提升模型性能B.僅收集完成特定任務(wù)所需的最少數(shù)據(jù)C.所有數(shù)據(jù)必須經(jīng)過加密存儲D.模型必須開源以接受監(jiān)督答案：B19.以下哪種技術(shù)可用于檢測AI模型中的后門？A.模型剪枝B.觸發(fā)模式激活分析C.數(shù)據(jù)增強(qiáng)D.學(xué)習(xí)率調(diào)整答案：B20.在AI系統(tǒng)的安全設(shè)計(jì)中，“零信任架構(gòu)”的核心思想是：A.信任所有內(nèi)部用戶，僅防范外部攻擊B.對所有訪問請求進(jìn)行身份驗(yàn)證和權(quán)限檢查C.僅使用開源軟件以確保透明性D.不存儲任何用戶數(shù)據(jù)答案：B二、多項(xiàng)選擇題（共10題，每題2分，共20分，多選、少選、錯(cuò)選均不得分）1.人工智能應(yīng)用中的數(shù)據(jù)安全風(fēng)險(xiǎn)包括：A.數(shù)據(jù)泄露（如訓(xùn)練數(shù)據(jù)被非法獲?。〣.數(shù)據(jù)篡改（如訓(xùn)練標(biāo)簽被惡意修改）C.數(shù)據(jù)過時(shí)（如模型依賴歷史數(shù)據(jù)導(dǎo)致決策偏差）D.數(shù)據(jù)冗余（如存儲重復(fù)數(shù)據(jù)占用資源）答案：ABC2.以下屬于AI模型安全評估維度的有：A.對抗魯棒性B.隱私保護(hù)能力C.算法公平性D.模型參數(shù)量答案：ABC3.聯(lián)邦學(xué)習(xí)的關(guān)鍵技術(shù)挑戰(zhàn)包括：A.參與方設(shè)備性能差異導(dǎo)致的通信延遲B.惡意參與方上傳毒化參數(shù)的風(fēng)險(xiǎn)C.跨機(jī)構(gòu)數(shù)據(jù)特征不重疊時(shí)的模型效果下降D.模型訓(xùn)練速度遠(yuǎn)快于集中式訓(xùn)練答案：ABC4.差分隱私的實(shí)現(xiàn)方法包括：A.向查詢結(jié)果添加高斯噪聲B.對數(shù)據(jù)進(jìn)行隨機(jī)采樣C.限制查詢的次數(shù)和范圍D.直接刪除敏感字段答案：ABC5.生成式AI的安全風(fēng)險(xiǎn)包括：A.生成虛假內(nèi)容（如偽造圖像、文本）B.泄露訓(xùn)練數(shù)據(jù)中的敏感信息（如通過反向工程）C.因生成速度過快導(dǎo)致服務(wù)器過載D.模型參數(shù)量過大導(dǎo)致訓(xùn)練成本高答案：AB6.AI算法公平性的評估指標(biāo)包括：A.不同群體的錯(cuò)誤率差異（如性別、種族）B.模型在不同數(shù)據(jù)集上的準(zhǔn)確率C.決策結(jié)果的可解釋性D.不同群體的召回率差異答案：AD7.針對AI模型的防御技術(shù)包括：A.對抗訓(xùn)練（在訓(xùn)練數(shù)據(jù)中加入對抗樣本）B.輸入預(yù)處理（如圖像去噪）C.模型蒸餾（用小模型模擬大模型）D.梯度加密（對訓(xùn)練梯度進(jìn)行加密傳輸）答案：ABD8.隱私計(jì)算的常見技術(shù)路徑有：A.聯(lián)邦學(xué)習(xí)B.安全多方計(jì)算（MPC）C.可信執(zhí)行環(huán)境（TEE）D.數(shù)據(jù)脫敏答案：ABC9.AI系統(tǒng)的可解釋性需求主要來自：A.監(jiān)管合規(guī)（如GDPR要求解釋自動(dòng)化決策）B.模型調(diào)試（定位性能下降的原因）C.用戶信任（提升用戶對AI決策的接受度）D.降低模型訓(xùn)練成本答案：ABC10.物聯(lián)網(wǎng)場景下AI應(yīng)用的安全挑戰(zhàn)包括：A.終端設(shè)備計(jì)算能力有限，難以部署復(fù)雜安全算法B.傳感器數(shù)據(jù)易被物理篡改（如偽造溫度傳感器值）C.大量設(shè)備接入導(dǎo)致網(wǎng)絡(luò)攻擊面擴(kuò)大D.模型需要實(shí)時(shí)處理數(shù)據(jù)，對延遲敏感答案：ABCD三、判斷題（共20題，每題1分，共20分，正確填“√”，錯(cuò)誤填“×”）1.數(shù)據(jù)脫敏技術(shù)可以完全消除數(shù)據(jù)中的隱私風(fēng)險(xiǎn)。（×）2.對抗樣本僅對圖像分類模型有效，對自然語言處理模型無影響。（×）3.聯(lián)邦學(xué)習(xí)中，參與方只需上傳模型參數(shù)而非原始數(shù)據(jù)，因此完全不存在隱私泄露風(fēng)險(xiǎn)。（×）4.差分隱私通過限制單個(gè)個(gè)體對整體統(tǒng)計(jì)結(jié)果的影響來保護(hù)隱私。（√）5.AI模型的“黑盒攻擊”需要攻擊者掌握模型的結(jié)構(gòu)和參數(shù)。（×）6.生物特征數(shù)據(jù)（如人臉）屬于敏感信息，其收集需獲得用戶明確同意。（√）7.模型可解釋性越強(qiáng)，其預(yù)測準(zhǔn)確率一定越高。（×）8.毒化攻擊主要針對模型的訓(xùn)練階段，而非推理階段。（√）9.隱私計(jì)算技術(shù)可以在不共享原始數(shù)據(jù)的前提下完成聯(lián)合建模。（√）10.AI系統(tǒng)的“可追溯性”僅需記錄模型輸出結(jié)果，無需記錄訓(xùn)練過程。（×）11.生成式AI生成的內(nèi)容無需標(biāo)注“AI生成”，因?yàn)橛脩艨勺孕信袛?。（×?2.模型竊取攻擊的目標(biāo)是獲取模型的訓(xùn)練數(shù)據(jù)，而非模型結(jié)構(gòu)。（×）13.零信任架構(gòu)要求“永不信任，始終驗(yàn)證”，適用于AI系統(tǒng)的訪問控制。（√）14.數(shù)據(jù)增強(qiáng)技術(shù)（如圖像旋轉(zhuǎn)、翻轉(zhuǎn)）不會(huì)引入安全風(fēng)險(xiǎn)。（×）15.AI算法的公平性問題僅由數(shù)據(jù)偏差導(dǎo)致，與模型結(jié)構(gòu)無關(guān)。（×）16.梯度泄露攻擊可以通過對訓(xùn)練梯度添加噪聲來緩解。（√）17.物聯(lián)網(wǎng)設(shè)備的AI模型部署需考慮邊緣計(jì)算的資源限制（如內(nèi)存、算力）。（√）18.AI系統(tǒng)的安全設(shè)計(jì)應(yīng)在開發(fā)后期介入，避免影響功能實(shí)現(xiàn)。（×）19.后門攻擊的觸發(fā)模式通常對正常輸入無影響，僅在特定條件下激活。（√）20.所有AI應(yīng)用都需要滿足相同的安全標(biāo)準(zhǔn)，無需根據(jù)場景差異調(diào)整。（×）四、簡答題（共5題，每題6分，共30分）1.簡述聯(lián)邦學(xué)習(xí)中“數(shù)據(jù)不出域”原則的具體實(shí)現(xiàn)方式及意義。答案：“數(shù)據(jù)不出域”指參與聯(lián)邦學(xué)習(xí)的各節(jié)點(diǎn)（如醫(yī)院、企業(yè)）僅在本地訓(xùn)練模型，僅上傳模型參數(shù)（如梯度、權(quán)重）至中心服務(wù)器進(jìn)行聚合，原始數(shù)據(jù)始終保留在本地。實(shí)現(xiàn)方式包括：本地模型訓(xùn)練（各節(jié)點(diǎn)使用自有數(shù)據(jù)更新模型）、加密參數(shù)傳輸（通過同態(tài)加密或安全多方計(jì)算保護(hù)參數(shù)隱私）、中心聚合（服務(wù)器融合各節(jié)點(diǎn)參數(shù)生成全局模型）。其意義在于平衡數(shù)據(jù)利用與隱私保護(hù)，避免敏感數(shù)據(jù)（如醫(yī)療、金融數(shù)據(jù)）跨機(jī)構(gòu)傳輸導(dǎo)致的泄露風(fēng)險(xiǎn)，同時(shí)實(shí)現(xiàn)跨機(jī)構(gòu)的聯(lián)合建模。2.列舉三種對抗樣本的防御方法，并說明其核心原理。答案：（1）對抗訓(xùn)練：在模型訓(xùn)練階段加入對抗樣本（如通過FGSM生成的擾動(dòng)樣本），使模型學(xué)習(xí)魯棒特征，提升對擾動(dòng)的容忍能力；（2）輸入預(yù)處理：對輸入數(shù)據(jù)進(jìn)行去噪或特征提?。ㄈ鐖D像的總變差最小化、自然語言的詞嵌入清洗），消除對抗擾動(dòng)的影響；（3）檢測與拒絕：通過異常檢測模型（如基于自編碼器的重構(gòu)誤差）識別對抗樣本，對高風(fēng)險(xiǎn)輸入拒絕處理或標(biāo)記警告。3.說明AI算法公平性的評估流程及關(guān)鍵指標(biāo)。答案：評估流程：（1）定義受保護(hù)群體（如性別、種族、年齡）；（2）劃分測試數(shù)據(jù)集，確保各群體樣本分布合理；（3）在相同測試條件下運(yùn)行模型，記錄各群體的預(yù)測結(jié)果；（4）計(jì)算公平性指標(biāo)（如不同群體的錯(cuò)誤率差異、召回率差異、準(zhǔn)確率差異）。關(guān)鍵指標(biāo)包括：均等錯(cuò)誤率（EqualErrorRate,EER）、均等機(jī)會(huì)（EqualOpportunity，不同群體的真陽性率相等）、統(tǒng)計(jì)均等（StatisticalParity，不同群體的正類預(yù)測率相等）。4.簡述隱私計(jì)算技術(shù)在跨機(jī)構(gòu)AI聯(lián)合建模中的應(yīng)用場景及優(yōu)勢。答案：應(yīng)用場景：如銀行與電商聯(lián)合建模（銀行有用戶信用數(shù)據(jù)，電商有消費(fèi)數(shù)據(jù)）、醫(yī)院與藥企聯(lián)合研發(fā)（醫(yī)院有病歷數(shù)據(jù)，藥企有藥物實(shí)驗(yàn)數(shù)據(jù)）。優(yōu)勢：（1）數(shù)據(jù)隱私保護(hù)：原始數(shù)據(jù)不離開本地，僅通過加密參數(shù)或中間結(jié)果交互；（2）資源高效利用：避免重復(fù)數(shù)據(jù)采集，降低存儲和傳輸成本；（3）合規(guī)性：符合數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等法規(guī)對數(shù)據(jù)跨境/跨機(jī)構(gòu)流動(dòng)的限制；（4）模型性能提升：整合多源數(shù)據(jù)可提高模型的泛化能力。5.分析生成式AI（如AIGC）的主要安全風(fēng)險(xiǎn)及防護(hù)措施。答案：主要安全風(fēng)險(xiǎn)：（1）內(nèi)容濫用：生成虛假信息（如偽造新聞、Deepfake視頻）、惡意內(nèi)容（如暴力、恐怖主義內(nèi)容）；（2）數(shù)據(jù)泄露：通過生成內(nèi)容反向推斷訓(xùn)練數(shù)據(jù)中的敏感信息（如用戶隱私、商業(yè)機(jī)密）；（3）模型劫持：攻擊者通過輸入提示詞誘導(dǎo)模型生成有害內(nèi)容（如釣魚鏈接、惡意代碼）。防護(hù)措施：（1）內(nèi)容審核：部署基于規(guī)則或AI的內(nèi)容檢測系統(tǒng)，識別違規(guī)內(nèi)容并攔截；（2）隱私增強(qiáng)訓(xùn)練：在訓(xùn)練階段加入差分隱私、聯(lián)邦學(xué)習(xí)等技術(shù)，減少敏感信息泄露風(fēng)險(xiǎn)；（3）提示詞過濾：對用戶輸入進(jìn)行語義分析，屏蔽惡意誘導(dǎo)性提示；（4）可追溯性設(shè)計(jì)：為生成內(nèi)容添加數(shù)字水印或元數(shù)據(jù)，標(biāo)記AI生成來源，便于責(zé)任追溯。五、綜合應(yīng)用題（共2題，每題15分，共30分）1.某醫(yī)療AI公司計(jì)劃開發(fā)一款基于電子病歷的疾病預(yù)測模型，需滿足《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》及醫(yī)療數(shù)據(jù)隱私要求。請?jiān)O(shè)計(jì)一套覆蓋數(shù)據(jù)全生命周期的安全防護(hù)方案，要求包含數(shù)據(jù)采集、傳輸、存儲、使用、銷毀五個(gè)階段的具體措施。答案：（1）數(shù)據(jù)采集階段：最小必要原則：僅收集與疾病預(yù)測直接相關(guān)的數(shù)據(jù)（如年齡、診斷結(jié)果、關(guān)鍵檢驗(yàn)指標(biāo)），避免過度采集（如無關(guān)的社交信息）；用戶授權(quán)：通過明確、易懂的隱私協(xié)議獲得患者書面或電子授權(quán)，說明數(shù)據(jù)用途、存儲期限及共享范圍；去標(biāo)識化處理：對姓名、身份證號等直接標(biāo)識符進(jìn)行脫敏（如哈希加鹽），對間接標(biāo)識符（如住址、聯(lián)系方式）進(jìn)行泛化（如將“XX市XX路123號”改為“XX市XX區(qū)”）。（2）數(shù)據(jù)傳輸階段：加密傳輸：使用TLS1.3協(xié)議對傳輸中的數(shù)據(jù)進(jìn)行端到端加密，確保傳輸過程中不可被竊取或篡改；安全通道：通過專用虛擬私有網(wǎng)絡(luò)（VPN）或醫(yī)療行業(yè)合規(guī)的安全交換平臺（如HL7FHIR標(biāo)準(zhǔn)接口）傳輸，避免公共網(wǎng)絡(luò)暴露；完整性校驗(yàn)：添加消息認(rèn)證碼（MAC）或數(shù)字簽名，驗(yàn)證數(shù)據(jù)在傳輸前后的一致性。（3）數(shù)據(jù)存儲階段：加密存儲：對靜態(tài)數(shù)據(jù)采用AES256加密，密鑰與數(shù)據(jù)分離存儲（如使用硬件安全模塊HSM管理密鑰）；訪問控制：實(shí)施最小權(quán)限原則（如僅模型訓(xùn)練人員可訪問去標(biāo)識化數(shù)據(jù)，管理員僅能管理元數(shù)據(jù)），通過角色權(quán)限系統(tǒng)（RBAC）限制數(shù)據(jù)訪問；審計(jì)日志：記錄所有數(shù)據(jù)訪問操作（時(shí)間、用戶、操作類型），日志文件加密存儲并定期備份。（4）數(shù)據(jù)使用階段：聯(lián)邦學(xué)習(xí)訓(xùn)練：采用縱向聯(lián)邦學(xué)習(xí)（醫(yī)療數(shù)據(jù)特征重疊度低時(shí)）或橫向聯(lián)邦學(xué)習(xí)（患者群體重疊度高時(shí)），僅上傳模型參數(shù)而非原始數(shù)據(jù)；差分隱私增強(qiáng)：在模型訓(xùn)練的梯度計(jì)算或統(tǒng)計(jì)查詢中添加高斯噪聲（ε=0.1，δ=1e5），限制單個(gè)患者數(shù)據(jù)對模型的影響；模型可解釋性：使用LIME或SHAP方法生成決策解釋（如“該患者風(fēng)險(xiǎn)預(yù)測主要受血糖值（180mg/dL）影響”），滿足醫(yī)療監(jiān)管對透明性的要求。（5）數(shù)據(jù)銷毀階段：安全擦除：對存儲介質(zhì)（如硬盤、數(shù)據(jù)庫）使用符合NIST80088標(biāo)準(zhǔn)的擦除工具（如DBAN），覆蓋數(shù)據(jù)至少3次；元數(shù)據(jù)清除：刪除與數(shù)據(jù)相關(guān)的索引、日志、備份文件，避免通過元數(shù)據(jù)恢復(fù)原始數(shù)據(jù)；銷毀記錄：生成包含銷毀時(shí)間、介質(zhì)編號、操作人簽名的書面報(bào)告，存檔至少10年（符合醫(yī)療數(shù)據(jù)保存期限要求）。2.某企業(yè)部署了一個(gè)圖像分類AI模型（用于工業(yè)產(chǎn)品缺陷檢測），近期發(fā)現(xiàn)模型在部分測試樣本中誤判率顯著上升，懷疑可能遭受對抗攻擊。請?jiān)O(shè)計(jì)一個(gè)技術(shù)排查與防護(hù)方案，要求包含問題診斷、攻擊類型識別、防御措施三個(gè)步驟。答案：（1）問題診斷：數(shù)據(jù)溯源：檢查近期輸入數(shù)據(jù)的來源（如生產(chǎn)線攝像頭是否被物理干擾）、格式（是否存在異常分