人工智能合規(guī)管理與風(fēng)險防控試題及答案2025年一、單項選擇題（共10題，每題2分，共20分）1.根據(jù)《人工智能服務(wù)安全管理條例（2024修訂）》，以下哪類人工智能系統(tǒng)在上線前無需強制進(jìn)行第三方安全評估？A.處理10萬人以上敏感個人信息的健康管理AIB.用于交通信號燈控制的城市智能調(diào)度系統(tǒng)C.面向兒童的教育類對話型AID.企業(yè)內(nèi)部使用的文檔自動分類工具（處理非敏感商業(yè)信息）2.某金融機構(gòu)使用的智能風(fēng)控模型在訓(xùn)練階段納入了用戶“婚姻狀況”數(shù)據(jù)，導(dǎo)致未婚用戶被錯誤標(biāo)記為高風(fēng)險。這一問題最直接違反了AI合規(guī)中的哪項原則？A.數(shù)據(jù)最小必要原則B.算法可解釋性原則C.結(jié)果公平性原則D.隱私計算原則3.依據(jù)《生成式人工智能服務(wù)管理暫行辦法》（2023修訂），生成式AI服務(wù)提供者對用戶輸入數(shù)據(jù)的保存期限最長不得超過：A.3個月B.6個月C.12個月D.24個月4.以下哪項不屬于AI合規(guī)管理中的“技術(shù)防控措施”？A.對訓(xùn)練數(shù)據(jù)進(jìn)行去標(biāo)識化處理B.建立算法偏見檢測與糾正機制C.制定AI倫理委員會工作章程D.部署模型輸出內(nèi)容實時審核系統(tǒng)5.某醫(yī)療AI系統(tǒng)因訓(xùn)練數(shù)據(jù)中包含大量男性患者病例，導(dǎo)致對女性患者的診斷準(zhǔn)確率降低30%。這種風(fēng)險屬于：A.數(shù)據(jù)采集階段的合規(guī)風(fēng)險B.模型訓(xùn)練階段的倫理風(fēng)險C.模型部署階段的操作風(fēng)險D.用戶使用階段的責(zé)任風(fēng)險6.根據(jù)歐盟《人工智能法案》（AIAct）分類，用于法院量刑輔助的AI系統(tǒng)屬于：A.不可接受風(fēng)險（Unacceptablerisk）B.高風(fēng)險（Highrisk）C.中等風(fēng)險（Mediumrisk）D.低風(fēng)險（Lowrisk）7.企業(yè)AI合規(guī)管理中，“雙合規(guī)官”制度通常指設(shè)立：A.技術(shù)合規(guī)官與法律合規(guī)官B.數(shù)據(jù)合規(guī)官與算法合規(guī)官C.內(nèi)部合規(guī)官與外部合規(guī)顧問D.業(yè)務(wù)部門合規(guī)官與風(fēng)控部門合規(guī)官8.某AI公司在用戶協(xié)議中聲明“收集的人臉數(shù)據(jù)僅用于身份驗證，不用于其他用途”，但實際將數(shù)據(jù)提供給第三方進(jìn)行市場分析。這一行為違反了《個人信息保護(hù)法》的：A.目的明確原則B.公開透明原則C.質(zhì)量保障原則D.責(zé)任主體原則9.以下哪項是AI風(fēng)險防控中“黑盒測試”的典型應(yīng)用場景？A.分析模型內(nèi)部參數(shù)的計算邏輯B.驗證模型在極端輸入下的輸出穩(wěn)定性C.檢查訓(xùn)練數(shù)據(jù)的標(biāo)注準(zhǔn)確性D.評估模型開發(fā)者的倫理培訓(xùn)記錄10.根據(jù)《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》，涉及公共服務(wù)的AI系統(tǒng)發(fā)生重大安全事件后，運營者向省級網(wǎng)信部門報告的時限為：A.1小時內(nèi)B.2小時內(nèi)C.12小時內(nèi)D.24小時內(nèi)二、多項選擇題（共10題，每題3分，共30分。每題至少有2個正確選項，錯選、漏選均不得分）1.以下哪些情形可能觸發(fā)AI系統(tǒng)的“重新評估義務(wù)”？（）A.訓(xùn)練數(shù)據(jù)來源發(fā)生重大變更（新增10%以上外部數(shù)據(jù)）B.模型輸出結(jié)果的錯誤率連續(xù)3個月超過5%閾值C.適用的法律法規(guī)或監(jiān)管政策發(fā)生更新D.企業(yè)股權(quán)結(jié)構(gòu)發(fā)生變化（未影響實際控制權(quán)）2.人工智能算法透明度要求通常包括：（）A.向用戶說明算法決策的主要影響因素B.公開模型的完整代碼與訓(xùn)練參數(shù)C.提供算法結(jié)果的申訴渠道D.披露數(shù)據(jù)采集的具體范圍和方式3.醫(yī)療領(lǐng)域AI合規(guī)的特殊要求包括：（）A.訓(xùn)練數(shù)據(jù)需包含足夠比例的罕見病病例B.模型輸出需標(biāo)注“輔助診斷”并提示人工復(fù)核C.患者生物信息的存儲需符合《生物安全法》D.需獲得藥品監(jiān)督管理部門的三類醫(yī)療器械認(rèn)證4.以下屬于AI倫理風(fēng)險的有：（）A.招聘AI因訓(xùn)練數(shù)據(jù)偏差導(dǎo)致對特定性別候選人的歧視B.智能客服因語義理解錯誤引發(fā)用戶隱私泄露C.自動駕駛AI在緊急情況下優(yōu)先保護(hù)車內(nèi)人員D.教育AI根據(jù)用戶答題速度推薦不同難度的題目5.《數(shù)據(jù)安全法》對AI數(shù)據(jù)處理活動的約束包括：（）A.重要數(shù)據(jù)出境需通過安全評估B.數(shù)據(jù)處理者需建立數(shù)據(jù)分類分級保護(hù)制度C.公共數(shù)據(jù)開放需遵循“最小必要”原則D.個人數(shù)據(jù)刪除請求需在7個工作日內(nèi)響應(yīng)6.企業(yè)AI合規(guī)管理體系的核心組成部分包括：（）A.合規(guī)風(fēng)險評估機制B.算法審計與備案制度C.員工合規(guī)培訓(xùn)計劃D.用戶投訴響應(yīng)流程7.以下哪些行為可能構(gòu)成AI領(lǐng)域的不正當(dāng)競爭？（）A.夸大宣傳AI系統(tǒng)的準(zhǔn)確率（實際準(zhǔn)確率60%，宣傳90%）B.模仿競爭對手AI產(chǎn)品的界面設(shè)計（無功能復(fù)制）C.利用爬蟲技術(shù)獲取競爭對手未公開的訓(xùn)練數(shù)據(jù)D.誘導(dǎo)用戶關(guān)閉AI系統(tǒng)的風(fēng)險提示功能8.人工智能風(fēng)險防控的“全生命周期管理”覆蓋階段包括：（）A.數(shù)據(jù)采集與清洗B.模型開發(fā)與訓(xùn)練C.系統(tǒng)部署與運行D.退役與數(shù)據(jù)銷毀9.根據(jù)《深度合成服務(wù)算法備案規(guī)定》，需要備案的深度合成服務(wù)包括：（）A.虛擬主播生成服務(wù)B.人臉替換類短視頻工具C.企業(yè)內(nèi)部使用的AI繪圖軟件D.面向公眾的AI語音克隆服務(wù)10.AI責(zé)任認(rèn)定中“技術(shù)中立抗辯”不成立的情形包括：（）A.開發(fā)者明知模型存在歧視性缺陷仍上線B.運營者未對用戶不當(dāng)使用行為進(jìn)行提示C.模型輸出結(jié)果完全由用戶輸入數(shù)據(jù)決定D.系統(tǒng)日志因技術(shù)故障丟失關(guān)鍵操作記錄三、案例分析題（共2題，每題20分，共40分）案例1：某智能診斷APP的合規(guī)爭議2024年11月，某市“健康助手”APP因用戶投訴被立案調(diào)查。投訴內(nèi)容顯示：該APP宣稱“基于三甲醫(yī)院數(shù)據(jù)訓(xùn)練，診斷準(zhǔn)確率95%”，但實際測試中對糖尿病的誤診率達(dá)28%；用戶注冊時需同意“授權(quán)采集包括基因檢測報告在內(nèi)的全部健康數(shù)據(jù)”，否則無法使用核心功能；部分用戶發(fā)現(xiàn)，其上傳的CT影像被用于第三方藥品公司的新藥研發(fā)，未獲得單獨同意；一名用戶因信任APP“無需就醫(yī)”的建議，延誤治療導(dǎo)致病情惡化，要求APP運營方賠償。問題：結(jié)合《個人信息保護(hù)法》《生成式人工智能服務(wù)管理暫行辦法》及醫(yī)療AI相關(guān)法規(guī)，分析該APP存在的合規(guī)問題，并提出整改建議。案例2：金融風(fēng)控模型的算法歧視事件某銀行2024年上線的“智選”信貸AI模型，在運行6個月后被發(fā)現(xiàn)：對戶籍為農(nóng)村地區(qū)的申請人，拒絕率比城市申請人高42%，而兩組申請人的實際違約率無顯著差異。經(jīng)調(diào)查，模型訓(xùn)練數(shù)據(jù)中包含“戶籍所在地”字段，且歷史信貸數(shù)據(jù)因地域差異本身存在偏差（如農(nóng)村地區(qū)早期貸款樣本少）。銀行未對模型的公平性進(jìn)行專項測試，僅通過常規(guī)性能測試后即上線。問題：（1）該事件涉及哪些AI合規(guī)風(fēng)險？（2）從數(shù)據(jù)管理、模型開發(fā)、風(fēng)險防控角度，提出避免類似問題的具體措施。四、論述題（共1題，10分）結(jié)合全球主要經(jīng)濟體（如中國、歐盟、美國）的AI監(jiān)管實踐，論述“風(fēng)險分級”在AI合規(guī)管理中的必要性及實施路徑。答案及解析一、單項選擇題1.D（企業(yè)內(nèi)部非敏感信息處理工具屬于低風(fēng)險，無需第三方評估）2.C（模型結(jié)果對特定群體存在不公平對待，違反公平性原則）3.B（《生成式AI管理暫行辦法》第15條規(guī)定最長6個月）4.C（倫理委員會章程屬于制度建設(shè)，非技術(shù)措施）5.B（訓(xùn)練數(shù)據(jù)偏差導(dǎo)致的模型缺陷屬于訓(xùn)練階段倫理風(fēng)險）6.B（歐盟AI法案將司法輔助系統(tǒng)列為高風(fēng)險）7.B（數(shù)據(jù)與算法是AI合規(guī)的兩大核心領(lǐng)域）8.A（違反“目的明確”原則，超出聲明的使用范圍）9.B（黑盒測試不關(guān)注內(nèi)部邏輯，側(cè)重輸入輸出驗證）10.B（《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》第29條規(guī)定2小時內(nèi)報告）二、多項選擇題1.ABC（股權(quán)結(jié)構(gòu)未影響控制權(quán)不觸發(fā)重新評估）2.ACD（公開完整代碼可能涉及商業(yè)秘密，非強制要求）3.BCD（罕見病病例非強制要求，但需覆蓋常見病例）4.AC（B屬于安全風(fēng)險，D屬于個性化服務(wù)）5.ABC（個人數(shù)據(jù)刪除響應(yīng)時限為30個工作日）6.ABCD（四者均為合規(guī)體系核心）7.ACD（界面設(shè)計模仿不構(gòu)成不正當(dāng)競爭）8.ABCD（全生命周期覆蓋從數(shù)據(jù)到退役的所有階段）9.ABD（企業(yè)內(nèi)部使用的工具無需向公眾備案）10.ABD（C屬于技術(shù)中立可抗辯情形）三、案例分析題案例1答案要點：（1）合規(guī)問題：①虛假宣傳：違反《廣告法》第28條，夸大AI診斷準(zhǔn)確率；②強制授權(quán)：違反《個人信息保護(hù)法》第16條“最小必要”原則，強制采集基因數(shù)據(jù)；③數(shù)據(jù)濫用：未經(jīng)單獨同意將CT影像提供給第三方，違反《個人信息保護(hù)法》第23條；④責(zé)任缺失：醫(yī)療AI未提示“輔助診斷”性質(zhì)，違反《醫(yī)療器械監(jiān)督管理條例》第58條，需承擔(dān)用戶損害賠償責(zé)任。（2）整改建議：①修正宣傳內(nèi)容，標(biāo)注“輔助診斷”并說明準(zhǔn)確率統(tǒng)計范圍；②調(diào)整用戶授權(quán)條款，僅采集診斷必需的基礎(chǔ)健康數(shù)據(jù)（如癥狀、常規(guī)檢查結(jié)果）；③建立數(shù)據(jù)共享審批流程，對外提供敏感數(shù)據(jù)需獲得用戶單獨書面同意；④增加人工復(fù)核提示，在輸出建議中明確標(biāo)注“請及時就醫(yī)確認(rèn)”；⑤投保醫(yī)療AI責(zé)任險，建立用戶損害賠償專項基金。案例2答案要點：（1）合規(guī)風(fēng)險：①數(shù)據(jù)偏差風(fēng)險：訓(xùn)練數(shù)據(jù)包含“戶籍”字段且存在歷史偏差，違反公平性原則；②算法歧視風(fēng)險：模型輸出對農(nóng)村用戶存在系統(tǒng)性不公平；③測試缺失風(fēng)險：未進(jìn)行公平性專項測試，違反《人工智能算法公平性評估指南》要求；④責(zé)任追溯風(fēng)險：未留存模型訓(xùn)練過程記錄，可能無法證明無主觀過錯。（2）具體措施：數(shù)據(jù)管理：剔除與信貸風(fēng)險無關(guān)的“戶籍”字段，或?qū)Φ赜蛳嚓P(guān)數(shù)據(jù)進(jìn)行去標(biāo)識化處理；補充農(nóng)村地區(qū)信貸數(shù)據(jù)樣本，平衡訓(xùn)練集的地域分布；建立數(shù)據(jù)偏差檢測機制，對訓(xùn)練數(shù)據(jù)進(jìn)行統(tǒng)計公平性分析（如不同群體的特征分布差異）。模型開發(fā)：在模型訓(xùn)練階段加入公平性約束（如使用對抗公平性訓(xùn)練算法）；增加公平性指標(biāo)（如不同群體的拒絕率差異、校準(zhǔn)度）作為模型評估標(biāo)準(zhǔn)；對模型進(jìn)行“壓力測試”，模擬不同地域用戶輸入，驗證輸出公平性。風(fēng)險防控：建立算法審計制度，委托第三方機構(gòu)進(jìn)行公平性專項審計；在模型上線前通過“沙盒測試”，模擬真實業(yè)務(wù)場景觀察輸出結(jié)果；定期（每季度）對模型運行數(shù)據(jù)進(jìn)行回溯分析，監(jiān)測公平性指標(biāo)變化；建立用戶申訴機制，對被拒絕的用戶提供算法決策解釋（如關(guān)鍵影響因素）。四、論述題答案要點：（1）必要性：①AI應(yīng)用場景復(fù)雜多樣（如醫(yī)療、金融、娛樂），風(fēng)險程度差異顯著，“一刀切”監(jiān)管會抑制創(chuàng)新；②風(fēng)險分級可實現(xiàn)監(jiān)管資源的優(yōu)化配置，聚焦高風(fēng)險領(lǐng)域（如公共安全、司法）的嚴(yán)格管控；③符合國際監(jiān)管趨勢（如歐盟AI法案、美國NIST框架均采用風(fēng)險分級），便于跨國合規(guī)銜接。