2025年人工智能倫理考試卷及答案一、單項(xiàng)選擇題（每題2分，共20分）1.某醫(yī)療AI系統(tǒng)在訓(xùn)練時(shí)使用了某地區(qū)90%的白人患者病歷數(shù)據(jù)，導(dǎo)致其對非裔患者的疾病診斷準(zhǔn)確率低于60%。這一現(xiàn)象直接違背了AI倫理的哪項(xiàng)核心原則？A.公平性（Fairness）B.可解釋性（Explainability）C.隱私保護(hù)（Privacy）D.責(zé)任可追溯（Accountability）2.根據(jù)《生成式人工智能服務(wù)管理暫行辦法》（2024年修訂版），以下哪項(xiàng)屬于生成式AI服務(wù)提供者必須履行的義務(wù)？A.對用戶輸入數(shù)據(jù)進(jìn)行實(shí)時(shí)監(jiān)控并留存三年B.確保生成內(nèi)容不包含任何虛構(gòu)信息C.在顯著位置標(biāo)注生成內(nèi)容的AI屬性D.禁止向未成年人提供任何生成式AI服務(wù)3.某自動駕駛汽車在突發(fā)情況下需選擇碰撞行人或撞擊護(hù)欄，其決策算法基于“最小傷亡數(shù)”原則設(shè)計(jì)。這一算法設(shè)計(jì)最可能引發(fā)的倫理爭議是？A.數(shù)據(jù)隱私泄露風(fēng)險(xiǎn)B.“道德運(yùn)氣”（MoralLuck）困境C.算法黑箱問題D.人類控制權(quán)讓渡4.以下哪項(xiàng)技術(shù)最可能加劇AI的“偏見遷移”（BiasMigration）風(fēng)險(xiǎn)？A.聯(lián)邦學(xué)習(xí)（FederatedLearning）B.遷移學(xué)習(xí)（TransferLearning）C.強(qiáng)化學(xué)習(xí)（ReinforcementLearning）D.監(jiān)督學(xué)習(xí)（SupervisedLearning）5.歐盟《人工智能法案》（AIAct）將AI系統(tǒng)分為“不可接受風(fēng)險(xiǎn)”“高風(fēng)險(xiǎn)”“有限風(fēng)險(xiǎn)”“低風(fēng)險(xiǎn)”四類。以下哪類系統(tǒng)屬于“高風(fēng)險(xiǎn)”？A.用于社交媒體內(nèi)容推薦的算法B.用于法院量刑輔助的AI系統(tǒng)C.用于電商平臺商品推薦的算法D.用于家庭智能音箱的語音助手6.某AI客服系統(tǒng)通過分析用戶通話錄音中的語氣、用詞，自動標(biāo)記“高投訴風(fēng)險(xiǎn)”用戶并優(yōu)先轉(zhuǎn)接人工。若該系統(tǒng)將方言口音重的用戶誤標(biāo)為高風(fēng)險(xiǎn)，其倫理問題的核心是？A.情感計(jì)算的技術(shù)局限性B.基于特征的歧視（ProxyDiscrimination）C.用戶隱私的過度采集D.人機(jī)交互的情感剝奪7.根據(jù)“AI倫理設(shè)計(jì)七原則”（IEEEEthicallyAlignedDesign），以下哪項(xiàng)是“人類中心”（HumanCentricity）原則的具體要求？A.確保AI系統(tǒng)在任何情況下都優(yōu)先保護(hù)人類生命B.允許用戶隨時(shí)關(guān)閉AI系統(tǒng)的自主決策功能C.要求AI開發(fā)者公開全部算法代碼D.限制AI系統(tǒng)的智能水平不超過人類平均水平8.某教育AI系統(tǒng)通過分析學(xué)生的課堂錄像、作業(yè)數(shù)據(jù)和社交動態(tài)，生成“學(xué)習(xí)潛力評估報(bào)告”并提供給學(xué)校。若該報(bào)告將單親家庭學(xué)生的潛力普遍低估，其倫理問題不包括？A.數(shù)據(jù)采集的知情同意缺失B.標(biāo)簽化對學(xué)生心理的傷害C.算法對敏感信息的不當(dāng)關(guān)聯(lián)D.AI系統(tǒng)的計(jì)算效率不足9.以下哪項(xiàng)實(shí)踐最符合“可解釋性AI”（XAI）的要求？A.使用神經(jīng)網(wǎng)絡(luò)模型預(yù)測用戶信用評分，但僅提供最終分?jǐn)?shù)B.開發(fā)決策樹模型并向用戶展示“因月收入低于1萬元，信用評分降低15分”的推導(dǎo)過程C.通過強(qiáng)化學(xué)習(xí)訓(xùn)練機(jī)器人完成復(fù)雜任務(wù)，但無法說明具體決策邏輯D.采用黑箱模型進(jìn)行醫(yī)療影像診斷，僅告知醫(yī)生“該圖像符合肺癌特征”10.聯(lián)合國教科文組織《人工智能倫理建議書》強(qiáng)調(diào)“AI倫理的全球治理需避免技術(shù)霸權(quán)”。以下哪項(xiàng)行為違背了這一精神？A.發(fā)達(dá)國家向發(fā)展中國家提供AI倫理培訓(xùn)B.某技術(shù)強(qiáng)國強(qiáng)制要求全球AI企業(yè)使用其主導(dǎo)的倫理評估標(biāo)準(zhǔn)C.多國聯(lián)合制定AI數(shù)據(jù)跨境流動的通用規(guī)則D.國際組織推動發(fā)展中國家參與AI倫理標(biāo)準(zhǔn)制定二、簡答題（每題8分，共40分）1.請解釋“算法歧視”（AlgorithmicDiscrimination）的定義，并舉例說明其可能的兩種表現(xiàn)形式。2.簡述AI系統(tǒng)中“責(zé)任缺口”（ResponsibilityGap）的含義，并分析其產(chǎn)生的主要原因。3.對比“隱私保護(hù)設(shè)計(jì)”（PrivacybyDesign）與“倫理設(shè)計(jì)嵌入”（EthicsbyDesign）的核心差異。4.列舉生成式AI（AIGC）在內(nèi)容創(chuàng)作領(lǐng)域可能引發(fā)的三項(xiàng)倫理風(fēng)險(xiǎn)，并分別說明。5.說明“人機(jī)協(xié)作倫理”中“人類控制權(quán)”（HumanControl）的具體要求，并舉一例違反該要求的場景。三、案例分析題（每題15分，共30分）案例1：智能招聘系統(tǒng)的爭議某科技公司開發(fā)了一款智能招聘AI系統(tǒng)，通過分析候選人的簡歷、社交動態(tài)、在線測試成績等數(shù)據(jù)，自動篩選“高潛力”候選人。測試階段發(fā)現(xiàn)：系統(tǒng)對女性候選人的篩選通過率比男性低23%，但訓(xùn)練數(shù)據(jù)中男女候選人的實(shí)際錄用率無顯著差異；系統(tǒng)將“常去健身房”“關(guān)注科技博主”等標(biāo)簽與“高潛力”強(qiáng)關(guān)聯(lián)，導(dǎo)致部分傳統(tǒng)行業(yè)從業(yè)者被誤篩；系統(tǒng)未向候選人告知其被篩選的具體規(guī)則，僅反饋“未通過”結(jié)果。問題：結(jié)合AI倫理原則，分析該系統(tǒng)存在的倫理問題，并提出改進(jìn)建議。案例2：醫(yī)療AI的誤診糾紛某醫(yī)院引入的腫瘤診斷AI系統(tǒng)，基于50萬份病理切片數(shù)據(jù)訓(xùn)練，對常見腫瘤的診斷準(zhǔn)確率達(dá)98%。但一名罕見病患者因病灶特征與訓(xùn)練數(shù)據(jù)中的典型樣本差異較大，被系統(tǒng)誤判為“良性”，導(dǎo)致手術(shù)延遲。患者起訴醫(yī)院與AI開發(fā)者，要求賠償。問題：（1）分析該案例中涉及的倫理爭議點(diǎn)；（2）從責(zé)任歸屬角度，說明醫(yī)院、開發(fā)者、患者三方應(yīng)承擔(dān)的責(zé)任。四、論述題（20分）隨著通用人工智能（AGI）的發(fā)展，有學(xué)者提出“AI倫理需從‘風(fēng)險(xiǎn)防控’轉(zhuǎn)向‘價(jià)值引導(dǎo)’”。請結(jié)合當(dāng)前AI倫理實(shí)踐的局限性，論述這一轉(zhuǎn)向的必要性，并提出至少三項(xiàng)具體的價(jià)值引導(dǎo)策略。參考答案一、單項(xiàng)選擇題1.A2.C3.B4.B5.B6.B7.B8.D9.B10.B二、簡答題1.定義：算法歧視指AI系統(tǒng)基于種族、性別、年齡等受保護(hù)特征，對特定群體產(chǎn)生不公平對待的現(xiàn)象，即使開發(fā)者無明確歧視意圖。表現(xiàn)形式：①直接歧視：如招聘算法因性別標(biāo)簽降低女性候選人評分（即使數(shù)據(jù)中無實(shí)際能力差異）；②間接歧視：如信用評分算法將“居住區(qū)域”與“違約風(fēng)險(xiǎn)”關(guān)聯(lián)，而該區(qū)域居民多為少數(shù)族裔，導(dǎo)致隱性排斥。2.責(zé)任缺口：指AI系統(tǒng)引發(fā)損害時(shí)，傳統(tǒng)責(zé)任主體（開發(fā)者、使用者）因技術(shù)復(fù)雜性無法被明確歸責(zé)，或AI本身無法承擔(dān)法律責(zé)任的現(xiàn)象。原因：①技術(shù)黑箱：深度學(xué)習(xí)模型的決策邏輯難以追溯；②多主體參與：數(shù)據(jù)提供者、算法設(shè)計(jì)者、系統(tǒng)使用者責(zé)任邊界模糊；③法律滯后：現(xiàn)有法律未明確AI作為“準(zhǔn)主體”的責(zé)任承擔(dān)方式。3.核心差異：①目標(biāo)側(cè)重：隱私保護(hù)設(shè)計(jì)以用戶數(shù)據(jù)權(quán)利（如匿名化、最小化采集）為核心；倫理設(shè)計(jì)嵌入覆蓋公平、透明、責(zé)任等多元價(jià)值。②應(yīng)用階段：隱私保護(hù)設(shè)計(jì)主要作用于數(shù)據(jù)采集處理環(huán)節(jié)；倫理設(shè)計(jì)需貫穿研發(fā)、部署、迭代全生命周期。③約束范圍：隱私保護(hù)受具體法律（如GDPR）約束；倫理設(shè)計(jì)依賴行業(yè)標(biāo)準(zhǔn)、道德準(zhǔn)則等軟規(guī)范。4.倫理風(fēng)險(xiǎn)：①內(nèi)容侵權(quán)：生成文本/圖像可能抄襲版權(quán)作品，模糊原創(chuàng)與復(fù)制的邊界；②誤導(dǎo)性信息：AI生成的“深度偽造”內(nèi)容（如虛假新聞）可能破壞公共信任；③價(jià)值觀偏移：長期使用單一價(jià)值觀訓(xùn)練的生成模型（如過度強(qiáng)調(diào)消費(fèi)主義）可能影響用戶認(rèn)知。5.人類控制權(quán)要求：在關(guān)鍵決策場景中，人類需保留最終否決權(quán)或調(diào)整權(quán)，AI僅作為輔助工具。違反場景：某自動駕駛系統(tǒng)設(shè)置“緊急情況下自動接管”功能，且用戶無法手動取消，導(dǎo)致用戶在可自主避險(xiǎn)時(shí)被系統(tǒng)強(qiáng)制干預(yù)。三、案例分析題案例1分析：倫理問題：①公平性缺失：性別篩選差異違反“公平原則”，可能構(gòu)成間接歧視；②標(biāo)簽偏見：將非職業(yè)相關(guān)標(biāo)簽（如“去健身房”）與“潛力”關(guān)聯(lián)，屬于基于特征的歧視；③透明性不足：未告知篩選規(guī)則，侵犯候選人的“知情權(quán)”，違背“可解釋性原則”。改進(jìn)建議：①算法審計(jì)：引入第三方機(jī)構(gòu)對訓(xùn)練數(shù)據(jù)進(jìn)行偏見檢測，調(diào)整性別相關(guān)特征的權(quán)重；②特征篩選：僅保留與崗位能力直接相關(guān)的標(biāo)簽（如“項(xiàng)目經(jīng)驗(yàn)”“專業(yè)技能”）；③結(jié)果解釋：向未通過候選人提供“未通過原因”（如“相關(guān)項(xiàng)目經(jīng)驗(yàn)不足”），并允許申訴。案例2分析：（1）爭議點(diǎn)：①數(shù)據(jù)局限性：訓(xùn)練數(shù)據(jù)未覆蓋罕見病樣本，導(dǎo)致“數(shù)據(jù)偏見”；②風(fēng)險(xiǎn)告知缺失：醫(yī)院未向患者說明AI對罕見病的診斷局限性；③責(zé)任模糊：開發(fā)者主張“算法僅為輔助工具”，醫(yī)院認(rèn)為“已盡合理注意義務(wù)”。（2）責(zé)任歸屬：①開發(fā)者：需承擔(dān)主要責(zé)任，因未在系統(tǒng)中標(biāo)注“僅適用于常見腫瘤”的使用邊界，且未對罕見病數(shù)據(jù)進(jìn)行補(bǔ)充訓(xùn)練；②醫(yī)院：承擔(dān)次要責(zé)任，未對AI的適用范圍進(jìn)行充分驗(yàn)證，且未向患者履行風(fēng)險(xiǎn)告知義務(wù)；③患者：無責(zé)任，因基于對醫(yī)療專業(yè)機(jī)構(gòu)的信任使用AI服務(wù)。四、論述題轉(zhuǎn)向必要性：當(dāng)前AI倫理實(shí)踐以“風(fēng)險(xiǎn)防控”為主，側(cè)重解決已暴露問題（如算法歧視、隱私泄露），但存在局限性：①滯后性：僅應(yīng)對已知風(fēng)險(xiǎn)，難以預(yù)判AGI可能引發(fā)的“超級智能”“價(jià)值觀沖突”等新型問題；②碎片化：不同領(lǐng)域（醫(yī)療、教育、軍事）的倫理規(guī)范缺乏統(tǒng)一價(jià)值引領(lǐng)；③被動性：過度依賴“事后追責(zé)”，忽視AI設(shè)計(jì)階段的價(jià)值引導(dǎo)。價(jià)值引導(dǎo)策略：①建立“人類中心”的設(shè)計(jì)框架：要求AGI系統(tǒng)在目標(biāo)函數(shù)中明確嵌入“人類福祉最大化”“尊重基本權(quán)利”等價(jià)值目標(biāo)，例如在醫(yī)療AGI中優(yōu)先保護(hù)患