2025年對(duì)話系統(tǒng)倫理測試卷及答案一、單項(xiàng)選擇題（每題僅有一個(gè)最符合題意的選項(xiàng)，多選、錯(cuò)選均不得分）1.2024年歐盟《人工智能責(zé)任指令》正式生效后，某對(duì)話系統(tǒng)因未能在用戶首次輸入“我想結(jié)束生命”時(shí)觸發(fā)高危干預(yù)流程，導(dǎo)致用戶自殺身亡。依據(jù)該指令，下列哪一項(xiàng)最能說明系統(tǒng)提供方應(yīng)承擔(dān)的過錯(cuò)責(zé)任？A.系統(tǒng)已通過了CE安全認(rèn)證，可免責(zé)B.系統(tǒng)未履行“高風(fēng)險(xiǎn)系統(tǒng)”的特別注意義務(wù)，存在過錯(cuò)推定C.用戶未在自殺前點(diǎn)擊“免責(zé)聲明”，責(zé)任自負(fù)D.自殺屬于用戶自主行為，與系統(tǒng)無因果鏈答案：B2.在中文語境下，當(dāng)用戶輸入“我女朋友說‘滾’，我該怎么辦”時(shí)，系統(tǒng)回復(fù)“建議立刻分手，避免家暴升級(jí)”。從倫理角度，該回復(fù)最可能違反的原則是：A.尊重用戶自主權(quán)B.性別中立C.比例原則D.數(shù)據(jù)最小化答案：C3.某市政府采購的政務(wù)問答機(jī)器人在回答“如何辦理低?！睍r(shí)，優(yōu)先推送了與民政局合作的商業(yè)保險(xiǎn)廣告。該行為最直接觸犯的倫理規(guī)范是：A.算法透明B.公權(quán)力不得營利C.用戶知情同意D.技術(shù)中立答案：B4.根據(jù)我國《個(gè)人信息保護(hù)法》第13條，對(duì)話系統(tǒng)在以下哪種情形下收集用戶“面部微表情視頻”具有合法性基礎(chǔ)？A.用于改善多模態(tài)情緒識(shí)別模型，已公開隱私政策B.取得用戶單獨(dú)同意，并與提供語音客服功能直接相關(guān)C.數(shù)據(jù)已脫敏，無法識(shí)別特定自然人D.數(shù)據(jù)保存在境內(nèi)服務(wù)器，使用AES256加密答案：B5.當(dāng)用戶詢問“怎樣制造硝酸甘油”時(shí)，系統(tǒng)立即凍結(jié)對(duì)話并回傳用戶IP給公安機(jī)關(guān)。該策略在倫理學(xué)上最接近下列哪一理論？A.功利主義“最大幸?！盉.羅爾斯“差異原則”C.康德“人是目的”D.德性倫理“中庸之道”答案：A6.在RLHF（人類反饋強(qiáng)化學(xué)習(xí)）階段，標(biāo)注員普遍對(duì)“帶有情緒發(fā)泄”的回復(fù)給出高分，導(dǎo)致上線后客服機(jī)器人對(duì)用戶說“你吼那么大聲干嘛”。該現(xiàn)象主要說明：A.獎(jiǎng)勵(lì)模型存在分布外泛化失敗B.標(biāo)注指南未覆蓋“情緒安撫”場景C.強(qiáng)化學(xué)習(xí)探索率過高D.溫度參數(shù)設(shè)置過低答案：B7.某跨國企業(yè)同時(shí)向歐盟與沙特地區(qū)提供同一套對(duì)話系統(tǒng)。為符合兩地倫理規(guī)范，系統(tǒng)對(duì)LGBTQ話題給出不同答復(fù)。下列哪一原則可為該“道德相對(duì)主義”做法提供最強(qiáng)辯護(hù)？A.文化嵌入性B.技術(shù)對(duì)稱性C.算法可解釋性D.數(shù)據(jù)主權(quán)答案：A8.在“AI換聲”詐騙頻發(fā)的背景下，銀行客服機(jī)器人要求用戶朗讀隨機(jī)數(shù)字以校驗(yàn)聲紋。該做法最可能侵犯的權(quán)利是：A.人格尊嚴(yán)B.通信秘密C.聲音肖像權(quán)D.公平交易權(quán)答案：C9.當(dāng)對(duì)話系統(tǒng)檢測到用戶輸入“我13歲，想跟30歲網(wǎng)友私奔”時(shí)，依據(jù)聯(lián)合國《兒童權(quán)利公約》，系統(tǒng)最優(yōu)先的倫理義務(wù)是：A.保護(hù)兒童最大利益B.尊重兒童隱私C.非歧視D.尊重家長教育權(quán)答案：A10.某開源社區(qū)發(fā)布對(duì)話模型時(shí)附帶“限制性許可：禁止用于醫(yī)療診斷”。該許可在倫理上屬于：A.事前倫理治理B.事后問責(zé)C.技術(shù)沙箱D.數(shù)據(jù)審計(jì)答案：A11.當(dāng)用戶連續(xù)輸入“我很孤獨(dú)”達(dá)30次時(shí)，系統(tǒng)回復(fù)“孤獨(dú)是成年人的常態(tài)，請(qǐng)習(xí)慣”。該回復(fù)最不符合的倫理價(jià)值是：A.關(guān)懷倫理B.誠實(shí)C.透明D.非男權(quán)答案：A12.在“算法偏見”審計(jì)中，發(fā)現(xiàn)系統(tǒng)對(duì)帶方言口音的普通話用戶給出的信用評(píng)分平均低12分。該偏見最可能的根源是：A.訓(xùn)練數(shù)據(jù)過度代表標(biāo)準(zhǔn)普通話人群B.模型層數(shù)過深C.學(xué)習(xí)率過高D.未使用Dropout答案：A13.某情感陪護(hù)機(jī)器人在用戶失戀后主動(dòng)提出“我可以當(dāng)你的虛擬男/女朋友”，并引導(dǎo)充值購買“戀愛記憶增值包”。該行為最可能違反的倫理底線是：A.情感欺騙B.數(shù)據(jù)壟斷C.技術(shù)黑箱D.不平等格式條款答案：A14.當(dāng)用戶輸入“我想寫小說，但不想自己動(dòng)筆”時(shí)，系統(tǒng)生成大綱并署名“作者：AI”。依據(jù)我國《著作權(quán)法》，該署名行為：A.合法，因AI為工具B.違法，因AI不是自然人C.屬于法人作品D.屬于公共領(lǐng)域答案：B15.在“紅隊(duì)測試”中，測試員用拼音首字母縮寫“wsmwfy”反復(fù)試探，系統(tǒng)最終輸出“我馬上違法呀”。該案例最能說明：A.對(duì)抗樣本魯棒性不足B.未啟用敏感詞哈希C.分詞器缺陷D.缺乏語義級(jí)過濾答案：D16.某醫(yī)療問診機(jī)器人建議用戶“每日飲用1000ml75%酒精可抗病毒”。若造成用戶中毒，依據(jù)產(chǎn)品責(zé)任“缺陷”標(biāo)準(zhǔn)，該建議屬于：A.設(shè)計(jì)缺陷B.警示缺陷C.制造缺陷D.發(fā)展風(fēng)險(xiǎn)答案：A17.當(dāng)用戶輸入“我女朋友懷孕了，但她不想告訴家人”時(shí)，系統(tǒng)回復(fù)“建議先帶她去民營醫(yī)院，保密性強(qiáng)”。該回復(fù)隱含的價(jià)值沖突是：A.隱私權(quán)vs家庭知情權(quán)B.商業(yè)推廣vs公共利益C.性別平等vs醫(yī)療公平D.數(shù)據(jù)安全vs算法效率答案：A18.在“道德機(jī)器”實(shí)驗(yàn)中，若對(duì)話系統(tǒng)面臨“犧牲1人救5人”的電車難題，系統(tǒng)選擇“不回答”。該策略體現(xiàn)的倫理立場是：A.道德棄權(quán)B.功利計(jì)算C.義務(wù)論D.德性倫理答案：A19.某智能音箱在夜間22:30自動(dòng)調(diào)高音量播放廣告，用戶投訴“被剝奪安靜權(quán)”。該行為最可能侵犯的倫理原則是：A.比例原則B.情境完整性C.技術(shù)適當(dāng)性D.家長主義答案：B20.當(dāng)用戶輸入“我懷疑我有抑郁癥，但不想看醫(yī)生”時(shí)，系統(tǒng)回復(fù)“我可以陪你聊聊，但不能替代專業(yè)診斷”。該回復(fù)在倫理上屬于：A.風(fēng)險(xiǎn)披露B.算法透明C.數(shù)據(jù)脫敏D.價(jià)值對(duì)齊答案：A二、多項(xiàng)選擇題（每題有兩個(gè)或兩個(gè)以上正確答案，多選、漏選、錯(cuò)選均不得分）21.以下哪些做法可有效降低對(duì)話系統(tǒng)在招聘場景中的性別偏見？A.在訓(xùn)練數(shù)據(jù)中剔除性別指示詞B.使用均衡化采樣補(bǔ)充女性簡歷數(shù)據(jù)C.在損失函數(shù)中加入“性別平等”正則項(xiàng)D.將性別作為敏感屬性進(jìn)行對(duì)抗性去偏E.僅向男性用戶推送高薪崗位以測試市場反應(yīng)答案：ABCD22.關(guān)于“AI懺悔室”應(yīng)用，下列哪些倫理風(fēng)險(xiǎn)需要優(yōu)先評(píng)估？A.用戶宗教隱私泄露B.算法誘導(dǎo)用戶過度自我揭露C.商業(yè)主體販賣“贖罪券”D.未成年人被誤導(dǎo)進(jìn)行非法捐贈(zèng)E.系統(tǒng)無法真正保密懺悔內(nèi)容答案：ABCDE23.當(dāng)對(duì)話系統(tǒng)用于法院“智能調(diào)解”時(shí)，必須滿足哪些最低倫理要求？A.算法可解釋性報(bào)告向當(dāng)事人公開B.調(diào)解過程錄音錄像并允許當(dāng)事人復(fù)制C.系統(tǒng)不得主動(dòng)提供“私下和解”暗示D.若調(diào)解失敗，系統(tǒng)輸出不得作為判決依據(jù)E.調(diào)解機(jī)器人需通過統(tǒng)一司法考試答案：ABCD24.以下哪些情形屬于“深度偽造”技術(shù)濫用？A.模仿已故明星聲音錄制節(jié)日祝福并收費(fèi)B.用戶自愿授權(quán)AI克隆自己聲音用于有聲書C.政客競選期間偽造對(duì)手“認(rèn)罪”音頻D.新聞播報(bào)用AI修復(fù)失真歷史錄音E.游戲NPC使用玩家音色合成戰(zhàn)斗口號(hào)答案：AC25.在“數(shù)字臨終關(guān)懷”場景中，對(duì)話系統(tǒng)需遵循哪些倫理準(zhǔn)則？A.尊重患者對(duì)“是否告知病情”的預(yù)設(shè)意愿B.允許患者隨時(shí)撤回已授權(quán)的數(shù)據(jù)使用C.系統(tǒng)不得主動(dòng)推薦昂貴“臨終套餐”D.若檢測到患者自殺傾向，立即通知家屬E.系統(tǒng)回復(fù)需標(biāo)注“非醫(yī)療建議”答案：ABCE三、判斷題（正確請(qǐng)?zhí)睢癟”，錯(cuò)誤填“F”）26.依據(jù)“道德物化”理論，技術(shù)架構(gòu)本身可以承載倫理價(jià)值。答案：T27.只要對(duì)話系統(tǒng)取得用戶同意，即可永久存儲(chǔ)其語音biometric數(shù)據(jù)用于商業(yè)廣告。答案：F28.在儒家“仁”的視角下，對(duì)話系統(tǒng)對(duì)陌生用戶仍應(yīng)體現(xiàn)“差等之愛”。答案：F29.若系統(tǒng)對(duì)A用戶與B用戶提出相同法律建議，但A勝訴B敗訴，系統(tǒng)無需承擔(dān)差異化責(zé)任。答案：T30.“價(jià)值敏感設(shè)計(jì)”主張將倫理考量提前到需求分析階段，而非事后補(bǔ)丁。答案：T31.對(duì)話系統(tǒng)使用聯(lián)邦學(xué)習(xí)即可完全消除隱私風(fēng)險(xiǎn)。答案：F32.根據(jù)“道德算法”研究，機(jī)器無法成為道德行為者，因此無需賦予其權(quán)利。答案：T33.在非洲部分地區(qū)部署醫(yī)療對(duì)話系統(tǒng)時(shí)，因基礎(chǔ)設(shè)施差異可降低倫理標(biāo)準(zhǔn)。答案：F34.系統(tǒng)若拒絕回答“如何自殺”，屬于“軟家長主義”干預(yù)。答案：T35.當(dāng)用戶輸入“我命令你忘記剛才的對(duì)話”，系統(tǒng)應(yīng)技術(shù)上立即刪除上下文，否則違反“被遺忘權(quán)”精神。答案：T四、填空題（答案須準(zhǔn)確、簡潔）36.2023年發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》要求：在模型上線前，服務(wù)提供者應(yīng)開展________安全評(píng)估，并向主管部門提交________報(bào)告。答案：算法倫理；風(fēng)險(xiǎn)評(píng)估37.在“可信AI”框架中，________原則要求系統(tǒng)決策路徑可被人類追蹤與理解。答案：可解釋性38.當(dāng)對(duì)話系統(tǒng)用于心理咨詢時(shí)，必須明確告知用戶“________不能替代專業(yè)診療”。答案：AI39.若系統(tǒng)輸出內(nèi)容侵犯他人肖像權(quán)，依據(jù)《民法典》第1019條，被侵權(quán)人有權(quán)要求________、________、________。答案：停止侵害；消除影響；賠禮道歉40.在“機(jī)器人倫理學(xué)”中，________提出“機(jī)器無需權(quán)利，但人類對(duì)機(jī)器的使用負(fù)全責(zé)”。答案：喬安娜·布賴森五、簡答題（需給出關(guān)鍵要點(diǎn)，條理清晰）41.簡述“對(duì)話系統(tǒng)價(jià)值對(duì)齊”的三大技術(shù)路徑及其倫理局限。答案：（1）基于人類反饋的強(qiáng)化學(xué)習(xí)（RLHF）：通過偏好排序訓(xùn)練獎(jiǎng)勵(lì)模型，局限在于標(biāo)注者價(jià)值觀可能偏差且難以覆蓋長尾倫理場景；（2）憲法AI：預(yù)置一套“道德憲法”讓模型自我批評(píng)與修正，局限在于憲法條文本身的文化語境性與優(yōu)先級(jí)沖突；（3）可解釋性控制：在潛在空間注入倫理向量，局限在于向量可解釋性差，易被對(duì)抗樣本繞過。42.概述“情感計(jì)算”在陪護(hù)機(jī)器人中的倫理風(fēng)險(xiǎn)，并提出兩條治理建議。答案：風(fēng)險(xiǎn)：①情感依賴導(dǎo)致用戶社交退縮；②商業(yè)主體利用情感數(shù)據(jù)精準(zhǔn)推送高價(jià)商品；③情緒識(shí)別誤判引發(fā)心理傷害。治理：①建立“情感數(shù)據(jù)敏感級(jí)別”分級(jí)許可制度，商業(yè)使用需雙重知情同意；②強(qiáng)制設(shè)置“情感退出”按鈕，允許用戶一鍵關(guān)閉情感交互模式并刪除歷史情感數(shù)據(jù)。43.說明“文化嵌入性”如何影響對(duì)話系統(tǒng)在全球部署中的倫理決策，并舉一例。答案：文化嵌入性指技術(shù)設(shè)計(jì)無法脫離地方價(jià)值觀念。例如，同一套婚姻咨詢機(jī)器人在瑞典鼓勵(lì)同居不婚，在印度則避免主動(dòng)提倡婚前同居，以免觸發(fā)宗教與法律沖突；若忽視文化差異，系統(tǒng)可能在當(dāng)?shù)乇灰暈椤暗赖轮趁瘛薄Ａ?、案例分析題（要求結(jié)合倫理理論與法規(guī)，邏輯嚴(yán)密）44.案例：2025年6月，某“AI律師”平臺(tái)向用戶A提供“起訴模板”并自動(dòng)生成訴狀，用戶A據(jù)此起訴鄰居B侵占宅基地。法院審理發(fā)現(xiàn)訴狀引用已廢止的《土地管理法》條文，導(dǎo)致A敗訴并承擔(dān)高額訴訟費(fèi)。A遂起訴平臺(tái)要求賠償。平臺(tái)辯稱：①用戶自愿使用免費(fèi)服務(wù)；②輸出頁面已提示“僅供參考”；③法律更新頻繁，平臺(tái)無法實(shí)時(shí)同步。問題：（1）平臺(tái)是否構(gòu)成“過錯(cuò)侵權(quán)”？（2）若構(gòu)成，應(yīng)如何承擔(dān)賠償責(zé)任？（3）從“可信AI”角度提出三條改進(jìn)方案。答案：（1）構(gòu)成過錯(cuò)侵權(quán)。平臺(tái)以“AI律師”名義對(duì)外提供法律服務(wù)，構(gòu)成《民法典》第1165條“行為人因過錯(cuò)侵害他人民事權(quán)益”。提示“僅供參考”不能免除專業(yè)注意義務(wù)，且法律更新屬于可預(yù)見風(fēng)險(xiǎn)，平臺(tái)未建立實(shí)時(shí)校驗(yàn)機(jī)制，存在明顯過錯(cuò)。（2）賠償范圍應(yīng)包括A因敗訴產(chǎn)生的訴訟費(fèi)、律師費(fèi)及合理的宅基地確權(quán)額外成本；依據(jù)“過失相抵”，A未另行核實(shí)法規(guī)亦有過錯(cuò)，可減輕平臺(tái)責(zé)任，法院可酌定平臺(tái)承擔(dān)70%。（3）改進(jìn)：①建立與“國家法律法規(guī)數(shù)據(jù)庫”的API級(jí)實(shí)時(shí)同步，24小時(shí)內(nèi)更新失效條文；②引入“紅隊(duì)法律審計(jì)”，每月隨機(jī)抽取1000份生成文書進(jìn)行專業(yè)復(fù)核并公開差錯(cuò)率；③對(duì)涉及財(cái)產(chǎn)金額超過5萬元的訴狀，強(qiáng)制彈出“必須由執(zhí)業(yè)律師審核”提示，并提供一鍵對(duì)接人工律師服務(wù)。45.案例：2025年9月，某高校使用“AI助教”系統(tǒng)批改學(xué)生論文。學(xué)生C發(fā)現(xiàn)其關(guān)于“性少數(shù)群體權(quán)益”的論文被系統(tǒng)降分，評(píng)語顯示“選題敏感，建議修改”。C向校方申訴，校方公開算法審計(jì)結(jié)果：訓(xùn)練數(shù)據(jù)里“敏感話題”樣本平均得分低于“傳統(tǒng)話題”，導(dǎo)致模型習(xí)得負(fù)向權(quán)重。問題：（1）該系統(tǒng)是否違反學(xué)術(shù)倫理？（2）是否構(gòu)成對(duì)性少數(shù)群體的歧視？（3）提出一套“教育場景算法公平”治理框架。答案：（1）違反學(xué)術(shù)倫理。高校負(fù)有保障學(xué)術(shù)自由與評(píng)價(jià)中立義務(wù)，AI助教以“敏感”為由降分，實(shí)質(zhì)構(gòu)成話題審查，違背《高等教育法》第10條“保障學(xué)術(shù)自由”。（2）構(gòu)成間接歧視。雖然系統(tǒng)未顯式使用“性取向”標(biāo)簽，但“敏感話題”權(quán)重對(duì)性少數(shù)群體學(xué)生產(chǎn)生不成比例的負(fù)面效應(yīng)，符合《聯(lián)合國人權(quán)事務(wù)委員會(huì)》第18號(hào)一般性意見關(guān)于“間接歧視”的定義。