FundamentalsandApplicationsofArtificialIntelligence第四章智慧向善,明辨人工智能倫理與法規(guī)模塊一人工智能倫理風(fēng)險(xiǎn)與道德規(guī)范01現(xiàn)實(shí)中的人工智能倫理風(fēng)險(xiǎn)02一、倫理風(fēng)險(xiǎn)在人工智能中的具體體現(xiàn)03二、人工智能發(fā)展中的道德規(guī)范及其作用04三、人工智能倫理框架與道德規(guī)范的確立目錄Content051.知識(shí)目標(biāo)（1）認(rèn)識(shí)人工智能發(fā)展中的主要倫理挑戰(zhàn)與安全風(fēng)險(xiǎn)。（2）了解我國(guó)在人工智能治理、數(shù)據(jù)安全與個(gè)人信息保護(hù)方面的法律法規(guī)。（3）理解在AI應(yīng)用中界定法律責(zé)任的主要難點(diǎn)與應(yīng)對(duì)策略。（4）明確“智能向善”的核心內(nèi)涵與個(gè)人在AI時(shí)代的權(quán)利和義務(wù)。2.能力目標(biāo)（1）能運(yùn)用倫理與法律知識(shí)，分析人工智能應(yīng)用中的權(quán)責(zé)問(wèn)題。（2）能識(shí)別AI時(shí)代下的數(shù)據(jù)安全風(fēng)險(xiǎn)，掌握保護(hù)個(gè)人信息的必要方法。（3）能以負(fù)責(zé)任的視角審視技術(shù)發(fā)展，為構(gòu)建“智能向善”的社會(huì)提出個(gè)人見(jiàn)解。課程目標(biāo)現(xiàn)實(shí)中的人工智能倫理風(fēng)險(xiǎn)模塊一人工智能倫理風(fēng)險(xiǎn)與道德規(guī)范Part01一、調(diào)查目的通過(guò)研討一系列現(xiàn)實(shí)世界中的人工智能應(yīng)用場(chǎng)景，初步識(shí)別其中可能存在的倫理風(fēng)險(xiǎn)（如偏見(jiàn)、侵犯?jìng)€(gè)人隱私、責(zé)任劃分模糊等），并嘗試對(duì)復(fù)雜的責(zé)任歸屬問(wèn)題進(jìn)行分析，從而直觀地感受人工智能倫理問(wèn)題的復(fù)雜性與重要性?！緫?yīng)用探索】現(xiàn)實(shí)中的人工智能倫理風(fēng)險(xiǎn)二、調(diào)查任務(wù)請(qǐng)仔細(xì)閱讀“四、人工智能倫理風(fēng)險(xiǎn)調(diào)查表”。針對(duì)表格中描述的每一個(gè)現(xiàn)實(shí)場(chǎng)景，獨(dú)立進(jìn)行思考，并完成以下兩項(xiàng)任務(wù)：在“風(fēng)險(xiǎn)猜想”欄中，勾選出你認(rèn)為該場(chǎng)景下存在的所有潛在風(fēng)險(xiǎn)。在“責(zé)任歸屬”欄中，圈選出你認(rèn)為的責(zé)任方。三、思考與討論在完成調(diào)查表后，請(qǐng)與小組成員或同學(xué)就以下問(wèn)題進(jìn)行討論：

（1）在填寫(xiě)過(guò)程中，你是否感到某些問(wèn)題難以抉擇？為什么在人工智能場(chǎng)景下，責(zé)任的邊界會(huì)變得如此模糊？（2）以“AI篩選簡(jiǎn)歷”為例，造成不公平的根源是算法本身，還是提供給算法的歷史數(shù)據(jù)？開(kāi)發(fā)者、平臺(tái)和使用企業(yè)應(yīng)如何分擔(dān)責(zé)任？（3）在“智能汽車(chē)事故”的案例中，當(dāng)企業(yè)的營(yíng)銷(xiāo)宣傳（如“自動(dòng)駕駛”）與說(shuō)明書(shū)中的免責(zé)條款沖突時(shí)，我們應(yīng)如何看待用戶(hù)的“警惕義務(wù)”？這些案例共同揭示了哪些亟待解決的倫理問(wèn)題？【應(yīng)用探索】現(xiàn)實(shí)中的人工智能倫理風(fēng)險(xiǎn)四、人工智能倫理風(fēng)險(xiǎn)調(diào)查表【應(yīng)用探索】現(xiàn)實(shí)中的人工智能倫理風(fēng)險(xiǎn)案例該案例反映了什么問(wèn)題？(勾選)責(zé)任歸屬(圈選)某招聘平臺(tái)使用AI篩選簡(jiǎn)歷，結(jié)果顯示，名校畢業(yè)生的通過(guò)率遠(yuǎn)高于普通院校的求職者，引發(fā)了社會(huì)對(duì)招聘公平性的質(zhì)疑。?平臺(tái)篩選機(jī)制存在缺陷?企業(yè)對(duì)于不同背景的求職者存在偏見(jiàn)?不清楚具體問(wèn)題，難以選擇1.算法工程師2.招聘平臺(tái)3.用人企業(yè)4.監(jiān)管機(jī)構(gòu)一款熱門(mén)短視頻App通過(guò)算法持續(xù)推薦爭(zhēng)議或者觀點(diǎn)極端的內(nèi)容，導(dǎo)致部分用戶(hù)長(zhǎng)時(shí)間沉迷其中，甚至價(jià)值觀受到影響。?該App的算法存在缺陷?部分視頻作者宣傳不良觀念?不清楚具體問(wèn)題，難以選擇1.算法工程師2.App運(yùn)營(yíng)方3.內(nèi)容創(chuàng)作者4.用戶(hù)一輛智能汽車(chē)在自動(dòng)輔助駕駛模式下發(fā)生交通事故。調(diào)查發(fā)現(xiàn)，責(zé)任可能涉及傳感器故障、算法決策失誤、車(chē)主未能及時(shí)接管等多個(gè)環(huán)節(jié)。?自動(dòng)駕駛導(dǎo)致的事故難以劃分責(zé)任?自動(dòng)駕駛算法不夠完善?不清楚具體問(wèn)題，難以選擇1.汽車(chē)制造商2.算法工程師3.零部件供應(yīng)商4.車(chē)主為提升管理效率，某社區(qū)未經(jīng)住戶(hù)允許，就安裝帶有人臉識(shí)別功能的攝像頭，用于監(jiān)控高空拋物等行為。對(duì)此，一部分住戶(hù)表示支持，另一部分住戶(hù)對(duì)此感到不滿(mǎn)。?個(gè)人數(shù)據(jù)泄露?AI技術(shù)的應(yīng)用可能會(huì)損害部分群體的利益?不清楚具體問(wèn)題，難以選擇1.技術(shù)提供商2.社區(qū)物業(yè)/居委會(huì)3.社區(qū)住戶(hù)一家公司引入AI客服系統(tǒng)，大幅削減了人工客服崗位，導(dǎo)致一批員工面臨失業(yè)。公司認(rèn)為這是技術(shù)進(jìn)步和降本增效的必然結(jié)果。?AI技術(shù)的應(yīng)用減少就業(yè)崗位?不清楚具體問(wèn)題，難以選擇1.公司管理層2.技術(shù)提供商3.員工倫理風(fēng)險(xiǎn)在人工智能中的具體體現(xiàn)Part02模塊一

人工智能倫理風(fēng)險(xiǎn)與道德規(guī)范（一）倫理的本源與時(shí)代內(nèi)涵倫理，作為調(diào)節(jié)社會(huì)關(guān)系、規(guī)范個(gè)體行為的體系，其思想在中國(guó)源遠(yuǎn)流長(zhǎng)。2022年，中共中央辦公廳、國(guó)務(wù)院辦公廳聯(lián)合印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》。文件明確指出，科技倫理是“科技活動(dòng)需要遵循的價(jià)值理念和行為規(guī)范”。一、倫理風(fēng)險(xiǎn)在人工智能中的具體體現(xiàn)（二）人工智能倫理的核心要義與挑戰(zhàn)人工智能倫理，是一套在引導(dǎo)人工智能技術(shù)在研發(fā)、部署與應(yīng)用全生命周期中，必須遵循的道德規(guī)范、法律準(zhǔn)則與社會(huì)核心價(jià)值觀的整合性框架，其根本目的在于確保技術(shù)發(fā)展服務(wù)于人類(lèi)福祉，規(guī)避其對(duì)個(gè)人、社會(huì)乃至文明的潛在危害。隨著人工智能技術(shù)的深度融合與廣泛應(yīng)用，其潛在的倫理風(fēng)險(xiǎn)與道德困境日益凸顯，主要體現(xiàn)在個(gè)人信息權(quán)益保護(hù)與數(shù)據(jù)安全風(fēng)險(xiǎn)、算法偏見(jiàn)與社會(huì)公平、責(zé)任歸屬判斷、就業(yè)沖擊與經(jīng)濟(jì)失衡、倫理道德與價(jià)值觀沖突、技術(shù)透明度與可解釋性這幾個(gè)方面。個(gè)人信息權(quán)益保護(hù)與數(shù)據(jù)安全人工智能的運(yùn)行以海量數(shù)據(jù)為支撐，這使得個(gè)人信息保護(hù)面臨嚴(yán)峻挑戰(zhàn)。算法偏見(jiàn)與社會(huì)公平算法的公正性直接取決于訓(xùn)練數(shù)據(jù)。若數(shù)據(jù)源中存在偏見(jiàn)，算法模型在應(yīng)用中便可能固化乃至放大這些偏見(jiàn)，形成算法歧視。責(zé)任歸屬當(dāng)人工智能系統(tǒng)因設(shè)計(jì)缺陷、技術(shù)故障或不當(dāng)應(yīng)用造成損害時(shí)，其復(fù)雜的系統(tǒng)構(gòu)成使得責(zé)任認(rèn)定成為法律與倫理上的難題。一、倫理風(fēng)險(xiǎn)在人工智能中的具體體現(xiàn)就業(yè)沖擊與經(jīng)濟(jì)失衡部分重復(fù)性、流程化的工作崗位面臨被人工智能技術(shù)替代的風(fēng)險(xiǎn)，這可能在短期內(nèi)對(duì)就業(yè)市場(chǎng)造成沖擊，引發(fā)結(jié)構(gòu)性失業(yè)。倫理道德與價(jià)值觀沖突在面臨倫理困境時(shí)，純粹依賴(lài)數(shù)據(jù)和模型進(jìn)行決策，可能與社會(huì)普遍接受的公序良俗和倫理道德相悖。黑箱問(wèn)題部分先進(jìn)的人工智能模型，特別是深度學(xué)習(xí)網(wǎng)絡(luò)，其內(nèi)部決策過(guò)程不透明，呈現(xiàn)黑箱特性。央視財(cái)經(jīng)訪(fǎng)談視頻《人工智能面對(duì)的“倫理困境”》人工智能犯錯(cuò)后究竟由誰(shuí)擔(dān)責(zé)，是技術(shù)發(fā)展中亟需解決的挑戰(zhàn)。央視財(cái)經(jīng)的訪(fǎng)談《人工智能面對(duì)的“倫理困境”》，從智能交通燈的現(xiàn)實(shí)案例切入，介紹了算法決策與現(xiàn)有法律責(zé)任體系的直接沖突，引出了對(duì)企業(yè)、程序員乃至AI自身責(zé)任歸屬的深刻思考。面對(duì)挑戰(zhàn)，無(wú)論是國(guó)際間的行業(yè)共識(shí)，還是國(guó)內(nèi)的治理準(zhǔn)則與企業(yè)自律，都在積極探索構(gòu)建負(fù)責(zé)任的AI治理框架，力求在技術(shù)創(chuàng)新和社會(huì)規(guī)范之間找到平衡。央視財(cái)經(jīng)訪(fǎng)談視頻《人工智能面對(duì)的“倫理困境”》人工智能發(fā)展中的道德規(guī)范及其作用Part03模塊一

人工智能倫理風(fēng)險(xiǎn)與道德規(guī)范我國(guó)的人工智能道德體系是在國(guó)家頂層設(shè)計(jì)和戰(zhàn)略規(guī)劃的指引下，以“以人民為中心”的發(fā)展思想為根本遵循，系統(tǒng)構(gòu)建的成果。人工智能道德通過(guò)強(qiáng)調(diào)對(duì)個(gè)人信息的尊重與隱私保護(hù)，為產(chǎn)業(yè)高質(zhì)量健康發(fā)展劃定了不可逾越的底線(xiàn)，為保障社會(huì)公平正義、建立技術(shù)可信度奠定了基石。我國(guó)人工智能道德的頂層設(shè)計(jì)與核心原則道德準(zhǔn)則在人工智能中的作用二、人工智能發(fā)展中的道德規(guī)范及其作用算法的“暗箱”：數(shù)據(jù)時(shí)代的公平與隱私困境2021年12月3日，上海市徐匯區(qū)市場(chǎng)監(jiān)督管理局對(duì)某銷(xiāo)售服務(wù)有限公司作出了行政處罰決定，認(rèn)定該公司存在非法采集消費(fèi)者人臉識(shí)別數(shù)據(jù)的行為。最終，監(jiān)管部門(mén)依據(jù)相關(guān)法規(guī)，責(zé)令該公司改正違法行為，并處以10萬(wàn)元人民幣的罰款。此案是《個(gè)人信息保護(hù)法》正式施行后，一個(gè)標(biāo)志性的行政處罰案例。它清晰地揭示了部分企業(yè)在追求數(shù)字化運(yùn)營(yíng)和精準(zhǔn)營(yíng)銷(xiāo)時(shí)，對(duì)消費(fèi)者個(gè)人信息權(quán)益的漠視。這種未經(jīng)同意采集人臉等敏感生物信息的行為，嚴(yán)重違反了合法、正當(dāng)、必要和誠(chéng)信原則，將消費(fèi)者置于個(gè)人信息泄露和濫用的巨大風(fēng)險(xiǎn)之中，破壞了商業(yè)倫理與社會(huì)信任，逾越了法律的紅線(xiàn)。為保護(hù)公民個(gè)人信息安全，我國(guó)已構(gòu)筑起堅(jiān)實(shí)的法律防線(xiàn)。2021年11月1日正式施行的《個(gè)人信息保護(hù)法》明確規(guī)定，處理如人臉信息等敏感個(gè)人信息時(shí)，應(yīng)當(dāng)取得本人同意。此外，《民法典》、《消費(fèi)者權(quán)益保護(hù)法》等也對(duì)個(gè)人信息權(quán)益提供了有力保障。人工智能倫理框架與道德規(guī)范的確立Part04模塊一

人工智能倫理風(fēng)險(xiǎn)與道德規(guī)范為確保治理路徑的有效實(shí)施，我國(guó)已出臺(tái)一系列具體的政策法規(guī)，形成了功能互補(bǔ)、層次清晰的制度工具箱。政策與法規(guī)體系的構(gòu)建技術(shù)創(chuàng)新為人工智能道德的實(shí)施提供了關(guān)鍵支持。我國(guó)在這一領(lǐng)域的探索，呈現(xiàn)出國(guó)家主導(dǎo)與產(chǎn)業(yè)界、學(xué)界積極參與相結(jié)合的良好局面。治理的技術(shù)支持體系三、人工智能倫理框架與道德規(guī)范的確立我國(guó)前瞻性地識(shí)別和化解技術(shù)可能帶來(lái)的各類(lèi)安全風(fēng)險(xiǎn)，將道德原則貫穿始終，已建立起一套覆蓋人工智能全生命周期的風(fēng)險(xiǎn)管控體系。全生命周期的治理路徑我國(guó)的人工智能治理“制度工具箱”我國(guó)人工智能風(fēng)險(xiǎn)管控體系面向基礎(chǔ)技術(shù)及應(yīng)用的檢驗(yàn)檢測(cè)服務(wù)平臺(tái)央視《面對(duì)面》系列節(jié)目《曾毅：為AI立心》在博鰲亞洲論壇2025年年會(huì)上，中國(guó)科學(xué)院自動(dòng)化研究所研究員曾毅就人工智能的治理與未來(lái)分享了他的觀點(diǎn)。他認(rèn)為，人工智能是一面鏡子，它最終