FundamentalsandApplicationsofArtificialIntelligence第四章智慧向善,明辨人工智能倫理與法規(guī)模塊二

人工智能法制建設(shè)與權(quán)責(zé)劃分01你可以把方向盤完全交給AI嗎?02一、法制建設(shè)的現(xiàn)狀與發(fā)展方向03二、權(quán)責(zé)劃分的難點(diǎn)與對(duì)策04三、智能向善:法制架構(gòu)與權(quán)責(zé)劃分的未來(lái)展望目錄Content05你可以把方向盤完全交給AI嗎?模塊二

人工智能法制建設(shè)與權(quán)責(zé)劃分Part01一、任務(wù)目的通過(guò)分析一起涉及“輔助駕駛”功能的真實(shí)事故案例，深入探討在人工智能應(yīng)用造成損害時(shí)，其責(zé)任歸屬的多元性與復(fù)雜性。本任務(wù)旨在激發(fā)學(xué)生對(duì)駕駛員、制造商、技術(shù)開發(fā)者及社會(huì)規(guī)范之間權(quán)責(zé)界限的深刻思考，幫助學(xué)生更好地理解人工智能法制建設(shè)面臨的挑戰(zhàn)?！緫?yīng)用探索】現(xiàn)實(shí)中的人工智能倫理風(fēng)險(xiǎn)二、調(diào)查任務(wù)請(qǐng)仔細(xì)閱讀“四、事故背景與責(zé)任劃分表”。針對(duì)表格中描述的每一個(gè)現(xiàn)實(shí)場(chǎng)景，獨(dú)立進(jìn)行思考，并完成以下兩項(xiàng)任務(wù)：在“風(fēng)險(xiǎn)猜想”欄中，勾選出你認(rèn)為該場(chǎng)景下存在的所有潛在風(fēng)險(xiǎn)。在“責(zé)任歸屬”欄中，圈選出你認(rèn)為的責(zé)任方。三、思考與討論在閱讀并填寫“四、事故背景與責(zé)任劃分表”后，與同桌交流你們的選項(xiàng)，并討論下面的問(wèn)題：1.駕駛員理論上擁有最終控制權(quán)，但輔助駕駛系統(tǒng)的設(shè)計(jì)初衷就是為了解放駕駛員。當(dāng)系統(tǒng)在99%的時(shí)間里都表現(xiàn)完美時(shí)，我們應(yīng)如何定義駕駛員“時(shí)刻保持警惕”的責(zé)任邊界？這種要求在人性上是否現(xiàn)實(shí)？2.“領(lǐng)航輔助”、“自動(dòng)輔助駕駛”這樣的命名，在多大程度上影響了用戶對(duì)技術(shù)的認(rèn)知和行為？企業(yè)的營(yíng)銷與產(chǎn)品說(shuō)明書中的免責(zé)條發(fā)生沖突時(shí)，法律應(yīng)如何權(quán)衡，責(zé)任應(yīng)如何分配？3.如果AI的決策是基于復(fù)雜的深度學(xué)習(xí)模型做出的，連其設(shè)計(jì)者都無(wú)法完全解釋其在特定情境下的每一個(gè)決策邏輯，我們?cè)撊绾螌?duì)這樣的黑箱進(jìn)行追責(zé)？【應(yīng)用探索】現(xiàn)實(shí)中的人工智能倫理風(fēng)險(xiǎn)四、事故背景與責(zé)任劃分表【應(yīng)用探索】現(xiàn)實(shí)中的人工智能倫理風(fēng)險(xiǎn)責(zé)任方主要責(zé)任次要責(zé)任部分責(zé)任無(wú)責(zé)任A.駕駛員本人

B.工程作業(yè)車駕駛員

C.汽車制造商

D.軟件工程師

2021年8月，一位企業(yè)家在高速公路上開啟了車輛的輔助駕駛功能，將部分駕駛操作交由系統(tǒng)處理。起初，車輛行駛平穩(wěn)，但當(dāng)行至某路段時(shí)，前方出現(xiàn)一輛緩慢行駛的工程作業(yè)車，車輛的智能系統(tǒng)未能準(zhǔn)確識(shí)別這一非標(biāo)準(zhǔn)障礙物，也未能及時(shí)采取有效的減速或避讓措施，最終導(dǎo)致兩車發(fā)生追尾碰撞。事故發(fā)生后，車輛的安全氣囊等被動(dòng)安全系統(tǒng)被激活，但因撞擊嚴(yán)重，仍造成了駕駛員不幸遇難的悲劇。面對(duì)上述案例，不同的調(diào)查機(jī)構(gòu)、法律專家和公眾給出了截然不同的責(zé)任劃分意見(jiàn)。請(qǐng)仔細(xì)思考并在下面的表格中勾選相應(yīng)的責(zé)任。法制建設(shè)的現(xiàn)狀與發(fā)展方向Part02模塊二

人工智能法制建設(shè)與權(quán)責(zé)劃分我國(guó)的人工智能法律框架我國(guó)在構(gòu)建人工智能法律框架時(shí)，采取了全面覆蓋、精準(zhǔn)聚焦的策略，針對(duì)人工智能生態(tài)中的不同對(duì)象和環(huán)節(jié)，制定了相應(yīng)的規(guī)范，形成了一個(gè)針對(duì)性強(qiáng)、邏輯嚴(yán)密、無(wú)死角的全方位規(guī)制體系。其他國(guó)家的人工智能法律框架面對(duì)人工智能技術(shù)帶來(lái)的深刻變革與潛在風(fēng)險(xiǎn)，不同經(jīng)濟(jì)體基于其制度與理念差異，形成了各具特點(diǎn)的法律與政策框架。歐盟選擇了以風(fēng)險(xiǎn)預(yù)防為核心的全面立法路徑，美國(guó)是在避免形成治理真空與過(guò)度監(jiān)管扼殺創(chuàng)新之間尋求平衡。未來(lái)人工智能社會(huì)的法律構(gòu)建方向我國(guó)人工智能法律框架的構(gòu)建，以促進(jìn)社會(huì)福祉為導(dǎo)向，將道德準(zhǔn)則深度融入法律規(guī)范，統(tǒng)領(lǐng)著全部立法活動(dòng)必須服務(wù)于最廣大人民的根本利益。在此基礎(chǔ)上，我國(guó)秉持審慎包容的原則，在堅(jiān)守安全底線與鼓勵(lì)技術(shù)探索之間尋求最佳平衡。一、法制建設(shè)的現(xiàn)狀與發(fā)展方向我國(guó)人工智能法治體系構(gòu)建歷程回顧我國(guó)的人工智能法治體系建設(shè)，并非是對(duì)技術(shù)發(fā)展的被動(dòng)響應(yīng)，而是一場(chǎng)由國(guó)家主導(dǎo)、自上而下、層層遞進(jìn)的系統(tǒng)性工程。其構(gòu)建歷程清晰地反映出從戰(zhàn)略擘畫、倫理奠基到法治保障，再到參與全球治理的前瞻性、系統(tǒng)性與連貫性，旨在統(tǒng)籌發(fā)展與安全兩大目標(biāo)，確保這一戰(zhàn)略性技術(shù)始終在健康、有序、可控的軌道上行進(jìn)，最終服務(wù)于國(guó)家發(fā)展大局與人民福祉。我國(guó)人工智能法治體系構(gòu)建核心文件一覽表時(shí)間發(fā)布機(jī)構(gòu)核心文件名稱2017年7月國(guó)務(wù)院《新一代人工智能發(fā)展規(guī)劃》2019年6月國(guó)家新一代人工智能治理專業(yè)委員會(huì)《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》2021年9月國(guó)家新一代人工智能治理專業(yè)委員會(huì)《新一代人工智能倫理規(guī)范》2021年9月國(guó)家網(wǎng)信辦、工信部等《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》2023年7月國(guó)家網(wǎng)信辦等七部門《生成式人工智能服務(wù)管理暫行辦法》2023年10月中華人民共和國(guó)《全球人工智能治理倡議》權(quán)責(zé)劃分的難點(diǎn)與對(duì)策Part03模塊二

人工智能法制建設(shè)與權(quán)責(zé)劃分（一）人工智能時(shí)代的治理挑戰(zhàn)隨著人工智能技術(shù)的高速迭代，技術(shù)實(shí)踐的超前性和法律的滯后性之間的深刻矛盾正在凸顯。既有的法律責(zé)任認(rèn)定體系在處理人工智能相關(guān)問(wèn)題時(shí)面臨兩大難題：一是歸責(zé)主體的明確性，二是因果關(guān)系的確定性。一、權(quán)責(zé)劃分的難點(diǎn)與對(duì)策（二）破解困境的中國(guó)治理探索我國(guó)秉持發(fā)展和安全并重的原則，積極探索構(gòu)建適應(yīng)人工智能發(fā)展規(guī)律的責(zé)任界定框架，明確服務(wù)提供者的核心責(zé)任，構(gòu)建全周期多層次的治理機(jī)制，創(chuàng)新司法實(shí)踐與規(guī)則指引，建立了一套“事前、事中、事后”相結(jié)合的全周期、多層次治理體系。北京互聯(lián)網(wǎng)法院“AI聲音侵權(quán)案”判決2024年4月23日，北京互聯(lián)網(wǎng)法院一審公開宣判了全國(guó)首例AI生成聲音人格權(quán)侵權(quán)案，該判決對(duì)人工智能時(shí)代個(gè)人生物信息的法律保護(hù)具有里程碑意義。該案源于配音演員殷某某發(fā)現(xiàn)，其在2019年為一家文化傳媒公司錄制的個(gè)人音頻，在本人不知情的情況下，被該公司擅自許可給一家軟件公司用以訓(xùn)練并制成AI語(yǔ)音產(chǎn)品。此后，該AI產(chǎn)品再經(jīng)由云服務(wù)平臺(tái)、技術(shù)采購(gòu)方等多個(gè)環(huán)節(jié)，最終被一家智能科技公司集成在其終端應(yīng)用中向公眾提供。法院最終認(rèn)定，該智能科技公司的行為構(gòu)成了對(duì)殷某某聲音權(quán)的侵害，判令其承擔(dān)書面致歉、賠償經(jīng)濟(jì)損失與精神損害撫慰金共計(jì)25萬(wàn)元的民事責(zé)任，明確了復(fù)雜技術(shù)鏈條下終端產(chǎn)品運(yùn)營(yíng)方的法律責(zé)任。此判決的里程碑意義，在于它確立了“知情同意”在人工智能場(chǎng)景下的延伸與深化。它明確了將合法獲取的個(gè)人聲音用于AI模型訓(xùn)練，已超出了傳統(tǒng)的使用范疇，是對(duì)個(gè)人核心人格權(quán)益的深度再加工。因此，這種行為必須獲得權(quán)利人明確、具體且獨(dú)立的授權(quán)。智能向善:法制架構(gòu)與權(quán)責(zé)劃分的未來(lái)展望Part04模塊二

人工智能法制建設(shè)與權(quán)責(zé)劃分我國(guó)的人工智能治理，以“以人為本、智能向善”為根本取向，以統(tǒng)籌發(fā)展與安全，實(shí)現(xiàn)動(dòng)態(tài)平衡為核心原則。堅(jiān)持健全標(biāo)準(zhǔn)體系、強(qiáng)化法治保障的實(shí)踐路徑，加速構(gòu)建一個(gè)由標(biāo)準(zhǔn)引領(lǐng)、技術(shù)支撐、法律規(guī)制構(gòu)成的多維協(xié)同治理體系。責(zé)任界定是人工智能法律框架的核心環(huán)節(jié)，是化解社會(huì)疑慮、建立公眾信任、保障產(chǎn)業(yè)健康發(fā)展的關(guān)鍵。為應(yīng)對(duì)人工智能帶來(lái)的歸責(zé)難題，我國(guó)的探索與實(shí)踐正從立法、技術(shù)、監(jiān)管三個(gè)維度協(xié)同展開。人工智能法律框架的完善方向侵權(quán)責(zé)任界定的發(fā)展路徑三、智能向善:法制架構(gòu)與權(quán)責(zé)劃分的未來(lái)展望“智能向善”，善在何方？“智能向善”是國(guó)家主席習(xí)近平在《全球人工智能治理倡議》中提出的核心理念，它是我國(guó)向世界貢獻(xiàn)的一套系統(tǒng)性、前瞻性的思想框架。那么，“智能向善”，其“善”究竟體現(xiàn)在何處？善在“民為邦本，服務(wù)福祉”。善在“公平公正，包容共享”。善在“安