人工智能的治理與監(jiān)管14-16人工智能經(jīng)濟(jì)學(xué)20xx年技術(shù)分析基礎(chǔ)人工智能理論概念、發(fā)展歷程與應(yīng)用場(chǎng)景分析人工智能的經(jīng)

濟(jì)學(xué)工具機(jī)器學(xué)習(xí)與經(jīng)濟(jì)學(xué)治理治理監(jiān)管人工智能的治理與監(jiān)管人工智能

政策制定人工智能與宏觀經(jīng)濟(jì)政策微觀經(jīng)濟(jì)人工智能的

微觀經(jīng)濟(jì)基礎(chǔ)人工智能

與市場(chǎng)競(jìng)爭(zhēng)人工智能

與要素市場(chǎng)產(chǎn)業(yè)經(jīng)濟(jì)人工智能

產(chǎn)業(yè)發(fā)展產(chǎn)業(yè)智能化：內(nèi)涵、機(jī)制與影響開(kāi)放經(jīng)濟(jì)人工智能與

全球價(jià)值鏈人工智能的國(guó)際投資宏觀經(jīng)濟(jì)人工智能與經(jīng)濟(jì)增長(zhǎng)人工智能與經(jīng)濟(jì)周期框架模塊章節(jié)課程結(jié)構(gòu)人工智能與

經(jīng)濟(jì)社會(huì)發(fā)展經(jīng)濟(jì)人工智能技術(shù)的應(yīng)用已經(jīng)滲透到社會(huì)經(jīng)濟(jì)的眾多層面，對(duì)其進(jìn)行治理監(jiān)管具備前所未有的必要性與緊迫性·

算法的不透明性可能導(dǎo)致決策偏見(jiàn)與各種歧視，會(huì)威脅社會(huì)公平正義·

人工智能強(qiáng)大的數(shù)據(jù)處理能力引發(fā)廣泛的隱私泄露擔(dān)憂，這反過(guò)來(lái)又導(dǎo)致數(shù)據(jù)不被充分應(yīng)用、不能有效流通·隨

著生成式人工智能的快速發(fā)展與應(yīng)用，知識(shí)產(chǎn)權(quán)歸屬與保護(hù)面臨重大考驗(yàn)各主要經(jīng)濟(jì)體、國(guó)際組織與科技企業(yè)在人工智能治理方面已積累諸多經(jīng)驗(yàn)，本章將進(jìn)行系統(tǒng)梳理，為顯著提升人工智能治理能力提供有益借鑒。3人工智能的治理理論系統(tǒng)介紹人工智能治理的基礎(chǔ)理論人工智能的治理挑戰(zhàn)梳理人工智能治理面臨的挑戰(zhàn)本講內(nèi)容人工智能的治理實(shí)踐介紹主流的人工智能治理模式與監(jiān)管措施402了解人工智能監(jiān)管的必要性、重要原則及其覆蓋的各個(gè)領(lǐng)域04預(yù)判人工智能進(jìn)一步發(fā)展

可能面臨的治理與監(jiān)管問(wèn)題01理解人工智能治理的基礎(chǔ)理論

及不同理論之間的邏輯聯(lián)系03熟悉國(guó)內(nèi)外目前采用的人工智能治理模式與監(jiān)管措施本章學(xué)習(xí)要點(diǎn)14.1人工智能的治理理論理解人工智能治理的基礎(chǔ)理論及不同理論之間的邏輯聯(lián)系一

、利益相關(guān)者理論(Stakeholder

Theory)理論起源企業(yè)管理領(lǐng)域.理論初衷：突破“傳統(tǒng)企業(yè)管理單純聚焦股東利益”的狹隘視域.理論基石：“企業(yè)是人力資產(chǎn)和人際關(guān)系的集合?！薄驳偎肌づ砹_斯，《企業(yè)成長(zhǎng)理論》,1959年.

明確定義：“利益相關(guān)者(stakeholder)

是這樣一些團(tuán)體，沒(méi)有其支持，組織就不可能生存?！薄固垢４髮W(xué)研究報(bào)告，1963年.內(nèi)涵外延：隨著社會(huì)經(jīng)濟(jì)發(fā)展，企業(yè)經(jīng)營(yíng)環(huán)境日益復(fù)雜，其生存發(fā)展與越來(lái)越多的利益群體相關(guān)人工智能治理.人工智能技術(shù)的多元主體參與、多維度影響特性與利益相關(guān)者理論高度契合7核心思想應(yīng)確認(rèn)在技術(shù)發(fā)展進(jìn)程中：.所有利益相關(guān)者皆具獨(dú)立價(jià)值與合法權(quán)益，均應(yīng)在治理體系內(nèi)獲充分考量與尊重·

各方緊密關(guān)聯(lián)、相互作用，任意主體的利益變動(dòng)都會(huì)波及其余各方，形成“牽一發(fā)而動(dòng)全身”的利益網(wǎng)絡(luò)格局·

利益相關(guān)者共同塑造人工智能發(fā)展軌跡、速度與方向，構(gòu)成技術(shù)治理核心邏輯架構(gòu)社區(qū)以人文環(huán)境、公

共設(shè)施支撐技術(shù)落地生根政府憑政策法規(guī)、公

共資源規(guī)范保障技術(shù)良性發(fā)展企業(yè)借助資金、市場(chǎng)

資源驅(qū)動(dòng)技術(shù)商業(yè)化用戶以需求偏好指引產(chǎn)品優(yōu)化方向技術(shù)開(kāi)發(fā)者以專業(yè)知識(shí)創(chuàng)新賦能技術(shù)迭代8政

策

制

定

環(huán)

節(jié)搭建公共政策協(xié)商平臺(tái).方式：專題研討會(huì)、公開(kāi)聽(tīng)證會(huì)、網(wǎng)絡(luò)意見(jiàn)征集活動(dòng).政府：

主導(dǎo)作用.

技

術(shù)

專

家：洞察前沿趨勢(shì).

企

業(yè)

界：

建言商業(yè)可行性.

民間組織：維護(hù)公眾權(quán)益.

普

通

民

眾：反饋日常生活體驗(yàn).權(quán)衡多元目標(biāo)：技術(shù)創(chuàng)新激勵(lì)、產(chǎn)業(yè)健康發(fā)展、就業(yè)市場(chǎng)穩(wěn)定、隱私權(quán)益保護(hù)等.制定兼具前瞻性與實(shí)操性的法規(guī)政策框架技

術(shù)

研

發(fā)

環(huán)

節(jié)組建人工智能產(chǎn)學(xué)研聯(lián)盟.企

業(yè)：提出應(yīng)用需求與商業(yè)愿景.

科

研

院

所：專注基礎(chǔ)算法突破與共性技術(shù)攻關(guān)

.高校

：培育跨學(xué)科創(chuàng)新人才、提供前沿研究.三方資源共享、優(yōu)勢(shì)互補(bǔ).合力攻克技術(shù)難題，加速技術(shù)成果邁向市場(chǎng)應(yīng)用，確保研發(fā)方向緊密貼合社會(huì)實(shí)際需求實(shí)踐應(yīng)用二、外

部

性

理

論(Externality

Theory)理

論

起

源.馬歇爾《經(jīng)濟(jì)學(xué)原理》(1890年):“外部經(jīng)濟(jì)”表示產(chǎn)業(yè)的普遍發(fā)展帶來(lái)的生產(chǎn)擴(kuò)大外部性理論.庇古《福利經(jīng)濟(jì)學(xué)》(1924年):提出“內(nèi)部不經(jīng)濟(jì)”和“外部不經(jīng)濟(jì)”,基于對(duì)社會(huì)資源進(jìn)行最優(yōu)配置這一角度，應(yīng)用邊際分析法，提出邊際社會(huì)凈產(chǎn)值和邊際私人凈產(chǎn)值，最終形成外部性理論.理論內(nèi)涵：一個(gè)人的行為對(duì)旁觀者福利的無(wú)補(bǔ)償?shù)挠绊?解決方法：庇古稅(Pigouvian

Tax)政府對(duì)產(chǎn)生負(fù)外部性的經(jīng)濟(jì)活動(dòng)進(jìn)行征稅，使得私人成本等于社會(huì)成本(右圖中陰影部分)稅額=邊際外部成本(每增加一單位的經(jīng)濟(jì)活動(dòng)所帶來(lái)的外部成本的增加量)10二

、外部性理論(Externality

Theory)科斯定理(Coase

Theorem).

科斯《社會(huì)成本問(wèn)題》

(

1

9

6

0

年

):交易成本為零(或足夠低)時(shí)，只要明確了產(chǎn)權(quán)界定，無(wú)論初始權(quán)利如何分配，最終資源都會(huì)得到最優(yōu)配置，理性主體總會(huì)將外溢成本和收益考慮在內(nèi)，社會(huì)外部性問(wèn)題將不復(fù)存在.

科

斯

定

理：在某些條件下，經(jīng)濟(jì)的外部性或者非效率可以通過(guò)當(dāng)事人的談判而得到糾正，從而達(dá)到社會(huì)效益最大化.

理

論

意義

：將外部性問(wèn)題從“政府干預(yù)”轉(zhuǎn)向“制度設(shè)計(jì)”——政府發(fā)放可交易許可證(交易污染排放權(quán))人工智能時(shí)代外部性理論的外延人工智能技術(shù)的強(qiáng)大滲透力，致使其外部性跨越經(jīng)濟(jì)、社會(huì)、環(huán)境多領(lǐng)域.算法偏見(jiàn)引發(fā)社會(huì)公平爭(zhēng)議.數(shù)據(jù)中心能耗影響生態(tài)環(huán)境.外部性理論需要從傳統(tǒng)框架向適配人工智能特性的方向革新拓展負(fù)外部性數(shù)據(jù)隱私泄露技術(shù)故障導(dǎo)致事故責(zé)任界定模糊正外部性削減擁堵減少尾氣排放降低人為事故風(fēng)險(xiǎn)核心思想人工智能活動(dòng)常產(chǎn)生超越自身成本收益范疇的外部效應(yīng)，影響社會(huì)福利分配與資源配置效率正外部性：·人工智能的技術(shù)創(chuàng)新外溢可推動(dòng)關(guān)聯(lián)產(chǎn)業(yè)升級(jí)、激發(fā)創(chuàng)業(yè)活力、培育新興業(yè)態(tài)，形成正向知識(shí)擴(kuò)散紅利·但由于創(chuàng)新外溢效應(yīng)的存在，創(chuàng)新主體無(wú)法獲得全部收益，因此會(huì)引致創(chuàng)新者投入不足、減少供給負(fù)外部性：·

人工智能可能衍生算法歧視、隱私侵蝕、失業(yè)沖擊等負(fù)外部性·但由于行為主體沒(méi)有承擔(dān)外部成本，因此有可能過(guò)度供給，從而引致市場(chǎng)機(jī)制失靈人工智能外部性的治理·

關(guān)鍵在于精準(zhǔn)識(shí)別、量化外部性影響，通過(guò)政策、市場(chǎng)機(jī)制與社會(huì)協(xié)作內(nèi)化外部成本收益，矯正市場(chǎng)扭曲·

確保人工智能發(fā)展契合社會(huì)整體利益最大化目標(biāo)，達(dá)到技術(shù)創(chuàng)新與社會(huì)福利的共進(jìn)均衡12實(shí)踐應(yīng)用為了應(yīng)對(duì)人工智能帶來(lái)的諸多負(fù)外部性，各國(guó)已經(jīng)開(kāi)始一系列的治理實(shí)踐歐盟

美國(guó)電氣和電子工程師協(xié)會(huì)(IEEE)《通用數(shù)據(jù)保護(hù)條例》GDPR·

對(duì)數(shù)據(jù)主體的權(quán)利、數(shù)據(jù)控制者和處

理者的義務(wù)等進(jìn)行了詳細(xì)規(guī)定·

促使企業(yè)在處理人工智能相關(guān)數(shù)據(jù)時(shí)

更加謹(jǐn)慎，采取必要的安全措施保護(hù)

用戶數(shù)據(jù)，避免不必要的隱私泄露與負(fù)外部性《

人

工

智

能

道

德

準(zhǔn)

則

設(shè)

計(jì)

》·

強(qiáng)調(diào)了在人工智能系統(tǒng)設(shè)計(jì)中應(yīng)考

慮的倫理問(wèn)題·提供了相應(yīng)的指導(dǎo)方針·

以確保人工智能的發(fā)展符合人類的價(jià)值觀和社會(huì)利益13三、風(fēng)險(xiǎn)評(píng)估理論理論起源傳統(tǒng)工程領(lǐng)域&金融投資領(lǐng)域.起源：為了應(yīng)對(duì)項(xiàng)目失敗風(fēng)險(xiǎn)和投資損失風(fēng)險(xiǎn)，開(kāi)始探索系統(tǒng)地識(shí)別、分析和評(píng)估風(fēng)險(xiǎn)的方法

.發(fā)展：信息技術(shù)興起，計(jì)算機(jī)系統(tǒng)在關(guān)鍵業(yè)務(wù)中廣泛應(yīng)用，信息安全風(fēng)險(xiǎn)評(píng)估成為重要分支

.目標(biāo)：保障數(shù)據(jù)的保密性、完整性和可用性人工智能治理.人工智能算法訓(xùn)練：數(shù)據(jù)的質(zhì)量和偏差

→

模型決策不可靠.形成了專門針對(duì)人工智能治理的風(fēng)險(xiǎn)評(píng)估理論體系：傳統(tǒng)風(fēng)險(xiǎn)評(píng)估方法+人工智能特性(算法偏見(jiàn)、數(shù)據(jù)隱私泄露、模型魯棒性)14·識(shí)

別

階

段：涵蓋人工智能全生命周期·分

析

階

段：:著重探究風(fēng)險(xiǎn)發(fā)生的可能性

與影響程度·量

化

階

段：:運(yùn)用數(shù)學(xué)模型和統(tǒng)計(jì)方法，

將風(fēng)險(xiǎn)程度以數(shù)值形式表示，以便比較不

同風(fēng)險(xiǎn)的優(yōu)先級(jí)核心思想關(guān)鍵在于全面、系統(tǒng)且動(dòng)態(tài)地識(shí)別、分析和量化人工智能系統(tǒng)所面臨的各類風(fēng)險(xiǎn)數(shù)據(jù)質(zhì)量風(fēng)險(xiǎn)人為誤差風(fēng)險(xiǎn)設(shè)計(jì)缺陷風(fēng)險(xiǎn)算法偏見(jiàn)風(fēng)險(xiǎn)計(jì)算資源不足風(fēng)險(xiǎn)訓(xùn)練過(guò)程不穩(wěn)定風(fēng)險(xiǎn)環(huán)境適應(yīng)性風(fēng)險(xiǎn)與現(xiàn)有系統(tǒng)集成風(fēng)險(xiǎn)綜合考慮技術(shù)、社會(huì)、經(jīng)濟(jì)因素運(yùn)用數(shù)學(xué)模型、統(tǒng)計(jì)方法明確重要性與緊迫性排序數(shù)據(jù)采集與標(biāo)注算法開(kāi)發(fā)與偏見(jiàn)模型訓(xùn)練應(yīng)用部署可能性及影響程度數(shù)值形式優(yōu)先級(jí)別深入洞察人工智能系統(tǒng)的風(fēng)險(xiǎn)狀況為制定針對(duì)性的風(fēng)險(xiǎn)緩解策略奠定基礎(chǔ)識(shí)別分析量

化人工智能的風(fēng)

險(xiǎn)

評(píng)

估15·

立項(xiàng)初期：評(píng)估項(xiàng)目可行性與潛在風(fēng)險(xiǎn)，合理規(guī)劃資

源、制定風(fēng)險(xiǎn)預(yù)案·項(xiàng)目中后期：評(píng)估模型的穩(wěn)定性風(fēng)險(xiǎn)與可解釋性風(fēng)險(xiǎn)政府層面：依據(jù)風(fēng)險(xiǎn)評(píng)估結(jié)果制定政策法規(guī)與監(jiān)管標(biāo)準(zhǔn)·高風(fēng)險(xiǎn)的人工智能應(yīng)用：嚴(yán)格的審批流程和監(jiān)管措施·低風(fēng)險(xiǎn)的人工智能應(yīng)用：寬松的監(jiān)管方式·

國(guó)際合作領(lǐng)域：共享風(fēng)險(xiǎn)評(píng)估經(jīng)驗(yàn)和數(shù)據(jù)，共同應(yīng)對(duì)

人工智能帶來(lái)的全球性風(fēng)險(xiǎn)風(fēng)險(xiǎn)級(jí)別劃分風(fēng)險(xiǎn)識(shí)別風(fēng)險(xiǎn)定級(jí)制度

機(jī)制AI

技術(shù)提供方

AI

應(yīng)用提供方第三

方源算法部署

環(huán)境實(shí)踐應(yīng)用企業(yè)層面：風(fēng)險(xiǎn)評(píng)估是產(chǎn)品研發(fā)流程中的重要組成部分AI

流程管控人工智能風(fēng)險(xiǎn)管理體系資料來(lái)源：中國(guó)信息通信研究院。

16部署上線測(cè)試驗(yàn)證模型建設(shè)數(shù)據(jù)處理規(guī)劃設(shè)計(jì)使用

方式使用

意圖AI

應(yīng)用使用方應(yīng)用

層面管理

層面技術(shù)

實(shí)施技術(shù)

層面效果

評(píng)估風(fēng)險(xiǎn)

分析風(fēng)險(xiǎn)

評(píng)價(jià)動(dòng)態(tài)

跟蹤風(fēng)險(xiǎn)應(yīng)對(duì)輸出輸入數(shù)據(jù)算力四、全球治理理論理論起源20世紀(jì)末期國(guó)際政治經(jīng)濟(jì)格局深刻變革.背景：全球化進(jìn)程加速，跨國(guó)公司蓬勃發(fā)展、國(guó)際組織大量涌現(xiàn)、全球性問(wèn)題日益凸顯.

問(wèn)題：傳統(tǒng)以主權(quán)國(guó)家為中心的治理模式難以應(yīng)對(duì)跨國(guó)界、跨領(lǐng)域挑戰(zhàn)(氣候變化、金融危機(jī)、傳染病).內(nèi)涵：多元主體通過(guò)合作、協(xié)調(diào)與互動(dòng)，共同應(yīng)對(duì)全球性事務(wù)人工智能治理.人工智能技術(shù)的研發(fā)、數(shù)據(jù)流動(dòng)、應(yīng)用場(chǎng)景不受國(guó)界限制.人工智能引發(fā)的倫理道德、社會(huì)經(jīng)濟(jì)、安全隱私等問(wèn)題具有全球性特征.構(gòu)建一個(gè)全球性的框架，整合各方力量，共同規(guī)范和引導(dǎo)人工智能的健康、可持續(xù)發(fā)展.中國(guó)

：共商共建共享的全球治理觀17核心思想倡導(dǎo)多元主體共同參與、平等協(xié)商，以全球性的視野和綜合性的策略應(yīng)對(duì)人工智能帶來(lái)的全球性挑戰(zhàn)與機(jī)遇治理主體：多元主體協(xié)同

治理原則：多原則貫穿·公平性：避免數(shù)字鴻溝與社會(huì)不平等·包容性：尊重不同的文化背景、法律制度與發(fā)展

階段，吸納多元文化與價(jià)值觀·透明性：數(shù)據(jù)使用、算法邏輯、決策機(jī)制等對(duì)相關(guān)治理主體公開(kāi)透明·

可

持

續(xù)

性：確保技術(shù)發(fā)展與人類社會(huì)和自然環(huán)

境的和諧共生·

主權(quán)國(guó)家不再是唯一的治理主體，國(guó)際組織、

跨國(guó)企業(yè)、科研團(tuán)體與民間社會(huì)組織等均在

人工智能全球治理中扮演重要角色·

多元主體憑借各自獨(dú)特的資源、專業(yè)知識(shí)和影響

力，共同參與到人工智能治理規(guī)則制定、技術(shù)標(biāo)

準(zhǔn)設(shè)定、倫理規(guī)范推廣以及監(jiān)督評(píng)估機(jī)制的構(gòu)建

工作中構(gòu)建一個(gè)全球性的人工智能治理網(wǎng)絡(luò)以應(yīng)對(duì)其復(fù)雜多變的全球性影響促進(jìn)全球范圍內(nèi)人工智能技術(shù)朝著有利于全人類福祉的方向發(fā)展18實(shí)踐應(yīng)用全球人工智能治理從國(guó)際共識(shí)向全球共治演進(jìn)，逐步形成全球性的協(xié)同治理框架規(guī)則制定

技術(shù)合作與標(biāo)準(zhǔn)統(tǒng)一

數(shù)據(jù)治理各國(guó)科研機(jī)構(gòu)與企業(yè)廣泛合作全球人工智能伙伴關(guān)系組織(GPAI)·

共同開(kāi)展人工智能技術(shù)研究項(xiàng)目·

促進(jìn)技術(shù)成果共享與交流國(guó)際標(biāo)準(zhǔn)化組織(ISO)·

制定人工智能相關(guān)技術(shù)標(biāo)準(zhǔn)·

提高全球人工智能系統(tǒng)的互操作

性與兼容性·

減少因技術(shù)差異導(dǎo)致的貿(mào)易壁壘

與安全風(fēng)險(xiǎn)國(guó)際組織發(fā)揮主導(dǎo)作用聯(lián)合國(guó)教科文組織·

發(fā)布人工智能倫理倡議·

提供倫理參考框架OECD·

制定人工智能原則·引導(dǎo)政策方向與實(shí)踐操作各國(guó)通過(guò)雙邊或多邊協(xié)定，探索數(shù)據(jù)跨境

流動(dòng)規(guī)則·

保障數(shù)據(jù)安全與隱私·

促進(jìn)全球數(shù)據(jù)資源的

合理利用與共享1914.2人工智能的治理挑戰(zhàn)理解人工智能治理的必要性以及面臨的挑戰(zhàn)一、人工智能倫理問(wèn)題人工智能倫理：在開(kāi)發(fā)、部署和使用人工智能技術(shù)過(guò)程中，智能體(人與智能機(jī)器)應(yīng)該遵循的一般倫理原則和行為規(guī)范產(chǎn)生來(lái)源技術(shù)特性算法的復(fù)雜性和不透明性：決策過(guò)程如同一個(gè)黑箱，難以理解和解釋，因此難以確定其決策依據(jù)是否符合倫理道德.金融信貸：算法系統(tǒng)可能拒絕某些貸款申請(qǐng)，但卻無(wú)法清晰地解釋具體原因，這就可能涉及對(duì)某些群體的潛在歧視數(shù)據(jù)的偏差、不完整或被惡意篡改：導(dǎo)致算法學(xué)習(xí)到錯(cuò)誤的模式，進(jìn)而產(chǎn)生不公平的決策結(jié)果社會(huì)應(yīng)用.對(duì)傳統(tǒng)的就業(yè)結(jié)構(gòu)、社會(huì)公平、隱私保護(hù)等帶來(lái)巨大沖擊(工人與客服人員失業(yè)).智能監(jiān)控系統(tǒng)在提升公共安全的同時(shí)，也可能過(guò)度收集個(gè)人信息，侵犯公民隱私21典型案例醫(yī)療領(lǐng)域的算法偏見(jiàn)·

Obermeyer

et

al.(2019)

發(fā)現(xiàn)對(duì)一種特定類型心臟病

的診斷中，某智能輔助系統(tǒng)

對(duì)白人患者的診斷準(zhǔn)確率明顯高于非洲裔患者·

原因：訓(xùn)練數(shù)據(jù)中白人患者

的數(shù)據(jù)量遠(yuǎn)多于非洲裔·

算法在學(xué)習(xí)過(guò)程中由于數(shù)據(jù)

量不足而產(chǎn)生基于種族的算法偏見(jiàn)自動(dòng)駕駛的潛在倫理困境·

在事故發(fā)生瞬間，車輛的自

動(dòng)駕駛系統(tǒng)如何決策·

是優(yōu)先保護(hù)車內(nèi)乘客還是行

人，或者是否有其他更優(yōu)的決策策略Teslain

Seattle-areacrashthatkilledmotorcyclistwasusingself-drivingsystem,

authoritiessayAuthoritiesinWashington

have

determinedthat

a

Tesla

that

hit

and

killed

a

motorcyclist

nearSeattleinAprilwas

operating

on

the

company's"FullSelf

Driving"system社交媒體的用戶畫(huà)像與信息繭房·

社媒平臺(tái)的推薦算法過(guò)度推

送用戶感興趣的內(nèi)容·

影響用戶的全面認(rèn)知，加劇

社會(huì)群體的分化、對(duì)立·

社交媒體平臺(tái)忽視了社會(huì)公

共責(zé)任，未能保障信息傳播的公平性和多樣性ByTOM

KRISHERAPautowriter

July

31.2024,6:37

AM千

x

曰

⑧未解難題盡管人工智能倫理問(wèn)題已經(jīng)引起了廣泛關(guān)注，各國(guó)政府、企業(yè)部門與社會(huì)組織均在為解決此問(wèn)題

做出各種努力，但仍存在諸多未解難題.難以確定是算法開(kāi)發(fā)者、數(shù)據(jù)提供者、使用者

還是系統(tǒng)維護(hù)者的責(zé)任.過(guò)度嚴(yán)格的倫理監(jiān)管可能會(huì)抑制技術(shù)創(chuàng)新的活力，而寬松的監(jiān)管又可能導(dǎo)致倫理問(wèn)題泛濫.在不同國(guó)家、文化和宗教背景下，對(duì)于倫理道德的理解和側(cè)重點(diǎn)存在差異如何界定人工智能造成的損害責(zé)任如何制定統(tǒng)一且具有可操作性

的全球倫理標(biāo)準(zhǔn)如何在保障人工智能技術(shù)創(chuàng)新

發(fā)展的同時(shí)有效實(shí)施倫理監(jiān)管23二、數(shù)據(jù)安全與隱私保護(hù)產(chǎn)生來(lái)源源于人工智能對(duì)海量數(shù)據(jù)的高度依賴，以及數(shù)據(jù)處理過(guò)程中的諸多風(fēng)險(xiǎn)環(huán)節(jié)數(shù)據(jù)采集環(huán)節(jié).因采集主體的不規(guī)范操作、技術(shù)漏洞或惡意竊取，數(shù)據(jù)可能面臨泄露風(fēng)險(xiǎn).移動(dòng)應(yīng)用在用戶注冊(cè)時(shí)過(guò)度收集與服務(wù)無(wú)關(guān)的數(shù)據(jù)，其數(shù)據(jù)存儲(chǔ)安全措施薄弱，容易被黑客攻擊數(shù)據(jù)傳輸環(huán)節(jié).因通信協(xié)議存在缺陷或網(wǎng)絡(luò)環(huán)境不安全，數(shù)據(jù)可能被攔截、篡改.物聯(lián)網(wǎng)設(shè)備與云端服務(wù)器的設(shè)備端安全防護(hù)能力有限，傳輸數(shù)據(jù)可能被中間人竊取并惡意修改數(shù)據(jù)存儲(chǔ)和使用環(huán)節(jié).因內(nèi)部管理不善、權(quán)限設(shè)置不合理等，可能引發(fā)數(shù)據(jù)安全事故.企業(yè)內(nèi)部員工因權(quán)限管理漏洞，能夠訪問(wèn)超出其工作范圍的用戶數(shù)據(jù)，嚴(yán)重侵犯用戶隱私、破壞數(shù)據(jù)安全體系24三星因ChatGPT泄露芯片機(jī)密·

2023年3月11日，三星半導(dǎo)

體設(shè)備解決方案部門宣布啟

用ChatGPT

輔助員工工作·

一個(gè)月內(nèi)出現(xiàn)3起數(shù)據(jù)泄露

事故：?jiǎn)T工將半導(dǎo)體設(shè)備測(cè)

量、良品率、內(nèi)部會(huì)議內(nèi)容

等上傳到ChatGPT服務(wù)器中·

ChatGPT

使用指南中明確說(shuō)

明輸入的文本內(nèi)容會(huì)被用于進(jìn)一步訓(xùn)練模型，警告用戶

不要提交敏感信息亞馬遜智能語(yǔ)音助手Alexa隱私問(wèn)題·

亞

馬

遜Alexa是廣泛應(yīng)用于

家庭智能設(shè)備中的語(yǔ)音助手·

用戶發(fā)現(xiàn)自己的私人談話被

Alexa記錄并存儲(chǔ)在云端服務(wù)器中·

盡管亞馬遜表示這是由于設(shè)

備誤判喚醒詞導(dǎo)致的，但這

一事件引發(fā)了公眾對(duì)智能語(yǔ)音設(shè)備在家庭環(huán)境中隱私保

護(hù)的擔(dān)憂美國(guó)聯(lián)邦政府雇員信息泄露事件·

美國(guó)聯(lián)邦政府的人事管理辦

公室(OPM)曾遭受大規(guī)模網(wǎng)絡(luò)攻擊·

導(dǎo)致超過(guò)2200萬(wàn)聯(lián)邦政府雇

員、承包商及其家屬的個(gè)人

信息泄露·

凸顯了在涉及公共服務(wù)和國(guó)

家安全等重要領(lǐng)域，加強(qiáng)數(shù)

據(jù)安全與隱私保護(hù)的緊迫性

和重要性典型案例25.人工智能數(shù)據(jù)在不同國(guó)家和地區(qū)之間的跨境流動(dòng)日益頻繁.《通用數(shù)據(jù)保護(hù)條例》(GDPR)要求數(shù)據(jù)出口方確保數(shù)據(jù)接收方所在國(guó)家或地區(qū)具備同等的數(shù)據(jù)保護(hù)水平——現(xiàn)實(shí)中難以準(zhǔn)確評(píng)估.新興的云計(jì)算服務(wù)提供商在全球多個(gè)地區(qū)存儲(chǔ)和處理數(shù)據(jù)——須符合各國(guó)法規(guī)

.亟待建立跨境數(shù)據(jù)監(jiān)管協(xié)調(diào)機(jī)制.

數(shù)據(jù)主體(數(shù)據(jù)所有者)應(yīng)享有知情權(quán)、訪問(wèn)權(quán)、更正權(quán)、刪除權(quán)等權(quán)力.在實(shí)際情況中，上述權(quán)利的界定和實(shí)現(xiàn)存在諸多困難.數(shù)據(jù)主體在維護(hù)自身隱私權(quán)益時(shí)往往處于被動(dòng)地位，不利于構(gòu)建健康的數(shù)據(jù)安

全與隱私保護(hù)生態(tài)環(huán)境未解難題人工智能的數(shù)據(jù)安全與隱私保護(hù)困境在短期內(nèi)難以找到妥善的解決方案數(shù)據(jù)主體權(quán)利界定

與實(shí)現(xiàn)困境數(shù)據(jù)跨境流動(dòng)

監(jiān)管難題26三、知識(shí)產(chǎn)權(quán)歸屬與保護(hù)產(chǎn)生來(lái)源源于技術(shù)創(chuàng)新過(guò)程中多主體參與以及人工智能創(chuàng)作成果的獨(dú)特性人工智能系統(tǒng)的開(kāi)發(fā)涉及多個(gè)主體.算法開(kāi)發(fā)者、數(shù)據(jù)提供者、軟件工程師、可能使用該系統(tǒng)進(jìn)行創(chuàng)作的用戶.不同主體在各環(huán)節(jié)投入了不同形式的資源和勞動(dòng)，難以確定最終創(chuàng)作成果的知識(shí)產(chǎn)權(quán)歸屬人工智能創(chuàng)作成果具有一定的模糊性.人工智能生成的作品、發(fā)明等成果并非基于人類的直接創(chuàng)造性思維，而是通過(guò)算法對(duì)數(shù)據(jù)的學(xué)習(xí)和處理生成

.創(chuàng)作過(guò)程基于數(shù)據(jù)的模式識(shí)別和組合，難以簡(jiǎn)單套用傳統(tǒng)知識(shí)產(chǎn)權(quán)法中關(guān)于作者身份和創(chuàng)作意圖的規(guī)定27典型案例(騰訊公司訴盈訊科技侵害著作權(quán))

Tencent

騰訊案情簡(jiǎn)述·

Dreamwriter是騰訊公司自主研發(fā)的一套基于數(shù)據(jù)和算法的智能寫(xiě)作輔助系統(tǒng)·

2018年8月，騰訊公司在其網(wǎng)站上發(fā)表了一篇點(diǎn)評(píng)股市表現(xiàn)的財(cái)經(jīng)文章并注明“本文由Dreamwriter自動(dòng)撰寫(xiě)”·

同日，盈訊科技在其運(yùn)營(yíng)網(wǎng)站“網(wǎng)貸之家”上發(fā)布了相同文章·騰訊公司向法院起訴稱，上海盈訊公司涉嫌侵犯了原告享有的著作權(quán)審判重點(diǎn)·國(guó)內(nèi)首起認(rèn)定人工智能生成內(nèi)容構(gòu)成作品的著作權(quán)糾紛·

2020年1月，深圳市南山區(qū)法院對(duì)此案做出一審判決，認(rèn)為涉案軟件技術(shù)上“生成”的創(chuàng)作過(guò)程均滿足著作權(quán)法對(duì)文字作品的保護(hù)條件，屬于我國(guó)著作權(quán)法所保護(hù)的文字作品·文章的外在表現(xiàn)形式符合文字作品的形式要求，內(nèi)容包括對(duì)當(dāng)日股市信息的選擇、分析、判斷，具有一定的獨(dú)創(chuàng)性·

文章的生成過(guò)程由騰訊公司團(tuán)隊(duì)相關(guān)人員個(gè)性化的安排與選擇決定，具有一定的獨(dú)創(chuàng)性審判結(jié)果(深圳市南山區(qū)法院)·

上海盈訊公司未經(jīng)授權(quán)轉(zhuǎn)載涉案文章的行為侵犯了騰訊公司享有的信息網(wǎng)絡(luò)傳播權(quán)，應(yīng)承擔(dān)相應(yīng)的民事責(zé)任·

鑒于被告已經(jīng)刪除侵權(quán)作品，酌情判定被告賠償原告經(jīng)濟(jì)損失及合理維權(quán)開(kāi)支1500元28.人工智能技術(shù)快速迭代.人工智能技術(shù)廣泛應(yīng)用→圍和方式傳統(tǒng)知識(shí)產(chǎn)權(quán)保護(hù)期限擴(kuò)大知識(shí)產(chǎn)權(quán)侵權(quán)的范.人工智能生成內(nèi)容是否構(gòu)成受版權(quán)保護(hù)的作品?

.各國(guó)法律尚無(wú)統(tǒng)一明確的判定標(biāo)準(zhǔn).難以精確量化多個(gè)主體的貢獻(xiàn)比例.難以據(jù)此進(jìn)行合理的知識(shí)產(chǎn)權(quán)權(quán)益分配人工智能生成內(nèi)容的可版權(quán)性

判定標(biāo)準(zhǔn)人工智能技術(shù)發(fā)展對(duì)知識(shí)產(chǎn)權(quán)

的保護(hù)期限和范圍造成沖擊多主體貢獻(xiàn)量化與權(quán)益分配

機(jī)制缺失未解難題29潛在風(fēng)險(xiǎn)人工智能的快速發(fā)展還可能帶來(lái)一些新的潛在風(fēng)險(xiǎn)，包括但不限于：口深度偽造(Deepfake)與虛假信息傳播口自動(dòng)化系統(tǒng)與智能產(chǎn)品失控口經(jīng)濟(jì)系統(tǒng)預(yù)測(cè)與自動(dòng)化決策失誤口人工智能與生物安全風(fēng)險(xiǎn)交叉口推薦系統(tǒng)侵蝕文化和價(jià)值觀口人工智能使用過(guò)度導(dǎo)致的心理健康問(wèn)題3014.3人工智能的治理實(shí)踐熟悉國(guó)內(nèi)外目前采用的人工智能治理模式與監(jiān)管措施31國(guó)際組織政府部門科技企業(yè)其

他

機(jī)

構(gòu)協(xié)調(diào)者推動(dòng)者主要監(jiān)管者推動(dòng)者自律自治科研機(jī)構(gòu)高等院校非政府組織缺少專門組織治理態(tài)度研發(fā)者應(yīng)用者技術(shù)攻堅(jiān)人才培養(yǎng)監(jiān)督者監(jiān)管邏輯參與者實(shí)踐者創(chuàng)新引領(lǐng)科研創(chuàng)新倡導(dǎo)者一、治理主體.人工智能治理的各種挑戰(zhàn)和風(fēng)險(xiǎn)，將對(duì)經(jīng)濟(jì)社會(huì)發(fā)展的穩(wěn)定性和可持續(xù)性造成影響.

亟需全球各國(guó)政府、科技界、產(chǎn)業(yè)界等利益攸關(guān)方積極響應(yīng)，共同推動(dòng)人工智能的健康發(fā)展人工智能的治

理

主

體32(一)國(guó)際組織國(guó)際組織是人工智能治理的協(xié)調(diào)者和推動(dòng)者，致力于促進(jìn)各國(guó)在人工智能領(lǐng)域的合作與交流主要治理方式·

搭建國(guó)際合作平臺(tái)，促進(jìn)各國(guó)在人工智能治理方面的協(xié)作與信息共享·

牽頭統(tǒng)籌、參與制定人工智能國(guó)際標(biāo)準(zhǔn)，確保人工智能技術(shù)的可信度和互操作性，促進(jìn)全球范圍的技術(shù)交流與合作治理框架：嵌套在傳統(tǒng)全球治理體系之中·

依托已有的國(guó)際關(guān)系框架與合作平臺(tái)·

聯(lián)合國(guó)：在涉及人工智能對(duì)人權(quán)、和平與安全影響等議題上發(fā)揮引導(dǎo)性討論作用·

世貿(mào)組織：對(duì)于人工智能相關(guān)技術(shù)貿(mào)易、數(shù)據(jù)跨境流動(dòng)等方面的規(guī)則探討逐步深入傳統(tǒng)治理體系面對(duì)人工智能治理的缺陷·

決策流程緩慢

人工智能技術(shù)迅猛發(fā)展、快速迭代·

不同國(guó)家對(duì)于人工智能治理的側(cè)重點(diǎn)和立場(chǎng)存在顯著分歧(自身科技實(shí)力、經(jīng)濟(jì)利益與地緣政治)33(二)政府部門政府部門是人工智能治理的主要監(jiān)管者和推動(dòng)者，保障人工智能技術(shù)的安全、可靠、可控主要治理方式·

制定、執(zhí)行人工智能治理相關(guān)的國(guó)內(nèi)政策法規(guī)，明確人工智能技術(shù)的研發(fā)、應(yīng)用和管理等方面的要求和規(guī)范·

針對(duì)人工智能技術(shù)開(kāi)展監(jiān)管和執(zhí)法，確保人工智能技術(shù)的應(yīng)用符合法律法規(guī)和道德準(zhǔn)則，防止濫用、誤用現(xiàn)象發(fā)生各國(guó)治理差異美國(guó)強(qiáng)調(diào)技術(shù)創(chuàng)新的自由發(fā)展，對(duì)人工智能在軍事、商業(yè)等領(lǐng)域的應(yīng)用較為開(kāi)放·

逐步開(kāi)始制定一些數(shù)據(jù)隱私保護(hù)和算法透明性相關(guān)的規(guī)范，但推進(jìn)速度和執(zhí)行力度相對(duì)受限歐盟重視公民權(quán)利保護(hù)和倫理道德規(guī)范，將人工智能視為需要謹(jǐn)慎監(jiān)管的領(lǐng)域，設(shè)置較高的準(zhǔn)入門檻·

限制了部分人工智能企業(yè)的快速擴(kuò)張發(fā)展中國(guó)家(如印度和巴西等)期望借助人工智能提升經(jīng)濟(jì)競(jìng)爭(zhēng)力、改善公共服務(wù)水平·

技術(shù)能力不足、基礎(chǔ)設(shè)施薄弱·

側(cè)重防范因人工智能應(yīng)用而可能引發(fā)的社會(huì)不平等加劇難以形成統(tǒng)一、高效的協(xié)同機(jī)制跨國(guó)合作、數(shù)據(jù)共享、技術(shù)標(biāo)準(zhǔn)制定等面臨挑戰(zhàn)34(三)科技企業(yè)科技企業(yè)不僅是人工智能技術(shù)的研發(fā)者和應(yīng)用者，也是治理環(huán)節(jié)中的重要參與者和實(shí)踐者，是推動(dòng)人工智能技術(shù)健康發(fā)展的重要力量主要治理方式·

企業(yè)遵循人工智能倫理原則(可信、公平、非歧視),推動(dòng)企業(yè)內(nèi)部治理體系逐步完善·

企業(yè)參與行業(yè)自律與標(biāo)準(zhǔn)制定，推動(dòng)形成行業(yè)共識(shí)人工智能的有效治理高度依賴科技企業(yè)的自律自治·

科技企業(yè)掌握人工智能研發(fā)、應(yīng)用的核心技術(shù)，最清楚其潛在影響與可能出現(xiàn)的風(fēng)險(xiǎn)·

科技企業(yè)的自律自治能夠促使行業(yè)內(nèi)形成良好的風(fēng)氣與規(guī)范35(四)其他機(jī)構(gòu)非政府組織、高等院校與科研機(jī)構(gòu)具有不同的優(yōu)勢(shì)和資源，共同推動(dòng)人工智能的安全、可靠、可控發(fā)展非政府組織：監(jiān)督者與倡導(dǎo)者·

持續(xù)對(duì)科技企業(yè)的數(shù)據(jù)收集行為進(jìn)行調(diào)查，通過(guò)輿論壓力或法律途徑推動(dòng)企業(yè)修正其違規(guī)行為·

倡導(dǎo)建立符合人類倫理道德的人工智能發(fā)展框架，組織各類研討會(huì)、論壇，推動(dòng)形成人工智能治理的社會(huì)共識(shí)高等院?！?/p>

人才培養(yǎng)：開(kāi)設(shè)涵蓋計(jì)算機(jī)科學(xué)、倫理學(xué)、社會(huì)學(xué)等多學(xué)科交叉融合的人工智能相關(guān)專業(yè)課程與研究方向·

科研創(chuàng)新：致力于攻克關(guān)鍵技術(shù)難題(可解釋性人工智能),從根源上提升人工智能技術(shù)的安全性與可靠性科研機(jī)構(gòu)·

技術(shù)攻堅(jiān)：頂尖的科研人才、先進(jìn)的實(shí)驗(yàn)設(shè)備，聚焦人工智能核心技術(shù)的深度探索·

創(chuàng)新引領(lǐng)：與全球同行分享研究成果與實(shí)踐經(jīng)驗(yàn)，共同應(yīng)對(duì)人工智能技術(shù)挑戰(zhàn)36二、治理措施(一)法律法規(guī)與政策框架的構(gòu)建歐盟.

《通用數(shù)據(jù)保護(hù)條例》嚴(yán)格限制數(shù)據(jù)的收集、使用與存儲(chǔ)，保障個(gè)人數(shù)據(jù)在人工智能應(yīng)用中的隱私安全

.

《

人

工

智

能

法

案》針對(duì)高風(fēng)險(xiǎn)人工智能應(yīng)用實(shí)施嚴(yán)格的規(guī)定，同時(shí)設(shè)立禁止事項(xiàng)清單美國(guó).

聯(lián)邦

層面：推動(dòng)人工智能研發(fā)的戰(zhàn)略布局，通過(guò)立法鼓勵(lì)創(chuàng)新.

特

定

領(lǐng)

域：如醫(yī)療、交通等領(lǐng)域由相關(guān)監(jiān)管機(jī)構(gòu)制定行業(yè)性規(guī)范，以平衡創(chuàng)新與風(fēng)險(xiǎn)控制中國(guó).2022年9月，中國(guó)首部人工智能產(chǎn)業(yè)專項(xiàng)立法《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》.2023年6月，《國(guó)務(wù)院2023年度立法工作計(jì)劃》中明確將“人工智能法草案”列入立法規(guī)劃

.2023年7月，國(guó)家互聯(lián)網(wǎng)信息辦公室等部門發(fā)布《生成式人工智能服務(wù)管理暫行辦法》.2024年3月，《人工智能法(學(xué)者建議稿)》37(二)技術(shù)標(biāo)準(zhǔn)與規(guī)范的設(shè)立人工智能技術(shù)標(biāo)準(zhǔn)制定·

國(guó)際標(biāo)準(zhǔn)化組織(ISO)、

各類行業(yè)協(xié)會(huì)·

數(shù)據(jù)層面：制定數(shù)據(jù)質(zhì)量標(biāo)準(zhǔn)，確保人工智能訓(xùn)練數(shù)據(jù)的可靠性(數(shù)據(jù)集應(yīng)包含足夠多樣的樣本，以避免算法偏見(jiàn))·

算

法

層

面：設(shè)立算法性能評(píng)估標(biāo)準(zhǔn)，用于衡量人工智能算法在不同場(chǎng)景下的表現(xiàn)(如準(zhǔn)確率、召回率等)人工智能的可解釋性·

金融領(lǐng)域：大型銀行開(kāi)始構(gòu)建內(nèi)部的可解釋性框架，以使信貸審批結(jié)果更可靠·

司法領(lǐng)域：司法系統(tǒng)與科研機(jī)構(gòu)合作研發(fā)智能量刑輔助系統(tǒng)，基于法律邏輯和辦案規(guī)范進(jìn)行案情與量刑結(jié)果的分析人工智能的安全標(biāo)準(zhǔn)·

各類組織正在建立涵蓋網(wǎng)絡(luò)安全防護(hù)、數(shù)據(jù)加密傳輸、系統(tǒng)抗攻擊能力等多方面的規(guī)范·

保障人工智能系統(tǒng)免受惡意攻擊與數(shù)據(jù)竊取，確保其穩(wěn)定可靠運(yùn)行38(三)倫理審查與監(jiān)督機(jī)制的建立人工智能倫理審查·

企業(yè)內(nèi)部的審查團(tuán)隊(duì)或委員會(huì)：對(duì)企業(yè)研發(fā)的人工智能項(xiàng)目進(jìn)行全程倫理審查·

企業(yè)外部的獨(dú)立倫理審查機(jī)構(gòu)：受企業(yè)或政府委托進(jìn)行第三方倫理評(píng)估，提供客觀公正的審查意見(jiàn)人工智

能監(jiān)督機(jī)制·

政府監(jiān)管部門：加強(qiáng)對(duì)企業(yè)的日常監(jiān)督檢查，要

求企業(yè)定期報(bào)告人工智能項(xiàng)目的研發(fā)進(jìn)展、數(shù)據(jù)

使用情況以及倫理審查結(jié)果等·

公眾與媒體：通過(guò)輿論監(jiān)督，對(duì)發(fā)現(xiàn)的違規(guī)行為

或潛在風(fēng)險(xiǎn)及時(shí)曝光，推動(dòng)企業(yè)及時(shí)整改與完善·

2021年3月，央視“3·

15”晚會(huì)曝光科勒

衛(wèi)浴上海部分門店安裝具有人臉識(shí)別功能

的攝像頭，消費(fèi)者只要進(jìn)入門店，在不知

情的情況下就會(huì)被攝像頭抓取并自動(dòng)生成

編號(hào)，客戶的到店次數(shù)、到店時(shí)間都會(huì)被

系統(tǒng)記錄·

2021年7月，上海市靜安區(qū)市場(chǎng)監(jiān)督管理

局通報(bào)調(diào)查結(jié)果：科勒違反《中華人民共

和國(guó)消費(fèi)者權(quán)益保護(hù)法》相關(guān)規(guī)定，罰款

50萬(wàn)元并責(zé)令改正39(四)國(guó)際合作與協(xié)調(diào)機(jī)制持續(xù)推進(jìn)各國(guó)通過(guò)多邊組織與國(guó)際協(xié)定開(kāi)展人工智能治理合作·G20:2019年發(fā)布《G20人工智能原則》,協(xié)調(diào)各國(guó)在人工智能研發(fā)投資、數(shù)據(jù)跨境流動(dòng)監(jiān)管、倫理準(zhǔn)則制定等方面的政策立場(chǎng)跨國(guó)企業(yè)與國(guó)際科研機(jī)構(gòu)建立合作網(wǎng)絡(luò)·在人工智能芯片研發(fā)、大型數(shù)據(jù)集構(gòu)建等領(lǐng)域開(kāi)展跨國(guó)合作，通過(guò)資源共享與技術(shù)交流，加速人工智能

技術(shù)創(chuàng)新進(jìn)程、降低研發(fā)成本·共同應(yīng)對(duì)人工智能治理中的全球性挑戰(zhàn)，如制定全球性的人工智能倫理標(biāo)準(zhǔn)、應(yīng)對(duì)人工智能對(duì)全球就業(yè)結(jié)構(gòu)與經(jīng)濟(jì)格局的影響等，推動(dòng)構(gòu)建人類命運(yùn)共同體在人工智能領(lǐng)域的實(shí)踐40三、治理約束(一)全球統(tǒng)一監(jiān)管框架難以實(shí)現(xiàn)·

文化價(jià)值觀差異：對(duì)于人工智能應(yīng)用的接受程度和倫