與機(jī)遇》。報(bào)告指出，人工智能技術(shù)取得飛速發(fā)展，但相關(guān)的治理能框架卻沒(méi)有及時(shí)跟進(jìn)。近幾年，各方對(duì)治理人工智能提出了很多倫理原則，但如何在不扼殺創(chuàng)新的前提下管控風(fēng)險(xiǎn)并推動(dòng)人工智能治理由原則向?qū)嵺`轉(zhuǎn)化才是最關(guān)鍵的。為此報(bào)告提出若干政策建議，呼吁多利益規(guī)研究所對(duì)該報(bào)告進(jìn)行了編譯，期望對(duì)我國(guó)有關(guān)部門有所幫助?！娟P(guān)鍵詞】人工智能治理多利益攸關(guān)方一、背景在過(guò)去五年，人工智能治理取得了迅猛發(fā)展，構(gòu)建人工智能監(jiān)管生態(tài)系統(tǒng)的速度大大提高，但如何以負(fù)責(zé)任的方式推動(dòng)人工智能的應(yīng)用和實(shí)踐依舊是當(dāng)前面臨的迫切挑戰(zhàn)。人工智能有獨(dú)特的風(fēng)險(xiǎn)，簡(jiǎn)單照抄現(xiàn)有政策工具并不能處理好這些問(wèn)題，社會(huì)必須考慮在應(yīng)用人工智能時(shí)完善相關(guān)手段和措施，以此來(lái)化解先進(jìn)決策系統(tǒng)帶來(lái)的潛在風(fēng)險(xiǎn)。這些手段和措施應(yīng)當(dāng)包括國(guó)際合作及跨部門合作，現(xiàn)在比過(guò)(MultistakeholderApproaches)的方式，同時(shí)在人工智能治理設(shè)計(jì)方面也要采取更靈活的方法。要以負(fù)責(zé)任的方式對(duì)人工智能應(yīng)用進(jìn)行治理，確保人工智能技術(shù)能保護(hù)并惠及每位社會(huì)成員。二、人工智能發(fā)展歷程回顧歷次工業(yè)革命既創(chuàng)造機(jī)遇，也帶來(lái)挑戰(zhàn)，迫使社會(huì)重新審視當(dāng)時(shí)的治理結(jié)構(gòu)能否有效維持監(jiān)管與創(chuàng)新之間的平衡。人工智能是推動(dòng)第四次工業(yè)革命的引擎，圍繞人工智能及其安全防護(hù)措施將會(huì)出現(xiàn)諸多挑戰(zhàn)。對(duì)其歷史發(fā)展進(jìn)程進(jìn)行總結(jié)回顧十分重要，只有通過(guò)回顧過(guò)去，才能把握未來(lái)的發(fā)展方向。(一)2010年以前：人工智能的冬天與解凍早在人工智能發(fā)展初期，大家都認(rèn)為人工智能發(fā)展到可以承擔(dān)權(quán)責(zé)的程度時(shí)，就有必要認(rèn)真考慮治理方面的問(wèn)題。即使是處于歷史學(xué)家認(rèn)為的“人工智能冬天”(即人工智能及公眾興趣走低的時(shí)期)，人們對(duì)人工智能帶來(lái)的后果和治理效果也抱有擔(dān)憂和恐慌。另外，人工智能的潛在應(yīng)用范圍極廣、社會(huì)影響深遠(yuǎn)，這勢(shì)必引發(fā)人們對(duì)隱私、安全、偏差、公正等議題的擔(dān)憂。因此，在制定政策時(shí)必須從多領(lǐng)域的現(xiàn)有框架中汲取經(jīng)驗(yàn)，包括國(guó)際法、公共政策、數(shù)據(jù)治理與倫理道德規(guī)范等領(lǐng)域。(二)2010年到2016年：人工智能加速發(fā)展帶來(lái)的挑戰(zhàn)2010年以后人工智能的發(fā)展開(kāi)始提速，主要源于三方面的突破：一是計(jì)算能力提升，二是云計(jì)算渠道增加，三是數(shù)字化數(shù)據(jù)量激增。同時(shí)，人工智能在深度學(xué)習(xí)方面也取得了明顯進(jìn)展。人工智能的快速發(fā)展及應(yīng)用的確鼓舞人心，但同樣也引發(fā)了公眾對(duì)數(shù)據(jù)使用和侵犯隱私等多方面的擔(dān)憂。在獲取或開(kāi)發(fā)深度學(xué)習(xí)技術(shù)的熱潮中，亟需防范的主要是涉及決策類的應(yīng)用，如執(zhí)法、人力資源和金融等敏感領(lǐng)域的應(yīng)用。此外，人工智能系統(tǒng)對(duì)特定社會(huì)群體的不公正對(duì)待現(xiàn)象及宏觀層面的關(guān)切也時(shí)有報(bào)道。對(duì)那些希望快速?gòu)娜斯ぶ悄馨l(fā)展中受益的人來(lái)說(shuō)，重點(diǎn)是如何在安全和創(chuàng)新之間保持平衡。人工智能開(kāi)始加速發(fā)展，治理不到位自然也就成了“速度問(wèn)題”(法律法規(guī)無(wú)法跟上技術(shù)進(jìn)步)。到2016年，公眾越發(fā)意識(shí)到如果不對(duì)人工智能進(jìn)行適當(dāng)?shù)谋O(jiān)管和引導(dǎo)，將會(huì)干擾公眾生活，擴(kuò)大社會(huì)不平等，加劇現(xiàn)有偏見(jiàn)，并破壞隱私，而所有這些都會(huì)削弱公眾對(duì)人工智能的信任，從而使人工智能造福社會(huì)的潛力消失殆盡。政府和業(yè)界的最初反應(yīng)是制定或修改某些原則。2017年，在會(huì)上提出了一套原則來(lái)幫助公眾了解政府和業(yè)界一直大力推動(dòng)的概念和觀念，包括隱私、公正、非歧視、透明、安全與問(wèn)責(zé)等。在這之后，世界各地的其它組織紛紛圍繞人工智能主題發(fā)布各自的原則和主張。圍繞人工智能造福社會(huì)的話題也興起了多個(gè)組織理倡議”。(四)2019年至今：持續(xù)加速與治理創(chuàng)新普及人工智能原則與道德指南有助于揭示人工智能跨國(guó)治理的關(guān)鍵要素。從2019年開(kāi)始出現(xiàn)兩個(gè)轉(zhuǎn)折點(diǎn)：一是指明了實(shí)施上的差距，二是就原則轉(zhuǎn)化成可操作的治理機(jī)制問(wèn)題點(diǎn)明了未來(lái)的努力方向。努力的目標(biāo)基本上是“柔性”治理機(jī)制。盡管存在更傳統(tǒng)的治理形式(如直接禁用某些應(yīng)用，或通過(guò)算法對(duì)立法倡議進(jìn)行問(wèn)責(zé))，但在規(guī)范的實(shí)際制定過(guò)程中仍以“柔性”治理機(jī)制為主。各主體對(duì)這一課題的日益關(guān)注，說(shuō)明公眾普遍認(rèn)為現(xiàn)有制度和規(guī)則已無(wú)法確保人工智能以負(fù)責(zé)任的方式向前發(fā)展。三、從原則到實(shí)踐：在不扼殺創(chuàng)新的前提下管控風(fēng)險(xiǎn)，推動(dòng)人工智能道德實(shí)用化。截至2020年，各國(guó)政府、倡議機(jī)構(gòu)、國(guó)際組織、私營(yíng)企業(yè)等已頒布了100多條人工智能指導(dǎo)原則，人工智能方面的國(guó)際合作已經(jīng)取得了長(zhǎng)足進(jìn)展。但仍有許多企業(yè)在“技術(shù)沖擊”面前手忙腳亂，人工智能治理自身的不確定性也開(kāi)始增大，這一切都對(duì)原則向?qū)嵺`的轉(zhuǎn)化構(gòu)成了壓力。德勤事務(wù)所最近的一項(xiàng)調(diào)查顯示，多數(shù)受訪企業(yè)目前正在試圖通過(guò)內(nèi)部治理和正規(guī)的框架來(lái)解決問(wèn)題，爭(zhēng)取在不扼殺創(chuàng)新的前提下管控風(fēng)險(xiǎn)。(一)人工智能治理是實(shí)現(xiàn)負(fù)責(zé)任的人工智能的必經(jīng)之路雖然面臨巨大風(fēng)險(xiǎn)，人工智能帶來(lái)的機(jī)遇仍是許多機(jī)構(gòu)考慮的頭等大事。最近提出了“負(fù)責(zé)任的人工智能”(ResponsibleAI)一詞，描述的是一套確保人工智能應(yīng)用不會(huì)“背叛”人類的辦法。這套辦法的核心是“創(chuàng)新型治理機(jī)制”，而“創(chuàng)新型治理機(jī)制”正迅速成為利用人工智能的公司之間的關(guān)鍵競(jìng)爭(zhēng)差異。許多企業(yè)都承認(rèn)在防范措施缺失的情況下，人工智能可能造成傷害，因此都強(qiáng)調(diào)在制定人工智能戰(zhàn)略時(shí)，防護(hù)范圍不應(yīng)僅限于法律和風(fēng)險(xiǎn)管理領(lǐng)域，負(fù)責(zé)任的人工智能治理的目標(biāo)是要通過(guò)行業(yè)規(guī)范來(lái)防止出現(xiàn)危害性的人工智能生態(tài)系統(tǒng)。人們的意識(shí)雖然越來(lái)越強(qiáng)，但要把意圖轉(zhuǎn)化成政策和實(shí)踐對(duì)許多企業(yè)仍是挑戰(zhàn)。對(duì)于該做什么、何時(shí)做和怎么做等問(wèn)題，業(yè)界還需要通過(guò)實(shí)踐進(jìn)行探索。(二)采用風(fēng)險(xiǎn)法來(lái)識(shí)別和消除治理差距私企和公共部門面臨的最大問(wèn)題之一都是缺乏優(yōu)先級(jí)。人工智能會(huì)給不同行業(yè)帶來(lái)巨大沖擊，但由于其技術(shù)仍在持續(xù)發(fā)展中，且人們對(duì)其能力和影響力還處于不斷認(rèn)識(shí)中，其影響的程度和時(shí)間范圍都無(wú)法確定。近期至未來(lái)很長(zhǎng)一段時(shí)間，人工智能的直接和間接影響將被大家逐漸認(rèn)識(shí)，這也會(huì)進(jìn)一步增加系統(tǒng)治理的復(fù)雜性。通過(guò)有效的治理框架找出人工智能的風(fēng)險(xiǎn)并加以管控，有助于各國(guó)制定未來(lái)的行動(dòng)計(jì)劃。最終呈現(xiàn)的治理形式可能是多種多樣的，例如，德國(guó)數(shù)據(jù)倫理委員會(huì)提出一個(gè)五級(jí)風(fēng)險(xiǎn)監(jiān)管系統(tǒng)，這個(gè)系統(tǒng)對(duì)無(wú)害的人工智能應(yīng)用不設(shè)監(jiān)管，而對(duì)最危險(xiǎn)的應(yīng)用則完全禁止。這些框架有助于領(lǐng)導(dǎo)人們更好地了解風(fēng)險(xiǎn)，指引他們邁出關(guān)鍵的第一步。第一步可以是了解人工智能系統(tǒng)的應(yīng)用領(lǐng)域，也可以是加大對(duì)人工智能風(fēng)控團(tuán)隊(duì)的投資。在近期德勤事務(wù)所的一份報(bào)告中對(duì)人工智能風(fēng)險(xiǎn)的分類以及當(dāng)前和未來(lái)的治理差距進(jìn)行圖1:新出現(xiàn)的治理差距的時(shí)間跨度和風(fēng)險(xiǎn)級(jí)別(三)推動(dòng)公眾了解和信任人工智能在過(guò)去十年中，一些潛在的人工智能治理手段逐漸出現(xiàn)，主要是強(qiáng)化消費(fèi)者對(duì)人工智能產(chǎn)品的消費(fèi)意識(shí)，具體包括認(rèn)證、標(biāo)簽、獎(jiǎng)勵(lì)等手段。通過(guò)這些手段，提高產(chǎn)品透明度來(lái)影響購(gòu)買行為，再通過(guò)市場(chǎng)、聲譽(yù)和品牌的力量以及人工智能產(chǎn)品公司之間的競(jìng)爭(zhēng)，促進(jìn)消費(fèi)者有效參與人工智能道德與責(zé)任決策。1.發(fā)放標(biāo)簽與認(rèn)證標(biāo)簽可向消費(fèi)者傳達(dá)信息，幫助消費(fèi)者了解哪些企業(yè)處理數(shù)據(jù)和人工智能的方式是值得信任、符合道德規(guī)范且安全可靠的。歐洲委員會(huì)在其《人工智能應(yīng)用白皮書》中建議對(duì)高風(fēng)險(xiǎn)之外的商會(huì)、丹麥中小企業(yè)協(xié)會(huì)和丹麥消費(fèi)者協(xié)會(huì)聯(lián)合推出了“數(shù)據(jù)道德印章”(DataEthicsSeal)，主要發(fā)放給那些符合虛擬空間要求且以負(fù)責(zé)任的方式處理人工智能數(shù)據(jù)的企業(yè)。通過(guò)獎(jiǎng)勵(lì)機(jī)制可對(duì)合乎道德、以負(fù)責(zé)任方式設(shè)計(jì)的人工智能進(jìn)行表彰，鼓勵(lì)業(yè)界朝積極方向進(jìn)化。具體的例子包括：勵(lì)企業(yè)選手參與智能玩具競(jìng)賽，該獎(jiǎng)的評(píng)判標(biāo)準(zhǔn)由論壇和多利益月直播頒獎(jiǎng)典禮。3.算法審查可通過(guò)第三方對(duì)算法進(jìn)行審查的方式來(lái)化解風(fēng)險(xiǎn)。對(duì)復(fù)雜系統(tǒng)進(jìn)行外部測(cè)試可有效保證市場(chǎng)安全，同時(shí)也會(huì)鼓勵(lì)算法審查這一新興行業(yè)的發(fā)展。對(duì)人工智能實(shí)施客觀的審查可有效約束人工智能，有助于降低錯(cuò)誤算法外流的風(fēng)險(xiǎn)。但上述方案面臨一個(gè)共同挑戰(zhàn)，即可信度的確立，缺乏可信度會(huì)增強(qiáng)追責(zé)的難度和效力。對(duì)此，有人呼吁用專業(yè)化的方式來(lái)解決問(wèn)題，但這需要有適當(dāng)?shù)恼J(rèn)證、實(shí)踐標(biāo)準(zhǔn)和紀(jì)律處分程序。只有在這些嚴(yán)苛標(biāo)準(zhǔn)的支撐下，審查、認(rèn)證和標(biāo)簽發(fā)放等人工智能原則實(shí)用化工具才能充分發(fā)揮作用。政府主導(dǎo)的人工智能治理宏觀層面上，很多政府部門已經(jīng)開(kāi)始圍繞人工智能采取有效措施，在制定有效人工智能規(guī)則和規(guī)范方面，壓力和迫切性并存。經(jīng)合組織的跟蹤調(diào)查表明：一些政策源于國(guó)家級(jí)人工智能戰(zhàn)略(如立法提案、跨國(guó)合伙關(guān)系、貿(mào)易協(xié)定條款等)，另一些則是動(dòng)人工智能解決方案的出臺(tái)。1.監(jiān)管行動(dòng)美國(guó)已開(kāi)始在多個(gè)層面推動(dòng)立法，要求對(duì)高風(fēng)險(xiǎn)自動(dòng)化決策系統(tǒng)的沖擊進(jìn)行法定評(píng)估；與此同時(shí)，美國(guó)多個(gè)城市禁止在執(zhí)法過(guò)程中使用人臉識(shí)別技術(shù)。歐洲委員會(huì)則完全采納了以風(fēng)險(xiǎn)為依據(jù)的方法論，但同時(shí)也承認(rèn)人工智能系統(tǒng)風(fēng)險(xiǎn)具有語(yǔ)境性特征。要求對(duì)高風(fēng)險(xiǎn)人工智能應(yīng)用采取更嚴(yán)厲的措施，對(duì)無(wú)風(fēng)險(xiǎn)的領(lǐng)域歐洲委員會(huì)的草案把人工智能應(yīng)用劃分為四大風(fēng)險(xiǎn)級(jí)別：(1)不可接受的風(fēng)險(xiǎn)：此類人工智能應(yīng)用被嚴(yán)厲禁止(如社交評(píng)分)(2)高風(fēng)險(xiǎn)：需要對(duì)其進(jìn)行特定審查的人工智能應(yīng)用，包括需要接受品質(zhì)管理和合規(guī)評(píng)估(如人工智能招聘工具、人臉識(shí)(3)有限風(fēng)險(xiǎn)：要承擔(dān)最起碼的透明性義務(wù)的應(yīng)用(如聊天機(jī)器人)(4)最低風(fēng)險(xiǎn)：對(duì)該類別的應(yīng)用無(wú)需制定額外的限制性規(guī)定(如垃圾郵件過(guò)濾應(yīng)用)與此同時(shí)，各國(guó)政府意識(shí)到如果各國(guó)各自為戰(zhàn)，全球治理體系將受到影響，進(jìn)而會(huì)削弱人工智能的潛力，因此有必要優(yōu)先開(kāi)展國(guó)際合作，推動(dòng)道德準(zhǔn)則的跨國(guó)統(tǒng)一。區(qū)域強(qiáng)國(guó)在嘗試創(chuàng)建統(tǒng)一戰(zhàn)線方面尤其活躍，如七國(guó)集團(tuán)(G7)早在2017年就創(chuàng)建了一個(gè)單一機(jī)構(gòu)來(lái)鼓勵(lì)大家統(tǒng)一認(rèn)識(shí)、員國(guó)的經(jīng)合組織(OECD)擔(dān)任秘書處。在全球?qū)用?，?lián)合國(guó)在平衡技術(shù)進(jìn)步和社會(huì)進(jìn)步方面發(fā)揮著領(lǐng)導(dǎo)作用，處于最前沿的當(dāng)屬國(guó)際電信聯(lián)盟(ITU)舉辦的“為善的人工智能”全球峰會(huì)。聯(lián)合國(guó)其它機(jī)構(gòu)也通過(guò)推動(dòng)研發(fā)和鼓勵(lì)對(duì)話來(lái)推動(dòng)人工智能治理，如國(guó)際勞動(dòng)組織的工作主要針對(duì)人工智能對(duì)工作和職業(yè)的影響，聯(lián)合國(guó)教科文組織也舉辦了針對(duì)人工智能道德倫理的對(duì)話。近幾年隨著國(guó)際合作范圍的擴(kuò)大，公眾對(duì)人工智能原則的看法也開(kāi)始逐漸統(tǒng)一。但是，要想從原則轉(zhuǎn)向政策再轉(zhuǎn)向?qū)嵺`，最大的挑戰(zhàn)是如何進(jìn)一步澄清治理方法和操作指引并達(dá)成更廣泛的共識(shí)。英國(guó)在這方面取得了一定進(jìn)展：2020年圍繞“讓人工智能變得可以解釋”這個(gè)課題，英國(guó)頒布了一份指導(dǎo)性文件。文件指出：根據(jù)《一般數(shù)據(jù)保護(hù)條例》(GDPR)第22條之規(guī)定，完全自動(dòng)化且會(huì)對(duì)消費(fèi)者產(chǎn)生法律影響的系統(tǒng)(如批貸、招聘等)必須是“可以解釋的”。英國(guó)信息委員辦公室還向企業(yè)提供了詳細(xì)的操作手冊(cè)，以幫助企業(yè)更好地理解這條規(guī)定。與此同時(shí)，需要重視如何避免不同管轄區(qū)因責(zé)任沖突而影響跨境研發(fā)和阻礙創(chuàng)新。雖然各國(guó)頒布的具體規(guī)則有差異，但要盡可能保持各國(guó)規(guī)則具有交互操作性，大方向上保持一致。新冠危機(jī)的爆發(fā)迫使企業(yè)必須擁抱人工智能，進(jìn)一步加劇了人工智能治理的不確定性。一方面，為滿足遠(yuǎn)程和非接觸的應(yīng)用場(chǎng)景需求，人工智能技術(shù)可以為大家提供急需的高效解決方案。新冠期間，各國(guó)都開(kāi)始使用人工智能追蹤算法向市民發(fā)布個(gè)性化的文字短信，指導(dǎo)他們?cè)诮佑|病人后自行隔離。另一方面，疫情揭示了人工智能發(fā)展的制約因素。盡管危機(jī)中公眾對(duì)新技術(shù)的信任感有所提高，但公眾對(duì)隱私暴露就非常憂慮?；谌斯ぶ悄艿淖粉櫢深A(yù)也可能面臨抵制?？梢?jiàn)，數(shù)據(jù)的匱乏和人們對(duì)隱私的擔(dān)心會(huì)限制人工智能的發(fā)展，同時(shí)也為人工智能治理提供了正當(dāng)理由。四、多利益攸關(guān)方參與的方法論鑒于人工智能系統(tǒng)彼此交融的性質(zhì)，各方如果單打獨(dú)斗，注定將失敗。反之，多利益攸關(guān)方共同參與治理，有助于提升全球范圍內(nèi)開(kāi)發(fā)“負(fù)責(zé)任的人工智能”的能力。只有多利益攸關(guān)方共同參與才能獲取公眾和社會(huì)的認(rèn)可，最終贏得大眾的信任。許多案例都充分證明：只要通過(guò)與跨區(qū)、跨界、跨業(yè)的利益攸關(guān)方建立建設(shè)性關(guān)系，并以此為基礎(chǔ)創(chuàng)建和維護(hù)負(fù)責(zé)任的人工智能治理機(jī)制，就有可能贏得公眾的信任。而要建立這些關(guān)系，就必須與人工智能的受眾進(jìn)行開(kāi)誠(chéng)布公的對(duì)話，無(wú)論這些受眾是客戶還是公民。“多方參與”涉及的一個(gè)關(guān)鍵問(wèn)題是各行為體的貢獻(xiàn)內(nèi)容和貢獻(xiàn)方式。每個(gè)利益攸關(guān)方都有自己獨(dú)特的視角，每個(gè)群體也都會(huì)堅(jiān)持各自的利益。1.業(yè)界分享全球可信人工智能的最佳實(shí)踐，在此基礎(chǔ)上構(gòu)建和擴(kuò)大人工智能治理的創(chuàng)新模式是當(dāng)前業(yè)界面臨的巨大機(jī)遇。根據(jù)波士頓咨詢集團(tuán)和麻省理工學(xué)院聯(lián)合發(fā)布的調(diào)查報(bào)告，有90%的機(jī)構(gòu)目前正在制定或完成了相關(guān)戰(zhàn)略以促進(jìn)算法公正、降低決策偏差。其中有72%的機(jī)構(gòu)發(fā)現(xiàn)這些戰(zhàn)略可提高財(cái)務(wù)收益，有62%的機(jī)構(gòu)報(bào)告運(yùn)營(yíng)風(fēng)險(xiǎn)有所下降。企業(yè)可采取下列措施來(lái)支持多利益攸關(guān)方參與的機(jī)制：隨著對(duì)治理框架需求日增，對(duì)受控環(huán)境下的測(cè)試和實(shí)驗(yàn)也提出了更高要求。通過(guò)這類嘗試，可將真實(shí)世界部分地納入測(cè)試框架，從而為企業(yè)提供治理人工智能的未來(lái)機(jī)會(huì)。(2)提供其它相關(guān)技術(shù)或?qū)I(yè)管理知識(shí)臨時(shí)調(diào)派技術(shù)人員填補(bǔ)技術(shù)短板，開(kāi)展治理框架設(shè)計(jì)。很多企業(yè)可充當(dāng)人工智能專業(yè)技能的載體，為其它機(jī)構(gòu)提供專業(yè)工具，并協(xié)助評(píng)估人工智能模型。2.政府在政府利用人工智能提供更好的服務(wù)之前，必須首先征求全社會(huì)的許可。政府可采取下列措施來(lái)支持多利益攸關(guān)方的行動(dòng)：政府需要集中在新治理理念部署、測(cè)試和迭代加速發(fā)展的領(lǐng)域制定政策，發(fā)揮關(guān)鍵作用，確保人工智能在對(duì)外公布前盡可能地在真實(shí)環(huán)境中得到測(cè)試和驗(yàn)證。(2)提供公共政策或行政管理專業(yè)知識(shí)調(diào)派既能填補(bǔ)公共政策知識(shí)短板又懂得政府工作實(shí)際難點(diǎn)的人員支援多利益攸關(guān)方。圍繞人工智能治理設(shè)立國(guó)家級(jí)或次國(guó)家級(jí)的機(jī)構(gòu)，從業(yè)界、政界、學(xué)界和社會(huì)招收人員，采用跨學(xué)科協(xié)作的方式，利用人工智能和算法針對(duì)政府的運(yùn)行方式提出建議。學(xué)術(shù)界可利用其處于各行業(yè)交叉點(diǎn)的獨(dú)特地位，借助其中立而客觀的視角吸引各方加入對(duì)話。采取下列措施來(lái)支持多利益攸關(guān)方的行動(dòng)：在政策制定和測(cè)試過(guò)程中，通過(guò)效果評(píng)估來(lái)對(duì)新方法進(jìn)行測(cè)。把涉及人工智能的道德影響研究的多個(gè)人文學(xué)科納入相關(guān)(3)協(xié)助推廣、擴(kuò)大有前景的人工智能治理機(jī)制把多利益攸關(guān)方形成的實(shí)踐和行為納入全球教學(xué)課程。4.公民社會(huì)公民社會(huì)作為第三方代表，可為多方對(duì)話帶來(lái)平衡感和新視角，有助于消除盲點(diǎn)，緩和那些擔(dān)心人工智能失控的人的恐懼感。公民社會(huì)可采取下列措施來(lái)支持多利益攸關(guān)方的行動(dòng)：通過(guò)把全球的弱勢(shì)群體納入到同一個(gè)國(guó)際討論框架，有助于縮小參與度的差距，獲得更多元、更具代表性的數(shù)據(jù)集合的支持。(2)召集各類行為體共同組建共同體公民社會(huì)和學(xué)術(shù)界一樣，可擔(dān)任各類行為共同體的召集者人工智能卓越中心開(kāi)展合作在設(shè)有人工智能專門咨詢機(jī)構(gòu)的國(guó)家和地區(qū)，公民社會(huì)可組織和鼓勵(lì)民眾與咨詢機(jī)構(gòu)開(kāi)展更廣泛的溝通和交流，以確保政策的多元化和包容性。(二)靈活治理多利益攸關(guān)方的思路若與靈活治理的方法相結(jié)合，就會(huì)容納更多人參與決策流程，并可通過(guò)快速迭代來(lái)滿足每個(gè)人的需求。最終，決策將變得更具包容性，也更加以人為本。靈活治理作為一種有效手段可確保治理與技術(shù)進(jìn)步保持同步。前提是及時(shí)試驗(yàn)和決策，同時(shí)堅(jiān)持公私治理流程所規(guī)定的義務(wù)和原則?！鹅`活治理：重新構(gòu)想第四次工業(yè)革命的決策》對(duì)靈活治理的方法論進(jìn)行了完整描述。世界經(jīng)濟(jì)論壇與加拿命靈活規(guī)則”項(xiàng)目。近期，該項(xiàng)目基于全球各地的最新證據(jù)和實(shí)踐發(fā)布了一份戰(zhàn)略指導(dǎo)文件，倡議以靈活方式應(yīng)對(duì)創(chuàng)新和挑下面的例子展示了多利益攸關(guān)方群體基于現(xiàn)有通用原則對(duì)特定背景和特定用途的框架進(jìn)行設(shè)計(jì)和測(cè)試的方法。衛(wèi)生醫(yī)療行業(yè)的聊天機(jī)器人：鑒于新冠疫情期間聊天機(jī)器人的使用率大增，日本三菱化學(xué)和印度信實(shí)工業(yè)等企業(yè)聯(lián)合印度政府、世界經(jīng)濟(jì)論壇和眾多聊天機(jī)器人開(kāi)發(fā)商、平臺(tái)、衛(wèi)生部門、公民社會(huì)、學(xué)界和衛(wèi)生監(jiān)管機(jī)構(gòu)等共同設(shè)計(jì)了一個(gè)醫(yī)用聊天機(jī)器人監(jiān)管框架，目前已有部分試點(diǎn)項(xiàng)目正在實(shí)施。推動(dòng)全球合作，快速推廣人工智能監(jiān)管工具和實(shí)踐。世界經(jīng)濟(jì)論盟以世界經(jīng)濟(jì)論壇的全球多利益攸關(guān)方共同體為基礎(chǔ)，成員包括很多活躍在人工智能領(lǐng)域的頂級(jí)企業(yè)、政府和公民社會(huì)組織，這些機(jī)構(gòu)在過(guò)去三年針對(duì)人工智能技術(shù)的開(kāi)發(fā)和應(yīng)用成功推出了多種交互操作式監(jiān)管機(jī)制。此外，聯(lián)盟還與論壇下設(shè)的“工業(yè)行各行業(yè)實(shí)現(xiàn)交互式操作。五、未來(lái)之路鑒于目前人工智能監(jiān)管的形式多表現(xiàn)為加強(qiáng)干預(yù)，因此嘗試更多工具和實(shí)踐是必要的。很多機(jī)構(gòu)意識(shí)到人工智能風(fēng)險(xiǎn)的分布是廣譜的，但他們?nèi)韵Ｍ谂宄L(fēng)險(xiǎn)的界線和發(fā)生領(lǐng)域。即搞明白哪些情況下可自我調(diào)節(jié)？哪些情況必須參考標(biāo)準(zhǔn)合同條款？哪些情況下非果斷干預(yù)不可？全球人工智能理事會(huì)建議未來(lái)應(yīng)對(duì)下列事項(xiàng)予以額外關(guān)注：(1)制定負(fù)責(zé)任的人工智能框架及所依據(jù)的參考標(biāo)準(zhǔn)，以及用于評(píng)估偏差、公正度和相關(guān)技術(shù)細(xì)節(jié)的測(cè)量標(biāo)準(zhǔn)(2)人工智能系統(tǒng)的評(píng)估流程與工具，以及提升政府行政意識(shí)、理解力和相關(guān)排序的工具(3)針對(duì)某些必須通過(guò)公共干預(yù)和協(xié)調(diào)才能解決的道德問(wèn)題(如虛假信息、深層欺詐、大規(guī)模人臉識(shí)別、人工智能監(jiān)控(4)人工智能治理領(lǐng)域的行業(yè)可操作化案例研究(5)有助于縮小研究差距、促使人工智能研究人員反思研發(fā)影響及研究方向的相關(guān)激勵(lì)措施(6)積極借鑒其它高風(fēng)險(xiǎn)技術(shù)的治理經(jīng)驗(yàn)(二)人工智能、就業(yè)與不平等人工智能在就業(yè)和不平等方面也存在很多問(wèn)題。其中一項(xiàng)挑戰(zhàn)是機(jī)器搶占人類工作的問(wèn)題，據(jù)麥肯錫2017年報(bào)告估算，到與此同時(shí)還面臨不平等問(wèn)題。人工智能將取代某些類型的工作和職業(yè)，導(dǎo)致很多人下崗，但另一些人卻可能因?yàn)楣ぷ餍再|(zhì)不同而免于被淘汰。在這種情況下，如不制定更好的政策來(lái)縮小差距并普及技能培訓(xùn)，那失衡勢(shì)必會(huì)加劇。就連最樂(lè)觀的經(jīng)濟(jì)學(xué)家也預(yù)測(cè)：未來(lái)世界里越來(lái)越少的工作會(huì)和現(xiàn)在一樣得到別人的賞識(shí)，很多人會(huì)感到迷茫，從而質(zhì)疑人生的價(jià)值。毫不夸張的說(shuō)，或許未來(lái)一兩家大企業(yè)會(huì)獨(dú)霸全球經(jīng)濟(jì)。為避免這種結(jié)局的出現(xiàn)，有必要給已出臺(tái)的政策杠桿補(bǔ)充所謂的“意外之財(cái)條款”，即要求人工智能企業(yè)在快速致富時(shí)必須承諾將利潤(rùn)的大部分捐獻(xiàn)于公共利益，以促進(jìn)人類整體的公平與福祉。我們?nèi)涡鑷@人工智能的下游效應(yīng)進(jìn)行大量思考，并開(kāi)展相關(guān)工