12023年12月AI10的風(fēng)險(xiǎn)682機(jī)構(gòu)職能3:制定和協(xié)調(diào)標(biāo)準(zhǔn)、安全和風(fēng)險(xiǎn)管理框架21機(jī)構(gòu)職能6：監(jiān)測(cè)風(fēng)險(xiǎn)、報(bào)告事件、協(xié)調(diào)應(yīng)急響應(yīng)結(jié)論252225282.然而，也存在風(fēng)險(xiǎn)。人工智能可以加強(qiáng)偏見(jiàn)或擴(kuò)大監(jiān)控；自動(dòng)化決策可以模糊公職人員的問(wèn)責(zé)制，即使人工智能增強(qiáng)的虛假信息威脅到他們的選舉過(guò)程。人工智能系統(tǒng)的速度、自主性和不透明性挑戰(zhàn)了傳統(tǒng)的監(jiān)管模式，即使越來(lái)越強(qiáng)大的系統(tǒng)被開(kāi)發(fā)、部署和使用。如今，人工智能的好處主要集中在少數(shù)州、公司和個(gè)人身上。4.這項(xiàng)技術(shù)需要治理，不僅是為了應(yīng)對(duì)挑戰(zhàn)和風(fēng)險(xiǎn)，而且是為了確保我們以不讓任何人掉隊(duì)的方式利用其潛力。衡量我們成功的關(guān)鍵標(biāo)準(zhǔn)是人工智能技術(shù)在多大程度上幫助實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)(SDG)。例如，方框1說(shuō)明了人工智能在應(yīng)對(duì)氣候變化及其影響方面的潛力(SDG13)。4為考慮如何治理今天的人工智能，還考慮如何為變革步伐只會(huì)加快的環(huán)境做7.盡管如此，我們對(duì)人工智能方面的補(bǔ)充治理舉措抱有緊迫感，包括各國(guó)以及歐盟、七國(guó)集團(tuán)、二十國(guó)集團(tuán)、教科文組織和經(jīng)合組織等區(qū)域和政府間進(jìn)程的舉措。然而，需要更多的包容性參與，因?yàn)樵S多社區(qū)——特別是全球南方或全球多數(shù)社區(qū)——在這些討論中基本上沒(méi)有出現(xiàn)，盡管他們的生活可能受到影響。需要一種更具凝聚力，包容性，參與性和協(xié)調(diào)性的方法，涉及世界各地的不同社區(qū)，特別是來(lái)自全球南方或全球多數(shù)派的社區(qū)。格的機(jī)構(gòu)，其獨(dú)特的合法性得到普遍認(rèn)可，以及其對(duì)擁抱世界各國(guó)人民多樣性的承規(guī)范和原則達(dá)成共識(shí)以及確保良好治理和問(wèn)責(zé)制提供了關(guān)鍵節(jié)點(diǎn)。在聯(lián)合國(guó)系統(tǒng)危害也分布不均。需要所有成員國(guó)平等參與的全球治理，以使資源可獲得，使前沿。人工智能正在提高發(fā)達(dá)經(jīng)濟(jì)體和發(fā)展中經(jīng)濟(jì)體從醫(yī)療保健到農(nóng)業(yè)等領(lǐng)域的生種增長(zhǎng)之外，還有一些問(wèn)題，即需要哪些推動(dòng)者來(lái)確保利益在人類中公平和安全地人類輔助AI人工智能可以幫助人們完成日常任務(wù)，以及他們最雄心勃勃、最具創(chuàng)造性和富有成效的努力。人類輔助AI包括無(wú)障礙工具和教育改進(jìn)。已經(jīng)開(kāi)發(fā)的應(yīng)用程序可以作為視覺(jué)或語(yǔ)音受限的人的虛擬助手，支持以前被忽視或忽視的可訪問(wèn)性需求。人工智能支持的翻譯現(xiàn)在涵蓋了一百多種語(yǔ)言，促進(jìn)了訪問(wèn)以及跨文化理解和溝通。新一代輔導(dǎo)應(yīng)用程序有望在全球范圍內(nèi)擴(kuò)大獲得優(yōu)質(zhì)教育的機(jī)會(huì)。部門機(jī)會(huì)AI將在某些領(lǐng)域而不是其他領(lǐng)域產(chǎn)生更大的影響。最有希望的是農(nóng)業(yè)和糧食安全、衛(wèi)生、教育、環(huán)境保護(hù)、自然災(zāi)害和應(yīng)對(duì)氣候變化。例如，人工智能不安全。人工智能被用來(lái)監(jiān)測(cè)瀕危物種(例如P科學(xué)機(jī)遇聯(lián)合國(guó)利用AI的機(jī)會(huì)。這需要國(guó)家對(duì)人才、數(shù)據(jù)和計(jì)算資源的投資，以及國(guó)家監(jiān)營(yíng)部門參與者之間，國(guó)際援助與合作都應(yīng)補(bǔ)充國(guó)內(nèi)努力。召集科學(xué)家解決社會(huì)挑戰(zhàn)可對(duì)人類潛力的關(guān)鍵推動(dòng)因素。數(shù)據(jù)和模型的開(kāi)源和共享可以在傳播人工智能的好處以20.人工智能開(kāi)發(fā)、部署和使用的啟用者(“共軌”)需要與“護(hù)欄”保持平衡，以管理對(duì)社會(huì)和社區(qū)的影響。試金石將是人工智能治理努力在多大程度上產(chǎn)生人類的增強(qiáng)，而不是人類的替代或疏遠(yuǎn)。一些人工智能的發(fā)展依賴于全球南方廉價(jià)和可開(kāi)采的勞動(dòng)力。即使在全球北方，也存在與重視藝術(shù)表達(dá)，知識(shí)產(chǎn)權(quán)和人類勞動(dòng)尊嚴(yán)有關(guān)的問(wèn)題。如果我們要避免國(guó)家內(nèi)部和國(guó)家之間的“人工智能鴻溝”,就需要公平獲得這些技術(shù)和相關(guān)技能以充分利用它們。但是很多人不會(huì)。確保人工智能是為了共同利益而部署的，其利益得到公平分配，將需允許聯(lián)合訪問(wèn)數(shù)據(jù)、計(jì)算和人才的基礎(chǔ)知識(shí)，以及I和,我們認(rèn)為從脆弱社區(qū)和公地的角度看待風(fēng)險(xiǎn)更有用。我們已嘗試按照此方法進(jìn)行初步分類（方框3）,該方法將在現(xiàn)有工作的基礎(chǔ)上進(jìn)一步發(fā)展為風(fēng)險(xiǎn)評(píng)估框架。隨著技術(shù)，其采用和使用的發(fā)展，風(fēng).個(gè)人相互作用）.團(tuán)體.Societyo民主（選舉、信任）o安全（軍事和警務(wù)用途）.經(jīng)濟(jì).(Eco)系統(tǒng).值和規(guī)范31.關(guān)于如何評(píng)估或解決這些風(fēng)險(xiǎn)尚未達(dá)成共識(shí)。然而，正如預(yù)防原則對(duì)環(huán)境困境的規(guī)定，對(duì)風(fēng)險(xiǎn)的科學(xué)不確定性不應(yīng)導(dǎo)致治理癱瘓。達(dá)成共識(shí)并采取行動(dòng)需要全球合作與協(xié)調(diào)，包括通過(guò)共享風(fēng)險(xiǎn)監(jiān)測(cè)機(jī)制。國(guó)際組織在從化學(xué)和生物武器到核能的雙重用途技術(shù)方面擁有數(shù)十年的相關(guān)經(jīng)驗(yàn)，這些經(jīng)驗(yàn)基于條約法和其他規(guī)范框架，可用于解決人工智能的風(fēng)險(xiǎn)。33.我們必須識(shí)別、分類和解決人工智能風(fēng)險(xiǎn)，包括就哪些風(fēng)險(xiǎn)是不可接受的，以及如何預(yù)防或預(yù)先防范這些風(fēng)險(xiǎn)達(dá)成共識(shí)。還需要對(duì)人工智能的意外后果進(jìn)行警惕和視野掃描，因?yàn)檫@樣的系統(tǒng)是在越來(lái)越多樣化和未經(jīng)測(cè)試的環(huán)境中引入的。為了實(shí)現(xiàn)這一目標(biāo)，我們必須克服技術(shù)、政治和社會(huì)挑戰(zhàn)。。利用人工智能改善受教育的機(jī)會(huì)可能會(huì)引起人們對(duì)年輕人數(shù)據(jù)隱私和教師代理數(shù)億學(xué)生無(wú)法獲得優(yōu)質(zhì)教育資源的世界里，不使用技術(shù)來(lái)彌合差距可能會(huì)有弊端39.今天，人工智能治理的指南、框架和原則并不缺乏。私營(yíng)部門和民間社會(huì)以及國(guó)家、區(qū)域和多邊機(jī)構(gòu)起草了文件，產(chǎn)生了不同程度的影響。就技術(shù)而言，治理工作一直側(cè)重于數(shù)據(jù)、模型、基準(zhǔn)或評(píng)估。應(yīng)用也一直受到關(guān)注，特別是在有現(xiàn)有部門治理安排的地方，例如衛(wèi)生或兩用技術(shù)。這些努力可以植根于具體的治理安排，如歐盟人工智能法案或美國(guó)S.行政命令，它們可以與參與和合規(guī)的激勵(lì)措施相關(guān)聯(lián)。圖1提供了一個(gè)簡(jiǎn)化的方案，用于考慮新興的AI治理格局，咨詢機(jī)構(gòu)將在其工作的下一階段），;（c）提供能力建設(shè)，相互保證和監(jiān)測(cè)（IAEA，ICAOd）網(wǎng)絡(luò)和研究資源庫(kù)（CERN45.本中期報(bào)告中提供的初步建議不是在現(xiàn)階段提出任何單一的AI治理模型，而是側(cè)重于原則這應(yīng)該人工智能服務(wù)管理，歐洲委員會(huì)人工智能公約草案，歐盟人工智能48.人工智能系統(tǒng)的發(fā)展主要集中在科技公司手中。人工,但還不夠。對(duì)于構(gòu)建、部署和控制AI的公司和其他組織，以及在整個(gè)AI生命周期中跨經(jīng)濟(jì)和社會(huì)多50.人工智能將被多個(gè)部門的人和組織使用，每個(gè)部門都有不同的用例、復(fù)雜性和風(fēng)險(xiǎn)。治理工作必須牢記與多樣性、公平、包容、可持續(xù)性、社會(huì)和個(gè)人福祉、競(jìng)爭(zhēng)性市場(chǎng)以及健康創(chuàng)新生態(tài)系統(tǒng)相關(guān)的公共政策目標(biāo)。它們還必須整合錯(cuò)過(guò)使用對(duì)經(jīng)濟(jì)和社會(huì)發(fā)展的影響。責(zé)任方面提供更大的明確性。為了公共利益進(jìn)行治理還意味著對(duì)公共技術(shù)、基礎(chǔ)設(shè)施和公職人員51.數(shù)據(jù)對(duì)于許多主要的AI系統(tǒng)至關(guān)重特別注意公共數(shù)據(jù)，這些數(shù)據(jù)對(duì)于幫助解決氣候變化、公共衛(wèi)生、經(jīng)濟(jì)發(fā)展、能力建部署和使用的不同文化意識(shí)形態(tài)。需要在這一治理框架內(nèi)建立創(chuàng)新結(jié)構(gòu)，讓私圖2：按機(jī)構(gòu)“硬件”分配的AI治理功能能承擔(dān)主要責(zé)任。包括學(xué)術(shù)界和獨(dú)立科學(xué)家在內(nèi)的民間社會(huì)將在為政策建立證據(jù)、施期間讓關(guān)鍵行為者承擔(dān)責(zé)任方面發(fā)揮關(guān)鍵作用。每一套職能在和國(guó)際組織——都有不同的責(zé)任位置。在下一階段的工作中59.目前，對(duì)于人工智能的未來(lái)軌跡和影響，沒(méi)有權(quán)威的、包容性的多學(xué)科評(píng)估的制度化功能。關(guān)于人工智能技術(shù)的方向和速度以及相關(guān)的風(fēng)險(xiǎn)和機(jī)遇的共識(shí)可能是政策制定者在制定國(guó)內(nèi)人工智能計(jì)劃以鼓勵(lì)創(chuàng)新和管理風(fēng)險(xiǎn)時(shí)利用的資源。每六個(gè)月釋放一次科學(xué)的、基于證據(jù)的見(jiàn)解，向政策制定者通報(bào)人工智能開(kāi)發(fā)、部,這可能需要一項(xiàng)國(guó)際協(xié)議。63.正在制定人工智能的技術(shù)和規(guī)范標(biāo)準(zhǔn)、安全和風(fēng)險(xiǎn)管理框架的幾項(xiàng)重要舉措，但缺乏全球協(xié)調(diào)和統(tǒng)一(表1中的子功能11)。由于其全球成員資格，聯(lián)合國(guó)可以在將各國(guó)團(tuán)結(jié)在一起，制定共同的社會(huì)技術(shù)標(biāo)準(zhǔn)以及確保法律和技術(shù)互操作性方面發(fā)揮關(guān)鍵作用。據(jù)標(biāo)簽和測(cè)試標(biāo)準(zhǔn)、數(shù)據(jù)保護(hù)和交換協(xié)議，這些標(biāo)準(zhǔn)可以為初創(chuàng)公司提供跨境測(cè)試和任、爭(zhēng)議解決、業(yè)務(wù)開(kāi)發(fā)和其他支持機(jī)制?，F(xiàn)有的法律、財(cái)務(wù)和技術(shù)安排需要發(fā)展，20可持續(xù)發(fā)展目標(biāo)開(kāi)發(fā)，部署和使用AI系統(tǒng)，使獨(dú)立的學(xué)術(shù)研究人員，社會(huì)企業(yè)己的模型并進(jìn)行研究和評(píng)估所需的基礎(chǔ)設(shè)施和數(shù)據(jù)集。這可能需要網(wǎng)絡(luò)資源和努68.匯集類似于CERN、EMBB或ITER的專家知識(shí)和資源，以及原子能機(jī)構(gòu)的技術(shù)傳播功能，可以為可持續(xù)發(fā)展目標(biāo)提供急需的推動(dòng)(表1中的子功能6)。鼓勵(lì)私營(yíng)部門行為者分享和提供研究和開(kāi)發(fā)工具也可以補(bǔ)充這些功能。來(lái)自全球南方的專家通常在全球人工智能會(huì)議上看不見(jiàn)。這需要改變。69.開(kāi)放數(shù)據(jù)和計(jì)算的訪問(wèn)也應(yīng)伴隨著能力于利用人工智能實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)至關(guān)重要。類似于企業(yè)在全球契約下做出的和其他公司為更大的利益開(kāi)發(fā)、部署和使用人工智能的公開(kāi)承諾。在全球數(shù)字契70.人工智能工具的無(wú)國(guó)界性質(zhì)可以在全球范圍內(nèi)擴(kuò)散，這對(duì)國(guó)際安全和全球穩(wěn)定構(gòu)成了新的挑戰(zhàn)。人工智能模型可以降低獲得大規(guī)模殺傷性武器的障礙。人工智能網(wǎng)絡(luò)工具增加了對(duì)關(guān)鍵基礎(chǔ)設(shè)施的攻擊風(fēng)險(xiǎn)，兩用人工智能可用于驅(qū)動(dòng)致命的自主武器，這可能對(duì)國(guó)際人道主義法和其他規(guī)范構(gòu)成風(fēng)險(xiǎn)。機(jī)器人可以迅速傳播具有人類特征的有害信息，其方式可能對(duì)市場(chǎng)和公共機(jī)構(gòu)造成重大損害。不能排除流氓AI逃避控制并構(gòu)成更大風(fēng)險(xiǎn)的可能性。鑒于這些挑戰(zhàn)，能力必須。21。22描23在繼續(xù)解決人工智能問(wèn)題的現(xiàn)有國(guó)際機(jī)構(gòu)之間解體現(xiàn)規(guī)范和規(guī)則的最佳實(shí)踐，包括風(fēng)險(xiǎn)緩解和經(jīng)濟(jì)增長(zhǎng)。協(xié)調(diào)、利用并包括在區(qū)域、國(guó)家和行業(yè)層面制定的軟性和硬性法律、標(biāo)準(zhǔn)、方法和框架，以支持互操作性。24人工智能治理必須為人們和社會(huì)提供切實(shí)的利益和保障。有效的全球治理框架必之間的差距。在下一階段的工作中，我們將基于全球不同利益相關(guān)者的觀點(diǎn)，探索80.在現(xiàn)階段，上述初步建議并沒(méi)有提出任何單一的人工智能治理模式，而是側(cè)重于任何此類制度都必須追求的原則和功能。81.在接下來(lái)的幾個(gè)月中，我們將與世界各告中問(wèn)題的活動(dòng)，以及與政府、私營(yíng)部門、民間社會(huì)以及研究和技術(shù)界的接觸。我,包括風(fēng)險(xiǎn)評(píng)估方法和治理互操作性。將進(jìn)行案例研究，以幫助在特定情況下思考報(bào)告中確定的著陸問(wèn)題。我們還打算深入研究一些領(lǐng)域，包括開(kāi)源、人工智能和金融部門、標(biāo)準(zhǔn)制定、25我們能否通過(guò)促進(jìn)模型構(gòu)建生態(tài)系統(tǒng)，例如通過(guò)數(shù)據(jù)保護(hù)和交換框架，共享計(jì)算訪問(wèn)，使AI開(kāi)發(fā)更具包容性？數(shù)據(jù)標(biāo)簽和測(cè)試的通用標(biāo)準(zhǔn)是否會(huì)鼓勵(lì)A(yù)I初創(chuàng)公司在更多國(guó)家哪些機(jī)制將促進(jìn)利益相關(guān)者和成員國(guó)之間公平在識(shí)別、分類和解決人工智能風(fēng)險(xiǎn)方面達(dá)成共識(shí)的最佳途徑是什么？識(shí)別紅線的門檻或觸發(fā)因素應(yīng)該是什么(也許類似于生物醫(yī)學(xué)研究中禁止人類克隆)？如何監(jiān)管和執(zhí)行任何這樣的紅線？2627MariaVaninaMartinezPosseSeydinaMoussaNdiayeMarietjeSchaakeSha爸JimenaSofiaViverosAlva28該機(jī)構(gòu)將由來(lái)自政府，私營(yíng)部門，民間社會(huì)和學(xué)術(shù)界的38名成