從風(fēng)險識別到透明度義務(wù)：球A1治理動態(tài)人工智能技術(shù)在不斷突破能力上限的同時，也帶來了版權(quán)侵權(quán)、深度偽造、輸出幻覺、算法偏見等多方面的風(fēng)險。從屢禁不止的AI虛假信息1,到Anthropic等科技巨頭面臨的著作權(quán)訴訟2,再到OpenAl卷入青少年自殺相關(guān)指控3,這一系列事件無不表明當(dāng)下人工智能治理所面臨的重大挑戰(zhàn)。如何在有效防范上述風(fēng)險的同時促進(jìn)技術(shù)發(fā)展，避免過度行政干預(yù)阻礙技術(shù)進(jìn)步，成為各國人工智能治理的關(guān)鍵課題。對此，各國傾向于針對特定風(fēng)險施加不同層次的透明度義務(wù)，以求在堅守安全紅線的同時減輕對技術(shù)發(fā)展的負(fù)擔(dān)。本文旨在探究全球范圍內(nèi)的人工智能立法實踐，重點分析各國識別AI風(fēng)險的具體標(biāo)準(zhǔn)，以及對提高AI模型或者應(yīng)用透明度作出的具體要求。文章選取歐盟、美國加州、韓國及我國的立法實踐進(jìn)行梳理分析，供讀者參考。一、風(fēng)險的識別風(fēng)險識別是構(gòu)建人工智能治理框架的前置條件。高風(fēng)險配置高義務(wù)、低風(fēng)險配置低義務(wù)，是在人工智能監(jiān)管中貫徹比例原則的應(yīng)有之義。因此，如何客觀全面地界定和判斷人工智能的風(fēng)險，成為各國立法必須回答的問題。當(dāng)前，主要的Al立法實踐往往單獨或綜合采用以下三個核心維度作為風(fēng)險判斷標(biāo)準(zhǔn)：2(1)歐盟具有“系統(tǒng)性風(fēng)險”,進(jìn)而負(fù)擔(dān)歐盟法下較高的合規(guī)義務(wù)。10截至本年初，已經(jīng)有包括GPT-40、Douba(2)美國加州4EUAIAct,參見：https://artificialintelligence6seeJaredKaplanetal.,ScalingLawsforNeuralLanguageModelsarxiv:2001.08361(2020),7EUAIAct,Art.3(63).8SeeGuidelinesonthescopeoftheobligationsforgeneral-purposeAlmodelsestablishedbyRegulation(EU)2024/1689(AIAct).9EUAIAct,Art.3(65).11pochAl,“NotableAIModelswithover10^25FLOPSTrainingCompute”(Jan.30,2025),https://epoch.ai/data-insights/modelsover-1e25-flop(12CaliforniaSenateBillNo.53“TFAIA”,參見/faces3TFAIA將“前沿模型”定義為訓(xùn)練計算量超過10^26FLOPs的基礎(chǔ)模型13,這比前述歐盟法關(guān)于“有系統(tǒng)性風(fēng)險的GPAI模型”的標(biāo)準(zhǔn)高出了一個數(shù)量級。該法案還規(guī)定，該計算量“應(yīng)包括原始訓(xùn)練運行、任何后續(xù)微調(diào)、強化學(xué)習(xí)或開發(fā)者對先前基礎(chǔ)模型應(yīng)用的其他實質(zhì)性修改所使用的計算能力”14。這種全生命周期的計算方式填補了通過分散訓(xùn)練或漸進(jìn)式優(yōu)化來規(guī)避監(jiān)管的漏洞，確保了監(jiān)管的完整性。一旦AI模型的訓(xùn)練計算量達(dá)到該閾值，其開發(fā)者即構(gòu)成“前沿開發(fā)者”(frontierdeveloper),進(jìn)而需負(fù)擔(dān)本法下的合規(guī)義務(wù)，包括透明度報告、關(guān)鍵安全事件報告等。152.應(yīng)用目的從技術(shù)角度，A模型不過是一組權(quán)重參數(shù)，并無直接造成現(xiàn)實損害的可能。真正對社會造成風(fēng)險的，是對AI模型疏忽大意乃至惡意的應(yīng)用。嵌入了AI模型的應(yīng)用通常被稱為“AI系統(tǒng)”(AIsystems),其可以將A模型的能力與各類軟硬件相結(jié)合，實現(xiàn)廣泛的能力。從AI系統(tǒng)的應(yīng)用目的和使用場景入手識別風(fēng)險并開展監(jiān)管，是各國普遍采取的治理途徑。(1)歐盟EUAIAct按照AI系統(tǒng)應(yīng)用目的與潛在風(fēng)risk)、“有限風(fēng)險”(limitedrisk)和“最小風(fēng)險”(minimalrisk)等四個層級，并分別配置不同程度的合規(guī)義務(wù)。16所謂“不可接受風(fēng)險”的AI系統(tǒng)，是指應(yīng)用于風(fēng)險極高、極易導(dǎo)致嚴(yán)重后果的領(lǐng)域的AI系統(tǒng)。EUAIAct第5條列舉了此類被禁止的應(yīng)用目的，包括意識與行為操控、社會評分、犯罪預(yù)測等。EUAIAct禁止了此類目的的實踐。次之，EUAIAct將可能顯著危害健康、安全或者基本權(quán)利的AI系統(tǒng)定為“高風(fēng)險AI系統(tǒng)”,并對其進(jìn)行全生命周期的嚴(yán)格監(jiān)管。高風(fēng)險A1分為兩類：第一類為用作歐盟產(chǎn)品安全法規(guī)覆蓋產(chǎn)品(如玩具、醫(yī)療器械、汽車、航空器等)的安全組件，或本身即為此類產(chǎn)品的AI系統(tǒng)17;第二類為AnnexII列明的八大特定領(lǐng)域的AI系統(tǒng)，包括生物識別、關(guān)鍵基礎(chǔ)設(shè)施、教育、就業(yè)、執(zhí)法等18。再次，對于不屬于上述分類，但仍可能造成“有限風(fēng)險”的應(yīng)用目的，例如交互性或者生成式AI系統(tǒng)等，EUAIAct僅施加一定的透明度義務(wù)。而對于那些既不屬于禁止類、高風(fēng)險類，也不屬于有限風(fēng)險類的Al應(yīng)用目的，EUAIAct基本不施加強制性監(jiān)管要求，但仍鼓勵提供者自愿遵守行為準(zhǔn)則和最佳實踐。(2)韓國韓國于2025年1月21日頒布了《人工智能發(fā)展與建立信任基本法》(下稱《Al基本法》)。19與歐盟法類似，該法同樣按應(yīng)用領(lǐng)域和場景將AI系統(tǒng)劃分為“高影響AI系統(tǒng)”(High-ImpactAISystems)和“生成式AI系統(tǒng)”(GenerativeAISystems)。2013Cal.Bus.&Prof.Code§22757.110)(1)(addedby15此外，韓國《人工智能基本法》執(zhí)行草案也采用了10^26次的訓(xùn)練計算量閾值，該草案截至收稿仍在征求意見。EUAIAct,Art.6(2).19韓國《人工智能發(fā)展與建立信任基本法》(《Al基本法》),參見ttps://www.law.go.kr/IsInfoP.do?lsiseq=268543#000020《Al基本法》第4條、第5條?！禔l基本法》將可能對人類生命、人身安全和基本權(quán)利構(gòu)成重大風(fēng)險的AI系統(tǒng)定義為“高影響AI系統(tǒng)”,并施加全生命周期的嚴(yán)格監(jiān)管。高影響AI系統(tǒng)的應(yīng)用領(lǐng)域包括：能源供應(yīng)、飲用水生產(chǎn)、醫(yī)療保健、醫(yī)療器械、核設(shè)施安全、刑事調(diào)查生物識別、個人權(quán)利評估、交通系統(tǒng)、政府決策、教育評估等，以及總統(tǒng)令可擴展的其他關(guān)鍵領(lǐng)域21。高影響AI系統(tǒng)的提供者、運營商等主體，需全面履行嚴(yán)格的合規(guī)義務(wù)，包括影響評估、風(fēng)險管理、人類監(jiān)督和報告。而對于不屬于高影響分類，但仍可能造成一定風(fēng)險的“生成式AI系統(tǒng)”,《A基本法》對其施加負(fù)擔(dān)較輕的透明度義務(wù)，如告知用戶Al使用、標(biāo)注生成內(nèi)容，并確保可區(qū)分虛擬與現(xiàn)實等。3.經(jīng)營規(guī)模Al產(chǎn)品的市場規(guī)模正在快速增長，據(jù)統(tǒng)計，ChatGPT的周活用戶已經(jīng)突破7億人22,豆包Al的月活用戶也已突破1.5億人23。在如此龐大的用戶基數(shù)上，諸如算法偏見、隱私泄露、信息操縱等技術(shù)隱患將產(chǎn)生顯著的社會風(fēng)險。因此，各國立法亦將市場規(guī)模作為風(fēng)險判斷的重要因素。(1)歐盟根據(jù)EUAIActAnnexXIII提出的判斷標(biāo)準(zhǔn)，若GPA模型已向歐盟境內(nèi)至少一萬名注冊商業(yè)用戶提供服務(wù)，即推定為具有“高影響力”從而構(gòu)成系統(tǒng)性風(fēng)險24。此外，AnnexXIII還要求在判斷系統(tǒng)性風(fēng)險時，關(guān)注GPAI模型的“注冊終端用戶數(shù)量”(numberofregisteredend-users)25?？梢?，EUAIAct同時關(guān)注GPAI模型在“toB”與“toC”市場中的經(jīng)營規(guī)模。(2)美國加州TFAIA規(guī)定，年收入(annualgrossrevenue)超過五億美元的前沿模型開發(fā)者構(gòu)成“大規(guī)模前沿開發(fā)者”(largefrontierdeveloper)26,進(jìn)而觸發(fā)更嚴(yán)格的合規(guī)義務(wù)，包括制定、實施和公布“前沿AI框架”(FrontierAlFramework)、建立匿名舉報通道等。此外，《加州人工智能透明度法案》(CaliforniaAlTransparencyAct,下稱“CAITA”)27規(guī)定，當(dāng)A系統(tǒng)每月訪問量或者用戶量超過100萬時，AI系統(tǒng)的提供者則構(gòu)成“受規(guī)制提供者”(coveredprovider),進(jìn)而觸發(fā)一系列義務(wù)。28可見，加州立法亦將經(jīng)營規(guī)模作為衡量風(fēng)險與監(jiān)管必要性的重要指標(biāo)。二、透明度義務(wù)風(fēng)險識別是監(jiān)管的邏輯起點，而透明度義務(wù)則是連接風(fēng)險與治理的橋梁。面對Al技術(shù)帶來的復(fù)雜挑戰(zhàn)，各國普遍將透明度制度作為主要治理手段之一。這一制度在賦予公眾以及其他市場主體知情權(quán)的同時，降低了企業(yè)的合規(guī)阻力與政府監(jiān)管成本。下文將進(jìn)一步梳理主要立法實踐在訓(xùn)練數(shù)據(jù)、模型與算法、生成與交互標(biāo)識以及重大事件報告等環(huán)節(jié)所設(shè)定的具體透明度要求。21《Al基本法》第2條。22openAl,"HowpeopleareusingChatGPT"(Sept.15,2025),/index/how-people-areusingchatgpt/(lastvisited23QuestMobile,“2025年8月Al應(yīng)用行業(yè)月度報告”(Sept.16,2025),htps://research/report/19678532614122082025).24FLALActAnnexXIMI,25EUAIActAnnexXIII,point(g).26Cal.Bus.&Prof.Codes22757.11(j)(addedbyS.B.53“TFA27californiaSenateBillNo.942“CAITA”,參見：https:/leginfo.legislature.ca.go28Cal.Bus.&Prof.Code§22757.1(b)(addedbyS.B.942“CAITA”).51.訓(xùn)練數(shù)據(jù)透明度義務(wù)訓(xùn)練數(shù)據(jù)從根本上決定了AI模型的知識儲備、性能表現(xiàn)與價值取向。然而，訓(xùn)練數(shù)據(jù)的不當(dāng)編制和處理可能引發(fā)侵犯知識產(chǎn)權(quán)、輸出歧視性內(nèi)容或者虛假信息等問題。因此，建立訓(xùn)練數(shù)據(jù)透明度制度有助于促進(jìn)政府、公眾與利益相關(guān)者對AI開發(fā)者的監(jiān)督，從訓(xùn)練數(shù)據(jù)入手實現(xiàn)源頭治理。(1)歐盟EUAIAct第53條對GPAI模型的提供者施加了訓(xùn)練數(shù)據(jù)透明度義務(wù)。首先，第53條第1款第(a)項規(guī)定了應(yīng)要求向歐盟Al辦公室和國家有關(guān)部門提供技術(shù)文檔的義務(wù)，該文檔至少應(yīng)包含AnnexXI所列明的信息，具體包括數(shù)據(jù)的類型和來源、數(shù)據(jù)整理方法、數(shù)據(jù)點的數(shù)量、范圍及主要特征、數(shù)據(jù)的獲取和選擇方式、檢測數(shù)據(jù)源不適當(dāng)性的所有其他措施、檢測可識別偏見的方法(如適用)等。此外，第(b)項規(guī)定了向模型的下游應(yīng)用者提供信息和文檔的義務(wù)，其中同樣要求包含訓(xùn)練數(shù)據(jù)的信息。最后，第(d)項規(guī)定了模型提供者制作和公開訓(xùn)練數(shù)據(jù)摘要的義務(wù)。2025年7月，歐盟委員會發(fā)布了與之配套的《通用人工智能模型訓(xùn)練內(nèi)容公開摘要模板》。對此，本團隊在《歐盟AI模型訓(xùn)練數(shù)據(jù)透明度規(guī)定最新落地——淺析歐盟與美國立法動態(tài)》一文中做出了具體介紹。(2)美國加州2024年8月，加州通過了關(guān)于生成式AI訓(xùn)練數(shù)據(jù)透明度的AB2013法案29。該法案要求生成式AI的開發(fā)者在2026年1月1日以前發(fā)布含有訓(xùn)練數(shù)據(jù)概要(high-levelsummary)的文檔。該概要應(yīng)含有包括數(shù)據(jù)集的來源、使用目的、數(shù)據(jù)點數(shù)量與類型、知識產(chǎn)權(quán)情況、個人信息情況、消費者信息情況、數(shù)據(jù)清洗情況等至少12項內(nèi)容。而以“維護(hù)安全和完整性”“操作飛機”和“國防軍事”為目的的生成式AI則可豁免上述義務(wù)。302.模型與算法透明度義務(wù)模型與算法架構(gòu)構(gòu)成了人工智能系統(tǒng)的推理邏輯、決策機制與運行基座。然而，算法運作的“黑箱”特性與內(nèi)在復(fù)雜性可能掩蓋隱性歧視、導(dǎo)致決策不可解釋或掩護(hù)惡意操控行為，從而引發(fā)倫理與安全風(fēng)險。因此，模型與算法構(gòu)成透明度義務(wù)的關(guān)鍵一環(huán)。(1)歐盟EUAIAct分別針對高風(fēng)險人工智能系統(tǒng)(high-riskAlsystems,下稱“HRAIS”)和GPAI模型設(shè)定了不同的透明度義務(wù)。根據(jù)第13條，HRAIS的提供者有義務(wù)向處于下游的部署者(deployer)提供該AI系統(tǒng)的使用說明(instructionsforuse),確保部署者能夠充分理解系統(tǒng)性能、局限性、魯棒性、準(zhǔn)確性、人類監(jiān)督措施及硬件要求等。此舉有助于明確系統(tǒng)的適用邊界與操作規(guī)范，防止因?qū)夹g(shù)局限性認(rèn)知不足而引發(fā)的誤用或濫用風(fēng)險。而對于GPAI模型，第53條第1款第(a)項以及AnnexXI,GPAI模型的提供者有義務(wù)向Al辦公室和國家主管機關(guān)提供模型的架構(gòu)、參數(shù)、輸入輸出模態(tài)和格式、訓(xùn)練過程等信息。29CaliforniaAssemblyBillNo.2013,參見/faces/billNavClien6此外，根據(jù)第53條第1款第(b)項及AnnexXII,GPAI模型提供者還需向試圖將模型整合至其系統(tǒng)中的下游提供者披露必要的技術(shù)文件，包含模型預(yù)期任務(wù)、架構(gòu)與參數(shù)數(shù)量、輸入輸出模態(tài)等通用描述，這有助于實現(xiàn)模型的有效集成與二次開發(fā)。(2)美國加州對于一般前沿模型的開發(fā)者，TFAIA規(guī)定，在部署新的前沿模型或現(xiàn)有前沿模型的重大修改版本之前或同時，前沿開發(fā)者應(yīng)當(dāng)在其網(wǎng)站上清晰顯著地發(fā)布透明度報告，其中包括關(guān)于模型與算法的內(nèi)容，例如輸出模態(tài)、預(yù)期用途以及使用的任何一般性限制或條件。若開發(fā)者滿足了前述市場規(guī)模門檻、從而成為“大規(guī)模前沿開發(fā)者”,則會進(jìn)一步觸發(fā)多項透明度義務(wù)，包括：(1)在透明度報告中額外加入關(guān)于對前沿模型進(jìn)行的災(zāi)難性風(fēng)險評估相關(guān)的內(nèi)容32;(2)定期向加州應(yīng)急服務(wù)辦公室(OfficeofEmergencyServices)提交任何關(guān)于其前沿模型內(nèi)部使用產(chǎn)生的災(zāi)難性風(fēng)險評估摘要，并提供書面更新33;(3)編寫、實施、遵守并在其互聯(lián)網(wǎng)網(wǎng)站上清晰顯著地發(fā)布“前沿AI框架”,包含該大規(guī)模前沿開發(fā)者如何將國家標(biāo)準(zhǔn)、國際標(biāo)準(zhǔn)以及行業(yè)共識的最佳實踐納入其前沿AI框架等3.生成與交互透明度義務(wù)隨著人工智能生成的內(nèi)容日益逼真，虛假信息傳播、身份冒充及惡意內(nèi)容生成等風(fēng)險隨之而來，嚴(yán)重削弱了公眾對網(wǎng)絡(luò)信息的信任。對此，針對Al生成物的透明度制度旨在通過標(biāo)識來區(qū)分“人類創(chuàng)作”與“機器生成”;而確立與Al交互過程中的透明度制度，要求系統(tǒng)主動披露機器身份，旨在保障用戶的知情權(quán)并防止沉迷。(1)歐盟EUAIAct對AI系統(tǒng)的提供者與部署者均設(shè)定了針對生成內(nèi)容與交互內(nèi)容的透明度義務(wù)。第50條第1款規(guī)定，AI系統(tǒng)的提供者應(yīng)確保Al系統(tǒng)在與自然人交互時，能夠讓其知曉其正在與AI系統(tǒng)交互；第2款規(guī)定，生成式AI系統(tǒng)的提供者，應(yīng)當(dāng)確保輸出的內(nèi)容帶有機器可讀格式(Machine-ReadableFormat)的標(biāo)記。而對于AI系統(tǒng)的部署者，第50條第3款規(guī)定，涉及人類情感識別或生物特征分類的AI系統(tǒng)，必須向該對象告知其使用；第4款規(guī)定，對于生成深度偽造(deepfake)的圖像、音視頻以及生成與公共利益有關(guān)的文本的AI系統(tǒng)，部署者必須披露(disclose)相關(guān)內(nèi)容系生成。通過上述雙重主體與雙重面向的透明度義務(wù)，歐盟建立了從模型到系統(tǒng)，從交互到生成的全流程披露義務(wù)。目前，歐洲委員會人工智能辦公室正在針對上述制度起草實踐準(zhǔn)則，預(yù)計將于2026年發(fā)布。34Cal.Bus.&Prof.Code§22757.12(a)(addedbyS.B.53“TFAIA”).(2)美國加州加州CAITA確立了涵蓋“強制標(biāo)注”與“用戶選擇”的雙重Al生成物披露制度。首先，達(dá)到一定市場規(guī)模的AI系統(tǒng)提供者應(yīng)當(dāng)賦予用戶選項，使其能夠自主選擇是否在Al生成的圖像、音頻或視頻中加入顯性披露(manifestdisclosure)35;此外，相關(guān)提供者還負(fù)擔(dān)隱性披露(latentdisclosure)的強制義務(wù)，要求提供者必須在上述生成物中嵌入包含提供者鏈接、系統(tǒng)信息、創(chuàng)建時間及唯一識別碼(uniqueID)等內(nèi)容的隱性數(shù)據(jù)，且該數(shù)據(jù)須具備可被AI檢測工具識別的技術(shù)特性。36值得注意的是，文本生成物當(dāng)前并未被納入上述強制標(biāo)注的適用范圍。至2025年10月，加州通過AB853法案對既有透明度制度進(jìn)行了修訂與補強37。該法案一方面強化了平臺責(zé)任，要求社交媒體、文件共享平臺及搜索引擎等大型在線平臺主動檢測發(fā)布內(nèi)容是否由Al生成并向用戶披露；另一方面確立了源頭管控機制，明確禁止生成式AI托管平臺提供未按法律要求植入披露功能的模型，從而在技術(shù)分發(fā)端堵塞監(jiān)管漏洞。38與AB853同期頒布的SB243法案則聚焦于“AI伴侶聊天機器人”(companionchatbots)的特殊風(fēng)險治理。法案要求運營商在交互可能導(dǎo)致用戶誤認(rèn)為真人的情形下，必須明確披露其AI身份。針對未成年用戶，該法案設(shè)定了更為嚴(yán)格的防沉迷機制，強制要求系統(tǒng)每隔不超過三小時發(fā)送一次“休息通知”,并再次重申機器人的非人類屬性，以防止情感操縱與認(rèn)知混淆。39(3)中國2025年3月，我國頒布了《人工智能生成合成內(nèi)容標(biāo)識辦法》40,其系統(tǒng)性地規(guī)定了各主體對人工智能生成內(nèi)容的標(biāo)識義務(wù)，并已于2025年9月1日正式生效。其中，第四、五條規(guī)定了服務(wù)提供者作為源頭的雙重責(zé)任：不僅要求在文本、音視頻及虛擬場景中添加顯式標(biāo)識，還要求在文件元數(shù)據(jù)中嵌入隱式標(biāo)識，涵蓋內(nèi)容屬性、服務(wù)提供者名稱及內(nèi)容編號等核心制作要素。第六條針對傳播平臺確立了“核驗、提示、追加”的義務(wù)體系。平臺必須核驗隱式標(biāo)識，依據(jù)結(jié)果在發(fā)布內(nèi)容周邊添加顯著提示以告知公眾，同時須在元數(shù)據(jù)中追加傳播平臺名稱等信息。第七條則要求應(yīng)用程序分發(fā)平臺在上架審核時必須確認(rèn)開發(fā)者是否提供生成服務(wù)，并核驗相關(guān)的合規(guī)材料。此外，第十條嚴(yán)格規(guī)范了終端用戶行為：一方面要求用戶發(fā)布內(nèi)容時主動聲明并使用標(biāo)識功能；另一方面嚴(yán)禁惡意刪除、篡改、隱匿標(biāo)識，或為此類違規(guī)行為提供工具支持，從而構(gòu)建起從源頭到終端的嚴(yán)密治理閉環(huán)。4.重大事件在全生命周期的人工智能治理中，事后監(jiān)管占據(jù)著同等重要的地位。針對人工智能所發(fā)生的重大事故或者嚴(yán)重隱患，應(yīng)當(dāng)建立強制的報告義務(wù)，為政府迅速介入提供保障，以便在第一時間有效控制事態(tài)、減輕損害、保障公眾的知情權(quán)，這已成為當(dāng)前Al治理的普遍共識。(1)歐盟EUAIAct對HRAIS和具有系統(tǒng)性風(fēng)險的GPAI模型都設(shè)定了具體的事件報告義務(wù)。對于廣泛侵權(quán)或涉及關(guān)鍵基礎(chǔ)設(shè)施的事故不得晚于2天。第55條規(guī)定，在發(fā)生嚴(yán)重事件時，應(yīng)立即向人工智能辦公室及國家主管部門跟蹤、記錄并報告有關(guān)該嚴(yán)重事件及為應(yīng)對該事件可能采取的糾正措施的相關(guān)信息。(2)美國加州根據(jù)TFAIA,前沿模型開發(fā)者在發(fā)現(xiàn)“關(guān)鍵安全事件(critical