AIAIShapethefuturewithconfidence

2025GLOBALTRUSTWORTHY. .. . .. .. . ... .. .. ANDDATASECURITYREPORT數(shù)據(jù)使用到產(chǎn)品應(yīng)用的整個(gè)鏈條。安永（中國）企業(yè)咨詢有限公司（后簡稱“安永）與上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院（后簡稱“賽博研究院）聯(lián)合編寫的《5全球可信I主要發(fā)現(xiàn)倫理道德等維度，確保負(fù)責(zé)任的人工智能實(shí)踐。人工智能技術(shù)在企業(yè)管理（81%）、客戶服務(wù)（60%）、產(chǎn)品研發(fā)（50%）場景的滲透率較高，且企業(yè)首選應(yīng)用開源模型（67%），其次是廠商SaaS服務(wù)（44%）和獨(dú)立部署模型（25%）。是企業(yè)應(yīng)用人工智能最關(guān)切的三大風(fēng)險(xiǎn)問題。12超過一半（59%）I企業(yè)普遍反饋，合規(guī)的復(fù)雜程度與成本持續(xù)處于高位，技術(shù)架構(gòu)的復(fù)雜性、業(yè)務(wù)與科技的迭代速度提高了I務(wù)持積極預(yù)期。2025全球可信AI治理與數(shù)據(jù)安全報(bào)告目錄第一章全球人工智能發(fā)展與治理現(xiàn)狀 02目錄主要國家及地區(qū)的人工智能發(fā)展格局 02人工智能治理關(guān)鍵議題 05人工智能治理的關(guān)鍵問題 05基于產(chǎn)業(yè)鏈視角的治理問題 07地緣政治引發(fā)的供應(yīng)鏈問題 07人工智能的監(jiān)管框架 08歐盟：以風(fēng)險(xiǎn)分級(jí)為核心，統(tǒng)一立法的監(jiān)管模式 08美國：聯(lián)邦與州雙軌并行的分散化“自律”，發(fā)展中求安全 08中國：國家—行業(yè)—地方三級(jí)治理，統(tǒng)籌發(fā)展和安全 09（4）日韓：“軟硬結(jié)合+協(xié)同治理”的監(jiān)管框架 10第二章可信人工智能治理與應(yīng)用現(xiàn)狀調(diào)研 13人工智能的治理與應(yīng)用現(xiàn)狀概況 13企業(yè)人工智能戰(zhàn)略規(guī)劃情況 13企業(yè)人工智能技術(shù)應(yīng)用場景分布情況 14企業(yè)大模型的選擇與考量 15企業(yè)關(guān)于人工智能的資源投入情況 16人工智能應(yīng)用的風(fēng)險(xiǎn)與顧慮 17模型可靠性問題受到普遍關(guān)注 17企業(yè)應(yīng)用人工智能將面臨的風(fēng)險(xiǎn) 17企業(yè)可信人工智能治理建設(shè)情況 18技術(shù)團(tuán)隊(duì)為主導(dǎo)、多部門協(xié)同的治理架構(gòu) 19多元標(biāo)準(zhǔn)融合構(gòu)建治理體系 20技術(shù)控制延續(xù)傳統(tǒng)安全措施 21針對(duì)性培訓(xùn)及管理層宣貫不足 22現(xiàn)階段挑戰(zhàn)與未來規(guī)劃 23企業(yè)追求可信人工智能治理的挑戰(zhàn) 23企業(yè)針對(duì)可信人工智能治理的未來投資趨勢(shì) 24企業(yè)對(duì)可信人工智能治理的期望 25目錄第三章案例 27目錄典型案例1：可信AI治理體系建構(gòu)助力企業(yè)成為AI應(yīng)用行業(yè)標(biāo)桿 27企業(yè)建構(gòu)AI治理體系的驅(qū)動(dòng)因素 27企業(yè)AI治理體系建構(gòu)思路 27AI治理體系落地成效顯著 28典型案例2：智能安全產(chǎn)品賦能，構(gòu)建AI實(shí)時(shí)防護(hù)體系 29從被動(dòng)到主動(dòng)，AI治理的雙重驅(qū)動(dòng) 29打造“三位一體”AI安全防護(hù)網(wǎng) 29智能安全產(chǎn)品筑牢可信AI護(hù)墻 30典型案例3：AI全周期治理，助力企業(yè)安全平穩(wěn)提效 31企業(yè)投身AI治理的多重考量 31企業(yè)應(yīng)對(duì)大模型治理的創(chuàng)新舉措 31AI治理實(shí)踐，數(shù)據(jù)服務(wù)領(lǐng)域的新高度與新突破 32第四章未來展望 34附錄 362025全球可信AI治理與數(shù)據(jù)安全報(bào)告全球人工智能發(fā)展與治理現(xiàn)狀THECURRENTSTATUSOFGLOBALARTIFICIALINTELLIGENCEDEVELOPMENTANDGOVERNANCE從機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、自然語言處理到人機(jī)交互，人工智能（ArtificialIntelligence，AI）的本質(zhì)是對(duì)人類智能的一種模擬、延伸和擴(kuò)展。根據(jù)心理學(xué)家霍華德·加德納（HowardGardner）的多元智能理論，個(gè)體具備不同程度人際關(guān)系、自省、自然智能等，而人工智能正在依托龐大的增長極。IAI呈現(xiàn)出在波動(dòng)中持續(xù)發(fā)展的特征。從圖靈測(cè)試奠定人工智能發(fā)展基石，人工智能成為一門獨(dú)立學(xué)科，卻因技術(shù)瓶頸與時(shí)代局限造成人工智能發(fā)展困境，到深度學(xué)習(xí)與算法革新帶動(dòng)C代人工智能技術(shù)推動(dòng)”進(jìn)入應(yīng)用爆發(fā)期。人工智能已然深刻融入生產(chǎn)、生活的方方面面。面對(duì)技術(shù)快速發(fā)展帶來的風(fēng)險(xiǎn)挑戰(zhàn)，全球主要國家和地區(qū)基本形成I理道德、法律及可靠性等多個(gè)維度，規(guī)范技術(shù)開發(fā)、部署和應(yīng)用，確保負(fù)責(zé)任的人工智能實(shí)踐。同時(shí)，通過國際合作、AI

Chapter101全球人工智能發(fā)展與治理現(xiàn)狀01I1.1主要國家及地區(qū)的人工智能發(fā)展格局1.1主要國家及地區(qū)的人工智能發(fā)展格局目前，全球人工智能發(fā)展呈現(xiàn)出“中美雙極主導(dǎo)，多強(qiáng)梯隊(duì)跟進(jìn)”的分層競爭格局。美國憑借強(qiáng)大的基礎(chǔ)研究能力和完善的產(chǎn)業(yè)生態(tài)系統(tǒng)，持續(xù)占據(jù)領(lǐng)先地位，中國通過龐大的應(yīng)用場景實(shí)現(xiàn)并行發(fā)展，歐盟、日韓等經(jīng)濟(jì)體則在細(xì)分領(lǐng)域保持競爭力。規(guī)則輸出”的發(fā)展戰(zhàn)略歐盟一直在促進(jìn)人工智能產(chǎn)業(yè)進(jìn)展，不僅將人工智能提升到戰(zhàn)略地位，還通過政策引導(dǎo)、成員國協(xié)同合作以及對(duì)人工智能倫理、監(jiān)管、人才培養(yǎng)、基礎(chǔ)設(shè)施建設(shè)等多方面的綜合考量，提高地區(qū)人工智能競爭力。2018425此后，歐盟接連發(fā)布幾個(gè)重要的政策文件，包括20181220202的歐洲路徑》，20214202120254旨在通過建設(shè)大規(guī)模人工智能計(jì)算基礎(chǔ)設(shè)施、改善數(shù)據(jù)獲取質(zhì)量、加速人工智能在戰(zhàn)略領(lǐng)域的應(yīng)用、強(qiáng)化人才儲(chǔ)備、促進(jìn)監(jiān)管合規(guī)與簡化，推動(dòng)歐盟成為人工智能方面的全球領(lǐng)導(dǎo)者。以人工智能辦公室為主的組織架構(gòu)。為促進(jìn)人工智能未來發(fā)展、部署和使用，歐盟委員會(huì)于20245AIAIAIAI5AI的開發(fā)與應(yīng)用，促進(jìn)國際合作。推動(dòng)以標(biāo)準(zhǔn)建設(shè)為核心的規(guī)則輸出。歐盟憑借“布魯塞爾效應(yīng)”，制定具有引導(dǎo)性的監(jiān)管標(biāo)準(zhǔn)，引導(dǎo)國際企業(yè)主動(dòng)采用其規(guī)則體系，從而擴(kuò)大自身在全球治理領(lǐng)域的影響力。美國不斷加強(qiáng)在人工智能領(lǐng)域的戰(zhàn)略部署和標(biāo)準(zhǔn)制定，通過建立動(dòng)態(tài)的政策體系、創(chuàng)新多元的協(xié)

構(gòu)建政策框架，促進(jìn)多方合作。自2021年1月頒布《2020年國家人工智能倡議法案》以來，美國陸續(xù)推出多項(xiàng)重要政策，包括2022年公布的《人工智能權(quán)利法案藍(lán)圖》，明確指導(dǎo)自動(dòng)化系統(tǒng)設(shè)計(jì)、使用及部署過程；2023智能研究與發(fā)展戰(zhàn)略計(jì)劃》提出九項(xiàng)核心戰(zhàn)略，涉及長期投資、技術(shù)創(chuàng)新、國際合作等多個(gè)維度；同推動(dòng)人工智能在基礎(chǔ)設(shè)施、政策制定、治理等領(lǐng)域的全面進(jìn)步與應(yīng)用，促進(jìn)美國人工智能產(chǎn)業(yè)發(fā)展。20257AIAI14179AIAIAI902.0AI。2018立的“人工智能特別委員會(huì)”，負(fù)責(zé)統(tǒng)籌和協(xié)調(diào)聯(lián)邦機(jī)構(gòu)在人工智能的研發(fā)、示范、教育以及勞動(dòng)力培訓(xùn)等領(lǐng)域的合作。2021年設(shè)立國家人工智能計(jì)劃辦公室，負(fù)責(zé)監(jiān)督和實(shí)施國家人工智能戰(zhàn)略，進(jìn)一步AI研發(fā)與政策制定中的協(xié)同合作。搭建風(fēng)險(xiǎn)導(dǎo)向，靈活適用的標(biāo)準(zhǔn)框架。美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）發(fā)布的《人工智能風(fēng)的實(shí)施策略，為人工智能全生命周期管理提供靈活的風(fēng)險(xiǎn)評(píng)估工具。作為一項(xiàng)非強(qiáng)制性指導(dǎo)文件，適AI僅為產(chǎn)業(yè)實(shí)踐提供規(guī)范性指導(dǎo)，還避免剛性約束對(duì)技術(shù)創(chuàng)新的潛在限制。場景賦能”的發(fā)展路徑中國持續(xù)推動(dòng)人工智能技術(shù)創(chuàng)新和產(chǎn)業(yè)升級(jí)，通過系統(tǒng)性政策引導(dǎo)、產(chǎn)學(xué)研協(xié)同創(chuàng)新，以及在技中國在全球人工智能領(lǐng)域的核心競爭力得到全面提升。強(qiáng)化頂層設(shè)計(jì)，引領(lǐng)產(chǎn)業(yè)縱深發(fā)展2017年發(fā)布《新一代人工智能發(fā)展規(guī)劃》以來，中國通過系統(tǒng)性的國家層面頂層設(shè)計(jì)以及多輪政策演進(jìn)，明確了從“加速研發(fā)轉(zhuǎn)化”到“強(qiáng)化應(yīng)用”再到“人工智賦能實(shí)體經(jīng)濟(jì)”的發(fā)展路徑。20258月，國“人工智能+從系統(tǒng)層面將人工智能明確界定為“新質(zhì)生產(chǎn)力”的核心要素，創(chuàng)新性地提出了“以應(yīng)用為牽引、基礎(chǔ)為支撐”的“6×8”發(fā)展框架。AI技術(shù)研發(fā)轉(zhuǎn)向深度賦能實(shí)體經(jīng)濟(jì)，從戰(zhàn)略規(guī)劃邁向深度應(yīng)用，為中國人工智能產(chǎn)業(yè)發(fā)展奠定了基礎(chǔ)。健全兩級(jí)體系，協(xié)同推進(jìn)創(chuàng)新發(fā)展。為引導(dǎo)人AI理體系。中央層面，網(wǎng)信辦、工信部、發(fā)改委等部AI（如北京、上海）和國家級(jí)開放創(chuàng)新平臺(tái)，探尋差異化的實(shí)施路徑。推進(jìn)技術(shù)、倫理并重的標(biāo)準(zhǔn)建設(shè)。自2020年以來，中國相繼發(fā)布《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》《國家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南》以及一系列覆蓋倫理、安全、應(yīng)用等領(lǐng)域的行業(yè)性國家規(guī)章，彰顯技術(shù)與規(guī)范并重的治理理念，著力構(gòu)建開放、公正、有效的治理機(jī)制，推動(dòng)人工智能產(chǎn)業(yè)健康有序發(fā)展。政策驅(qū)動(dòng)”的發(fā)展模式通過國家戰(zhàn)略與政策法規(guī)推動(dòng)技術(shù)創(chuàng)新，但在監(jiān)管框架、組織架構(gòu)和發(fā)展重點(diǎn)上也有明顯差異。韓國“嚴(yán)格監(jiān)管”的模式，日本則更傾向行業(yè)自律”的路徑。

。2016AIAI戰(zhàn)略》系列文件，不斷強(qiáng)調(diào)技術(shù)創(chuàng)新與社會(huì)應(yīng)用。20255月，日本參議院通過《AI相關(guān)技術(shù)研發(fā)及應(yīng)用促進(jìn)法》，采取柔性立法方式，避免過度監(jiān)201912國家戰(zhàn)略》，提出從“T”發(fā)展為“AI”的目標(biāo)，并陸續(xù)出臺(tái)《人工智能半導(dǎo)體產(chǎn)業(yè)發(fā)展戰(zhàn)略》《國家人工智能倫理標(biāo)準(zhǔn)》等配套政策。202412二個(gè)通過綜合性AIAI20258韓國發(fā)布了作為未來五年經(jīng)濟(jì)發(fā)展藍(lán)圖的“新政府經(jīng)濟(jì)增長戰(zhàn)略”，以企業(yè)主導(dǎo)、政府支持的模式大力推動(dòng)人工智能及超級(jí)創(chuàng)新產(chǎn)業(yè)的發(fā)展，推進(jìn)“人工智能大轉(zhuǎn)型”事業(yè)，將人工智能融入企業(yè)、公共服務(wù)等各個(gè)領(lǐng)域。建立分級(jí)負(fù)責(zé)、專業(yè)協(xié)同的組織體系。日本以人工智能戰(zhàn)略本部，負(fù)責(zé)統(tǒng)籌管理人工智能技術(shù)研發(fā)、應(yīng)用推進(jìn)策略規(guī)劃與綜合協(xié)調(diào)，保障政策一致性和執(zhí)行力；韓國設(shè)立國家人工智能委員會(huì)、人工智能政策中心和人工智能安全研究所。國家人工智能委員會(huì)直屬總統(tǒng)，負(fù)責(zé)審議、決策核心政策。另兩個(gè)部門隸屬于科技通信部，負(fù)責(zé)資源整合、標(biāo)準(zhǔn)制定及風(fēng)險(xiǎn)監(jiān)控管理。推進(jìn)以人為本的標(biāo)準(zhǔn)化體系。日本《以人為中AI等核心準(zhǔn)則，構(gòu)建了監(jiān)管法規(guī)、監(jiān)管指南兩類治理政策，以此管控風(fēng)險(xiǎn)并推動(dòng)應(yīng)用；韓國遵循《首爾1.2人工智能治理關(guān)鍵議題1.2人工智能治理關(guān)鍵議題人工智能的迅猛發(fā)展與全球治理體系的演進(jìn)緊密相關(guān)。當(dāng)前，人工智能的全球治理呈現(xiàn)出兩條并行的路徑。其一為聯(lián)合國框架，該路徑以人權(quán)和可持續(xù)發(fā)展為指引，構(gòu)建起以透明度、數(shù)據(jù)安全、倫此路徑貫穿從基礎(chǔ)設(shè)施、數(shù)據(jù)使用到產(chǎn)品應(yīng)用的整個(gè)生命周期。這兩條路徑分別從“為何治理”與“如何治理”的維度，共同構(gòu)成了完整的治理范式。下文將對(duì)治理實(shí)踐中的關(guān)鍵挑戰(zhàn)展開系統(tǒng)分析。（1）人工智能治理的關(guān)鍵問題從數(shù)據(jù)安全、知識(shí)產(chǎn)權(quán)到科技倫理，人工智能治理面臨的挑戰(zhàn)相互交織、彼此加劇。與此同時(shí)，人工智能技術(shù)具有自主演進(jìn)的特性，致使其在發(fā)展

過程中不斷涌現(xiàn)出諸多問題。數(shù)據(jù)安全問題：數(shù)據(jù)安全問題貫穿人工智能數(shù)據(jù)應(yīng)用的全生命周期，數(shù)據(jù)采集、模型訓(xùn)練、用戶AI在數(shù)據(jù)采集階段，存在過度收集、非法爬取等數(shù)據(jù)對(duì)抗樣本攻擊等安全威脅。針對(duì)數(shù)據(jù)源和模型潛在漏洞，攻擊者通過植入惡意程序，會(huì)引發(fā)隱私數(shù)據(jù)用戶發(fā)起的查詢（包含內(nèi)部商業(yè)機(jī)密或個(gè)人隱私信息這也存在隱私信息泄露的安全風(fēng)險(xiǎn)。案例一案例一20256CylabAI言模型（LLM）性能下降或行為異常。案例二2025年1月，國內(nèi)某大模型公司的一個(gè)可公開訪問的數(shù)據(jù)庫被暴露，該數(shù)據(jù)庫包含案例二20233，OpenAIChatGPTOpenAI暫時(shí)關(guān)閉ChatGPT以解決安全問題?？萍紓惱韱栴}：人工智能借助模仿人類的交互方式，達(dá)成技術(shù)層面的“類人化”，從而引發(fā)關(guān)于人在決策過程中，AI中立性的表象之下，其隱蔽特性讓識(shí)別與糾正工作

隨著人工智能自主性的持續(xù)增強(qiáng)，傳統(tǒng)的責(zé)任歸屬框架逐漸難以適配。當(dāng)人工智能作出錯(cuò)誤決策時(shí)，開發(fā)者、運(yùn)營者和使用者之間的責(zé)任界限缺乏清晰明確的劃分標(biāo)準(zhǔn)。案例一案例一2022年6月，一家美國科技巨頭就其廣告AI算法涉嫌歧視一案，與美國司法部達(dá)成和解。該公司被裁定停止使用包含“歧視性算法”的住房廣告推薦工具，并繳納115054美元罰款。案例二20238聘者的AI算法，違反平等就業(yè)原則，最終被判支付36.5萬美元賠償金。知識(shí)產(chǎn)權(quán)問題：人工智能大模型訓(xùn)練數(shù)據(jù)的侵權(quán)問題，以及生成內(nèi)容知識(shí)產(chǎn)權(quán)的界定工作，面臨著諸多嚴(yán)峻挑戰(zhàn)。在模型訓(xùn)練過程中，若采用的數(shù)AI作品高度相似、具有明顯模仿特征的內(nèi)容，嚴(yán)重?fù)p害原創(chuàng)者的權(quán)益，違背知識(shí)產(chǎn)權(quán)保護(hù)原則。從生成

內(nèi)容來看，現(xiàn)行著作權(quán)法中的“獨(dú)創(chuàng)性”標(biāo)準(zhǔn)難以與AIAI的原創(chuàng)性，導(dǎo)致生成內(nèi)容的權(quán)屬界定面臨較大不確定性，且缺乏統(tǒng)一的判定標(biāo)準(zhǔn)，給知識(shí)產(chǎn)權(quán)保護(hù)帶來全新挑戰(zhàn)。案例一案例一20243版權(quán)指令，被處以2.5億歐元的罰款。案例二20251I并索賠約10萬元人民幣。案例三32I法院判定，林某對(duì)圖片的設(shè)計(jì)、修改有著獨(dú)特的選擇與安排，生成圖具有獨(dú)創(chuàng)性，屬于《著作權(quán)法》保護(hù)的作品，遂判決該公司賠償經(jīng)濟(jì)損失及合理費(fèi)用共計(jì)1萬元。（2）基于產(chǎn)業(yè)鏈視角的治理問題（基礎(chǔ)層標(biāo)注標(biāo)準(zhǔn)不統(tǒng)一以及來源的合法合規(guī)性等問題，均影響AI公平性和可靠性造成威脅。算法的不透明和非公開性引發(fā)“算法黑箱”現(xiàn)象。標(biāo)準(zhǔn)化交互規(guī)則以及IAI成本和系統(tǒng)穩(wěn)定性的限制，系統(tǒng)間的協(xié)作障礙也愈AI（平臺(tái)層AIAIAI責(zé)任劃分難題。在實(shí)際應(yīng)用中，鑒于各主體承擔(dān)著不同的責(zé)任與義務(wù)，致使一方主體的內(nèi)部治理僅能發(fā)揮部分作用，仍需借助上下游協(xié)作來解決整體風(fēng)或因模型精調(diào)引入新的風(fēng)險(xiǎn)，且難以與基礎(chǔ)模型的AI產(chǎn)業(yè)鏈下游（應(yīng)用層）。在企業(yè)應(yīng)用人工智能AI業(yè)務(wù)效能提升等情況。結(jié)合不同場景來看，企業(yè)迫切需要解決傳統(tǒng)數(shù)據(jù)架構(gòu)兼容性欠佳、AI規(guī)范滯后等問題。在個(gè)體應(yīng)用人工智能的場景中，主要涉及個(gè)人基于生成式人工智能開展內(nèi)容創(chuàng)作與傳播，進(jìn)而會(huì)引發(fā)虛假信息傳播、知識(shí)產(chǎn)權(quán)侵權(quán)等AI行業(yè)應(yīng)用時(shí)，由于不同行業(yè)在技術(shù)應(yīng)用規(guī)范和安全

標(biāo)準(zhǔn)上存在差異，也可能導(dǎo)致合規(guī)沖突。（3）地緣政治引發(fā)的供應(yīng)鏈問題人工智能作為國家戰(zhàn)略性技術(shù)和關(guān)鍵科技產(chǎn)業(yè)方向，其發(fā)展既影響國際地緣政治態(tài)勢(shì)，也深受國際地緣政治的影響。在人工智能創(chuàng)新方面領(lǐng)先的國家將擁有顯著的發(fā)展優(yōu)勢(shì)，而霸權(quán)國家則把人工智能關(guān)鍵技術(shù)和工具當(dāng)作博弈的武器。受此影響，人工智能領(lǐng)域面臨制裁風(fēng)險(xiǎn)、斷供脫鉤風(fēng)險(xiǎn)等諸多潛在隱患，關(guān)鍵算力芯片、算法框架、訓(xùn)練數(shù)據(jù)與云AI遭到?jīng)_擊，企業(yè)在高端技術(shù)和底層能力的持續(xù)投入受到嚴(yán)重干擾。制裁風(fēng)險(xiǎn)：部分國家借助多層次的制裁手段，試圖重塑全球產(chǎn)業(yè)格局。一方面，對(duì)大模型架構(gòu)、算法創(chuàng)新等核心技術(shù)進(jìn)行管制，限制技術(shù)交流和高端人才流動(dòng)（例如限制跨國科研合作項(xiàng)目），阻斷知識(shí)共享和創(chuàng)新能力在全球范圍內(nèi)的擴(kuò)散。另一方面，通過長臂管轄對(duì)外國企業(yè)投資進(jìn)行審查，強(qiáng)行重組人工智能產(chǎn)業(yè)鏈生態(tài)，破壞全球技術(shù)研發(fā)的連續(xù)性和協(xié)同性，加劇技術(shù)鴻溝。斷供脫鉤：部分國家憑借在關(guān)鍵核心技術(shù)上的優(yōu)勢(shì)，頻繁運(yùn)用出口管制、分級(jí)管控以及貿(mào)易禁運(yùn)等強(qiáng)硬手段，對(duì)敵對(duì)國家進(jìn)行打壓，嚴(yán)禁芯片等關(guān)AI格禁止向這些國家轉(zhuǎn)移，造成事實(shí)上的產(chǎn)業(yè)脫鉤，擾亂全球人工智能產(chǎn)業(yè)的正常發(fā)展秩序，阻礙技術(shù)交流與合作，進(jìn)一步加劇地緣政治博弈在科技領(lǐng)域的外溢效應(yīng)。1.3人工智能的監(jiān)管框架1.3人工智能的監(jiān)管框架鑒于人工智能技術(shù)發(fā)展迅猛，且其發(fā)展方向難以精準(zhǔn)預(yù)測(cè)，人工智能潛藏的一系列安全問題對(duì)社會(huì)發(fā)展和國家安全構(gòu)成了不容小覷的威脅，各國紛紛著手構(gòu)建人工智能監(jiān)管治理框架。（1）歐盟：以風(fēng)險(xiǎn)分級(jí)為核心，統(tǒng)一立法的監(jiān)管模式歐盟在人工智能安全與技術(shù)創(chuàng)新的平衡中更傾向于安全治理，以《人工智能法案》為指引，推行2016從民事法律層面為基于人工智能控制的機(jī)器人制定相應(yīng)的權(quán)利與義務(wù)規(guī)則。2018工智能助力歐洲》《關(guān)于人工智能——卓越與信任AI的同時(shí)，確立適宜的道德和法律框架。2019盟發(fā)布的《可信人工智能倫理指南》和《算法責(zé)任與透明治理框架》，構(gòu)建起人工智能的倫理和法律20248AII法案著重強(qiáng)調(diào)安全AI。為協(xié)調(diào)各成員國的執(zhí)法工作，人工智能辦公室將對(duì)27專業(yè)指導(dǎo)和知識(shí)支持。由此可見，歐盟在各成員國近年來，歐盟圍繞數(shù)據(jù)治理相繼發(fā)布了《數(shù)字服務(wù)

法案》《數(shù)字市場法案》《數(shù)據(jù)治理法案》，旨在規(guī)范歐洲的數(shù)據(jù)利用和流轉(zhuǎn)制度，防范算法自動(dòng)化《人工智能法案》共同構(gòu)成了歐盟數(shù)據(jù)戰(zhàn)略與人工智能框架下的重要監(jiān)管規(guī)則。同時(shí)，歐盟數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)嚴(yán)格限制互聯(lián)網(wǎng)企業(yè)利用個(gè)人數(shù)據(jù)開展算法訓(xùn)練、模型訓(xùn)練，在企業(yè)使用個(gè)人數(shù)據(jù)進(jìn)行訓(xùn)練以及針對(duì)超大在線平臺(tái)的執(zhí)法活動(dòng)方面，歐盟也走20257能行為準(zhǔn)則》為例，作為《人工智能法案》的配套補(bǔ)充文件，為通用人工智能模型提供透明度、版權(quán)以及安全與保障三方面的自律指引。該準(zhǔn)則要求大模型提供商提供技術(shù)架構(gòu)、訓(xùn)練數(shù)據(jù)來源等關(guān)鍵信息，明確對(duì)創(chuàng)作者的版權(quán)保護(hù)，并針對(duì)最先進(jìn)的系統(tǒng)開展獨(dú)立風(fēng)險(xiǎn)評(píng)估等工作?？傮w而言，歐盟在人工智能監(jiān)管方面整體持審慎態(tài)度，著重強(qiáng)調(diào)安全治理優(yōu)先。盡管這種嚴(yán)格的監(jiān)管機(jī)制保障了安全性和透明度，但也引發(fā)關(guān)于合規(guī)成本過高以及可能阻礙創(chuàng)新的爭議，各成員國在企業(yè)自律與政府監(jiān)管之間展開激烈博弈。近期，歐盟委員會(huì)的監(jiān)管政策呈現(xiàn)出促進(jìn)人工智能創(chuàng)新與發(fā)展的趨勢(shì)。例如，20254月發(fā)布的《人工智能工智能法案》相關(guān)程序，降低企業(yè)合規(guī)難度，借此強(qiáng)調(diào)“監(jiān)管松綁”以減輕企業(yè)負(fù)擔(dān)，進(jìn)而提升歐盟在全球人工智能競爭中的地位。美國構(gòu)建了聯(lián)邦與州相互協(xié)同的雙軌規(guī)范架構(gòu)，借助分散式立法、行政指引等方式，共同搭建起動(dòng)態(tài)的人工智能監(jiān)管治理體系，呈現(xiàn)出聯(lián)邦與州層面分散化、自愿性的監(jiān)管特征。聯(lián)邦層面，20254月，美國國會(huì)眾議院通過的《刪除未經(jīng)同意影像法案》。該法案將未經(jīng)同意“故意或威脅”傳播AI定義為刑事犯罪。表面上，此法案是為處理隱私和色情剝削問題，本質(zhì)上則是聯(lián)邦層級(jí)首次針對(duì)生成式人工智能濫用行為的專門立法。在美國不同總統(tǒng)執(zhí)政時(shí)期，對(duì)于人工智能監(jiān)管的態(tài)度存在一定波動(dòng)。與拜登政府主張強(qiáng)化監(jiān)管、著重隱私保護(hù)不同，特朗普政府更傾向于放寬對(duì)該20192特朗普簽署了《維護(hù)美國人工智能領(lǐng)先地位》行政命令，提出要降低人工智能技術(shù)應(yīng)用的障礙，同時(shí)隱私與價(jià)值得到保護(hù)的前提下，積極推動(dòng)人工智能的創(chuàng)新應(yīng)用。20國人工智能領(lǐng)導(dǎo)地位的障礙》行政命令，廢止了拜AI降低企業(yè)合規(guī)成本，優(yōu)先運(yùn)用最小化監(jiān)管手段鞏固美國在全球人工智能技術(shù)競爭中的優(yōu)勢(shì)。此外，特朗普政府曾多次主張去“監(jiān)管化”，嘗試從法規(guī)層面禁止各州對(duì)人工智能進(jìn)行監(jiān)管。在其提出的大而美法案（OneBigBeautifulBillAct）中，包含一項(xiàng)禁止各州在未來十年內(nèi)對(duì)人工智能實(shí)施監(jiān)管的條款，該法案提議在未來十年實(shí)行“州級(jí)人工智能監(jiān)管凍結(jié)期”。不過，經(jīng)最終博弈后，州級(jí)人工智能立法權(quán)限得以保留。在州級(jí)層面，州政府通常會(huì)先于聯(lián)邦政府做出反應(yīng)。過去五年間，近三十個(gè)州通過了數(shù)十項(xiàng)地方立法。例如，2024年科羅拉多州頒布了綜合性監(jiān)管法案——《科羅拉多州人工智能法》。該法案借鑒了歐盟人工智能法案的理念，對(duì)“高風(fēng)險(xiǎn)人工智能系統(tǒng)”實(shí)施特別規(guī)制，將就業(yè)、信貸、教育等關(guān)鍵決策場景納入監(jiān)管范圍。

此外，各州立法的關(guān)注點(diǎn)存在差異，針對(duì)人工智能技術(shù)應(yīng)用程度較深的特定場景開展了廣泛的立法實(shí)踐。比如，2024年田納西州頒布的《確保相似聲音和圖像安全法案》要求，未經(jīng)許可不得使用人工智能模仿藝術(shù)家的聲音，以防止音頻深度偽造和聲音克隆，這體現(xiàn)出對(duì)人工智能技術(shù)在特定領(lǐng)域可能引發(fā)侵權(quán)問題的關(guān)注。2019年伊利諾伊州頒布的《人工智能視頻面試法案》規(guī)定，企業(yè)在使用人工智能面試應(yīng)聘者時(shí)，應(yīng)審查其是否履行告知同意、限制共享、響應(yīng)刪除權(quán)等合規(guī)義務(wù)?？傮w而言，美國聯(lián)邦與州雙軌并行的弱監(jiān)管框架更注重行業(yè)自律，呈現(xiàn)出在發(fā)展中尋求安全的監(jiān)管特征。鼓勵(lì)行業(yè)自治的特點(diǎn)源自發(fā)展導(dǎo)向的政策主要依靠行政命令等“軟法”進(jìn)行治理。同時(shí)，各州的監(jiān)管力度和重點(diǎn)差異明顯，雖然在一定程度上填補(bǔ)了監(jiān)管空白，但靈活的監(jiān)管在促進(jìn)創(chuàng)新的同時(shí)，部分監(jiān)管空白也可能加劇算法偏見、深度偽造濫用等倫理風(fēng)險(xiǎn)。此外，技術(shù)封鎖與國內(nèi)松綁并行的策AI中國：國家—行業(yè)—地方三級(jí)治理，統(tǒng)籌發(fā)展和安全中國在人工智能治理領(lǐng)域已構(gòu)建起以“發(fā)展+安全”為核心的雙輪驅(qū)動(dòng)體系，形成由國家規(guī)劃、行業(yè)規(guī)范、地方配套所組成的三級(jí)監(jiān)管治理架構(gòu)。其特點(diǎn)為政策引導(dǎo)清晰明確、分層實(shí)施井然有序、動(dòng)態(tài)優(yōu)化靈活高效。2017年，國務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》提出“三步走”2020建”025“初步構(gòu)建人工智能法律法規(guī)、倫理規(guī)范與政策體系2030“建成更為完善的人工智能法律法規(guī)、倫理規(guī)范與政策體系”。人工智能的法律法規(guī)與倫理規(guī)范作為保障人工智能發(fā)展的措施，在《規(guī)劃》中得以確認(rèn)。我國在人工智能領(lǐng)域的法律規(guī)制工作正穩(wěn)步推進(jìn)。作為整體規(guī)制的基礎(chǔ)性法律，《人工智能法》草案已被列入國務(wù)院2023年立法工作計(jì)劃。盡管目前統(tǒng)一的人工智能立法尚未出臺(tái)，但我國已將人工智能安全發(fā)展的相關(guān)原則融入《中華人民共和國個(gè)人信息保護(hù)法》等現(xiàn)行法律中，還針對(duì)生成式人工智能、深度合成、AI生成內(nèi)容等應(yīng)用場景出臺(tái)專門的部門規(guī)章。這些舉措為人工智能的安全發(fā)展提供及時(shí)的法律依據(jù)和回應(yīng)，彰顯了動(dòng)態(tài)優(yōu)化、靈活調(diào)整的特點(diǎn)。在缺乏統(tǒng)一法律規(guī)范的階段，我國針對(duì)重點(diǎn)領(lǐng)以此推進(jìn)人工智能安全治理，填補(bǔ)監(jiān)管空白。針對(duì)算法推薦服務(wù)，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局202112推薦管理規(guī)定》。該規(guī)定明確了算法推薦服務(wù)提供者的信息服務(wù)規(guī)范以及用戶權(quán)益保護(hù)要求，同時(shí)要求具備輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者履行備案義務(wù)。針對(duì)信息服務(wù)與輿論傳播場景，202211月發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確要求，具備輿論屬性或者社會(huì)動(dòng)員能力的深度合成服務(wù)提供者需履行備案以及變更、注銷備案的相關(guān)手續(xù)。針對(duì)生成式人工智能應(yīng)用場景，20237月，《生成式人工智能服務(wù)管理暫行辦法》發(fā)布，該辦法著重強(qiáng)調(diào)了生成式人工智能服務(wù)提供者的法律責(zé)任與義務(wù)。20259生效的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》對(duì)人工“隱式標(biāo)識(shí)”AI追蹤、責(zé)任劃分等方面的治理難題。除上述重點(diǎn)文件外，在自動(dòng)駕駛領(lǐng)域，有《智

能網(wǎng)聯(lián)汽車道路測(cè)試管理規(guī)范（試行）》《智能網(wǎng)聯(lián)汽車道路測(cè)試與示范應(yīng)用管理規(guī)范》等規(guī)定；在智慧醫(yī)療領(lǐng)域，有《人工智能醫(yī)療器械注冊(cè)審查指導(dǎo)原則》《人工智能輔助診斷技術(shù)管理規(guī)范》《人工智能輔助治療技術(shù)管理規(guī)范》等。此外，以《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》為代表的地方立法也取得了積極成效。除提出促進(jìn)人工智能產(chǎn)業(yè)發(fā)展的各項(xiàng)政策措施，我國還對(duì)人工智能安全治理展開探索。例如，在地方政府層面設(shè)立人工智能倫理委員會(huì)；實(shí)施分級(jí)監(jiān)管，明確禁止類人工智能清單，針對(duì)高風(fēng)險(xiǎn)場景要求開展事前評(píng)估與風(fēng)險(xiǎn)預(yù)警，對(duì)于中低風(fēng)險(xiǎn)場景則要求進(jìn)行事前披露和事后跟蹤；對(duì)于從事人工智能研究和應(yīng)用的企業(yè)與個(gè)人，要求其遵守倫理安全規(guī)范，并開展倫理安全規(guī)范審查和風(fēng)險(xiǎn)評(píng)估等。同時(shí)，我國將算法備案與大模型備案作為監(jiān)管的切入點(diǎn)。針對(duì)具有輿論屬性和社會(huì)動(dòng)員能力的生成式人工智能服務(wù)，我國已構(gòu)建算法備案與大模型2025310346成式人工智能服務(wù)在國家網(wǎng)信辦完成備案。對(duì)于通API生成式人工智能應(yīng)用或功能，共有159信辦完成登記?？傮w而言，我國已形成由國家規(guī)劃、行業(yè)規(guī)范、地方配套組成的三級(jí)監(jiān)管治理架構(gòu)。同時(shí)，現(xiàn)有的監(jiān)管政策文件表明，我國在人工智能治理方面始終秉持安全與發(fā)展并行的理念，以安全為底線，為人工智能產(chǎn)業(yè)的發(fā)展保駕護(hù)航。(4)日韓：“軟硬結(jié)合+協(xié)同治理”的監(jiān)管框架日本和韓國在人工智能監(jiān)管領(lǐng)域各有特色，通過軟硬法律工具相結(jié)合的方式以及跨部門協(xié)同治理模式，為人工智能產(chǎn)業(yè)的發(fā)展提供了清晰且明確的規(guī)范與指引。日本主要通過非約束性的指導(dǎo)原則和行業(yè)標(biāo)準(zhǔn)20177工智能研發(fā)指南》（草案）；20193月，發(fā)布《以人為本的人工智能社會(huì)原則》，著重強(qiáng)調(diào)人工4月，整合相關(guān)指南后，發(fā)布《商業(yè)人工1.0例如，2243I制定方式靈活，內(nèi)容針對(duì)性強(qiáng)。不過，這種寬松的監(jiān)管方式也引發(fā)人們對(duì)隱私和安全保障不足的憂慮。韓國主要依靠自愿性指導(dǎo)方針、基于倫理道德的準(zhǔn)則，以及對(duì)特定行業(yè)立法的修訂完善來對(duì)人工智能實(shí)施監(jiān)管。202011月，韓國推出《以人為20239

2024確立了發(fā)展優(yōu)先、精準(zhǔn)防控的立法導(dǎo)向，采用“負(fù)面清單”管理模式，為創(chuàng)新發(fā)展預(yù)留空間。韓國走出了積極推進(jìn)立法實(shí)踐，構(gòu)建起綜合性的人工智能法律體系。總體而言，日本和韓國在人工智能監(jiān)管框架方面呈現(xiàn)出“軟硬結(jié)合+協(xié)同治理”的特征。日本主要遵循非約束性的指導(dǎo)原則與指針，具有鮮明的軟法特性，憑借靈活的制定方式和周期，對(duì)人工智能技術(shù)的快速發(fā)展及時(shí)作出響應(yīng)。韓國則采取“軟法先行、硬法固本、行業(yè)協(xié)同”的路徑，前期借助倫理準(zhǔn)則與戰(zhàn)略指南劃定道德界限，后期積極推進(jìn)立法實(shí)踐，構(gòu)建起綜合性的人工智能法律體系。兩國在推動(dòng)人工智能創(chuàng)新發(fā)展的同時(shí)，都注重對(duì)人工智能技術(shù)的安全性和倫理風(fēng)險(xiǎn)實(shí)施監(jiān)管。2025全球可信AI治理與數(shù)據(jù)安全報(bào)告RESEARCHONTHECURRENTSTATUSOFTRUSTWORTHYARTIFICIALINTELLIGENCEGOVERNANCEANDAPPLICATION人工智能技術(shù)正以驚人的速度發(fā)展，企業(yè)應(yīng)用人工智能提速增效已是大勢(shì)所趨。如何建設(shè)可信人工智能以應(yīng)對(duì)潛在風(fēng)險(xiǎn)，是企業(yè)放心使用人工智能202536I部門的負(fù)責(zé)人發(fā)放調(diào)查問卷，以了解和分析企業(yè)可信人工智能治理的現(xiàn)狀和趨勢(shì)。調(diào)研企業(yè)的具體情

02Chapter2可信人工智能治理與應(yīng)用現(xiàn)狀調(diào)研2.1人工智能的應(yīng)用與治理現(xiàn)狀當(dāng)前企業(yè)人工智能治理呈現(xiàn)“高探索、低成熟”的特征，大多數(shù)企業(yè)對(duì)于人工智能的應(yīng)用和治理尚處于初級(jí)階段，技術(shù)應(yīng)用集中于簡單工作的效率提升場景，對(duì)核心業(yè)務(wù)的賦能不足，且對(duì)外部模型依賴性強(qiáng)，多采用外部廠商SaaS服務(wù)。2.1人工智能的應(yīng)用與治理現(xiàn)狀

（1）企業(yè)人工智能戰(zhàn)略規(guī)劃情況通過調(diào)研發(fā)現(xiàn)，大部分企業(yè)已啟動(dòng)了人工智能12%82的企業(yè)處于規(guī)劃中或已初步定義，這說明了人工智能對(duì)于企業(yè)高質(zhì)量發(fā)展的重要性已成為一個(gè)共識(shí)。已定義了明確的人工智能目標(biāo)與戰(zhàn)略，且實(shí)施規(guī)劃穩(wěn)步推進(jìn)中處于規(guī)劃階段

已初步定義了人工智能目標(biāo)與戰(zhàn)略，并制定了實(shí)施規(guī)劃

正在探索與規(guī)劃中，并已進(jìn)行了部分用例試驗(yàn)

未啟動(dòng)人工智能相關(guān)工作

不確定圖1人工智能戰(zhàn)略與執(zhí)行進(jìn)度統(tǒng)計(jì)43%35%的企業(yè)至今未對(duì)企業(yè)人工智能相關(guān)落地工作的團(tuán)隊(duì)與職責(zé)進(jìn)行定義。在人工智能治理模式的選擇上，近50的企業(yè)傾向于選擇混合式治理模式AIAIAI企業(yè)的主流選擇。圖2人工智能治理與運(yùn)營模式統(tǒng)計(jì) 模式

各業(yè)務(wù)部門進(jìn)行獨(dú)立的AI的探索、開發(fā)部署、運(yùn)營與治理具有集中式的AI卓越中心，統(tǒng)一治理與交付運(yùn)營AIAI圖3人工智能治理不同模式示圖（2）企業(yè)人工智能技術(shù)應(yīng)用場景分布情況，但在供應(yīng)鏈優(yōu)化、智能制造、人員招聘、風(fēng)險(xiǎn)合規(guī)管理和財(cái)務(wù)管理等復(fù)雜場景中技術(shù)滲透相對(duì)緩慢，反映出企業(yè)在不同業(yè)務(wù)環(huán)節(jié)中AI圖4人工智能模型的來源統(tǒng)計(jì)從人工智能應(yīng)用類型的實(shí)現(xiàn)進(jìn)程來看，已有77%的受訪企業(yè)表示部署實(shí)現(xiàn)了智能問答助手，其次是數(shù)據(jù)分析/BIChat應(yīng)用（48%）和語言翻譯（35%）。圖5人工智能應(yīng)用類型的實(shí)現(xiàn)進(jìn)程（3）企業(yè)大模型的選擇與考量在大模型工具和產(chǎn)品類型的選擇上，通用大語言模型（如ChatGPT、Claude、DeepSeek）成為企業(yè)的首選，占據(jù)受訪企業(yè)的83%；商業(yè)AISaaS/PaaS產(chǎn)品（如開發(fā)助手等）也是企業(yè)選擇大

模型的優(yōu)先選擇（46%）。從模型獲取渠道來看，開源模型成為67受訪企業(yè)的首選來源，其次是外部廠商提供的SaaS23的企業(yè)會(huì)使用自研大模型，整體上企業(yè)對(duì)外部模型的依賴性較強(qiáng)。圖6人工智能模型的來源統(tǒng)計(jì)型的準(zhǔn)確性與穩(wěn)定性（如性能指標(biāo)）”是企業(yè)最看重的因素（88%），數(shù)據(jù)使用的合規(guī)性與隱私保護(hù)（79%）和總擁（4）企業(yè)關(guān)于人工智能的資源投入情況1212（43%）IT10%43%IT5%。圖7過去12個(gè)月用于人工智能相關(guān)項(xiàng)目的預(yù)算投入占IT總預(yù)算的比例2.2人工智能應(yīng)用的顧慮與風(fēng)險(xiǎn)2.2人工智能應(yīng)用的顧慮與風(fēng)險(xiǎn)（1）模型可靠性問題受到普遍關(guān)注圖8在應(yīng)用人工智能技術(shù)時(shí)最擔(dān)心的因素統(tǒng)計(jì)當(dāng)被問到“在應(yīng)用人工智能技術(shù)時(shí)最擔(dān)心的因素”時(shí)，“數(shù)據(jù)隱私泄露或被濫用”是首要擔(dān)憂（79%）。同時(shí)60%的受訪企業(yè)認(rèn)為模型幻覺（即模型生成與現(xiàn)實(shí)不符的結(jié)果）或輸出不穩(wěn)定，可能導(dǎo)致業(yè)務(wù)決策失誤，影響用戶體驗(yàn)和企業(yè)信譽(yù)。（2）企業(yè)應(yīng)用人工智能將面臨的風(fēng)險(xiǎn)圖9可信人工智能治理風(fēng)險(xiǎn)與顧慮因素統(tǒng)計(jì)1.2風(fēng)險(xiǎn)。調(diào)研數(shù)據(jù)顯示，數(shù)據(jù)泄露風(fēng)險(xiǎn)、法律合規(guī)風(fēng)險(xiǎn)和隱私保護(hù)風(fēng)險(xiǎn)是當(dāng)前企業(yè)最關(guān)切的三大問題。2.3企業(yè)可信人工智能治理建設(shè)情況2.3企業(yè)可信人工智能治理建設(shè)情況可信人工智能治理是企業(yè)平衡技術(shù)發(fā)展與風(fēng)險(xiǎn)的有效戰(zhàn)略工具，前文已提及當(dāng)前企業(yè)的人工智能治理現(xiàn)狀呈現(xiàn)出了“高探索、低成熟”的特征。根據(jù)調(diào)研數(shù)據(jù)，37%的受訪企業(yè)已經(jīng)初步或已定義了可

信人工智能治理框架和模式，且有34%的受訪企業(yè)正在建設(shè)或規(guī)劃中，這與章節(jié)2.1中提及的人工智能治理建設(shè)進(jìn)度是較為一致的，也反映了企業(yè)充分意識(shí)到可信人工智能在整體治理框架中的重要性。圖10企業(yè)可信人工智能治理框架定義與實(shí)施現(xiàn)狀統(tǒng)計(jì)（1）技術(shù)團(tuán)隊(duì)為主導(dǎo)、多部門協(xié)同的治理架構(gòu)圖11企業(yè)可信人工智能治理工作主導(dǎo)部門統(tǒng)計(jì)根據(jù)調(diào)研數(shù)據(jù)，42的受訪企業(yè)選擇由信息科技//超過半數(shù)的受訪企業(yè)表示上述部門會(huì)參與到企業(yè)人工智能治理工作中?？紤]到治理工作的跨部門協(xié)同需求，設(shè)立統(tǒng)一

的管理委員會(huì)成為多數(shù)企業(yè)的普遍選擇。59%的企業(yè)已設(shè)立或正在規(guī)劃其可信人工智能治理委員會(huì)，其中又有三分之一以上的企業(yè)會(huì)將可信人工智能治理委員會(huì)設(shè)置為獨(dú)立的治理委員會(huì)，而非其它治理架構(gòu)的分支。圖12企業(yè)的可信人工智能治理委員會(huì)設(shè)立情況統(tǒng)計(jì)（2）多元標(biāo)準(zhǔn)融合構(gòu)建治理體系調(diào)研顯示，超過一半（68%）的受訪企業(yè)已啟動(dòng)了可信人工智能管理的政策制定工作，有58%的企業(yè)已進(jìn)行了部分政策、流程或標(biāo)準(zhǔn)的發(fā)布。圖13企業(yè)可信人工智能治理政策、流程及標(biāo)準(zhǔn)制定情況由于本次調(diào)研主要面向中國大陸及港澳臺(tái)企業(yè)（包括位于中國大陸的外資企業(yè)），超過一半的受訪企業(yè)（66%）在制定可信人工智能治理政策時(shí)，參考了中國本土的法律法規(guī)，以確保在國內(nèi)運(yùn)營的合規(guī)性。同時(shí)，超過半數(shù)企業(yè)（53%）借鑒了美國NIST（NationalInstituteofStandardsand

組織發(fā)布的《AI半左右（50%）采用ISO/IEC42001人工智能管理41%工智能法案》。少數(shù)（9%）企業(yè)則選擇IAA采取一種“多源融合、因需而用”的策略。圖14企業(yè)可信人工智能治理體系建設(shè)過程中主要參考的框架與標(biāo)準(zhǔn)（3）技術(shù)控制延續(xù)傳統(tǒng)安全措施在構(gòu)建可信人工智能治理體系中，技術(shù)控制措施為企業(yè)滿足相關(guān)政策和標(biāo)準(zhǔn)要求提供了關(guān)鍵支撐。調(diào)研結(jié)果顯示，當(dāng)前企業(yè)在應(yīng)對(duì)人工智能風(fēng)險(xiǎn)時(shí)，普遍優(yōu)先部署與傳統(tǒng)信息安全接軌的控制手段，例如身份與訪問控制（45全面實(shí)施）、基礎(chǔ)架構(gòu)安全防護(hù)（46全面實(shí)施）、數(shù)據(jù)脫敏、加密及密鑰管理（高達(dá)83%的企業(yè)在不同程度上采取了這一技術(shù)控制措施）。值得注意的是，這類技術(shù)控制多數(shù)聚焦于底層的基礎(chǔ)設(shè)施和數(shù)據(jù)安全，如加密傳輸、數(shù)據(jù)隔離等，

這些手段雖然對(duì)AI場景中的信息保護(hù)構(gòu)成基礎(chǔ)保障，但反映出企業(yè)在技術(shù)優(yōu)先級(jí)上依然側(cè)重于“傳統(tǒng)安全延申”AI則相對(duì)滯后。例如，與大模型相關(guān)的技術(shù)控制措施普遍部署率較低?！按竽Ｐ臀募踩薄ⅰ癆I，與“模擬攻擊及檢測(cè)”全面實(shí)施的企業(yè)比例均未超過15%，“AI物料管理37%AI力仍待提升。圖15各企業(yè)應(yīng)對(duì)人工智能風(fēng)險(xiǎn)的技術(shù)措施實(shí)施情況此外，基于上文所提及的對(duì)人工智能數(shù)據(jù)安全方面的重視，大多數(shù)企業(yè)都采取了多種類型的數(shù)據(jù)安全技術(shù)措施以平衡人工智能領(lǐng)域的風(fēng)險(xiǎn)控制。在本次所調(diào)研的數(shù)據(jù)安全管控措施中，隱私影響評(píng)估（79%），數(shù)據(jù)脫敏與匿名化（63%）、數(shù)據(jù)源安

（54%）I地過程中對(duì)數(shù)據(jù)流通合規(guī)與敏感信息保護(hù)的高度重視。圖16企業(yè)在人工智能應(yīng)用過程中采取的數(shù)據(jù)安全管控措施（4）針對(duì)性培訓(xùn)及管理層宣貫不足AIAI38%。這說明，盡管普及培訓(xùn)已基本覆蓋整個(gè)組織，但面向決策層和技術(shù)團(tuán)隊(duì)的深化教育仍顯不足。圖17企業(yè)已開展的可信人工智能相關(guān)培訓(xùn)2.4現(xiàn)階段挑戰(zhàn)與未來規(guī)劃2.4現(xiàn)階段挑戰(zhàn)與未來規(guī)劃（1）企業(yè)追求可信人工智能治理的挑戰(zhàn)企業(yè)在推進(jìn)可信人工智能治理過程中面臨的最嚴(yán)峻挑戰(zhàn)主要集中在合規(guī)成本與復(fù)雜性、人工智能技術(shù)架構(gòu)復(fù)雜性、缺乏行業(yè)標(biāo)準(zhǔn)框架、治理落后技術(shù)發(fā)展、可信人工智能產(chǎn)品較少等。圖18企業(yè)認(rèn)為的當(dāng)前可信人工智能治理的挑戰(zhàn)58的受訪企業(yè)表示適應(yīng)不斷更新的法律法規(guī)的企業(yè)認(rèn)為，AI理難度。40%板”，只能在探索中前行，增加了策略不確定性。另

40%出現(xiàn)“政策滯后”現(xiàn)象。此外，近三成（29%）企業(yè)反映組織結(jié)構(gòu)及角色職責(zé)分工不明，31%則指出專業(yè)人員技能經(jīng)驗(yàn)不足，也為治理實(shí)施增添難度。（2）企業(yè)針對(duì)可信人工智能治理的未來投資趨勢(shì)雖然企業(yè)對(duì)可信人工智能未來的投入相對(duì)謹(jǐn)慎，但對(duì)人工智能技術(shù)的發(fā)展充滿信心。圖19企業(yè)未來12個(gè)月內(nèi)對(duì)可信人工智能的投入比例統(tǒng)計(jì)在投入規(guī)劃方面，半數(shù)（50%）企業(yè)對(duì)可信人工智能治理的未來投資趨勢(shì)缺乏明確的判斷，反映出當(dāng)前規(guī)劃不確定性顯著?？上驳氖?，有37%企業(yè)明確表示正積極增加預(yù)算，顯示出部分組織對(duì)未來治理能力的重視提升。

盡管面臨著未來的不確定性，但參與調(diào)研的企AI5圖20企業(yè)對(duì)可信人工智能在未來5年內(nèi)賦能企業(yè)發(fā)展的信心（3）企業(yè)對(duì)可信人工智能治理的期望企業(yè)對(duì)可信人工智能治理的期望聚焦于標(biāo)準(zhǔn)化建設(shè)、技術(shù)生態(tài)協(xié)同與能力提升三大方向，體現(xiàn)出行業(yè)對(duì)系統(tǒng)性治理支持的高度需求。圖21企業(yè)對(duì)可信人工智能治理的期望首先，可供參考的標(biāo)準(zhǔn)體系與框架成為最迫切訴求。絕大多數(shù)（72%）受訪企業(yè)呼吁發(fā)布權(quán)威的以降低企業(yè)合規(guī)成本并彌合實(shí)踐鴻溝。同時(shí)，58%的企業(yè)期待人工智能服務(wù)提供方推出標(biāo)準(zhǔn)化可信方案，將倫理設(shè)計(jì)、安全評(píng)估等能力嵌入技術(shù)底座，推動(dòng)治理與技術(shù)的深度融合。其次，完善技術(shù)產(chǎn)品標(biāo)準(zhǔn)與認(rèn)證，提高產(chǎn)品規(guī)范也被視為關(guān)鍵訴求，大多數(shù)（70%）企業(yè)希望能

夠參考權(quán)威的標(biāo)準(zhǔn)及認(rèn)證機(jī)制，通過更多的第三方機(jī)構(gòu)對(duì)可信人工智能產(chǎn)品進(jìn)行評(píng)估和認(rèn)證，確保產(chǎn)品的質(zhì)量和可信性。此外，過半（58%）企業(yè)還希望人工智能服務(wù)提供方也能夠提供標(biāo)準(zhǔn)化的可信方案。最后，增強(qiáng)產(chǎn)學(xué)研各界合作，提升人員技能，推動(dòng)實(shí)踐的落地是長期關(guān)注重點(diǎn)。38%企業(yè)普遍希望加強(qiáng)產(chǎn)學(xué)研合作，以及拓展人員技能與資質(zhì)培訓(xùn)及認(rèn)證，從而加速可信治理技術(shù)的落地。2025全球可信AI治理與數(shù)據(jù)安全報(bào)告AICASESHARINGONTRUSTWORTHYAIGOVERNANCEANDSECURITY03Chapter303AI案例分享典型案例1：可信AI治理體系建助力企業(yè)成為AI應(yīng)用行業(yè)標(biāo)桿調(diào)研顯示，超過50的企業(yè)已經(jīng)定義了可信AIAI建立并實(shí)施可信AII用已成為企業(yè)全面提升競爭力，提高公信力的必然選擇。（1）企業(yè)建構(gòu)AI治理體系的驅(qū)動(dòng)因素案例企業(yè)作為媒體行業(yè)傳播出海的頭部公司，AIAIAI治理體系的內(nèi)部驅(qū)動(dòng)因素源于自身全球化發(fā)展戰(zhàn)略和風(fēng)險(xiǎn)管控的雙重需求。首先，企業(yè)出海戰(zhàn)略需符合國際市場的合規(guī)門檻。案例企業(yè)內(nèi)容受眾廣，覆蓋國家多，面臨全球范圍內(nèi)多地區(qū)的監(jiān)管壓力。其次，企業(yè)需AIAII服務(wù)接入管AIAI

外部驅(qū)動(dòng)因素主要源于三方面壓力：一是全球AIAI聞提出了保障用戶知情、防誤導(dǎo)、版權(quán)合規(guī)等具體AI虛假信息、算法歧視等倫理風(fēng)險(xiǎn)敏感度上升，媒體集團(tuán)作為信息傳播核心樞紐，更易因技術(shù)濫用引發(fā)信任危機(jī)。三是行業(yè)競爭與標(biāo)準(zhǔn)化趨勢(shì)。跨國媒體AIISOAI異化競爭優(yōu)勢(shì)。AIAI治理體系應(yīng)堅(jiān)持以目標(biāo)準(zhǔn)則為導(dǎo)以持續(xù)監(jiān)測(cè)維護(hù)為保障的總體思路，逐步建成、完AI圖22企業(yè)AI治理體系建設(shè)四步路徑具體可遵循四步路徑：首先樹立AI筑牢信任基石。其次基于業(yè)務(wù)架構(gòu)實(shí)施分域治理，通過差異化管控實(shí)現(xiàn)創(chuàng)新與合規(guī)的動(dòng)態(tài)平衡。同步AI配套構(gòu)建多層級(jí)制度體系。最后建立持續(xù)監(jiān)控優(yōu)化機(jī)制，形成“識(shí)別－改進(jìn)－維護(hù)”的監(jiān)測(cè)保障模式，確保治理體系始終適配技術(shù)演進(jìn)與監(jiān)管要求。

AI1）治理體系建成并成功運(yùn)行案例企業(yè)參照主流AI相關(guān)法規(guī)和治理標(biāo)準(zhǔn)，AIAII使用的安全性與可控性”為核心目標(biāo)。在此AI場景，劃定七大細(xì)分治理領(lǐng)域。圖23案例企業(yè)AI治理框架體系為實(shí)現(xiàn)核心目標(biāo)和對(duì)各細(xì)分領(lǐng)域的有效治理，案例企業(yè)構(gòu)建三級(jí)垂直組織管理體系：頂層由安全技術(shù)管理委員會(huì)負(fù)責(zé)戰(zhàn)略決策與審批，下設(shè)人工智能管理領(lǐng)導(dǎo)小組統(tǒng)籌合規(guī)審查與資源調(diào)配，各業(yè)務(wù)AI套方面，構(gòu)建四級(jí)管理制度文件：一級(jí)文件明確公司層面總體要求；二級(jí)文件針對(duì)各細(xì)分治理領(lǐng)域制定管理辦法和實(shí)施細(xì)則；三級(jí)文件提供具體的流程指引和操作指南；四級(jí)文件則包含檢查清單、有效性測(cè)量表等標(biāo)準(zhǔn)模板。案例企業(yè)堅(jiān)持動(dòng)態(tài)化風(fēng)險(xiǎn)評(píng)估與持續(xù)維護(hù)機(jī)制，定期開展管理體系有效性測(cè)評(píng)

等自查改進(jìn)活動(dòng)，持續(xù)監(jiān)測(cè)AI治理體系的可靠性。2）取得多項(xiàng)實(shí)際成果案例企業(yè)建成AIISO/IEC4001國際認(rèn)證的企業(yè)。同時(shí)，依托治理體系內(nèi)的風(fēng)險(xiǎn)評(píng)AI規(guī)、外部攻擊、數(shù)據(jù)偏見等十余項(xiàng)潛在風(fēng)險(xiǎn)。該體AI“防火墻”，更以透明IAI典型案例2：智能安全產(chǎn)品賦能，構(gòu)建AI實(shí)時(shí)防護(hù)體系（1）從被動(dòng)到主動(dòng)，AI治理的雙重驅(qū)動(dòng)國內(nèi)某網(wǎng)絡(luò)安全企業(yè)引入人工智能技術(shù)，達(dá)成了漏洞情報(bào)收集與審核流程的智能化升級(jí)，大幅提有力推動(dòng)了漏洞驗(yàn)證工作的規(guī)模化發(fā)展。然而，隨著人工智能技術(shù)在業(yè)務(wù)場景中的深入應(yīng)用，企業(yè)逐漸意識(shí)到在人工智能安全和合規(guī)方面正面臨新的挑戰(zhàn)：其一，數(shù)據(jù)安全問題。作為處理大量敏感信息的網(wǎng)絡(luò)安全服務(wù)供應(yīng)商，在借助AI為自動(dòng)化滲透測(cè)試等業(yè)務(wù)賦能時(shí)，需要通過治理體系來防范數(shù)據(jù)泄露、濫用等風(fēng)險(xiǎn)，從而確保客戶信息安全與服務(wù)的合規(guī)性。其二，交付風(fēng)險(xiǎn)控制問題。隨著內(nèi)部產(chǎn)品研發(fā)與服務(wù)交付的風(fēng)險(xiǎn)控制標(biāo)準(zhǔn)不斷提高，需要AI求，避免因管控限制而影響人工智能技術(shù)在滿足業(yè)務(wù)需求時(shí)發(fā)揮優(yōu)勢(shì)，推動(dòng)技術(shù)賦能與風(fēng)險(xiǎn)防控實(shí)現(xiàn)

動(dòng)態(tài)統(tǒng)一，AI合規(guī)壓力。隨著《國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知》《網(wǎng)絡(luò)安全法》及《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)的密集出臺(tái)，國家對(duì)人工智能的監(jiān)管力度持續(xù)加大，從數(shù)據(jù)采集、模型訓(xùn)練到內(nèi)容輸出及應(yīng)用等各個(gè)環(huán)節(jié)都提出了明確的合規(guī)要求。特別是在與政府、金融、運(yùn)營商等典型行業(yè)客戶合作時(shí)，合規(guī)已成為項(xiàng)目交付的基本前AI需求和市場準(zhǔn)入條件。為應(yīng)對(duì)上述挑戰(zhàn)，企業(yè)開始AI（2）打造“三位一體”AI安全防護(hù)網(wǎng)企業(yè)為確保AI技術(shù)在企業(yè)產(chǎn)品體系中“可控、可信、可審計(jì)”，構(gòu)建了面向內(nèi)部和客戶的大模型安全防護(hù)機(jī)制——“AI安全護(hù)欄”。具體通過以下步驟達(dá)成：確立安全防護(hù)目標(biāo)，將確保AI技術(shù)安全、可靠、AI保障其在合法合規(guī)的框架內(nèi)有序運(yùn)行。AIAI以及應(yīng)用場景開展實(shí)時(shí)監(jiān)測(cè)和策略限制。比如，有rompt合規(guī)性判定，防止有害內(nèi)容的生成與傳播。構(gòu)建AI安全監(jiān)測(cè)機(jī)制，在安全測(cè)試平臺(tái)集成行為觀測(cè)功能，實(shí)時(shí)監(jiān)控模型調(diào)用鏈，及時(shí)察覺并

制止異常行為，防止模型被惡意調(diào)用或繞過安全規(guī)則，實(shí)現(xiàn)風(fēng)險(xiǎn)的閉環(huán)處置。AIAIAI業(yè)搭建“感知－防護(hù)－治理－審計(jì)”的全鏈條AI防護(hù)架構(gòu)體系，達(dá)成對(duì)大語言模型（LLM）及智能體類應(yīng)用的系統(tǒng)化安全保障。圖24AI安全護(hù)欄架構(gòu)體系WebAPI機(jī)制等，有效抵御非法調(diào)用和惡意輸入。其次，針對(duì)多樣化的業(yè)務(wù)場景和部署模式，提供靈活的接入方案，并實(shí)現(xiàn)與AI（SDK），以保障AI依托AIAII60%，基本杜絕了敏感信息的錯(cuò)誤輸出。同時(shí)，合規(guī)性檢查覆蓋率達(dá)到100%AI應(yīng)用場景的穩(wěn)定運(yùn)行提供了必要的安全保障。典型案例3：AI全周期治理，助力企業(yè)安全平穩(wěn)提效（1）企業(yè)投身AI治理的多重考量在市場需求、降本增效以及技術(shù)迭代等多重因素的驅(qū)動(dòng)下，國內(nèi)某人工智能及大數(shù)據(jù)科技企業(yè)將/B）等核心業(yè)務(wù)產(chǎn)品。然而，隨著AI存在大模型訓(xùn)練數(shù)據(jù)安全防護(hù)不足、算法決策黑箱缺乏可解釋性以及合規(guī)機(jī)制滯后等問題；在監(jiān)管層面，需要應(yīng)對(duì)國內(nèi)外人工智能法律法規(guī)不斷發(fā)展所帶來的合規(guī)框架調(diào)整挑戰(zhàn)；在倫理層面，需要確保技術(shù)具備公平性、包容性與透明性，以履行企業(yè)社會(huì)責(zé)任。（2）企業(yè)應(yīng)對(duì)大模型治理的創(chuàng)新舉措基于發(fā)展現(xiàn)狀和長期的技術(shù)實(shí)踐，企業(yè)構(gòu)建了AI焦于兩個(gè)核心環(huán)節(jié)：針對(duì)大型模型固有安全風(fēng)險(xiǎn)開展制度與流程建設(shè)。企業(yè)制定了《新業(yè)務(wù)及產(chǎn)品開發(fā)與設(shè)計(jì)流程合規(guī)規(guī)范》《內(nèi)容安全指南》等規(guī)章制度，以此確立人工智能產(chǎn)品和服務(wù)的安全標(biāo)準(zhǔn)，并進(jìn)一步細(xì)化衍生出《語料標(biāo)準(zhǔn)規(guī)則》等具有較強(qiáng)可操作性的細(xì)則算法安全評(píng)估以及AIGC產(chǎn)品迭代發(fā)布評(píng)估等自查

環(huán)節(jié)，從而實(shí)現(xiàn)對(duì)人工智能產(chǎn)品潛在風(fēng)險(xiǎn)的精準(zhǔn)預(yù)判。建立人工智能產(chǎn)品全生命周期合規(guī)管控流程。企業(yè)構(gòu)建了一套覆蓋產(chǎn)品設(shè)計(jì)開發(fā)、驗(yàn)證試驗(yàn)、部署運(yùn)行、維護(hù)升級(jí)直至下線刪除等全生命周期的人工智能產(chǎn)品管控體系。在設(shè)計(jì)開發(fā)階段，為確保訓(xùn)練數(shù)據(jù)來源合法合規(guī)，所有授權(quán)文件及協(xié)議均被嚴(yán)格留存。語料標(biāo)注內(nèi)容需經(jīng)過預(yù)檢、質(zhì)檢、終檢三級(jí)審核，以保證標(biāo)注的