【內(nèi)容提要】展望2026年，我國人工智能治理體系與格局將進一步健全，大模型數(shù)據(jù)保護、防范技術(shù)濫用、應(yīng)對就業(yè)結(jié)構(gòu)沖擊等將成為關(guān)鍵治理議題，我國也將更加積極地參與并引領(lǐng)全球AI治理規(guī)則構(gòu)建。同時，仍需關(guān)注制度供給碎片化、數(shù)據(jù)治理矛盾突出、技術(shù)風(fēng)險防控能力薄弱、社會負面影響難應(yīng)對以及全球協(xié)同治理難度加大等問題。對此，賽迪研究院建議構(gòu)建敏捷治理體系、前瞻布局教育與社會保障、筑牢技術(shù)治理能力、完善【關(guān)鍵詞】人工智能治理發(fā)展形勢展望當前，全球人工智能技術(shù)正以前所未有的速度迭代突破，在催生新質(zhì)生產(chǎn)力、賦能產(chǎn)業(yè)變革的同時，也帶來了復(fù)雜深遠的社會治理挑戰(zhàn)。2025年，我國在人工智能治理領(lǐng)域邁出關(guān)鍵步伐。展望2026年，隨著大模型技術(shù)普及和深度融合應(yīng)用，人工智能治理將進入體系化、精細化發(fā)展的新階段。如何在激勵創(chuàng)新與防控風(fēng)險之間尋求平衡，如何應(yīng)對技術(shù)濫用、數(shù)據(jù)安全、就業(yè)結(jié)構(gòu)沖擊等新型挑戰(zhàn)，將成為我國推進人工智能2025年，我國人工智能治理頂層設(shè)計取得重要進展，國家層面通過政策、立法與標準建設(shè)，初步構(gòu)建起兼顧創(chuàng)新激勵與風(fēng)險監(jiān)管的綜合制度框架。其中兩項制度尤為關(guān)鍵：一是中央網(wǎng)信辦等四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》及配套國標，形成全球首個AIGC標識系統(tǒng)性治理方案。二是工信部等十余部門起草《人工智能科技倫理管理服務(wù)辦法(試行)》已完成公開征求意見，加快推動AI倫理治理從理念展望2026年，我國人工智能治理體系將步入以“敏捷治理”為關(guān)鍵特征的新階段。《人工智能生成合成內(nèi)容標識辦法》等規(guī)定將全面實施，《人工智能科技倫理管理服務(wù)辦法(試行)》有望正式頒布，針對自動駕駛、醫(yī)療診斷等高風(fēng)險場景的專項細則將加速制定，實現(xiàn)從通用規(guī)則到場景化治理的深化。政府、企業(yè)、科研機構(gòu)等多元主體協(xié)同共治格局將更趨成熟，政府角色向引導(dǎo)與監(jiān)管并重轉(zhuǎn)變，企業(yè)合規(guī)責(zé)任持續(xù)強2025年，隨著人工智能與經(jīng)濟社會深度融合，數(shù)據(jù)作為關(guān)鍵生產(chǎn)要素的價值日益凸顯，數(shù)據(jù)安全風(fēng)險與個人隱私挑戰(zhàn)亦趨于復(fù)雜嚴峻。從個人信息采集、算法訓(xùn)練到生成式AI交互，各環(huán)節(jié)均潛藏數(shù)據(jù)泄露與隱私侵害風(fēng)險。學(xué)界、產(chǎn)業(yè)界與監(jiān)管機構(gòu)正加速探索相關(guān)治理框架與解決展望2026年，面對持續(xù)升級的挑戰(zhàn)，治理探索將更加聚焦于“統(tǒng)籌發(fā)展與安全”。預(yù)計將加速形成一系列旨在平衡技術(shù)創(chuàng)新與數(shù)據(jù)保護的綜合性方案，包括進一步完善數(shù)據(jù)分類分級管理制度，推動隱私增強技術(shù)的發(fā)展與應(yīng)用，強化企業(yè)在數(shù)據(jù)全生命周期管理中的主體責(zé)任，探索建立適應(yīng)AI特點的知情同意機制和隱私影響評估體系等。在保障數(shù)據(jù)安2025年，人工智能技術(shù)濫用的現(xiàn)象引發(fā)廣泛關(guān)注。利用AI生成虛假信息、進行網(wǎng)絡(luò)詐騙、實施自動化攻擊等事件頻發(fā)，對社會秩序、公共安全和公民權(quán)益構(gòu)成現(xiàn)實威脅。對此，我國開展了“清朗·整治AI技術(shù)濫用”專項行動，加強了對深度合成等技術(shù)的監(jiān)管，積極探索“以技治展望2026年，防范AI技術(shù)濫用與惡意應(yīng)用將成為治理工作的重中之重。在技術(shù)層面，將大力支持AI內(nèi)容檢測與溯源、深度偽造識別、算法公平性評估等核心監(jiān)管技術(shù)與工具的研發(fā)與應(yīng)用，力求在識別準確率、響應(yīng)速度和覆蓋范圍上取得突破。在監(jiān)管層面，將進一步明確AI服務(wù)提供者的主體責(zé)任，建立健全內(nèi)容審核、用戶實名、風(fēng)險預(yù)警和應(yīng)急處置機制。針對利用AI實施的詐騙、誹謗、侵犯知識產(chǎn)權(quán)等違法犯罪行為，2025年，人工智能對社會層面的沖擊已不再局限于理論探討和預(yù)警層面，而是正在成為現(xiàn)實中可感知的深刻變化。AI對就業(yè)的替代效應(yīng)顯著，不僅替代了大量重復(fù)性、流程化的體力勞動，更開始侵蝕傳統(tǒng)上被視為“安全區(qū)”的腦力勞動崗位。此外，數(shù)字鴻溝問題更加突出，技術(shù)展望2026年，AI廣泛應(yīng)用可能會加劇就業(yè)結(jié)構(gòu)性矛盾的“陣痛”，勞動力市場將面臨更大的技能轉(zhuǎn)型和崗位更替壓力。AI決策過程中可能存在的算法偏見，將對教育、就業(yè)、信貸等領(lǐng)域的公平性帶來嚴峻挑戰(zhàn)。這些問題將促使社會各界更加重視AI的社會倫理影響，加快研究制2025年，我國在人工智能全球治理舞臺上表現(xiàn)活躍，積極參與聯(lián)合國、G20等多邊機制下的相關(guān)討論，提出了具有中國特色的治理主張和倡議，為全球AI治理貢獻了中國智慧。2025年7月發(fā)布的《人工智能全球治理行動計劃》，系統(tǒng)闡述了“以人為本、智能向善”“發(fā)展與安全并展望2026年，全球AI治理話語權(quán)博弈將更趨激烈，我國將從“積極參與”向“深度參與”乃至“引領(lǐng)”國際規(guī)則制定的方向邁進。圍繞數(shù)據(jù)跨境流動、算法倫理、AI安全標準等核心議題，我國將提出兼具國際當前，我國在人工智能領(lǐng)域尚未形成統(tǒng)一的綜合性立法，現(xiàn)有治理規(guī)范以分散性文件為主，缺乏系統(tǒng)銜接，導(dǎo)致監(jiān)管重疊與盲區(qū)并存、責(zé)任界定不清，難以構(gòu)建穩(wěn)定、可預(yù)期的制度環(huán)境。以AI虛假廣告治理為例，市場監(jiān)管、網(wǎng)信、公安等部門職責(zé)交叉，易出現(xiàn)多頭監(jiān)管與責(zé)任不清等問題。同時，自動駕駛、醫(yī)療AI等關(guān)鍵場景的實施細則滯后，部分倫理規(guī)范缺乏可操作的評估標準與問責(zé)機制，使企業(yè)合規(guī)缺乏明確依在統(tǒng)籌發(fā)展與安全的政策導(dǎo)向下，大模型訓(xùn)練所依賴的海量高質(zhì)量數(shù)據(jù)與現(xiàn)行數(shù)據(jù)治理體系之間存在顯著張力。一方面，多數(shù)模型在人機對話數(shù)據(jù)處理方面缺乏規(guī)范的保護制度與技術(shù)措施，難以平衡功能實現(xiàn)與用戶權(quán)益保障。另一方面，大模型應(yīng)用過程中出現(xiàn)如濫用無障礙權(quán)限等新型個人信息侵害形式，對現(xiàn)有監(jiān)管框架的適應(yīng)性與責(zé)任邊界界定提當前我國在應(yīng)對AI技術(shù)濫用、生成內(nèi)容泛濫及智能體失控等方面的制度構(gòu)建與技術(shù)能力仍顯薄弱。技術(shù)上，深度偽造識別、生成內(nèi)容溯源等關(guān)鍵防控手段的發(fā)展滯后于風(fēng)險演化，尤其對多模態(tài)合成內(nèi)容的監(jiān)測缺乏有效工具。制度上，尚未形成覆蓋“事前評估—事中監(jiān)測—事后追責(zé)”的閉環(huán)監(jiān)管機制，監(jiān)管實踐多停留于事后處置階段，難以實現(xiàn)風(fēng)險人工智能帶來的結(jié)構(gòu)性失業(yè)與社會分化問題亟待構(gòu)建系統(tǒng)化、前瞻性的應(yīng)對體系。在就業(yè)方面，傳統(tǒng)崗位自動化替代加速，而現(xiàn)有職業(yè)技能培訓(xùn)體系存在內(nèi)容滯后、供需錯配等問題，中老年與低技能群體缺乏針對性轉(zhuǎn)崗支持，加劇就業(yè)轉(zhuǎn)型困境。在社會公平層面，低收入群體與偏遠地區(qū)面臨AI技術(shù)應(yīng)用機會不均等問題，現(xiàn)有政策多側(cè)重技術(shù)普及，當前全球AI治理體系呈現(xiàn)規(guī)則分歧擴大與協(xié)同機制不足并存的態(tài)勢。一方面，部分國家推動形成排他性“小圈子”規(guī)則，加大在多邊機制下凝聚共識的難度。我國雖積極參與國際規(guī)則制定，但在技術(shù)標準與倫理規(guī)范等領(lǐng)域的話語權(quán)仍有待提升。另一方面，各國在風(fēng)險分級、算法透明度等關(guān)鍵議題上的制度差異，加劇了企業(yè)跨境合規(guī)的不確定性與推進“分級分類”精準監(jiān)管。根據(jù)人工智能技術(shù)的風(fēng)險等級及其應(yīng)用場景，實施差異化治理模式：對自動駕駛、醫(yī)療診斷、金融等高風(fēng)險領(lǐng)域，采取更為嚴格的監(jiān)管措施。對低風(fēng)險場景，則以鼓勵和促進為主。探索“監(jiān)管沙盒”與敏捷治理。在特定區(qū)域或領(lǐng)域設(shè)立人工智能“監(jiān)管沙盒”，允許企業(yè)在可控環(huán)境中測試創(chuàng)新產(chǎn)品和服務(wù)，激發(fā)產(chǎn)業(yè)創(chuàng)新活力，促進產(chǎn)業(yè)健康發(fā)展。適時推動出臺綜合性人工智能法律。立足人工智能產(chǎn)業(yè)發(fā)展實際需要，結(jié)合行業(yè)、地方成功的立法經(jīng)驗，適時深化教育體系改革。大規(guī)模推進人工智能通識教育、職業(yè)技能培訓(xùn)和再培訓(xùn)項目，將人工智能基礎(chǔ)知識納入各級各類教育體系，普及和提升人工智能素養(yǎng)。構(gòu)建適應(yīng)人工智能時代的社會保障體系。前瞻性研究并探索與人工智能發(fā)展相適應(yīng)的社會保障制度，完善失業(yè)保險政策，試點推廣職業(yè)過渡津貼等措施。重點關(guān)注受影響較大行業(yè)的從業(yè)人員轉(zhuǎn)型全力攻關(guān)核心監(jiān)管技術(shù)。著力支持人工智能內(nèi)容檢測與溯源、深度偽造識別、算法公平性評估等領(lǐng)域的技術(shù)研發(fā)和應(yīng)用推廣，提升風(fēng)險識別與防控能力。建立覆蓋全鏈條的安全治理制度體系。持續(xù)推行AI生成內(nèi)容的顯著標識和水印措施，健全算法備案與審計機制，推動企業(yè)在產(chǎn)品研發(fā)過程中貫徹“設(shè)計即安全”“倫理嵌入”等理念，從源頭有效降低潛在技術(shù)風(fēng)險。積極推動安全可控的開源生態(tài)建設(shè)。在鼓勵人工智能技術(shù)創(chuàng)新和開源協(xié)作的基礎(chǔ)上，加強對關(guān)鍵開源模型的安全評估和加大人工智能治理宣傳和普及力度。全面提升行業(yè)、社會及公眾對人工智能治理的認知和參與意識，營造全社會共同參與人工智能治理的良好氛圍。明晰多元主體權(quán)責(zé)?？茖W(xué)界定政府的監(jiān)管職責(zé)、企業(yè)的主體責(zé)任、行業(yè)組織的自律義務(wù)以及公眾的監(jiān)督權(quán)利，推動形成權(quán)責(zé)清晰、分工協(xié)作、銜接有序的多元共治治理網(wǎng)絡(luò)。積極搭建常態(tài)化對話和協(xié)商平臺。定期圍繞人工智能發(fā)展過程中出現(xiàn)的重大倫理、法律與社會問題開展交流，廣泛聽取各方意見，推動多元主體之間的信息共享與協(xié)作創(chuàng)積極倡導(dǎo)構(gòu)