ICS35030

CCSL.80

中華人民共和國(guó)國(guó)家標(biāo)準(zhǔn)

GB/T45654—2025

網(wǎng)絡(luò)安全技術(shù)生成式人工智能服務(wù)

安全基本要求

Cybersecuritytechnology—Basicsecurityrequirementsforgenerative

artificialintelligenceservice

2025-04-25發(fā)布2025-11-01實(shí)施

國(guó)家市場(chǎng)監(jiān)督管理總局發(fā)布

國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)

GB/T45654—2025

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范圍

1………………………1

規(guī)范性引用文件

2…………………………1

術(shù)語(yǔ)和定義

3………………1

訓(xùn)練數(shù)據(jù)安全要求

4………………………2

模型安全要求

5……………4

安全措施要求

6……………5

附錄資料性訓(xùn)練數(shù)據(jù)及生成內(nèi)容的主要安全風(fēng)險(xiǎn)

A()………………7

附錄資料性安全評(píng)估參考方法

B()……………………9

參考文獻(xiàn)

……………………22

Ⅰ

GB/T45654—2025

前言

本文件按照標(biāo)準(zhǔn)化工作導(dǎo)則第部分標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則的規(guī)定

GB/T1.1—2020《1:》

起草

。

請(qǐng)注意本文件的某些內(nèi)容可能涉及專利本文件的發(fā)布機(jī)構(gòu)不承擔(dān)識(shí)別專利的責(zé)任

。。

本文件由全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)提出并歸口

(SAC/TC260)。

本文件起草單位中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心浙江大學(xué)

:、、、

北京中關(guān)村實(shí)驗(yàn)室上海人工智能創(chuàng)新中心復(fù)旦大學(xué)北京百度網(wǎng)訊科技有限公司阿里云計(jì)算有限公

、、、、

司北京快手科技有限公司華為云計(jì)算技術(shù)有限公司北京航空航天大學(xué)聯(lián)想北京有限公司螞蟻

、、、、()、

科技集團(tuán)股份有限公司科大訊飛股份有限公司北京大學(xué)中國(guó)網(wǎng)絡(luò)安全審查認(rèn)證和市場(chǎng)監(jiān)管大數(shù)據(jù)

、、、

中心北京深度求索人工智能基礎(chǔ)技術(shù)研究有限公司北京奇虎科技有限公司中國(guó)科學(xué)院自動(dòng)化研究

、、、

所河南科技大學(xué)中國(guó)政法大學(xué)上海交通大學(xué)清華大學(xué)中國(guó)科學(xué)院軟件研究所廣東移動(dòng)

、、、、、、OPPO

通信有限公司中國(guó)移動(dòng)通信集團(tuán)有限公司深信服科技股份有限公司北京面壁智能科技有限責(zé)任公

、、、

司北京瑞萊智慧科技有限公司國(guó)家工業(yè)信息安全發(fā)展研究中心公安部第三研究所國(guó)家信息中心

、、、、、

上海燧原科技股份有限公司深圳陸兮科技有限公司杭州網(wǎng)易智企科技有限公司貝殼找房北京科

、、、()

技有限公司北京天融信網(wǎng)絡(luò)安全技術(shù)有限公司北京零一萬(wàn)物科技有限公司上海稀宇科技有限公司

、、、、

廣州市動(dòng)悅信息技術(shù)有限公司天翼安全科技有限公司

、。

本文件主要起草人姚相振郝春亮張妍婷張震任奎劉勇楊珉秦湛胡影夏文輝陳鐘

:、、、、、、、、、、、

王迎春賀敏張凌寒許曉耕劉建偉落紅衛(wèi)王鳳嬌徐恪陳洋張向征包沉浮謝安明彭駿濤

、、、、、、、、、、、、、

谷晨鄭子木吳少卿王姣王秉政郭建領(lǐng)孟令宇徐甲楊子祺王慶龍邱錫鵬黃晴石琳張宗洋

、、、、、、、、、、、、、、

邊松張志勇張謐洪賡潘旭東胡永啟林冠辰劉俊華喬玉平梅敬青賈開(kāi)趙靜張嚴(yán)權(quán)高原

、、、、、、、、、、、、、、

譚知行楊光姚龍李琦王暉朱貴波周芃安勍沈俊成趙睿斌劉棟馬夢(mèng)娜王俊張立堯

、、、、、、、、、、、、、、

賈雨萌王海棠彭韜李根邱勤江為強(qiáng)徐陽(yáng)游建舟周呈輝劉楠丁治國(guó)王榮仕李大海朱曉芳

、、、、、、、、、、、、、、

王雨晨薛智慧肖博峰危嘉祺

、、、。

Ⅲ

GB/T45654—2025

引言

當(dāng)前生成式人工智能技術(shù)不斷發(fā)展相關(guān)服務(wù)已廣泛應(yīng)用為社會(huì)生產(chǎn)生活等各方面提供便利但

,,,,

也帶來(lái)大量網(wǎng)絡(luò)安全新風(fēng)險(xiǎn)新挑戰(zhàn)亟需標(biāo)準(zhǔn)規(guī)范設(shè)立安全基線

、,。

本文件重點(diǎn)面向具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)支撐備案管理檢測(cè)評(píng)估

,、

等方面工作開(kāi)展重點(diǎn)關(guān)注數(shù)據(jù)標(biāo)注安全時(shí)本文件可與網(wǎng)絡(luò)安全技術(shù)生成式人工智

。,GB/T45674《

能數(shù)據(jù)標(biāo)注安全規(guī)范結(jié)合使用重點(diǎn)關(guān)注預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全時(shí)本文件可與

》;,GB/T45652

網(wǎng)絡(luò)安全技術(shù)生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全規(guī)范結(jié)合使用

《》。

Ⅳ

GB/T45654—2025

網(wǎng)絡(luò)安全技術(shù)生成式人工智能服務(wù)

安全基本要求

1范圍

本文件規(guī)定了生成式人工智能服務(wù)在訓(xùn)練數(shù)據(jù)安全模型安全安全措施等方面的要求

、、。

本文件適用于服務(wù)提供者開(kāi)展生成式人工智能服務(wù)相關(guān)活動(dòng)也為相關(guān)主管部門(mén)以及第三方評(píng)估

,

機(jī)構(gòu)提供參考

。

注訓(xùn)練數(shù)據(jù)及生成內(nèi)容涉及的主要安全風(fēng)險(xiǎn)見(jiàn)附錄生成式人工智能服務(wù)安全評(píng)估參考方法見(jiàn)附錄

:A,B。

2規(guī)范性引用文件

下列文件中的內(nèi)容通過(guò)文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款其中注日期的引用文

。,

件僅該日期對(duì)應(yīng)的版本適用于本文件不注日期的引用文件其最新版本包括所有的修改單適用于

,;,()

本文件

。

信息安全技術(shù)術(shù)語(yǔ)

GB/T25069

3術(shù)語(yǔ)和定義

界定的以及下列術(shù)語(yǔ)和定義適用于本文件

GB/T25069。

31

.

生成式人工智能服務(wù)generativeartificialintelligenceservice

利用生成式人工智能技術(shù)向公眾提供生成文本圖片音頻視頻等內(nèi)容的服務(wù)

、、、。

32

.

服務(wù)提供者serviceprovider

以交互界面可編程接口等形式提供生成式人工智能服務(wù)的組織或個(gè)人

、