國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)

據(jù)安全規(guī)范》（征求意見稿）編制說明

一、工作簡況

1.1任務(wù)來源

為加強(qiáng)網(wǎng)絡(luò)安全國家標(biāo)準(zhǔn)在國家網(wǎng)絡(luò)安全保障工作中的基礎(chǔ)性、規(guī)范性、引

領(lǐng)性作用，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會調(diào)研國家網(wǎng)絡(luò)安全重點(diǎn)工作和技術(shù)產(chǎn)

業(yè)發(fā)展需求，研究形成了2023年網(wǎng)絡(luò)安全國家標(biāo)準(zhǔn)需求清單，含《網(wǎng)絡(luò)安全技術(shù)

生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全規(guī)范》。2023年5月，北京中關(guān)村實(shí)

驗(yàn)室聯(lián)合相關(guān)單位參與申報(bào)該標(biāo)準(zhǔn)，于2023年8月份通過全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技

術(shù)委員會立項(xiàng)。

1.2制定背景

2022年11月底，生成式人工智能的出現(xiàn)引發(fā)各方廣泛關(guān)注。為促進(jìn)生成式人

工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，2023年4月11日，國家互聯(lián)網(wǎng)信息化辦公室起

草的《生成式人工智能服務(wù)管理辦法（草案）》向全社會公開征求意見。其中，

第七條有關(guān)“生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)”條款備受關(guān)注。

2023年4月13日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布《關(guān)于發(fā)布2023年度第一

批網(wǎng)絡(luò)安全國家標(biāo)準(zhǔn)需求的通知》，將本標(biāo)準(zhǔn)納入2023年網(wǎng)絡(luò)安全國家安全標(biāo)準(zhǔn)

需求項(xiàng)目。2023年7月13日，《生成式人工智能服務(wù)管理暫行辦法》正式公布，

并已于2023年8月15日正式施行。

2023年8月25日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布《全國信息安全標(biāo)準(zhǔn)

化技術(shù)委員會關(guān)于2023年第一批網(wǎng)絡(luò)安全國家標(biāo)準(zhǔn)項(xiàng)目立項(xiàng)的通知》，明確本標(biāo)

準(zhǔn)由北京中關(guān)村實(shí)驗(yàn)室作為項(xiàng)目牽頭單位負(fù)責(zé)標(biāo)準(zhǔn)編制工作。

1.3起草過程

1、2023年4月，北京中關(guān)村實(shí)驗(yàn)室牽頭組建標(biāo)準(zhǔn)前期研究工作小組，小組

對研究《生成式人工智能管理辦法（征求意見稿）》，廣泛收集專家對辦法的討論

與解讀，形成相應(yīng)標(biāo)準(zhǔn)草案，并準(zhǔn)備申報(bào)材料。

1

2、2023年6月，北京中關(guān)村實(shí)驗(yàn)室編制組在全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員

會2023年第一次“標(biāo)準(zhǔn)周”上進(jìn)行標(biāo)準(zhǔn)匯報(bào)，通過組內(nèi)成員單位投票。標(biāo)準(zhǔn)編

制組根據(jù)意見進(jìn)行認(rèn)真修改。

3、2023年8月，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布《全國信息安全標(biāo)準(zhǔn)

化技術(shù)委員會關(guān)于2023年第一批網(wǎng)絡(luò)安全國家標(biāo)準(zhǔn)項(xiàng)目立項(xiàng)的通知》，同意本標(biāo)

準(zhǔn)由北京中關(guān)村實(shí)驗(yàn)室作為項(xiàng)目牽頭單位負(fù)責(zé)標(biāo)準(zhǔn)編制工作。

4、2023年9月，北京中關(guān)村實(shí)驗(yàn)室召開標(biāo)準(zhǔn)研討會，繼續(xù)完善標(biāo)準(zhǔn)草案，

并對外公開征集標(biāo)準(zhǔn)參編單位。

5.2023年10月，北京中關(guān)村實(shí)驗(yàn)室正式成立標(biāo)準(zhǔn)編制組，召開國家標(biāo)準(zhǔn)制

定啟動會，并就標(biāo)準(zhǔn)草案內(nèi)容向參編單位征集貢獻(xiàn)，對標(biāo)準(zhǔn)內(nèi)容進(jìn)行完善。

6.2023年11月，北京中關(guān)村實(shí)驗(yàn)室編制組在全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員

會2023年第二次“標(biāo)準(zhǔn)周”上進(jìn)行標(biāo)準(zhǔn)匯報(bào)。SWG-BDS工作組對標(biāo)準(zhǔn)進(jìn)行了審

議并行成“修改完善后轉(zhuǎn)為征求意見稿”結(jié)論。標(biāo)準(zhǔn)編制組根據(jù)意見進(jìn)行認(rèn)真修

改。

二、標(biāo)準(zhǔn)編制原則、主要內(nèi)容及其確定依據(jù)

2.1標(biāo)準(zhǔn)編制原則

本標(biāo)準(zhǔn)的編制遵循以下原則：

(1)先進(jìn)性：標(biāo)準(zhǔn)反映當(dāng)前《生成式人工智能服務(wù)管理暫行辦法》等最新

法律要求以及生成式人工智能的先進(jìn)技術(shù)水平；

(2)開放性：標(biāo)準(zhǔn)的編制、評審與使用具有開放性；

(3)適應(yīng)性：標(biāo)準(zhǔn)結(jié)合我國國情；

(4)簡明性：標(biāo)準(zhǔn)易于理解、實(shí)現(xiàn)和應(yīng)用；

(5)中立性：公正、中立，不與任何利益攸關(guān)方發(fā)生關(guān)聯(lián)；

(6)一致性：術(shù)語與國內(nèi)外標(biāo)準(zhǔn)所用術(shù)語最大程度保持一致。

本標(biāo)準(zhǔn)通過“數(shù)據(jù)通用安全”和“數(shù)據(jù)處理安全”兩個維度，對生成式人

工智能服務(wù)的研發(fā)者開展預(yù)訓(xùn)練和優(yōu)化訓(xùn)練過程中涉及的數(shù)據(jù)處理過程安全保

護(hù)要求作出明確規(guī)范，以實(shí)現(xiàn)降低生成式人工智能服務(wù)遭受數(shù)據(jù)投毒、惡意誘導(dǎo)

性提示等安全威脅目的。

2.2主要內(nèi)容及其確定依據(jù)

2

本項(xiàng)目旨在于支撐《生成式人工智能服務(wù)管理暫行辦法》第七條對預(yù)訓(xùn)練

和優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動規(guī)范的落地實(shí)施，試圖明確生成式人工智能服務(wù)

研發(fā)者在預(yù)訓(xùn)練和優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動中的數(shù)據(jù)來源等方面的管理要

求，解決生成式人工智能服務(wù)可能存在的被誘導(dǎo)生成侵害他人知識產(chǎn)權(quán)、個人信

息等問題，提高生成式人工智能服務(wù)的安全性。

2.3修訂前后技術(shù)內(nèi)容的對比[僅適用于國家標(biāo)準(zhǔn)修訂項(xiàng)目]

不適用。

三、試驗(yàn)驗(yàn)證的分析、綜述報(bào)告，技術(shù)經(jīng)濟(jì)論證，預(yù)期的經(jīng)濟(jì)效益、社會

效益和生態(tài)效益

3.1試驗(yàn)驗(yàn)證的分析、綜述報(bào)告

本文件規(guī)定了生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)及其處理活動的安全

要求，描述了對應(yīng)的評價(jià)方法。

本文件適用于指導(dǎo)生成式人工智能服務(wù)提供者開展預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)

處理活動以及開展與訓(xùn)練預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全自評價(jià)，也可為監(jiān)管評估提

供參考。

北京中關(guān)村實(shí)驗(yàn)室牽頭制定本標(biāo)準(zhǔn)，并承擔(dān)標(biāo)準(zhǔn)應(yīng)用推廣工作。國家計(jì)算機(jī)

網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心、中國電子技術(shù)標(biāo)準(zhǔn)化研究院、清華大學(xué)、北京深言

科技有限責(zé)任公司、北京面壁智能科技有限責(zé)任公司、北京智譜華章科技有限公

司等單位將承擔(dān)標(biāo)準(zhǔn)應(yīng)用試點(diǎn)和技術(shù)支持任務(wù)。

本標(biāo)準(zhǔn)編制過程主要分為標(biāo)準(zhǔn)文本編制及完善、標(biāo)準(zhǔn)試點(diǎn)工作等。前期以北

京中關(guān)村實(shí)驗(yàn)室為牽頭單位，組織聯(lián)合申報(bào)單位充分調(diào)研學(xué)術(shù)界、產(chǎn)業(yè)界相關(guān)情

況后共同撰寫修改標(biāo)準(zhǔn)草案。標(biāo)準(zhǔn)完善后，在北京深言科技有限責(zé)任公司、北京

面壁智能科技有限責(zé)任公司、北京智譜華章科技有限公司等參與單位展開標(biāo)準(zhǔn)試

點(diǎn)工作。

3.2技術(shù)經(jīng)濟(jì)論證

雖然落實(shí)本標(biāo)準(zhǔn)提出的安全要求，在短期內(nèi)給生成式人工智能服務(wù)研發(fā)者增

加了經(jīng)濟(jì)成本，包括但不限于：新增知識產(chǎn)權(quán)等方面合規(guī)人員的成本、開發(fā)分類

模型等數(shù)據(jù)識別清洗計(jì)算機(jī)程序的成本、安全風(fēng)險(xiǎn)自評估的成本等，但這些成本

能夠有效增加生成式人工智能服務(wù)在社會公眾使用、公眾輿論方面的接受度和認(rèn)

可度，降低生成式人工智能服務(wù)在知識產(chǎn)權(quán)、個人信息等方面糾紛、爭議的成本。

3

總的來說，該技術(shù)標(biāo)準(zhǔn)給企業(yè)帶來正面的經(jīng)濟(jì)效應(yīng)。

3.3預(yù)期的經(jīng)濟(jì)效益、社會效益和生態(tài)效益

該標(biāo)準(zhǔn)的社會效益在于保護(hù)生成式人工智能服務(wù)的安全性，減少生成式人工

智能服務(wù)在侵害知識產(chǎn)權(quán)、個人信息等方面的風(fēng)險(xiǎn)，并在此基礎(chǔ)上促進(jìn)生成式人

工智能服務(wù)商業(yè)方面的良性競爭。

該標(biāo)準(zhǔn)不涉及生態(tài)效益。

四、與國際、國外同類標(biāo)準(zhǔn)技術(shù)內(nèi)容的對比情況，或者與測試的國外樣品、

樣機(jī)的有關(guān)數(shù)據(jù)對比情況

目前生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全不存在對應(yīng)的國際標(biāo)準(zhǔn)，也

未見其他國家制定了對應(yīng)的技術(shù)標(biāo)準(zhǔn)。

五、以國際標(biāo)準(zhǔn)為基礎(chǔ)的起草情況，以及是否合規(guī)引用或者采用國際國外

標(biāo)準(zhǔn)，并說明未采用國際標(biāo)準(zhǔn)的原因

當(dāng)前，國際標(biāo)準(zhǔn)并沒有對生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全開展標(biāo)

準(zhǔn)化工作，其他國家也沒有制定對應(yīng)的技術(shù)標(biāo)準(zhǔn)，因此本標(biāo)準(zhǔn)制定工作中沒有采

用國際標(biāo)準(zhǔn)或國外標(biāo)準(zhǔn)。

六、與有關(guān)法律、行政法規(guī)及相關(guān)標(biāo)準(zhǔn)的關(guān)系

本標(biāo)準(zhǔn)與現(xiàn)行法律、法規(guī)以及國家標(biāo)準(zhǔn)不存在沖突與矛盾。

本標(biāo)準(zhǔn)為《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)的落地實(shí)施提供

支撐，建議與標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)生成式人工智能數(shù)據(jù)標(biāo)注安全規(guī)范》等配套

使用。

七、重大分歧意見的處理經(jīng)過和依據(jù)

無。

八、涉及專利的有關(guān)說明

無。

九、實(shí)施國家標(biāo)準(zhǔn)的要求，以及組織措施、技術(shù)措施、過渡期和實(shí)施日期

的建議等措施建議

本標(biāo)準(zhǔn)規(guī)定了生成式人工智能在預(yù)訓(xùn)練和優(yōu)化訓(xùn)練過程中，對所使用數(shù)據(jù)的

通用安全要求、數(shù)據(jù)處理方面的安全要求，以及評價(jià)方法，適用于面向我國境內(nèi)

公眾提供生成式人工智能服務(wù)的組織或個人提高預(yù)訓(xùn)練及優(yōu)化訓(xùn)練數(shù)據(jù)獲取與

準(zhǔn)備的安全水平，可也為生成式人工智能的數(shù)據(jù)提供者提供參考。

4

十、其他應(yīng)當(dāng)說明的事項(xiàng)

無。

《網(wǎng)絡(luò)安全技術(shù)生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全規(guī)范》

標(biāo)準(zhǔn)編制組

2024年3月28日

5

國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)

據(jù)安全規(guī)范》（征求意見稿）編制說明

一、工作簡況

1.1任務(wù)來源

為加強(qiáng)網(wǎng)絡(luò)安全國家標(biāo)準(zhǔn)在國家網(wǎng)絡(luò)安全保障工作中的基礎(chǔ)性、規(guī)范性、引

領(lǐng)性作用，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會調(diào)研國家網(wǎng)絡(luò)安全重點(diǎn)工作和技術(shù)產(chǎn)

業(yè)發(fā)展需求，研究形成了2023年網(wǎng)絡(luò)安全國家標(biāo)準(zhǔn)需求清單，含《網(wǎng)絡(luò)安全技術(shù)

生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全規(guī)范》。2023年5月，北京中關(guān)村實(shí)

驗(yàn)室聯(lián)合相關(guān)單位參與申報(bào)該標(biāo)準(zhǔn)，于2023年8月份通過全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技

術(shù)委員會立項(xiàng)。

1.2制定背景

2022年11月底，生成式人工智能的出現(xiàn)引發(fā)各方廣泛關(guān)注。為促進(jìn)生成式人

工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，2023年4月11日，國家互聯(lián)網(wǎng)信息化辦公室起

草的《生成式人工智能服務(wù)管理辦法（草案）》向全社會公開征求意見。其中，

第七條有關(guān)“生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)”條款備受關(guān)注。

2023年4月13日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布《關(guān)于發(fā)布2023年度第一

批網(wǎng)絡(luò)安全國家標(biāo)準(zhǔn)需求的通知》，將本標(biāo)準(zhǔn)納入2023年網(wǎng)絡(luò)安全國家安全標(biāo)準(zhǔn)

需求項(xiàng)目。2023年7月13日，《生成式人工智能服務(wù)管理暫行辦法》正式公布，

并已于2023年8月15日正式施行。

2023年8月25日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布《全國信息安全標(biāo)準(zhǔn)

化技術(shù)委員會關(guān)于2023年第一批網(wǎng)絡(luò)安全國家標(biāo)準(zhǔn)項(xiàng)目立項(xiàng)的通知》，明確本標(biāo)

準(zhǔn)由北京中關(guān)村實(shí)驗(yàn)室作為項(xiàng)目牽頭單位負(fù)責(zé)標(biāo)準(zhǔn)編制工作。

1.3起草過程

1、2023年4月，北京中關(guān)村實(shí)驗(yàn)室牽頭組建標(biāo)準(zhǔn)前期研究工作小組，小組

對研究《生成式人工智能管理辦法（征求意見稿）》，廣泛收集專家對辦法的討論

與解讀，形成相應(yīng)標(biāo)準(zhǔn)草案，并準(zhǔn)備申報(bào)材料。

1

2、2023年6月，北京中關(guān)村實(shí)驗(yàn)室編制組在全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員

會2023年第一次“標(biāo)準(zhǔn)周”上進(jìn)行標(biāo)準(zhǔn)匯報(bào)，通過組內(nèi)成員單位投票。標(biāo)準(zhǔn)編

制組根據(jù)意見進(jìn)行認(rèn)真修改。

3、2023年8月，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布《全國信息安全標(biāo)準(zhǔn)

化技術(shù)委員會關(guān)于2023年第一批網(wǎng)絡(luò)安全國家標(biāo)準(zhǔn)項(xiàng)目立項(xiàng)的通知》，同意本標(biāo)

準(zhǔn)由北京中關(guān)村實(shí)驗(yàn)室作為項(xiàng)目牽頭單位負(fù)責(zé)標(biāo)準(zhǔn)編制工作。

4、2023年9月，北京中關(guān)村實(shí)驗(yàn)室召開標(biāo)準(zhǔn)研討會，繼續(xù)完善標(biāo)準(zhǔn)草案，

并對外公開征集標(biāo)準(zhǔn)參編單位。

5.2023年10月，北京中關(guān)村實(shí)驗(yàn)室正式成立標(biāo)準(zhǔn)編制組，召開國家標(biāo)準(zhǔn)制

定啟動會，并就標(biāo)準(zhǔn)草案內(nèi)容向參編單位征集貢獻(xiàn)，對標(biāo)準(zhǔn)內(nèi)容進(jìn)行完善。

6.2023年11月，北京中關(guān)村實(shí)驗(yàn)室編制組在全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員

會2023年第二次“標(biāo)準(zhǔn)周”上進(jìn)行標(biāo)準(zhǔn)匯報(bào)。SWG-BDS工作組對標(biāo)準(zhǔn)進(jìn)行了審

議并行成“修改完善后轉(zhuǎn)為征求意見稿”結(jié)論。標(biāo)準(zhǔn)編制組根據(jù)意見進(jìn)行認(rèn)真修

改。

二、標(biāo)準(zhǔn)編制原則、主要內(nèi)容及其確定依據(jù)

2.1標(biāo)準(zhǔn)編制原則

本標(biāo)準(zhǔn)的編制遵循以下原則：

(1)先進(jìn)性：標(biāo)準(zhǔn)反映當(dāng)前《生成式人工智能服務(wù)管理暫行辦法》等最新

法律要求以及生成式人工智能的先進(jìn)技術(shù)水平；

(2)開放性：標(biāo)準(zhǔn)的編制、評審與使用具有開放性；

(3)適應(yīng)性：標(biāo)準(zhǔn)結(jié)合我國國情；

(4)簡明性：標(biāo)準(zhǔn)易于理解、實(shí)現(xiàn)和應(yīng)用；

(5)中立性：公正、中立，不與任何利益攸關(guān)方發(fā)生關(guān)聯(lián)；

(6)一致性：術(shù)語與國內(nèi)外標(biāo)準(zhǔn)所用術(shù)語最大程度保持一致。

本標(biāo)準(zhǔn)通過“數(shù)據(jù)通用安全”和“數(shù)據(jù)處理安全”兩個維度，對生成式人

工智能服務(wù)的研發(fā)者開展預(yù)訓(xùn)練和優(yōu)化訓(xùn)練過程中涉及的數(shù)據(jù)處理過程安全保

護(hù)要求作出明確規(guī)范，以實(shí)現(xiàn)降低生成式人工智能服務(wù)遭受數(shù)據(jù)投毒、惡意誘導(dǎo)

性提示等安全威脅目的。

2.2主要內(nèi)容及其確定依據(jù)

2

本項(xiàng)目旨在于支撐《生成式人工智能服務(wù)管理暫行辦法》第七條對預(yù)訓(xùn)練

和優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動規(guī)范的落地實(shí)施，試圖明確生成式人工智能服務(wù)

研發(fā)者在預(yù)訓(xùn)練和優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動中的數(shù)據(jù)來源等方面的管理要

求，解決生成式人工智能服務(wù)可能存在的被誘導(dǎo)生成侵害他人知識產(chǎn)權(quán)、個人信

息等問題，提高生成式人工智能服務(wù)的安全性。

2.3修訂前后技術(shù)內(nèi)容的對比[僅適用于國家標(biāo)準(zhǔn)修訂項(xiàng)目]

不適用。

三、試驗(yàn)驗(yàn)證的分析、綜述報(bào)告，技術(shù)經(jīng)濟(jì)論證，預(yù)期的經(jīng)濟(jì)效益、社會

效益和生態(tài)效益

3.1試驗(yàn)驗(yàn)證的分析、綜述報(bào)告