ICS35030

CCSL.80

中華人民共和國國家標準

GB/T45674—2025

網絡安全技術

生成式人工智能數(shù)據標注安全規(guī)范

Cybersecuritytechnology—Generativeartificialintelligencedataannotation

securityspecification

2025-04-25發(fā)布2025-11-01實施

國家市場監(jiān)督管理總局發(fā)布

國家標準化管理委員會

GB/T45674—2025

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范圍

1………………………1

規(guī)范性引用文件

2…………………………1

術語和定義

3………………1

概述

4………………………2

數(shù)據標注平臺或工具安全要求

5…………3

數(shù)據標注規(guī)則安全要求

6…………………3

數(shù)據標注人員要求

7………………………4

安全培訓

7.1……………4

任務分配

7.2……………4

人員管理

7.3……………4

數(shù)據標注核驗要求

8………………………5

基本要求

8.1……………5

功能性標注核驗安全要求

8.2…………5

安全性標注核驗安全要求

8.3…………6

數(shù)據標注安全評價方法

9…………………6

數(shù)據標注平臺或工具安全要求評價方法

9.1…………6

數(shù)據標注規(guī)則安全要求評價方法

9.2…………………7

數(shù)據標注人員要求評價方法

9.3………………………8

數(shù)據標注核驗要求評價方法

9.4………………………10

附錄資料性生成式人工智能數(shù)據標注示例

A()………12

附錄資料性人工智能標注任務類型示例

B()…………14

Ⅰ

GB/T45674—2025

前言

本文件按照標準化工作導則第部分標準化文件的結構和起草規(guī)則的規(guī)定

GB/T1.1—2020《1:》

起草

。

請注意本文件的某些內容可能涉及專利本文件的發(fā)布機構不承擔識別專利的責任

。。

本文件由全國網絡安全標準化技術委員會提出并歸口

(SAC/TC260)。

本文件起草單位國家計算機網絡應急技術處理協(xié)調中心中國電子技術標準化研究院北京中關

:、、

村實驗室北京快手科技有限公司北京百度網訊科技有限公司北京天融信網絡安全技術有限公司

、、、、

阿里云計算有限公司北京大學國家計算機網絡應急技術處理協(xié)調中心江蘇分中心公安部第三研究

、、、

所清華大學上海人工智能創(chuàng)新中心北京市公安局人工智能安全研究中心西安郵電大學浙江大學

、、、、、、

中國科學院信息工程研究所中國移動通信集團有限公司小米科技有限責任公司螞蟻科技集團股份

、、、

有限公司華為云計算技術有限公司北京數(shù)安行科技有限公司北京晴數(shù)智慧科技有限公司北京零一

、、、、

萬物科技有限公司北京奇虎科技有限公司科大訊飛股份有限公司聯(lián)想北京有限公司啟明星辰信

、、、()、

息技術集團股份有限公司亞信科技成都有限公司杭州螢石軟件有限公司北京東方通網信科技有

、()、、

限公司廣東省信息安全測評中心廈門美柚股份有限公司北京瑞萊智慧科技有限公司天翼安全科技

、、、、

有限公司北京遠鑒信息技術有限公司上海商湯智能科技有限公司蘇州核數(shù)聚信息科技有限公司

、、、、

南京領行科技股份有限公司江蘇滿運軟件科技有限公司長安通信科技有限責任公司廣東移

、、、OPPO

動通信有限公司

。

本文件主要起草人張震譚知行張妍婷賀敏劉勇孫旭東徐恪陳鐘杜金浩郝春亮任奎

:、、、、、、、、、、、

劉楠落紅衛(wèi)葉曉俊安勍胡影王龑姚龍謝安明嵇程江為強丁治國雷曉鋒戴嬌谷晨

、、、、、、、、、、、、、、

張晴晴郭建領張勇羅磊劉玉紅廖雙曉蔣慧趙云張峰許曉耕王文宇陳洋張夏彭駿濤

、、、、、、、、、、、、、、

包沉浮王海棠孟凡芹趙麗麗劉俊華李家錕崔婷婷余瀚洋李峰風臧嬌嬌林冠辰丁欣

、、、、、、、、、、、、

王士進韓晗張向征胡嵩智徐怡悅管銘張?zhí)燹赛S喆劉俊周雪鄭榕劉棟羅旭鵬鄭鴻咚

、、、、、、、、、、、、、、

蔣發(fā)群馬夢娜田偉麗胡月黃鵬華張小敏張中維周城李根李笑如張秉晟王和俊劉洞賓

、、、、、、、、、、、、。

Ⅲ

GB/T45674—2025

引言

數(shù)據標注是生成式人工智能的關鍵活動直接決定了訓練數(shù)據以及生成內容的質量和安全水平但

,,

由于標注規(guī)則不完善人員管理不規(guī)范核驗標準不明確等原因在數(shù)據標注過程中也可能為生成式人

、、,

工智能引入新的風險隱患亟需標準規(guī)范用于提高數(shù)據標注的安全水平為加強生成式人工智能數(shù)據

,。

標注活動的安全管理采取有效措施防范和處置相關風險編制本文件旨在幫助服務提供者數(shù)據標注

,,,、

組織方以及數(shù)據需求方明確數(shù)據標注的安全基線提高服務安全水平

、。

Ⅳ

GB/T45674—2025

網絡安全技術

生成式人工智能數(shù)據標注安全規(guī)范

1范圍

本文件規(guī)定了生成式人工智能訓練的數(shù)據標注平臺或工具安全要求數(shù)據標注規(guī)則安全要求數(shù)據

、、

標注人員要求數(shù)據標注核驗要求描述了數(shù)據標注安全評價方法

、,。

本文件適用于生成式人工智能數(shù)據標注組織方開展訓練數(shù)據標注活動并為生成式人工智能數(shù)據

,

需求方對于數(shù)據標注進行檢查驗收或第三方機構對數(shù)據標注進行安全性評估提供參考

、。

2規(guī)范性引用文件

下列文件中的內容通過文中的規(guī)范性引用而構成本文件必不可少的條款其中注日期的引用文

。,

件僅該日期對應的版本適用于本文件不注日期的引用文件其最新版本包括所有的修改單適用于

,;,()

本文件

。

人工智能面向機器學習的數(shù)據標注規(guī)程

GB/T42755—2023

網絡安全技術生成式人工智能服務安全基本要求

GB/T45654—2025

3術語和定義

下列術語和定義適用于本文件

。

31

.

提示信息prompt

引導生成式人工智能模型完成特定任務并提供合理輸出內容的輸入信息

。

32

.

響應信息response

在生成式人工智能數(shù)據標注中按照提示信息要求形成的符合人類認知的應答信息用于訓練模型

,,

形成對提示信息輸出相應內容