ICS35040

CCSL.80

團(tuán)體標(biāo)準(zhǔn)

T/ISEAA005—2024

大模型系統(tǒng)安全保護(hù)要求

Securityprotectionrequirementsforlargemodelsystem

2024-04-30發(fā)布2024-06-01實(shí)施

中關(guān)村信息安全測(cè)評(píng)聯(lián)盟發(fā)布

中國(guó)標(biāo)準(zhǔn)出版社出版

T/ISEAA005—2024

目次

前言

…………………………Ⅲ

引言

…………………………Ⅳ

范圍

1………………………1

規(guī)范性引用文件

2…………………………1

術(shù)語(yǔ)和定義

3………………1

概述

4………………………1

大模型系統(tǒng)架構(gòu)

4.1……………………1

大模型系統(tǒng)安全

4.2……………………2

通用安全要求

5……………3

物理環(huán)境

5.1……………3

網(wǎng)絡(luò)架構(gòu)

5.2……………3

邊界防護(hù)

5.3……………3

身份鑒別

5.4……………4

訪問(wèn)控制

5.5……………4

安全審計(jì)

5.6……………4

入侵防范

5.7……………5

惡意代碼防范

5.8………………………5

集中管控

5.9……………5

供應(yīng)鏈管理

5.10…………………………5

個(gè)人信息保護(hù)

5.11………………………6

數(shù)據(jù)安全保護(hù)

5.12………………………6

備份恢復(fù)

5.13……………6

數(shù)據(jù)溯源

5.14……………6

設(shè)計(jì)開發(fā)安全要求

6………………………6

數(shù)據(jù)處理

6.1……………6

模型保護(hù)

6.2……………7

內(nèi)容安全

6.3……………8

測(cè)試安全要求

7……………8

模型評(píng)估

7.1……………8

模型更新

7.2……………9

部署與運(yùn)行安全要求

8……………………9

模型部署

8.1……………9

攻擊檢測(cè)

8.2……………9

Ⅰ

T/ISEAA005—2024

運(yùn)行監(jiān)測(cè)

8.3……………10

系統(tǒng)管理

8.4……………10

變更管理

8.5……………10

安全事件處置

8.6………………………10

應(yīng)急預(yù)案管理

8.7………………………10

退役安全要求

9……………11

模型退役

9.1……………11

數(shù)據(jù)刪除

9.2……………11

參考文獻(xiàn)

……………………12

Ⅱ

T/ISEAA005—2024

前言

本文件按照標(biāo)準(zhǔn)化工作導(dǎo)則第部分標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則的規(guī)定

GB/T1.1—2020《1:》

起草

。

本文件由中關(guān)村信息安全測(cè)評(píng)聯(lián)盟提出并歸口

。

本文件起草單位公安部第三研究所北京百度網(wǎng)訊科技有限公司螞蟻科技集團(tuán)股份有限公司

:、、、

浙江大學(xué)北京天融信網(wǎng)絡(luò)安全技術(shù)有限公司啟明星辰信息技術(shù)集團(tuán)股份有限公司快手科技有限公

、、、

司上海商湯智能科技有限公司北京遠(yuǎn)鑒信息技術(shù)有限公司華為技術(shù)有限公司阿里云計(jì)算有限公

、、、、

司深信服科技股份有限公司科大訊飛股份有限公司北京百川智能科技有限公司北京小桔科技有限

、、、、

公司優(yōu)刻得科技股份有限公司浙江君同智能科技有限責(zé)任公司

、、。

本文件主要起草人袁靜文煜乾張國(guó)鵬劉楠?jiǎng)⒔瘀侮懻殛悘V勇蘇艷芳劉繼順郭建領(lǐng)

:、、、、、、、、、、

唐佳偉李榮昌楊劍邵英杰谷晨徐浩鄭榕王龑蔣發(fā)群孫鈺嬈嚴(yán)敏瑞孫勇葉潤(rùn)國(guó)常炳濤

、、、、、、、、、、、、、、

張宏達(dá)樊玉杰馮明韓蒙林昶廷

、、、、。

Ⅲ

T/ISEAA005—2024

引言

為規(guī)范大模型系統(tǒng)安全保護(hù)工作的開展對(duì)大模型系統(tǒng)設(shè)計(jì)開發(fā)測(cè)試部署運(yùn)行退役等環(huán)節(jié)涉

,、、、、、

及的安全保護(hù)提出詳細(xì)的指導(dǎo)幫助主管部門網(wǎng)絡(luò)運(yùn)營(yíng)者及大模型開發(fā)者對(duì)大模型及大模型系統(tǒng)開展

,、

安全保護(hù)工作特制定本文件

,。

本文件是大模型系統(tǒng)安全保護(hù)相關(guān)系列標(biāo)準(zhǔn)之一

。

與本文件相關(guān)的標(biāo)準(zhǔn)包括

:

大模型系統(tǒng)安全測(cè)評(píng)要求

———T/ISEAA006—2024。

Ⅳ

T/ISEAA005—2024

大模型系統(tǒng)安全保護(hù)要求

1范圍

本文件規(guī)定了大模型系統(tǒng)的通用安全以及設(shè)計(jì)開發(fā)測(cè)試部署與運(yùn)行以及退役等階段的全生命周

、、

期安全的保護(hù)要求

。

本文件適用于指導(dǎo)開發(fā)者及運(yùn)營(yíng)者對(duì)大模型及大模型系統(tǒng)進(jìn)行全生命周期安全保護(hù)大模型系統(tǒng)

,

安全保護(hù)的其他方參考使用

。

2規(guī)范性引用文件

下列文件中的內(nèi)容通過(guò)文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款其中注日期的引用文

。,

件僅該日期對(duì)應(yīng)的版本適用于本文件不注日期的引用文件其最新版本包括所有的修改單適用于

,;,()

本文件

。

信息安全技術(shù)網(wǎng)絡(luò)安全等級(jí)保護(hù)基本要求

GB/T22239—2019

信息安全技術(shù)術(shù)語(yǔ)

GB/T25069

3術(shù)語(yǔ)和定義

界定的以及下列術(shù)語(yǔ)和定義適用于本文件

GB/T22239、GB/T25069。

31

.

大模型largemode