ICS35030

CCSL.80

中華人民共和國國家標準

GB/T42888—2023

信息安全技術(shù)

機器學習算法安全評估規(guī)范

Informationsecuritytechnology—

Assessmentspecificationforsecurityofmachinelearningalgorithms

2023-08-06發(fā)布2024-03-01實施

國家市場監(jiān)督管理總局發(fā)布

國家標準化管理委員會

GB/T42888—2023

目次

前言

…………………………Ⅲ

范圍

1………………………1

規(guī)范性引用文件

2…………………………1

術(shù)語和定義

3………………1

概述

4………………………2

安全原則

4.1……………2

安全要求分級

4.2………………………2

機器學習算法技術(shù)安全要求和評估方法

5………………2

安全要求

5.1……………2

評估方法

5.2……………5

機器學習算法服務(wù)安全要求和評估方法

6………………9

安全要求

6.1……………9

評估方法

6.2……………9

機器學習算法安全評估流程

7……………11

流程要求

7.1……………11

評估準備

7.2……………11

評估方案

7.3……………11

評估執(zhí)行

7.4……………12

評估結(jié)論

7.5……………12

評估報告

7.6……………12

附錄規(guī)范性算法推薦服務(wù)安全要求

A()………………14

附錄規(guī)范性算法推薦服務(wù)評估方法

B()………………21

參考文獻

……………………29

Ⅰ

GB/T42888—2023

前言

本文件按照標準化工作導則第部分標準化文件的結(jié)構(gòu)和起草規(guī)則的規(guī)定

GB/T1.1—2020《1:》

起草

。

請注意本文件的某些內(nèi)容可能涉及專利本文件的發(fā)布機構(gòu)不承擔識別專利的責任

。。

本文件由全國信息安全標準化技術(shù)委員會提出并歸口

(SAC/TC260)。

本文件起草單位北京賽西科技發(fā)展有限責任公司中國科學院計算技術(shù)研究所清華大學國家計

:、、、

算機網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心上海商湯智能科技有限公司北京瑞萊智慧科技有限公司阿里巴巴

、、、

中國有限公司中國科學院信息工程研究所中國信息通信研究院中國電子科技集團公司第十五研

()、、、

究所國家信息技術(shù)安全研究中心廣州大學北京大學華東師范大學北京航空航天大學華為技術(shù)有

、、、、、、

限公司北京曠視科技有限公司北京百度網(wǎng)訊科技有限公司深圳市騰訊計算機系統(tǒng)有限公司浙江大

、、、、

學北京奇虎科技有限公司北京小桔科技有限公司安徽工程大學北京智者天下科技有限公司北京

、、、、、

交通大學浙江工業(yè)大學上海工業(yè)控制安全創(chuàng)新科技有限公司中國人民公安大學深圳市大數(shù)據(jù)研究

、、、、

院北京計算機技術(shù)及應(yīng)用研究所中國科學院自動化研究所上海燧原科技有限公司烽臺科技北京

、、、、()

有限公司中國電子技術(shù)標準化研究院

、。

本文件主要起草人上官曉麗郝春亮許曉耕胡影陳鐘沈華偉蔣慧梅敬青張宇光彭駿濤

:、、、、、、、、、、

郭巖李鵬霄艾政陽趙蕓偉韓晗劉明尹芷儀龐亮王曉詩劉總真周熙孟國柱景慧昀張琳琳

、、、、、、、、、、、、、、

朱純超霍珊珊劉健劉赫蘇航金濤劉吉強任奎張旭東成瑾朱紅儒楊韜李欽劉祥龍

、、、、、、、、、、、、、、

王義飛吳庚赫然顧釗銓李實曹曉琦嚴敏瑞付英波郭穎孫空軍唐家渝劉曦澤王哲麟任璐

、、、、、、、、、、、、、、

徐永太張屹秦湛安澤亮徐雨晴李雪李大海徐光俠包沉浮郭建領(lǐng)宣琦張世天趙涌鑫王姣

、、、、、、、、、、、、、、

王秉政蘆天亮吳保元韓磊張雨桐彭泉

、、、、、。

Ⅲ

GB/T42888—2023

信息安全技術(shù)

機器學習算法安全評估規(guī)范

1范圍

本文件規(guī)定了機器學習算法技術(shù)和服務(wù)的安全要求和評估方法以及機器學習算法安全評估流程

,。

本文件適用于指導機器學習算法提供者保障機器學習算法生存周期安全以及開展機器學習算法安

全評估也可為監(jiān)管評估提供參考

,。

2規(guī)范性引用文件

本文件沒有規(guī)范性引用文件

。

3術(shù)語和定義

下列術(shù)語和定義適用于本文件

。

31

.

機器學習算法machinelearningalgorithm

功能單元通過學習新知識技能或整理已有知識技能以改進其性能的算法

。

32

.

機器學習算法提供者machinelearningalgorithmprovider

利用機器學習算法實現(xiàn)特定功能的組織

。

注本文件中簡稱算法提供者包括算法技術(shù)提供者和算法服務(wù)提供者算法技術(shù)提供者是指算法技術(shù)的開發(fā)和

:,。

提供方算法服務(wù)提供者是指使用應(yīng)用算法技術(shù)的服務(wù)提供方

,。

33

.

算法推薦服務(wù)algorithmicrecommendationservice

互聯(lián)網(wǎng)信息服務(wù)算法推薦internetinformationserviceofalgorithmicrecommendation

應(yīng)用算法推薦技術(shù)提供信息的服