中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)

一、工作簡(jiǎn)況

1、項(xiàng)目背景

近年來，人工智能技術(shù)的發(fā)展促進(jìn)了計(jì)算形式的多樣化，通用計(jì)算的CPU及

GPU，半定制化的FPGA以及定制化的NPU、TPU等。對(duì)計(jì)算設(shè)備進(jìn)行虛擬化，可以

通過分時(shí)復(fù)用或分區(qū)復(fù)用的形式充分利用計(jì)算資源，同時(shí)結(jié)合調(diào)度技術(shù)（如K8s）

對(duì)虛擬化后的計(jì)算設(shè)備調(diào)度、任務(wù)分配，達(dá)到合理利用資源的目的。當(dāng)前，學(xué)術(shù)

界對(duì)不同計(jì)算設(shè)備的虛擬化技術(shù)有一定研究，如提出可用于AI任務(wù)的FPGA虛擬化

技術(shù)，提升性能隔離水平和減少性能損耗；提出對(duì)GPU資源的虛擬化技術(shù)等。很

多主流的AI服務(wù)平臺(tái)（如谷歌、亞馬遜等）及AI計(jì)算中心都具備對(duì)AI計(jì)算設(shè)備的

虛擬化和調(diào)度能力，國(guó)內(nèi)廠商也在不斷完善相關(guān)的基礎(chǔ)服務(wù)能力。因此，需要對(duì)

計(jì)算設(shè)備虛擬化技術(shù)提出基本要求，對(duì)虛擬化得到計(jì)算資源的屬性、規(guī)格、必要

功能、性能以及對(duì)外的接口進(jìn)行標(biāo)準(zhǔn)化，為任務(wù)調(diào)度提供支持。同時(shí)，用于異構(gòu)

人工智能計(jì)算設(shè)備的調(diào)度技術(shù)應(yīng)可充分協(xié)調(diào)、合理利用計(jì)算資源，需要根據(jù)人工

智能任務(wù)的場(chǎng)景提出調(diào)度管理技術(shù)的基本要求以及測(cè)試方法，構(gòu)建“人工智能計(jì)

算中心”的虛擬化與調(diào)度的測(cè)評(píng)體系。

2、任務(wù)來源

根據(jù)中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)2021年下達(dá)的團(tuán)體標(biāo)準(zhǔn)制修訂計(jì)劃的通

知，團(tuán)體標(biāo)準(zhǔn)《信息技術(shù)人工智能計(jì)算設(shè)備調(diào)度與協(xié)同第1部分：虛擬化與調(diào)

度》由中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院負(fù)責(zé)組織制定，其項(xiàng)目計(jì)劃號(hào)為

CESA-2021-3-019。

3、標(biāo)準(zhǔn)起草單位

本標(biāo)準(zhǔn)起草單位：中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院、華為技術(shù)有限公司、上海商

湯智能科技有限公司、騰訊云計(jì)算（北京）有限責(zé)任公司等。

4、主要工作過程

中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)

在標(biāo)準(zhǔn)計(jì)劃下達(dá)之前，《信息技術(shù)人工智能計(jì)算設(shè)備調(diào)度與協(xié)同第1部分：

虛擬化與調(diào)度》編制組于2021年1月舉行啟動(dòng)標(biāo)準(zhǔn)的預(yù)研工作，確定了總體思路。

2021年3月，討論確定標(biāo)準(zhǔn)的框架；

2021年6月，討論形成標(biāo)準(zhǔn)草案初版；

2021年9月，在中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)完成團(tuán)體標(biāo)準(zhǔn)立項(xiàng)；

2022年1月，編制組多次討論修改標(biāo)準(zhǔn)草案；

2022年5月，初稿完成，提交中電標(biāo)協(xié)秘書處，啟動(dòng)征求意見。

二、標(biāo)準(zhǔn)編制原則和確定主要內(nèi)容的論據(jù)及解決的主要問題

1、編制原則

《信息技術(shù)人工智能計(jì)算設(shè)備調(diào)度與協(xié)同第1部分：虛擬化與調(diào)度》標(biāo)準(zhǔn)

的編制原則如下：

a)先進(jìn)性原則：本標(biāo)準(zhǔn)是當(dāng)前AI服務(wù)平臺(tái)及AI計(jì)算中心亟需的AI計(jì)算設(shè)備的

虛擬化和調(diào)度能力。

b)實(shí)用性原則：本標(biāo)準(zhǔn)充分考慮了當(dāng)前我國(guó)人工智能異構(gòu)計(jì)算的發(fā)展現(xiàn)狀和

實(shí)際需求，編制組中吸收了產(chǎn)學(xué)研用各方面的先進(jìn)經(jīng)驗(yàn)，保證了標(biāo)準(zhǔn)的實(shí)用性。

c）兼容性原則：本標(biāo)準(zhǔn)編制時(shí)，充分考慮了人工智能計(jì)算設(shè)備調(diào)度與協(xié)同

與其它相關(guān)技術(shù)和產(chǎn)品的兼容性，可保證與現(xiàn)有產(chǎn)品和標(biāo)準(zhǔn)的兼容性。

d)國(guó)際性原則：本標(biāo)準(zhǔn)充分考慮到國(guó)內(nèi)外相關(guān)標(biāo)準(zhǔn)的關(guān)系。

e)規(guī)范性：本標(biāo)準(zhǔn)的編寫遵守國(guó)家標(biāo)準(zhǔn)GB/T1.1-2020《標(biāo)準(zhǔn)化工作導(dǎo)則第

1部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》。

2、確定主要內(nèi)容的論據(jù)

《信息技術(shù)人工智能計(jì)算設(shè)備調(diào)度與協(xié)同第1部分：虛擬化與調(diào)度》標(biāo)準(zhǔn)

規(guī)定了人工智能計(jì)算設(shè)備虛擬化與調(diào)度系統(tǒng)的技術(shù)要求以及接口，關(guān)于人工智能

計(jì)算設(shè)備虛擬化與調(diào)度系統(tǒng)的測(cè)試方法與測(cè)試指標(biāo)。適用于指導(dǎo)人工智能計(jì)算設(shè)

備虛擬化與調(diào)度系統(tǒng)的設(shè)計(jì)、研發(fā)、測(cè)試。

主要技術(shù)內(nèi)容包括：

接口要求：對(duì)于不同形式計(jì)算設(shè)備的虛擬化技術(shù)，規(guī)范必要的接口，為資源

調(diào)度層提供統(tǒng)一的調(diào)度接口；

中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)

技術(shù)要求：規(guī)定人工智能對(duì)計(jì)算設(shè)備虛擬化技術(shù)的基本能力要求以及對(duì)調(diào)度

層的調(diào)度要求，具備幫助構(gòu)建“人工智能計(jì)算中心”的能力；

測(cè)試：研究人工智能虛擬化與調(diào)度系統(tǒng)中的關(guān)鍵測(cè)試指標(biāo)、方法。如虛擬化

中的性能隔離、性能損耗以及評(píng)估虛擬化方案的標(biāo)準(zhǔn)；研究人工智能任務(wù)的調(diào)度

場(chǎng)景以及評(píng)測(cè)調(diào)度系統(tǒng)的測(cè)試方法指標(biāo)，幫助利益相關(guān)方合理評(píng)估調(diào)度系統(tǒng)對(duì)計(jì)

算設(shè)備的資源利用率。

3、主要解決的問題

計(jì)算設(shè)備資源虛擬化技術(shù)將以分時(shí)復(fù)用或分區(qū)復(fù)用的形式充分利用計(jì)算資

源，同時(shí)結(jié)合調(diào)度技術(shù)（如K8s）對(duì)虛擬化后的計(jì)算設(shè)備進(jìn)行調(diào)度和任務(wù)分配，

達(dá)到合理利用資源的目的。該標(biāo)準(zhǔn)規(guī)范虛擬化的計(jì)算資源的屬性、規(guī)格、必要功

能、性能以及對(duì)外的接口，為任務(wù)調(diào)度提供支持，同時(shí)推動(dòng)異構(gòu)人工智能計(jì)算設(shè)

備之間的統(tǒng)一調(diào)度和協(xié)同，明確標(biāo)準(zhǔn)化接口，消除異構(gòu)人工智能計(jì)算設(shè)備之間的

割裂，實(shí)現(xiàn)統(tǒng)一調(diào)度和協(xié)同。

三、主要試驗(yàn)[或驗(yàn)證]情況分析

無。

四、知識(shí)產(chǎn)權(quán)情況說明

無。

五、產(chǎn)業(yè)化情況、推廣應(yīng)用論證和預(yù)期達(dá)到的經(jīng)濟(jì)效果

計(jì)算設(shè)備的虛擬化是異構(gòu)計(jì)算設(shè)備應(yīng)用的重要途徑，產(chǎn)業(yè)界各機(jī)構(gòu)、企業(yè)對(duì)

虛擬化技術(shù)皆有研究，路線大同小異。計(jì)算虛擬化部分的標(biāo)準(zhǔn)化，有利于產(chǎn)業(yè)界

遵循相對(duì)統(tǒng)一的規(guī)則，實(shí)施計(jì)算設(shè)備虛擬化過程，為上層應(yīng)用對(duì)計(jì)算設(shè)備的使用

創(chuàng)造一致性標(biāo)準(zhǔn)基礎(chǔ)。鑒于虛擬化技術(shù)在產(chǎn)業(yè)界使用十分廣泛，本部分標(biāo)準(zhǔn)的推

廣應(yīng)用預(yù)期障礙較小。在編制的過程中，也獲得了主要企業(yè)、機(jī)構(gòu)的參與。

虛擬化部分標(biāo)準(zhǔn)的研制和實(shí)施，可以促進(jìn)產(chǎn)業(yè)界技術(shù)動(dòng)作的統(tǒng)一性。為上層

應(yīng)用簡(jiǎn)化適配、維護(hù)工作，降低成本。自2020年，我國(guó)涌現(xiàn)出2000多家芯片研

制企業(yè)和機(jī)構(gòu)，虛擬化過程的標(biāo)準(zhǔn)化，將幫助企業(yè)快速建立應(yīng)用生態(tài)，節(jié)省成本。

六、轉(zhuǎn)化國(guó)際標(biāo)準(zhǔn)和國(guó)外先進(jìn)標(biāo)準(zhǔn)情況

無。

七、與現(xiàn)行相關(guān)法律、法規(guī)、規(guī)章及相關(guān)標(biāo)準(zhǔn)的協(xié)調(diào)性

中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)

符合我國(guó)有關(guān)的現(xiàn)行法律、法規(guī)。

八、重大分歧意見的處理經(jīng)過和依據(jù)

無重大分歧意見。

九、貫徹標(biāo)準(zhǔn)的要求和措施建議

本標(biāo)準(zhǔn)的主要內(nèi)容首先規(guī)劃在國(guó)內(nèi)人工智能硬件廠商中深入地開展宣傳和

推廣應(yīng)用。同時(shí)，可通過各類國(guó)家級(jí)科技計(jì)劃和產(chǎn)業(yè)化項(xiàng)目資助，開展人工智能

計(jì)算設(shè)備調(diào)度與協(xié)同標(biāo)準(zhǔn)的試驗(yàn)驗(yàn)證、應(yīng)用示范，進(jìn)一步提升標(biāo)準(zhǔn)標(biāo)準(zhǔn)的知名度

和權(quán)威性。

十、替代或廢止現(xiàn)行相關(guān)標(biāo)準(zhǔn)的建議

無。

十一、其它應(yīng)予說明的事項(xiàng)

無。

《信息技術(shù)人工智能計(jì)算設(shè)備調(diào)度與協(xié)同第1

部分：虛擬化與調(diào)度》團(tuán)體標(biāo)準(zhǔn)編制起草組

2022-5-24

中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)

一、工作簡(jiǎn)況

1、項(xiàng)目背景

近年來，人工智能技術(shù)的發(fā)展促進(jìn)了計(jì)算形式的多樣化，通用計(jì)算的CPU及

GPU，半定制化的FPGA以及定制化的NPU、TPU等。對(duì)計(jì)算設(shè)備進(jìn)行虛擬化，可以

通過分時(shí)復(fù)用或分區(qū)復(fù)用的形式充分利用計(jì)算資源，同時(shí)結(jié)合調(diào)度技術(shù)（如K8s）

對(duì)虛擬化后的計(jì)算設(shè)備調(diào)度、任務(wù)分配，達(dá)到合理利用資源的目的。當(dāng)前，學(xué)術(shù)

界對(duì)不同計(jì)算設(shè)備的虛擬化技術(shù)有一定研究，如提出可用于AI任務(wù)的FPGA虛擬化

技術(shù)，提升性能隔離水平和減少性能損耗；提出對(duì)GPU資源的虛擬化技術(shù)等。很

多主流的AI服務(wù)平臺(tái)（如谷歌、亞馬遜等）及AI計(jì)算中心都具備對(duì)AI計(jì)算設(shè)備的

虛擬化和調(diào)度能力，國(guó)內(nèi)廠商也在不斷完善相關(guān)的基礎(chǔ)服務(wù)能力。因此，需要對(duì)

計(jì)算設(shè)備虛擬化技術(shù)提出基本要求，對(duì)虛擬化得到計(jì)算資源的屬性、規(guī)格、必要

功能、性能以及對(duì)外的接口進(jìn)行標(biāo)準(zhǔn)化，為任務(wù)調(diào)度提供支持。同時(shí)，用于異構(gòu)

人工智能計(jì)算設(shè)備的調(diào)度技術(shù)應(yīng)可充分協(xié)調(diào)、合理利用計(jì)算資源，需要根據(jù)人工

智能任務(wù)的場(chǎng)景提出調(diào)度管理技術(shù)的基本要求以及測(cè)試方法，構(gòu)建“人工智能計(jì)

算中心”的虛擬化與調(diào)度的測(cè)評(píng)體系。

2、任務(wù)來源

根據(jù)中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)2021年下達(dá)的團(tuán)體標(biāo)準(zhǔn)制修訂計(jì)劃的通

知，團(tuán)體標(biāo)準(zhǔn)《信息技術(shù)人工智能計(jì)算設(shè)備調(diào)度與協(xié)同第1部分：虛擬化與調(diào)

度》由中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院負(fù)責(zé)組織制定，其項(xiàng)目計(jì)劃號(hào)為

CESA-2021-3-019。

3、標(biāo)準(zhǔn)起草單位

本標(biāo)準(zhǔn)起草單位：中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院、華為技術(shù)有限公司、上海商

湯智能科技有限公司、騰訊云計(jì)算（北京）有限責(zé)任公司等。

4、主要工作過程

中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)

在標(biāo)準(zhǔn)計(jì)劃下達(dá)之前，《信息技術(shù)人工智能計(jì)算設(shè)備調(diào)度與協(xié)同第1部分：

虛擬化與調(diào)度》編制組于2021年1月舉行啟動(dòng)標(biāo)準(zhǔn)的預(yù)研工作，確定了總體思路。

2021年3月，討論確定標(biāo)準(zhǔn)的框架；

2021年6月，討論形成標(biāo)準(zhǔn)草案初版；

2021年9月，在中國(guó)電子工業(yè)標(biāo)準(zhǔn)化技術(shù)協(xié)會(huì)完成團(tuán)體標(biāo)準(zhǔn)立項(xiàng)；

2022年1月，編制組多次討論修改標(biāo)準(zhǔn)草案；

2022年5月，初稿完成，提交中電標(biāo)協(xié)秘書處，啟動(dòng)征求意見。

二、標(biāo)準(zhǔn)編制原則和確定主要內(nèi)容的論據(jù)及解決的主要問題

1、編制原則

《信息技術(shù)人工智能計(jì)算設(shè)備調(diào)度與協(xié)同第1部分：虛擬化與調(diào)度》標(biāo)準(zhǔn)

的編制原則如下：

a)先進(jìn)性原則：本標(biāo)準(zhǔn)是當(dāng)前AI服務(wù)平臺(tái)及AI計(jì)算中心亟需的AI計(jì)算設(shè)備的

虛擬化和調(diào)度能力。

b)實(shí)用性原則：本標(biāo)準(zhǔn)充分考慮了當(dāng)前我國(guó)人工智能異構(gòu)計(jì)算的發(fā)展現(xiàn)狀和

實(shí)際需求，編制組中吸收了產(chǎn)學(xué)研用各方面的先進(jìn)經(jīng)驗(yàn)，保證了標(biāo)準(zhǔn)的實(shí)用性。

c）兼容性原則：本標(biāo)準(zhǔn)編制時(shí)，充分考慮了人工智能計(jì)算設(shè)備調(diào)度與協(xié)同

與其它相關(guān)技術(shù)和產(chǎn)品的兼容性，可保證與現(xiàn)有產(chǎn)品和標(biāo)準(zhǔn)的兼容性。

d)國(guó)際性原則：本標(biāo)準(zhǔn)充分考慮到國(guó)內(nèi)外相關(guān)標(biāo)準(zhǔn)的關(guān)系。

e)規(guī)范性：本標(biāo)準(zhǔn)的編寫遵守國(guó)家標(biāo)準(zhǔn)GB/T1.1-2020《