全國數(shù)據(jù)標(biāo)準(zhǔn)化技術(shù)委員會技術(shù)文件Nationalintegratedcomputingnetwork——Technicalspecificationforpoollingofcomputingresourceinartificialintelligencedata202X-XX-XX發(fā)布I 5.4業(yè)務(wù)編排 1全國一體化算力網(wǎng)智算中心算力池化技術(shù)要求源池化管理、任務(wù)式資源申請與調(diào)度、業(yè)務(wù)編排等功能及接口要本文件適用于全國一體化算力網(wǎng)監(jiān)測調(diào)度平臺中算力網(wǎng)資源層中智算中心異構(gòu)算力資源相關(guān)池化3.13.23.3算力池化poolingofcomputingresource3.4智算中心算力池化poolingofcomputingresourceinartificialintelligencedatacenter2務(wù)需求。算力資源并網(wǎng)是通過網(wǎng)絡(luò)連接實(shí)現(xiàn)算力資源的可達(dá)、可用，并通過API接口實(shí)現(xiàn)算力資源的管結(jié)合智算中心算力池化定義及監(jiān)測調(diào)度平臺總體架構(gòu)（見圖1），源層中，基于多樣化異構(gòu)算力資源進(jìn)行算力抽5智算中心算力池化功能要求5.1.1設(shè)備抽象3設(shè)備抽象旨在定義統(tǒng)一的算力設(shè)備結(jié)構(gòu)及信息，以面向多樣異構(gòu)設(shè)備形成統(tǒng)一的設(shè)備a)每臺算力抽象設(shè)備應(yīng)具備一個主機(jī)端和一個或多個設(shè)備端。其中主機(jī)端應(yīng)至少具備CPU及其cos、sqrt、log、max、mig)計算內(nèi)核抽象應(yīng)支持與異構(gòu)算力資源加d)設(shè)備端全局內(nèi)存應(yīng)支持?jǐn)?shù)據(jù)緩存、與主機(jī)端內(nèi)存數(shù)據(jù)交換、全部計算內(nèi)核數(shù)據(jù)讀寫訪問；e)設(shè)備端本地內(nèi)存應(yīng)支持?jǐn)?shù)據(jù)緩存、一組計算內(nèi)核共享數(shù)據(jù)讀寫訪問；f)設(shè)備端私有內(nèi)存應(yīng)支持?jǐn)?shù)據(jù)緩存、一個計算內(nèi)核數(shù)據(jù)讀寫訪問。資源池化管理支持對智算中心異構(gòu)算力資源進(jìn)行統(tǒng)一管理，面向上層調(diào)度設(shè)備物理加速卡數(shù)量、設(shè)備物理加速卡標(biāo)識、設(shè)備物理加速卡狀態(tài)、多設(shè)備當(dāng)物理加速卡資源不足夠映射為整數(shù)個XPU時，向下取整；資源映射時可根4e)彈性擴(kuò)縮：需支持XPU算力及顯存根據(jù)負(fù)載自動在線ScaleUp/Down而業(yè)務(wù)不感知；的剩余資源充足的卡上，任務(wù)能夠繼續(xù)運(yùn)行而上層業(yè)務(wù)無感知，熱遷移過程中資源量仍使用5.3任務(wù)式資源申請與調(diào)度注解、最大副本數(shù)、最小副本數(shù)、擴(kuò)縮目標(biāo)、擴(kuò)縮依據(jù)等5智算中心算力池化與算力網(wǎng)資源層其他功能模塊之間的接口包括I1、I及異構(gòu)資源個性化操作接口的差異化屏蔽。接口具體要求如c)應(yīng)支持內(nèi)存管理系列接口，至少支持對異構(gòu)加速卡的內(nèi)存空間創(chuàng)建、內(nèi)存空間釋放；計算任務(wù)參數(shù)設(shè)置、計算任務(wù)使用計算核信g)應(yīng)支持根據(jù)獲取的設(shè)備信息將異構(gòu)加速卡與標(biāo)準(zhǔn)規(guī)格XPU設(shè)備映射，并提供映射比6c)應(yīng)支持算力資源封裝類型、屬地信息等基礎(chǔ)信息注冊接口；e)應(yīng)支持計算任務(wù)隊(duì)列接口，支持業(yè)務(wù)按照一組計算任務(wù)或一個計算任務(wù)粒度向下提交計算任g)應(yīng)支持計算任務(wù)組合