中國(guó)聯(lián)通新一代AI白皮書(shū)版權(quán)聲明目錄一、AI計(jì)基礎(chǔ)施的展簡(jiǎn)介 3（）AI計(jì)基礎(chǔ)施是工智快速展的現(xiàn)基礎(chǔ) 3（）人智能業(yè)對(duì)AI計(jì)基礎(chǔ)施的力需激增 4（）國(guó)產(chǎn)業(yè)策積鼓勵(lì)展新型AI計(jì)基礎(chǔ)施 5二、運(yùn)商應(yīng)極布新一代AI計(jì)基礎(chǔ)施 5（）運(yùn)商建新型AI計(jì)基礎(chǔ)施的求 5（）新代AI計(jì)基礎(chǔ)施的能架簡(jiǎn)介 6三、新代AI計(jì)基礎(chǔ)施發(fā)的關(guān)技術(shù)破點(diǎn) 9（）高能計(jì)能力 9處器性能 9并協(xié)同略 10分式通信 11（）異并行算能力 13（）安可信力 14（）資彈性度能力 16（）綠低碳算能力 18四、AI計(jì)基礎(chǔ)施商模式析 18五、展未來(lái) 19參文獻(xiàn) 21縮語(yǔ) 23前言IIIIIIII-1-編寫組成員（排名不分先后）：西、趙慧英、謝志普、秦守浩一、AI計(jì)算基礎(chǔ)設(shè)施的發(fā)展簡(jiǎn)介（一）AI計(jì)算基礎(chǔ)設(shè)施是人工智能快速發(fā)展的實(shí)現(xiàn)基礎(chǔ)Arifiiltellie01]。AI算能力不足而無(wú)法突破技術(shù)瓶頸的案例，例如深度學(xué)習(xí)早在上世紀(jì)80年代就已被人工智能專家提出，由于訓(xùn)練深度學(xué)習(xí)模型需要循環(huán)21現(xiàn)階段AI/AI新型的AIAIAI（二）人工智能產(chǎn)業(yè)對(duì)AI計(jì)算基礎(chǔ)設(shè)施的算力需求激增AIAI了對(duì)AIDAI場(chǎng)景落地必將依托AI基礎(chǔ)設(shè)施提供的通用性運(yùn)算能力；二是G、AI2025486[3]，海量數(shù)據(jù)的計(jì)算分析必然離不開(kāi)高性能的AI計(jì)算基礎(chǔ)設(shè)施；三是IOeI關(guān)于AI2AI.582年以來(lái)，該指標(biāo)已增長(zhǎng)30萬(wàn)倍以上[4]。由此可見(jiàn)，在復(fù)雜場(chǎng)景、海量數(shù)據(jù)、超大模型的需求背景下，各個(gè)行業(yè)對(duì)于AI（三）國(guó)家產(chǎn)業(yè)政策積極鼓勵(lì)發(fā)展新型AI計(jì)算基礎(chǔ)設(shè)施20212022中共中央、國(guó)務(wù)院印發(fā)了《擴(kuò)大內(nèi)需戰(zhàn)略規(guī)劃綱要（2022－2035年礎(chǔ)技術(shù)供給。由此可見(jiàn)，數(shù)字經(jīng)濟(jì)時(shí)代，作為產(chǎn)業(yè)智能化底座的I2022l5以AI6%06力中AI二、運(yùn)營(yíng)商應(yīng)積極布局新一代AI計(jì)算基礎(chǔ)設(shè)施（一）運(yùn)營(yíng)商建設(shè)新型AI計(jì)算基礎(chǔ)設(shè)施的需求2年1OeI基于大規(guī)模預(yù)訓(xùn)練模型GP.5atGT1402001200在推理方面，以atGT在3年103萬(wàn)多片英偉達(dá)A0GP7。面對(duì)大模型發(fā)展帶來(lái)的算力需求，建設(shè)面向AI電信運(yùn)營(yíng)商作為TAI性能的智能算力。運(yùn)營(yíng)商未來(lái)在構(gòu)建新一代AI的網(wǎng)絡(luò)質(zhì)量要求；對(duì)硬件資源的整合，實(shí)現(xiàn)異構(gòu)AI（二）新一代AI計(jì)算基礎(chǔ)設(shè)施的功能架構(gòu)簡(jiǎn)介新一代的AI計(jì)算基礎(chǔ)設(shè)施，可以分為AaaSAPaS層以及AaaS1圖1 新一代AI計(jì)算基礎(chǔ)設(shè)施功能架構(gòu)AaaS層主要包括異構(gòu)AI算力資源、云化管理和網(wǎng)絡(luò)互聯(lián)功APaS以及AaaS力以及超大模型的訓(xùn)練和推理能力。異構(gòu)AI以及不同種類的智能算力如GPU、NPU等。由于傳統(tǒng)的CPU計(jì)算基礎(chǔ)設(shè)施無(wú)法承載AIAIAIRDAPEP)APaS層是AI和算力資源情況，自適應(yīng)選擇并行計(jì)算策略。AI計(jì)算框架向下調(diào)用底層AI芯片、向上承載算法模型，是執(zhí)行計(jì)算任務(wù)的關(guān)鍵部分，APaS層支持PtrTerlPadlPadlireAaaS各類應(yīng)用的開(kāi)發(fā)和管理界面等，用戶在AaaS層也可以對(duì)底層AaaSAt、MLOPs行訓(xùn)練功能的基礎(chǔ)上引入自動(dòng)機(jī)器學(xué)習(xí)和遷移學(xué)習(xí)等技術(shù)解決模型AI技術(shù)能以賦能生產(chǎn)。通過(guò)MLOPs三、新一代AI計(jì)算基礎(chǔ)設(shè)施發(fā)展的關(guān)鍵技術(shù)突破點(diǎn)新一代AI計(jì)算基礎(chǔ)設(shè)施應(yīng)具備以下五項(xiàng)關(guān)鍵能力：高性能計(jì)算能力ihPrfreti)、異構(gòu)并行計(jì)算能力（etreestig）、安全可信能力（erdadTreElaicRreedl以Greenti。（一）高性能計(jì)算能力處理器性能AI更高的FLOPS（每秒浮點(diǎn)數(shù)運(yùn)算次數(shù)），從而提升深度學(xué)習(xí)模型的訓(xùn)練的速度和精度[8]。NPUAI加速芯片都配有獨(dú)立的內(nèi)存，由比系統(tǒng)總線更高帶寬的通訊連接方式與AI由于受到高端芯片進(jìn)口的限制和制約，大力推動(dòng)國(guó)內(nèi)高性能IAIGU的產(chǎn)化AI并行協(xié)同策略統(tǒng)的Pareererer架構(gòu)到更高效的Allede和RigAlledeAI分布式通信AI加速卡通過(guò)Pe到服務(wù)器OT價(jià)AIAI加速芯片（DE）之間的數(shù)據(jù)通訊由單獨(dú)的參數(shù)面交換設(shè)備組網(wǎng)互聯(lián)，數(shù)據(jù)不需要經(jīng)服務(wù)器OTPUO圖2 新一代AI計(jì)算基礎(chǔ)設(shè)施通信架構(gòu)新一代AI2AIE之間通過(guò)fiiaRER）RDMARDMA。未來(lái)，還需要不斷的進(jìn)行技術(shù)突破與革新，實(shí)現(xiàn)AI質(zhì)降本增效，推動(dòng)AI（二）異構(gòu)并行計(jì)算能力根據(jù)CGU95%以上市場(chǎng)份額[9]。在智能算力市場(chǎng)幾乎被英偉達(dá)壟斷的宏觀背景下，運(yùn)營(yíng)商已具備的AI包括TA0和0等。與此同時(shí)，在先進(jìn)AI背景下國(guó)內(nèi)AI芯片的持續(xù)涌現(xiàn)，逐步引入信創(chuàng)AIatGT的通用大模型的應(yīng)用，也驅(qū)動(dòng)著對(duì)超大規(guī)模AIAI算力資源異構(gòu)并行能力指的是APaSPaSAIAI加速芯片間無(wú)法進(jìn)行通訊。一種解決方式是在APaaSAI步調(diào)等，使得模型參數(shù)與計(jì)算框架指令可在異構(gòu)AIAIAIAIAI合AI（三）安全可信能力AI計(jì)算基礎(chǔ)設(shè)施的安全可信要求貫穿數(shù)據(jù)采集、傳輸、存儲(chǔ)、/對(duì)話記錄、企業(yè)經(jīng)營(yíng)數(shù)據(jù)、基礎(chǔ)研究實(shí)驗(yàn)數(shù)據(jù)等。因此，如何AI（圖3聯(lián)邦學(xué)習(xí)架構(gòu)圖如獲取方能通過(guò)交互數(shù)據(jù)中包含的梯度信息反向計(jì)算還原樣本數(shù)據(jù)10]：從而使數(shù)據(jù)無(wú)法恢復(fù)以保護(hù)數(shù)據(jù)屬主的隱私。絕對(duì)安全。未來(lái)，新一代AI在各種場(chǎng)景下AI（四）資源彈性調(diào)度能力AI計(jì)算基礎(chǔ)設(shè)施中的AI上的成本。并且當(dāng)前國(guó)產(chǎn)化AI和AIAI%，會(huì)因此為了有效提升AIAIAI4圖4 不同計(jì)算任務(wù)匹配差異化的虛擬資源AI芯片的虛擬池化能力是將單張I資源，實(shí)現(xiàn)多用戶對(duì)單塊GPU較低但并發(fā)量較大的AI在虛擬化能力的基礎(chǔ)上，對(duì)AI一代AI設(shè)計(jì)任務(wù)排隊(duì)機(jī)制等都是運(yùn)營(yíng)商在面向用戶提供公共AI（五）綠色低碳計(jì)算能力AI智算中心的綠色低碳節(jié)能方案主要采用液冷或風(fēng)冷配套設(shè)施來(lái)對(duì)服務(wù)器進(jìn)行散熱、冷卻，從而降低PUE數(shù)值，或者逐步引入可再生能源、清AI智算基礎(chǔ)設(shè)施或AI心的能源消耗，從根本上來(lái)講還是需要降低T系統(tǒng)本身的單位任務(wù)AIAI計(jì)算基礎(chǔ)設(shè)施aaS層需要集成綠色低碳管理系統(tǒng)，該系統(tǒng)AI四、AI計(jì)算基礎(chǔ)設(shè)施商業(yè)模式簡(jiǎn)析人工智能需要的計(jì)算資源昂貴,伴隨著AR\VR、元宇宙、全息視頻等ToCAI計(jì)算基礎(chǔ)設(shè)施的應(yīng)用需求也逐步從B向C,在構(gòu)建AIB端以及CAIAI計(jì)算高的AIAIAIAIAIAI接面向ToC或者ToB用戶提供AIAIC端AI電信運(yùn)營(yíng)商也可以以“搭臺(tái)唱戲”的角色匯聚其他的AIAI提供AI五、展望未來(lái)AIAI模型AI逐步向“通用算力+智能算力+超算算力”的異構(gòu)模式發(fā)展，適度超前構(gòu)建超大規(guī)模、超高帶寬、超低時(shí)延組網(wǎng)的算力集群，滿足AIAI對(duì)外為千行百業(yè)的客戶提供先進(jìn)的AIA塊化代碼等資源實(shí)現(xiàn)個(gè)性化AIAITAIAI業(yè)鏈各方一同攻關(guān)當(dāng)前AIAIAI參考文獻(xiàn).EO..t:al.i.7..[EB/OL].[2022-09-02]./cyzx/365.html..],.AIadteEO].t:eaireearaiade..（2022》EO..t:...2_.t..2021)》EO.]t:.itakjf/Pd..aGPTEO..tte..a_.,,等.],,:,.]2RO].].ttdr.teaieettl.[10] ,.],,:.縮略語(yǔ)英文縮寫英文全稱中文全稱AIAtifialtelliee人工智能ALUAitticadicUit算術(shù)邏輯單元AtLAaicaieearig自動(dòng)機(jī)器學(xué)習(xí)CPUetrlPreigUit中央處理器DPDffeetilPriay差分隱私ECNElitetintifitin明確的擁塞通知FLOPSlaigPitOertisPerSecond每秒浮點(diǎn)運(yùn)算次數(shù)GPUGrisPreigUit圖形處理器GPTGeraiePreraidTrfrr生成預(yù)訓(xùn)練變壓器HEricErin同態(tài)加密HPCCihPreiinetintrl高精度擁塞控制aaSfrarteasaerie基礎(chǔ)設(shè)施即服務(wù)TfrainadiaisTly信息和通信技術(shù)P6tertPrtlerin66LLMareaaedel大型語(yǔ)言模型MLOpsaeearigOeatis機(jī)器學(xué)習(xí)運(yùn)維MPCer