AIAI12025中國算力發(fā)展之AI計算開放架構(gòu)研究報告 CONTENTS·目錄目錄CONTENTS一、AI計算開放架構(gòu)研究背景 01AI計算需求持續(xù)增長 02大模型持續(xù)發(fā)展，AI算力需求不斷攀升 02AI應(yīng)用泛在化，萬卡集群建設(shè)加速推進 03大模型持續(xù)創(chuàng)新與應(yīng)用深入，驅(qū)動AI計算模式升級 03萬卡、十萬卡超大規(guī)模集群不斷涌現(xiàn) 04國內(nèi)異構(gòu)算力發(fā)展趨勢 04算力多元異構(gòu)融合發(fā)展 04異構(gòu)算力系統(tǒng)的發(fā)展現(xiàn)狀與趨勢 05智算中心的異構(gòu)算力發(fā)展趨勢 06中國人工智能發(fā)展面臨算力瓶頸 06AI芯片單卡性能相比國際先進水平存在代差 07發(fā)展集群算力是突破算力瓶頸的關(guān)鍵舉措 07智算配套生態(tài)系統(tǒng)不完善，削弱整體算力效能 08二、AI計算開放架構(gòu)：概念與意義 09計算架構(gòu)演變史：合久必分，分久必合 10大型機時代 10集群時代 10智能時代 10集群組網(wǎng)方式：ScaleUp與ScaleOt 11開放架構(gòu)協(xié)議發(fā)展 114ScaleUp超節(jié)點與ScaleOut分布式擴展 124 2025中國算力發(fā)展之AI計算開放架構(gòu)研究報告AI計算開放架構(gòu)的概念與定義 14國內(nèi)外AI計算架構(gòu)發(fā)展一覽 16國外AI計算架構(gòu)發(fā)展一覽 16國內(nèi)AI計算架構(gòu)發(fā)展一覽 17AI計算開放架構(gòu)產(chǎn)品、方案 18國內(nèi)外相關(guān)機構(gòu)現(xiàn)狀及進展 18國內(nèi)外相關(guān)開放架構(gòu)產(chǎn)品發(fā)展情況 21AI計算開放架構(gòu)的意義與價值 25有助于推動跨層協(xié)作，加速AI技術(shù)迭代創(chuàng)新 25有助于破解算力瓶頸，彌補性能和供給缺口 25有助于降低使用成本，推進全行業(yè)算力普惠 26有助于強化產(chǎn)業(yè)協(xié)同，構(gòu)建共建共贏的生態(tài) 26三、開放架構(gòu)面臨的挑戰(zhàn)與應(yīng)對 27面臨的困難與挑戰(zhàn) 28AI計算開放架構(gòu)的目標 30業(yè)界應(yīng)對舉措 32四、智算中心AI計算開放架構(gòu)部署案例 33曙光AI超集群系統(tǒng)案例 345沐曦AI計算集群部署案例 3656 6CONTENTS·目錄五、展望：智能時代的中國智算產(chǎn)業(yè)生態(tài) 37智算產(chǎn)業(yè)生態(tài)未來趨勢 38算力規(guī)模不斷擴大，呈多元化創(chuàng)新趨勢 38芯片國產(chǎn)替代加速，國產(chǎn)GPU百花齊放 38布局端邊云協(xié)同，算力部署進一步優(yōu)化 39AI計算開放架構(gòu)發(fā)展倡議 39加快標準研制，構(gòu)建產(chǎn)業(yè)協(xié)同生態(tài) 39攻關(guān)技術(shù)難題，突破算力效率瓶頸 40優(yōu)化運營管理，提升智算服務(wù)質(zhì)量 40AI1AIAI研究背景CHAPTER1·AIAI大模型持續(xù)發(fā)展，AIChatGPTSoraDeepSeek型規(guī)模進一步擴大，推動人工智能從感知向認知、從分析判斷式向生成式、從專用向AII發(fā)式增長。根據(jù)ScalingLaw（規(guī)模定律），模型性能與參數(shù)量、訓(xùn)練數(shù)據(jù)量和計算資源之間存在冪律關(guān)系。GPT-3GPT-1GPT-3，模型在各項任務(wù)表現(xiàn)提升的同時，參數(shù)量也增長了1500OpenAIGT-31750GPT-4理和文本理解上展示出了強大能力，GPT-4模型生產(chǎn)的內(nèi)容已接近人類創(chuàng)作水平，而其訓(xùn)練的參數(shù)量也相應(yīng)增長至1.82.51009-100GPT-53-5token13-30GPT年初，DeepSeek大模型的發(fā)布，標志著國內(nèi)大模型技術(shù)的長足進步，達到了世界領(lǐng)先水平，DeepSeek大模型的快速推廣AI22025中國算力發(fā)展之AI計算開放架構(gòu)研究報告AI智算需求迅猛增長，萬卡集群建設(shè)加速推進。隨著AGC技術(shù)發(fā)展，以DeepSeek為代表的開源大模型正逐漸滲透到諸多行業(yè)，引發(fā)新一代人工智能技術(shù)發(fā)MOEforScience）能計算能力和大規(guī)模數(shù)據(jù)處理能力，以應(yīng)對復(fù)雜的算法和模型，處理海量數(shù)據(jù)，支撐各類應(yīng)用和業(yè)務(wù)創(chuàng)新。同時，多模態(tài)融合技術(shù)的興起，將文本、圖像、音頻等多種數(shù)據(jù)模態(tài)進行融合處理，Soa、GT-4o、Gemini帶來算力百倍以上的增長。以文生視頻大模型SoraSora60GPT-33000600170600《2025人工智能指數(shù)報告》顯示，標準人工智能訓(xùn)練模型的計算需求約每5個月翻一番，大語言模型訓(xùn)練數(shù)據(jù)集規(guī)模約每8個月翻一番。隨著模型參數(shù)和訓(xùn)練集群規(guī)模越來越大，訓(xùn)練也從單機單卡轉(zhuǎn)變成多機多卡，甚至萬卡集群的訓(xùn)練，以支持千億級甚至萬億級參數(shù)規(guī)模的大模型訓(xùn)練，從而大幅壓縮大模型訓(xùn)練時間，以實現(xiàn)模型能力的快速迭代。AI大模型推理成為落地應(yīng)用的關(guān)鍵環(huán)節(jié)，通過硬件、軟件一體化集成，結(jié)合分布式并行推理等技術(shù)能有效提升推理效率，出現(xiàn)一體機、推理集群等新的產(chǎn)品服務(wù)形式。大模型技術(shù)能力提升進一步推動了大模型的研發(fā)與落地應(yīng)用浪潮。大模型一體機作為“軟硬協(xié)同、開箱即用”的智能化基礎(chǔ)設(shè)施AI地的核心載體。預(yù)訓(xùn)練及高通量推理應(yīng)用需要大規(guī)模智算集群支撐。隨著模型參數(shù)量從千億邁向萬億，模型能力更加泛化，大模型對底層智算基礎(chǔ)設(shè)施的要求進一步升級，萬卡集群成為這一輪大模型基建軍備競賽的標配，萬卡集群有助于壓縮大模型訓(xùn)練時間，實現(xiàn)模型能力的快速迭代。萬卡集群是指由一萬張3CHAPTER1·AI(GPU、NU、TPUI)系統(tǒng)，用以訓(xùn)練基礎(chǔ)大模型。4）萬卡、十萬卡超大規(guī)模集群不斷涌現(xiàn)國外GoogleMetaMicrosoft能算法研發(fā)及生態(tài)服務(wù)等方面的技術(shù)創(chuàng)新。如Googe3VirualMachines，26000塊NvidiaH100GPU，同時基于自研芯片搭建TPUv5p8960Meta16,000NvidiaA100A|AlResearchSuperCluster,2024NvidiaH100AIAIAI12288AmpeeMegaScale訓(xùn)練大語言模型。中科曙光為多個國家級超算中心建設(shè)萬卡集群，并接入國家超算互聯(lián)網(wǎng)（SCNet），支撐大模型推理、智能體開發(fā)、AIforScience科學(xué)大模型研發(fā)訓(xùn)練等場景。AI雜算法計算的迫切需求，正積極投建超萬卡集群以滿足其大模型的計算需求。國內(nèi)異構(gòu)算力發(fā)展趨勢1）算力多元異構(gòu)融合發(fā)展全球算力呈現(xiàn)出多元異構(gòu)發(fā)展、智算加速擴張的總體態(tài)勢?；?0.55%ERP3.81%，其規(guī)模擴張主要AI2.64%，主要服務(wù)于氣候模擬、新藥研發(fā)、國防軍工等重大科研任務(wù)。42025中國算力發(fā)展之AI計算開放架構(gòu)研究報告CPU、GPU、FPGA、ASIC等不同類型的處理器在執(zhí)行模型訓(xùn)練、推理等工作任務(wù)時優(yōu)勢各異，通過科學(xué)組合可以為不同計算任務(wù)匹配最合適的計算資源，從而大幅提升計算效率和性能。異構(gòu)算力融合成為提升算力效能的最優(yōu)選擇。計劃》（工信部聯(lián)通信〔〕180）]格局進一步強化。其中，智能算力規(guī)模在大模型和生成式人工智能的迅猛發(fā)展下快速提升。《算力發(fā)展報告》顯示，截至61085788EFlops（FP16）。據(jù)IDC測算，2023至2028年我國智能算力規(guī)模的五年年復(fù)合增長率可達到46.2%[國際數(shù)據(jù)公司IDC、浪潮信息《2025年中國人工智能計算力發(fā)展評估報告》]。2）異構(gòu)算力系統(tǒng)的特征與優(yōu)勢延遲的雙重計算需求，傳統(tǒng)的同構(gòu)計算架構(gòu)已無法滿足日益復(fù)雜的計算需求。CPU、GPU、FPGA、ASIC等不同類型的處理器在執(zhí)行模型訓(xùn)練、推理等工作任務(wù)時優(yōu)勢各異，通過科學(xué)組合可以為不同計算任務(wù)匹配最合適的計算資源，從而大幅提升計算效率和性能。異構(gòu)算力融合成為提升算力效能的最優(yōu)選擇。DCU系列、華為昇騰系列、寒武紀思元系列、壁仞科技BR100等AIGPUASICRK3588AIFPA、集成5CHAPTER1·AINPU等架構(gòu)芯片，重點應(yīng)用于智能手機、智能汽車、工業(yè)機器人等，滿足邊緣與終端Nebla800CPU、GPUforScience3）智算中心的異構(gòu)算力發(fā)展趨勢一代人工智能發(fā)展的基本范式。雖然算力變得愈加重要，但是其發(fā)展卻面臨供需矛盾問題。一方面，對算力的需求增長迅猛。無論是企業(yè)數(shù)字化轉(zhuǎn)型，還是智能終端消費和移動數(shù)據(jù)流量消費規(guī)模的不斷擴大，都在持續(xù)釋放算力需求；另一方面，傳統(tǒng)的單一計算架構(gòu)面臨性能和功耗瓶頸，無法滿足日益高漲的算力需求。GPUNPU的異構(gòu)計算，將成為常態(tài)。異構(gòu)計算（HeterogeneousComputing），主要指不同類型的指令集和體系架構(gòu)的計算單元組成的系統(tǒng)的計算方式，在云數(shù)據(jù)中心、邊緣計算場景等有著廣泛應(yīng)用。異構(gòu)智算技術(shù)未來的發(fā)展趨勢，將會呈現(xiàn)開放、融合、聚合的特點。其中，開放準的；融合是指搭載多種類型的芯片，提供多元的能力；聚合則要求智算中心的建設(shè)需求在超大規(guī)模前提下采用領(lǐng)先的技術(shù)，保證自身的先進性。而軟件棧能否無縫地協(xié)同、調(diào)度不同類型的算力資源，為開發(fā)者提供統(tǒng)一、高效的程序設(shè)計界面，將成為各智算中心發(fā)展的關(guān)鍵。中國人工智能發(fā)展面臨算力瓶頸近年來，人工智能（AI）AI持續(xù)增長，并推動計算系統(tǒng)架構(gòu)升級。大規(guī)模智能計算集群成為支撐大模型創(chuàng)新的關(guān)鍵算力底座。同時，在美國持續(xù)加強對華科技戰(zhàn)的大背景下，全球信息技術(shù)產(chǎn)業(yè)生態(tài)體系加速調(diào)整。中國智算產(chǎn)業(yè)面臨兩大挑戰(zhàn)：單卡算力性能瓶頸、算力成本高。62025中國算力發(fā)展之AI計算開放架構(gòu)研究報告在芯片、模型、基礎(chǔ)軟件等核心技術(shù)自主創(chuàng)新突破的基礎(chǔ)上，發(fā)展更大規(guī)模、更AI網(wǎng)強算、以存提算、以電補算、軟硬協(xié)同等創(chuàng)新策略方法不斷出現(xiàn)。AIAIFP2（單精度浮點）、FP16（半精度浮點）2-3行計算效率的需求。AI芯片組成集群來完成任務(wù)，既增加硬件成本，也帶來集群管理復(fù)雜度提升、芯片間數(shù)據(jù)交互延遲等問題。訓(xùn)練同樣參數(shù)規(guī)模的大模型，使用國產(chǎn)芯片的訓(xùn)練費用和時間成本比使用國際先進芯片多30%-50%，影響研發(fā)效率與創(chuàng)新速度。而制約了單卡算力密度的發(fā)揮。2）發(fā)展集群算力是突破算力瓶頸的關(guān)鍵舉措傳統(tǒng)的單卡計算已經(jīng)無法滿足人工智能大模型訓(xùn)練的需求，因此多卡集群的方式7 CHAPTER1·AIIDC埃隆·馬斯克（EonMusk）AIGok3，在單一集群里部署了20H100GPU2014GPU協(xié)同工作的NVLinkNVLink1.2TB/s。NVLink290200-400GB/s，與國際領(lǐng)先水平仍有一定差距。卡間互聯(lián)帶寬低，導(dǎo)致在構(gòu)建大規(guī)模集群以訓(xùn)練超大規(guī)模模型時，性能將大打折扣。（卡級及以上集群）總量缺口持續(xù)擴大，發(fā)達地區(qū)的高峰時段或特定應(yīng)用場景下算力短缺問題仍然突出。3）智算配套生態(tài)系統(tǒng)不完善，削弱整體算力效能30%50%-60%便我國在智算硬件投入上不斷加大，算力依舊難以得到高效運用。軟硬件適配方面，國產(chǎn)算力硬件與各類算法、軟件的適配度仍有待提升，算法優(yōu)化投入不足，影響了硬件性能的充分釋放。生態(tài)協(xié)同方面，國內(nèi)宣布擁有千卡規(guī)模的算力集群不少于100個，但其中大部分是異構(gòu)芯片，如果不同硬件系統(tǒng)相互封閉，互聯(lián)總線標準接口不統(tǒng)一，軟件?；ゲ患嫒?，不能協(xié)調(diào)和打通，將導(dǎo)致難以實現(xiàn)有效整合利用，無法滿足大型企業(yè)和科研機構(gòu)對大規(guī)模模型訓(xùn)練的需求。供需匹配方面，我國智算中心在建設(shè)初期往往過于注重硬件規(guī)模，忽視了應(yīng)用生態(tài)的培育，導(dǎo)致算力供給與用戶實際需求脫節(jié)。許多智算中心建成后，缺乏與之適配的行業(yè)應(yīng)用，大量算力處于空閑狀態(tài)。部分地方政府主導(dǎo)建設(shè)的智算中心，由于沒有結(jié)合當?shù)禺a(chǎn)業(yè)特色打造應(yīng)用場景，實際利用率僅在20%-30%。8AI9AIAI概念與意義CHAPTER2·AI計算架構(gòu)演變史：合久必分，分久必合1）大型機時代最早的計算機是大型主機計算機——占據(jù)一個房間的大規(guī)模硬件設(shè)備。大型主機最初是獨立的機器，能夠執(zhí)行復(fù)雜的計算任務(wù)。大型機時代的計算架構(gòu)是集中式的，即一臺或多臺主計算機為中心節(jié)點，所有數(shù)據(jù)集中存儲并處理，終端或客戶端主要負責(zé)數(shù)據(jù)的錄入和輸出，而數(shù)據(jù)的存儲與控制處理則完全由中心節(jié)點負責(zé)。其軟件的總體架構(gòu)也是集中式的、封閉的。最典型的代表是IBM公司的System/360，以及由其他廠商，如Amdahl,HitachiDataSystems（HDS）制造的兼容的系統(tǒng)。在大型機時代，這些大型機使用專用的處理器指令集、操作系統(tǒng)和應(yīng)用軟件。故此，大型機不僅僅是一個硬件上的概念，更是一個硬件和專屬軟件的有機整體。2）集群時代隨著計算機系統(tǒng)向網(wǎng)絡(luò)化和微型化方向的快速發(fā)展，傳統(tǒng)的集中式處理模型逐漸難以滿足人們的需求，計算架構(gòu)走向集群時代。集群就是指一組（若干個）相互獨立的計算機，利用高速通信網(wǎng)絡(luò)組成的一個較大的計算機服務(wù)系統(tǒng)，每個集群節(jié)點（即集群中的每臺計算機）都是運行各自服務(wù)的獨立服務(wù)器。通常一套系統(tǒng)集群架構(gòu)，只需要幾臺或數(shù)十臺服務(wù)器主機即可。與動輒價值上百萬元的專用超級計算機相比便宜了很多。在達到同樣性能需求的條件下，采用計算機集群架構(gòu)比采用同等運算能力的大型計算機具有更高的性價比。3）智能時代的躍升。超節(jié)點，即Superpod，是一種用于構(gòu)建大規(guī)模算力集群的技術(shù)架構(gòu)。此概念最GPU“超級計算節(jié)點”102025中國算力發(fā)展之AI計算開放架構(gòu)研究報告的系統(tǒng)。與傳統(tǒng)架構(gòu)不同的是，超節(jié)點可以通過高速互聯(lián)技術(shù)，彌補原先服務(wù)器間帶寬不足以及高時延等問題，以期實現(xiàn)算力效率的優(yōu)化。Google1999木板服務(wù)器”（corkboaderer），可以說是互聯(lián)網(wǎng)行業(yè)最早的整機柜服務(wù)器。整機柜服務(wù)器中既有服務(wù)器、又有機柜，它將機柜和服務(wù)器作為一個整體來考慮，采用封下相對更具備打破次元壁的條件，所以它在互聯(lián)網(wǎng)和云計算的公司里，以及現(xiàn)在的智算時代得到較為廣泛的應(yīng)用。GW過級聯(lián)多個超節(jié)點形成萬卡乃至數(shù)十萬卡的集群。集群組網(wǎng)方式：ScaleUpScaleOut1）開放架構(gòu)協(xié)議發(fā)展開放計算的實踐始于Facebook2009年應(yīng)對基礎(chǔ)設(shè)施挑戰(zhàn)的舉措。其設(shè)計的2011Inel、acspace（OCP），旨在硬件領(lǐng)域創(chuàng)造類似開源軟件的協(xié)作創(chuàng)新。11CHAPTER2·AIOCPOAI（OpenAcceleratorInfrastructure）項目組。該工作組旨在建立一整套可兼容各類AI加速器的技術(shù)標準，解決AI計算基礎(chǔ)設(shè)施建設(shè)中硬件和生態(tài)割裂的重大挑戰(zhàn)。AI工作組推進的開放技術(shù)規(guī)范涉及UBBHIB等9AIAI是項目組中進展最為迅速的領(lǐng)域。設(shè)計規(guī)范定義了加速器模塊互聯(lián)形式和通用規(guī)范。AIAIAMAIOAI-UBB（UniversalBaseboard）設(shè)計規(guī)范。2019，OCPOAI-UBB1.0AI-UBB.0產(chǎn)品。2016IBM和Xilinx等公司成立了OpenCAPI聯(lián)盟（OCC），旨在為處理器、內(nèi)存擴展和加速器提供行業(yè)支持的緩存一致性互連。IBMCoherentAcceleratorProcessorInterface（CAPI）技術(shù)，并將其向外開放。2019EMC、Facebook、谷歌、HPE、華為和微軟ComputeExpressLink(CXL)AMDArmComputeEXpressLink（CXL）CPU與GPU、FPGA或其他加速器之間實現(xiàn)高速高效的互聯(lián)，滿足現(xiàn)今高性能異構(gòu)計算的要CXL3.0ScaleUpScaleOut萬億參數(shù)大模型的訓(xùn)練，需要萬卡、十萬卡的訓(xùn)練集群支持。為了讓集群能夠管理更多的GPU卡，業(yè)界借鑒了原來云平臺管理服務(wù)器的辦法，通過Scale-up（縱向擴展）和Scale-out（橫向擴展）實現(xiàn)系統(tǒng)擴展。122025中國算力發(fā)展之AI計算開放架構(gòu)研究報告Scale-up（節(jié)點）GPU（如使用更高算力的GPU）來提升計算能力，Scaleout（分布式架構(gòu)）來提升Scale-upScale-outScale-upGPU（I）緊密耦合的集群化架構(gòu)，旨在突破傳統(tǒng)分布式算力集群的通信瓶頸，提升整體計算效率。ScaleUpScaleOutAIScaleUp2014NVLINKNVLIKGPUPCIe，時延也低得多。NVINKI的AIAMD公司推出了UALINKETH-X、ALS、OISA等項目。9HSL（High-performanceScalableLink）。HSLPCIeHSL支持從單機多卡到大規(guī)模智算集群的彈性擴展。海光信息宣布在年第四季度發(fā)SL1.0610AIHSLAICPU協(xié)同，解決國產(chǎn)智算服務(wù)器“適配難”的問題，推動“即插即用”的便捷性。ScaleOutInfiniband（IB）RoCEv2術(shù)都是基于RDMA（遠程直接內(nèi)存訪問）的時延，負載均衡能力也更強。13CHAPTER2·AIAIAI等產(chǎn)業(yè)鏈上下游企業(yè)，從單點突破走向集成創(chuàng)新，實現(xiàn)產(chǎn)業(yè)鏈開放跨層優(yōu)化，破解“技術(shù)墻”和“生態(tài)墻”，主要為了解決算力瓶頸、算力成本高的問題。基于開放架構(gòu)和產(chǎn)業(yè)跨層協(xié)作優(yōu)化，一方面以GPU為核心進行一體化緊耦合設(shè) 14AI AIAII用性，降低模型軟件開發(fā)適配成本，保護用戶軟硬件投資。AI綠色高效：通過先進液冷等技術(shù)，適配高功率高性能加速部件極致散熱需求，支撐算力中心高密度部署，提升系統(tǒng)能效。IOGPUScale-upScale-out卡間、節(jié)點間數(shù)據(jù)傳輸帶寬，提升全局系統(tǒng)訪存通信效率。GPUIrScience、科學(xué)計算等多元場景下多精度、混合精度運算需求。15CHAPTER2·AIAIAI專用硬件創(chuàng)新引領(lǐng)算力突破專用硬件創(chuàng)新引領(lǐng)算力突破AIGU算的特點，不斷優(yōu)化顯存架構(gòu)與互聯(lián)技術(shù)；rmumxAI化與創(chuàng)新，做到場景決定架構(gòu)，實現(xiàn)算力的最大化利用與突破。分布式架構(gòu)優(yōu)化云端算力調(diào)度分布式架構(gòu)優(yōu)化云端算力調(diào)度AI隨著大模型參數(shù)規(guī)模的不斷膨脹，訓(xùn)練所需的算力呈指數(shù)級增長，傳統(tǒng)單機架構(gòu)已無法滿足需求。國際企業(yè)紛紛推出分布式AI計算架構(gòu)來應(yīng)對這一挑戰(zhàn)。英偉達的SuperPODNVLinkGPU緊密連接在一起，構(gòu)建超級計算集群；谷歌通過專用網(wǎng)絡(luò)架構(gòu)，實現(xiàn)TPUAIAIIAIArmAIAIAI力算力提升和成本降低的雙重突破，有力地推動了智能設(shè)備在各行業(yè)、各領(lǐng)域的廣泛AI技術(shù)從云端走向終端的進程。162025中國算力發(fā)展之AI計算開放架構(gòu)研究報告AI自主創(chuàng)新突破技術(shù)壁壘自主創(chuàng)新突破技術(shù)壁壘AIAI產(chǎn)業(yè)協(xié)同構(gòu)建開放生態(tài)產(chǎn)業(yè)協(xié)同構(gòu)建開放生態(tài)大模型驅(qū)動應(yīng)用場景落地國內(nèi)企業(yè)注重平臺化、聯(lián)盟化模式推動架構(gòu)開放，形成產(chǎn)業(yè)鏈合力。OpenI/OpenI]AI2000+0+10PFlops25AIAI0AIAI“AI計算開放架構(gòu)聯(lián)合實驗室這一系列舉措標志著中國智能計算產(chǎn)業(yè)從單點技術(shù)突破邁向集群化協(xié)同創(chuàng)新的新階段。大模型驅(qū)動應(yīng)用場景落地AIansormerHanguang800Qwen系列大模型在金融風(fēng)控、醫(yī)療影像診斷等場景的AI17CHAPTER2·AIAI1）國內(nèi)外相關(guān)機構(gòu)現(xiàn)狀及進展開放計算項目基金會（OpenComputeProject，OCP）OCP2011Facebook（Meta）聯(lián)合英特爾、Rackspace、高盛和AristaNetworks450國和世界其他地區(qū)的多元化成員企業(yè)，涵蓋多個關(guān)鍵領(lǐng)域，其使命是為實現(xiàn)可擴展的計算，提供高效的服務(wù)器，存儲和數(shù)據(jù)中心硬件設(shè)計，以減少數(shù)據(jù)中心的環(huán)境影響。成員通過公開分享、開放協(xié)作，向全球貢獻技術(shù)規(guī)范、設(shè)計方案、白皮書及最佳實踐文檔，加速包括數(shù)據(jù)中心在內(nèi)的IT已建立了冷卻環(huán)境、服務(wù)器、網(wǎng)絡(luò)、存儲、硬件管理、機架和電源、I、邊緣計算等40150ITIIDC2529CP190036%，28%。OCP（Chiplet）技術(shù)作為重點發(fā)展領(lǐng)域，在芯片架構(gòu)層面突破傳統(tǒng)GPUAIHPCUCIeOCP（OCS）18AI延遲和能效日益增長的連接需求。與傳統(tǒng)電交換不同，OCS利用光子技術(shù)實現(xiàn)光路數(shù)AICSAIAPIAI優(yōu)化而設(shè)計的ScaleUp。而提高數(shù)據(jù)中心和數(shù)字基礎(chǔ)設(shè)施供應(yīng)鏈的效率，其成員包括數(shù)據(jù)中心運營商、私有云據(jù)中心和邊緣生態(tài)系統(tǒng)的個人會員。SSIApen1016LinedIn建立全新標準的組織，旨在為不同規(guī)模、不同種類的數(shù)據(jù)中心提供創(chuàng)新方案，解決能耗、密度、靈活性等現(xiàn)實問題。其創(chuàng)新性地引入了“基于模塊”的即插即用機架架構(gòu)的開放標準，以期獲得超大規(guī)模的計算效率。憑借獨特的電源架設(shè)計和機柜模塊（Brick該開源設(shè)計實現(xiàn)了顛覆性的效率提升、組件復(fù)用和成本降低，同時保持了對服務(wù)器模塊內(nèi)部技術(shù)的獨立性。1，Open19LinuxLinux的主要項目。12，SSIAOpen19v248V容的冷卻系統(tǒng)的互操作能力，可實現(xiàn)不同液冷技術(shù)供應(yīng)商的設(shè)備連接和替換。EquinixOpen19v2100ODCC是在中國通信標準化協(xié)會指導(dǎo)下，以開放、合作、創(chuàng)新、共贏為宗旨，圍造活躍、高效、有國際競爭力的生態(tài)圈和開放平臺，推動形成行業(yè)統(tǒng)一、有國際影響力的規(guī)范和標準，促進產(chǎn)業(yè)合作、技術(shù)創(chuàng)新和推廣應(yīng)用。19CHAPTER2·AIODCC2011年由阿里巴巴、百度、騰訊發(fā)起，英特爾擔(dān)任技術(shù)顧問的整機柜服務(wù)器標準化項目“corpio”，旨在通過統(tǒng)一設(shè)計規(guī)范降低數(shù)據(jù)中心部署成本并提升擴展效率。2014Scorpio計、開放網(wǎng)絡(luò)等更廣的領(lǐng)域。目前，ODCC的決策組成員為騰訊、阿里巴巴、百度、中國電信、中國移動、中國信通院、京東和美團。會員單位超過200家，覆蓋數(shù)據(jù)中心行業(yè)的上下游企業(yè)。ODCC300ITIT進產(chǎn)業(yè)健康、快速發(fā)展，滿足國家對于數(shù)據(jù)中心綠色、集約、高效發(fā)展的要求。9OCTC務(wù)器帶內(nèi)管理提供一套功能全面、高性能、易擴展的標準化管理軟件，支撐海量設(shè)備IPMI動打通帶內(nèi)帶外管理，軟件實現(xiàn)關(guān)鍵性能指標實時收集，利用監(jiān)控告警機制，可實現(xiàn)秒級監(jiān)控與故障智能預(yù)警，且支持插件化擴展，其平均CPU消耗不超過3%，內(nèi)存占00MiB，采用優(yōu)化的時序數(shù)據(jù)庫持久化處理性能數(shù)據(jù)，具備自動熔斷能力。在兼容性上，軟件采用GoBMCAgentBMC國家先進計算產(chǎn)業(yè)創(chuàng)新中心于2018年組建成立，旨在圍繞國產(chǎn)芯片建立、健全CPU、GPU到上層應(yīng)用，建立起完善的自主創(chuàng)新體系，補齊供應(yīng)鏈短板，提升產(chǎn)業(yè)國際競爭力。年，在國家先進計算產(chǎn)業(yè)創(chuàng)新“光合組織機、基礎(chǔ)軟件、應(yīng)用軟件、計算服務(wù)的全棧技術(shù)生態(tài)體系。截至目前，光合組織已經(jīng)600028個實體生態(tài)適配中心，基于海光C86+DCU202025中國算力發(fā)展之AI計算開放架構(gòu)研究報告計算平臺，推動1.5萬余項軟硬件適配測試優(yōu)化項目，基本形成從技術(shù)研發(fā)到市場拓展的生態(tài)閉環(huán)。9月，國家先進計算產(chǎn)業(yè)創(chuàng)新中心一方面協(xié)同芯片、整機、應(yīng)用等企業(yè)推進技術(shù)能力開放，包括海光信息的開放系統(tǒng)互聯(lián)總線HSL、曙光數(shù)創(chuàng)的液冷超節(jié)點DeeAIOneScience0“AI”型-硬件適配優(yōu)化等難題，破解“硬件墻”“生態(tài)墻”壁壘；推進關(guān)鍵場景驗證，針對大模2）國內(nèi)外相關(guān)開放架構(gòu)產(chǎn)品發(fā)展情況人工智能技術(shù)在過去幾年中迅速發(fā)展，在大數(shù)據(jù)、云計算、深度學(xué)習(xí)等領(lǐng)域的應(yīng)AIAIAIAI導(dǎo)地位，構(gòu)建起以專用硬件和開源生態(tài)協(xié)同為核心的發(fā)展模式，覆蓋云、邊、端等多AINVIDIAGB200NVL72機架以及計算和交換機托盤液冷設(shè)計，是英偉達向OCPI算力解決方案，覆蓋機架、托盤、液冷、熱設(shè)計、NVLnk聯(lián)等多個維度，旨在通過開放標準推動高性能AI基礎(chǔ)設(shè)施的規(guī)?；渴稹vdiaGB00NVL72Blackell架構(gòu)的多節(jié)點液冷機架級擴展系統(tǒng)，其核心由72BlackwellGPU36GraceCPUNVLink-C2CaFOPSAIAINVIDIANVL72Spectum-XCPOCPAI21CHAPTER2·AIMetaAICatalinaGrandAICatalina機架基于NVIDIABlackwellAINVIDIAGB200GraceBlackwellAIAIGPUGandeonMetaIAMDInstinctMI300XOCP-SAIMetaFBOSSRoCE接口，能NVIDIA、Bodcm、AMD等多家供應(yīng)商的加速器與網(wǎng)絡(luò)端點，是一種開放AIArmumxCSS計算平臺，聚焦低功耗AI計算領(lǐng)域，引入了跨CP、PUIPAIAIC1CPUArm可伸縮矩陣擴展（SME2）單元，為Arm生態(tài)ArmKleidiAIumxCSS平臺帶來性能上的強大表現(xiàn)以及設(shè)計上的靈活性、應(yīng)用開發(fā)上的便捷性。目前，ArmumxCSS902200LumexCSS222025中國算力發(fā)展之AI計算開放架構(gòu)研究報告Arm“半開放”或“有限開放”的高級IPIPArm生態(tài)內(nèi)部的“優(yōu)化集成套件”。AIAI華為推出Ascend系列AI芯片和其開源的軟件平臺，形成“”協(xié)同體系。華為昇騰芯片采用自研的達芬奇架構(gòu)，旨在優(yōu)化I計算的效率和靈活性，適應(yīng)多種IN作為針對I場景推出的異構(gòu)計算架構(gòu)，對上支持多種I編程接口，實現(xiàn)對不同芯片架構(gòu)的適配，對下服務(wù)IN發(fā)揮承上啟下的關(guān)鍵作用，是提升昇騰I處理器計算效率的關(guān)鍵平臺。通過昇騰硬件使能NAA爭的開放計算體系，目前已支撐華為云s平臺及近千款行業(yè)I字節(jié)跳動定義了“大禹”服務(wù)器架構(gòu)，通過核心標準統(tǒng)一與場景靈活擴展的設(shè)計理念，支持多樣性算力，在開放與性能之間找到了關(guān)鍵平衡點?！按笥怼蓖ㄟ^優(yōu)化服務(wù)器架DU（DataPocessingUnt），支持上下兩個計算節(jié)點共享一個PUOpenBMC的發(fā)展，提高系統(tǒng)互操作性；三是存儲部件，高密場景采用E1S3.S000TB80WE2IUFP8等混合精度計算。其第三代產(chǎn)品采用自研的PI穩(wěn)定性與能效比。在金融領(lǐng)域，招商銀行與百度智能云基于昆侖芯開展算力合23CHAPTER2·AIH3CUniPoDGPUPCIe雙技術(shù)路線超節(jié)點產(chǎn)品，可實現(xiàn)單機柜最高64點計算效能。H3CUnioDH3CUniPoDS80000H3CUniPoDF80000兩個子產(chǎn)品系列，基于不同協(xié)議路線，將為不同規(guī)模參數(shù)的模型訓(xùn)練、推理和精調(diào)提供有針對性地算力支撐。CPI0路510，面向萬曙光scaleX640超節(jié)點242025中國算力發(fā)展之AI計算開放架構(gòu)研究報告AI產(chǎn)業(yè)整體創(chuàng)新效能。000可為兩側(cè)超節(jié)E400IAIAIAI發(fā)者需針對單一硬件重構(gòu)代碼，技術(shù)壁壘嚴重制約跨層級協(xié)同與突破性研發(fā)。AI開放架構(gòu)通過整合芯片、整機、大模型、行業(yè)應(yīng)用等上下游資源，依托產(chǎn)業(yè)聯(lián)盟、實驗室等協(xié)作機制，推動形成從硬件、軟件、算法到應(yīng)用的全鏈條優(yōu)化，提升產(chǎn)業(yè)整體創(chuàng)新效能。同時，通過建立統(tǒng)一技術(shù)標準體系避免重復(fù)研發(fā)與同質(zhì)化競爭，共享編譯AI活多主體創(chuàng)新活力，推動形成多層次、多主體參與的技術(shù)創(chuàng)新格局，加速人工智能技術(shù)迭代創(chuàng)新。2）有助于破解算力瓶頸，彌補性能和供給缺口AI“脫鉤斷鏈”風(fēng)險加劇，國際巨頭通過封閉生IAI計算開放架構(gòu)以GPU25 CHAPTER2·AI件全鏈條的緊耦合技術(shù)體系，通過集群資源動態(tài)調(diào)度、分布式存儲優(yōu)化、高速網(wǎng)絡(luò)協(xié)同等技術(shù)手段，取代傳統(tǒng)追求單節(jié)點極致性能的發(fā)展模式，以集群創(chuàng)新彌補單卡性能差距，提升高端算力供給。此外，采用兼容主流技術(shù)標準與自主創(chuàng)新發(fā)展并重的技術(shù)路線，構(gòu)建自主可控生態(tài)閉環(huán)，規(guī)避技術(shù)斷供風(fēng)險，保障算力供給的穩(wěn)定與可持續(xù)。3）有助于降低使用成本，推進全行業(yè)算力普惠數(shù)字經(jīng)濟時代，AIAI互聯(lián)網(wǎng)巨頭，中小企業(yè)與科研機構(gòu)普遍陷入用不起、用不好的困境。I接基于開源基礎(chǔ)模型開展垂直領(lǐng)域微調(diào)，降低技術(shù)準入門檻，讓全行業(yè)“用得上”；依托集群優(yōu)化能力，實現(xiàn)算力規(guī)模越大、單位成本越低，并結(jié)合存算傳協(xié)同設(shè)計、先進冷板液冷等技術(shù)，在提升性能的同時降低能耗與運維成本，讓全行業(yè)“用得起”；整合分散硬件資源形成共享算力池，支持按需取用與行業(yè)靈活適配，讓全行業(yè)“用得好”。4）有助于強化產(chǎn)業(yè)協(xié)同，構(gòu)建共建共贏的生態(tài)IendrLock-in（廠商鎖定）陷阱，導(dǎo)致生態(tài)資源高度集中于少數(shù)巨頭，上下游企業(yè)缺乏議價權(quán)，產(chǎn)業(yè)創(chuàng)新活力被抑制。I憑借硬件兼容、端邊云協(xié)同特性，讓中小企業(yè)低成本試錯、科研機構(gòu)聚焦前沿、千行百業(yè)加速數(shù)字化，各主體在開放體系中自由協(xié)作。此外，通過統(tǒng)一接口標準，實現(xiàn)多品牌硬件兼容，有效破解國產(chǎn)算力生態(tài)碎片化難題，讓分散的資源形成合力，為“I+”AI式，推動跨領(lǐng)域協(xié)同創(chuàng)新，最終構(gòu)建資源共享、優(yōu)勢互補、利益共贏的產(chǎn)業(yè)生態(tài)。26AIAIAICHAPTER3·AI濟的基礎(chǔ)支撐，I“算力底座，其I計算開放架構(gòu)應(yīng)面臨的困難與挑戰(zhàn)為破解當前國內(nèi)算力產(chǎn)業(yè)發(fā)展困局，在芯片、基礎(chǔ)軟件、模型等核心技術(shù)自主創(chuàng)AI業(yè)共識。曙光、海光、華為、浪潮、新華三、沐曦、壁仞、曦智等眾多科技企業(yè)都在加快研制智算超節(jié)點、超集群等產(chǎn)品，以網(wǎng)強算、以存提算、以電補算、軟硬協(xié)同等創(chuàng)新策略方法不斷出現(xiàn)。AI以形成合力，導(dǎo)致異構(gòu)算力協(xié)同效率較低，用戶使用門檻及成本較高。其原因主要有以下兩點：國產(chǎn)算力硬件正處于“多線并進”的爬坡期，多元異構(gòu)融合需突破新瓶頸。技術(shù)路線層面，當前我國算力硬件產(chǎn)業(yè)需在架構(gòu)開放性、兼容性與應(yīng)用成本之間尋找動態(tài)平衡，以昇騰、海光、寒武紀、燧原等為代表的主流廠商均采用獨立架構(gòu)路CUDA生態(tài)壟斷的戰(zhàn)略決心，但也在一定程度上導(dǎo)致了算力產(chǎn)業(yè)282025中國算力發(fā)展之AI計算開放架構(gòu)研究報告發(fā)展分散的現(xiàn)狀，不同架構(gòu)間尚未形成統(tǒng)一技術(shù)標準與接口規(guī)范，未能完全實現(xiàn)資源聚合效應(yīng)。硬件適配與應(yīng)用落地層面，當前計算架構(gòu)對異構(gòu)硬件適配性有嚴格要求，目前未能向下屏蔽硬件差異，跨架構(gòu)靈活調(diào)度與統(tǒng)一算力調(diào)用接口的構(gòu)建仍在攻關(guān)中，這在AI同時，架構(gòu)完善需要時間積累，當前階段用戶在硬件選型上的靈活度不足，構(gòu)建成熟穩(wěn)定的算力服務(wù)體系還需行業(yè)協(xié)同發(fā)力。國產(chǎn)算力軟件進入加速完善、持續(xù)補位階段，自主生態(tài)體系正在構(gòu)建。軟件棧層面，基礎(chǔ)軟件棧處于技術(shù)和產(chǎn)業(yè)發(fā)展初期的必經(jīng)階段，模型“一次開試、Pofiling、性能可視化工具數(shù)量與CUA生態(tài)存在差距，且部分工具以封閉商業(yè)版為主，社區(qū)版功能有待完善；通信庫與算子庫豐富度有待提升，缺少對標NCCL的跨芯片、跨節(jié)點、自適應(yīng)拓撲通信庫，高階算子開發(fā)周期相對滯后。生態(tài)層面，國內(nèi)軟硬件生態(tài)雖初有布局，但芯片廠商主要聚焦于建立“小生態(tài)”，短期內(nèi)難以形成對標英偉達CUDACUDA20400國產(chǎn)軟硬件生態(tài)整體呈現(xiàn)“小、散、弱”的格局，生態(tài)國產(chǎn)軟硬件生態(tài)整體呈現(xiàn)“小、散、弱”的格局，生態(tài)29CHAPTER3·AI相比之下，我國AIGPU芯片+CUDA+Pytorch“小也無法及時反饋至技術(shù)迭代環(huán)節(jié)。國產(chǎn)軟硬件生態(tài)雖支持、調(diào)優(yōu)，使用門檻和遷移成本較高。AIAI計算開放架構(gòu)是面向大規(guī)模智能計算場景，以GPU為核心進行高效緊耦合系統(tǒng)設(shè)計的協(xié)同創(chuàng)新體系。AI計算開放架構(gòu)聚焦大規(guī)模智能計算場景（如千億級參數(shù)大模型訓(xùn)練、超大規(guī)模數(shù)據(jù)推理、多模態(tài)智能交互等），其核心目標是為解決智算產(chǎn)業(yè)兩大痛點：AI協(xié)同設(shè)計，精準滿足用戶在大模型訓(xùn)練推理、科學(xué)計算等多元場景下，對多精度、混合精度運算的需求，實現(xiàn)算力供給與實際應(yīng)用需求高效對接；二是降低算力使用成本，通過標準化技術(shù)架構(gòu)替代專有化方案，推動算力資源從頭部企業(yè)專屬，延伸到全行業(yè)可獲取，最終實現(xiàn)算力普惠與生態(tài)繁榮的雙重價值。302025中國算力發(fā)展之AI計算開放架構(gòu)研究報告目標一 目標一 T A R G E T打造支持異構(gòu)算力的AI計算開放架構(gòu)，提升我國算力的綜合利用水平。一方面，構(gòu)建支持異構(gòu)的大規(guī)模、超大規(guī)模超算與智算集群，破解跨廠商兼容性不足、集群協(xié)同效率較低等共性問題，滿足大模型訓(xùn)練對海量算力的集中需求，避免供需錯配。另一方面，構(gòu)建異構(gòu)協(xié)同計算體系，針對單GPU算力無法滿足的復(fù)雜場景需求（如多模態(tài)處理、科學(xué)計算與AI融合任務(wù)），通過“CPU+GPU+DPU+NPU”異構(gòu)算力集成與統(tǒng)一調(diào)度，實現(xiàn)不同芯片的功能互補，精準匹配場景化算力需求，提升算力綜合利用率。目標二 目標二 T A R G E T打破“技+”，促進不同廠商協(xié)同共建完全自主算力生態(tài)。一方面，構(gòu)建兼容開放的AI計算架構(gòu)生態(tài)，向下屏蔽跨廠商、跨時具備自主特色的開放生態(tài)。另一方面，以開放架構(gòu)為紐帶整合全產(chǎn)業(yè)鏈資源，串聯(lián)芯片設(shè)計、系統(tǒng)集成、大模型開發(fā)、應(yīng)用落地等各環(huán)節(jié)，打破“技術(shù)孤島”局面，避免行業(yè)內(nèi)“重復(fù)造輪子”，不同廠商無需各自開發(fā)專屬適配工具，可基于統(tǒng)一開放架構(gòu)共享技術(shù)成果，減少研發(fā)資源浪費，推動國產(chǎn)智算產(chǎn)業(yè)鏈精細化發(fā)展，促進全行業(yè)算力普惠。31 CHAPTER3·AI業(yè)界應(yīng)對舉措算力是數(shù)字時代的“石油”，AIAI但生態(tài)碎片化的背景下，構(gòu)建一個開放、統(tǒng)一的軟件架構(gòu)是打破技術(shù)壁壘、降低開發(fā)成本、形成規(guī)模效應(yīng)的可行路徑。業(yè)界發(fā)展集群算力、打破“技術(shù)墻”和“生態(tài)墻”通常存在兩種路徑方式，一種是部分開放，一種是完全開放。一是“類大型機”/“類蘋果”的部分開放模式，底層硬件相對封閉，上層軟件棧及應(yīng)用可細分適配。GPU緊耦合上提供統(tǒng)一的接口規(guī)范。AIAI程開發(fā)工具鏈、AIAI二是“類Cuer”/“類安卓”的完全開放模式，底層硬件層、AIAI層均可自定義適配。AI“類安卓”模式中，產(chǎn)業(yè)分工協(xié)作帶來了規(guī)模效應(yīng)，成本得以有效降低。并且，開放繁榮的生態(tài)吸引了更多開發(fā)者參與，不斷催生新的應(yīng)用與服務(wù)，產(chǎn)業(yè)創(chuàng)新活性得到極大增強。完全開放模式通過匯聚多方力量、整合多領(lǐng)域資源，以集群算力彌補單卡性能差距，通過生態(tài)協(xié)同降低應(yīng)用遷移成本，為創(chuàng)新提供多元試錯空間，從而持續(xù)推動算力提升與生態(tài)培育。32AIAIAICHAPTER4·AI[ 案例[ 案例CASE1 ]曙光AI超集群系統(tǒng)中科曙光于259I超集群系統(tǒng)，從底層硬件層、IU張GPU大模型訓(xùn)練推理、行業(yè)大模型微調(diào)、高通量推理、多模態(tài)大模SAI6180B/s,50TBs，可實現(xiàn)PAIAI大幅降低模型開發(fā)門檻，實現(xiàn)大模型訓(xùn)推快速部署上線，并通AINEBULA800圖34AI .3GPUGPU55%。AI121RAS(MTBF)21Checkpoint制，使平均故障修復(fù)時間(MTTR)GridView集群平臺軟件，內(nèi)置管理調(diào)度大模型，實現(xiàn)百萬級部件故障自動分析與秒級隔離。AIAIGPU流軟件生態(tài)，為用戶提供更多選擇，并大幅降低模型軟件開發(fā)與遷移成本。35 CHAPTER4·AI[ 案例[ 案例CASE2 ]沐曦AI計算集群部署案例AI高端數(shù)據(jù)中心、上海市公共算力基礎(chǔ)設(shè)施底座及算力服務(wù)平臺。該集群底層硬件層均采用沐曦曦云CAI能效、高速互聯(lián)、穩(wěn)定可靠等特點，能夠滿足通用計算、AIAI計算集群規(guī)模據(jù)統(tǒng)計已超萬卡，采用沐曦曦云C系列產(chǎn)品建設(shè)規(guī)模為GPU算力服務(wù)器（2560）的高能效國產(chǎn)算力資源池。作為異構(gòu)計算開放平臺，支持各類主流大模型基礎(chǔ)訓(xùn)練框Pytorch、、、MindSpore類主流大模型分布式加速框架，如DeepSpeed、InternLM、Colossal-AI、Megatron-LM等；并通過不斷地優(yōu)化來實現(xiàn)更高AI網(wǎng)絡(luò)互聯(lián)層面，該智算中心采用先進的400GRoCE網(wǎng)絡(luò)，配合高性能分布式存儲系統(tǒng)，可為大模型訓(xùn)練等AIRDMAScaleoutGPUScaeup1664卡光互連超節(jié)點的國