)月前 言。E（os依托百P級（PFlops）/AIAI當然，報告仍有諸多不足，懇請各界批評指正。目 錄一、人工智能算力基礎設施演進態(tài)勢 1（一）技術(shù)創(chuàng)新：三位一體智算設施升級 1（二）布局優(yōu)化：全國智算設施協(xié)調(diào)發(fā)展 3（三）產(chǎn)業(yè)升級：智算全產(chǎn)業(yè)鏈協(xié)同發(fā)展 4二、人工智能算力基礎設施賦能的重要走勢 6（一）需求場景逐步明晰，促使智算資源優(yōu)配 7（二）關(guān)鍵能力逐步聚焦，提升智算服務水準 7（三）落地生態(tài)逐步聚和，加速智算價值釋放 8三、人工智能算力基礎設施需求場景 8（一）大模型預訓練場景 9（二）大模型微調(diào)場景 10（三）大模型推理場景 四、人工智能算力基礎設施關(guān)鍵能力 13（一）基礎支撐能力 14（二）創(chuàng)新服務能力 17（三）運營保障能力 19五、人工智能算力基礎設施落地生態(tài) 21（一）智算與數(shù)據(jù)要素協(xié)同 22（二）智算與模型算法協(xié)同 23（三）智算與跨域智算協(xié)同 24（四）智算與行業(yè)場景協(xié)同 25（五）智算與區(qū)域產(chǎn)業(yè)協(xié)同 26六、發(fā)展展望 28（一）需求場景更加多元、復雜 28（二）關(guān)鍵能力更加集約、軟性 29（三）落地生態(tài)更加聚合、協(xié)同 30一、人工智能算力基礎設施演進態(tài)勢（一）技術(shù)創(chuàng)新：三位一體智算設施升級GPU/NPU/DPU/CPUHBM/DRAM/SSD等異構(gòu)存儲單元構(gòu)成的異構(gòu)計算/存儲集群，通過高速互聯(lián)網(wǎng)絡實現(xiàn)近乎線性超節(jié)點作為智算集群化發(fā)展的關(guān)鍵技術(shù)之一，正逐漸成為行業(yè)焦點。以華為384384158AIGPUNebulaScale-Out2048AI（PUE1.25400G逐步啟動干線場景規(guī)模部署，對于更高速率的傳輸技術(shù)，業(yè)界加快800G/1.6TOIFITUG.654.E光纖、空（二）布局優(yōu)化：全國智算設施協(xié)調(diào)發(fā)展2020（2021-202320255202520258《202520256力中心機架總規(guī)模達1085788EFlops11與此同時，“東數(shù)西算”戰(zhàn)略等大背景下，新建智能算力中心逐漸融入八大樞紐節(jié)點2025215.5EFlops280.8%，2020248620PFlops，20257100EFlops42025362EFlops5。（三）產(chǎn)業(yè)升級：智算全產(chǎn)業(yè)鏈協(xié)同發(fā)展I1901數(shù)據(jù)來源：中國信通院2數(shù)據(jù)來源：國家數(shù)據(jù)局3數(shù)據(jù)來源：北京市科協(xié)4數(shù)據(jù)來源：上海市經(jīng)信委5數(shù)據(jù)來源：深圳發(fā)布86.9%上游IDC2024270GPU70%82202315%提升至30%中游下游4%。三大運營商的算力布局緊密圍繞國家“東數(shù)西算”與“人工智能+”13AI6.93EFlops中國電信適度“2+3+7+N+M”“集群+DC”AIDCAI中國聯(lián)通智“1+N+X”1NX“引擎”。中國聯(lián)通上海臨港智算中心，憑借在技術(shù)創(chuàng)新、綠色低碳與2025AI大廠紛紛加速布局智算領域，聚焦大規(guī)模智算中心建設，注AIAI10萬張GPUHPNAI計算服務CPFSAIAIAIAIMallAI使用門二、人工智能算力基礎設施賦能的重要走勢（一）需求場景逐步明晰，促使智算資源優(yōu)配（二）關(guān)鍵能力逐步聚焦，提升智算服務水準AIAI（三）落地生態(tài)逐步聚和，加速智算價值釋放++++（（I三、人工智能算力基礎設施需求場景（E（P（一）大模型預訓練場景（大模型訓練階段消耗的資源主要集中在預訓練階段，需要數(shù)千至上萬塊GPU90-99%4.1OpenAI2.5A100GPU，13100MetaLLaMA-31.6H100GPU5415國內(nèi)通信運營商、AI頭部廠商積極建設萬卡智算集群，持續(xù)研發(fā)“”和電“AI平臺“星辰”15tokens（2000億參數(shù)阿里GPU數(shù)36Qwen2.5的P800五星級”認證的國產(chǎn)萬卡集群，可同時承載多個千億參數(shù)大模型的全量訓練。（二）大模型微調(diào)場景90%L1/L2L1/L2L1L2（PP級150DeepSeek50030決方案200余個。（三）大模型推理場景端智能助手需要大量的實時計算資源來支持用戶的高并發(fā)請求和快速響應，當前主要依托云側(cè)推理完成。由于需要處理大量并發(fā)請求，GPT3GLM100ms，Llama/Stability專用于推理的智算中心持續(xù)涌現(xiàn)。杭州靈汐類腦智算集群已于20257API框架的類CUDA軟tokenROCE304150GPU和720100GPU署了中興通訊TECS資源管理平臺和AIS（韶關(guān)翼芯”昇PD分離調(diào)度、KVcacheDeepSeek671B2.5~4.3四、人工智能算力基礎設施關(guān)鍵能力（一）基礎支撐能力AI是主要關(guān)注token吞吐率個性化需求的支撐能力。表1智算中心基礎支撐能力重點指標能力訓練場景推理場景指標含義指標含義基礎支撐能力集群算力有效性盡可能降低在多卡互聯(lián)、多級互聯(lián)中的算力損耗吞吐率智算中心支撐推理服務在所有用戶請求中每秒可生成的輸出詞元(Token)計算集群穩(wěn)定性計算集群可穩(wěn)定支撐模型訓練長時間運行端到端時延為用戶生成完整響應所需的總時間。單體集群算力規(guī)?？芍文Ｐ陀柧毜膯误w集群算力規(guī)模上限異構(gòu)多樣性提供多元異構(gòu)智算加速卡供用戶選擇主流計算框架兼容性底層算力卡是否可兼容主流計算框架云服務高效性可通過云方式提供高效的算力服務算法模型多樣性支持多種主流通用基礎大模型數(shù)據(jù)集豐富性支持多種主流通用數(shù)據(jù)集及行業(yè)數(shù)據(jù)集1程夸娥（KUAE）智算中心實現(xiàn)了系統(tǒng)級全棧協(xié)同優(yōu)化，覆蓋硬件、70B130B參91%。MFU（ModelFLOPSUtilization）FLOPSMFU表明加速40-50%50%。模型推理對智算卡的內(nèi)存和通信帶寬有強要求。對于推理場景，于推理過程主要是基于已訓練好的模型對輸入數(shù)據(jù)進行處理和輸出算中心在加速卡選型方面有針對性的方案，以實現(xiàn)最佳的性能和效率。（二）創(chuàng)新服務能力指池表2智算中心創(chuàng)新服務能力重點指標能力訓練場景推理場景指標含義指標含義創(chuàng)新服務能力云服務高效性可通過云方式提供高效的算力服務池化調(diào)度能力支持異構(gòu)算力的統(tǒng)籌調(diào)度，并推進池化調(diào)度模型遷移高效性可高效完成用戶模型的遷移適配模型遷移高效性可高效完成用戶模型的遷移適配數(shù)據(jù)治理多樣性為用戶提供多樣的數(shù)據(jù)匯聚、共享、清洗等工具開發(fā)工具完整性提供豐富完整的模型量化、剪枝、部署開發(fā)工具開發(fā)工具完整性提供豐富完整的模型訓練、推理、部署開能力訓練場景推理場景指標含義指標含義發(fā)工具場景方案豐富性提供豐富的行業(yè)場景模型及行業(yè)場景解決方案樣例MaaSAI智算中心的池化調(diào)度能力同樣是推理場景關(guān)注的重要指標之一AI/昇AI芯GPUGPU（三）運營保障能力表3智算中心運營保障能力重點指標能力訓練場景推理場景指標含義指標含義運營保障能力算力調(diào)度靈活性可依托外部算力調(diào)度平臺被靈活調(diào)度算力池資源算力調(diào)度靈活性可依托外部算力調(diào)度平臺被靈活調(diào)度算力池資源算力租賃性價比可提供高性價比的算力租賃服務算力租賃性價比可提供高性價比的算力租賃服務安全合規(guī)性保障用戶安全合規(guī)地安全合規(guī)性保障用戶安全合規(guī)能力訓練場景推理場景指標含義指標含義部署大模型訓練地部署大模型推理服務響應時效性可快速響應用戶的各類服務需求服務響應時效性可快速響應用戶的各類服務需求協(xié)調(diào)主體豐富性可協(xié)調(diào)豐富的產(chǎn)業(yè)主體資源服務質(zhì)量跟蹤支持面向用戶的服務質(zhì)量全過程跟蹤服務質(zhì)量跟蹤支持面向用戶的服務質(zhì)量全過程跟蹤202571.8P。等市203555P1723998一。團隊對各類智算中心主體的訓練卡與推理卡服務價格進行了調(diào)研與五、人工智能算力基礎設施落地生態(tài)供給主體協(xié)同合作，才能助力智算中心賦能真正落地。（一）智算與數(shù)據(jù)要素協(xié)同+DeepSeek2.0DeepSeek加速向全國（）高50PB（二）智算與模型算法協(xié)同算力+模型”一體化模式，不僅為科研機構(gòu)與企業(yè)提供了從訓練推理到場景重慶人工智能創(chuàng)新中心將自身昇騰Atlas系列硬件深度適配DeepSeek-R11.5B70B算力到服務部署的全鏈條國產(chǎn)化服務能力。武陵山（川）人工智能計算中心于2025年2月宣布完成國產(chǎn)開源大模型DeepSeek2024“+DeepSeekAI文旅、AI教AIAI（）人工智2025中興通L0Deepseek、Qwen-QWQ140+（三）智算與跨域智算協(xié)同產(chǎn)業(yè)界已進行了諸多探索。AI30095%16:1AI800G40%35%20%70098%（四）智算與行業(yè)場景協(xié)同業(yè)生態(tài)。長安汽車與百度智能云共建的長安汽車智算中心，是智算中心與AI142/“星環(huán)平臺”，實現(xiàn)跨集群算力與存儲資源的統(tǒng)一調(diào)度。截至當前，長安汽車3AI算204.5100P10PBDeepSeek600GB400G”36個“”場景。（五）智算與區(qū)域產(chǎn)業(yè)協(xié)同聯(lián)合孵化面向多場景的解決方案，通過推動“政產(chǎn)學研用”+2023年11080%4020215400PFLOPS400多家企300+”““用”174