版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
智算產業(yè)發(fā)展白皮書
(2023年)
2023年8月
1
目錄
弓IIZ=I????????????????????????????????????????????????????????????????????????????????????????????????????????5
一、智算發(fā)展迎來新機遇....................................7
1'AI大模型驅動的智算時代正加速到來......................................7
2、智能算力成為數字經濟發(fā)展的新引擎.......................................8
3、國家和地方密集出臺政策支持智算布局....................................9
二、智算產業(yè)全景及新進展.................................12
1、智算產業(yè)鏈初步形成,生態(tài)集聚效應不斷增強............................12
2'國產自研AI芯片加速入場,短期高效供給仍受限.........................15
3、智算中心建設版圖持續(xù)擴張,智算服務靈活多樣.........................16
4、大模型呈蓬勃發(fā)展態(tài)勢?助力產數業(yè)務發(fā)展...............................19
三、智算發(fā)展五大新趨勢...................................21
趨勢1:國產多元異構算力融合推動智算長效發(fā)展...........................21
趨勢2:智算從單節(jié)點向區(qū)域化協同、邊端部署演變.........................21
趨勢3:普惠泛在的智算服務生態(tài)正逐步構建............................23
趨勢4:確定性、高性能網絡助推大規(guī)模智算集群構建.......................24
趨勢5:低碳化發(fā)展格局需創(chuàng)新智算-電網協同模式..........................25
四、智算技術發(fā)展的七大關鍵詞.............................27
關鍵詞1:存算一體...........................27
關鍵詞2:一云多芯............................27
關鍵詞3:CPO..................................................................................................28
關鍵詞4:RDMA..................................................29
關鍵詞5:DDC..................................................................................................30
關鍵詞6:并行計算...........................32
關鍵詞7:液冷...............................32
五、智算發(fā)展?jié)摿υu估.....................................34
3
1、評估方法...........................................................34
2%評估結果.....”.........................36
六、典型案例.............................................41
1、中國電信安徽智算中心..............................................41
2、中國電信(國家)數字青海綠色大數據中心............................42
3、海蘭信海底數據中心......................43
七、總結與展望...........................................47
八、附錄-智算評估實施方案................................48
1'評估指標模型構建........................48
2、評估指標賦值.............................49
3、評估指標權重設計.........................49
4、各省評估得分..........................................51
4
引言
以大模型為代表的通用人工智能不斷演進,人工智能、機器學習、
大數據分析等技術在金融、制造、汽車等領域持續(xù)滲透,大模型應用場
景愈加廣泛,正加速算力產業(yè)結構變革,智能算力將取代通用算力成為
算力結構最主要構成,智算產業(yè)迎來了高速發(fā)展期。
工信部最新數據顯示,我國算力總規(guī)模已位居全球第二,保持年
約30%快速增長,新增算力設施中智能算力占比過半,成為算力增長
的新動能;我國算力產業(yè)創(chuàng)新能力持續(xù)增強,面向大模型訓練、推理
等高性能芯片供給持續(xù)增強,多元異構計算技術加速普及,有力支撐
人工智能、區(qū)塊鏈、元宇宙等新興應用發(fā)展。
算力是數據中心的服務器通過對數據進行處理后實現結果輸出
的一種能力⑴。智算是算力的一種,指具有提供人工智能應用所需算
力服務、數據服務和算法服務的智能算力,利用CPU與GPU、FPGA、
ASIC等加速芯片的異構組合,實現高精度通用算力和低精度專用算
力的融合供應⑵刈。智算涵蓋從底層高性能芯片、服務器和網絡設備,
到智算中心基建、機電配套和軟硬件服務平令,再到頂層人工智能應用
等完整體系,產業(yè)上下鏈長、集聚效應顯著。智算為經濟增長提供數字
轉型、智能升級、融合創(chuàng)新的新動力,帶動人工智能及相關產業(yè)倍速增
長,成為我國數字經濟發(fā)展的新引擎。
一、智算發(fā)展迎來新機遇
1、AI大模型驅動的智算時代正加速到來
人通信時代云計算時代智算時代
工
對+云+大模R+X
智
■+IAI+X
能
發(fā)H+云+X
<
H+X
然
度第一次AI浪潮第二次AI浪潮第三次AI浪潮第9次AI浪潮
1980年,2022年.
“專'家系抗”
ChatGPT正式
一矣AI程序2016年,發(fā)布,引發(fā)生
被廣泛采情2006年,AlphaGo耨成式AI熱潮
深度學習神經Al推向大眾
19744,1987年,
H終令AI姓葩視打,資本
AI研究經費AI硬件市場需20134,
大幅提升、繪紛涌XI
削或,進入求下跌,AI再深局學習算
賽道
“AI之冬”/次詵入低谷法在語音和
觀之識別上
取得突破
1956197419801987200620162022時間
圖1人工智能產業(yè)發(fā)展歷程
人工智能自1956年誕生以來,歷經三次發(fā)展浪潮。
第一次浪潮(1956-1970S),神經網絡相關基礎理論被提出,搜
索式推理、自然語言等大量AI程序和創(chuàng)新研究涌現。但由于大部分AI
程序不具備解決復雜問題的能力,造成AI研究經費開始大幅削減,AI
迎來第一次發(fā)展低谷。該階段算力主要以IBM大型計算機為主,以
集中的方式分配使月。
第二次浪潮(1980s-2000s),80年代名為“專家系統(tǒng)”的AI程
序問世,極大增強了AT的實用性「但“專家系統(tǒng)”應用僅限于特定
領域,迭代升級難度及維護成本高,規(guī)模推廣難度大,AI再次進入發(fā)
展低谷。90年代小型計算機性能每18個月翻一番,且價格和耗電量
大幅降低,算力逐漸進入分布式發(fā)展階段⑶。
第三次浪潮(2006-2020),深度學習等算法的突破使得AI性能
7
大幅提升。移動通信技術快速發(fā)展,共享計算資源、提高算力利用率等
需求催生出以云計算為中心的集中式共享算力模式。2016年,谷歌研發(fā)
的AlphaG。將AI推向大眾視野,語音識別、視覺處理等AI應用逐漸滲
透到各行各業(yè)。同年,中國電信提出“云網融合”發(fā)展方向,將云計算和
網絡技術有機結合,實現計算和網絡資源的統(tǒng)一管理和優(yōu)化配置,推動
網絡和算力一體化供給、運營和服務。
當前人工智能正迎來第四次發(fā)展熱潮,加速進入大模型驅動的智
算時代。2022年11月,OpenAI公司正式推出ChatGPT,推動生成式
AI應用進入爆發(fā)期,M6、文心一言、盤古等國內AI大模型層出不
窮,AT算力需求被推到“井噴”狀態(tài),開啟智算時代。隨著數據指數
級增長,計算密度越來越高、計算節(jié)點分布越來越廣,加速云網與AI、安
全等要素融合。算力逐漸由終端計算等需求驅動的“被動式”發(fā)展,轉
向促進AI大模型訓練、實現通用人工智能等代表的“主動式”發(fā)展,
從“技術工具”進階為社會經濟發(fā)展的“底層動力”。
2、智能算力成為數字經濟發(fā)展的新引擎
人工智能產業(yè)市場前景廣闊,成為推動全球經濟發(fā)展的新動力。
IDC預測,全球以AI為中心的各類系統(tǒng)的軟件、硬件與服務支出,
2023年將達到1540億美元,到2026年將超過3000億美元,預計
2022年至2026年間復合年增長率(CAGR)為27%⑷。2021年中國A1
服務器市場規(guī)模為53.9億美元,預計2025年達到103.4億美元,
2021年至2025年間CAGR達17.7%閭。
8
智算產業(yè)集群化作用顯著,成為帶動人工智能及相關產業(yè)快速發(fā)
展的新動力。到2035年,人工智能的發(fā)展將給我國甚至全球經濟增
長帶來突出貢獻。預計到2026年,人工智能技術對于全行業(yè)的滲透
率將超過20%[6\據信通院數據,2022年我國算力核心產業(yè)規(guī)模達到
1.8萬億元,其中人工智能核心產業(yè)規(guī)模達5080億元,同比增長18%⑺;
2022年我國新增算力基礎設施中智能算力占比過半,智算成為算力增
長新曲線,智算中心正在支撐人工智能產業(yè)的快速發(fā)展,支撐其到2025
年達到4000億,帶動5萬億產業(yè)目標;2030年達到1萬億,帶動10
萬億元產業(yè)目標⑻。
3、國家和地方密集出臺政策支持智算布局
表1.我國部委智算中心建設相關政策
1帆1部委相關內容I
型》批設16投資力度,推動第五代移動通信、就酸網.工業(yè)
2021年1月中共中央《建設高標準市場體系行動方案》互聯網等*8網絡星礎濕地,人工智能、m+M.區(qū)埃鏈等新技術星礎設
施,數據中心.智能計算中心等算力,設施建設.
加快高性急W槍計算中心部署,推動新型數據中心與人工智施等員末協
2021年7月TflTS!《新種奶三十劃(2021-2023年))
同發(fā)展,構建完善新里智施II力生態(tài)體系.
推動普慚--中心有序凌展,打造智?力.通用算法和開發(fā)平臺T?化的
2022年1月國務院<數字短濟發(fā)展規(guī)劃》HEI
新型智胞(礎設施.
“加快建設信息?礎設施,推動人工智能廣泛、深度應用..??發(fā)展首患性
2022年12月國務院《獷大內需戰(zhàn)略觀婀要(2022-2035年)》
‘上云用費》?智一等.
充實數字力國猛設?礎,系統(tǒng)優(yōu)化11力”礎設施布局,促進東西部II力高
2023年2月
國務院《數字中國球設整體布局獻O效互撲和力同取動,引導通用數據中心.超W中心.智能計算中心.邊嫁
數強中心等合S!梯次布局.
2023年4月中共中央政治同會議■要說話要■視通用人工智能發(fā)展,營造創(chuàng)新生態(tài),■校防范風的.
正式也0個平臺建設國家新一代A工能公共售力開放創(chuàng)新平臺、1
2023年7月科技部加所代A工智船公共算力開放創(chuàng)新平臺
平臺建設國家新Tt人工智能公共算力開放創(chuàng)新平臺(第).
數據來源:各部委官方文件
我國高度重視智算產業(yè)發(fā)展,圍繞智算中心、人工智能、大模型等
先后出臺系列政策文件,加快產業(yè)布局?!笆奈濉币?guī)劃和2035年遠景
目標綱要中明確提出要“加快構建全國一體化大數據中心體系,
強化算力統(tǒng)籌智能調度,建設若干國家樞紐節(jié)點和大數據中心集群”。工
信部、國家發(fā)改委等先后出臺《新型數據中心發(fā)展三年行動計劃
9
(2021-2023年)》、《全國一體化大數據中心協同創(chuàng)新體系算力樞紐
實施方案》等文件,啟動“東數西算”重大工程。2023年4月,中共中
央政治局會議中強調“要重視通用人工智能發(fā)展,營造創(chuàng)新生態(tài),重視防
范風險?!?月,科技部批復25個平臺建設國家新一代人工智能公共
算力開放創(chuàng)新平臺(含籌建)。
表2.我國各省市智算中心建設相關政策
相關內容I
2021年5月廣東省人民政府《廣東省人民政府關于加快數字化發(fā)展的愈見》布局通設加修計算中心等新里?住能計II平臺,提供人工智Q力克推
加快應設位聊UB生態(tài)■地.中科耳光先進徭處理密國求工程買的》.華為
成aMSH中心.?力構收基于IMR及界屬.海光自主知所改芯片及自主可
2021年9月WII省人殷炳《四JItt?十四五”新型HR設施it設規(guī)劃》
控超整合界構技術等的多層次電合架構it翼系統(tǒng).打造國際領先的人工四微
計It與賦帔平臺.
(■由fi的字經濟"+WH"*網抑創(chuàng)(2021—nmati#人T智*IP松梅城人T咎s和褂潭MVS■法庭
2021年12月市人民
2025年))標準數煙集用開放平臺,夯實人工智船創(chuàng)新發(fā)展-算法+算力+數據”基礎.
設杭州國家人工智能創(chuàng)新應用先導區(qū)行動計劃
2022年1月浙江省人民政府
(2022—2024^))支持新型智施計算架構試物疆證等■大科技擘i設施(裝置)建設.
年月《上海打造未來產業(yè)創(chuàng)新高地發(fā)展壯大未來產業(yè)集期動超大模型智能計突破,培育智能計主隹架和■法平臺,發(fā)展自主
202293市人民政府11H0
琳行動方富》智IE芯片.
《成郡方困統(tǒng)超11智首加快■力產業(yè)發(fā)履的政策措
202坤1月成都市政府陰■成都每年將發(fā)放總額不超過1000萬元的算力券.
S6)
充分發(fā)揮人工智16創(chuàng)新發(fā)展專項等引導作用.支持民營企業(yè)廣泛*與數據、
年月上海市發(fā)改委《上海市加大力度支持民間投資發(fā)展若干政柒推般》
20235M力等人工智能咄設施建設
高效推動新011力基礎設趣窿設.將新0K力也設項目炳入算力伙伴計劃,
推動海淀區(qū)、朝陽區(qū)建設北京人工智徑公共11力中心、北京數字經濟M
2023年5月4麗人即炳?由行促進通用人工智能創(chuàng)新發(fā)展的若干措施》力中心,形成規(guī)?;冗M算力供給饒力,支撐千億級參數■的大里語言模型.
大型視覺橫型、多模態(tài)大模型.科學計H大模型、大規(guī)模精細神經忸絡模擬
仿典模獷.IR啟發(fā)襁網珞等研發(fā).
數據來源:各省市官方政黃文件
地方政府紛紛發(fā)布智算產業(yè)相關政策,開展智算中心相關基礎設
施建設工作,提供普惠算力服務。北京發(fā)布《北京市促進通用人工自
能創(chuàng)新發(fā)展的若干措施》高效推動算力基礎設施建設,將新增算力建
設項目納入算力合作伙伴計劃,加快推動智算中心建設,形成規(guī)模化
先進算力供給。上海出臺《上海市助力中小微企業(yè)穩(wěn)增長調結構強能力
若干措施》助力中小企業(yè)數字化轉型,發(fā)放“AI算力券”,重點支持
租用本市智能算力且用于核心算法創(chuàng)新、模型研發(fā)的企業(yè),最高按合同
費用20%進行支持。成都印發(fā)《成都市圍繞超算智算加快算力產
業(yè)發(fā)展的政策措施》明確每年發(fā)放總額不超過1000萬元的算力券,
10
用于支持算力中介服務機構、科技型中小微企業(yè)和創(chuàng)客、科研機構、
高校等使用國家超算成都中心、成都智算中心算力資源。
11
二、智算產業(yè)全景及新進展
1、智算產業(yè)鏈初步形成,生態(tài)集聚效應不斷增強
±?:芯片&設備供應商中游:務超供商下源:行業(yè)由用
芯NVIDIAintel云谷欹AWS
K
鈾軟Meta
KXilinxAMD
■
運AT&TVerizon
務
外
就爾?8
企
器
業(yè)ffiORANGE稔國電(8
網
絡
思科Juniper
設
xOpenAI特斯技
備
AristaArrcus早果貪第
云
壁仞科技惠武紀
商
華為昇11阿里平頭哥
IDC
國K中EB電信中皿I通中國移動
內
務
商
企萬國數重世紀互聯春泡斂樹
業(yè)
中科電光商泰4技
云從科技浪潮僖?息
圖2智算產業(yè)鏈圖譜
目前,我國智算產業(yè)鏈已經初步形成,涵蓋由芯片、軟件、便件
供應商構成的上游產業(yè),由云商、電信運營商、第三方數據中心服務
商等構成的中游產業(yè),以及由互聯網、交通、金融、工業(yè)等行業(yè)等用戶
構成的下游產業(yè)。
(-)上游:AI芯片領域形成多方競爭格局
GPU、FPGA技術壁壘高,迅速形成寡頭格局。英偉達(NVIDIA)
憑借NVLink、NVSwitch等集群性能優(yōu)勢以及良好的CUDA生態(tài),成為
全球GPU主要供貨商,其A100芯片占據了數據中心GPU市場90%以
上的份額。據TDC數據,預計到2025年GPU仍將占據AI芯片8成市
場份額。同時賽靈思(Xilinx)和英特爾(Intel)已在FPGA領域形
成雙寡頭格局,市場份額占比約90%[9\
TPU、NPU逐漸興起,呈現〃百家爭鳴〃態(tài)勢。以TPU、NPU為代
12
表的ASIC憑借吞吐量、功耗、算力等優(yōu)勢,逐漸被廣泛應用于人工
智能領域。國外以谷歌為首發(fā)布TPU芯片,國內寒武紀、華為、阿里
等公司也都推出了深度神經網絡加速的ASIC芯片,如華為昇騰NPU、
阿里平頭哥NPU。
白盒交換機以其軟硬解耦、靈活可編程、高速轉發(fā)等優(yōu)勢受到云
商智算中心大規(guī)模組網青睞。Omdia數據顯示,2022年全球數據中心
以太網交換機市場份額白盒供應商占比32%,其中Arista占比18隊
在北美市場,全球T0P3云商亞馬遜、谷歌和Meta的白盒交換機購買
規(guī)模已超市場總規(guī)模的三分之二。
InfiniBand和RoCE作為智算中心高性能網絡的主流方案,滿足
智算網絡的低時延、大帶寬、穩(wěn)定運行、大規(guī)模以及可運維的需求。
InfiniBand網絡方案及配套設備供應商主要包括英偉達、英特爾、思
科,其中英偉達市場占有率超七成。支持RoCE的交換機廠商較多,
主要以新華三、華為為主。支持RoCE的NVIDIAConnectX系列網卡
當前市場占有率比較高。
(二)中游:云商及IDC服務商基于自身優(yōu)勢提供智算服務及解
決方案
云商、科技公司借助自身技術壁壘提供大模型及平臺服務。主流
云商一方面自建大型智算中心,如Meta宣布取消或暫停部分正在建
設的數據中心,對其11個正在開發(fā)的項目進行重新設計,徹底轉向
人工智能數據中心的建設。另一方面加速布局AI大模型,如谷歌
“PaLM-2">Meta"Llama2”等。特斯拉、蘋果等科技公司基于自身
13
業(yè)務優(yōu)勢,一方面自建定制化智算中心,如特斯拉面向自動駕駛等領
域建設超算中心Dojo,擁有超過100萬個訓練節(jié)點,算力達到
1.lEFL()PSll0]o另一方面,積極布局AI大模型體系,鞏固自身行業(yè)
優(yōu)勢壁壘,如特斯拉AI機器人“擎天柱"、蘋果"AppleGPT”。
IDC服務商依托云/網資源優(yōu)勢,積極參與智算建設。國內運營
商積極建設智算中心及平臺,如中國電信推出息壤智能計算平臺,提
供智算、超算、通算多樣化算力服務,為大模型訓練、無人駕駛、生命
[11]
科學等場景提供軟硬一體解決方案,RDMA吞吐可高達1.6Tbo國外
1DC服務商仍在布局階段,如2023年日本NTT宣布將在5年內投資
8萬億日元(約合590億美元)用于人工智能、數據中心和其他增長
領域㈤;Equinix的2023年全球科技趨勢調查報告顯示,人工智能
應用率上升,但TT基礎設施沒有為人工智能做好充足準備。
(三)下游:車企領銜行業(yè)大模型落地應用
互聯網、交通、金融、工業(yè)等行業(yè),基于大模型帶動自動駕駛、
機器人、元宇宙、智慧醫(yī)療等下游產業(yè)發(fā)展。海外大模型行業(yè)應用主要
在傳媒游戲、機器人、辦公等領域落地,如Meta推出AISandbox為
廣告生成不同的文字、Apple推出生成式人工智能元宇宙產品
VisinPro頭顯,并訂劃在sir!嵌入類GPT功能。哈維基于GPT及
行業(yè)數據推出AI法律助手。國內大模型行業(yè)應用主要聚焦金融、醫(yī)療、
傳媒游戲、智能汽車等領域,如百度文心大模型助力浦發(fā)銀行、泰康保
險在投資決策、理賠信息檢索等方面的應用。華為盤古大模型為國家電
網電力巡檢提供智能服務。
14
國外大模型應用落地行業(yè)分布情況國內已落地的行業(yè)大模型分布憎況
44.“/RNUM11.1%4個
睡來源:Bloomberg,國信證甥5而形新睢對:網頁行資料
統(tǒng)計時聞22年1月-23年5月?Utm:2023年6月12日
圖3國內外大模型行業(yè)分布㈣
車企布局智算中心用于自動駕駛大模型訓練。特斯拉基于Dojo
超級計算機先后推出BEV大模型、端到端自動駕駛大模型,推動高階
智能駕駛落地,預計到2024年算力將達lOOEFLOPSo吉利星睿智算
中心自研汽車行業(yè)AI對話模型,初步完成百億參數的大模型訓練,
吉利星睿智算中心(湖州)預計2025年算力規(guī)模將達1.2EFL0PSC:4]O
小鵬汽車自動駕駛智算中心“扶搖”(烏蘭察布),基于阿里飛天智
算平臺,算力可達600PFL0PS,將小鵬自動駕駛核心模型的訓練提速
近170倍[⑸。毫末智行智算中心“雪湖?綠洲”(山西大同),基于
火山引擎智算云解決方案,算力達670PFL0PS,模型訓練效率提升100
倍叫
2、國產自研AI芯片加速入場,短期高效供給仍受限
國產硬件廠商持續(xù)突破AI芯片性能,提升市場競爭力。華為推
出昇騰910,性能對標英偉達A100,可用于智能手機、云計算、自動
駕駛等領域,同時推出A1開源計算框架MindSpore,支持用戶進行
AT開發(fā)。寒武紀提供云邊端一體、訓練推理融合等系列AT芯片產品
及平臺化基礎系統(tǒng)軟件,重點對推薦系統(tǒng)和大語言模型的訓練推理等
15
場景進行優(yōu)化。壁仞科技等初創(chuàng)公司不斷與多方建立合作關系,如萬
國數據、浪潮、中國移動等,聚焦云端通用智能計算,重點在AI訓
練和推理、圖形渲染等領域發(fā)力。
大型云商自研AI芯片,以擺脫對國外技術依賴。阿里面向自身
電商、汽車、家電等領域需求自研AI芯片,基于RISC-V架構和自研
算法推出含光800NPU,支持TFlops級別浮點運算。百度面向搜索、
智能交通等領域的深度學習運算需求,推出昆侖系列AI芯片,用于
大模型推理。騰訊依靠蓬萊實驗室推出AI推理芯片“紫霄”,已用
于騰訊會議等多個內部業(yè)務。
我國自主AI芯片在系統(tǒng)效率等方面與國際領先產品仍有差距,
并存在性價比待提高、架構不夠兼容、配套工具不夠成熟、應用場景
不夠廣泛等問題。制程方面,目前英偉達已率先到達4nm,而國內廠
商多集中在7nm[17]:算力方面,國內廠商大多不支持雙精度(FP64)
計算,且僅在單精度(FP32)及定點計算(INT8)方面與國外中端產
品持平;生態(tài)方面,與英偉達CUDA的成熟生態(tài)相比,國內企業(yè)多采
用OpenCL進行自主生態(tài)建設,存在明顯差距。
3、智算中心建設版圖持續(xù)擴張,智算服務靈活多樣
智算中心聚焦東部城市,以政府主導國產化為主。截至2023年
5月,全國超35個城市在建或投運44個智算中心(在建15個智算
中心,投運29個智算中心),其中明確面向AI大模型應用的有11
個。地理分布集聚一線及省會城市,與大模型研發(fā)分布強相關。智算
16
中心建設以東部為主,京津冀、長三角、粵港澳共29個(占比近66%),其
中9個在建,20個投運,面向西部樞紐節(jié)點逐漸開展布局。東部多
為政府主導建設,且國產化占比高(54%),西部以云商自建為主。
地方政府牽頭主導34個(占比近8(%),主要滿足當地AI產業(yè)發(fā)展,
且以華為昇騰、寒武紀等為主要合作方提供國產化能力。西部以云商為
主,如阿里烏蘭察部智算中心、字節(jié)跳動與毫末智行合建雪湖綠洲
(山西大同)智算中心。受限于需求不清晰、高性能芯片產業(yè)生態(tài)不
成熟等因素影響,智算規(guī)模普遍偏小。智算中心規(guī)模在100-
300PFL0PS內占比超70%以上,超過1EFL0PS規(guī)模的智算中心約占25%
(超半數為云商及大型企業(yè)自建),且全部集中在京津冀、長三角和
粵港澳區(qū)域。
東北
內蒙古
▲:0?
57個
長三角
:20^
西部
智算中心
▲大模型粵港澳
22個
圖4我國智算中心及大模型分布
17
由于智算需求場景多樣且高度定制化,相較于傳統(tǒng)數據中心,智
算中心服務模式呈現多元化特點,包括機房托管、算力租賃、智算平
臺、工具集及咨詢等增值服務、模型即服務(MaaS)、大模型應用服
務以及各種組合模式。
(-)機房托管:機房托管服務與傳統(tǒng)數據中心服務模式類型相
同,但需要面向智算提供更高層次的定制化(功耗、配電、網絡等),
主要面向云商、AI公司、大型央企等客戶。
(二)算力租賃:主要面向中小型科技公司、IT公司、小參數量
的模型(10B規(guī)模)等客戶,通過將閑置GPU資源通過云服務的形式
將服務器或虛擬機租用給用戶,采用按使用時間及利用率收費。
(三)大模型托管、訓練、部署、訂閱等從laaS到SaaS全線服
務。一是提供GPU主機、高性能計算、批量計算等laaS產品。二是
依靠智算平臺提供公有云和專有云,為各類科研、公共服務和企業(yè)機
構提供算力調度、數據處理、模型開發(fā)等一體化智能計算服務。三是
通過MaaS提供模型定制、精調、部署等一站式模型服務。四是基于
大模型和MaaS能力全面智能升級SaaS應用,幫助企業(yè)構建行業(yè)大模
型或集成在企業(yè)應用上、以及面向公眾用戶提供搭載大模型應用的基于
大模型的搜索引擎、數字人等服務。
18
■0服務指供方
大0云高AI科技公司I"服務有
應用?身(g)
BTA.瘦索引隼
BMMPM
M一訓號.用L,
■“零包:M,飛莢
的■力?理利康、則生產M平臺
G1TU力
■918.0雙機
Rtt.安全、istt
圖5智算服務體系
未來智算服務模式將由現階段集成AI大模型能力的云產品的賣
方市場,逐步過渡到圍繞產品提供配套衍生服務,最終形成基于標準
化智算中心基于“AI原生”生態(tài)服務的買方市場。
4、大模型呈蓬勃發(fā)展態(tài)勢,助力產數業(yè)務發(fā)展
我國大模型研發(fā)快速增長,大模型研發(fā)分布以東部城市為主。從
全球己發(fā)布的大模型分布來看,中國和美國大幅領先,超過全球總數的
80%,美國在大模型數量方面始終居全球最高,中國從2020年進入大
模型快速發(fā)展期,目前與美國保持同步增長態(tài)勢。據不完全統(tǒng)計,目前
中國10億參數規(guī)模以上的大模型已發(fā)布79個,14個省市/地區(qū)
都在開展大模型研發(fā),與智算中心布局一致,主要集中在北京(38個)、
[18]
廣東(20個)、浙江(5個)和上海(5個)o其中大模型開源占
比過半,高校/科研機構是開源主力。清華大學的ChatGLM-6B、復旦
大學的VOSS以及百度的文心系列大模型開源影響力最高。
通用大模型不僅需要海量數據與雄厚算力支撐,對資金實力、人
19
才隊伍等也提出更高要求。如ChatGPT單次訓練成本高達數百萬美金,
OpcnAI核心團隊87人,全部來自世界頂尖高等院校。未來將呈現少
數幾家通用大模型,并涌現出無數更貼近產業(yè)需求的行業(yè)大模型的趨
勢。
智算賦能行業(yè)應用,是產數業(yè)務發(fā)展的〃加速器〃。行業(yè)大模型
通過對垂直細分領域的數據進行更有針對性的訓練和優(yōu)化,從而更好
地理解行業(yè)的語義和規(guī)范,更有效地執(zhí)行專業(yè)性更強的任務。如金融
的風險控制和投資決策,醫(yī)療的圖像識別和診斷,交通的調度和路徑
優(yōu)化,能源的能耗預測、碳排放監(jiān)測等。預計生成式AI能為這些行
業(yè)帶來1000億美元到3000億美元的收益。通用大模型企業(yè)基于自有
通用大模型+外部行業(yè)數據的模式拓展多個行業(yè)大模型,行業(yè)公司基于
開源大模型+內部行業(yè)數據賦能自身應用。截至2023年8月,國內已
落地的行業(yè)大模型共72個,主要集中在金融(14個,19.4%)、醫(yī)
療Q4個,19.4%))、傳媒游戲(811.1%)及教育科研(8個,
11.1%)。
枇發(fā)霧售
*
4000
潸3000工業(yè)制造
在*
效高薪技術產業(yè)
益
空
間
?交通物流能源
教育?
?公共管理服務電信
面體娛樂?保險
3040506070
大模型對各行業(yè)工作時長影峋程度(%)
圖6大模型潛在影響矩陣隨
20
三、智算發(fā)展五大新趨勢
趨勢1:國產多元異構算力融合推動智算長效發(fā)展
大模型發(fā)展推動CPU、GPU、DPU等〃XPU〃異構算力融合。
一方面,模型訓練、邊緣推理、數值模擬等不同智能應用需要智算中心
提供不同的算力,如自動駕駛、智慧醫(yī)療等場景既需要高精度通用
算力也需要低精度專用算力[2叫另一方面,隨著多模態(tài)大模型流量規(guī)
模增長,CPU、GPU需要拿出更多精力處理數據傳輸,需要利用DPU
減負,從而更好地處理“本職工作”。中國電信自研紫金DPU實現
服務器虛擬化零損耗,全面釋放算力,同時網絡PPS性能翻倍、存儲
IOPS性能提升兩倍、網絡時延降低至原來的四分之一。
高端AI芯片國產化能力是我國智算產業(yè)長效發(fā)展的關鍵。一方
面,我國AI芯片需求增長迅猛,華為數據顯示,我國對人工智能芯
片的需求半年內增長了十倍以上;IDC預測,未來18個月,GPU、
ASIC和FPGA等AI芯片搭載率將持續(xù)增高。另一方面,我國高端
AI芯片性能與國際領先水平仍有差距,對美國依賴較大。隨著美國
對中國高端AI芯片的管制進一步加強,如英偉達等廠商對中國(含
香港)禁運高性能GPU,需要我國持續(xù)加強芯片技術攻關,提升GPU
的國產化替代能力。
趨勢2:智算從單節(jié)點向區(qū)域化協同、邊端部署演變
大模型驅動的智算成為東數西算的最佳實踐。由于異構算力封裝、
21
超大帶寬和超低延遲傳輸網絡技術仍未解決,以當前模型訓練參數量
(千億級)為參考,大模型訓練等的AI計算基本依靠單智算中心完
成,且基本集中在同構智能算力中心。智算中心選址多位于東部地區(qū),
東部區(qū)域在傳統(tǒng)數據中心建設方面,由于受能耗、成本等因素的影響發(fā)
展放緩,但各地政府為實現大模型的創(chuàng)新培育與產業(yè)聚集,短期內將主
導智算中心發(fā)展,形成布局一線及省會城市。長期來看(5年以上),
受成本、雙碳目標以及業(yè)務模式等因素影響,集約、規(guī)?;闹撬阒行?/p>
向全國一體化樞紐節(jié)點布局的趨勢不會改變。未來隨著計算機視覺、科
學計算等多模態(tài)大模型的發(fā)展以及參數量的規(guī)模增長(萬億以上),將
帶動東數西訓、東數西渲成為東數西算場景落地的最佳實踐,并呈現兩
大趨勢:一是大模型演進為多個智算中心分布式訓練,且此時智算中心
間可以通過全光網等方式實現us級時延,智算中心間交互帶寬達T
級別以上;二是業(yè)務應用調用多個專業(yè)大模型,可能形成云計算中心與
智算中心間一對多的互聯需求,流量規(guī)模增長。西部地區(qū)具備發(fā)展智算
中心、承接東部算力需求的潛力,東西跨區(qū)域協同將更加突出。
訓練-推理的集中-邊緣/終端兩級化布局逐步形成?,F有大模型
業(yè)務模式主要包括與大模型直接交互和基于大模型能力的產品改造。
前者以獵奇為主,短期并發(fā)難以持續(xù),如ChatGPT的訪問量增長率1
月環(huán)比增長131.6%,5月下降至2.8隊后者更多實現大模型與產品、
業(yè)務流程的融合,將成為主流形態(tài),如集成了GPT4的Bing搜索引擎用
戶訪問規(guī)模已超ChatGPT。隨著多模態(tài)大模型逐步成熟,將推動2B
22
生產型和2C消費型流量漸成規(guī)模,以高頻富媒體即時交互為主,業(yè)
務應用調用多個專業(yè)大模型成為主要方式,驅動分布式推理智算中心
下沉,中心(訓練)-邊緣(推理)將成大模型的主流部署方式。此外,
隨著大模型輕量化處理、終端性能的持續(xù)提升,大模型從云端到終端
部署漸成發(fā)展趨勢。截至2023年2月國內存量手機終端智能算
力總規(guī)模是我國數據中心算力總規(guī)模12倍以上,相當于近一百萬片
英偉達H100芯片算力卬,大模型的云-邊-端協同應用將在未來幾年
趨勢3:普惠泛在的智算服務生態(tài)正逐步構建
智能算力使用具有周期性,復用難。AI大模型以“大規(guī)模預訓
練+微調”為主,前期預訓練工作量大,且需要高性能大算力AI芯
片支撐,算力需求呈現周期性,后期推理算力對芯片計算能力要求用對
較低。智算中心的算法模型、AI架構定制化程度高,其他場景難以復
用。據IDC調研,超過80%的受訪組織表示會考慮購買預先訓練好
23
的人工智能模型,但未來2-3年私有化部署仍將是整個智算市場的主流。
由于當前國內高性能芯片受限、智能算力建設及使用門檻高等原因,借
助平臺調度實現算力錯峰使用,并整合數據集、組
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 中學學生社團活動經費使用規(guī)范制度
- 企業(yè)內部保密工作監(jiān)督制度
- 公共交通安全事故處理制度
- 2026年計算機視覺技術挑戰(zhàn)題集算法與圖像處理解析
- 2026年英語語法與閱讀理解能力測試題集
- 2026年計算機二級考試編程題精講
- 2026年文獻檢索與論文寫作技能提高題庫
- 2025年隱私計算技術專利池許可費率計算模型協議
- 2025年三年級音樂音樂與心理復原力期末試卷
- 傳聲港平臺新華網發(fā)稿服務 -AI驅動下的權威媒體精準傳播與品效合一解決方案
- 太陽能路燈施工組織設計
- 2026年江蘇衛(wèi)生健康職業(yè)學院單招職業(yè)傾向性測試必刷測試卷及答案解析(名師系列)
- 高校行政人員筆試試題(附答案)
- 2025年農村會計考試試題題庫及答案
- 檢驗科電解質教學課件
- 浙江省杭州市西湖區(qū)杭州學軍中學2025-2026學年物理高二上期末質量跟蹤監(jiān)視試題含解析
- 創(chuàng)傷病人的評估和護理
- 房建工程施工工藝流程
- 設備委托開發(fā)合同(標準版)
- 理解人際溝通中的情緒管理和表達技巧應用
- 2025 年四年級語文閱讀理解(分析人物形象)突破卷
評論
0/150
提交評論