AIGC行業(yè)市場分析

ChatGPT開啟大模型“軍備賽”，存儲作為計算機重要組成部分明顯

受益:ChatGPT開啟算力軍備賽，大模型參數(shù)呈現(xiàn)指數(shù)規(guī)模，引爆海

量算力需求，模型計算量增長速度遠超人工智能硬件算力增長速度,

同時也對數(shù)據(jù)傳輸速度提出了更高的要求。XPU、內(nèi)存、硬盤組成完

整的馮諾依曼體系，以一臺通用服務(wù)器為例，芯片組+存儲的成本約

占70%以上，芯片組、內(nèi)部存儲和外部存儲是組成核心部件；存儲

是計算機的重要組成結(jié)構(gòu)，“內(nèi)存”實為硬盤與CPU之間的中間人，

存儲可按照介質(zhì)分類為ROM和RAM兩的分。

存算一體，后摩爾時代的必然發(fā)展:過去二十年中，算力發(fā)展速度遠

超存儲，“存儲墻”成為加速學習時代下的一代挑戰(zhàn)，原因是在后摩爾

時代，存儲帶寬制約了計算系統(tǒng)的有效帶寬，芯片算力增長步履維艱。

因此存算一體有望打破馮諾依曼架構(gòu)，是后摩時代卜的必然選擇，存

算一體即數(shù)據(jù)存儲與計算融合在同一個芯片的同一片區(qū)之中，極其適

用于大數(shù)據(jù)量大規(guī)模并行的應用場景。存算一體優(yōu)勢顯著，被譽為

AI芯片的“全能戰(zhàn)士”，具有高能耗、低成本、高算力等優(yōu)勢；存算一

體按照計算方式分為數(shù)字計算和模擬計算，應用場景較為廣泛，

SRAM、RRAM有望成為云端存算-一體主流介質(zhì)。

存算一體前景廣闊、漸入佳境:存算一體需求旺盛，有望推動下一階

段的人工智能發(fā)展，原因是我們認為現(xiàn)在存算一體主要AI的算力需

求、并行計算、神經(jīng)網(wǎng)絡(luò)計算等；大模型興起，存算一體適用于從云

至端各類計算，端測方面，人工智能更在意及時響應，即“輸入”即“輸

出”，目前存算一體已經(jīng)可以完成高精度計算；云端方面，隨著大模

型的橫空出世，參數(shù)方面已經(jīng)達到上億級別，存算一體有望成為新一

代算力因素；存算一體適用于人工智能各個場景，如穿戴設(shè)備、移動

終端、智能駕駛、數(shù)據(jù)中心等。我們認為存算一體為下一代技術(shù)趨勢

并有望廣泛應用于人工智能神經(jīng)網(wǎng)絡(luò)相關(guān)應用、感存算一體，多模態(tài)

的人工智能計算、類腦計算等場景。

01、存算一體，開啟算力新篇章

1.1、ChatGPT開啟大模型“軍備賽”，算力呈現(xiàn)明顯缺口

ChatGPT開啟算力軍備賽:我們已經(jīng)在《ChatGPT:百度文心一言暢

想》中證明數(shù)據(jù)、平臺、算力是打造大模型生態(tài)的必備基礎(chǔ)，且算力

是訓練大模型的底層動力源泉，一個優(yōu)秀的算力底座在大模型（AI算

法）的訓練和推理具備效率優(yōu)勢；同時，我們在《ChatGPT打響AI

算力“軍備戰(zhàn)”》中證明算力是AI技術(shù)角逐“入場券”，其中AI服務(wù)器、

AI芯片等為核心產(chǎn)品；此外，我們還在《ChatGPT,英偉達DGX

引爆AI“核聚變”》中證明以英偉達為代表的科技公司正在快速補足全

球AI算力需求，為大模型增添必備“燃料”。

大模型參數(shù)呈現(xiàn)指數(shù)規(guī)模,引爆海量算力需求:根據(jù)財聯(lián)社和OpenAl

數(shù)據(jù)，ChatGPT浪潮下算力缺口巨大，根據(jù)OpenAI數(shù)據(jù)，模型計

算量增長速度遠超人工智能硬件算力增長速度，存在萬倍差距。運算

規(guī)模的增長，帶動了對AI訓練芯片單點算力提升的需求，并對數(shù)據(jù)

傳輸速度提出了更高的要求。根據(jù)統(tǒng)計，過去五年，大模型發(fā)展呈現(xiàn)

指數(shù)級別，部分大模型已達萬億級別，因此對算力需求也隨之攀升。

1.2.深度拆解服務(wù)器核心硬件組成部分

服務(wù)器的組成:我們以一臺通用服務(wù)器為例，服務(wù)器主要由主板、內(nèi)

存、芯片組、磁盤、網(wǎng)卡、顯卡、電源、主機箱等硬件設(shè)備組成；其

中芯片組、內(nèi)部存儲和外部存儲是組成核心部件。GPU服務(wù)器優(yōu)勢

顯著:GPU服務(wù)器超強的計算功能可應用于海量數(shù)據(jù)處理方面的運算,

如搜索、大數(shù)據(jù)推薦、智能輸入法等，相較于通用服務(wù)器，在數(shù)據(jù)量

和計算量方面具有成倍的效率優(yōu)勢。此外，GPU可作為深度學習的

訓練平臺，優(yōu)勢在于1、GPU服務(wù)器可直接加速計算服務(wù)，亦可直

接與外界連接通信；2、GPU服務(wù)器和云服務(wù)器搭配使用，云服務(wù)器

為主，GPU服務(wù)器負責提供計算平臺；3、對象存儲COS可以為

GPU服務(wù)器提供大數(shù)據(jù)量的云存儲服務(wù)。

AI服務(wù)器芯片組價值成本凸顯:以一臺通用服務(wù)器為例，主板或芯片

組占比最高，大約占成本50%以上，內(nèi)存（內(nèi)部存儲+外部存儲）占比

約為20%。此外，根據(jù)Wind及芯語的數(shù)據(jù)，AI服務(wù)器相較于高性

能服務(wù)器、基礎(chǔ)服務(wù)器在芯片組（CPU+GPU）的價格往往更高，AI服

務(wù)器（訓練）芯片組的成本占比高達83%、AI服務(wù)器（推理）芯片組占比

為50%,遠遠高于通用服務(wù)器芯片組的占比。

1.3.存儲，計算機的重要組成結(jié)構(gòu)

存儲是計算機的重要組成結(jié)構(gòu):存儲器是用來存儲程序和數(shù)據(jù)的部件,

對于計算機來說，有了存儲器才有記憶功能，才能保證正常工作C存

儲器按其用途可分為主存儲器和輔助存儲器，主存儲器又稱內(nèi)存儲器

（簡稱內(nèi)存），輔助存儲器又稱外存儲器（簡稱外存）。內(nèi)存:主板上的存

儲結(jié)構(gòu)，與CPU直接溝通，并用其存儲數(shù)據(jù)的部件，存放當前正在

使用的（即執(zhí)行中）的數(shù)據(jù)和程序，一旦斷電，其中的程序和數(shù)據(jù)就

會丟失；外存:磁性介質(zhì)或光盤，像硬盤，軟盤，CD等，能長期保存

信息，并且不依賴于電力來保存信息。

XPU、內(nèi)存、硬盤組成完整的馮諾依曼體系:“內(nèi)存”實為硬盤與CPU

之間的中間人，CPU如果直接從硬盤中抓數(shù)據(jù)，時間會太久。所以“內(nèi)

存”作為中間人，從硬盤里面提取數(shù)據(jù)，再讓CPU直接到內(nèi)存中拿數(shù)

據(jù)做運算。這樣會比直接去硬盤抓數(shù)據(jù)，快百萬倍；CPU里面有一

個存儲空間Register（寄存器），運算時，CPU會從內(nèi)存中把數(shù)據(jù)載入

Register,再讓Register中存的數(shù)字做運算，運算完再將結(jié)果存回內(nèi)

存中，因此運算速度Register〉內(nèi)存〉硬盤，速度越快，價格越高，容

量越低。

1.4.存算一體，后摩爾時代的必然發(fā)展

算力發(fā)展速度遠超存儲，存儲帶寬限制計算系統(tǒng)的速度:在過去二十

年，處理器性能以每年大約55%的速度提升，內(nèi)存性能的提升速度

每年只有10%左右。因此，目前的存儲速度嚴重滯后于處理器的計

算速度。能耗方面，從處理單元外的存儲器提取所需的時間往往是運

算時間的成百上千倍，因此能效非常低；0存儲墻”成為加速學習時代

下的一代挑戰(zhàn)，原因是數(shù)據(jù)在計算單元和存儲單元的頻繁移動。

存儲墻、帶寬墻和功耗墻成為首要限制關(guān)鍵:在傳統(tǒng)計算機架構(gòu)中，

存儲與計算分離，存儲單元服務(wù)于計算單元，因此會考慮兩者優(yōu)先級；

如今由于海量數(shù)據(jù)和AI加速時代來臨，不得不考慮以最佳的配合方

式為數(shù)據(jù)采集、傳輸、處理服務(wù)，然而存儲墻、帶寬墻和功耗墻成為

首要挑戰(zhàn)，雖然多核并行加速技術(shù)也能提升算力，但在后摩爾時代，

存儲帶寬制約了計算系統(tǒng)的有效帶寬，芯片算力增長步履維艱。

1.5、存算一體:AI芯片的“全能戰(zhàn)士”

存算一體優(yōu)勢顯著，被譽為AI芯片的“全能戰(zhàn)士”其優(yōu)勢如下:1、成百

上千倍的提高計算效率，降低成本:存算一體的優(yōu)勢是打破存儲墻，

消除不必要的數(shù)據(jù)搬移延遲和功耗，使用存儲單元提升算力；2、特

定領(lǐng)域提供更高算力與能效:存算一體架構(gòu)消除了計算與存儲的界限,

直接在存儲器內(nèi)完成計算，因此屬于非馮諾伊曼架構(gòu)，在特定領(lǐng)域可

以提供更大算力（1000TOPS以上）和更高能效（超過

10-100TOPS/W）,明顯超越現(xiàn)有ASIC算力芯片；3、存算一體代

表了未來AI計算芯片的主流架構(gòu):除AI計算外，存算技術(shù)也可用于

感存算一體芯片和類腦芯片.，可減少不必要的數(shù)據(jù)搬運與使用存儲單

元參與邏輯計算提升算力，原因在于等效于在面積不變的情況下規(guī)模

化增加計算核心數(shù)0

1.6.存算?體存儲介質(zhì)百花齊放

存算一體應用場景極其廣闊:端側(cè)小算力場景，算力范圍約從

16T0PS至100TOPS,例如智能可穿戴設(shè)備、智能安防、移動終端、

ARWR等。大算力場景，算力序曲在1000TOPS以上，例如云計算

數(shù)據(jù)中心、自動駕駛、GPT-4等大模型等。我們認為云和邊緣大算

力場景，是存算一體芯片的優(yōu)勢領(lǐng)域，存算一體更具備核心影響力和

競爭力；

SRAM、RRAM有望成為云端存算一體主流介質(zhì):目前可用于存算一

體的成熟存儲器有NORFLASH、SRAM、DRAM、RRAM、MRAM

等；NorFlash屬于非易失性存儲介質(zhì)，在工藝制成上有明顯瓶頸；

DRAM成本較低，容量大，但是速度慢；SRAM在速度方面和能效

比方面具有優(yōu)勢，特別是在存內(nèi)邏輯技術(shù)發(fā)展起來之后具有明顯的高

能效和高精度特點；此外，PRAM有望成為下一代主流研究方向，雖

然目前來看材料依舊不穩(wěn)定，但是具有高速、結(jié)構(gòu)簡單的優(yōu)點，有希

望成為未來發(fā)展最快的新型存儲器。

02、存算一體，打開海量應用空間

2.1＞存算一體前景廣闊、漸入佳境

存算一體需求旺盛，有望推動下一階段的人工智能發(fā)展:我們認為現(xiàn)

在存算一體主要AI的算力需求、并行計算、神經(jīng)網(wǎng)絡(luò)計算等，因此

存算一體需求旺盛；以數(shù)據(jù)中心為例，百億億次（E級）的超級計算

機成為各國比拼算力的關(guān)鍵點，為此美國能源部啟動了“百億億次計

算項目”，我國則聯(lián)合國防科大、中科曙光等機構(gòu)推出首臺E級超算，

而E級超算面臨的主要問題為功耗過高、現(xiàn)有技術(shù)超算功率高達千

兆瓦，需要一個專門的核電站來給它供電，而其中50%以上的功耗

都來源于數(shù)據(jù)的“搬運”，本質(zhì)原因是計算與存儲分離所致。

大模型興起，存算一體適用于從云至端各類計算:ChatGPT等“大模

型”興起，本質(zhì)即為神經(jīng)網(wǎng)絡(luò)、深度學習等計算，因此，我們認為對

算力需求旺盛；端測方面，人工智能更在意及時響應，即“輸入”即“輸

出”，同時，隨著存算一體發(fā)展，存內(nèi)計算和存內(nèi)邏輯，已經(jīng)可以完

成高精度計算；云端方面，隨著大模型的橫空出世，參數(shù)方面已經(jīng)達

到上億級別，因此對算力的能耗方面考核更加嚴格，隨著SRAM和

PRAM等技術(shù)進一步成熟，存算一體有望成為新一代算力因素，從而

推動人工智能產(chǎn)業(yè)的發(fā)展。

2.2、存算一體為人工智能發(fā)展的必然選擇

我們認為存算一體為下一代技術(shù)趨勢，原因及創(chuàng)新應用科技場景如下:

人工智能神經(jīng)網(wǎng)絡(luò)相關(guān)應用:存算一體具有能耗優(yōu)勢，其使用成本能

大幅降低，可將帶AI計算的中大量乘加計算的權(quán)重部分存在存儲單

元中從而在讀取的同時進行數(shù)據(jù)輸入和計算處理，從而完成卷積運算。

囚此存內(nèi)計算和存內(nèi)邏輯非常適合人工智能的深度神經(jīng)網(wǎng)絡(luò)應用和

基于AI的大數(shù)據(jù)技術(shù)；

感存算一體，多模態(tài)的人工智能計算:集傳感、儲存和運算為一體構(gòu)

建感存算一體架構(gòu)，我們認為其為多模