2025年深度行業(yè)分析研究報告一

、DeepSeek背景介紹1.1

、DeepSeek股權(quán)結(jié)構(gòu)及創(chuàng)始人背景1.2

、DeepSeek母公司幻方量化

，早期確立AI戰(zhàn)略為后續(xù)出圈埋下伏筆1.3

、DeepSeek重視年輕團隊且兼具深厚技術(shù)底蘊

，薪酬對標字節(jié)跳動研發(fā)崗

1.4

、DeepSeek產(chǎn)品家族全梳理1.5

、DeepSeek日活遠超同期ChatGPT

，下載量霸榜全球140個市場移動應用榜首

1.6

、DeepSeek獲得海內(nèi)外市場認可，

中國AI產(chǎn)業(yè)首次步入引領(lǐng)位置二

、DeepSeek模型家族技術(shù)詳解2.1

、DeepSeek模型家族技術(shù)創(chuàng)新框架總攬2.2

、DeepSeekv3：性能對齊海外領(lǐng)軍閉源模型，DeepSeek2024年巔峰之作2.3

、DeepSeekR1Zero核心創(chuàng)新點——RL（強化學習

）替代SFT（有監(jiān)督微調(diào)）

2.4

、DeepSeekR1

：高質(zhì)量冷啟動數(shù)據(jù)+多階段訓練

，將強推理能力泛化2.5

、開源大模型：打破OpenAI等閉源模型生態(tài)

，提升世界對中國AI大模型認知三

、DeepSeek對AI應用的影響？3.1

、DeepSeek打開低成本推理模型邊界

，加速AI應用布局進程

3.2

、DeepSeekR1蒸餾賦予小模型高性能

，端側(cè)AI迎來奇點時刻四

、DeepSeek對算力影響？4.1

、DeepSeekV3訓練中GPU成本558萬美元

，對比海外成本降低4.2

、DeepSeek或有約5萬HopperGPU

，訓練總成本或較高4.3

、推理化：推理算力需求占比提升

，GenAI云廠商有望受益目錄一、DeepSeek背景介紹1.1

、DeepSeek股權(quán)結(jié)構(gòu)及創(chuàng)始人背景

DeepSeek是一家于2023年成立的中國初創(chuàng)企業(yè)

，創(chuàng)始人是AI驅(qū)動量化對沖基金幻方量化的掌門人梁文鋒

。從股權(quán)結(jié)構(gòu)圖顯示，

DeepSeek由

四名自然人通過五層控股掌握100%股份（其中梁文鋒間接持股比例83.29%

，直接持股1%

，累計84.2945%）

。

創(chuàng)始人梁文鋒出生于廣東湛江

，浙江大學畢業(yè)

，擁有信息與電子工程學系本科和碩士學位，

2008年起開始帶領(lǐng)團隊使用機器學習等技術(shù)探索全

自動量化交易

，2015年幻方量化正式成立

。2021年

，幻方量化的資產(chǎn)管理規(guī)模突破千億大關(guān)

，躋身國內(nèi)量化私募領(lǐng)域的“

四大天王”之列

。2023年梁文鋒宣布正式進軍通用人工智能領(lǐng)域

，創(chuàng)辦DeepSeek

，專注于做真正人類級別的人工智能。資料來源

：商界觀察圖

：幻方創(chuàng)始人梁文峰（圖右）圖：

DeepSeek股權(quán)結(jié)構(gòu)1.2

、DeepSeek母公司幻方量化，

早期確立AI戰(zhàn)略為后續(xù)出圈埋下伏筆

母公司幻方量化確立以AI為發(fā)展方向

。2016年

，幻方量化第一個由深度學習算法模型生成的股票倉位上線實盤交易

，使用GPU進行計算

。隨后不久

，該公司明確宣布AI為主要發(fā)展方向。

量化投資全面AI化驅(qū)動囤卡需求，

為后續(xù)蛻變埋下伏筆

。復雜的模型計算需求使得單機訓練遭遇算力瓶頸

，訓練需求和有限的計算資源產(chǎn)生矛盾，幻方需要解決算力受限難題

。于是幻方在2019年成立了一家AI基礎(chǔ)研究公司

，并推出自研的“螢火一號

”AI集群

，搭載500塊顯卡

。2021年

，幻方又斥資10億元建設(shè)“螢火二號”

，為AI研究提供算力支持

?；梅皆跇?gòu)建AI算力過程中的“

囤卡”動作為它贏得了市場機會

。作為國內(nèi)早期的英偉達芯片大買家之一

，2022年其用于科研支持的閑時算力高達1533萬GPU時

，大大超越了后來很多大模型公司。資料來源：公司官網(wǎng)

，國海證券研究所圖

：幻方量化發(fā)展歷程圖

：幻方官網(wǎng)首頁標語，

以AI為核心發(fā)展方向圖：

DeepSeek公開招聘職位信息匯總職位名稱面向群體申請要求薪酬水平深度學習研究員校招&實習熟練掌握至少兩種編程語言；在國際頂會或期刊發(fā)表相關(guān)論文；知名比賽成績8-11萬元/月

，一年14薪資深ui設(shè)計師經(jīng)驗不限

，本科優(yōu)秀的藝術(shù)類教育背景；有互聯(lián)網(wǎng)或科技公司UI設(shè)計工作經(jīng)驗；4-7萬元/月

，一年14薪深度學習研發(fā)工程師在校/應屆

，本科較強的工程能力；工程能力；知名比賽成績4-7萬元/月

，一年14薪數(shù)據(jù)架構(gòu)工程師在校/應屆

，本科有搜索、推薦、廣告等業(yè)務數(shù)據(jù)的處理經(jīng)驗；有

規(guī)模中文網(wǎng)頁數(shù)據(jù)收集和清洗經(jīng)驗

者優(yōu)先4.5-6.5萬元/月

，一年14薪全棧開發(fā)工程師在校/應屆

，本科對主流的開源軟件有深入的了解

，并且對此有做出貢獻2.5-5萬元/月

，一年14薪客戶端研發(fā)工程師在校/應屆

，本科計算機或相關(guān)專業(yè)優(yōu)先；有獨立開發(fā)App經(jīng)驗

，有優(yōu)秀開源項目者優(yōu)先。2-4萬元/月

，一年14薪深度學習實習生計算機及相關(guān)專業(yè)研究生，特別優(yōu)秀的本科生；具有扎實的編程功底；有頂級AI會議論文發(fā)表經(jīng)驗或開源項目貢獻經(jīng)驗者優(yōu)先500元/天

，4天一周

，6個月；非北京地

區(qū)學生來京實習有租房補助3000元/月1.3

、DeepSeek重視年輕團隊且兼具深厚技術(shù)底蘊，

薪酬水平對標字節(jié)跳動研發(fā)崗

團隊以年輕化為主

，具備深厚技術(shù)底蘊

。創(chuàng)始人梁文鋒曾在36氪的采訪中

，給出了DeepSeek的員工畫像：“都是一些Top高校的應屆畢業(yè)生

、沒畢業(yè)的博四

、博五實習生

，還有一些畢業(yè)才幾年的年輕人

?！弊?023年5月誕生以來，

DeepSeek始終維持約150人的精英團隊

，推行無職級界限

、高度扁平化的文化

，以此激發(fā)研究靈感

，高效調(diào)配資源

。早在2022年

，幻方量化便著手為DeepSeek籌建AI團隊

，至2023年5月DeepSeek正式成立時，

團隊已匯聚近百名卓越工程師

。如今，

即便不計杭州的基礎(chǔ)設(shè)施團隊

，北京團隊亦擁有百名工程師

。技術(shù)報告的致謝欄揭示

，參與DeepSeek

V3研發(fā)的工程師陣容，

已壯大至139人。

團隊薪酬水平對標字節(jié)跳動研發(fā)崗位

，且不限制人才的算力使用

。據(jù)36氪資料顯示，

DeepSeek薪酬水平對標的字節(jié)研發(fā)，“根據(jù)人才能拿到的字節(jié)offer

，再往上加價”；

同時只要梁文鋒判斷技術(shù)提案有潛力，

DeepSeek給人才的算力，“不限”

。資料來源

：華爾街見聞

，國海證券研究所模型類別日期

名稱

內(nèi)容

對標LLM2023年11月2日DeepSeek

Coder

模型包括

1B

，

7B

，

33B多種尺寸

，開源內(nèi)容包含Base

模型和指令調(diào)優(yōu)模型。Meta的CodeLlama是業(yè)內(nèi)標桿

，但DeepSeek

Coder展示出多方位領(lǐng)先的架

勢。2024年12月26日DeepSeek-V3開源發(fā)布

，訓練成本估算只有550萬美金

性能上全面對標海外領(lǐng)軍閉源模型

，生成速度也大幅提升。2024年2月5日

DeepSeekMat

數(shù)學推理模型

，僅有7B參數(shù)

數(shù)學推理能力上直逼GPT-42024年8月16日

DeepSeek-Prover-

數(shù)學定理證明模型

在高中和大學數(shù)學定理證明測試中

均超越了多款知名的開源模型。推理模型

V1.5

，

2024年11月20日DeepSeek-R1-Lite

推理模型

，

為之后V3的后訓練

，提供了足量的合成數(shù)據(jù)。

媲美o1-preview2025年1月20日

DeepSeek-R1發(fā)布并開源

，開放了思維鏈輸出功能

，將模型開源License

統(tǒng)一變更為MIT

許可

證

，并明確用戶協(xié)議允許

“模型蒸餾”。在性能上全面對齊OpenAI

o1正式版2023年12月18日

DreamCraft3D文生3D模型

，可從一句話生成高質(zhì)量的三維模型

，實現(xiàn)了AIGC

從2D平面到3D立體空間的跨越。多模態(tài)模

多模態(tài)大模型

，采用了MoE

架構(gòu)

，視覺能力得到了顯著提升

，有3B、

16B和型

27B三種尺寸

，在各項指標上極具優(yōu)勢。

2025年1月27日DeepSeek

Janus-Pro開源發(fā)布的多模態(tài)模型。架構(gòu)開源

2024年1月11日

DeepSeekMoE開源了國內(nèi)首個MoE（混合專家架構(gòu)）

大模型DeepSeekMoE

：全新架構(gòu)

，支持

中英

，免費商用

，在2B、

16B、

145B等多個尺度上均領(lǐng)先被普遍認為是OpenAI

GPT-4性能突破的關(guān)鍵所在2024年6月17日DeepSeekCoderV2代碼大模型

，提供了236B和

16B兩種版本。

DeepSeek

Coder

V2的API

服務

也同步上線

，價格依舊是「

1元/百萬輸入

，2元/百萬輸出」

。能力超越了當時最先進的閉源模型GPT-4-Turbo。2023年11月29日DeepSeek

LLM67B首款通用大語言模型

，且同步開源了7B和67B兩種不同規(guī)模的模型

，甚至將模

型訓練過程中產(chǎn)生的9個checkpoints

也一并公開，Meta的同級別模型LLaMA270B

，并在近20個中英文的公開評測榜單上表

現(xiàn)更佳。2024年3月11日DeepSeek-VL多模態(tài)AI

技術(shù)上的初步嘗試

，尺寸為7B與1.3B

，模型和技術(shù)論文同步開源。2024年5月DeepSeek-V2通用MoE

大模型的開源發(fā)布

，

DeepSeek-V2使用了MLA（多頭潛在注意力機

制）

，將模型的顯存占用率降低至傳統(tǒng)MHA

的5%-13%對標GPT-4-Turbo

，而API

價格只有后者的

1/702024年9月6日DeepSeek-V2.5融合

模型Chat模型聚焦通用對話能力

，

Code模型聚焦代碼處理能力合二為一

，更好的對齊

了人類偏好，2024年12月10日DeepSeek-V2.5-DeepSeek

V2系列收官之作

，全面提升了包括數(shù)學、

代碼、

寫作、

角色扮演等在1210內(nèi)的多方能力。資料來源：新浪人工智能

，國海證券研究所1.4

、DeepSeek產(chǎn)品家族全梳理2024年12月13日

DeepSeek-VL2本報告來源于三個皮匠報告站（）,由用戶Id:93117下載,文檔Id:612293,下載日期:2025-02-18

DeepSeek-V3為自研

MoE模型

，671B參數(shù)

，激活37B

，在

14.8Ttoken上進行了預訓練

。V3多項評測成績超越了Qwen2.5-

72B和Llama-3.

1-405B等其他開源模型

，并在性能上和世界頂

尖的閉源模型GPT-4o以及Claude-3.5-Sonnet

不分伯仲。

在具體的測試集上，

DeepSeek-V3在知識類任務上接近當前表

現(xiàn)最好的模型Claude-3.5-Sonnet-1022

；長文本/代碼/數(shù)學/中文能力上均處于世界一流模型位置。資料來源：DeepSeek官方公眾號1.4.1

、DeepSeekV3性能位居全球領(lǐng)先水平

，代碼/數(shù)學/中文能力測試表現(xiàn)優(yōu)異圖：

DeepSeek-V3在英文

、代碼

、數(shù)學領(lǐng)域表現(xiàn)優(yōu)異圖：

DeepSeek-V3對比領(lǐng)域開源/閉源模型1.4.2

、DeepSeek-R1性能對標OpenAIo1正式版，

實現(xiàn)發(fā)布即上線

DeepSeek-R1性能比較OpenAI-o1

。DeepSeek-R1在后訓練階段大規(guī)模使用了強化學習技術(shù)

，在僅有極少標注數(shù)據(jù)的情況下

，極大提升了模型推理能力

。在數(shù)學

、代碼

、自然語言推理等任務上

，性能比肩OpenAIo1正式版

。DeepSeek

R1同步登錄DeepSeek官網(wǎng)或官方App

。

網(wǎng)頁或者app端打開“深度思考”模式

，即可調(diào)用最新版DeepSeek-R1完成各類推理任務。

開放的許可證和用戶協(xié)議

。DeepSeek在發(fā)布并開源

R1

的同時，

同步在協(xié)議授權(quán)層面也進行了如下調(diào)整：

1）模型開源

License統(tǒng)一使用

MIT

，開源倉庫（包括模型權(quán)重）統(tǒng)一采用標準化

、寬松的MITLicense

，完全開源

，不限制商用

，無需申請

。2）產(chǎn)品協(xié)議明確可

“模型蒸餾

”；

為了進一步促進技術(shù)的開源和共享

，支持用戶進行“模型蒸餾”，

明確允許用戶利用模型輸出

、通過模型蒸餾等方式訓練其他模型。資料來源：DeepSeek官方公眾號圖：

DeepSeek-R1發(fā)布即上線圖：

DeepSeek-R1性能比肩OpenAIo1正式版1.4.2

、DeepSeek-V3/R1均具備領(lǐng)先的性價比優(yōu)勢

DeepSeek系列模型均極具定價優(yōu)勢。

DeepSeek

V3模型定價：

隨著性能更強

、速度更快的DeepSeek-V3更新上線

，模型API服務定價也將調(diào)整為每百萬輸入tokens0.5元（緩存命中）/2元（緩存未命中）

，每百萬輸出tokens8元。

DeepSeek-R1百萬tokens輸出價格約為o1的1/27

。DeepSeek-R1API服務定價為每百萬輸入tokens

1元（緩存命中）/4元（緩存未命

中）

，每百萬輸出tokens

16元

。對比OpenAI-o1每百萬輸入tokens為55元（緩存命中）

，百萬tokens輸出為438元。資料來源：DeepSeek官方公眾號圖：

DeepSeek-V3API定價對比海內(nèi)外主流模型圖：

DeepSeek-R1定價對比同為推理模型的o1系列本報告來源于三個皮匠報告站（）,由用戶Id:349461下載,文檔Id:612660,下載日期:2025-02-201.5

、DeepSeek日活遠超同期ChatGPT，

下載量霸榜全球140個市場移動應用榜首

DeepSeek遠超同期ChatGPT，AI格局或迎來重塑

。2025年1月15日，

DeepSeek官方App正式發(fā)布

，并在iOS/Android各大應用市場全面上線

。數(shù)據(jù)顯示，

DeepSeek在上線18天內(nèi)達到日活躍用戶1500萬的成就

，相較之下，

同期ChatGPT則耗費244天才實現(xiàn)相同日活

；2月4日

，上線20天后日活突破2000萬

，創(chuàng)下又一個新紀錄

。DeepSeek在發(fā)布的前18天內(nèi)累計下載量達到1600萬次，

峰值日下載量高達500萬次

，幾乎是ChatGPT同期900萬次下載量的兩倍

。此外，

DeepSeek在全球140個市場中的移動應用下載量排行榜上位居榜首。資料來源：公司官網(wǎng)

，蘋果APPStore

，SensorTower圖：

DeepSeek對話助手圖：

DeepSeek霸榜下載榜榜首圖：

DeepSeek成全球增速最快的AI應用1.6

、DeepSeek獲得海內(nèi)外市場認可，

中國AI產(chǎn)業(yè)首次步入引領(lǐng)位置

DeepSeek驚艷海外市場，

中國AI產(chǎn)業(yè)首次步入引領(lǐng)位置。

英偉達表示，

DeepSeek為推理

、數(shù)學和編碼等任務提供了“最先進的推理能力”“高推理效率”以及“領(lǐng)先的準確性”

。

Meta首席AI科學家Yann

Lecun表示“

DeepSeek-R1面世與其說意味著中國公司在AI領(lǐng)域正在超越美國公司

，不如說意味著開源大模型正在

超越閉源

?！?/p>

OpenAI首席執(zhí)行官Sam

Altman首次承認OpenAI的閉源策略“站在了歷史錯誤的一邊”

。

微軟COE納德拉表示

，公司的DeepSeekR1模型展現(xiàn)了"真正的創(chuàng)新力"。

國內(nèi)黑神話制作人悟空馮冀表示，

DeepSeek可能是個國運級別的科技成果。資料來源：澎湃新聞

、IT之家圖

：黑悟空神話制作人評價DeepSeek圖

：SamAltman評價DeepSeek1.7

、微軟/英偉達/亞馬遜/騰訊/華為等一眾科技巨頭擁抱DeepSeek

微軟

、英偉達

、亞馬遜

、英特爾

、AMD等科技巨頭陸續(xù)上線DeepSeek模型服務。

1

）1月30

日

，英偉達宣布DeepSeek-R1可作為NVIDIANIM微服務預覽版使用。

2）

1月，

DeepSeek-R1

模型被納入微軟平臺Azure

AI

Foundry

和

GitHub

的模型目錄，

開發(fā)者將可以在Copilot

+PC上本地運行DeepSeek-R1精簡模型

，以及在Windows上的GPU生態(tài)系統(tǒng)中運行

，此外還宣布將DeepSeek-R1部署在云服務Azure上。

3）AWS（亞馬遜云科技）宣布

，用戶可以在Amazon

Bedrock和Amazon

SageMaker

AI兩大AI服務平臺上部署DeepSeek-R1模型。

4）Perplexity宣布接入了DeepSeek模型

，將其與OpenAI的GPT-o1和Anthropic的Claude-3.5并列作為高性能選項。

5）華為：

已上線基于其云服務的DeepSeek-R1相關(guān)服務；

6）騰訊：

DeepSeek-R1大模型可一鍵部署至騰訊云‘

HAI

’上

，開發(fā)者僅需3分鐘就能接入調(diào)用。

7）百度：

DeepSeek-R1和DeepSeek-V3模型已在百度智能云千帆平臺上架；

8）阿里：

阿里云PAI

Model

Gallery支持云上一鍵部署DeepSeek-R1和DeepSeek-V3模型。圖：微軟宣布接入DeepSeek資料來源

：英偉達

、微軟圖

：英偉達上線DeepSeek二、DeepSeek模型家族技術(shù)詳解DeepSeek

V3MoE架構(gòu)模型核心創(chuàng)新1

、多頭潛在注意力（MLA）使用低秩聯(lián)合壓縮方法減少注意力計算的緩存需

求，

同時保持多頭注意力的性能。2

、混合專家架構(gòu)（DeepSeekMoE）①細粒度專家分割②

共享專家隔離③輔助損失優(yōu)化的專家負載平衡策略。3

、多Token預測目標（MTP）擴展模型在每個位置預測多個未來token的能力，

提高訓練數(shù)據(jù)效率。4

、DualPipe算法。5

、支持FP8混合精度訓練。DeepSeek

R1以V3作為基礎(chǔ)模型

，結(jié)合冷啟動數(shù)據(jù)的

多階段訓練核心創(chuàng)新1

、冷啟動數(shù)據(jù)引入：

從零開始的

RL容易導致初期性能不穩(wěn)定，

為此設(shè)計了

包含高質(zhì)量推理鏈的冷啟動數(shù)據(jù)集

。該

數(shù)據(jù)提高了模型的可讀性和訓練初期的

穩(wěn)定性。2

、推理導向的強化學習：通過多輪RL，

進一步優(yōu)化模型在數(shù)學

、編程等推理密

集型任務中的表現(xiàn)。3

、監(jiān)督微調(diào)與拒絕采樣：使用RL檢查

點生成額外的推理和非推理任務數(shù)據(jù)

，進一步微調(diào)模型。4

、全場景強化學習：在最終階段結(jié)合

多種獎勵信號

，提升模型的有用性和安

全性。以V3作為基礎(chǔ)模型

，純強化學習替代有

監(jiān)督微調(diào)核心創(chuàng)新1

、強化學習算法：使用GRPO框架

，

通過群體獎勵優(yōu)化策略模型

。獎勵設(shè)計包括準確性獎勵和格式獎勵。2

、自我演化與頓悟時刻：模型通過RL自動學習復雜的推理行為

，如自我驗證

和反思

。隨著訓練過程的深入

，模型逐

步提升了復雜任務的解答能力

，并在推理任務上顯現(xiàn)突破性的性能提升。資料來源：《

DeepSeek-R1:IncentivizingReasoningCapabilityinLLMsviaReinforcementLearning

》，

《

DeepSeek-V3TechnicalReport》

，國海證券研究所2.1

、DeepSeek模型家族技術(shù)創(chuàng)新框架總攬DeepSeek

R1

Zero2.2.1

、MLA（多頭潛在注意力機制）：

顯著節(jié)省計算資源及內(nèi)存占用

MLA從傳統(tǒng)的MHA（多頭注意力機制）

出發(fā)，

MHA通過并行運行多個Self-Attention層并綜合其結(jié)果，

能夠同時捕捉輸入序列在不同子空間中的信息，

從而增強模型的表達能力

。通過將輸入的查詢

、鍵和值矩陣分割成多個頭

，并在每個頭中獨立計算注意力

，再將這些頭的輸出拼接線性變換

，從而實現(xiàn)在不同表示子空間中同時捕獲和整合多種交互信息

，提升模型的表達能力。

處理長序列時MHA會面臨計算和內(nèi)存效率上的局限性，

MLA顯著降低計算及內(nèi)存占用問題

。MLA的核心思想則是使用低秩分解（LoRA）來近似Key和Value的投影，

以在推理期間減少鍵值緩存（KV

cache

），顯著降低計算和內(nèi)存占用的復雜度。資料來源：《

DeepSeek-V3TechnicalReport》圖：

DeepSeekV3的創(chuàng)新架構(gòu)2.2.2

、DeepSeekMoE架構(gòu)以及創(chuàng)新性負載均衡策略

MoE架構(gòu)

：傳統(tǒng)MoE架構(gòu)的主要優(yōu)勢是利用稀疏激活的性質(zhì)

，將大模型拆解成若干功能模塊

，每次計算僅激活其中一小部分

，而保持其余模塊不

被使用

，從而大大降低了模型的計算與學習成本

，能夠在同等計算量的情況下產(chǎn)生性能優(yōu)勢。

DeepSeekMoE在傳統(tǒng)MoE架構(gòu)之上

，更新了兩個主要的策略：

1

）細粒度專家分割

：在保持模型參數(shù)和計算成本一致的情況下

，用更精細的顆粒度對專家進行劃分

，更精細的專家分割使得激活的專家能夠以更靈活和適應性更強的方式進行組合；2）共享專家隔離：采用傳統(tǒng)路由策略時

，分配給不同專家的token可能需要一些共同的知識或信息，

因此多個專家可能會有參數(shù)冗余

。專門的共享專家致力于捕獲和整合不同上下文中的共同知識

，有助于構(gòu)建一個具有更多專業(yè)專家且參數(shù)更高效的模型。

負載均衡：

MoE架構(gòu)下容易產(chǎn)生每次都由少數(shù)幾個專家處理所有tokens的情況

，而其余大量專家處于閑置狀態(tài)

，此外

，若不同專家分布在不同計算設(shè)備上，

同樣會造成計算資源浪費以及模型能力局限

；負載均衡則類似一個公平的“裁判

”

，鼓勵專家的選擇趨于均衡

，避免出現(xiàn)上述專家激活不均衡的現(xiàn)象

。DeepSeek在專家級的負載均衡外

，提出了設(shè)備級的負載均衡

，確保了跨設(shè)備的負載均衡

，大幅提升計算效率，緩解計算瓶頸。資料來源：《

DeepSeekMoE:TowardsUltimateExpert

SpecializationinMixture-of-ExpertsLanguageModels》、

量子位圖：

MoE架構(gòu)理解框架圖：

DeepSeekMoE對比傳統(tǒng)MoE架構(gòu)2.2.3

、MTP（多token預測）大幅提升模型性能MTP顯著提升模型性能。

訓練過程

：傳統(tǒng)語言模型一次只預測一個token的范式

。它就像是讓模型從"一字一句"地朗讀

，進化為"整句整段"地理解和生成

。在訓練過程中，模型不再局限于預測序列中的下一個token

，而是學會同時預測多個連續(xù)位置的token

。這種并行預測機制不僅提高了訓練效率

，還讓模型能夠更好地捕捉token之間的依賴關(guān)系

。在保持輸出質(zhì)量的同時

，模型整體性能提升2-3%。

推理階段：

MTP的優(yōu)勢更加明顯

。傳統(tǒng)模型生成文本時就像是在"一筆一劃"地寫字

，而MTP則像是"提前打草稿"

，可以同時生成多個token

。通過創(chuàng)新的推測解碼機制

，模型能夠基于當前上下文同時預測多個可能的token序列

。即使某些預測不準確需要回退

，整體效率仍然顯著提升

。這

種并行生成機制使推理速度提升了1.8倍，還顯著降低了計算開銷。資料來源：《

DeepSeek-V3TechnicalReport》圖：

MTP架構(gòu)圖

：多種精度數(shù)據(jù)類型結(jié)構(gòu)DeepSeek

V3采用了FP8混合精度訓練框架

。在訓練過程中

，大部分核心計算內(nèi)核均采用FP8精度實

現(xiàn)

。例如

，在前向傳播

、激活反向傳播和權(quán)重反向傳播中

，輸入數(shù)據(jù)均使用FP8格式

，而輸出結(jié)果則使用BF16或FP32格式

。這種設(shè)計使得計算速度相較于原始BF16方法提升一倍。FP

8

格

式

是

一

種

低

精

度

的

數(shù)

據(jù)

格

式

，

具

有

較

小

的

存

儲

空

間

和

計

算

開

銷。通

過

使

用

FP

8

格

式，DeepSeek能夠在有限的計算資源下

，實現(xiàn)更高的計算效率

。例如

，在處理大規(guī)模數(shù)據(jù)集時，

FP8格式

可以顯著減少顯存的占用

，從而提高模型的訓練速度。資料來源：《

DeepSeek-V3TechnicalReport》，NVIDIA英偉達企業(yè)解決方案公眾號2.2.4

、DeepSeek-FP8混合精度訓練：

實現(xiàn)更高的計算效率圖

：具有

FP8數(shù)據(jù)格式的整體混合精度框架DeepSeek-V3采用了一種名為

DualPipe的創(chuàng)新流水線并行策略

。與傳統(tǒng)的單

向流水線(如

1F1B)不同，

DualPipe采用雙向流水線設(shè)計，

即同時從流水線的兩端饋送micro-batch

。這種設(shè)計可以顯著減少流水線氣泡

(Pipeline

Bubble)

，提

高GPU利用率。DualPipe還將每個micro-batch進一步劃分為更小的chunk

，并對每個chunk的計算和通信進行精細的調(diào)度

。隨后將一個chunk劃分為attention

、all-to-alldispatch

、MLP和all-to-allcombine等四個組成部分

，并通過精細的調(diào)度策略，

使得計算和通信可以高度重疊。圖：

DualPipe性能優(yōu)越DualPipe

在流水線氣泡數(shù)量和激活內(nèi)存開銷方面均優(yōu)于

1

F1B

和資料來源：《

DeepSeek-V3TechnicalReport》Chunk拆分DualPipe8

個

PP

rank

和20個micro-batch的

DualPipe

調(diào)度

示例圖：

DualPipe示意圖2.2.5

、DeepSeek-DualPipe算法：

減少流水線氣泡，

提升GPU利用率ZeroBubble等現(xiàn)有方法2.2.6

、英偉達PTX：

位于CUDA與機器代碼之間，

實現(xiàn)細粒度控制與性能優(yōu)化英偉達PTX（并行線程執(zhí)行）是專門為其GPU設(shè)計的中間指令集架構(gòu)，

位于高級GPU編程語言（如CUDA

C/C++或其他語言

前端）和低級機器代碼（流處理匯編或SASS）之間

。PTX是一種接近底層的指令集架構(gòu)，

將GPU呈現(xiàn)為數(shù)據(jù)并行計算設(shè)備，

因

此能夠?qū)崿F(xiàn)寄存器分配

、線程/線程束級別調(diào)整等細粒度優(yōu)化，

這些是CUDA

C/C++等語言無法實現(xiàn)的。DeepSeek

V3采用定制的

PTX（并行線程執(zhí)行）

指令并自動調(diào)整通信塊大小，

這大大減少了

L2緩存的使用和對其他SM

的

干擾

。PTX允許對GPU硬件進行細粒度控制，

這在特定場景下可以帶來更好的性能。資料來源：新智元

，量子位公眾號圖

：C++與PTX代碼的區(qū)別圖

：英偉達PTX是專門為其GPU設(shè)計的中間指令集架構(gòu)2.3

、DeepSeekR1Zero核心創(chuàng)新點——RL（強化學習

）替代SFT（有監(jiān)督微調(diào)）

DeepSeek探索LLM在沒有任何監(jiān)督數(shù)據(jù)的情況下發(fā)力推理能力的潛力，

通過純RL（強化學習）

的過程實現(xiàn)自我進化

。具體

來說，

DS使用DeepSeek-V3-Base作為基礎(chǔ)模型，

并使用GRPO（群體相對策略優(yōu)化）

作為RL框架來提高模型在推理中的

性能

。在訓練過程中，

DeepSeek-R1-Zero自然而然地出現(xiàn)了許多強大而有趣的推理行為。

經(jīng)過數(shù)千次

RL步驟后，

DeepSeek-R1-Zero在推理基準測試中表現(xiàn)出卓越的性能

。例如

，AIME2024的pass@1分數(shù)

從15.6%增加到71.0%，

在多數(shù)投票的情況下，

分數(shù)進一步提高到86.7%，

與OpenAI-o1-0912的性能相當資料來源：《

DeepSeek-R1:IncentivizingReasoningCapabilityinLLMsviaReinforcementLearning

》圖：

R1-Zero在不同測試基準下超過o1mini甚至比肩o1的水平圖：

隨時間推移DS模型性能顯著提升2.3.1

、DeepSeek強化學習核心框架——GRPO（群體相對策略優(yōu)化）

GRPO相對PPO節(jié)省了與策略模型規(guī)模相當?shù)膬r值模型

，大幅縮減模型訓練成本。 傳統(tǒng)強化學習更多使用PPO（近端策略優(yōu)化），

PPO中有3個模型

，分別是參考模型（referencemodel）

、獎勵模型（reward

model）

、價值模型（

valuemodel）

，參考模型作為穩(wěn)定參照

，與策略模型的輸出作對比

；獎勵模型根據(jù)策略模型的輸出效果給出量化的獎勵值

，價值模型則根據(jù)對策略模型的每個輸出預測未來能獲得的累計獎勵期望

。ppo中的價值模型規(guī)模與策略模型相當，

由此帶來巨大的內(nèi)存和計算負擔。

GRPO（群里相對策略優(yōu)化）中省略了價值模型

，采用基于組的獎勵歸一化策略

，簡言之就是策略模型根據(jù)輸入q得到輸出o（1

，2

，3）

，再計

算各自的獎勵值r（1

，2

，3）

，而后不經(jīng)過價值模型

，而是制定一組規(guī)則

，評判組間價值獎勵值的相對關(guān)系

，進而讓策略模型以更好的方式輸出。資料來源：AWS

、《

DeepSeek-R1:IncentivizingReasoningCapabilityinLLMsviaReinforcementLearning

》圖：

GRPO相對傳統(tǒng)PPO強化學習方式對比圖：

GRPO核心方法詳解2.3.2

、強化學習框架下的

“頓悟”時刻，

模型思維能力躍升的關(guān)鍵

模型訓練過程中會迎來頓悟時刻

。引用DeepSeek相關(guān)論文中的表述

，GRPO強化學習框架下

，不是人類教模型如何解決問題

，而僅僅為其提供正確的激勵措施

，模型會自主開發(fā)高級問題解決策略

，模型訓練過程中會出現(xiàn)“Ahamoment

”

，這表示模型意識到了更好的解決辦法并重新評估，為問題分配更多思考時間。

這些頓悟時刻是模型思維能力躍升的關(guān)鍵

。據(jù)DeepSeek的研究

，模型的進步并非均勻漸進的

。在強化學習過程中，

響應長度會出現(xiàn)突然的顯著增長

，這些"跳躍點"往往伴隨著解題策略的質(zhì)變

。這種模式酷似人類在長期思考后的突然頓悟，

暗示著某種深層的認知突破。圖：

GRPO相對傳統(tǒng)PPO強化學習方式對比

u

例如模型在解決這個

√

a

-

√

(a

+

x)

=

x

的問題時，

模型突然停下來說"Wait,wait.Wait.That'sanaha

momentI

can

flaghere

"（等等

、等等

、這是個值得標記的啊哈時刻）

，

隨后重新審視了整個解題過程

。這種類似人類頓悟的行為完全是

自發(fā)產(chǎn)生的

，而不是預先設(shè)定的。圖

：強化學習過程中

，模型會出現(xiàn)跳躍點

，這就是頓悟時刻資料來源：《

DeepSeek-R1:IncentivizingReasoningCapabilityinLLMsviaReinforcementLearning

》2.4

、DeepSeekR1：

高質(zhì)量冷啟動數(shù)據(jù)+多階段訓練

，將強推理能力泛化

純強化學習后出來的DeepSeek

R1zero存在可讀性差以及語言混亂等問題

，主要因其全通過獎懲信號來優(yōu)化其行為

，沒有任何人類示范的"標

準答案"作為參考，

因此DeepSeek團隊使用冷啟動+多階段訓練推出DeepSeek

R1模型。 具體訓練步驟：

1

）高質(zhì)量冷啟動數(shù)據(jù)

：與DeepSeekR1zero同理

，以DeepSeekv3base作為強化學習的起點

，但為了克服可讀性差的問題，

選擇可讀性更強的cot（長思維鏈）數(shù)據(jù)作為冷啟動數(shù)據(jù)

，包括以可讀格式收集DeepSeek-R1Zero輸出

，并通過人工注釋者進行后處理來提煉結(jié)

果

。2）面向推理的強化學習

，這與DeepSeek

R1zero的強化學習過程相同

，但是在RL期間引入語言一致性獎勵

，雖然語言對齊可能會造成一定的性能損失

，但是提高了可讀性

。3）抑制采樣和監(jiān)督微調(diào)

，拒絕采用指模型訓練過程中生成的一些不符合特定標準或質(zhì)量要求的樣本數(shù)據(jù)進行舍棄，

同時選取了v3的SFT數(shù)據(jù)集一部分作為微調(diào)數(shù)據(jù)

。4）全場景強化學習

，屬于一個二級強化學習階段，

目的是與人類偏好保持一致。圖：

DeepSeekR1與其他模型的性能對比資料來源：《

DeepSeek-R1:IncentivizingReasoningCapabilityinLLMsviaReinforcementLearning》

、澎湃新聞圖：

DeepSeekR1模型訓練過程2.5

、開源大模型：

打破OpenAI等閉源模型生態(tài)，

提升世界對中國AI大模型認知開源即代碼層面開源

，可以調(diào)用與進行二次開發(fā)

。開源免費調(diào)用有助于先行占據(jù)市場份額

，成為規(guī)則制定者，

率先拓展生態(tài)粘性

。如

，谷歌將安卓開源

，獲得了全球80%的移動手機端市場份額，

同時也覆蓋電視

、汽車等使用場景。DeepSeekV3與R1模型實現(xiàn)了開源

，采用MIT協(xié)議

。這產(chǎn)生多方面影響：對大模型發(fā)展

：這提升了世界對中國AI大模型能力的認知

，一定程度打破了OpenAI與Anthropic等高級閉源模型的封閉生態(tài)

。DeepSeekR1在多個測試指標中對標OpenAIo1

，通過模型開源

，也將大模型平均水平提升至類OpenAIo1等級。對下游生態(tài)

：優(yōu)質(zhì)的開源模型可更好用于垂類場景

，即使用者針對自身需求蒸餾

，或用自有數(shù)據(jù)訓練

，從而適合具體下游場景；此外

，模型

訓推成本降低

，將帶來使用場景的普及

，帶動AIGC

、端側(cè)等供給和需求。圖

：開源許可證協(xié)議標準資料來源：DeepSeek官網(wǎng)

，51TCO

，國海證券研究所圖：

DeepSeekMoE對比傳統(tǒng)MoE架構(gòu)三、DeepSeek對A

I應用的影響？3.1

、DeepSeek打開低成本推理模型邊界

，加速AI應用布局進程

核心觀點：

DeepSeek在推動降本

、強推理三大層面驅(qū)動下

，有望加速AI應用普及度迎來跨越式提升。OpenAI上線性價比模型o3-mini

，加速低成本推理模型邊界

。2025年2月1日

，OpenAI深夜上線o3-mini系列推理模型

，其也是OpenAI系列推

理模型中最具性價比的模型

。性能方面

，o3-mini在數(shù)學

、編程

、科學等領(lǐng)域表現(xiàn)優(yōu)異

，以數(shù)學能力為例

，o3-mini（low

）達到了與o1-mini相當?shù)乃?/p>

；o3-mini（medium

）能力媲美滿血版o1

；o3-mini（high）表現(xiàn)超越o1系列一眾模型

。對比DeepSeek-R1在數(shù)學能力

、編程能力上的測試結(jié)果，

DeepSeekR1處于OpenAIo3-mini（medium

）水平。DeepSeek價格優(yōu)勢仍大幅領(lǐng)先于OpenAI系列推理模型

。DeepSeek定價為百萬tokens輸入0.014美元（緩存命中

，未命中則0.55美元）

，百

萬tokens輸出價格2.

19美元；o3-mini百萬tokens輸入價格0.55美元（緩存命中

，未命中則1.

1美元）

，百萬tokens輸出價格為4.4美元。圖：

DeepSeek和OpenAI能力對比Benchmark03-mini(Low)03-mini(Mediu

m)03-mini(High)DeepSeek-

R1AIME2024(Math)6079.687.379.8GPQA

Diamond

(Science)70.676.879.771.5Codeforces(Codi

ng)1831(ELO)2036(ELO)2130(ELO)96.3(Percentile)SWE-benchVerified(Softwa

re

Eng.)40.842.949.349.2資料來源：DeepSeek官方公眾號

，OpenAI官網(wǎng)

，國海證券研究所百萬tokens輸出價格百萬tokens輸入（緩存未命中）百萬tokens輸入（緩存命中）0102030

405060

70w

OpenAI-o3-miniw

OpenAI-o1w

DeepSeek

r1

圖：

DeepSeek和OpenAI推理模型定價對比

1.1

150.550.55

7.50.014

4.4

2.19603.1.1

、模型成本下降+性能第一梯隊+開源，

國內(nèi)AI應用商業(yè)模式有望加速跑通

我們認為DeekSeek或推動AI投資回報率加速提升，AI應用商業(yè)模式加速跑通

。據(jù)中國工業(yè)互聯(lián)網(wǎng)研究院數(shù)據(jù)

，2024年以字節(jié)火山引擎

、阿里

云

、百度云為代表的云廠商掀起了大模型價格戰(zhàn)，

降價幅度普遍達到90%以上

。海外以O(shè)penAI為例

，5月發(fā)布GPT-4o

，模型性能升級且價格較GPT-4-Turbo下降50%;8月上線GPT-4o新版本

，更強更便宜

，但輸出價格節(jié)省33%

。國內(nèi)以阿里為例，

12月31日阿里云宣布2024年度第三輪大模型降價

，通義千問視覺理解模型全線降價超80%。全球及中國AI應用市場規(guī)模加速提升

。據(jù)IDC數(shù)據(jù)

，全球生成式AI市場規(guī)模在2024年達到360.6美元，

同比+76%

，預計在2028年達到2154億

美元；

中國AI軟件市場規(guī)模在2024年達到5.7億美元

，預計2028年達到35.4億美元。250080%70%2000

65%60%15691500

52%

50%1035

37

0%1000

30%627.2500

360.6204.8

10%

0

0%4070%10

8.5

20%資料來源：IDC

、艾瑞咨詢

、中國工業(yè)互聯(lián)網(wǎng)研究院

、國海證券研究所

58%

I

30%13.466%

35.435

59%60%30

49%

50%25

22.340%

205.75

10%0

0%圖

：大模型降本趨勢明確圖：全球生成式AI市場規(guī)模圖：

中國AI軟件市場規(guī)模

76%

74%

2154 全球生成式AI市場規(guī)模（億美元）

yoy

中國AI軟件市場規(guī)模（億美元）

yoy20242025E2026E2027E2028E2023

20242025E

2026E

2027E

2028E20%153.1.1

、強推理模型加速步入AGI之路

R1-Zero展現(xiàn)出強大的通用推理能力

。它不僅在數(shù)學競賽中取得驚人成績

，更重要的是，

R1-Zero不僅是在模仿思考

，而是真正發(fā)展出了某種形式的推理能力。

DeepSeek最終目標：AGI

。傳統(tǒng)的AI訓練方法可能一直在重復于讓AI模仿人類的思維方式

。通過純粹的強化學習，AI系統(tǒng)似乎能夠發(fā)展出更原生的問題解決能力

，而不是被限制在預設(shè)的解決方案框架內(nèi)

。雖然R1-Zero在輸出可讀性上存在明顯缺陷

，但這個"缺陷"本身可能恰恰印證了其思維方式的獨特性

。就像一個天才兒童發(fā)明了自己的解題方法

，卻難以用常規(guī)語言解釋一樣

。這提示我們

：真正的通用人工智能可能需要完全不同于人類的認知方式。資料來源：infoQ

，國海證券研究所圖：我國AGI產(chǎn)業(yè)圖譜蒸餾法具有強大的潛力

，端側(cè)小模型迎來發(fā)展契機

。如下表所示

，只需提取DeepSeek-R1的輸出即可

使高效的DeepSeekR1-7B全面優(yōu)于GPT-4o-0513等非推理模型，

DeepSeek-R1-14B在所有評估指

標上都超過了QwQ-32BPreview

，而DeepSeek-R1-32B和DeepSeek-R1-70B在大多數(shù)基準測試

中明顯超過了o1-mini

。此外

，我們發(fā)現(xiàn)將

RL應用于這些蒸餾模型會產(chǎn)生顯著的進一步收益

。我們認為這值得進一步探索，

因此在這里只提供簡單的SFT蒸餾模型的結(jié)果。DeepSeek產(chǎn)品協(xié)議明確可

“模型蒸餾

”。DeepSeek決定支持用戶進行“模型蒸餾

”，

已更新線上產(chǎn)

品的用戶協(xié)議，

明確允許用戶利用模型輸出

、通過模型蒸餾等方式訓練其他模型。圖：

DeepSeekR1蒸餾小模型性能對比DeepSeek-R1-Distill-Qwen-14B69.78093.959.153.11481DeepSeek-R1-Distill-Qwen-32B72.683.394.362.157.21691DeepSeek-R1-Distill-Llama-8B50.48089.14939.61205DeepSeek-R1-Distill-Llama-70B7086.794.565.257.51633Claude-3.5-Sonnet-10221626.778.36538.97173.2

、DeepSeekR1蒸餾賦予小模型高性能，

端側(cè)AI迎來奇點時刻DeepSeek-R1-Distill-Qwen-7B55.583.392.849.137.61189QwQ-32B446090.654.541.91316GPT-4o-05139.313.474.649.932.9759圖

：端側(cè)與云端部署AI的規(guī)模區(qū)別資料來源：DeepSeek公司公眾號

，國海證券研究所CodeForcesratingGPQADiamond

pass@1AIME2024cons

@64AIME2024pass

@1LiveCodeBenchpass@1DeepSeek-R1-Distill-Qwen-1.5BMATH-500pass@1o1-mini182028.963.683.953.833.852.716.99546080903.2

、DeepSeekR1蒸餾賦予小模型高性能，

端側(cè)AI迎來奇點時刻全球端側(cè)AI市場規(guī)模預計從2022年的152億美元增長到2032年的1436億美元

。這一近十倍的增長不僅反映了市場對邊緣AI解決方案的迫切需

求

，也預示著在制造

、汽車

、消費品等多個行業(yè)中

，邊緣AI技術(shù)將發(fā)揮越來越重要的作用。在資源受限的設(shè)備上部署性能強大的模型

，必須面對內(nèi)存與計算能力的雙重挑戰(zhàn)，

自2023年起，

隨著參數(shù)量低于

10B

的模型系列如

Meta

的LLaMA

、Microsoft的Phi系列等的涌現(xiàn)，

LLMs在邊緣設(shè)備上運行的可行性逐步明朗。圖

：端側(cè)AI產(chǎn)業(yè)鏈圖譜資料來源：《

On-DeviceLanguageModels:

AComprehensiveReview》JiajunXu

、公司官網(wǎng)圖：全球端側(cè)AI市場規(guī)模四、DeepSeek對算力影響？4.1

、DeepSeekV3訓練中GPU成本558萬美元

，對比海外成本降低●Deep

See

k

V

3模型訓練成本達2

7

8

.

8

萬

H

8

0

0小時

，

共花費5

5

7

.

6

萬美元

。對比Open

A

I

、Anthropic

、LlaMA

3等模型

，

Deep

SeekV

3單次訓練成本顯著降低

，

主要系Deep

Seek公司通過優(yōu)化模型結(jié)構(gòu)

、模型訓練方法

、針對性GPU優(yōu)化等部分

，

提升了模型訓練

過程中的算力使用效率

。表：

DeepSeek

V3訓練成本（假設(shè)H800租賃價格為2美元/每GPU小時）訓練成本預訓練上下文擴展后訓練總計H800GPU小時（萬小時）266.411.90.5278.8美元（萬元）532.823.810557.6用于負載均衡的輔助無損策略AllToALL通信內(nèi)核IB+NVLinkPTX語言資料來源：

DeepSeek論文

，國海證券研究所（注：表格為DeepSeekV3官方訓練費用

，不包含此前對架構(gòu)

、算法

、或數(shù)據(jù)進行研究和實驗的相關(guān)費用）帶寬限制無張量并行TP專家模型

MOE+多頭潛在自注意力

MLA多標記預測(MTP)Dual

Pipe低精度FP8訓練模型結(jié)構(gòu)Architecture模型訓練方法Pre-Train針對性GPU優(yōu)化圖：

DeepSeekV3節(jié)省訓練成本的方法

，包括調(diào)整模型結(jié)構(gòu)

、訓練方法

、GPU優(yōu)化等ChipUnitA100H20H800H100TotalYears#4444#

ofGPUs#10,00030,00010,00010,00060,000NVDA$ASP$13,50012,50020,00023,00046,000ServerCapEx/

GPU$23,71624,22831,72834,72879,672TotalServerCapEx$m2377273173471,281CosttoOperation$m157387170230715TotalTCO(4y

Ownership)$m/

hr3951,1144875771,9964.2

、DeepSeek或有約5萬HopperGPU，

訓練總成本或較高●據(jù)

Semi

analysis

，

Deep

Seek大致?lián)碛?/p>

1

0

0

0

0張

H

8

0

0GPU

芯片

、

1

0

0

0

0張

H1

0

0GPU

芯

片

以

及

大

量

H

2

0GPU

芯

片

，

用

于

模

型

訓

練/

推

理、研

究

等

任

務。其

估

計

，

Deep

Seek的

總

服

務

器

資

本

支

出（CapE

x

）約

為

1

3億

美

元（約

9

0億

元

人

民

幣

），

其

中

僅

集

群

運

營

成

本就高達7

.1

5億美元

。●

Deep

See

k

V

3

論

文

中5

5

7

.

6

萬

美

元

成

本

，

僅

為

預

訓

練

中

消

耗

的GPU計

算

成

本

，

但

模

型

完

整

訓

練

成

本

包

括

研

發(fā)、數(shù)

據(jù)

清

洗、人

員

薪

資、硬

件

總

擁

有

成

本T

CO（服

務

器、

電

力、冷

卻

系

統(tǒng)、數(shù)

據(jù)

中

心

維

護

）等

，

會

帶

來

訓

練

總

成

本

體

量

更

高。作

為

對

比

，

Anthropic

訓練Claude

3

.

5

Sonnet的成本就高達數(shù)千萬美元

。表：

DeepSeek

AI

TCO（總擁有成本）資料來源

：Semianalysis，

國海證券研究所4.2

、Jevons悖論：AI計算提效引總需求提升

，NVH100租賃價格上漲●

A

I的

演

進

路

徑

中

，

推

理

成

本

不

斷

下

降

，

計

算

效

率

持

續(xù)

提

高

是

長

期

趨

勢。例

如：

算

法

進

步

的

速

度

約

為

每

年4

倍

，

即

每

年

達

到

相

同

能

力

所需的計算量減少到四分之

一

；

Anthropic

CEO

Dario

甚至認為

，

這一進步速度可能達到

1

0倍

?！?/p>

Je

von

s悖

論

：

技

術(shù)

進

步

提

高

了

資

源

使

用

效

率

，

效

率

提

高

降

低

了

資

源

使

用

成

本

，

成

本

下

降

刺

激

了

資

源

需