技術(shù)解析篇-DeepSeek入門寶典_第1頁
技術(shù)解析篇-DeepSeek入門寶典_第2頁
技術(shù)解析篇-DeepSeek入門寶典_第3頁
技術(shù)解析篇-DeepSeek入門寶典_第4頁
技術(shù)解析篇-DeepSeek入門寶典_第5頁
已閱讀5頁,還剩19頁未讀 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領

文檔簡介

?DeepSeek是什么??DeepSeekR1的三大特點?

使用DeepSeek的五種方式對比DeepSeek是什么?

o

DeepSeek

是什么?

o?Deep

Seek

2

0

2

3

創(chuàng)

司,

創(chuàng)

鋒?2

0

2

4

1

月5日,

發(fā)

A

I

型Deep

Seek

LL

M?2

0

2

5

1

月2

0日,

Deep

See

kR

1

發(fā)

布,

標Open

AI

o

1

;R

1

圈,

創(chuàng)

APP

錄圖片來源:

DeepSeek官網(wǎng)

圖片來源:

AI產(chǎn)品榜

。

DeepSeek

R1的三大特點

。開源低成本高性能R1開源

并公開訓練技術(shù)

,允許開發(fā)者

訪問和學習R1開發(fā)成本僅為OpenAIo1的2%左右推理表現(xiàn)媲美OpenAIo1正式版圖注:

DeepSeek與OpenAI各版本的準確率對比

(圖片來源:

DeepSeek官網(wǎng))https://chat.deepseek.com/https://chat.deepseek.com/https://deepseekapi.io/可借助Ollama、

vLLM和MNN等工具硅基流動、

騰訊云、

阿里云等普通用戶作為生產(chǎn)力工具及技術(shù)嘗鮮開發(fā)者、

企業(yè)用戶保障訪問穩(wěn)定性和可擴展性 。使用DeepSeek的五種方式對比。官網(wǎng)APP云平臺本地部署API?R1的基座模型——V3?R1的三種變體?R1訓練的技術(shù)路徑?R1的核心技術(shù)解析?R1的關鍵技術(shù)貢獻DeepSeek

R1核心

技術(shù)揭秘?

V3是去年12月發(fā)布的自研MoE模型?

參數(shù)與GPT-4大致在同一數(shù)量級:

V3有671B

參數(shù)

,每個Token的計算激活約37B?

在14.8Ttoken上進行了預訓練?V3:對標GPT-4o

,通過指令微調(diào)和偏好微調(diào)

提升性能?R1:

專注于推理能力R1在DeepSeekV3基礎上進行了開發(fā)V3模型的特征 o

R1的基座模型

V3

o圖注:

DeepSeekV3與發(fā)布時其他主流大模型的準確率對比

(圖片來源:

DeepSeek官網(wǎng))DeepSeek-R1-DistillDeepSeekV3R1-ZeroR1

o

R1的三種變體

。直接強化學習訓練多階段漸進訓練模型蒸餾基座模型變體

1變體2變體3原圖作者:

Sebastian

Raschka o

R1訓練的技術(shù)路徑

。

oR1的核心技術(shù)解析:

強化學習

。R1采用了多種獎勵的強化學習

,相當于模型的

“綜合評分系統(tǒng)”

,模型在完成任務時根據(jù)多個標準獲圖片來源:

《基于場景動力學和強化學習的自動駕駛邊緣測試場景生成方法》得不同的獎勵信號。

oR1的核心技術(shù)解析:冷啟動數(shù)據(jù)

。R1策略性地將少量高質(zhì)量數(shù)據(jù)作為冷啟動。

這相當于訓練開始前的

“入門教程”

,

幫助模型更快地學

會如何進行清晰、

有邏輯的推理。R1的冷啟動數(shù)據(jù)R1-Zero生成的長思維鏈

(CoT)數(shù)據(jù)挑選示例-------------------->

oR1的核心技術(shù)解析:

監(jiān)督微調(diào)

。R1訓練包括兩個監(jiān)督微調(diào)(SFT)階段。

模型通過學習標注數(shù)據(jù)來調(diào)整模型

,

以在特定任務上表現(xiàn)得

更精準。圖片來源:《PORT:PreferenceOptimizationonReasoningTraces》 o

R1的核心技術(shù)解析:

蒸餾

。R1-Distill采用蒸餾技術(shù)。

大模型

(老師)

把自己的知識和推理能力教給小模型

(學生)

,通過高質(zhì)

量的數(shù)據(jù)和訓練方法

,

讓小模型學會大模型的推理技巧。圖片來源:

https://devopedia.org/knowledge-distillation關鍵貢獻1:

“純RL”技術(shù)路線的可行性首個公開研究

,驗證了LLMs的推理能力可以僅通過強化學習激勵

,

而無需監(jiān)督微調(diào)。圖注:

隨著RL訓練逐步推進

R1-Zero的性能穩(wěn)定且持續(xù)提升

(圖片來源:

DeepSeek官方論文)

。

關鍵貢獻2

R1的

“啊哈時刻”。DeepSeek

R1在推理時使用諸如

啊哈時刻”

的高度擬人化語言

,在解題找到突破口時產(chǎn)生了頓悟

,被視

為走向AGI的重要一步。圖注:

在處理復雜的數(shù)學問題時

,模型突然停下來說

“等等、

等等、

這是個值得標記的啊哈時刻”

(圖片來源:

DeepSeek官方論文)圖注:

DeepSeek

R1的推理過程

。關鍵貢獻3:蒸餾小模型超越OpenAIo1-mini

。蒸餾小模型的高性能

,

證明了該策略的經(jīng)濟和有效

,但想要突破當前智能的邊界

或仍需要更大規(guī)模的

基礎模型與強化學習。圖注:

通過DeepSeek-R1的輸出

,蒸餾了6個小模型開源給社區(qū)

(圖片來源:

DeepSeek官方論文)?R1與OpenAIo1的三大區(qū)別?R1的四大進化方向?附錄:

DeepSeek產(chǎn)品家族全梳理DeepSeek技術(shù)貢獻

及未來進化架構(gòu)不同訓練方式不同生態(tài)不同R1:

開源

,免費使用R1:

證明可以僅通過強化學習激勵

,

無需監(jiān)督微調(diào)R1:基于已有模型DeepSeekV3o1:

閉源

,ChatGPTPlus會員才

可訪問o1及o1minio1:監(jiān)督微調(diào)和強化學習結(jié)合o1:不同于GPT-4o的新模型

。

DeepSeekR1與OpenAIo1的三大區(qū)別。從軟件工程數(shù)據(jù)、

強化學習的異步評估入手

,縮短評估時長

,保障強

化學習過程的效率

R1的四大進化方向

。R1在一些復雜任務上的表現(xiàn)不如V3,未來可以通過長鏈推理來提升優(yōu)化R1處理中英文以外語言的能力,避免現(xiàn)在的語言混合問題R1對提示很敏感

,少量示例提示會降低性能語言混合軟件工程任務通用能力提示工程附:DeepSeek產(chǎn)品家族全梳理

圖表來源:

國海證券圖注:

51CTO企業(yè)學堂推出的企業(yè)DeepSeek體系化學習方案更多DeepSeek及AI學習資源51CTO官網(wǎng)AI.x專區(qū)

,獲取DeepSeek及AI最新資訊、

實戰(zhàn)文章、實用資源及AI

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論