計(jì)算的煉金術(shù)_第1頁
計(jì)算的煉金術(shù)_第2頁
計(jì)算的煉金術(shù)_第3頁
計(jì)算的煉金術(shù)_第4頁
計(jì)算的煉金術(shù)_第5頁
已閱讀5頁,還剩121頁未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

一個(gè)歷史時(shí)刻:兩場(chǎng)平臺(tái)變革同時(shí)發(fā)生”COMPUTING加速計(jì)算APPLICATIONS應(yīng)用整個(gè)技術(shù)棧,全面重構(gòu)TRADITIONAL不再編寫軟件代碼,而是訓(xùn)練軟件模型不再運(yùn)行在CPU上,而是運(yùn)行在GPU上不再是預(yù)編譯,而是實(shí)時(shí)生成每個(gè)像素與Token每次計(jì)算都因加速計(jì)算被徹底重望AI-FIRST不再是構(gòu)建應(yīng)用,而是在AI之上構(gòu)建新應(yīng)用$10,000,000,000,000被現(xiàn)代化的計(jì)算價(jià)值。資金來源:研發(fā)預(yù)算的轉(zhuǎn)移(FROMTRADITIONALMETHODSTOAIMETHODS)測(cè)試時(shí)擴(kuò)展(TEST-TIME物理AI(PHYSICALAl)SYSTEMS)ASCENDANT)我們建造自己的AI超算。鍛造世界頂級(jí)的開源模型領(lǐng)域語言生物學(xué)物理世界模型混合SSM架構(gòu),實(shí)現(xiàn)極速推理理解蛋白質(zhì)結(jié)構(gòu)與生成革新天氣預(yù)測(cè)方式超越記憶。走向推理。(BEYONDMEMORY.TOWARDSREASONING.)(規(guī)劃)REASONINGEXECUTERESEARCHUSETOOLS(使用工具)一個(gè)模型遠(yuǎn)遠(yuǎn)不夠。未來是專家的組合。生物模型(BiologyModel)專有LLM(ProprietaryLLM)(Mult-(Mult-Model)視覺模型(Vision(VisionModel)(Multi-Cloud)混合(Hybrld)代碼模型(開源&專有)(OPEN&PROPRIETARY))工具/API完全可定制永遠(yuǎn)最前沿(FULLYCUSTOMIZABLE)(ALWAYSSTATE-OF-THE-ART)案例研究:個(gè)人AI助手“RICCI”●控制機(jī)器人我們是世界領(lǐng)先平臺(tái)的AI引擎。WORLD’SLEADINGPLAsalesforcew.CROWDSTRAdobepMicrosoftMPackanterp.lwaPS三Mn1.lCISCOnVIAnnhbAPVmwaWIGWVEMSUNGA5ourcesalesforcevenYeakeMicrosoftnNetAppMicronEM未來的交互界面不是菜單或命令行。系統(tǒng)本身就是交互界面。物理AI革命計(jì)算的煉金術(shù)JENSENHUANG|FOUNDER&CEO缺失的物理常識(shí)慣性摩擦力重力這些常識(shí)連幼兒都懂,但對(duì)AI來說完全未知。數(shù)據(jù)鴻溝真實(shí)世界數(shù)據(jù)物理AI訓(xùn)練所需數(shù)據(jù)收集真實(shí)訓(xùn)練數(shù)據(jù):緩慢、昂貴、永不滿足.物理AI的三位一體架構(gòu)一切的基礎(chǔ)“如果沒有模擬能力,無法感知物理世界對(duì)動(dòng)作的反饋。無法評(píng)估效果。模擬是物理AI幾乎所有工作的基礎(chǔ)。物理Al的“CHATGPT”時(shí)刻計(jì)算煉成數(shù)據(jù)基于物理規(guī)律無限多樣性按需智能生成COSMOS:核心能力生成式物理AI技能對(duì)齊語言、圖像、3D與動(dòng)作生成照片級(jí)、物理連貫視頻交互式閉環(huán)模擬推理、分析與預(yù)測(cè)教會(huì)機(jī)器人適應(yīng)每一種場(chǎng)景模擬中學(xué)習(xí)現(xiàn)實(shí)中適應(yīng)7△AzureGoogleCloud個(gè)TB8LAFANUCABBASKAWAYASKAWADLLLMerabaasunity1LLncovncasVFANUCYASKAWADCLLUPERMCSeAAdcbeAAUTODESKunityMicrosoftHUAHSRSDocecenccnLIsElrtMiorodsCRPicnomM51R10CACeXtsitiphtoHadicalYasiowaBookinginre三2NMPNELMicrosoftDederatpeaily四357FCOKXnVIDIA.ASEISNAIAdobeAAUTODESKunitycoouotouEPICrIVIDIA.ApnicinrfcusMInFTRYMCKEU6ONDumyeOItkabmoteVoardksIskopnemunityBDSKGSKNVIDIA.AAUTODESKCHALOSEGM2AEanmAL歸RTORSUNGJENSENHUANG|FOUNDER&CEO從虛擬到現(xiàn)實(shí)AI正在走出屏幕進(jìn)入物理世界一場(chǎng)新工業(yè)革命的開端地基:為物理AI打造的芯片雙處理器冗余專為機(jī)器人系統(tǒng)設(shè)計(jì)最高功能安全代碼級(jí)安全認(rèn)證攝像頭輸入->行動(dòng)輸出長尾難題的終結(jié)傳統(tǒng)方法ALPHAMAYO推理傳統(tǒng)方法梅賽德斯-奔馳戰(zhàn)略合作Al決策,絕對(duì)安全卓越性能完全可追溯自動(dòng)駕駛的技術(shù)適用于所有機(jī)器人系統(tǒng)機(jī)器人產(chǎn)業(yè)的黃金時(shí)代在元宇宙中訓(xùn)練海量合成數(shù)據(jù)生成在元宇宙中訓(xùn)練物理級(jí)精準(zhǔn)仿真安全|高效|可擴(kuò)展物理級(jí)精準(zhǔn)仿真生態(tài):機(jī)器人的設(shè)計(jì)者物理AI融入芯片與系統(tǒng)設(shè)計(jì)在仿真中設(shè)計(jì)、驗(yàn)證未來機(jī)器人nVIDIANVIDIAAI全棧集成貫穿設(shè)計(jì)、生產(chǎn)、運(yùn)營全生命周期未來工廠=巨型機(jī)器人運(yùn)營nVIDIA.設(shè)計(jì)->仿真->建造->運(yùn)營NVIDIA加速每一個(gè)環(huán)節(jié)一個(gè)由AI驅(qū)動(dòng)的全新工業(yè)時(shí)代“我們站在新工業(yè)革命的起點(diǎn)。由英偉達(dá)與西門子共建的”計(jì)算的煉金術(shù)英偉達(dá)CES2026Part4:VERARUBIN平臺(tái)深度解析JENSENHUANG|創(chuàng)始人&CEOAI需求的指數(shù)級(jí)挑戰(zhàn)推理思考令牌生成量模型規(guī)模增長推理思考令牌生成量MODELSCALEGROWTH“強(qiáng)化學(xué)習(xí)、測(cè)試時(shí)間擴(kuò)履和激烈的行業(yè)競(jìng)爭(zhēng),共同驅(qū)動(dòng)了這場(chǎng)計(jì)算風(fēng)暴?!眰鹘y(tǒng)之路已盡(THEOLDWAYISBROKEN)““如果行業(yè)要繼續(xù)進(jìn)步,除非部署激進(jìn)的極端協(xié)同設(shè)計(jì)?!?MAXANNUALTRANSISTORGAIN)(REQUIREDAIPERFORMANCEGAIN)VeraRubin平臺(tái)為解決計(jì)算世界中最艱巨的、看不見的挑戰(zhàn)而生。”(智慧大腦)(智慧大腦)(算力引擎)SPECTRUM-XSPECTRUM-X(外部互聯(lián))(智能管家)(內(nèi)部神經(jīng))(內(nèi)部神經(jīng))(數(shù)據(jù)接口)T(15,000ENGINEERING-YEARS)MVFP4張量引擎(MVFP4TENSORENGINE)(VS.BLACKWELL)(VS.BLACKWELL)VERACPU:為AI超級(jí)計(jì)算機(jī)定制的大腦每瓦性能(PERF/WATTVS.GRACE)88核/176線程空間多線程技術(shù)(SPATIALMULTITHREADING),每個(gè)線程均可獲得完整性能為GPU間的高速數(shù)據(jù)共享而生重新定義數(shù)據(jù)流重新定義數(shù)據(jù)流(REDEFININGDATAFLOW)下半部分:AI工廠互聯(lián)技術(shù):SPECTRUM-XAIETHERNET+25%網(wǎng)絡(luò)吞吐性能-50億美元的數(shù)據(jù)中心,性能堤升10%即價(jià)值5億美元。南北向網(wǎng)絡(luò)軟件●優(yōu)化:東西向流量·隔離:支持多租戶安全隔離每個(gè)VeraRubin計(jì)算節(jié)點(diǎn)的標(biāo)準(zhǔn)配置物理工程的革命:從2小時(shí)到5分鐘PHYSICALSPECS(2TONS(2TONS)"ZEROCABLECOMPUTEMODULE(2.2QUADRILLION)(2TONS)srerorePHYSICALSPECSENERGYSPECSroretC(2TONS)tC(S?ooCOPPERCABLES/2MILES)(DIRECT-TO-CHIPLIQUIDCOOLING)(WARMWATERINTAKE)數(shù)據(jù)中心無需冷水機(jī)組(NODATACENTERCHILLERSREQUIRED)峰值推理性能(PEAKINFERENCE)..峰值訓(xùn)練性能(PEAKTRAINING)(TRANSISTORCOUNTINCREASE)全球AI工廠的唯一選擇awsAzure◎GoogleCioud□HPEQuantaFOXConnOpenAIWUANEIGoogleCloudAzureFOXConnMetaAlGoogleAMetoDeepol6retpenA/GoogleAIGoogleCloudOMetaAlMetanVIDIA.ureDCLLTechnologies◎GoogleDeepMindLenovogiasFOXCOnnGoogleCloudLenovoFOXConnOpenAlUniverstwrsQuantaFOXConnOAzureDLLTechnologiesDYLLUniverstaersMetaAlQuantaRAMnVIDIAQuantaDRM計(jì)算的煉金術(shù)HBM→容量告急GRACE高速內(nèi)存→依然告急現(xiàn)有的一切,即將被需求的巨浪吞噬。萬惡之源:KV緩存本質(zhì):Al的工作記憶DATACENTERSTORAGEDATACENTERSTORAGE讀取全部工作記憶后果:網(wǎng)絡(luò)流量爆炸,南北突破|-光之煉金:硅光子連接工藝**:臺(tái)積電(TSMC)Co-op硅光子集成工藝集成**:光模塊直連芯片產(chǎn)品**:SPECTRUM-X新一代AI以太網(wǎng)交換機(jī)突破Ⅱ-內(nèi)存煉金:上下文內(nèi)存革命-拋棄傳統(tǒng)南北向存儲(chǔ)-在機(jī)架內(nèi)構(gòu)建高速東西向流量DPU:4xBLUEFIELDDPUs(每內(nèi)存組)內(nèi)存:150TB上下文內(nèi)存(每組)帶寬:200Gb/s節(jié)點(diǎn)內(nèi)東西向帶寬不止是芯片,更是數(shù)據(jù)中心本身液冷恒溫45℃全系統(tǒng)可信計(jì)算安全總線/連接/內(nèi)存→全程加密(PCle,NVLink,CPU-GPU,GPU-GPU)功率平滑:壓榨每一瓦TIME消除25%峰值冗余拒絕浪費(fèi)訓(xùn)練一個(gè)10萬億參數(shù)模型所需系統(tǒng)數(shù)(在設(shè)定時(shí)間內(nèi))BLACKWELLVERARUBIN時(shí)間,是唯一的壁壘。工廠吞吐量:營收密碼VS.HOPPERHOPPERBLACKWELLV每瓦性能=數(shù)據(jù)中心營收。推理成本VS.上一代“THEMOREYOUBUY,THEMOREYOUSAVE”全棧AI技術(shù)革命應(yīng)用(Applications)我們制造芯片我們構(gòu)建系統(tǒng)我們賦能世界基礎(chǔ)設(shè)施(Infra

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

最新文檔

評(píng)論

0/150

提交評(píng)論