VMware虛擬化與云原生平臺(tái)上部署企業(yè)級(jí)AI平臺(tái)的實(shí)踐技術(shù)創(chuàng)新，變革未來人工智能的過去，當(dāng)下與未來人工智能發(fā)展史(From

1956)1956-2012:

漫長的AI技術(shù)積累與走向成熟2

?當(dāng)下的人工智能2012-2022:

AI產(chǎn)業(yè)化十年探索20年后的人工智能？2042:

暢想下20年后的AI技術(shù)*

摘自“新智元”AI場(chǎng)景化落地探索與實(shí)踐與國家賽艇隊(duì)&皮劃艇隊(duì)成立“大數(shù)據(jù)與人工智能聯(lián)合實(shí)驗(yàn)室”，使用AI、大數(shù)據(jù)、邊緣計(jì)算、流數(shù)據(jù)計(jì)算及存儲(chǔ)技術(shù)助力國家隊(duì)科學(xué)訓(xùn)練與備戰(zhàn)奧運(yùn)。商業(yè)超市基于AI機(jī)器視覺的商品識(shí)別和自助結(jié)算臺(tái)貨損防控，識(shí)別商品SKU>100萬，商品識(shí)別錯(cuò)誤率<1%?；贏I的光伏組件缺陷檢測(cè)識(shí)別，算法識(shí)別精度>99.5%，檢測(cè)速度<

2秒；節(jié)省人力投入2/3。戴爾北美供應(yīng)鏈團(tuán)隊(duì)通過AI庫存優(yōu)化，每年節(jié)省1800萬美元庫存費(fèi)用。戴爾服務(wù)器預(yù)防性維護(hù)技術(shù)每年為用戶節(jié)省超過2500萬美元運(yùn)維開支。戴爾Tech

Support基于NLP的智能客服系統(tǒng)，每天服務(wù)超過1萬用戶，降低10%人工客服服務(wù)量。3

?訓(xùn)練&推理計(jì)算精度優(yōu)化GPU虛擬化技術(shù)AI

GPU分布式訓(xùn)練技術(shù)，應(yīng)對(duì)大模型訓(xùn)練算力需求AI專用加速芯片技術(shù)戴爾科技投資AI專用加速芯片企業(yè)GraphcoreAI消耗的計(jì)算力平均3.43個(gè)月增長一倍，六年時(shí)間增長30萬倍*越來越復(fù)雜的AI模型（參數(shù)規(guī)模從千萬級(jí)別，到千億/萬億級(jí)別），需要更大規(guī)模的并行計(jì)算*Source:OpenAI

20181精細(xì)化2集群化3多樣化4

?新一代的AI算力平臺(tái)的構(gòu)建戴爾科技AI解決方案全景圖AI基礎(chǔ)架構(gòu)高性能AI訓(xùn)練服務(wù)器（GPU/IPU）高性能AI存儲(chǔ)系統(tǒng)PowerScaleAI推理服務(wù)器（CPU/GPU/FPGA/IPU）AI平臺(tái)就緒解決方案DPS數(shù)據(jù)保護(hù)解決方案AI行業(yè)應(yīng)用工業(yè)產(chǎn)品缺陷檢測(cè)數(shù)據(jù)中心網(wǎng)絡(luò)AI邊緣計(jì)算AI就緒解決方案(GPU)NVAIEOMNIA開源社區(qū)GPU虛擬化AIaaS平臺(tái)AI就緒解決方案(CPU/IPU)GPU分布式訓(xùn)練自動(dòng)化實(shí)現(xiàn)GraphcoreIPU

AI專用芯片智能視頻姿態(tài)檢測(cè)AI教學(xué)實(shí)訓(xùn)平臺(tái)工藝參數(shù)優(yōu)化商品識(shí)別5

?企業(yè)級(jí)用戶的AI機(jī)遇與挑戰(zhàn)1Accenture:"AI:BuilttoScale,FromExperimentaltoExponential."

2019.Weneedan“Easy

Button”84%受訪者表示，如果不應(yīng)用AI技術(shù)，將無法實(shí)現(xiàn)業(yè)績?cè)鲩L目標(biāo)76%受訪者表達(dá)了他們?cè)谄髽I(yè)內(nèi)部拓展AI應(yīng)用的糾結(jié)AI平臺(tái)的主要技術(shù)考量可用性可管理性功能與效率企業(yè)用戶應(yīng)用AI技術(shù)加速企業(yè)數(shù)字化轉(zhuǎn)型，不僅為了生存，更要實(shí)現(xiàn)商業(yè)增長；這將為多數(shù)企業(yè)用戶的IT系統(tǒng)帶來新的挑戰(zhàn)。6

?企業(yè)級(jí)AI

GPU計(jì)算平臺(tái)NVAIE攜手VMware

與NVIDIA，聯(lián)合推出面向企業(yè)級(jí)用戶的AI

GPU虛擬化和云原生平臺(tái)NVIDIAAIEnterprise(NVAIE)。7

?NVIDIAAIEnterpriseon

VMwareNear

Bare-MetalPerformance在VMware

vSphere

中實(shí)現(xiàn)近乎裸金屬的AI計(jì)算性能Multi-instance

GPU(MIG)NVIDIA最新安培架構(gòu)GPUMIG硬件虛擬化特性的驗(yàn)證與支持AmpereSR-IOV

vGPU高性能、易管理的GPU虛擬化平臺(tái)GPUGPUMemoryGPUGPU

MemoryGPUMemGPUVMVMVMGuestOS3NVIDIAVirtual

GPUsNVIDIAvirtualizationsoftwareHypervisorComputeDriverCompute

DriverGuest

OS2Compute

DriverGuest

OS1GPUDirect

RDMARDMA

NIC與GPU顯存之間高速數(shù)據(jù)通信8

?VM中實(shí)現(xiàn)裸金屬相當(dāng)?shù)腁I計(jì)算性能ServerConfig:IntelXeonGold(6240R@2.4GHz),Ubuntu18.04,NVIDIAMellanoxConnectX6Dx,RoCEenabled,ATSenabled,TensorFlowBERTLargeTrainingusingHorovod,FP16,BS:30,SeqLen:384,1xNVIDIAA100pernode,Driver460.32.04,GPUVirtualized:VMwarevSphere7.0u2,NVIDIAvGPU12.0(40C

profile)ServerConfig:IntelXeonGold(6240R@2.4GHz),Ubuntu18.04,VMwarevSphere7.0u2,NVIDIAvGPU12.0(40Cprofile),1xNVIDIAA100pernode,Driver460.32.04,NVIDIAMellanoxConnectX6Dx,RoCEenabled,ATSenabled,TensorFlowResnet-50V1.5TrainingusingHorovod,FP16,

BS:5129

?數(shù)據(jù)中心AI訓(xùn)練

&

推理邊緣AI推理數(shù)據(jù)分析

&

機(jī)器學(xué)習(xí)PowerEdgeR750XAPowerEdge

DSS8440PowerEdgeR7525VxRail

V670FPowerEdge

XR12PowerEdge

R750PowerEdge

R740PowerEdge

R750XAPowerEdgeR7525VxRail

V570F適應(yīng)于不同AI負(fù)載的認(rèn)證系統(tǒng)基礎(chǔ)設(shè)施相較GPU兼容性更嚴(yán)苛的硬件基礎(chǔ)設(shè)施驗(yàn)證超過25類真實(shí)世界的GPU應(yīng)用負(fù)載的驗(yàn)證測(cè)試。10

?選擇戴爾作為NVAIE

AI解決方案的合作伙伴戴爾中國用戶解決方案體驗(yàn)中心(CSC)，可以為您提供NVAIE的測(cè)試環(huán)境，以及NVAIE

LaunchPad演示環(huán)境。體架構(gòu)設(shè)計(jì)，業(yè)界最完善的NVIDIA

CertifiedSystem認(rèn)證系統(tǒng)硬件選型，NVIDIA以及VMware軟件銷售及現(xiàn)場(chǎng)實(shí)施服務(wù)。戴爾科技為您提供NVAIE

AI平臺(tái)解決方案的整 ?

在NVAIE平臺(tái)解決方案，戴爾科技提供的11

?服務(wù)包含從售前階段的方案規(guī)劃設(shè)計(jì)，到售后現(xiàn)場(chǎng)實(shí)施與最佳實(shí)踐分享。NVAIE加速企業(yè)級(jí)AI平臺(tái)建設(shè)基于PowerEdge

R750xa

&XE8545+NVIDIAAI

Enterprise+PowerScale，為國內(nèi)某體系結(jié)構(gòu)實(shí)驗(yàn)室構(gòu)建AI

GPU計(jì)算集群，提供高性能裸金屬+彈性虛擬化GPU算力?；贜VIDIAAIEnterprise(NVAIE)+vSphere+DellPowerEdge

GPU服務(wù)器，為某高校研究院構(gòu)建的AI平臺(tái)，在VMware軟件平臺(tái)上vCenter可以便利地創(chuàng)建VM并調(diào)用由MIG硬件虛擬化生成的vGPU算力資源。12

?NVIDIA

AI

Enterprise為比薩大學(xué)的老師和學(xué)生進(jìn)行AI深度學(xué)習(xí)、機(jī)器學(xué)習(xí)、數(shù)據(jù)分析領(lǐng)域的研究，提供靈活的基礎(chǔ)架構(gòu)環(huán)境，部署和管理更加靈活。我們的測(cè)試顯示：

通過NVIDIA

AIEnterprise最新技術(shù)成果，在虛擬機(jī)運(yùn)行的GPU加速應(yīng)用，可以實(shí)現(xiàn)與裸金屬環(huán)境近乎相當(dāng)?shù)募铀傩阅?。MaurizioDavini|CTOattheUniversityof

Pisa系統(tǒng)架構(gòu)DellPowerEdgeR740XDNVIDIA

GPUsNVIDIABlueField-2

DPUsVMware

vSphereNVIDIAAI

Enterprise比薩大學(xué)：NVAIE加速AI科學(xué)研究13

?可信賴的AI部署平臺(tái)加速AI計(jì)算高可擴(kuò)展性來自VMware與NVIDIA官方認(rèn)證運(yùn)行在vSphere