Ethernet vs. InfiniBand-IT 硬件和通信 網(wǎng)絡 半導體 AI 網(wǎng)絡深度挖掘-向以太網(wǎng)與 InfiniBand 的轉(zhuǎn)變;NVDA Spectrum-X (以太網(wǎng))未受到重視_第1頁
Ethernet vs. InfiniBand-IT 硬件和通信 網(wǎng)絡 半導體 AI 網(wǎng)絡深度挖掘-向以太網(wǎng)與 InfiniBand 的轉(zhuǎn)變;NVDA Spectrum-X (以太網(wǎng))未受到重視_第2頁
Ethernet vs. InfiniBand-IT 硬件和通信 網(wǎng)絡 半導體 AI 網(wǎng)絡深度挖掘-向以太網(wǎng)與 InfiniBand 的轉(zhuǎn)變;NVDA Spectrum-X (以太網(wǎng))未受到重視_第3頁
Ethernet vs. InfiniBand-IT 硬件和通信 網(wǎng)絡 半導體 AI 網(wǎng)絡深度挖掘-向以太網(wǎng)與 InfiniBand 的轉(zhuǎn)變;NVDA Spectrum-X (以太網(wǎng))未受到重視_第4頁
Ethernet vs. InfiniBand-IT 硬件和通信 網(wǎng)絡 半導體 AI 網(wǎng)絡深度挖掘-向以太網(wǎng)與 InfiniBand 的轉(zhuǎn)變;NVDA Spectrum-X (以太網(wǎng))未受到重視_第5頁
已閱讀5頁,還剩79頁未讀 繼續(xù)免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權,請進行舉報或認領

文檔簡介

75%)。IT硬件和通信網(wǎng)絡半導體。、擁塞管理、自適應路由)以及對東西向和南北不斷變化的競爭格局。我們認為,AristaFabric建設的最明顯受益者,其價值可能與我們的C2024ANET估計值相比能將成為越來越多關注的焦點。我們認為英(利用卸載到BlueField-3DPUs)是一個被比例為75%/25%)增長到2027年的85億美元(InfiniBand與以太網(wǎng)的比例為25%/我們得出結論(同意我們正處于一個拐點,以太網(wǎng)將成為未來大規(guī)模人工智能);,使其成為有意義的增量增長驅(qū)動力(我們將其作為2024年以上的關鍵驅(qū)動力),以及博通作為們認為思科專有的SiliconOne與調(diào)度F。公司銷售全堆棧優(yōu)化的能力,我們認為必須考慮到英偉達公司似乎正在Fabric架構方法,即通過Spec,從而實現(xiàn)網(wǎng)外/卸載擁塞控制,優(yōu)化人工智能性能。此同時,以太網(wǎng)在采用/集成其他網(wǎng)絡互連技術的關鍵屬性方面卻有著悠久的歷如今,關于擴展以太網(wǎng)(RoCEv2)網(wǎng)絡何時(和/或為何)成位外,還有哪些競爭驅(qū)動力可以顛覆迄今為止似乎非Fabric網(wǎng)絡機遇--在2022年11月的分析師日上,他們概述了20-30億美元的機遇。思科最近(23年6月)引用了650Group的估計,該估計顯示人工智能/ML交換TAM從21億美元增長到了20億美元。到2027年,該市場規(guī)模將從2023年的約增長到85億美元(InfiniBand和以太網(wǎng)分別占25%每售出5個以太網(wǎng)端口,就有1個能夠支)?訪問網(wǎng)絡的標準方法)定義。RoCEv2英偉達?(NVIDIA?)的Spectrum-X交換機將成為基于以太網(wǎng)的人工智能架構構建領域的重要競爭對手。英偉達于2023年5月正式推出了基于該公司51.2Tbps交換芯片的Spectr持128個400G端口或6個800G端口。(英偉達?(NVIDIA?)的以太網(wǎng)解決方案已推出多年,但英偉達?(NVIDIA?)強調(diào),Spectrum-X是專為人工智能網(wǎng)絡架構構建而從頭開始設計的,因此沒有嵌在數(shù)據(jù)中心以太網(wǎng)交換機芯片領域的領導地位的呼聲越來越高,尤其是其TomahJericho3-AI51.2Tbps以太網(wǎng)交換機芯片--這意味據(jù)悉,該系統(tǒng)可連接>32,000個GPU(克洛斯拓),擴展性。眾所周知,大規(guī)模人工智能基礎設施采用的數(shù)據(jù)中心架構發(fā)生了重大轉(zhuǎn)變,涉,包括計算(GPU;人工智能優(yōu)化芯片)、內(nèi)存(克服內(nèi)存墻)、存I/O(InfiniBand與以太網(wǎng))人工智能工作負載通常涉及在這些處理器之間分布或交換的大型稀疏矩陣計能不利。思科指出,當今的人工智能/ML網(wǎng)絡是圍繞信這一趨勢/競爭態(tài)勢將在2024年后開始顯現(xiàn)。英偉達最近推出了Spectrum-X以太網(wǎng)產(chǎn)品組合(,支持基于SaaS的交付。)。目前,單個英偉達H100GPU的能耗高達900Gbps。隨著人工智能工作負載的規(guī)模不斷擴大,例如,甲骨文公司強調(diào),其基于以太網(wǎng)RDMA(RoCE)的甲骨文云基礎設施利用因素。行業(yè)報告強調(diào),在人工智能/ML工作負載中,最重要的考慮因素是網(wǎng)絡延遲或尾部延遲(英偉達?(NVIDIA?)特斯資料來源英偉達、AMD、谷歌、AWS、特斯拉、富國證券有限責任公司在下文中總結了公開披露的一些最大規(guī)模人工智能部署的詳細信息:),,通過使用英偉達?(NVIDIA?)的SHARP技術和英偉達?(NVIDIA?)集體通信庫(NCCL),它能夠?qū)⒕W(wǎng)絡帶寬從157Gbps提高到211Gbps,這些技術都是InfiniBand產(chǎn)品組合的一部分(Azure人工智能超級計算技術的部署/設計方面進行了合作。2020年,微軟宣布其為OpenAI開發(fā)絡來訓練ChatGPT。2022年11月,英偉達宣布與微軟開展多年合作),展到超過100,000個GPU。網(wǎng)絡拓撲為更值得注意的是,將需要服務器放置的靈活性,即標準服務器和的下一代設計很可能涉及到在GPU訓練集群中部。首個基礎架構合作伙伴的同時,還指出該服英偉達?(NVIDIA?)將于2013年第二季度在微軟Azure平臺上推出英偉達?(NVIDIA?)超級領域架構,也是基于該芯片的第三臺超級計算機(最新的超級計算機配備了4,0片)。谷歌對其TPU超級計算機的網(wǎng)絡采用了不擇行業(yè)標準的InfiniBand。TPUv4動態(tài)重新配置其互連拓撲結構,以提高規(guī)模、可用性、利用率、模塊化、部署、?亞馬遜網(wǎng)絡服務(AWS)。AWS還采用了一種差異化/新穎的網(wǎng)絡拓撲結構來支持其橫向擴展的高性能計算和人工智能工作負載。AWS的網(wǎng)絡拓撲結構稱為ElasticFabricAdapter(吞吐量。據(jù)報道,該網(wǎng)絡結構目前可在EC2UltraClusters中支持多達20,00AWS正在利用其第二代EFA網(wǎng)絡進行GPU部署,允許云客戶將其P5實例擴展到英偉達H100GPU,用于訓練大型語言模型(LLM)。有趣的是,AWS正在利用其Nitro數(shù)據(jù)處理1999年,由兩個相互競爭的統(tǒng)一網(wǎng)絡設計--未來I/O和下一代I,但隨著兩種技術的融合,該公司將重點轉(zhuǎn)向開發(fā)InfiniBand解決方案。InfiniBand采用與以太網(wǎng)完全不同的互連拓撲結構,其高吞,因為低層鏈路層可提供按順序的數(shù)據(jù)包傳輸。正因為,迄今為止,我們已經(jīng)見證了InfiniBand成為大規(guī)模GPU環(huán)境中節(jié)點到節(jié)點互連的首選。),并實現(xiàn)高吞吐量數(shù)據(jù)傳輸和低延遲。RDMA在兩臺服務器的主系統(tǒng)內(nèi)存之間提供"直接"訪問,QLogic于2006年收購了PathScale和SilverStorm,創(chuàng)建了自己的T了Infiniband市場。在2010年11月的To)。這意味著近三分之二的系統(tǒng)采用了0Cray,56,11%、和其他專有互連(Omni-Path、CraySlingshot等)形的計算能力。該行業(yè)能夠利用工藝節(jié)點過渡的進展,推動網(wǎng)絡超大規(guī)模云供應商不太可能希望將其人工智能基礎設施作為一個單獨的單元來運營,因太網(wǎng)作為主干網(wǎng)絡進行集成。雖然我們同意這一觀點,但如上所述,有明顯的Arista指出,以太網(wǎng)被部署在數(shù)據(jù)中Juniper、NVIDIA等)和軟件供應商(獨立軟件和網(wǎng)絡交換機供應商)組成。隨著軟件定義網(wǎng)絡(RoCEv2于2014年9月發(fā)單一結構(以太網(wǎng))上。這代表著從光纖通道到以太網(wǎng)的轉(zhuǎn)變,光纖通道在更高吞吐量的需求。同樣,低延遲和高吞吐量也是超級計西向流量或服務器/計算集群之間數(shù)據(jù)移動的驅(qū)動力。隨著更成熟的RoC算部署的計算節(jié)點到節(jié)點連接中,以太網(wǎng)能否開始與Infiniband展開更激烈的競爭。遠程直接內(nèi)存訪問(RDMA)功能簡單地說就是通過直接內(nèi)存訪問實現(xiàn)高吞吐量/低延遲的數(shù)據(jù)(NVIDIA?)公司通過200GHDRInfiniBand的SHARPv2.0推出了流式聚合樹(SAT它與英偉達?(NVIDIA?)的InfiniBand和以太網(wǎng)解決方案。英偉達?(NVIDIA?)關于NCCL的文件指出,這并不是一個完整的NCCL。白皮書)--該公司的人工智能優(yōu)化以太網(wǎng)解決英偉達?(NVIDIA?)將以太網(wǎng)定位為大規(guī)模人工智能云集群中InfiniBand的替代品,既是對以太網(wǎng)英偉達?(NVIDIA?)的Spectrum-4以太網(wǎng)交換機基于公司專有的51.2Tbps交換與路由ASIC,該除了Spectrum-4ASIC/交換機之外,英偉達以太網(wǎng)戰(zhàn)略素是BlueField-3數(shù)據(jù)處理單元(DPU)的卸載功能。英偉達?(NVIDIA?)公司指出,傳統(tǒng)以太網(wǎng)在交換機層面集成了擁塞控制功能,包括檢測擁塞情況,偉達?(NVIDIA?)的策略是利用BlueField-3用于擁塞控制的網(wǎng)外處理AI芯片具有內(nèi)置擁塞控制功能,同時還提供與任何云SmartNIC或DPU協(xié)同工作Arista的AI網(wǎng)絡白皮書還強調(diào)了以太網(wǎng)網(wǎng)絡在大型超大規(guī)模目/最有意義的AI交換機平臺。作為一款專用模塊化交換機,576x400G端口。來數(shù)以萬計的GPU也能保持穩(wěn)定的性能。A針對人工智能網(wǎng)絡或GPU互聯(lián)的無損傳輸或RoCEv2進行了優(yōu)化):。從那時起,思科擴大了針對網(wǎng)絡規(guī)模提供商的產(chǎn)品陣容,正如思科在CiscoLive2023上強調(diào)的那樣,該公司在24個月內(nèi)交付了11款SiliconOne芯片;其中10款是在大約15個月內(nèi)交付的(25.6Tbps7nm芯片,并于本周(6/20)宣布向客戶雖然我們在上文指出,我們看到傳統(tǒng)HP利用CiscoSiliconOne發(fā)展。這種架構差異主要導致網(wǎng)絡性能限制,而傳統(tǒng)的們也會對思科向聯(lián)合封裝光學技術演進的路線圖感興趣。在OFC2023大。將繼續(xù)加速增長。該公司指出,其增長的很大一部分來自用于人工智能集群的以人工智能集群的最高性能結構,最多可支持32,000個GPU以800Gbps的帶寬運行。),載實施方面,Broadcom的亮點包括以推動網(wǎng)絡利用率最大化)、端到端流量調(diào)度的無擁塞),關于Jericho3-AI的詳細概述,我們重點推薦TheInnovium/Marvell是高性能以太網(wǎng)交換機芯片(增加新的協(xié)議和功能,以應對人工智能/M400G端口。強烈地意識到,為了支持人工智能/ML工作負載的高端性能要求,行業(yè)正在向部署/集成到人工智能集群中。在被HPE收購之前,當我們將Cray作為一他管理層的談話經(jīng)常會強調(diào)Slingshot互聯(lián)的重要性/定位,它是一種基于以太網(wǎng)它從大型云提供商和企業(yè)客戶那里贏得了總價值超過8億美元的多個大型合同(訂單這些合同(視為對包括高性能計算/超級計算在內(nèi)的行業(yè)向以太網(wǎng)或TCP/IP的是使其互連能夠支持標準的基于以太網(wǎng)的設備,如存儲和推出,同時還指出,軟件差異化在整體性能中發(fā)及將網(wǎng)絡直徑從五跳減少到三跳,從而改善了延遲。Cray在最初發(fā)布該互聯(lián)技術時曾提到,它一直在探索這一想法,但尚未做其中最引人注目的是英特爾的Omni-Path互連,它于2015年推出,旨在為超大規(guī)英特爾公司在2019年宣布,第二代Omni-P2020年9月,英特爾的Omni-PathCornelis的路線圖包括支持200Gbps分叉2022年5月,美國能源部的國家核安全WFSResearch可能會不時在其研究報告中向客戶提供短期交易觀點,這些研究報告涉及富國證券目前擁有股票研究覆蓋范圍是在短期交易觀點發(fā)布日期之后的30天內(nèi),標的公司普通股市場價格的絕對趨勢。標的公司普通股的短期交易觀點不會影標價格,這些評級或目標價格反映了我們對標的公司普通股一年內(nèi)可能表現(xiàn)的看法。短期交易觀點可能會得出與公司對標的公司的基本投資評級和目和目標價格。短期交易觀點并非評級,公司不打算也不承擔任何維持、更新或關閉短期交易觀點的義務。短期交易觀點可能不適合所有投資者,也未根據(jù)英國-本報告中描述的證券和相關金融工具可能不符合在所有司法管轄區(qū)或向某些類別的投資者出售的資。根據(jù)英國金融行為監(jiān)管局的規(guī)定,本報告構成公正的投資研究。歐洲經(jīng)濟區(qū)-本報告中描述的證券和相關金融工具可能不符合在所有司法管轄區(qū)或向某些類別的投資者銷售的資格。對于歐洲經(jīng)濟區(qū)WellsFargoSecuritiesEuropeS.A.("WFSE")發(fā)行。WFSE是一家法國注冊投資公司,由Autoritédecontr?leprudentieletderésolution和Autoritémarchésfinanciers授權并監(jiān)管。WFSE不與第2014/65/EU號指令("MiFID2")所定義的零售客戶進行交易。。加拿大-本報告由富國證券加拿大有限公司(WellsFargoSec公司活動,如實地考察,但一

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論