【資料圖】
全新的NVIDIA Spectrum-X 網絡平臺結合了NVIDIA Spectrum-4、BlueField-3 DPU 和加速軟件;全球頭部云服務提供商采用該平臺來橫向擴展其生成式AI服務
中關村在線消息,2023 年5月29日,NVIDIA推出NVIDIA Spectrum-X 網絡平臺,該平臺是一個加速網絡平臺,致力于提高基于以太網AI云的性能與效率。
NVIDIA Spectrum-X是基于網絡創新的新成果而構建——將 NVIDIA Spectrum-4以太網交換機與NVIDIA BlueField-3 DPU緊密結合,取得了1.7倍的整體AI性能和能效提升,同時可在多租戶環境中提供一致、可預測的性能。Spectrum-X還提供NVIDIA加速軟件和軟件開發套件(SDK),使開發人員能夠構建軟件定義的云原生AI應用。
這種端到端的功能交付,可以減少基于transformer的大規模生成式AI模型的運行時間,助力網絡工程師、AI數據科學家和云服務商及時取得更好的結果,并更快做出明智的決策。
全球頭部超大規模云服務商正在采用NVIDIA Spectrum-X,包括領先的云創新企業。
作為NVIDIA Spectrum-X參考設計的藍圖和測試平臺,NVIDIA正在構建一臺超大規模生成式AI超級計算機,命名為Israel-1。它將被部署在NVIDIA以色列數據中心,由基于NVIDIA HGX平臺的戴爾PowerEdge XE9680服務器,BlueField-3 DPU和Spectrum-4交換機等打造而成。
NVIDIA網絡高級副總裁Gilad Shainer表示:“諸如生成式AI等革命性技術正在推動各家企業提升數據中心性能的極限,從而獲得更多競爭優勢。作為新一代以太網絡,NVIDIA Spectrum-X為新一代AI工作負載掃清障礙,將會徹底改變整個行業。”
NVIDIA Spectrum-X 網絡平臺具有高度的通用性,可用于各種AI應用。它采用完全標準的以太網,與現有以太網的堆棧實現互通。
該平臺起步于Spectrum-4,這是全球首款專為AI網絡打造的51Tb/s以太網交換機。先進的RoCE擴展功能可以跨Spectrum-4交換機、BlueField-3 DPU和NVIDIA LinkX光纖相互協同,共同構建了一個專為AI云優化的端到端400GbE網絡。
NVIDIA Spectrum-X 通過性能隔離增強了多租戶環境,確保租戶的AI工作負載能以最佳性能持續運行。NVIDIA Spectrum-X 還提供了更好的AI性能可見性,它可以識別性能瓶頸,而且具有全自動網絡驗證功能。
驅動Spectrum-X的加速軟件包括Cumulus Linux、純SONiC和NetQ等性能強大的NVIDIA SDK,共同助力該網絡平臺實現極致性能。另外,Spectrum-X還包括BlueField DPU的核心軟件——NVIDIA DOCA軟件框架。
NVIDIA Spectrum-X 單臺交換機即可實現突破性的256個200Gb/s端口的連接,使用兩層葉脊拓撲可以連接16,000個端口,以支持AI云的增長和擴展,同時保持極高的性能和極低的網絡延時。
生態采用情況
提供NVIDIA Spectrum-X方案的公司包括戴爾科技、聯想和超微。
供貨情況
NVIDIA Spectrum-X、Spectrum-4交換機、BlueField-3DPU和400G LinkX光纖現已上市。
英偉達(NVIDIA)Tesla顯卡A800 H100 T4 A100 A40計算加速GPU推理訓練 Tesla V100 32G
進入購買
關鍵詞:
凡注有"環球傳媒網"或電頭為"環球傳媒網"的稿件,均為環球傳媒網獨家版權所有,未經許可不得轉載或鏡像;授權轉載必須注明來源為"環球傳媒網",并保留"環球傳媒網"的電頭。