業務目標
明確要解決的性能、擴容、穩定性、覆蓋、互連或運維問題，並確認上線優先級。
在當今迅速發展的技術格局中，保持領先地位不僅僅是一個目標——這是一個必要條件。創新浪潮，尤其是 AI 領域的創新，正在推動整個技術堆棧的巨大變革。
見證深刻變革的一個領域是乙太網路（Ethernet）網路，這是數字通信的基石，數十年來一直是企業和資料中心環境的基礎
如今，每個資料中心都在加速，以支援現代 AI 工作負載，從而增加了對支援這些工作負載的基礎設施的需求。許多企業已經非常熟悉 Ethernet，將其作為可信網路標準。然而，他們缺乏一種解決方案來充分支援使用 Ethernet 協議的 AI 工作負載的特性。
NVIDIA 的創新願望通常是出於對理解和響應客戶不斷變化的需求的深刻承諾，確保我們的解決方案不僅滿足而且可以預測並超過預期。
進入 NVIDIA Spectrum-X 時代，NVIDIA Spectrum-X 是全球首款高性能乙太網路結構，旨在實現不僅僅是增量的改進。它們代表著重大飛躍，確保乙太網路在資料呈指數級增長的時代仍然是一種可靠的、面向未來的技術。
從概念到實現的性能
由於 AI 工作負載需要不斷增加的資料吞吐量和零尾延遲，因此必須重塑傳統的乙太網路以滿足嚴格的要求。必須大規模利用、部署和驗證 Remote Direct Memory Access (RDMA) 協議的進步、平衡大型網路流量以及更好的擁塞控制方法等方面的考慮因素。
雖然乙太網路已經被用於大規模超大規模雲和資料中心，但實際上它只能支援單個伺服器或小型工作負載。傳統乙太網路本質上是一種有損網路，在擴展AI等分布式計算工作負載時，會帶來重大挑戰。
為瞭解決傳統乙太網路的這些缺點，我們開始開發新技術和功能，將NVIDIA乙太網路產品轉變為高性能計算結構，能夠支援加速計算的嚴格要求。
NVIDIA Spectrum-X 代表了傳統乙太網路的重大進步，它被專門設計為一種端到端架構，用於優化 AI 工作負載。它使用 NVIDIA BlueField-3 SuperNIC 端點與 NVIDIA Spectrum-4 交換器協同工作，並特別增強了資料中心環境中的 GPU 到 GPU 通信（也稱為東西向網路流量）。常見做法包括：基於遙測的擁塞控制、無損網路、動態負載均衡。
基於遙測的擁塞控制
通過將高頻遙測探針與流量測量相結合，Spectrum-X擁塞控制可確保工作負載得到保護，並確保網路提供性能隔離。這意味著各種類型的AI工作負載可以同時在共享基礎設施上運行，而不會對性能產生負面影響。
無損網路
Spectrum-X 使用細粒度自適應路由來最大限度地提高網路利用率，並確保乙太網路的最高有效頻寬。自適應路由通過在整個網路中實現逐包負載均衡，避免了傳統乙太網路中靜態路由（等價多路徑，即 ECMP）或流路由的陷阱，而無需深度緩衝區和避震器。
由於負載均衡意味著資料包可以亂序地到達目的地，因此 NVIDIA BlueField-3 SuperNIC 可確保重新排序資料包，並將其放置在主機內存中，從而使應用程序無法察覺重新排序。
動態負載均衡
Spectrum-X 使用細粒度自適應路由來最大限度地提高網路利用率，並確保乙太網路的最高有效頻寬。自適應路由通過在整個網路中實現逐包負載均衡，避免了傳統乙太網路中靜態路由（等價多路徑，即 ECMP）或流路由的陷阱，而無需深度緩衝區和避震器。
由於負載均衡意味著資料包可以亂序地到達目的地，因此 NVIDIA BlueField-3 SuperNIC 可確保重新排序資料包，並將其放置在主機內存中，從而使應用程序無法察覺重新排序。
結語
Spectrum-X 的發展歷程還處於起步階段。隨著我們的發展，NVIDIA 繼續借助 Spectrum-X 進行創新，在構建 AI 工廠、生成式 AI 雲和企業 AI 資料中心方面發揮著關鍵作用。Spectrum-X 平台樹立了標準，提供了無與倫比的性能和效率。
WeChat
Profile