業務目標
明確要解決的性能、擴容、穩定性、覆蓋、互連或運維問題，並確認上線優先級。
使用 NVIDIA Spectrum™-X 網路平台輕鬆調配和管理功能強大的 AI 應用。憑借 NVIDIA Spectrum-4 乙太網路交換器和 NVIDIA® BlueField®-3 SuperNIC 的緊密耦合，Spectrum-X 可為 AI、機器學習、自然語言處理以及各種行業應用帶來卓越性能。
為了構建全新的AI雲需要使用單獨的AI網路架構，AI工作負載非常獨特，會產生大量的網路資料流。從而對網路產生巨大影響。
在基於傳統乙太網路構建的現有雲基礎架構上運行這些工作負載會引發嚴重擁塞、增加延遲並造成頻寬分配不公平。這會導致性能下降無法有效利用系統的 GPU
NVIDIA Spectrum-X網路平台是全球首個專為 AI 工作負載而構建的乙太網路網路架構與傳統乙太網路相比能夠提供高達兩倍的 AI 集群性能。
這種端到端的 NVIDIA 解決方案始於採用 Spectrum-4 交換器它內置令人印象深刻的 Spectrum-4 ASIC，在 NVIDIA 創新的支援下此 ASIC 提供了許多突破性的功能而使其獨樹一幟。
Spectrum-4 交換器與 BlueField-3 DPU 緊密配合，以確保在 AI集群內實現最佳的資源利用和高效的資料傳輸。它具有增強的 ROCE 功能例如自適應路由、性能隔離和擁塞控制，所有這些都包含在一個經過優化的全棧解決方案中。
Spectrum-X網路平台通過標準乙太網路協議提供加速技術，實現最高效的頻寬並降低抖動和短尾，從而最大限度地提高 AI性能。
在這個真實的示例中，在每個 GPU 的性能、能效、訓練時間和總擁有成本相同的情況下Spectrum-X實現了 1.7 倍的性能提升。
此外,利用 NCCL AllReduce 的 AI模型可將有效頻寬提高 2.5 倍，從而實現更快、更可預測的訓練。
跨軟體堆棧、庫和操作系統的持續優化，可確保 AI 基礎設施的最佳性能和互操作性。
NVIDIA Spectrum-X網路平台由 Spectrum-4 交換器和 BlueField-3 DPU 提供支援。作為首個專為 AI構建的乙太網路網路架構可提升性能,並縮短計算時間。
WeChat
Profile