業務目標
明確要解決的性能、擴容、穩定性、覆蓋、互連或運維問題，並確認上線優先級。
AI 的發展推動了計算能力的指數級增長，網路速度每隔幾年就會翻一番。 不太為人所知的是，它還對儲存提出了新的要求。
訓練新模型通常需要對 PB 級資料進行高頻寬網路訪問，而使用新型檢索增強生成技術（RAG）進行推理則需要對數百 TB 級儲存進行低延遲訪問。新模型還可以對豐富的圖像和視訊資料進行訓練、索引和檢索。許多新的 AI 推理索引和搜索工具都依賴於向量資料庫，還必須保留有關所有嵌入式內容的大量元資料。
傳統的文件儲存通常不適用於這些新的工作負載，傳統儲存硬體並不是支援 AI 的最高效或性能的方式。通常，對象儲存是處理大量資料的最佳架構。相對於價格和能耗而言，需要提供更好性能和效率的新儲存解決方案。
基於DPU的JBOF架構
Supermicro 長期以來一直提供許多 JBOF（僅僅是一堆閃存）解決方案，將其部署為直接連接的儲存或網路文件或對象儲存。現在，他們正在推出一款由 NVIDIA BlueField 資料處理器（DPU）提供支援的新 JBOF。
新的 JBOF 不再使用帶有獨立 CPU、內存和網路介面卡的傳統儲存伺服器設計，而是使用 DPU 運行軟體、連接網路、支援遠程管理，並在定制芯片中加速關鍵網路、儲存和安全功能。
DPU 卡可代替 CPU、網路介面卡、DRAM 模組、CPU PCIe 交換器、加密加速器、BMC 和遠程管理連接埠。連接 SSD 可能仍需要外部 PCIe 交換器。
BlueField 是 NVIDIA 市場領先的 DPU，它經過優化，可卸載和加速網路、儲存、安全和管理功能。由於 DPU 將網路、CPU、內存控制器、PCIe 交換器和流量加速器整合在一個芯片上，因此資料可以直接在 SSD 和高速網路連接埠之間移動，而無需由外部 CPU 處理，也無需多次交叉單獨的 PCIe 總線，從而實現低延遲儲存訪問，使系統在價格、性能和能效方面更加高效。
BlueField DPU 儲存控制器卡支援高達 400 Gb/s 的網路流量，還可以加速 NVMe over Fabrics (NVMe-oF) 儲存協議和其他基於 RDMA 的儲存流量。它還充當 PCIe 根復合體來管理 SSD，並使用其 Arm 核心運行儲存軟體，允許 JBOF 以塊、文件或對象儲存的形式呈現，並作為擴展儲存解決方案的一部分進行部署。
BlueField 還提供安全卸載和遠程管理功能，包括自己的基板管理控制器（BMC）和單獨的管理連接埠，這些功能通常是大規模資料中心部署和雲運營所需的。、
全新 Supermicro JBOF
Supermicro 的新款 2RU JBOF 採用靈活設計，支援 36 個 E3.S SSD 或 24 個 U.2 SSD，原始容量高達 1.44 PB，之後使用較新的 60-TB SSD 最多可支援 2 PB。它擁有兩個控制器罐，每個罐可支援多達兩個 BlueField-3 DPU 和一個 NVIDIA GPU。
JBOF 可在每個 JBOF 機箱內部署兩個容器，以實現主動 – 主動或主動 – 被動高可用性；也可僅使用一個容器，以在多個 JBOF 中通過軟體處理冗余和故障轉移的雲儲存情況下實現更高效率。
每個控制器罐最多可容納兩個 NVIDIA BlueField-3 DPU 和一個 NVIDIA GPU 卡。客戶可以為每個 JBOF 部署兩個容器以實現高可用性，或部署一個容器以提高成本效率並降低功耗。
密集設計非常適合縱向擴展和橫向擴展文件和對象儲存，而高網路吞吐量（每個 JBOF 高達 800Gb/s）支援人工智慧訓練和高性能計算工作負載的需求。
降本增效
對 Supermicro JBOF 的測試表明，在安裝了一個 BlueField DPU 的儲存工作負載下，它使 400-Gb/s 的網路連接飽和。基於 BlueField 的 JBOF 還顯示，小塊 (4 KB) 隨機讀取工作負載的延遲降低了 13%，新 JBOF 的時鐘頻率為 86 μs，而傳統的基於 X86 的 JBOF 為 100μs。
使用單個 DPU 卡替換 CPU、內存、網路卡和 BMC 可節省非 SSD 子系統高達 50% 的電量，或節省整個 JBOF（包括 SSD）高達 10% 至 15% 的電量。在大規模橫向擴展儲存部署中，這意味著資料中心的耗電量可節省數千瓦。
WeChat
Profile