NVIDIA DOCA 2.9 借助新性能和安全功能強化人工智慧和雲計算基礎設施 NEWS DETAIL

NVIDIA DOCA 通過為開發者提供全面的軟體框架來利用硬體加速來增強 NVIDIA 網路平台的功能，從而提高性能、安全性和效率。它的 API、庫和工具生態系統可簡化資料中心基礎設施的開發，實現工作負載卸載、加速和隔離，以支援現代、高效的資料中心。

如今，許多主要的 CSP 和 NVIDIA 雲合作夥伴（NCP）都在使用 DOCA，並為快速開發和部署創新解決方案提供了標準化平台。這種方法可縮短上市時間、降低成本，並使合作夥伴能夠在使用 NVIDIA 硬體加速的同時專注於自身的核心優勢。

DOCA 培育的開放生態系統促進了協作和互操作性，創造了各種互補解決方案。合作夥伴可以探索 AI 驅動的網路、高級安全性和高性能儲存等新興市場，將自己定位在資料中心創新前沿。

DOCA 2.9 的最新版本標誌著 AI 計算結構和雲計算基礎設施的重大進步。這次全面更新引入了許多新功能和改進，有助於改變高性能計算和網路格局。

利用增強的東西向計算結構優化人工智慧網路

DOCA 2.9 版本的亮點包括改進的擁塞控制和新的遙測庫，這對於優化資料中心內的網路流量至關重要，從而提供更好的性能、效率、可見性和控制。

支援 Spectrum-X 1.2 參考架構

Spectrum-X (SPC-X) 1.2 參考架構針對東西向乙太網路 AI 雲環境進行了多項增強。該更新支援大規模橫向擴展能力，可在單個網路中容納多達 128,000 個 GPU。該架構使用 NVIDIA BlueField-3 SuperNIC 和 NVIDIA Spectrum-4 交換器的強大組合，連接到 NVIDIA DGX H100 和 NVIDIA HGX H100 平台，為 AI 工作負載提供出色的性能和效率。

DOCA 2.9 還改進了遙測能力和 Spectrum-X 的擁塞控制算法。這有助於更精細、更實時地監控網路性能，並改進拓撲檢測，這對於大規模和遠程優化 AI 工作負載至關重要。

DOCA 擁塞控制

DOCA 2.9 提升了高性能計算和 AI 工作負載的擁塞控制算法，即 NVIDIA 網路擁塞控制 (NVNCC)。

NVNCC Gen2 和 InfiniBand 擁塞控制 IBCC 的全面推出標誌著一個重要的里程碑。IBCC 專門針對 InfiniBand 上的人工智慧工作負載進行了優化，而 NVNCC 通過改進的拓撲檢測功能增強了 Spectrum-X 擁塞控制算法，現在支援長距離的 RoCE。

DOCA 遙測庫

作為此版本的新成員，DOCA 遙測庫引入了高頻採樣功能，推進了人工智慧驅動環境的網路監控。此更新可實現低於 100 微秒的計數器讀數間隔，與之前的 0.5-1 秒頻率相比，實現了巨大飛躍。

主要功能包括用於指定計數器、時間間隔和頻率的新 API，以及對多個性能計數器（例如 RX/TX 字節、連接埠、擁塞通知和 PCIe 延遲）的支援。這些增強功能可滿足關鍵用例的需求，例如用於集群範圍異常檢測的高頻遙測（HFT）和用於應用程序分析的本地性能分析。

北-南雲計算基礎設施正在增強連接性和安全性

DOCA 2.9 中的南北向改進側重於增強雲資源與外部網路之間的連接性。

DOCA Flow

DOCA 2.9 為 DOCA Flow 引入了一項令人興奮的新功能：‘tune’性能分析工具。目前處於 alpha 階段，此工具已無縫集成到 DOCA-Flow 交付包中，為用戶提供有關其網路流配置的深入見解。

`tune`工具可直觀呈現已配置的流水線，使用戶能夠清楚地瞭解其流結構。這項可視化功能使管理員和開發者能夠快速識別和優化流配置。

OVS-DOCA

OVS-DOCA 現已正式推出，帶來了本地鏡像功能，並在 NVIDIA BlueField DPU 軟體定義網路方面向前邁出了一步。此長期支援（LTS）版本為用戶提供了傳統 OVS 解決方案的穩定、高性能替代方案，使用 DPDK 或內核資料路徑為現代網路環境提供更高的效率和擴展功能。

通用版本引入了一些關鍵的增強功能，可提升 DOCA 的功能，包括通過 DOCA Flow API 大幅提升連接追蹤（CT）功能的性能。用戶每秒連接數（CPS）有望提升 100%，每秒資料包數（PPS）有望提升高達 50%。最多可支援三個 NIC，可實現更靈活、更強大的網路配置，從而增強可擴展性和吞吐量。

基於 DOCA 主機的網路 2.4

DOCA 基於主機的網路 (HBN) 不斷發展，版本 2.4 為裸機即服務環境的無控制器 VPC 網路帶來了許多增強功能。DOCA HBN 2.4 以 BGP EVPN 為基礎，引入了令人印象深刻的可擴展性改進，支援高達 8,000 個 VTEP 和 80,000 個 Type-5 路由。

最新版本通過內核 Next-Hop 組和 OVS-DOCA 故障轉移增強了 ECMP 路由，提高了網路彈性和性能。其中一個關鍵的新增功能是 Overlay 網關的有狀態 SNAT+PAT，使私有租戶 IP 能夠通過共享公共 IP 地址訪問外部網路。

DOCA FireFly

增強型 DOCA Firefly 服務通過硬體加速為 NVIDIA 資料處理單元（DPU）帶來先進的時間同步功能。此更新引入了兩項顯著特性：同步乙太網路（SyncE）支援和資料傳輸服務（DTS）集成。

SyncE 可在網路設備之間實現高精度頻率同步，對於電信網路（尤其是移動基礎設施）至關重要。DTS 支援支援通過遙測通道傳輸 PTP 資訊，從而實現持續的網路時間服務監控。

NVIDIA Rivermax SDK

Rivermax SDK 獲得了一些增強功能，這些功能側重於降低延遲、最大限度地降低 CPU 佔用率，以及最大限度地提高資料密集型應用的頻寬和 GPU 利用率。一個關鍵的補充是支援 Internet Protocol Media Experience (IPMX)，這是專業視聽環境中 AV over IP 的新興開放標準。

在 Rivermax 的支援下，DOCA 2.9 還支援 NVIDIA Holoscan for Media；一個專為媒體和娛樂行業定制的認證平台。該功能優化了未壓縮和壓縮視訊流的處理，簡化了用於高性能媒體處理的 I/O 操作。

NVIDIA DOCA App Shield

DOCA App Shield 庫的增強功能提高了其在主機監控和威脅檢測方面的能力。主要增強包括預先生成的操作系統配置文件，使各種操作系統的設置過程更加簡化。

對於 Linux 環境，App Shield 現在提供高級容器監控功能，使安全團隊能夠密切關注容器化工作負載。該服務已得到擴展，可列出網路連接，並提供有關每個進程的網路連接詳細資訊，從而更深入地瞭解潛在的安全威脅。

DOCA SNAP 虛擬化

DOCA SNAP virtio-fs 的測試版是一項利用 NVIDIA BlueField-3 DPU 的強大功能的安全加速文件系統儲存服務。此解決方案使用內置的 virtio-fs 驅動程序向主機公開本地文件系統語義，同時直接在 DPU 上運行遠程文件系統儲存邏輯。

該版本還引入了 SNAP Virtio-fs 的測試版，作為公共 NGC 服務容器提供。它通過集成到 BlueField-3 內核中的 NFS Linux 內核文件系統啓用。開發者可以基於 SPDK FSDEV 創建自定義文件系統堆棧，從而實現靈活性和性能優化。

此解決方案可在 AI 計算伺服器中實現雲規模分布式文件系統儲存，提供具有隔離和策略執行功能的安全環境，同時加速性能並卸載虛擬機管理程序任務。

開放虛擬網路裸機租戶隔離

DOCA 2.9 包括一項新的編排服務，增強軟體定義網路（SDN）環境中的租戶隔離。Open Virtual Network（OVN）裸機租戶隔離功能保護多租戶環境中的南北流量，確保 AI 工作負載保持安全和獨立，即使在密集計算集群中也是如此。

此服務基於上游 OVN 構建，提供用於租戶隔離的簡化、健壯的 API，以及用於在 BlueField DPUs 上輕鬆部署的 Ansible 手冊。關鍵創新在於卸載和加速基於 SDN 的租戶 BlueField DPUs，通過隔離特定進程來提高速度和效率。這種中央組織允許使用 API 調用輕鬆更改隔離設置，從而更好地控制網路管理。這使得它非常適合希望使用 SDN 創建多租戶雲的 AI 雲和工廠。

設備管理和開發工具 

DOCA 2.9 簡化了大規模部署所需的大型語言模型設備管理流程。此版本還為開發者提供了新的優化和分析工具，可幫助他們更好地瞭解應用程序和資料路徑性能。

DOCA 管理服務 (DMS)

DOCA 管理服務（DMS）也升級為通用狀態，為管理 BlueField DPUs 和 SuperNICs 提供增強功能。此更新引入了通過單個 API 端點管理多台設備的能力，從而簡化了在複雜的多設備環境中的操作。

一項關鍵改進是在節點重啓期間支援配置「持久性」，從而確保設備設置在系統重啓期間保持不變。這種改進還伴隨著新的批量導入/導出功能，用於設備配置的高效管理，特別是在大規模部署中。

DOCA 資料路徑加速器

資料路徑加速器（DPA）工具包的增強功能為開發者提供了更強大的性能優化和分析工具。其中一項突出功能是將 DPA 性能計數器與新的 Nsight 工具相集成，從而更深入地瞭解應用程序性能。

DOCA-DPA-Comms 庫是一個重要的補充，目前處於測試階段。該庫簡化了基於 DPA 的資料路徑的實現，為開發者提供了更高級別的抽象化。它可用於 BlueField-3 DPUs 和即將推出的 NVIDIA ConnectX-8 SuperNIC，確保 NVIDIA 高級網路硬體產品組合的廣泛相容性。

用於簡化部署和支援的平台和 DOCA 軟體包

改善用戶體驗是 DOCA 發展的核心。本次發佈包括許多旨在簡化和改進部署的功能，例如 DOCA-Host 配置文件 DOCA-ROCE，它迎合了需要 RDMA over Converged Ethernet 功能的環境。

NVIDIA 還針對 BlueField-3 推出了 PLDM 固件更新。該測試版支援使用標準 PLDM over MCTP over PCIe 實現無縫固件更新，使伺服器在激活之前能夠正常運行。這一零信任功能支援 NIC 和 DPU 模式，並且無需 DPU-BMC 1GbE 連接。

此外，此版本標誌著 MLNX_OFED 的最終長期支援（LTS）獨立版本，該版本現已作為主機配置文件‘DOCA-OFED’提供。

從用於 InfiniBand 和乙太網路解決方案的 MLNX_OFED 驅動和工具套件過渡到 DOCA-OFED，可實現集成在 DOCA 框架內的統一、可擴展和可編程網路堆棧。詳細瞭解 MLNX_OFED 向 DOCA-OFED 過渡 。