NVIDIA 推出已正式可用的 Fleet Intelligence 服務,面向資料中心 GPU 運營場景,提供實時遙測、告警、健康檢查與完整性驗證能力,幫助企業提升 GPU 集群運維效率、可用性與資源利用率。
隨著大規模 GPU 集群持續擴張,企業在運維中面臨的挑戰也越來越複雜。異構硬體、快速迭代的軟體棧、功耗約束以及多租戶負載波動,都會影響集群整體效率。對於運營團隊來說,僅僅知道節點是否在線已經不夠,更需要瞭解每張 GPU 是否處於穩定、健康且高效的運行狀態。
NVIDIA 此次推出的 Fleet Intelligence,正是面向這類場景的托管式監測服務。該服務採用主機側輕量級代理,持續採集 GPU 遙測資料,並將相關資訊回傳到雲端管理服務中,用於統一分析與展示。NVIDIA 表示,該服務現已正式可用,主要面向自建基礎設施的資料中心 GPU 與 CPU 用戶。
從功能上看,Fleet Intelligence 主要覆蓋三個方向:資產清點與可視化、報告與告警、完整性與可信驗證。運維人員可以按資料中心、雲區域或計算分區查看 GPU 利用率、顯存使用、設備狀態等關鍵資訊,並快速定位功耗異常、溫度熱點、性能波動以及潛在硬體故障。
在健康管理方面,Fleet Intelligence 可結合 GPUd、DCGM 等 NVIDIA 相關技術,對主機、GPU、NVLink 和網路狀態進行近實時監控,同時執行週期性健康檢查。系統支援通過郵件、Slack 等渠道發送告警,並可生成歷史趨勢報告,幫助團隊分析溫度、功耗、錯誤和停機情況,從而更早發現風險並優化資源調度。
此外,Fleet Intelligence 還引入了基於 NVIDIA 機密計算技術的完整性驗證機制。系統可通過 Attestation SDK 獲取 GPU 運行時測量資訊,並借助遠程驗證服務判斷設備配置是否可信、是否被篡改。這一能力有助於企業在擴大 GPU 部署規模的同時,進一步加強平台安全性與運維透明度。
WeChat
Profile