在最近的 DC Anti-Conference Live 演示中，NVIDIA 首席資料中心傑出工程師 Wade Vinson 分享了基於 NVIDIA 自 2016 年以來設計、構建和運營 NVIDIA DGX SuperPOD 多兆瓦級資料中心所取得的工作成果的見解。
NVIDIA 致力於使資料中心更易於訪問、更節約資源、更節能、更高效地開展業務，並可擴展到全球任何規模和地點。資料中心向 AI 資料中心的演進不僅是一種趨勢，也是 AI 工作流日益增長的計算需求所驅動的必然趨勢。
GPU 革命
這一轉型的核心在於 GPU 的強大功能。自 2012 年引入資料中心以來，GPU 實現了並行處理，並顯著縮短了密集型任務所需的時間，從而徹底改變了整個行業。這一轉變帶來了顯著的改進，與基於 CPU 的傳統系統相比，每瓦性能提高了 30 倍，每美元性能提高了 60 倍。
GPU 的影響不僅限於性能增強；它們正在重塑資料中心運營的基礎，為更高效、更經濟高效的 AI 驅動型基礎設施鋪平道路。
能效：新領域
推動可持續計算 發展是推動資料中心向 AI 工廠轉型的關鍵因素。最近的進展導致訓練和推斷大型語言模型的能源效率大幅提高。曾經需要 40 吉瓦時的電力現在只需要 3 吉瓦時，這標誌著效率的顯著提高。
隨著大型語言模型構建器的數量不斷增長，這一進展至關重要。此外，效率還擴展到日常應用程序，典型的 ChatGPT 查詢每小時僅消耗 0.4 瓦。
隨著資料中心的發展，對每瓦特性能和每美元性能的關注將繼續推動整個平台的創新，包括 GPU、CPU、互連、電源和冷卻系統，最終打造出效率超高的 AI 工廠。
WeChat
Profile