Blackwell測試成就顯著：每項均成AI訓練性能新里程碑
NVIDIA的Blackwell平台在首次參與MLPerf Training 4.1行業基準測試中，就在所有工作負載上取得了令人矚目的成績，特別是在大語言模型（LLM）基準測試中，每塊GPU的性能提高了2.2倍，包括Llama 2 70B微調和GPT-3 175B預訓練。這一突破性成果彰顯了Blackwell架構在提高生成式AI訓練性能方面的顯著優勢。
與此同時，NVIDIA提交的Hopper平台測試結果也繼續保持了規模級的記錄。在GPT-3 175B基準測試中，使用11,616塊Hopper GPU，再次刷新了性能記錄。此外，經過持續的軟體開發，Hopper的每塊GPU訓練性能比上次提交該基準測試時提高了1.3倍，展現了NVIDIA在優化AI訓練性能方面的持續努力。
Blackwell平台通過引入新的核函數和更高性能的內存，實現了更高的計算吞吐量和更快的處理速度，使得在更少的GPU上就能運行GPT-3 175B基準測試，同時保持出色的每塊GPU性能。例如，僅使用64塊Blackwell GPU就能運行GPT-3 LLM基準測試，而使用Hopper則需要256塊GPU。
此外，NVIDIA在MLPerf Inference 4.1推理測試中，Blackwell的LLM推理性能也比Hopper高出4倍。這一成果再次證明瞭Blackwell架構在AI推理方面的卓越性能。
NVIDIA的合作夥伴也在最新一輪MLPerf測試中提交了令人印象深刻的測試結果，這體現了NVIDIA與全球系統製造商和雲服務提供商的緊密合作。NVIDIA認為，行業標準的基準測試和基準測試最佳實踐對於AI計算至關重要，有助於企業跟上最新的AI計算創新步伐，並做出明智的平台投資決策。
隨著NVIDIA持續優化加速計算平台，其MLPerf測試結果將不斷提升，為合作夥伴和客戶帶來更強大的算力，並從平台投資中獲得更高的回報。
WeChat
Profile