2025.02.05
FP8 大型語言模型訓練:效能優勢、除錯方法與評估重點
越來越多的技術團隊開始使用 FP8 進行大模型訓練,這主要因為 FP8 有很多技術優勢,比如在新一代的 GPU 上,FP8 相對於 BF16 對矩陣乘算子這樣的計算密集型算子
2025.02.05
越來越多的技術團隊開始使用 FP8 進行大模型訓練,這主要因為 FP8 有很多技術優勢,比如在新一代的 GPU 上,FP8 相對於 BF16 對矩陣乘算子這樣的計算密集型算子
2025.01.22
隨著模型規模的擴大以及使用更多資料進行訓練,它們的能力也隨之提升,實用性也隨之提升。
2025.01.22
機密和自主的 AI 是一種新的 AI 開發、訓練和推理方法,其中用戶的資料是去中心化的、私有的,並由用戶自己控制。本文將探討如何通過使用區塊鏈技術的去中心化來擴展 Confidential Compu
2025.01.22
華盛頓大學大氣科學系教授 Dale Durran 介紹了一種突破性的深度學習模型,該模型結合了大氣和海洋資料來設定新的氣候和天氣預報準確性標準。
2025.01.21
NVIDIA DOCA 通過為開發者提供全面的軟體框架來利用硬體加速來增強 NVIDIA 網路平台的功能,從而提高性能、安全性和效率。
2025.01.21
隨著 生成式 AI 重塑各行各業,對可立即部署的高性能推理的需求也在不斷增長。 NVIDIA NIM 為 AI 模型推理提供生產就緒型微服務容器,不斷提高企業級生成式 AI 性能。
適合快速瀏覽同一主題下的資訊更新,幫助團隊集中跟蹤技術趨勢、行業動態和產品資訊。
建議優先關注發佈時間、主題相關性、涉及技術方向以及是否與當前專案、品牌或場景決策直接相關。
可以先閱讀全文,再結合當前專案階段判斷是否需要繼續查看產品頁、方案頁或直接發起諮詢溝通。
更適合關注 AI 基礎設施、企業網絡、數據中心互連和行業變化的技術、採購、架構與專案團隊參考。