企業級 AI 軟體套件 – NVIDIA AI Enterprise
NVIDIA AI Enterprise 是一套完整的企業級 AI 軟體套件，專為簡化和加速 AI 開發與部署設計，幫助用戶在多雲環境、資料中心和邊緣設備上高效運行人工智慧工作負載。它集成了 NVIDIA 的多種技術，包括 CUDA® 並行計算架構、cuDNN 深度學習庫、TensorRT 推理加速引擎以及 NVIDIA Triton 推理伺服器等，支援主流的 AI 框架如 TensorFlow、PyTorch、MXNet 等。
麗蟾雲 Leaper 集成 NVIDIA 軟體堆棧，提供智算雲解決方案
Leaper 是麗蟾科技自主研發的資源調度管理平台，可對 GPU 計算資源進行統一管理和調度，提供高性能的算力支撐。通過與 NVIDIA AI Enterprise 的結合，Leaper 實現了以下關鍵能力：
分布式訓練支援與資源調度：支援在大規模 GPU 集群環境下進行分布式訓練，結合 NVIDIA NCCL 優化通信庫，確保大規模分布式訓練的計算與通信效率。
自動混合精度訓練與 FP8 優化：提供自動混合精度訓練（AMP）功能，結合 NVIDIA Hopper 架構的 FP8 精度計算能力，在推理方向提供更高的推理性能、更低的延時響應以及更高效的顯存使用效率。
預訓練模型與加速庫集成：集成 NVIDIA 豐富的預訓練模型、AI 算法框架與加速庫（如 TensorRT、cuDNN 和 PyTorch），使用戶能夠直接在 Leaper 上快速部署模型，加速推理與訓練任務。
實時監控與動態調度：用戶可實時監控訓練進展，並根據需求動態調整資源調度，確保高效利用 GPU 集群，避免資源浪費。
資料預處理加速：結合 RAPIDS 框架，在 GPU 上加速資料預處理和特徵工程環節，縮短訓練前期的時間成本。
為開發者打造快速、安全、高性能的 AI 推理微服務
NVIDIA NIM 是 NVIDIA AI Enterprise 的一部分，是一套易於使用的預構建容器工具，旨在幫助企業加速生成式 AI 的部署。Leaper 已全面整合 NVIDIA NIM，覆蓋語音 AI、資料檢索（RAG）、數字生物學、數字人、大語言模型 (LLM) 等領域。通過 Leaper 內的 NVIDIA NIM，AI 開發者可以：
快速部署 AI 模型：利用預訓練且經過優化的 AI 模型，在幾分鐘內跨各種環境部署 AI 應用程序，顯著提高生產力
簡化 AI 應用創建：集成眾多跨領域的專用微服務，極大地簡化創建複雜 AI 應用的過程
跨領域集成：可結合語音識別和大語言模型，創建能夠提供個性化客戶服務的數字人
加速業務轉型：將預訓練模型快速集成到現有工作流程中，加速業務運營的數字化轉型
為企業與科研機構提供定制化的專業解決方案
麗蟾科技通過整合 Leaper 與 NVIDIA AI Enterprise，為多個行業提供了強大的 AI 開發與推理加速支援：
科學研究：結合 RAPIDS 開源軟體庫，提供 GPU 加速的資料科學工作流，更快地處理大規模資料集，應用於天體物理、化學模擬、生物資訊學等領域
醫療領域：為醫療機構提供高效的 AI 模型訓練與推理支援，快速訓練和部署 AI 模型，提高疾病診斷的準確性與效率
能源行業：利用 GPU 加速天氣預測模型的訓練與推理，優化能源分配與生產
製造業：快速部署基於 NVIDIA AI Enterprise 的智能檢測系統，實現對產品品質的實時監控和分析
零售與電子商務：快速構建並部署基於 AI 的推薦引擎，為客戶提供個性化的購物體驗
上海麗蟾科技有限公司董事長吳敏華表示：「NVIDIA AI Enterprise 是一套端到端的完整的 AI 工具套件，在服務客戶的過程中，我們發現該套件非常適合運行在雲的環境中，通過麗蟾自研的 Leaper 雲平台，將 NVIDIA 最先進的 AI 能力集成並傳遞給每一位客戶。」
麗蟾科技通過 Leaper 資源管理平台集成 NVIDIA AI Enterprise，為企業和科研機構提供了一套高效、靈活的 AI 訓練與推理加速解決方案。隨著 AI 技術的不斷發展，麗蟾科技將繼續通過這一集成平台推動更多行業的技術進步與應用落地。
WeChat
Profile