麗蟾雲AI平台

一、方案背景與核心挑戰

麗蟾科技借助NVIDIA AI Enterprise打造高效AI訓練與推理加速平台Leaper。核心挑戰：傳統AI開發流程中資料準備、模型訓練到推理部署各環節割裂，GPU資源利用率不高，分布式訓練通信效率低下，不同框架之間的相容性差，導致AI專案的開發週期長、成本高。

二、解決方案名稱與核心技術

解決方案名稱：基於NVIDIA AI Enterprise的Leaper AI訓練推理加速平台

核心技術：通過整合NVIDIA NCCL優化通信庫支援大規模GPU集群分布式訓練，解決多節點通信瓶頸。自動混合精度訓練結合Hopper架構FP8精度計算實現更高性能和更低延遲。已全面整合NVIDIA NIM微服務，覆蓋語音AI、RAG、數字生物學、數字人、大語言模型等領域。通過Leaper內的NVIDIA NIM，AI開發者可在幾分鐘內部署預訓練AI模型。

三、行業應用

已在天體物理、生物資訊學等科學研究，醫療圖像分析，能源行業天氣預測，製造業智能質檢，零售電商推薦系統等多個行業驗證。麗蟾科技董事長吳敏華表示，NVIDIA AI Enterprise是一套端到端的完整AI工具套件，通過麗蟾自研的Leaper將NVIDIA最先進的AI能力集成並傳遞給每一位客戶。