AI 應用正在超越純文本生成，邁向能夠實時感知、搜索和推理圖像、文檔、視訊和語言的多模態系統。StepFun 最新推出的 Step 3.7 Flash 正是面向這一趨勢的企業級視覺語言模型，現已可在 NVIDIA 加速基礎設施上部署使用。
Step 3.7 Flash 是一個 198B 參數的混合專家（MoE）視覺語言模型，每次前向傳播激活約 11B 參數。它針對結合感知、搜索和多步驟推理的智能體工作流進行了優化，原生支援圖像和視訊輸入，提供低、中、高三種可配置推理深度，並擁有 256K 的上下文窗口。
在企業應用方面，Step 3.7 Flash 適用於金融分析、併發編碼智能體以及其他高吞吐多模態使用場景。開發者可以通過 Hugging Face 獲取 StepFun 的 NVFP4 量化版檢查點，利用降低的內存頻寬和儲存需求來提升推理性能。
部署方面，Step 3.7 Flash 支援通過 SGLang、NVIDIA TensorRT-LLM 和 vLLM 等開源框架運行，這些框架已針對 NVIDIA GPU 進行了內核優化。開發者還可以通過 build.nvidia.com 的 GPU 加速端點進行快速原型驗證。
對於生產環境，NVIDIA NIM 提供了容器化推理微服務，將模型與性能調優、標準化 API 和企業級部署靈活性打包在一起。開發者可以在本地、雲端或混合環境中部署，並通過 OpenAI 相容的 API 接口發送推理請求。
此外，Step 3.7 Flash 還可以通過 NVIDIA NeMo 框架進行領域特定資料的微調。結合 NVIDIA Nemotron Parse 的文檔智能管線，開發者可以構建從複雜文檔（如財報、演示文稿和科學論文）中提取結構化資訊的完整多步驟工作流。
WeChat
Profile