隨著 Agentic AI 和強化學習進入規模化階段，CPU 正在從單純的"餵資料給 GPU"的角色演變為 AI 工廠的關鍵執行環節。NVIDIA 最新發佈的 Vera CPU 正是為這一新設計點打造的處理器，目標是在 AI 工廠中為智能體工作負載提供更高吞吐量和更低延遲。
Vera CPU 搭載 88 顆 NVIDIA Olympus 核心，配合最高 1.2 TB/s 的 LPDDR5X 內存頻寬，專門針對 AI 智能體場景中的沙箱代碼執行、工具調用、資料檢索和編排調度等任務進行優化。這些任務雖然不直接在 GPU 上運行，卻是智能體工作流中不可或缺的串行瓶頸環節。
NVIDIA 表示，隨著智能體變得越來越強大，它們會執行更多步驟、調用更多工具、運行更多檢查，CPU 執行時間在整個請求路徑中不斷累積。這意味著 CPU 已不再是簡單的宿主處理器，而是影響加速器利用率、AI 工廠每瓦和每美元產出的關鍵因素。
與過去十年以"每美元核心數"為指標的雲計算 CPU 不同，Vera CPU 的設計指標是"每美元 Token 數"——即 AI 工廠能產生多少智能輸出。這要求 CPU 既具備高核心數以支援數千併發智能體，又需要強單核性能來保證串行執行步驟不成為瓶頸，同時還要有高能效內存頻寬來避免資料搬運卡死流水線。
在微架構層面，NVIDIA Olympus 核心相比前代 Grace 實現了最高 50% 的 IPC 提升，通過更寬的前端、先進分支預測、深度亂序指令調度以及專用內存預取來維持在重負載下的一致性性能。對於分支密集的智能體代碼和資料處理任務而言，這意味著更短的任務完成時間，從而在相同時間內服務更多請求。
對於 AI 工廠運營者來說，Vera CPU 的意義在於讓加速器不再等待編排、工具執行或資料搬運。在強化學習場景中，這意味著每個訓練窗口可以完成更多評估、產出更多有效資料，幫助模型更快達到更高的品質水平。
WeChat
Profile