
AI-RAN 的核心價值,是讓電信業者在同一套 GPU 加速基礎設施上同時執行無線接取網路(RAN)與 AI 工作負載。依據來源內容,這種做法可把原本以單一 RAN 任務為主的站點,延伸為可承載邊緣推論的運算節點。不過,實際可達成的無線效能、能源效率、AI 收益與資源使用率,仍取決於頻譜配置、無線單元規模、軟體版本、電力成本、AI 需求及營運模型,不能直接套用單一試驗結果。
AI-RAN 要解決什麼問題
生成式 AI、代理型 AI 與實體 AI 的應用,會持續產生需要低延遲、可靠連線與在地資料處理能力的推論流量。來源指出,這些流量可經由前傳、回傳網路傳遞,也可能由公有雲、私有雲或企業應用送入電信網路。傳統以 CPU 或 ASIC 為主的 RAN 系統主要針對 RAN 任務設計,未必適合直接承載額外的 AI 工作負載。
AI-RAN 的路徑是採用 GPU 為基礎的共同運算平台,讓 RAN 與 AI 共用底層資源,並由編排機制依容量與需求配置工作負載。對電信業者而言,評估重點不只是把 AI 放進站點,而是如何在無線服務尖峰時維持 RAN 優先順序,同時把閒置或可調度的算力提供給合適的推論任務。
來源所述的 SoftBank AI-RAN 架構
來源描述 SoftBank 在日本神奈川縣藤澤市完成戶外 5G AI-RAN 現場試驗,採用 NVIDIA 加速硬體與 NVIDIA Aerial 軟體。該方案為軟體定義的 5G vRAN 堆疊,整合 NVIDIA GH200、NVIDIA BlueField-3 與 Spectrum-X,並連接 20 個無線電單元、5G 核心網路及 100 個行動 UE。
- 第一層 RAN 功能採用 NVIDIA Aerial CUDA 加速 RAN 函式庫,用於通道映射、通道估計、調變與前向錯誤更正等工作。
- L2 功能使用 Fujitsu 軟體。
- Red Hat OpenShift 作為容器虛擬化層,使不同類型的應用可在共同 GPU 基礎設施上執行。
- 端到端 AI 與 RAN 編排器依需求及可用容量配置、取消配置或移轉工作負載。
來源亦提到,GH200 可透過 MIG(多執行個體 GPU)把單一 GPU 劃分為具獨立資源的執行個體。這可支援將部分 GPU 或 MIG 配給 AI、其餘配給 RAN;也可採用固定比例配置,例如 60% 給 RAN、40% 給 AI。固定切分較容易預測資源邊界,動態編排則較依賴即時監測、優先權規則與故障回復設計。
適合優先驗證的邊緣情境
來源展示的案例集中在需要 5G 連線、在地推論與快速回應的工作負載。自動駕駛遠端支援案例將車載前方攝影機影像經 5G 傳送至 AI-RAN 伺服器,由多模態 AI 模型進行風險評估並回傳建議操作。工廠案例則彙整影像、音訊與感測器資料,搭配 LLM、VLM、RAG 管線及 NVIDIA NIM 微服務,讓使用者透過對話介面取得知識。
這些情境的共同前提是:資料位置、時延目標、資料治理與模型服務需求必須明確。若應用可容忍較高延遲,或資料必須集中處理,中央雲端仍可能是較合適的選擇。若要主張在地部署可改善隱私、資料主權或回應時間,應以實際資料流、存取控制、保留政策與端到端延遲測試加以驗證。
導入評估的建議路徑
- 界定 RAN 保護目標:先定義尖峰時段的單元數、頻寬、天線配置、可接受的吞吐量、時延與服務品質門檻。
- 選定 AI 工作負載:確認是視覺分析、語音、RAG、機器人推論或其他服務,並量化模型大小、請求量、資料進出與延遲要求。
- 測試資源隔離與編排:驗證 MIG 或其他隔離方式下,AI 工作負載增加時是否影響 RAN 關鍵指標;同時測試資源回收、優先權切換與異常回復。
- 建立完整成本模型:將伺服器、機架、軟體、vRAN、AI 營運成本、站點電力與在地維運納入 TCO,而非只比較硬體採購成本。
- 以試點驗證商業假設:來源中的收入與利潤數字使用特定日本當地成本及 AI 使用率假設。其他市場應以自身電價、站點條件、客戶需求與可計費服務重新建模。
效能與經濟數據應如何解讀
來源稱,在僅執行 RAN 的試驗模式下,每台 GH200 伺服器可於 100MHz 頻寬處理 20 個 5G 單元,理想條件下每單元下行峰值為 1.3Gbps,戶外部署展示 816Mbps 的商用級可用性。來源也提出以 GB200-NVL2 為基礎的 NVIDIA Aerial RAN Computer-1 評估,以及 AI-only、RAN-only 與混合負載下的效能、功耗與五年 TCO 情境。
這些內容可作為架構評估的參考,但不等同於任何網路的保證規格。尤其是每小時 AI 收入、資本支出收入倍數、利潤率與功耗比較,均受模型、利用率、部署規模與成本假設影響。採購或建置前,應查閱具日期的 NVIDIA、SoftBank 及相關軟硬體供應商正式文件,取得完整 SKU/BOM、支援矩陣、授權條件、功耗測試條件與版本相容性資料。
常見問題
AI-RAN 是否代表 RAN 與 AI 一定能完全動態共用 GPU?
不一定。來源描述了以 MIG 劃分 GPU 資源,以及由編排器配置 RAN 與 AI 工作負載的方式,並提及靜態與動態分配模式。實際可動態調度的範圍、切換速度、隔離強度及對 RAN 服務的影響,必須依特定硬體、vRAN 軟體、容器平台與編排策略進行專案測試。
來源中的 AI-RAN 商業效益可以直接用於投資決策嗎?
不可以直接套用。來源明確指出相關 TCO 與新 AI 收入計算採用日本當地電力成本及特定部署假設。投資評估應以自身覆蓋範圍、頻譜與單元設計、用電價格、AI 客戶需求、服務定價、維運成本及合規要求重算,並以試點資料驗證。
結論:AI-RAN 提供了一條將 5G vRAN 與邊緣 AI 推論整合於共同 GPU 基礎設施的技術路徑。來源中的 SoftBank 戶外試驗說明了其架構與應用方向;對電信業者而言,下一步應是以 RAN 優先保護、資源隔離、端到端時延與在地 TCO 為核心,完成可重複驗證的試點。
圍繞「AI-RAN:電信網路整合 RAN 與邊緣 AI 的技術路徑」繼續瞭解 採購與選型問答。
WeChat
Profile