AI 正在以新的方式改變行業、企業和消費者體驗。生成式 AI 模型正在轉向推理， 代理 AI 正在實現新的成果導向型工作流，而 物理 AI 則使攝像頭、機器人、無人機和汽車等終端能夠實時做出決策並進行交互。
所有這些用例的共同點是，需要普遍、可靠、安全和超快的連接。
電信網路必須為這種新型 AI 流量做好準備，此類流量可以直接通過前向回傳無線接入網，也可以從公有雲或私有雲作為由企業應用生成的完全獨立的 AI 推理流量進行回傳。
本地無線基礎設施提供了處理 AI 推理的理想場所。這是一種新的電信網路方法，即 AI-RAN 。
基於傳統 CPU 或 ASIC 的 RAN 系統專為 RAN 使用而設計，目前無法處理 AI 流量。AI-RAN 支援基於 GPU 的共同基礎設施，可同時運行無線和 AI 工作負載，從而將網路從單一用途的基礎設施轉變為多用途的基礎設施，並將站點從成本中心轉變為收入來源。
通過對合適技術的戰略投資，電信公司可以飛躍發展成為 AI 電網，促進各行各業、消費者和企業中 AI 的創建、分發和使用。這一時刻為電信公司帶來了巨大的機會，可以通過重新利用其中央和分布式基礎設施來構建用於 AI 訓練（創建）和 AI 推理（分發）的網路。
SoftBank 和 NVIDIA 快速推進 AI-RAN 商業化
SoftBank 已將 AI-RAN 願景變為現實，在日本神奈川縣藤沢市成功進行了 戶外野外試驗 ，並以 NVIDIA 加速硬體和 NVIDIA Aerial 軟體為技術基礎。
這一成就標誌著 AI-RAN 商業化向前邁出了多步，並為行業對技術可行性、性能和貨幣化的要求提供了真實的證據：
全球首個戶外 5G AI-RAN 現場試驗，在 NVIDIA 加速計算平台上運行。這是一種端到端解決方案，基於與 5G 核心集成的全棧虛擬 5G RAN 軟體。
實現電信級虛擬 RAN 性能。
實現 AI 和 RAN 多租戶和編排。
與現有基準相比，驗證了能效和經濟效益。
一種新的解決方案，用於解鎖集成在人工智慧無線接入網路（AI-RAN）基礎設施上的人工智慧市場。
展示了在 AI-RAN 網路上運行的真實 AI 應用。
最重要的是，SoftBank 的目標是在 2026 年商用發佈自己的 AI-RAN 產品，以便在全球部署。
為了幫助其他移動網路運營商立即開始其 AI-RAN 之旅，SoftBank 還計劃提供一個參考套件，其中包括快速輕鬆地試用 AI-RAN 所需的硬體和軟體元素。
端到端 AI-RAN 解決方案和現場結果
SoftBank 通過集成 NVIDIA 和生態系統合作夥伴的硬體和軟體組件，並對其進行強化以滿足電信級要求，開發了自己的 AI-RAN 解決方案。該解決方案共同實現了 100% 軟體定義的完整 5G vRAN 堆棧，在 NVIDIA GH200（CPU+GPU）、NVIDIA Bluefield-3（NIC/DPU）和 Spectrum-X 上運行，用於前傳和回傳網路。它集成了 20 個無線電單元和一個 5G 核心網路，並連接 100 個移動 UE。
核心軟體堆棧包括以下組件：
SoftBank 使用 NVIDIA Aerial CUDA 加速的 RAN 庫開發和優化了 5G RAN 第一層功能，例如信道映射、信道估計、調制和前向糾錯。
適用於 L2 函數的 Fujitsu 軟體
Red Hat 的 OpenShift 容器平台 (OCP) 作為容器虛擬化層，使不同類型的應用程序能夠在同一底層 GPU 計算基礎設施上運行。
軟銀開發的 E2E AI 和 RAN 編排器，可根據需求和可用容量無縫地提供 RAN 和 AI 工作負載
底層硬體是 NVIDIA GH200 Grace Hopper 超級芯片，可用於從分布式到集中式 RAN 場景的各種配置。此實現使用單個機架中的多個 GH200 伺服器，同時為聚合 RAN 場景中的人工智慧和 RAN 工作負載提供服務。這相當於部署多個傳統 RAN 基站。
在此試點中，當在僅使用 RAN 的模式下使用時，每個 GH200 伺服器能夠使用 100MHz 頻寬處理 20 個 5G 單元。在理想條件下，每個單元實現了 1.3Gbps 的峰值下行鏈結性能，並在戶外部署中展示了 816Mbps 的商用級可用性。
實現 AI-RAN 多租戶
AI-RAN 技術的首要原則之一是能夠同時運行 RAN 和 AI 工作負載，而不會損害運營商級別的性能。這種多租戶可以是時間也可以是空間：根據一天中的時間或計算百分比來劃分資源。這也意味著需要一個編排器，能夠根據可用容量無縫地調配、取消調配或轉移工作負載。
在富士川市的試驗中，在 RAN 和 AI 工作負載之間進行靜態資源分配的基礎上，GH200 成功地演示了併發的 AI 和 RAN 處理（圖 1）。
每台 NVIDIA GH200 伺服器均由多個 MIG（多實例 GPU）組成，可將單個 GPU 劃分為多個獨立的 GPU 實例。每個實例都有自己的專用資源，如內存、緩存和計算核心，並且可以獨立運行。
SoftBank 編排器可以智能地分配整個 GPU 或 GPU 內的一些 MIG 來運行 AI，一些用於運行 RAN 工作負載，並在需要時動態切換。此外，還可以為 RAN 和 AI 靜態分配一定比例的計算，例如，60% 用於 RAN，40% 用於 AI，而不是基於需求的分配。
目標是最大限度地提高容量利用率。借助 AI-RAN，電信公司可以實現近 100％的利用率，而典型的僅使用 RAN 的網路的利用率僅為 33％。得益於動態編排和優先級策略，在滿足 RAN 負載峰值需求的同時，利用率最高可提升 3 倍。
打造 AI-RAN 市場
分布式 AI-RAN 基礎設施現已具備新的 AI 計算能力，因此出現了如何將 AI 需求引入這種 AI 計算供應的問題。
為瞭解決這一問題，軟銀使用了由 NVIDIA AI Enterprise 提供支援的無伺服器 API，在 AI-RAN 上部署和管理 AI 工作負載，具有安全性、可擴展性和可靠性。NVIDIA AI Enterprise 無伺服器 API 在 AI-RAN 基礎設施上托管，並與軟銀 E2E AI-RAN 編排器集成，可連接到運行相同 API 的任何公有雲或私有雲，在計算資源可用時，將外部 AI 推理作業發送到 AI-RAN 伺服器（圖 2）。
該解決方案支援 AI 市場，幫助軟銀集團提供本地化、低延遲、安全的推理服務。它還展示了 AI-RAN 在幫助電信公司成為 AI 分布網（尤其是對於外部 AI 推理任務而言）方面的重要性，並開闢了新的收入機會。
展示 AI-RAN 應用
在這次戶外試驗中，展示了軟銀開發的新型邊緣 AI 應用，通過實時 AI-RAN 網路演示。
通過 5G 遠程支援自動駕駛汽車
工廠多模態 AI 應用
機器人開發應用
通過 5G 遠程支援自動駕駛汽車
社會實施自動駕駛的關鍵需求是車輛安全性和降低運營成本。
在富士川市的試驗中，SoftBank 演示了一輛自動駕駛汽車，該汽車使用 5G 將其前攝像頭視訊轉發到托管在 AI-RAN 伺服器上的基於 AI 的遠程支援服務。多模態 AI 模型分析視訊流，進行風險評估，並使用 5G 文本向自動駕駛汽車發送建議操作。
這也是可解釋 AI 的一個示例，因為可以通過摘要文本和日誌記錄來監控和解釋自動駕駛汽車的所有操作，以獲得遠程支援。
工廠多模態 AI 應用
在此用例中，多模態輸入（包括視訊、音頻和傳感器資料）使用 5G 流式傳輸到 AI-RAN 伺服器。多個 LLMs、VLMs、檢索增強生成（RAG）管道和 NVIDIA NIM 微服務托管在 AI-RAN 伺服器上，用於合併這些輸入，並通過聊天界面讓使用 5G 的用戶訪問知識。
這非常適合工廠監控、施工現場檢查以及類似的複雜室內外環境。該用例展示了邊緣 AI-RAN 如何通過保持資料訪問和分析的本地、安全和隱私性（這是大多數企業的強制要求）來實現本地資料主權。
機器人開發應用
SoftBank 展示了邊緣 AI 推理對通過 5G 連接的機器人的優勢。 一個機器人經過訓練，可以根據語音和動作跟蹤人類。
該演示將機器人在本地 AI-RAN 伺服器上托管 AI 推理時的響應時間與在中央雲上托管時的響應時間進行了比較，差異顯而易見。基於邊緣的推理機器人狗可即時跟蹤人類的動作，而基於雲的推理機器人則難以跟上這一步伐。
使用 Aerial RAN Computer-1 加速 AI-RAN 商業案例
雖然業界已經接受了 AI-RAN 的願景，但 GPU 支援的基礎設施的能效和經濟效益仍然是關鍵要求，特別是與傳統的 CPU 和 ASIC 的 RAN 系統相比的情況。
通過 AI-RAN 的現場試驗，SoftBank 和 NVIDIA 不僅證明瞭支援 GPU 的 RAN 系統的可行性和高性能，而且在能效和經濟盈利能力方面也有顯著提高。
NVIDIA 最近宣佈推出基於下一代 NVIDIA Grace Blackwell 超級芯片的 Aerial RAN Computer-1 ，作為推薦的 AI-RAN 部署平台。我們的目標是將 SoftBank 5G vRAN 軟體從 NVIDIA GH200 遷移到基於 GB200-NVL2 的 NVIDIA Aerial RAN Computer-1，這樣的轉變更容易，因為代碼已經支援 CUDA。
借助 GB200-NVL2 ，AI-RAN 的可用計算能力將增加 2 倍。與之前的 H100 GPU 系統相比，Llama-3 的 AI 處理能力將提高 5 倍，資料處理的 AI 處理能力將提高 18 倍，向量資料庫搜索的 AI 處理能力將提高 9 倍。
在本次評估中，我們將基於 GB200 NVL2 的目標部署平台 Aerial RAN Computer-1 與新一代 x86 和出色的自定義 RAN 產品基準進行了比較，並驗證了以下結果：
加速 AI-RAN 提供最佳的 AI 性能
加速 AI-RAN 是可持續的 RAN
加速的 AI-RAN 利潤豐厚
加速 AI-RAN 提供最佳的 AI 性
在 100% AI-only 模式下，每台 GB200-NVL2 伺服器每秒生成 25000 個令牌，相當於每台伺服器每小時 20 美元的可用可盈利計算量，即每台伺服器每月 15,000 美元。
請記住，目前無線服務的每個用戶平均收入（ARPU）在 5–50 美元/月之間，具體取決於國家/地區，因此 AI-RAN 開闢了價值數十億美元的新 AI 收入機會，比僅使用 RAN 的系統的收入高出幾個數量級。
使用的令牌 AI 工作負載是 Llama-3-70B FP4，這表明 AI-RAN 已經能夠運行世界上最先進的 LLM 模型。
加速 AI-RAN 是可持續的 RAN
在 100% 僅 RAN 模式下，GB200-NVL2 伺服器功耗性能（瓦特/千兆位每秒）表現出以下優勢：
與當今最好的定制 RAN-only 系統相比，功耗降低 40%
與基於 x86 的 vRAN 相比，功耗降低 60%
分布式 RAN 和集中式 RAN 配置的效率相似。
作為偶數比較，它假設所有平台上的 100 MHz 4T4R 單元數量和 100% RAN 工作負載相同。
加速的 AI-RAN 利潤豐厚
在本次評估中，我們使用了覆蓋東京一個地區的 600 個單元作為所比較的三個平台中每個平台的 RAN 部署的通用基準。然後，我們研究了 AI 和 RAN 工作負載分布的多個場景，從僅使用 RAN 到使用大量 RAN 或使用大量 AI 的場景不等。
在 AI 密集型場景 (圖 4) 中，我們使用了一種三分之一的 RAN 和三分之二的 AI 工作負載分布：
對於基於 NVIDIA GB200 NVL2 的加速 AI-RAN 基礎設施，每投入 1 美元的資本支出（CapEx），電信公司可在 5 年內創造 5 倍的收入。
從淨利潤的角度來看，考慮到所有資本支出和運營支出成本，總體投資可提供 219% 的利潤空間。這當然是 SoftBank 特有的，因為它使用了當地國家成本假設。
33%的 AI 和 67%的 RAN 67%的 AI 和 33%的 RAN 每 1 美元資本支出的收入 2 倍 5 倍 利潤百分比基於 TCO 33% 219 歐元
在 RAN 密集型場景中，我們使用了三分之二的 RAN 和三分之一的 AI 工作負載分配，併發現 NVIDIA 加速的 AI-RAN 按資本支出除以的收入是 2 倍，使用 SoftBank 本地成本假設，5 年內利潤率為 33%。
在僅使用 RAN 的情況下，NVIDIA Aerial RAN Computer-1 比僅使用 RAN 的定制解決方案更具成本效益，這凸顯了使用加速計算進行無線電信號處理的優勢。
從這些場景中可以明顯看出，與僅使用 RAN 的解決方案相比，AI-RAN 在 AI 密集型和 RAN 密集型模式下都具有很高的盈利能力。事實上，AI-RAN 將傳統的 RAN 從成本中心轉變為盈利中心。
每台伺服器的盈利能力隨著 AI 使用率的提高而提高。即使在僅使用 RAN 的情況下，AI-RAN 基礎設施也比僅使用 RAN 的自定義選項更具成本效益。
用於計算收入和 TCO 的主要假設包括：
每個平台的相應平台、伺服器和機架數量使用在相同頻率 4T4R 上部署 600 個單元的通用基準計算得出。
總擁有成本（TCO）計算週期為 5 年，包括硬體、軟體、vRAN 和 AI 的運營成本。
對於新的 AI 收入計算，我們使用了基於 GB200 NVL2 AI 性能基準的 20 美元/小時/伺服器。
運營支出成本基於日本當地的電力成本，不可在全球範圍內擴展。
利潤**(新的 AI 收入 – TCO)/TCO
這種對 AI 收入提升、能效和盈利能力的驗證讓我們對這項技術的可行性、性能和經濟效益毫不猶豫。
展望未來，每一代 NVIDIA 超級芯片 (例如 Vera Rubin) 帶來的指數級收益將使這些收益進一步成倍增加，從而實現期待已久的電信網路業務轉型。
展望未來
SoftBank 和 NVIDIA 將繼續合作 ，實現 AI-RAN 的商業化，並將新的應用帶入生活。下一階段的合作將包括研究 AI-for-RAN 以提高頻譜效率，以及研究 NVIDIA Aerial Omniverse 數字孿生，以在數字世界中模擬準確的物理網路，從而進行微調和測試。
NVIDIA AI Aerial 為全球運營商和生態系統合作夥伴利用加速計算和軟體定義的 RAN+AI 的強大功能轉變 5G 和 6G 網路奠定了基礎。現在，您可以使用 NVIDIA Aerial RAN Computer-1 和 AI Aerial 軟體庫開發自己的 AI-RAN 實現。
NVIDIA AI Enterprise 還在幫助創建可托管在 AI-RAN 上的新的電信 AI 應用，這一點從本次試用中可以明顯看出，其中使用了許多 NVIDIA 軟體工具包。這包括用於生成式 AI 的 NIM 微服務、RAG、VLMs、用於機器人訓練的 NVIDIA Isaac、NVIDIA NeMo、RAPIDS、用於推理的 NVIDIA Triton，以及用於 AI 代理的無伺服器 API。
電信行業正處於成為 AI 服務提供商的巨大機遇的前沿。AI-RAN 可以利用加速計算作為無線網路的新基礎，為全球電信公司開啓這種新的復興。
此公告標誌著 AI-RAN 技術的突破性時刻，證明瞭其可行性、電信級性能、卓越的能效和經濟價值。在 NVIDIA 加速的 AI-RAN 基礎設施上，每投入 1 美元的資本性支出就會產生 5 倍的收入，同時支援 6G。
AI 盈利之旅可以立即開始。
WeChat
Profile