在NVIDIA GTC 2026上,AT&T、T-Mobile、Comcast、Spectrum等美國和亞洲領先運營商宣佈,正在構建AI網格——即地理分布且互聯的AI基礎設施,利用其網路覆蓋優勢,在分布式邊緣端提供並變現全新AI服務。
電信公司運營著全球最龐大的基礎設施之一:全球約10萬個分布式網路資料中心(覆蓋區域中心、移動交換局和中心局),其富余電力足以提供超過100億瓦的新增AI能力。
AI網格將現有的空間、電力和連接轉化為地理分布式計算平台,使AI推理更靠近用戶、設備和資料,從而實現最佳響應速度與單Token成本對齊。
一、六大運營商的具體實踐
| 運營商 | AI網格進展 | 應用場景 |
|---|---|---|
| AT&T | 與思科、NVIDIA合作,構建面向IoT的AI網格 | 公共安全:與Linker Vision合作,在邊緣端實現更快檢測、告警與響應,同時確保客戶對敏感資訊的掌控 |
| Comcast | 將全美最大規模低延遲寬帶網路轉化為AI網格 | 對話智能體、互動媒體、GeForce NOW雲遊戲:驗證顯示更高吞吐量、更低每Token成本 |
| Spectrum | 覆蓋5億設備、延遲<10ms的網路,含1000+邊緣資料中心 | 媒體製作:利用嵌入光纖網路中的遠程GPU渲染高分辨率圖形 |
| Akamai | 將Inference Cloud擴展至4400+邊緣節點,部署數千塊RTX Blackwell GPU | 遊戲、媒體、金融、零售:根據請求匹配算力層級,降低Token成本 |
| Indosat Ooredoo Hutchison | 連接主權AI工廠與印尼各地邊緣及AI-RAN站點 | 本地化AI服務:運行印尼語Sahabat-AI平台,服務數千島嶼數億用戶 |
| T-Mobile | 與NVIDIA合作探索基於RTX Blackwell的邊緣AI | 智慧城市、工業、零售:LinkerVision、Serve Robotics等開發者已試點 |
二、三大AI原生服務激活AI網格
1. Personal AI:人類級對話智能體
借助NVIDIA Riva,在AI網格上運行小型語言模型
成果:端到端延遲低於500毫秒,每Token成本降低50%以上
2. Linker Vision:實時視覺AI變革城市管理
在分布式邊緣站點處理數千路攝像頭視訊流
成果:交通事故檢測速度提升10倍,災害響應速度提升15倍,人群異常行為分鐘級告警
3. Decart:實時視訊生成
在網路邊緣運行Lucy模型
成果:網路延遲低於12毫秒,互動視訊流即時適配觀眾,高峰期仍流暢
三、AI網格參考設計與生態系統
NVIDIA發佈了AI網格參考設計,定義在分布式站點部署與編排AI所需的核心組件,包括NVIDIA加速計算、網路與軟體平台。
生態系統合作夥伴:
全棧合作夥伴:思科
基礎設施合作夥伴:HPE
控制平面合作夥伴:Armada、Rafay、Spectro Cloud(實現跨分布式AI基礎設施的工作負載編排)
思科運營商移動業務高級副總裁Masum Mir表示:
「物理AI正加速從集中式智能向網路邊緣的分布式決策轉變。我們與NVIDIA的合作整合了全棧能力——從NVIDIA GPU到思科的網路與移動能力——助力運營商支撐關鍵任務應用,交付實時推理。」
四、核心資料總結
| 指標 | 資料 |
|---|---|
| 全球分布式網路資料中心數量 | 約10萬個 |
| 富余電力可提供的新增AI能力 | 超過100億瓦 |
| Spectrum網路覆蓋設備 | 5億台 |
| Spectrum網路延遲 | 低於10毫秒 |
| Akamai邊緣節點數 | 4,400+ |
| Personal AI端到端延遲 | <500毫秒 |
| Personal AI每Token成本降低 | >50% |
| Linker Vision交通事故檢測速度提升 | 10倍 |
| Linker Vision災害響應速度提升 | 15倍 |
| Decart網路延遲 | <12毫秒 |
五、對企業客戶的啓示
如果您所在的企業涉及物聯網、智慧城市、實時AI應用、雲遊戲、邊緣推理等場景,AI網格提供了新的基礎設施選擇:
更低延遲:推理在邊緣完成,無需回傳中心雲
更低成本:每Token成本顯著下降(Personal AI案例降低50%以上)
地理分布:覆蓋區域中心、移動交換局、中心局
現有資源利用:復用電信網路的空間、電力和連接
已驗證案例:從公共安全到互動媒體,多個生產級應用已運行
電信網路不再僅承載流量,而是成為AI規模化的核心。
AI網格將運營商的分布式網路基礎設施,轉化為統一的智能層,用於運行、擴展並變現AI工作負載。這不僅是基礎設施升級,更是AI交付方式的結構性變革。
WeChat
Profile