NVIDIA與微軟聯手：在Windows PC上構建個人AI智能體

AI智能體正在改變人們與PC的交互方式。創作者、開發者和AI愛好者已經在日常工作中廣泛使用這些智能體來輔助寫作、編程、資料分析和內容創作。NVIDIA與微軟合作，在Windows PC上推出了一系列新工具，使開發者能夠構建在本地運行的AI智能體應用。這一合作的核心目標是讓智能體充分利用PC端GPU的算力，在保護用戶資料隱私的同時提供低延遲的AI體驗。

這套方案基於NVIDIA RTX GPU的本地推理能力。通過NVIDIA NIM（NVIDIA Inference Microservice），開發者可以在Windows PC上本地部署經過優化的AI模型，涵蓋大語言模型、視覺模型和多模態模型。NIM利用TensorRT-LLM和TensorRT等優化引擎，在RTX GPU上實現高效的本地推理，響應延遲低至毫秒級。結合Microsoft的Windows Copilot Runtime和AI框架，開發者可以構建能夠訪問本地文件、調用Windows API和連接企業資料源的智能體應用。

在實際應用場景中，個人AI智能體可以執行文檔摘要、郵件撰寫、代碼生成、圖像編輯和資料分析等任務，所有處理均在本地完成，資料不會離開用戶的PC。對於需要聯網搜索或訪問企業系統的場景，智能體可以通過MCP（Model Context Protocol）等標準協議安全地連接外部服務。NVIDIA和微軟的這一合作方案，使AI智能體從雲端AI助手向真正的個人AI生產力工具邁出了關鍵一步，讓每個Windows用戶都能擁有專屬的本地AI助手。