AEC 檢索增強生成技術指南 NEWS DETAIL

大語言模型 (LLMs) 正在迅速改變業務格局，為自然語言處理 (NLP)、內容生成和資料分析提供新功能。這些 AI 驅動的工具改善了公司的運營方式，從簡化客戶服務到增強決策流程。

然而，儘管 LLM 擁有令人印象深刻的一般知識，但其準確性、最新資訊和特定領域的知識卻常常捉見肘。這可能會導致建築、施工和工程 (AEC) 等專業領域出現潛在的錯誤資訊和過度簡化，而準確的最新資訊對於做出明智決策和確保遵守行業法規至關重要。

想象一下，一個由建築師和工程師組成的設計團隊會使用 LLM 提出山中房屋的構思。當被問及是否採用適合當地氣候的可持續建築技術時，LLM 可能會提供有關使用太陽能板和綠色屋頂的通用回答，而無需考慮高海拔環境的特定挑戰，例如極端溫度波動和潛在的雪載。在問題更嚴重的情況下，LLM 可能會產生幻覺，並建議使用「太陽能融雪板」— — 這項技術聽起來很創新，但根本不存在。

此示例顯示了 LLM 的常見問題。他們擁有豐富的知識，但通常不具備特定任務所需的最新資訊。這一限制源於一些內在挑戰。具體來說，LLM 根據特定截止日期之前的可用資料進行訓練，並且無法訪問專有或實時業務資料。LLM 有時還會曲解查詢背後的上下文或意圖，從而導致不相關或模稜兩可的響應。

為瞭解決這些限制，公司通常有三種選擇：

重新訓練整個模型： 這涉及在包含特定領域資訊的資料集上完全重新訓練 LLM 。然而，此過程需要大量資源，需要大量資料、強大的計算能力和大量的時間投資，因此對大多數組織來說都不切實際。

微調模型： 這種方法通過在較小的專業資料集上進一步訓練預訓練模型，使其適應特定領域。微調雖然不如完全重新訓練密集，但仍需要大量的計算資源和專業知識。它可以有效，但仍可能難以處理非常具體或快速變化的資訊。

使用檢索增強生成 (RAG)： RAG 是針對 LLM 限制的高效靈活的解決方案，它將 LLM 的廣泛功能與檢索和整合精選知識庫中特定的最新資訊的能力相結合。這種方法使公司能夠利用 LLM 的強大功能，同時確保特定領域應用的準確性和相關性。

對於希望使用高級語言模型，同時降低風險和限制的企業，RAG 為其指明瞭前進方向。

本文探討了為甚麼 RAG 代表 AEC 行業的變革性進步，以及為甚麼領先的組織選擇開發 RAG 系統來提高其業務價值。

甚麼是檢索增強型生成？

RAG 是一種先進的 AI 技術，將語言模型的功能與實時資訊檢索相結合，使系統能夠訪問和使用來自定義來源的特定上下文相關資料，以提高生成的響應的準確性和相關性。這是一種增強企業領域 AI 能力的強大方法。

要使 LLM 真正解決業務問題，它們需要與每個組織擁有的獨特知識體系相協調。借助 RAG，AI 系統能夠在生成響應之前訪問和檢索來自定義來源的實時資訊，例如公司內部知識系統、資料儲存，甚至是其他 SaaS 應用 (例如 CRM 和 ERP)。

這意味著，例如，當員工提出問題或尋求資訊時，使用 RAG 的 AI 助手會理解上下文：公司的歷史專案資料、當前專案詳細資訊、供應鏈資訊和其他專有組織知識，從而提供量身定制的準確響應。

考慮 AECOM BidAI 計劃，該計劃利用 LLM 和 RAG 來改進其投標撰寫流程。經過通用知識訓練的 LLM 可能會廣泛解釋投標撰寫策略，但這不足以滿足 AECOM 為大型施工專案制定複雜、量身定制的計劃的特定需求。

圖 1、圖片由 AECOM 提供，展示了 BidAI，這是一種支援開發草稿投標的生成式 AI 工具

這正是 RAG 變得至關重要的地方。它使 BidAI 等 AI 系統能夠從定義的來源訪問和檢索實時資訊，包括 AECOM 的龐大資源庫，其中包含 30000 多個索引構件，例如過去的提案、專案資料表和簡歷。當 AECOM 員工需要起草投標時，使用 RAG 的 AI 助手能夠理解上下文：公司的歷史專案資料、當前專案詳細資訊以及其他專有組織知識。

借助此系統，該系統可以提供量身定制、準確且有根據的協助，將投標起草時間從 10 天顯著縮短到僅 2 天。通過將 GPT 基礎模型與 RAG 向量搜索相結合，AECOM 創建了一個強大的知識平台，可普及組織專業知識，並顯著提高投標和其他業務領域的效率。

通過彌合龐大的通用 AI 模型與特定的最新組織知識之間的差距，RAG 將自己定位為在商業環境中實際應用大型語言模型(LLMs) 的關鍵推動者。

在 AEC 行業中利用 RAG

將 RAG 與運營資料集成可以顯著增強生成式 AI 的潛力，從而在整個企業應用中提供實時、高度個性化且上下文相關的體驗。

基於 RAG 的 LLM 解決方案通過提供可用於設計文檔檢索、合規性檢查、專案管理、成本估算、知識管理和客戶支援的智能工作場所助手，正在改變 AEC 行業。這些基於 RAG 的 AI 工具具有以下顯著優勢：

提高準確性： 通過以當前行業特定資訊為基礎的響應，建築師和工程師能夠高效訪問基本的專案規格，從而減少錯誤和幻境。

專業知識訪問：在安全的地方使用自己的資料，為您提供符合公司實踐和規則的個性化答案。分析過去的專案，以獲得定制的設計建議和切實可行的見解，同時保護敏感資訊並確保僅限授權用戶訪問。

監管合規性 ：確保遵守各種標準 (包括市政建築規範、行業安全指南和環境法規)，並生成定制的客戶提案以保持公司競爭力。

可追蹤性和效率： 用戶可以將 AI 生成的內容追溯到其來源，從而增強信任和問責。通過專注於相關資料，RAG 減少了對大量模型重新訓練的需求，從而節省時間和資源。

RAG 的核心組件

實施 RAG 需要仔細考慮資料管理、模型選擇以及與現有工作流程的集成。該工作流由多個協同工作的關鍵組件組成，可增強 LLM 的功能。這些組件可大致分為資料提取、資料檢索、資料生成和持續改進流程。

資料提取

第一階段是資料提取，收集來自資料庫、文檔或雲儲存等各種來源的原始資料，並準備進行處理。此步驟對於確保系統能夠訪問全面和相關的資訊至關重要。 RAPIDS 可以通過提供 GPU 加速的資料預處理功能來加速這一階段，確保高效提取大量資料。

嵌入生成

接下來是嵌入生成階段，提取的資料將轉換為向量嵌入，以捕獲文本的語義含義。在這裡，嵌入模型的工作原理就像翻譯一樣，將專案文檔、建築代碼或設計規格中的文本塊轉換為名為「向量嵌入」的特殊格式。這些嵌入捕獲文本的含義和上下文，而不僅僅是確切的詞語。 

例如，嵌入模型可以理解「steel beam」和「I-beam」是相關概念，即使它們不共享相同的單詞。 NVIDIA NeMo Retriever 是一系列用於資訊檢索的微服務，可提供專為問答和資訊檢索等任務而設計的強大嵌入模型。這些嵌入對於實現準確的上下文感知資訊檢索至關重要。

圖 2、通過 LLM 處理多模態輸入，增強 RAG 系統輸出

儲存和檢索嵌入

第三階段是使用向量資料庫儲存和檢索這些嵌入，並將其視為智能知識庫。

生成響應

最後，響應生成階段需要使用 LLM 根據從向量資料庫檢索到的資訊生成答案。NVIDIA GPU 可加速 LLM 的推理過程，從而更快、更高效地實時生成響應。為了進一步優化性能， NVIDIA Triton 推理伺服器 管理這些模型的部署，確保它們以最高效率運行。Triton 在處理推理請求和模型設置時，能夠降低延遲並最大限度地利用資源。這使其成為實時 AI 應用的理想之選。

示例用例

要理解這些概念，可以考慮一位需要確保遵守與消防安全相關的當地建築規範的建築師。建築師詢問高層建築的消防安全要求。在 RAG 工作流程的第一步中，建築師的問題由嵌入模型處理。此模型將問題轉換為向量嵌入，並捕獲其語義含義。該模型理解，這個問題與消防安全要求和高層建築有關。

接下來，使用問題的向量嵌入來搜索向量資料庫，該資料庫包含各種文檔的嵌入，包括當地建築規範、設計指南和過去的專案文檔。NVIDIA RTX GPUs 在加速搜索過程中發揮著至關重要的作用，使系統能夠快速找到與火災安全和高層建築相關的最相關文檔。

檢索相關文檔後，系統會提取有關消防安全要求的關鍵資訊。其中可能包括特定法規、合規性檢查清單以及過去遵守這些標準的專案示例。然後，系統會進入響應生成階段，在此階段，LLM 會合成檢索到的資訊，為建築師的查詢創建全面的答案，包括必須遵循的任何特定代碼或標準。

構建您自己的 RAG 工作流

AEC 公司可以使用 NVIDIA ChatRTX 開始使用 RAG。此演示應用可作為一種簡便的實驗工具，供個人用戶使用自己的內容 (如文檔、筆記和圖像) 個性化 GPT 語言模型 (LLM)，以創建本地運行的聊天機器人或虛擬助理，從而感知上下文。用戶可以快速檢索有關設計先例、建築法規要求和專案更新的資訊，同時確保敏感資訊在本地 RTX PC 或工作站上保持安全。 

NVIDIA AI Workbench 提供了一個強大的環境，可幫助開發者和資料科學家更好地控制和定制複雜的 AI 應用，並與之進行協作，例如 AI Workbench Hybrid RAG 專案 。開發者可以與從設計文檔到專案規格的各種文檔進行交流，從而創建可增強資訊檢索和決策制定的連貫一致的系統。此平台的靈活性允許在各種環境 (無論是本地工作站、伺服器還是雲端) 中進行部署，從而確保解決方案能夠擴展並適應可用的基礎設施。

圖 5、使用 NVIDIA AI Workbench 的 RAG 聊天機器人

雖然 AI Workbench 提供全面的開發環境，但 NVIDIA 還推出了 NVIDIA NIM 來簡化 AI 模型的部署。NIM 微服務將經過優化的推理引擎、行業標準 APIs 以及對 AI 模型的支援打包到容器中，以便輕鬆部署。NIM 對 RAG 部署特別有益，因為它們集成了 NVIDIA NeMo Retriever 微服務，可優化 RAG 應用的資料檢索。

NVIDIA AI 藍圖 為開發者在創建使用一個或多個 AI 代理的 AI 應用時提供了一個飛躍。這些經過預訓練的可定制 AI 工作流可跨各種用例加速生成式 AI 應用的開發和部署。

其中包括使用 NVIDIA NeMo、NVIDIA NIM 和合作夥伴微服務構建的示例應用、參考代碼、自定義文檔和用於部署的 Helm 圖表。

對於 AEC 公司而言， NVIDIA AI Blueprint 用於多模態 PDF 資料提取尤為重要 ，因為它利用 NVIDIA NeMo Retriever NIM 微服務 來處理包含文本和圖像的複雜 PDF 文檔。借助此藍圖，AEC 公司能夠利用其龐大的內部設計和規範資料庫，使團隊能夠比以往更智能、更快速地訪問和利用這些資訊。AI Blueprints 免費提供給開發者體驗和下載，並可借助 NVIDIA AI Enterprise 軟體平台 在生產環境中進行部署。

結束語

隨著 AEC 行業不斷數字化並採用 AI 技術，RAG 脫穎而出，成為開始使用 AI 的最簡單方法之一。這種實用方法使公司能夠利用生成式 AI 的強大功能，同時保持在此領域至關重要的準確性和相關性。AECOM 認識到生成式 AI 和基於 RAG 的解決方案將對未來工作產生深遠影響，他們對這項技術的承諾體現在旨在民主化知識和增強客戶服務的持續舉措中。

 

AECOM 全球 AI 主管 Tim Wark 表示：「生成式 AI 無疑將加速改變我們的工作方式，並繼續改進我們為客戶提供價值的方式。「我們圍繞 RAG 和 LLMs 的早期計劃顯示出了巨大的潛力，即普及我們的全球知識庫，並在此基礎上為客戶提供更深入的見解。這些都是我們整個行業激動人心的變革時代的開端。」

 

通過彌合龐大的語言模型與特定行業知識之間的差距，RAG 準備改變 AEC 專業人員在日常運營中與 AI 交互和使用 AI 的方式。這一轉型是行業大趨勢的一部分，80.5% 的 AEC 專業人員計劃使用包括 AI 在內的數字工具，反映出他們已做好迎接數字化轉型及其帶來的優勢的準備。