推薦系統的主要任務是根據用戶的歷史行為預測其興趣點，並向其推薦相應的商品。傳統的推薦系統在處理用戶請求時，會觸發多個召回模組（包括熱門商品召回、個性化召回、深度召回等），以召回大量候選商品。隨後，系統通過相對簡單的粗排模型對候選集進行初步篩選，縮小候選範圍，最後通過精排和重排模型，確定最終返回給用戶的推薦結果。
隨著大語言模型（LLM）在推薦系統中的應用，生成式推薦系統相比傳統推薦系統展現出以下優勢：
1）簡化推薦流程：生成式推薦系統實現了從多級過濾的判別式（discriminative-based）架構向單級過濾的生成式（generative-based）架構的轉變。通過直接生成推薦結果，簡化了推薦流程，降低了系統複雜度；。
2）知識融合：LLM 具有更強的泛化能力和穩定性。利用 LLM 所包含的世界知識和推理能力，可以突破傳統電子商務平台在商品和用戶建模中存在的資料局限性。在新用戶和新商品的冷啓動以及新領域的推薦場景中，生成式推薦系統能夠提供更優的推薦效果和更好的遷移性能；。
3）規模定律 （Scaling Law）：傳統的點擊率（CTR）稀疏模型在模型規模擴大時，邊際收益遞減現象明顯。而 LLM 所表現出的規模定律屬性，為模型的有效擴展提供了一種新模式，即模型性能隨著規模的增加而持續提升。這意味著通過擴大模型規模，可以獲得更好的推薦效果，突破傳統模型的性能瓶頸。
下面以京東廣告場景落地生成式召回為例，介紹大語言模型在推薦系統的應用。
生成式召回方案介紹
1、生成式召回算法與實現步驟
生成式推薦涉及兩個接地（grounding）過程：一是建立商品與自然語言的連接。二是建立用戶行為與目標商品之間的連接。為實現這兩個過程，我們需要以下幾步：
1）商品表示：在實際操作中，直接生成文檔或商品描述幾乎是不可行的。因此，我們採用短文本序列，即語義 ID，來表徵商品。選取高點擊商品的標題、類目等語義資訊，經由編碼器模型獲得向量表示，再利用 RQ-VAE 對向量進行殘差量化，從而獲得商品的語義 ID。例如，商品：「XXX品牌 14+ 2024 14.5 英吋輕薄本 AI 全能本高性能獨顯商務辦公筆記本電腦」可表示為：<a_99><b_225><c_67><d_242>。
2）用戶畫像&行為建模：通過構建提示詞來定義任務，並將用戶相關資訊（例如用戶畫像和用戶歷史行為資料）轉化為文本序列。例如：「用戶按時間順序點擊過這些商品：<a_112><b_160><c_67><d_138>,<a_71><b_30><c_228><d_128>, <a_20><b_251><c_30><d_178> 你預測用戶下一個可能點擊的商品是？」。
3）模型訓練：確定了生成模型的輸入（用戶表示）和輸出（商品物料標識符），即可基於生成式 Next Token Prediction 任務進行模型訓練。
4）模型推理：經過訓練後，生成模型能夠接收用戶資訊並預測相應的商品語義 ID，這些語義標識可以對應資料集中的實際商品 ID。
2、LLM 模型部署的工程適配
傳統基於深度學習的召回模型，其參數量通常在幾十萬到幾千萬之間，且模型結構以 Embedding 層為主。而採用大語言模型（LLM）實現的生成式召回模型，其參數規模大幅提升至0.5B至7B之間，模型結構主要由 Dense 網路構成。由於參數量的急劇增加，LLM 在推理過程中所需的計算資源相比傳統模型顯著提升，通常高出數十倍甚至上百倍。這使得 LLM 在處理複雜任務時具備更強的表現力，但同時也對計算能力有了更高的要求。
將如此龐大的算力模型部署至線上環境，並確保其滿足毫秒級實時響應的需求，同時在嚴格控制資源成本的前提下實現工業化應用，這無疑是對工程能力的巨大考驗。因此，我們必須對在線推理架構進行極致的性能優化。
圖 1: 在線推理架構
該圖片來源於京東，若您有任何疑問或需要使用該圖片，請聯繫京東
3、基於 TensorRT-LLM 的 LLM 構建優化及其系統部署
在建模封裝層，通過 TensorRT-LLM 實現 LLM 模型的構建與優化。然後將 LLM 無縫整合至現有生態系統，利用 Python 與 TensorFlow API 實現端到端推理圖的構建。基於 TensorFlow 原生算子及現有業務的自定義 TensorFlow 算子庫（例如用戶行為特徵處理算子），實現算法的靈活建模。
在推理優化層，通過應用 Inflight Batching、Constrained Sampling、Flash Attention 及 Paged Attention 等加速方案，最大限度地提升單卡吞吐量並降低推理延遲。
在系統部署方面，為了最大化利用時間資源，生成式召回一期的部署採用了與傳統多分支召回模組並行的方式。由於生成式召回簡化了推理流程，相較於傳統召回方式，其資源消耗更少，運行時間更短，並且取得了更優的召回效果。
圖 2：生成式召回與傳統多路召回並行
該圖片來源於京東，若您有任何疑問或需要使用該圖片，請聯繫京東
4、生成式召回一期在推薦廣告及搜索廣告的成功應用
目前，生成式召回一期已在京東推薦廣告及搜索廣告等主要業務線成功實施。在推薦廣告方面，借助生成式模型的參數規模及語義理解優勢，AB 實驗結果顯示商品點擊率與消費帶來了顯著的提升。在搜索廣告方面，通過 LLM 所具備的語義理解能力，顯著提升了對查詢與商品的認知能力，特別是在處理搜索中的長尾查詢時，填充率有明顯提升，AB 實驗同樣取得了點擊率與消費幾個百分點的收益增長。
通過 TensorRT-LLM 進行推理優化加速: 實現降低延遲、提升吞吐
在原先的模型推理方案中, 線上業務的低延遲要求較難達成,。在切換到 TensorRT-LLM 之後, 通過使用 TensorRT-LLM 中的多種優化特性, 不僅模型推理延遲達到線上業務要求, 同時吞吐也有著顯著提升。
在 NVIDIA GPU 上進行的測試中，通過對比 TensorRT-LLM 與基線，發現在限制 100 毫秒推理耗時的廣告場景下，採用 TensorRT-LLM 進行推理，其吞吐量相較於baseline提升了五倍以上。這相當於將部署成本降至原來的五分之一。
圖 3：TensorRT-LLM 和基線的對比 (Qwen2-1.5B | beam 5 | vocab size 15W | input 150 | output 4) , 資料來自京東廣告團隊測試結果
對於這個特定的應用場景，beam width 的合理配置對檢索結果有著重要影響。一般來說，較高的 beam width 能夠增加候選商品的數量，從而提高檢索的準確性。以返回 300 個商品為例，若 beam width 設置較低，每個 code 就需要對應更多的商品 id，這無疑會降低檢索的精度。
針對這個情況，NVIDIA DevTech 技術團隊進行了有針對性的二次開發和優化工作， 最終讓 TensorRT-LLM 支援更大範圍的 beam width, 從而及時滿足了線上的業務需求.。
持續優化技術以實現模型效率效果提升
未來, 我們將持續在生成式推薦領域深入探索, 重點聚焦以下幾個方面
1）提升模型規模，滿足實時推理需求
當前，受制於算力、時間消耗和成本等客觀條件，生成式推薦系統在實時推理中的可部署模型規模相對較小（約 0.5B 至 6B 參數）。然而，離線實驗資料表明，擴大模型規模能夠顯著提升線上推薦效果。這對在線性能優化提出了更高要求。為了在不顯著增加成本的前提下支援更大規模的模型在線部署，需要進一步優化模型結構和推理效率。例如，採用模型剪枝、量化等模型壓縮技術，優化採樣檢索算法效率，以及高效的分布式推理架構。
2）擴展用戶行為輸入，提高模型效果
實驗證明，輸入更長的用戶歷史行為序列可以提升模型的推薦效果。然而，更長的序列輸入會導致計算資源消耗的增加和推理時間的延長。為此，需要尋求在效果提升和性能開銷之間的平衡。對應的優化方案包括：
a. Token 序列壓縮：通過對輸入序列進行壓縮，如去除冗余資訊、合併相似行為等，減少序列長度的同時保留關鍵資訊。
b. 用戶行為 KV 緩存復用：在推理過程中，針對用戶行為特徵有序遞增的特點，對長期行為進行離線計算並進行緩存，在線部分負責計算實時行為，避免重復計算的同時最大化利用算力，提高推理效率。
3）融合稀疏與稠密模型，實現聯合推理
隨著模型參數量的增大，可以考慮將稀疏的傳統 CTR 模型與稠密的 LLM 模型進行聯合推理。稀疏模型擅長處理高維度的稀疏特徵，具有計算效率高的優勢；而稠密模型能夠捕獲複雜的非線性特徵和深層次的語義資訊。通過融合兩者的優勢，構建一個兼具高效性和精確性的推薦系統。
針對於稀疏訓練場景, NVIDIA 能夠提供 DynamicEmb 方案。DynamicEmb 是一個 Python 包，專門針對推薦系統提供了稀疏訓練方案，包括模型並行的 dynamic embedding 表和 embedding lookup 功能。
WeChat
Profile