Bash 是 AI 智能體最靈活、最強大的接口之一。在合適的系統中，能夠輸出 grep、curl、tar 或 shell 管道的模型，就是在生成可執行的動作。對 NVIDIA AI 紅隊而言，命令生成是一個有價值的研究目標——如果小語言模型能被引導生成有效、符合策略的命令結構，它們就能成為更可靠的智能體組件，部署到更廣泛的環境中。
約束解碼是一種在自回歸語言模型生成過程中修改採樣過程的技術。在每個生成步驟，模型正常生成 logits，但在選擇 Token 之前，會應用語法約束來改變概率分布（通常通過有效阻斷某些 Token）。NVIDIA AI 紅隊將這一技術應用於 Bash 命令生成，測試了 13 個小語言模型在 299 個任務上的表現，將平均通過率從 62.5% 提升至 75.2%。其中提升最顯著的是 Qwen3-0.6B，通過率從 16.7% 躍升至 59.2%。
研究團隊開發了 grammargen 工具，能將結構化命令證據轉換為 Lark 語法格式，涵蓋命令名稱、別名、布爾標誌、帶值標誌、位置參數等。這些語法通過 llguidance 集成到 llama.cpp 推理中，再配合 tree-sitter-bash 進行輸出校驗，實現"約束重試"模式——語法校驗失敗時回退到原生模式，確保至少達到原生性能水平。
實驗表明，語法約束在 Tier 1（I/O 原語）任務上平均提升 10 個百分點，Tier 2（過濾/轉換）提升 17.4 個百分點，Tier 3（偵察/操作）提升 15.3 個百分點。但在 Tier 4（Shell 構造，如管道鏈、後台任務、循環）中提升有限，需要更豐富的語法策略。
WeChat
Profile