NVIDIA BioNeMo Recipes發佈：用LoRA高效微調生物基礎模型

基礎模型正在重塑計算生物學。在蛋白質或基因組序列的大規模語料庫上預訓練的模型（如ESM2蛋白質語言模型）已經證明瞭其在結構預測、功能注釋和設計等方面的強大能力。然而，將這些通用模型適配到特定生物學任務通常需要全參數微調，計算成本極高。NVIDIA BioNeMo Recipes提供了一套基於LoRA（低秩適配）的高效微調方案，使研究人員能夠在消費級GPU上以極小成本將生物基礎模型適配到特定任務。

LoRA通過在預訓練權重旁添加低秩適配矩陣來近似微調過程中的權重更新，使可訓練參數量減少到原來的萬分之一以下。BioNeMo Recipes將這一技術與NVIDIA的加速計算能力結合，為蛋白質折疊、分子對接、序列設計等核心任務提供了開箱即用的微調工作流。研究人員只需準備特定任務的資料集，通過簡單的配置即可啓動微調訓練。在實際應用中，使用BioNeMo Recipes對ESM2模型進行LoRA微調，可在單張GPU上用數小時完成原本需要多GPU數天的全參數微調任務，且性能與全參數微調相當。這一方案大幅降低了生物資訊學團隊採用AI技術的門檻，使更多研究機構能夠在有限的算力預算內構建針對特定生物學問題的定制化AI模型。