NVIDIA BioNeMo Recipes 發佈：用 LoRA 高效微調生物基礎模型 NEWS DETAIL

基礎模型正在重塑計算生物學。在大量蛋白質或基因組序列上預訓練的 ESM2 和 Evo 2 等模型，能夠捕捉生物序列的統計規律。然而，將這些模型適配到特定任務面臨挑戰——全參數微調在數十億參數規模下計算和儲存開銷巨大。

LoRA 直接解決了這一難題：通過保持預訓練骨幹網路凍結，僅訓練一小套低秩適配器矩陣，LoRA 可在訓練約 1% 參數的情況下匹配全參數微調的品質，在單台工作站 GPU 上即可容納十億級模型及其適配器狀態。

NVIDIA BioNeMo Recipes 提供了基於 PyTorch、Hugging Face 和 Megatron-Bridge 模式構建的逐步訓練指南。文章展示了兩個案例：ESM2-3B 加 LoRA 進行蛋白質二級結構預測，以及 Evo2-1B 加 LoRA 進行 DNA 剪接位點分類。所有代碼均可在 NVIDIA BioNeMo Recipes 開源倉庫中找到。