WeAct 將 LoRA 適配器選擇納入智能體動作空間
論文AI 評分 72/100arXiv cs.AI待覆核
AI 聚合
本條為 AI 依據下方公開信源自動整理生成的摘要，不構成轉載，可能存在偏差，請以原文為準。整理者：貝果科技 AI 資訊助手。
論文提出 WeAct，在凍結的主幹模型上訓練多個能力專屬的 LoRA 適配器，並把適配器選擇加入智能體的動作空間，通過模型原生工具調用接口在共享上下文中按需組合能力，以緩解長程任務中更新共享參數導致的災難性遺忘。在八個深度研究基準上，Qwen3-32B 搭配 WeAct 相比全量微調平均準確率提升 6.2%，且算力消耗更少；相比最強的靜態 LoRA 合併方法提升 27.5%。該方法還支持模組化持續適配：新增代碼計算適配器、更新寫作適配器時，主幹與其他適配器均保持不變。
全文梳理
AI 摘要依據下方信源原文自動整理，非原文轉載方法：把選適配器當動作
論文關注長程智能體在交錯軌跡中學習多種能力時的災難性遺忘問題：更新共享參數學習新能力，會削弱此前已掌握的能力。WeAct 的做法是在凍結的主幹模型上分別訓練面向不同能力的 LoRA 適配器，並把適配器選擇本身加入智能體的動作空間，稱為權重層面的內部動作。這些內部動作複用模型原生的工具調用接口，因此能力組合可以在同一段共享上下文中按需完成，而不必在訓練階段就把參數固定下來。
對比靜態參數配置的差距
論文指出，常規聯合訓練與靜態適配器合併在整個執行過程中都維持固定的參數配置，而一條軌跡的不同階段往往需要不同能力。WeAct 讓參數配置隨軌跡推進而變化。在八個深度研究基準上，Qwen3-32B 搭配 WeAct 相比全量微調的平均準確率高出 6.2%，同時算力開銷更少；與最強的靜態 LoRA 合併方法相比，平均準確率高出 27.5%。
模組化持續適配
WeAct 還支持以模組為單位持續擴展能力：新增一個代碼計算適配器來擴展智能體能力，以及更新已有的寫作適配器來提升報告質素。兩類更新都不改動主幹與其他適配器，因而可以在不影響既有能力的前提下迭代單個模組。論文共 24 頁，含 14 張圖、12 張表及參考文獻與附錄。
為什麼值得看
把權重切換做成智能體可調用的動作，為長程任務的能力組合與持續學習提供了可複用的工程思路。
Qwen智能體微調算力論文
信源1 家
關鍵事實
相關 · 論文
本頁內容由 AI 自動聚合公開信源生成，僅供了解行業動態參考，不構成任何投資或決策建議。如需引用請以原文出處為準。