SkillForge:用技能生命周期让技能与智能体共同演化

论文AI 评分 78/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

SkillForge 是一种面向 LLM 智能体的强化学习方法,把技能库按适应度划分为试用、活跃、稳定、退役四种状态,使技能与模型在训练中共同演化。训练前先用基座模型自身的 rollout 预退役低适应度技能,得到过滤后的技能库用于监督微调;随后强化学习接管,每轮迭代继续做选择性退役、稳定化与 LLM 引导的变异。在多个交互式智能体基准上,该方法取得最高总体成功率,相对最强基线最多提升 7.8%,同时技能库保持紧凑。作者同时发布 SkillFurnace 数据集,含 5000 余条标注记录。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

技能库为何需要淘汰

面向长周期任务的智能体,通常借助记忆增强的强化学习来提升表现,而技能就是这类记忆的一种载体:它把操作指令与适用任务类型的条件绑定在一起。问题出在保留策略上。如果随着策略不断改进仍不加区分地留存每一条技能,那些已经过时甚至有害的条目就会越积越多,反过来干扰智能体的判断。SkillForge 的思路是不再把技能库当成静态仓库,而是让它随训练一起演化。该方法为技能设计了由适应度驱动的生命周期,包含试用、活跃、稳定与退役四种状态,技能与模型在训练全程共同演进。这套机制的关键在于:技能的取舍不是一次性完成的,而是持续进行的。

先筛选再微调再强化

SkillForge 的流程分为几个衔接的阶段。在强化学习开始之前,先有一个评估环节,用基础模型自身的 rollout 对低适应度技能做预退役处理,得到一个经过过滤的技能库。这个过滤后的库随后用于播种监督微调。从该检查点起,强化学习接手训练,并在每一轮迭代中继续执行选择性退役、稳定化以及由 LLM 引导的变异,让技能库与策略优化同步推进。也就是说,技能的淘汰、固化与改写贯穿整个训练过程,而不是只在开头做一次清理。

效果与配套数据

在多个交互式智能体基准上,SkillForge 取得了最高的总体成功率,相对最强基线最多带来 7.8% 的提升,同时在整个训练过程中技能库保持紧凑。为支持技能质量与生命周期管理方面的研究,作者还发布了 SkillFurnace 数据集,其中包含 5k+ 条带标注记录,把经过退役过滤的 SFT 轨迹、带有适应度标注的演化后技能库,以及带有失败类别人工标注的退役事件打包在一起。该工作已被 NeurIPS 2026 的 cs.AI 方向接收,论文编号为 arXiv:2610.09832。

为什么值得看

技能库会随策略提升而积累过时或有害条目,这篇给出可退役、可变异的管理机制与配套数据集。

智能体微调强化学习数据集

信源1 家

  1. [1]arXiv cs.AI一手信源SkillForge: Co-Evolving Skills and Agents via Dynamic Skill Lifecycles

关键事实

  • SkillForge 将技能库划分为试用、活跃、稳定、退役四种状态,按适应度驱动生命周期[1]

  • 训练前用基座模型自身 rollout 预退役低适应度技能,过滤后的技能库用于监督微调[1]

  • 强化学习阶段每轮迭代执行选择性退役、稳定化与 LLM 引导的变异[1]

  • 在多个交互式智能体基准上总体成功率最高,相对最强基线最多提升 7.8%[1]

  • 发布 SkillFurnace 数据集,含 5000 余条标注记录,涵盖退役过滤的 SFT 轨迹与带适应度标注的技能库[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。