论文提出行为定位法,用少量轨迹位置监督软提示
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载文本技能的成本问题
工具调用型智能体可以借助文本形式的技能描述扩展能力,但技能描述一旦变长,推理时的计算开销也随之上升。软提示被视为一种更紧凑的替代方案,它不必携带长篇文字说明。不过论文指出,如果直接拿整条成功轨迹去学习软提示,可能引入并不必要的行为改动,因为轨迹中并非每一处都与技能的作用相关。作者由此提出一个观察:文本技能真正产生效果的位置,在整条轨迹中只占很小一部分,效果高度集中。
对比有无技能定位位置
基于上述观察,作者提出行为定位方法。具体做法是把冻结的智能体分别在带文本技能和不带文本技能两种条件下运行并加以比较,找出同时满足两个条件的位置:技能使成功词元的出现概率上升,并且对下一个词元的分布产生了有实质意义的变化。这些被筛出的位置随后被用来监督一个较短的软提示,而不是让整条轨迹都参与监督。这样做的目的是把监督信号集中在技能真正起作用的行为片段上,减少无关位置带来的干扰。
定位监督的实验结果
实验在 SpreadsheetBench 上进行,所用智能体为冻结的 Qwen3.6-35B-A3B。结果显示,轨迹中排名靠前的那一小部分位置覆盖了技能带来的绝大部分正向增益。在共享提示的设置下,只对筛选出的位置做选择性监督,成功率高于用整条轨迹监督的做法。在任务特定条件下,使用定位得到的那部分位置进行监督,成绩超过了完整文本技能,也超过了在策略的 OPCD 基线。作者据此认为,少量与行为相关的位置就足以对软技能形成有效监督。
适用范围与限制
论文的结论建立在单一基准与单一冻结智能体之上,实验围绕 SpreadsheetBench 与 Qwen3.6-35B-A3B 展开,方法本身依赖对带技能与不带技能两种运行状态的比较来筛选位置。对读者而言,这项工作给出的启示是:把文本技能压缩成软提示时,监督信号的选择比数量更重要,聚焦少数行为相关位置可能比覆盖整条成功轨迹更划算,同时也能降低长技能描述带来的计算成本。
为什么值得看
想给工具调用智能体加技能又不想背长文本开销的团队,可看这套只监督少数关键位置的轻量做法。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
