ClueFlow 用状态转移归因训练长程搜索智能体

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

arXiv 论文提出 ClueFlow,把长程搜索中的证据获取动作、Evidence 与 Candidate 更新、最终答案串成 Source-State-Final 归因链,并在执行后用金标语义校验与来源追溯筛选监督信号。该方法同时用于监督微调与 Turn-PPO:SFT 阶段只对归因选中的决策连同原始交互上下文做监督,PPO 阶段沿归因链把信用分配给各轮次。在 Qwen3.5-35B-A3B 上,BrowseComp 达 60.0%,BrowseComp-Plus 达 72.0%;受控实验中归因引导 SFT 用约 30% 训练 token 追平全轮精确上下文 SFT,归因引导 PPO 比仅用结果信号的 PPO 高 4.1 个百分点。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

归因链怎么建

论文关注的问题是:长程搜索需要智能体不断获取证据并整合进一个持续演化的研究状态,而已有做法要么只维护状态引导探索,要么给出轮级进度信号,却很少把这些信号落到明确、可追溯的状态变化上。ClueFlow 的做法是构造 Source-State-Final 归因链,把三类对象连起来:获取证据的浏览器动作、Evidence 与 Candidate 的更新、以及由这些更新支撑的最终答案。搜索过程中系统记录带类型的状​​态变化和可能起支撑作用的浏览器动作,执行结束后再做金标条件语义校验与来源追溯,从而判断哪一步状态变化真正被金标支持。

监督与信用分配

归因结果被同时用于两个训练阶段。监督微调阶段,归因决定哪些决策获得监督,并且这些决策连同其原始交互上下文一起进入训练数据,而不是对所有轮次一视同仁。Turn-PPO 阶段,同一条归因链把信用沿 Source-State-Final 路径分配到各轮,用来增强原本只基于最终结果计算的轮级优势。论文还提到一个附带效果:转移级校验能从最终答案不正确、但中间状态变化与金标一致的轨迹里回收可用监督,相当于扩大了有效训练数据的来源。

实验与效率数字

评测覆盖两个 Qwen 骨干模型和四个搜索基准,横跨实时网页与固定语料两种设定,SFT 带来一致提升,PPO 在此基础上继续改进。以 Qwen3.5-35B-A3B 为例,BrowseComp 上准确率为 60.0%,BrowseComp-Plus 上为 72.0%。在受控的 BrowseComp-Plus 实验中,归因引导的 SFT 用约 30% 的训练 token 就达到全轮精确上下文 SFT 的水平,说明按归因挑选监督样本能显著降低 token 消耗;归因引导的 PPO 则比只用结果信号的 PPO 高出 4.1 个百分点,对应信用分配环节的收益。论文共 25 页,含 2 张图与 8 张表。

为什么值得看

给出可复用的搜索智能体训练信号构造方法,并用 token 效率与百分点增益量化收益,适合做 agent 训练的人细看。

Qwen智能体微调论文

信源1 家

  1. [1]arXiv cs.AI一手信源ClueFlow: Learning Long-Horizon Search through Attributed Research-State Transitions

关键事实

  • ClueFlow 构建 Source-State-Final 归因链,把浏览器取证动作、Evidence 与 Candidate 更新和最终答案关联起来[1]

  • 执行后采用金标条件语义校验与来源追溯,并可从最终答案错误的轨迹中回收与金标一致的状态变化作为监督[1]

  • 在 Qwen3.5-35B-A3B 上,BrowseComp 准确率 60.0%,BrowseComp-Plus 为 72.0%[1]

  • 受控 BrowseComp-Plus 实验中,归因引导 SFT 以约 30% 训练 token 达到全轮精确上下文 SFT 的水平[1]

  • 归因引导 PPO 相比仅用结果信号的 PPO 提升 4.1 个百分点[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。