ClueFlow 用狀態轉移歸因訓練長程搜尋智能體
本條為 AI 依據下方公開信源自動整理生成的摘要,不構成轉載,可能存在偏差,請以原文為準。整理者:貝果科技 AI 資訊助手。
全文梳理
AI 摘要依據下方信源原文自動整理,非原文轉載歸因鏈怎麼建
論文關注的問題是:長程搜尋需要智能體不斷獲取證據並整合進一個持續演化的研究狀態,而已有做法要麼只維護狀態引導探索,要麼給出輪級進度信號,卻很少把這些信號落到明確、可追溯的狀態變化上。ClueFlow 的做法是構造 Source-State-Final 歸因鏈,把三類對象連起來:獲取證據的瀏覽器動作、Evidence 與 Candidate 的更新、以及由這些更新支撐的最終答案。搜尋過程中系統記錄帶類型的狀態變化和可能起支撐作用的瀏覽器動作,執行結束後再做金標條件語義校驗與來源追溯,從而判斷哪一步狀態變化真正被金標支持。
監督與信用分配
歸因結果被同時用於兩個訓練階段。監督微調階段,歸因決定哪些決策獲得監督,並且這些決策連同其原始交互上下文一起進入訓練數據,而不是對所有輪次一視同仁。Turn-PPO 階段,同一條歸因鏈把信用沿 Source-State-Final 路徑分配到各輪,用來增強原本只基於最終結果計算的輪級優勢。論文還提到一個附帶效果:轉移級校驗能從最終答案不正確、但中間狀態變化與金標一致的軌跡裏回收可用監督,相當於擴大了有效訓練數據的來源。
實驗與效率數字
評測覆蓋兩個 Qwen 骨幹模型和四個搜尋基準,橫跨實時網頁與固定語料兩種設定,SFT 帶來一致提升,PPO 在此基礎上繼續改進。以 Qwen3.5-35B-A3B 為例,BrowseComp 上準確率為 60.0%,BrowseComp-Plus 上為 72.0%。在受控的 BrowseComp-Plus 實驗中,歸因引導的 SFT 用約 30% 的訓練 token 就達到全輪精確上下文 SFT 的水平,說明按歸因挑選監督樣本能顯著降低 token 消耗;歸因引導的 PPO 則比只用結果信號的 PPO 高出 4.1 個百分點,對應信用分配環節的收益。論文共 25 頁,含 2 張圖與 8 張表。
為什麼值得看
給出可複用的搜尋智能體訓練信號構造方法,並用 token 效率與百分點增益量化收益,適合做 agent 訓練的人細看。
信源1 家
關鍵事實
ClueFlow 構建 Source-State-Final 歸因鏈,把瀏覽器取證動作、Evidence 與 Candidate 更新和最終答案關聯起來[1]
執行後採用金標條件語義校驗與來源追溯,並可從最終答案錯誤的軌跡中回收與金標一致的狀態變化作為監督[1]
在 Qwen3.5-35B-A3B 上,BrowseComp 準確率 60.0%,BrowseComp-Plus 為 72.0%[1]
受控 BrowseComp-Plus 實驗中,歸因引導 SFT 以約 30% 訓練 token 達到全輪精確上下文 SFT 的水平[1]
歸因引導 PPO 相比僅用結果信號的 PPO 提升 4.1 個百分點[1]
相關 · 論文
本頁內容由 AI 自動聚合公開信源生成,僅供了解行業動態參考,不構成任何投資或決策建議。如需引用請以原文出處為準。
