RECAST框架通過自適應計算路由提升RAG證據推導能力

論文AI 評分 72/100arXiv cs.AI
AI 聚合

本條為 AI 依據下方公開信源自動整理生成的摘要,不構成轉載,可能存在偏差,請以原文為準。整理者:貝果科技 AI 資訊助手。

針對傳統RAG僅靠相似度檢索、無法跨源聚合計算證據的侷限,RECAST框架將證據構建建模為異構檢索與計算的序貫決策過程。其輕量級RouterLM迭代選擇並規劃基礎或定製操作,交由凍結的CompilerLM生成可執行代碼,證據充足後交凍結AnswerLM輸出答案。RouterLM經SFT與GRPO訓練。在六個異構基準族上,該框架平均成功率75.6%,較大模型基線高15.9%;訓練後的Qwen3.5-9B RouterLM比免訓練Gemini 3.5 Flash高5.0%。在三個保留基準上平均超最強基線15.0%,展現強零樣本泛化力。

全文梳理

AI 摘要依據下方信源原文自動整理,非原文轉載

把證據構造變成決策

這項研究關注的是長文本、來源格式不統一的任務場景。傳統檢索增強生成依賴固定的相似度匹配來取回片段,而一些帶有智能體特徵的方案雖然會調整查詢和調用工具,思路仍然圍繞檢索展開。論文指出,不少任務所需的證據並不存在於任何單獨一條來源裏,需要跨多條來源做篩選、彙總或計算才能得到。為此作者提出 RECAST,把證據的構造過程建模為在多種檢索與計算操作上的順序決策,讓證據被主動推導出來,而不只是被取回。整個流程由一個輕量級的 RouterLM 驅動,它反覆挑選並組織基礎操作,或者指定自定義操作,交給一個凍結的 CompilerLM 翻譯成可執行代碼;當 RouterLM 判斷證據已經足夠,就把確認後的證據交給同樣凍結的 AnswerLM 生成最終答案。

訓練方式與關鍵數字

RouterLM 的訓練分兩步:先做監督微調,再使用組相對策略優化。論文在六個來源類型各異的基準系列上做了評測,平均成功率為 75.6%,比表現最好的大模型基線高出 15.9%。訓練帶來的提升還體現在模型規模與能力的對比上:經過訓練後,Qwen3.5-9B 作為 RouterLM 的表現,超過了未經訓練、直接使用 Gemini 3.5 Flash 作為 RouterLM 的方案,領先 5.0%。此外,在三個留出的基準上,RECAST 相對最強基線平均提升 15.0%,說明它在不同任務和不同來源表示之間具備較強的零樣本泛化能力。論文共 35 頁,含 2 張圖和 13 張表格。

適用範圍與讀者意義

從設計上看,RECAST 把可執行代碼作為證據構造的中間載體,因此它更適合那些答案需要跨來源聚合、過濾或計算的任務,而不是答案已經寫在某一段原文裏的簡單問答。框架中的 CompilerLM 與 AnswerLM 保持凍結,只有負責路由和操作選擇的 RouterLM 參與訓練,這降低了訓練成本,也讓方法可以掛接到已有的模型組合上。對使用檢索增強方案的團隊來說,這意味着在長文檔、多來源、格式混雜的場景下,可以不再只依賴相似度召回,而是讓模型自己決定何時檢索、何時計算、何時停止。論文同時給出了留出基準上的結果,為判斷該方法在未見任務上的穩定性提供了參考。

為什麼值得看

突破傳統RAG僅檢索不計算的瓶頸,讓小模型經訓練在路由決策上超越大模型,顯著提升複雜跨源推理成功率。

GeminiQwen大模型RAG

信源1 家

  1. [1]arXiv cs.AI一手信源RECAST: Learning to Compute the Right Context through Adaptive Evidence Routing

關鍵事實

  • RECAST將證據構建建模為對異構檢索與計算操作的序貫決策過程,主動推導而非僅檢索證據。[1]

  • 框架由輕量級RouterLM迭代選操作、凍結CompilerLM轉代碼、證據足後交凍結AnswerLM作答構成。[1]

  • 在六個異構基準族上平均成功率達75.6%,超最強大模型基線15.9%。[1]

  • 經SFT與GRPO訓練的Qwen3.5-9B RouterLM比免訓練Gemini 3.5 Flash RouterLM高5.0%。[1]

  • 在三個保留基準上平均超最強基線15.0%,展現強零樣本泛化能力。[1]

相關 · 論文

本頁內容由 AI 自動聚合公開信源生成,僅供了解行業動態參考,不構成任何投資或決策建議。如需引用請以原文出處為準。