DecisionRAG 提出免检索器方案,用决策模型逐层导航文档

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇 arXiv 论文提出 DecisionRAG,把预训练语言模型用于检索环节,不再依赖词面匹配或固定嵌入空间的相似度。其做法是用决策模型在一次前向中联合评估多个候选分支,不生成任何 token,并称在共享上下文中判断候选可让相关性估计彼此可比。系统像人在图书馆找书那样,从宽泛主题逐层下探到具体段落,每层决定哪些分支值得继续。无需任务特定训练,也不需要第一阶段检索器,在 MultiDoc2Dial 上 R@1 比配 8B 重排器的稠密检索高 13.8 点,在 Natural Questions 上 Hit@1 高 17.4 点;在含 268 万段维基百科段落的四个基准上,单次查询耗时 0.7 至 1.8 秒。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

问题设定

论文指出当前检索仍主要依靠词面匹配或固定嵌入空间中的相似度,而语言模型本身的能力已显著增强,两者之间形成能力不对称:检索器找不到的内容,再强的生成器也无法补救。DecisionRAG 的出发点是把预训练语言模型的能力直接引入检索环节,让判断相关性这件事由模型完成,而不是交给独立的向量匹配流程。

逐层导航的做法

方法的核心是决策模型:它在一次前向计算中同时评估多个候选分支,且不生成任何 token。作者称,把候选放在共享上下文中一起判断,可以让它们之间的相关性估计变得可比。检索过程被组织成从粗到细的导航,类似人在图书馆先看大类再逐层缩小范围,系统在每一层决定哪些分支值得继续探索,最终落到具体段落。整个流程不依赖任务特定训练,也不需要第一阶段检索器。

量化结果与开销

在 MultiDoc2Dial 上,DecisionRAG 的 R@1 比使用 8B 重排器的稠密检索高 13.8 点;在 Natural Questions 上 Hit@1 高 17.4 点。评测覆盖四个基准,其中包含由 268 万段维基百科段落构成的语料,单次查询的检索时间为 0.7 至 1.8 秒。论文以 arXiv 预印本形式发布,附带 PDF 与实验性 HTML 版本,并提供音频摘要。

为什么值得看

检索环节长期受限于相似度匹配,该工作尝试让语言模型直接参与定位,并给出跨基准的量化增益与延迟数据。

RAG论文

信源1 家

  1. [1]arXiv cs.AI一手信源Retriever-Free Retrieval: Navigating Documents with Decision Models

关键事实

  • DecisionRAG 用决策模型在一次前向中联合评估候选分支,不生成 token[1]

  • 该方法不需要任务特定训练,也不需要第一阶段检索器[1]

  • 在 MultiDoc2Dial 上 R@1 比配 8B 重排器的稠密检索高 13.8 点[1]

  • 在 Natural Questions 上 Hit@1 高 17.4 点[1]

  • 在含 268 万段维基百科段落的四个基准上,单次查询耗时 0.7 至 1.8 秒[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。