研究揭示多跳问答中的事实落地缺口

论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对多跳问答系统的错误归因问题,研究者在三个基准数据集上进行了诊断。结果显示,系统失败不仅源于检索失败,还源于提取失败,即虽然检索到了相关段落但无法提取出所需事实,这一现象被称为事实落地缺口。提取失败占所有单 hop 缺陷的近一半,且无法通过检索干预解决,表明这是与检索失败截然不同的瓶颈。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

两类失败模式的拆分

这项研究把多跳问答系统在单步推理层面的失误拆成两类。一类是检索失败,即回答所需的段落根本没有被系统取回;另一类是抽取失败,即段落已经取回,但其中的关键事实没能被提取出来。作者把后一种情况命名为事实落地缺口。研究在三个标准多跳问答基准上做了测量,结果显示抽取失败占到全部单跳缺陷的接近一半,而这类缺陷在常规检索指标里完全看不出来。也就是说,只看检索命中率的评估方式,会漏掉相当一部分真实存在的推理断点。

检索手段无法补上的缺口

研究测试了多种针对检索环节的干预手段,但抽取失败在这些干预下都没有得到缓解。这一结果意味着,仅靠改进检索存在一个上限,越过这个上限之后,剩下的错误不再属于检索问题。作者据此提出,检索失败与抽取失败是性质不同的两种瓶颈,需要各自对应的解法,而当前的评测实践并没有做这种区分。缺口的严重程度在不同基准和不同题型之间有差异,但抽取失败在所测量的每一个数据集上都会出现,并非个别数据集的偶发现象。

对评测与系统设计的含义

从适用范围看,结论建立在三个标准多跳问答基准之上,针对的是需要跨多份文档组合信息才能作答的复杂问题。对使用这类系统的读者而言,直接含义是:当系统答错时,不能默认归因于没找对文档,还需要判断文档是否已取回、事实是否被正确抽取。对做评测的一方,这意味着在检索指标之外补充针对单步事实抽取的度量,才能看清系统真正的短板所在。该文已被 EMNLP 2026 主会议接收,归档于 Computation and Language、Artificial Intelligence 与 Information Retrieval 分类。

为什么值得看

指出了当前多跳问答系统被忽视的性能瓶颈,为后续模型优化提供了新方向。

数据集

信源1 家

  1. [1]arXiv cs.AI一手信源Diagnosing the Fact-Grounding Gap in Multi-Hop Question Answering

关键事实

  • 提取失败占所有单 hop 缺陷的近一半。[1]

  • 检索干预无法解决提取失败问题。[1]

  • 研究在三个标准多跳问答基准上进行。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。