研究揭示智能体检索效果显著优于传统方法但成本高昂

论文AI 评分 65/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对复杂搜索任务,传统稠密检索依赖表层语义相似度,效果受限。该研究探讨将大模型推理能力与检索器结合的智能体检索方案。实验表明,在相同嵌入模型下,该方法nDCG@10提升8.7点,且在ViDoRe v3与BRIGHT榜单上均具强泛化能力,克服了专有方法域外表现差的缺陷。然而代价极高:单次查询耗时107.4秒(传统仅需0.67秒),消耗764.1K输入及5.8K输出token。研究呼吁后续需优化其成本以适应大规模部署。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

把检索器接进推理循环

这项工作关注的是复杂检索任务里的一种新做法:不再只靠向量相似度去匹配文本,而是让大语言模型与检索器配合,在 ReAct 式的智能体循环中反复探索语料。传统稠密检索依赖表层语义相近程度,面对结构复杂、需要多步推理的查询时往往不够用。作者提出的智能体检索把模型的推理能力和检索器对大规模非结构化数据的高效浏览结合起来,由模型决定下一步查什么、怎么查,再根据返回结果继续推进,直到完成任务。实验显示,在嵌入模型完全相同的前提下,这种循环式检索比标准检索更有效,nDCG@10 提升了 8.7 个百分点。这说明性能增益并非来自换了更强的向量表示,而是来自检索流程本身被改写。

跨榜单的通用性表现

研究还比较了两类方案在领域迁移上的差异。专用检索方法通常在遇到训练分布之外的任务时表现下滑,需要针对新领域重新调优。而智能体检索的同一套流程在 ViDoRe v3 与 BRIGHT 两个榜单上都取得了有竞争力的结果,作者据此认为它具备较强的泛化能力。换句话说,面对未见过的检索场景,这种把推理与检索交织在一起的做法不需要为每个领域单独设计管线,就能维持相对稳定的效果。这一点对需要覆盖多种数据形态和查询类型的系统来说,意味着可以减少针对单一领域做定制的工程量。

延迟与词元开销

效果提升的代价体现在运行成本上。标准检索平均耗时 0.67 秒,而智能体检索平均需要 107.4 秒;每次查询消耗的输入词元为 764.1K,输出词元为 5.8K。时间与词元量的差距,来自模型在循环中多次调用检索器并反复生成中间推理步骤。作者在结论中把这一点列为后续方向:要让这类方案在大规模部署中可用,需要研究成本更低的检索智能体。对读者而言,这意味着在评估是否采用智能体检索时,除了看准确率指标,还要把响应时间和词元预算纳入考量,尤其是对延迟敏感或查询量很大的场景。

为什么值得看

量化揭示了智能体检索在效果与资源消耗间的极端权衡,为实际部署选型提供关键参考。

大模型智能体

信源1 家

  1. [1]arXiv cs.AI一手信源Beyond Semantic Similarity: Performance and Costs of Agentic Retrieval for Complex Tasks

关键事实

  • 智能体检索相比传统检索nDCG@10提升8.7点[1]

  • 智能体检索单次查询耗时107.4秒,传统检索为0.67秒[1]

  • 智能体检索单次查询消耗764.1K输入和5.8K输出token[1]

  • 同一智能体检索流程在ViDoRe v3和BRIGHT榜单均取得竞争力结果[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。