RAG-NIMBF:以非侵入方式为现有 RAG 流水线提供基准测试

论文AI 评分 66/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

研究者提出 RAG-NIMBF,一个模块化基准测试框架,以非侵入方式作为评估层接入已有 RAG 流水线,通过受控消融和端到端实验追踪,考察分块、嵌入、检索、重排、提示与生成模型构成的配置空间。评估结合基于 LLM 的答案质量评分、检索正确性指标与运行时指标,并在 SQuAD 数据集上跨多个生成模型验证。结果显示,兼顾相关性与多样性的检索平衡相比传统相似度搜索,使 nDCG@5 提升 4 至 11 个百分点;更详细的提示指令提升了答案对检索证据的忠实度,在 Qwen3.6-27B、GPT-4o-mini 与 Qwen3.5-think 上提升 10 至 13 个百分点,而在 20B 生成模型上效果可忽略。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

框架定位与接入方式

RAG-NIMBF 面向的是 RAG 实践中配置项过多、各组件如何相互影响缺乏指引的问题。分块方式、嵌入模型、检索策略、重排、提示写法与生成模型共同构成一个庞大的配置空间,而实际部署时往往凭经验逐项试错。该框架的做法是不改动原有系统,把自身作为一层评估层附着在已有 RAG 流水线上,因此可以在不打断现有工作流的前提下对已部署系统做系统化评测。其评估手段是受控消融配合端到端实验追踪,让每一次配置改动都能被记录和比较,从而把配置选择转成可复现、可对照的实验结果。

评测维度与验证设置

在指标层面,框架同时采集三类信号:由 LLM 给出的答案质量评分、检索正确性度量,以及运行时指标。三者并列,意味着它不只看最终回答好不好,也看检索环节是否取到了正确内容、系统运行开销如何。验证工作在 SQuAD 数据集上展开,覆盖多个生成模型,用于观察不同组件组合下出现的非显而易见交互,并展示实验追踪的具体过程。材料未披露参与扫描的模型完整清单与配置组合数量。

检索与提示的两项量化结论

实验给出两组可直接参考的对比结果。其一是检索环节:在相关性与多样性之间做平衡,相比常规相似度搜索,能明显改善检索上下文的相关性与覆盖度,在参与扫描的各模型上使 nDCG@5 提升 4 至 11 个百分点,对应做法为 MMR。其二是提示环节:更详细的提示指令能显著提高生成答案对检索证据的忠实程度,在 Qwen3.6-27B、GPT-4o-mini 与 Qwen3.5-think 上提升 10 至 13 个百分点,但在 20B 生成模型上几乎没有效果,说明该收益与模型能力相关,并非对所有生成模型普遍成立。

对实践者的意义

该框架的价值在于把 RAG 调优从零散的经验判断转为有据可依的对照实验:同一套追踪机制下,检索策略、提示写法与生成模型的改动可以横向比较,收益大小也有百分点级别的量化。对于已经在跑生产流水线的团队,非侵入接入意味着无需重构即可评估现有系统;对于准备选型的团队,材料中关于检索平衡与提示详细度的结论提供了两个优先尝试的方向,同时也提示这类改动在较弱生成模型上可能收效有限。

为什么值得看

把 RAG 配置选择从经验判断变成可复现实验,并给出检索与提示调优的量化收益,对搭建生产级 RAG 的团队有直接参考价…

GPTQwenRAG基准测试数据集

信源1 家

  1. [1]arXiv cs.AI一手信源RAG-NIMBF: A Non-Invasive, Modular Benchmarking Framework for Automated RAG Configuration Analysis

关键事实

  • RAG-NIMBF 以非侵入方式作为评估层接入现有 RAG 流水线,通过受控消融与端到端实验追踪评估配置空间。[1]

  • 评估指标结合基于 LLM 的答案质量评分、检索正确性度量与运行时指标。[1]

  • 框架在 SQuAD 数据集上跨多个生成模型完成验证。[1]

  • 兼顾相关性与多样性的检索平衡相比传统相似度搜索,使 nDCG@5 提升 4 至 11 个百分点。[1]

  • 更详细的提示指令使答案忠实度在 Qwen3.6-27B、GPT-4o-mini 与 Qwen3.5-think 上提升 10 至 13 个百分点,在 20B 生成模型上效果可忽略。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。