LiteRAG 提出低成本图检索方法

论文AI 评分 65/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

LiteRAG 是一种基于图的检索增强生成方法,旨在解决现有方案查询成本高、上下文冗余的问题。该方法用算法探索替代检索时的 LLM 控制。在 DistComp 基准测试中,LiteRAG 质量得分 0.798,查询延迟降低超 100 倍,成本降低超 99%。在 UltraDomain 上,其质量与 LinearRAG 持平,但 Token 使用量减少约 14 倍。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

用算法探索替代LLM控制

LiteRAG 的核心改动落在检索环节的控制方式上。已有的图检索方案往往在查询阶段调用大模型来决定下一步走向,LiteRAG 则把这一步换成由查询条件驱动的算法化探索,并据此拼装出带有推理链条的上下文。论文把这一替换描述为用查询条件化的算法探索与推理链上下文构建,取代检索时昂贵的 LLM 控制。这样做的直接后果是查询阶段不再反复调用模型,延迟与开销随之下降,同时上下文不再弥散膨胀,生成环节的负担也相应减轻。作者在摘要中把现有图检索的两个痛点并列提出:查询时成本高,以及产出的上下文过于分散、体量偏大,进而拖低生成效率。LiteRAG 的设计正是针对这两点。

DistComp上的质量与开销

在 DistComp 这一面向分布式系统论文多跳检索的基准上,LiteRAG 在受评估方法中取得最高的整体质量,数值为 0.798。与之对照的是 GraphRAG Global 与 DRIFT:相较这两者,LiteRAG 把单次查询延迟压低到原来的百分之一以下,降幅超过 100 倍;成本降幅超过 99%。这两个倍数描述的是同一组对比关系,即 LiteRAG 与上述两种既有方案在查询阶段的开销差距,而非绝对耗时或绝对金额。质量最高与开销大幅下降同时出现,说明该方法的收益并非以牺牲答案为代价换取。

UltraDomain上的token对照

在 UltraDomain 上,LiteRAG 的整体质量与 LinearRAG 持平,但消耗的 token 约为后者的十四分之一。这一组对照把比较维度从延迟和成本换成了上下文长度:质量不变的前提下,喂给生成环节的文本量显著收缩。结合 DistComp 的结果可以看出,论文试图说明的是一致的方向——在多个基准上,LiteRAG 用更少的查询期资源维持或提升答案质量。摘要没有给出 UltraDomain 上质量的具体分值,只做了与 LinearRAG 的持平表述。

消融指向两处机制

消融实验显示,LiteRAG 在 token 效率上的改善主要来自两处设计:查询自适应阈值,以及社区感知的枢纽惩罚。前者让筛选门槛随查询变化,后者对图中的枢纽节点施加惩罚,避免上下文被少数高度连接的节点占据。论文将这两项认定为 token 效率提升的主要驱动因素。对使用图检索搭建问答系统的一方而言,这意味着不必依赖检索阶段的模型调用,也能控制上下文规模;但材料只覆盖 DistComp 与 UltraDomain 两个基准,方法在其他语料上的表现未在摘要中交代。论文共 16 页,含 2 幅图。

为什么值得看

大幅降低图检索 RAG 的推理成本与延迟,同时保持高质量。

RAG基准测试

信源1 家

  1. [1]arXiv cs.AI一手信源LiteRAG: Cost-Efficient Graph-Based Retrieval-Augmented Generation

关键事实

  • 在 DistComp 基准测试中质量得分 0.798,延迟降低超 100 倍,成本降低超 99%。[1]

  • 在 UltraDomain 上匹配 LinearRAG 质量,Token 使用量减少约 14 倍。[1]

  • 通过查询自适应阈值和社区感知中心惩罚提升 Token 效率。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。