研究:简单 LLM 框架在微服务根因分析中优于手工设计智能体

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇 arXiv 论文比较了三种不规定模型调用方式的简单框架(对证据包单次调用、SQL 智能体、Codex 编码智能体)与五个已发表的 LLM 根因分析智能体,以及统计与因果方法。评测在 RCAtlas 上进行,含来自八个公开数据集的 90 个验证案例,覆盖六个模型与三档推理强度。简单框架最准确,三个中端模型上 PR@1 为 65-77%,高于已发表智能体的 16-53% 和非 LLM 方法的 6-39%。已发表智能体把一成到全部模型调用固定在程序里,案例显示这种预设会跳过关键证据。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

对比了哪些方案

论文把三类做法放在同一评测集上比较。第一类是三种简单框架,它们不规定模型该发起哪些调用:一种是对打包好的证据做单次调用,一种是 SQL 智能体,一种是 Codex 编码智能体。第二类是五个已发表的 LLM 根因分析智能体,这些智能体通过标准作业流程、固定阶段和角色智能体来手工设计调查路径。第三类是不依赖 LLM 的统计与因果方法。此前每个智能体都在各自数据上、对着少量基线做评估,因此无法判断手工设计是否真的优于让能力足够的模型自行调查。

准确率差距与原因

在 RCAtlas 的 90 个验证案例上,简单框架表现最准确:三个中端模型的 PR@1 落在 65-77% 区间,已发表智能体为 16-53%,非 LLM 方法为 6-39%;在两类方案都跑过的每个模型上,简单框架都领先。论文指出,已发表智能体把一成到全部的模型调用写死在程序里,并用案例说明这种预设会跳过对定位根因起决定作用的证据。换言之,流程约束越细,模型越难顺着实际线索走。

模型、轮次与推理开销

论文还拆解了不同因素的作用:换用更强的模型主要提升结果的可靠性;采用多轮框架主要提升能力上限;而提高推理强度对准确率的影响最多只有几个百分点,耗时却可能增加到七倍。在成本或时间维度上,凡是准确率超过最佳非 LLM 方法的运行中,帕累托最优的全部落在简单框架一侧。这为实际部署提供了取舍依据:与其堆叠推理步数,不如减少对模型调用路径的硬性规定。

为什么值得看

对做运维智能体的人来说,结论直接:少写死流程、把调查自由交给强模型,准确率更高且成本更优。

智能体论文数据集

信源1 家

  1. [1]arXiv cs.AI一手信源Free to Look, Free to Reason: Simple LLM Harnesses Outdiagnose Hand-Crafted Root Cause Analysis Agents

关键事实

  • 评测集 RCAtlas 含来自八个公开数据集的 90 个验证案例,覆盖六个模型和三档推理强度[1]

  • 三个中端模型上简单框架 PR@1 为 65-77%,已发表 LLM 智能体为 16-53%,非 LLM 方法为 6-39%[1]

  • 已发表智能体将一成到全部的模型调用固定在程序中,案例研究显示这些预设会跳过决定性证据[1]

  • 更强模型主要提升可靠性,多轮框架主要提升能力,提高推理强度最多只改变几个百分点准确率,却可能让耗时增至七倍[1]

  • 在准确率高于最佳非 LLM 方法的运行中,成本或时间上的每个帕累托最优运行都采用简单框架[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。