Async-RBench 发布:200 项任务评测 LLM 智能体异步执行

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

研究团队提出 Async-RBench,用于评测大模型智能体在异步任务执行中的表现,包含 200 个可执行任务、覆盖八类场景。场景控制器依据预设的任务状态条件决定结果何时送达,Event Response Contract 规定每次响应必须改变、保留、避免和重新核验的内容。Dynamic Replanning Score 将响应过程与结果等权计分,并与任务成功率分开报告。九个智能体的 DRS 落在 19.2 至 45.1 之间,重复上报与子智能体失败两项得分最低;在相同执行协议下,九个智能体异步送达的任务成功率平均为 26.0%,低于批量送达的 29.7%。对其中三个智能体,要求主智能体在每次收到结果后重建计划,DRS 仅提升 2.6 至 3.5 分。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

异步执行难在哪

论文关注的是智能体的一种常见运行方式:主智能体在子智能体并行工作时继续推进,子智能体的结果可能在任务状态已经变化之后才返回。此时主智能体需要判断哪些工作要更新、哪些要保留、哪些检查要重做,同时不能做出被禁止的改动。只看最终任务是否成功,无法反映这些返回结果有没有被正确处理;而真实环境里结果自然到达的时机又难以复现。Async-RBench 正是为这一缺口设计,把「结果到达之后如何响应」变成可测量、可重复的对象。

基准怎么构造

该基准包含 200 个可执行任务,覆盖八类场景。场景控制器依据预先定义的任务状态条件来调节结果的送达时机,从而在受控条件下复现异步到达。Event Response Contract 为每一次响应规定四类要求:必须改变什么、必须保留什么、必须避免什么、必须重新核验什么。评分方面,Dynamic Replanning Score 把响应过程与最终结果放在同等权重上,并且与任务成功率分开报告,避免用单一的成功率掩盖过程处理上的失误。

九款智能体的实测差距

作者评测了九个智能体,DRS 得分分布在 19.2 到 45.1 之间,其中重复上报和子智能体失败两类情形得分最低。在论文采用的执行协议下,九个智能体在异步送达时的任务成功率全部低于批量送达,平均为 26.0% 对 29.7%。作者还尝试了一种干预:提示主智能体在每次收到结果后重建计划,对三个智能体而言,这一做法只让 DRS 提高 2.6 至 3.5 分。这些结果说明可靠地处理异步返回结果并不容易,也说明在端到端成功率之外单独评估结果处理环节是必要的。

为什么值得看

异步执行是智能体落地的常见形态,该基准把「结果到达后怎么处理」单独量化,并给出九款智能体的实测差距。

大模型智能体

信源1 家

  1. [1]arXiv cs.AI一手信源Async-RBench: Benchmarking Asynchronous Task Execution in LLM Agents

关键事实

  • Async-RBench 含 200 个可执行任务,覆盖八类场景[1]

  • Dynamic Replanning Score 对响应过程与结果等权计分,与任务成功率分开报告[1]

  • 九个智能体的 DRS 得分区间为 19.2 至 45.1,重复上报和子智能体失败得分最低[1]

  • 异步送达下九个智能体平均任务成功率为 26.0%,批量送达为 29.7%[1]

  • 对三个智能体,要求每次收到结果后重建计划,DRS 仅提升 2.6 至 3.5 分[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。