EvoRouter 提出多智能体路由框架,推理成本降低约五成

论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

EvoRouter 是一个自演进的多智能体路由框架,由洞察引导的在线策略蒸馏驱动。它让一个专门的专家模型定期把跨任务的配置轨迹中的性能与成本反馈,综合成可复用的条件路由洞察,再由一个特权教师模型结合这些洞察与当前执行反馈,为路由器自身的规划轨迹提供 token 级稠密监督;同时用成本感知强化学习联合优化任务表现与算力开销,形成执行驱动的自我改进闭环。在覆盖五个领域的 19 个域内数据集和两个域外基准上,域内平均准确率为 68.69%,比最强路由基线高 7.23 个百分点,推理算力成本下降 50.95%。代码已开源。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

要解决的路由难题

用多智能体系统承接大规模网络查询时,需要同时确定使用哪些大语言模型、采用何种协作模式、投入几个智能体、进行几轮交互以及启用哪些技能。这些选项叠加后,配置空间呈组合式膨胀。与此同时,执行阶段得到的奖励十分稀疏,难以为彼此依赖的规划决策提供细粒度监督,路由器因此很难判断某一组配置选择究竟好在哪里、代价又花在哪里。

洞察与蒸馏如何配合

EvoRouter 引入一个专门的专家模型,它定期从跨任务的配置轨迹中提炼性能与成本反馈,形成可复用的条件路由洞察,内容涉及任务对能力的要求、扩大资源投入能换回多少收益,以及不同配置选项之间的相互影响。一个特权教师模型把这些不断演进的洞察与当前执行反馈结合起来,通过在线策略蒸馏,对路由器自身产生的规划轨迹给出 token 级稠密监督,弥补稀疏奖励留下的监督空白。

成本约束与自我改进

在蒸馏信号之外,成本感知强化学习把任务表现与计算开销放在一起优化,使路由策略在追求准确率的同时顾及算力支出。两类训练信号共同作用,把执行中积累的经验内化进路由策略;更新后的策略又会产生新的轨迹,供后续洞察提取使用,从而构成由执行驱动的自我改进循环,让路由能力随运行持续演化,而不是停留在一次性训练的结果上。

评测结果与开放情况

评估覆盖五个领域的 19 个域内数据集,另加两个域外基准。EvoRouter 的域内平均准确率达到 68.69%,比最强的路由基线高出 7.23 个百分点,同时推理算力成本下降 50.95%。论文共 13 页,含 12 幅图和 4 张表,代码已开源。

为什么值得看

多智能体系统配置空间组合爆炸、奖励稀疏,该工作给出可复用的路由训练范式,并同时报告准确率与算力成本两项指标。

智能体强化学习蒸馏算力数据集

信源1 家

  1. [1]arXiv cs.AI一手信源EvoRouter: Cost-Efficient Multi-Agent Routing via Insight-Guided On-Policy Distillation

关键事实

  • EvoRouter 由洞察引导的在线策略蒸馏驱动,专家模型定期把配置轨迹的性能与成本反馈综合为条件路由洞察[1]

  • 特权教师模型结合演进中的洞察与当前执行反馈,为路由器规划轨迹提供 token 级监督[1]

  • 成本感知强化学习联合优化任务表现与计算成本,形成执行驱动的自我改进循环[1]

  • 在 19 个域内数据集和两个域外基准上评估,域内平均准确率 68.69%,高于最强路由基线 7.23 个百分点[1]

  • 推理算力成本降低 50.95%,代码已开源[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。