SwarmEvolve:数百个低成本智能体在潜空间协作完成进化搜索

论文AI 评分 78/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

SwarmEvolve 让每轮数百个低成本智能体组成群体,在潜空间中推理而不解码成文本,并通过传递 KV cache 共享信息。每个群体从不同角度研究问题,新颖性过滤器直接测量智能体隐藏状态向量之间的距离,以保留差异最大的想法;汇总智能体接收所有成员的 KV cache,使想法在潜空间中自然交叉。在数学发现与科学计算的 21 个问题上,该框架取得最高平均分,达到其他先进框架 60 分钟才能取得的最佳成绩,中位耗时仅 3 到 8 分钟;在部分问题上,使用 Qwen3 8B 的 SwarmEvolve 改进了 AlphaEvolve 借助前沿大模型首次找到的解。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

用潜空间通信替代文本推理

LLM 引导的进化搜索依靠智能体反复改进程序、组合高分方法,但每轮都要生成很长的文本思维链,并且为维持种群多样性必须重复生成,导致整个过程偏慢。SwarmEvolve 的做法是让每轮数百个低成本智能体以群体方式工作,推理过程停留在潜空间,不解码成文字,成员之间直接传递 KV cache 来交换信息。这样省去了把内部表示转成文本再重新读入的开销,通信内容也保留在向量层面。

分工、筛选与想法交叉

每个群体从不同角度研究同一个问题,形成视角上的分散。为避免群体趋同,新颖性过滤器直接计算智能体隐藏状态向量之间的距离,据此保留彼此差异最大的想法。想法交叉不需要显式重组文本:汇总智能体接收全部群体成员的 KV cache,不同来源的信息在潜空间中自然合并。这一机制把多样性维持和方案组合都放在向量层面完成。

21 个问题上的耗时对比

在数学发现与科学计算领域的 21 个问题上,SwarmEvolve 的平均分最高。更关键的指标是耗时:其他先进框架需要 60 分钟才能达到的最佳成绩,SwarmEvolve 的中位用时只有 3 到 8 分钟。作者还报告,在若干问题上,搭配 Qwen3 8B 的 SwarmEvolve 改进了 AlphaEvolve 最初借助前沿大模型找到的解,说明低成本模型组成的潜空间群体在部分任务上可以超过更强模型驱动的既有方案。作者将这一路线概括为面向科学问题程序搜索的快速、低成本方法。

为什么值得看

它把智能体协作从文本对话搬到潜空间,用 KV cache 传递替代长思维链生成,在 21 个问题上把达到最佳解的时间从…

Qwen大模型智能体

信源1 家

  1. [1]arXiv cs.AI一手信源SwarmEvolve: Latent Agent Swarms for Evolutionary Discovery and Optimization

关键事实

  • 每轮数百个低成本智能体在潜空间中推理,不解码为文本,通过传递 KV cache 共享信息[1]

  • 新颖性过滤器通过测量智能体隐藏状态向量之间的距离,保留差异最大的想法[1]

  • 汇总智能体接收所有群体成员的 KV cache,使想法在潜空间中自然交叉[1]

  • 在 21 个数学发现与科学计算问题上取得最高平均分,达到其他先进框架 60 分钟成绩的中位耗时为 3 到 8 分钟[1]

  • 在部分问题上,使用 Qwen3 8B 的 SwarmEvolve 改进了 AlphaEvolve 用前沿大模型首次找到的解[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。