多智能体交替会话框架 HMA 在 MLE-bench 达 78.2% 奖牌率
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载单智能体长程执行的两个问题
论文观察到,现有基于大模型的长程机器学习工程智能体通常依赖上下文工程,通过定制 harness 管理工具、技能和积累的经验。但随着单会话执行时间变长,智能体的推理强度会下降,进展也随之放缓,作者把这一现象称为长程减速。另一个现象是 harness 陈旧:当底层模型能力提升后,这些定制 harness 带来的收益会消失。作者由此判断,这类收益未必能跨模型版本持续存在,因此转向工作流层面的思路,让智能体在不同会话之间接续彼此的工作,而不是把所有内容压进一个会话。
交替会话的理论刻画
作者把交替进行的智能体会话建模为 context-reset 半马尔可夫决策过程(CR-SMDP)。在这个框架下,论文给出了交替策略能够超过单智能体参考上限的充分条件,推导出实验预算的显式界,并刻画了在什么条件下设置会话上限仍能保留这种优势。基于这一分析,作者提出 Humanize MLE Agents(HMA):两个智能体在共享工作区上交替工作,每个会话限制在最多 k 次实验,会话之间重置上下文,不额外引入任务专用的 harness,也不补充先验知识。
MLE-bench 上的实测结果
在 MLE-bench 的 75 个 Kaggle 任务上,HMA 取得 78.2% 的 any-medal 率,这一成绩为当前最优,比最强的开源基线高出 8.0 个百分点,而使用的时间预算只有后者的四分之一。作者还测试了跨配对的一般性:在覆盖五组异构智能体配对的六种配置中,HMA 相对各组成基线的 any-medal 率平均提升 6.4 个百分点。此外,论文附带一个内核优化案例,达到 878 个 cycle,与社区排行榜首位的差距在 1.6% 以内,说明该方法不局限于 MLE 场景。论文共 32 页、10 张图,并提供了代码链接。
为什么值得看
给出多智能体交替会话超越单智能体上限的条件与实测数据,对做长程 MLE 智能体的人有直接参考价值。
信源1 家
关键事实
论文提出 HMA,让两个智能体在共享工作区交替执行,每个会话最多 k 次实验并在会话间重置上下文[1]
作者将交替会话建模为 context-reset 半马尔可夫决策过程,并给出交替超过单智能体参考上限的充分条件与实验预算界[1]
在 MLE-bench 的 75 个 Kaggle 任务上,HMA 的 any-medal 率为 78.2%,比最强开源基线高 8.0 个百分点,时间预算为其四分之一[1]
在五组异构智能体配对的六种配置中,HMA 的 any-medal 率平均比各组成基线高 6.4 个百分点[1]
作者指出单会话执行变长会出现推理强度下降与进展放缓的长程减速,且自定义 harness 的收益随底层模型变强而消失[1]
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
