论文提出市场式后训练,让去中心化智能体群自学编排
论文AI 评分 78/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
一篇投稿于 arXiv 的论文提出市场式后训练(MPT),用于在去中心化智能体群中同时学习动作策略与自我编排。智能体通过出价表达参与意愿,出价决定谁行动,集体结果则提供局部训练信用,因此个体能力与参与模式可以一起演化,无需中心协调者。作者在具身制作、机器人导航和深度研究三类任务上评估,结果显示该方法优于单体式后训练,且学习到的自我编排在相同动作策略下优于其他协调策略。消融实验表明动作与出价都能从学习中获益,学到的出价还能提供更有效的动作训练信号。训练后的群体对相关任务适应更快,推理时群体规模越大表现越好,智能体掉线带来的性能损失也更小。代码与训练模型已公开。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载把编排也交给学习
现有多智能体系统常在固定的编排结构内训练智能体,个体能力的习得与集体行为的组织被拆成两件事。这篇论文提出的市场式后训练(MPT)试图把两者合到一起:在去中心化的智能体群里,动作策略与自我编排被联合学习。具体机制是出价——每个智能体表达自己参与任务的意愿,出价结果决定由谁实际执行动作,而集体产生的成果反过来为个体提供局部的训练信用。这样一来,谁参与、参与多少,与每个智能体自身会做什么,就在同一套训练流程里相互适配,不再需要一个中心协调者来指派分工。
三类任务上的验证
作者在具身制作、机器人导航和深度研究三个场景中做了评估。与单体式后训练相比,MPT 取得更好的结果,并且实验确认智能体的参与模式确实会随着学习过程发生变化,而不是一开始就固定下来。在动作策略相同的前提下,学习得到的自我编排表现优于其他协调策略,说明收益不只来自个体能力变强,也来自组织方式本身被学好了。消融实验进一步显示,动作与出价两部分都能从学习中获益,而且学到的出价还能为动作训练提供更有效的信号。
规模、复用与掉线
论文还报告了超出原始训练目标的表现:经过训练的智能体群对相关任务适应得更快;在推理阶段,群体规模越大,整体表现越好。同时,规模更大的群体在遇到智能体掉线时,性能损失也更小。作者据此认为,学习到的自我编排为去中心化智能体群带来了复用、扩展与鲁棒性方面的支持。代码与训练好的模型已经公开,可供复现与后续研究使用。
为什么值得看
多智能体协作通常依赖固定编排结构,这项工作把「谁参与」也变成可学习对象,并给出跨任务与规模化的验证。
智能体论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
