SEAR:让语言模型智能体自主进化机器人技能

论文AI 评分 78/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇新论文提出 SEAR 框架与基准,研究语言模型智能体能否真正让机器人自我改进。智能体有三种运行方式:编写控制代码作为策略、在控制回路中实时行动、或作为研究者微调视觉-语言-动作模型。基准加入对照设计,把保留的经验与重复尝试、熟悉任务、模拟器特权状态、更大预算和运气区分开。研究覆盖七个前沿语言模型、330 个模拟任务和五个物理任务,累计超过四年的智能体运行时间。作者发布基准与代码库以支持后续研究。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

框架的三种运行方式

SEAR 把语言模型智能体放进机器人任务里,允许它以三种方式工作。第一种是代码即策略,智能体写出控制代码,这段代码直接充当机器人的策略。第二种是智能体即策略,它进入控制回路实时行动。第三种是自动研究,智能体扮演研究者角色,去微调一个视觉-语言-动作模型。这三种模式对应了从写代码、到实时控制、再到改进底层模型的不同介入深度,论文把它们放在同一个框架下比较。作者同时发布基准与代码库,供后续研究使用。

基准如何排除干扰

论文关心的问题是:智能体到底是在学习,还是只是尝试的次数更多。为此基准加入了一组对照,把真正保留下来的经验,与重复尝试、熟悉任务、模拟器特权状态、更大的时间预算以及运气区分开。实验规模覆盖七个前沿语言模型、330 个模拟任务和五个物理任务,累计智能体运行时间超过四年。这样的设计让「性能提升」不再只归因于多跑几次,而是能看出经验是否被保留并复用。

三条主要发现

第一,机器人智能体的学习曲线同时取决于总时间预算和任务相对模型能力的难度。任务越难,长会话越值得;任务较容易时,反复短尝试的效果差不多。第二,控制代码和共享例程能跨任务、跨模拟器迁移,而针对单个任务的专用方案不能。在真实机器人上,智能体自行设计的练习与人类设计的新场景之间存在性能差距。第三,不同模型的有效进化方式不同,有的擅长实时行动,有的擅长先写代码;纯文本模型的表现能与同类多模态模型持平,感知有助于错误评估,但智能体推理与工具使用可能更重要。

为什么值得看

它给出区分「真学习」与「多试几次」的评测方法,并揭示代码与共享例程可跨任务、跨模拟器迁移。

多模态智能体微调论文

信源1 家

  1. [1]arXiv cs.AI一手信源SEAR: Self-Evolving Agentic Robotics

关键事实

  • 论文提出 SEAR 框架与基准,围绕智能体是否真正学习、所学能否迁移到新任务新模拟器和真实机器人两个问题[1]

  • 框架支持三种模式:代码即策略、智能体即策略、以及微调视觉-语言-动作模型的自动研究模式[1]

  • 基准加入对照,把保留经验与重复尝试、熟悉任务、模拟器特权状态、更大预算和运气区分开[1]

  • 实验覆盖七个前沿语言模型、330 个模拟任务和五个物理任务,累计超过四年智能体运行时间[1]

  • 控制代码与共享例程可跨任务和模拟器迁移,任务专用方案则不能;纯文本模型表现可与同类多模态模型相当[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。