TeamGym 发布:评估语言模型智能体团队决策的新环境

论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

研究者提出 TeamGym,一个用于评估和训练基于语言模型的智能体进行团队决策的环境,语料来自法律、金融、医疗和软件工程等真实领域。TeamGym 提出「关键信息」方法:识别一组最小事实,其中每条都必要、合起来足以支撑正确决策,从而能控制关键信息在参与者之间的分布,并追踪智能体识别与整合这些信息的效果。在 8 个语言模型、12 个源语料上的测试显示,把关键信息分散给多个参与者后,成功率比把同样信息交给单个模型平均低 22.9 个百分点;若参与者还需自行从原始材料中提取关键信息,成功率再降 19.9 个百分点。用团队决策损失做强化学习训练,可提升最终决策质量,并在参与、发言选择与沟通上出现自发协调。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

环境与关键信息方法

TeamGym 面向的是现实中常见的团队决策场景:正确结论依赖分散在多名参与者手中的信息,而当前语言模型智能体多在孤立条件下训练和评测。该环境从法律、金融、医疗、软件工程等真实语料构建决策任务,并提出识别「关键信息」的流程——找出一组最小事实集合,集合中每一条都不可缺少,而全部具备时足以得出正确决策。有了这一定义,环境既能人为控制关键信息如何分配到各参与者,也能追踪智能体在协作中是否找到并整合了这些信息,把「沟通是否有效」变成可测量的量。

两个可量化的差距

在 8 个语言模型、12 个源语料的评测中,作者记录了两类损失。其一是沟通差距:把同样的关键信息拆给多名参与者,成功率相对全部交给单个模型平均下降 22.9 个百分点,说明现有智能体不擅长把各自掌握的信息有效汇合。其二是检索差距:当参与者不能直接拿到关键信息、而要从原始材料中自行识别和抽取时,团队成功率再降 19.9 个百分点。两个数字分别对应「说清楚」和「找出来」两个环节,为后续改进指明了具体位置。

用强化学习补短板

针对上述缺陷,作者用 TeamGym 以团队决策损失为奖励做强化学习训练。两组策略训练实验显示,训练后最终决策质量提升;更值得注意的是,尽管奖励只评估最终决策、并不直接奖励协作行为,智能体仍自发出现了协调现象,体现在谁参与、谁发言以及沟通内容上。这说明把团队结果作为唯一优化目标,也可能诱导出分工与信息交换行为,为多智能体训练提供了一条不依赖人工设计协作奖励的路径。

为什么值得看

量化了多智能体协作中的信息共享与检索损失,并给出可训练的环境与指标,对做多智能体系统的团队有直接参考价值。

智能体强化学习

信源1 家

  1. [1]arXiv cs.AI一手信源TeamGym: A Gym for Team Decision-Making by AI Agents with Distributed Information

关键事实

  • TeamGym 的语料来自法律、金融、医疗和软件工程等真实领域[1]

  • 关键信息指一组最小事实,每条必要且合起来足以支撑正确决策[1]

  • 实验覆盖 8 个语言模型和 12 个源语料[1]

  • 关键信息分散给参与者后,成功率比交给单个模型平均低 22.9 个百分点[1]

  • 参与者需自行提取关键信息时,成功率再降 19.9 个百分点[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。