TradeWar 基准发布:以执行结果评估 LLM 贸易谈判
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载把谈判落到结算环节
现有面向大模型智能体的评测,多数只盯着对话双方是否达成一致,却很少追问谈成的条款在真正执行后能否产生价值。TradeWar 这一基准把多国场景下的谈判对话转成具体的关税与贸易份额政策,在结算阶段施加产能与网络方面的约束,再用一个经济健康指数(EHI)衡量最终结果。也就是说,智能体在对话里许下的承诺要经过执行环节的检验,评测对象从“谈没谈成”变成“谈成之后结果如何”。
两种智能体的成绩对照
论文给出的对照里,采用零样本思维链提示的 PromptLLM 拿到了 75% 的达成率,但最终 EHI 只有 57.1(乘以 100 计)。作者提出的 TACTIC 走的是另一条路:它不更新基础模型的权重,而是借助此前的经验、对手的行为以及过往结算结果,在多个回合之间反复调整谈判策略。在 20 个连续回合、三个随机种子的设定下,TACTIC 的最终 EHI 从 58.2 提升到 73.2;作为对照,去掉跨回合更新能力的消融版本为 65.2。材料同时提到 TACTIC 达到 68.8,但未说明该数值对应的具体口径。
冲击场景下的稳定性
材料还考察了两类外部冲击:技术管制与能源危机。在这两种情形下,TACTIC 的性能下降幅度都小于 PromptLLM 和 MemoryLLM。作者据此认为,仅靠思维链推理与交互记忆,并不足以应对延迟出现的执行反馈;把结算结果纳入策略调整,才有助于改善 TradeWar 中的长程谈判表现。这一结论指向的是评测方式本身:达成率之外,执行后的结果同样需要被纳入衡量。
为什么值得看
把谈判评测从「是否谈成」推进到「执行后是否创造价值」,为多轮智能体评测提供可复用的结算式思路。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
