AI 圈大事记

Cursor优化agent长时运行上下文,用户token成本降7%

产品AI 评分 65/100Cursor Blog待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手

本条选题由第三方线索发现;线索方提供的摘要未被采用,本页内容依据下方信源整理。线索来源:AIHOT

针对agent执行任务时间变长且上下文增多的趋势,Cursor改进了agent harness的请求组装与上下文复用机制,在保持质量的前提下使用户token开销降低7%。核心优化包括:精简系统提示词,因模型能力提升不再需要大量防错指令,系统提示词被削减约66%;按需加载工具定义,而非每次请求都附带所有工具描述。此外,团队依赖大规模用户A/B测试而非仅靠eval来优化harness,因为eval常代表难题,无法反映真实请求分布。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

agent长时运行趋势与降本

随着agent逐渐成熟并处理更复杂的任务,其运行时间变长,且在步骤间需携带更多上下文。这使得上下文的组装与管理变得尤为关键。过去几个月,Cursor通过改进agent harness来应对这一变化。该harness能直接控制请求组装方式、上下文复用逻辑以及跨agent的任务分配。这些层面的改动最终在保持agent质量不变的情况下,将用户的token开销降低了7%。

精简系统提示词与按需加载

系统提示词和工具定义是每轮请求中由Cursor提供的上下文主要部分。早期模型能力较弱时,系统提示词需包含大量D,大量工具,大量防错指令(如禁止F长F3禁止'You-输出长哈希#G'或表情,大量表情,大量符)。随着模型能力增强,<|cut+|>模型<|cut+|>能,;仅定义)定义工具行为即可让其遵守,无需冗长指令。这使得Cursor<|cut+|>E<|cut+|>精简了约66%的系统提示词。同时;同时,D)工具定义随功能增加而膨胀,Cursor将其改为按需加载,避免每次请求都携带全量工具描述。>。0

基于A/B测试的迭代验证

在优化harness时,Cursor依赖大规模用户群体的A/B测试,而非仅靠评估集(evals)。团队认为,evals虽能作为快速代理,但往往代表“困难”问题,无法恰当反映用户真实请求的分布。此外,随着新模型出现,团队会持续增删指令以提供新引导,这些经验也会反哺未来模型的训练。

为什么值得看

给出大模型应用层降本实操:精简提示词与按需加载工具,并用A/B测试替代eval验证效果。

Cursor

信源1

  1. [1]Cursor Blog线索来自 AIHOTCursor 提升 agent 长时运行 token 效率,用户成本降低 7%

关键事实

  • Cursor通过改进agent harness,使用户token成本降低7%且不损失质量[1]

  • 因模型能力提升,Cursor精简了约66%的系统提示词[1]

  • Cursor将工具定义改为按需加载,而非在每次请求时全部附带[1]

  • 团队依靠大规模用户A/B测试优化harness,认为eval无法反映真实请求分布[1]

相关 · 产品

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。