CliffCompaction自动压缩技术降低长上下文智能体成本50%
论文AI 评分 78/100arXiv cs.AI
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
针对长跨度编码智能体面临的海量上下文与窗口限制,CliffCompaction提出一种自动压缩方案。该技术仅截断或丢弃内容而绝不改写,且每次仅处理原始输入并丢弃前次压缩结果,从而避免上下文偏移累积。此法将成本最高削减一半,在Terminal-Bench上以低于两次完整运行的花费提升超10个百分点;并行测试时让Kimi K2.6以更低代价追平Opus 4.7并超越Opus 4.6与GPT-5.3 Codex。在KernelBench上,经200和400步后分别实现2.23倍与3.58倍的CUDA内核加速,超越专用搜索与训练智能体。其实现已开源,适配Claude Code等框架。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载核心机制与防偏移设计
智能体处理复杂任务常需百万级token上下文,受限于窗口须跨会话压缩。CliffCompaction作为自动压缩技术,其核心在于保持压缩信息保真度:仅对内容进行截断或丢弃,绝不改写或重写。同时,该法绝不进行二次压缩,每轮操作仅针对原始内容,并丢弃先前压缩输出,从而彻底防止上下文偏移的累积。这种机制使得智能体能够在超过百万token的会话中维持持续学习能力。
性能收益与模型对比
在成本与性能权衡上,该技术于有限上下文内将成本最高削减一半。在Terminal-Bench基准中,单次 rollout 的节省使得测试时扩展的性价比大幅提高,以不足两次完整上下文运行的花费,换取超10个百分点的提升。在并行测试时扩展场景下,CliffCompaction助力Kimi K2.6以更低代价追平Opus 4.7,并超越Opus 4.6与GPT-5.3 Codex。
内核加速与开源实现
在KernelBench评测中,该通用压缩技术展现出超越专用搜索算法及受过训智能体的表现。经过200步与400步的迭代,分别达成2.23倍与3.58倍的CUDA内核加速。为便利实际应用,作者开源了一个与脚手架无关的API代理实现版本,能够直接配合Claude Code、Codex及其他测试工具框架使用。
为什么值得看
解决长上下文智能体的高成本与信息漂移痛点,显著提升测试时扩展的性价比与跨会话持续学习能力。
GPTClaude智能体API
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
