LangChain 详解 Deep Agents 五项上下文管理技术

工具AI 评分 72/100LangChain:Blog(RSS)待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

本条选题由第三方线索发现;线索方提供的摘要未被采用,本页内容依据下方信源整理。线索来源:AIHOT

LangChain 发布博客,介绍其开源 agent harness Deep Agents 如何应对长任务中上下文膨胀导致的准确率下降问题。该方案把上下文移出活跃窗口而非删除,包含五项技术:将大型工具结果与用户消息写入文件系统、临近上限时把旧消息压缩成摘要、以技能形式沉淀任务知识等。agent 记忆以普通文件形式存放在用户可控的存储中,因此更换模型或供应商时已积累的内容仍可保留。这些技术通过名为 middleware 的机制注入 agent 运行过程。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

上下文膨胀为何拖累表现

博客用考前突击复习作比:学得越多,前面章节越容易记不住。agent 面对长任务时同样如此,指令、工具返回结果、文件等信息不断累积,最终远超模型上下文窗口能舒适容纳的量。模型携带的历史、噪声与工具输出越多,准确率和推理表现往往越差,LangChain 把这一现象称为 context rot。因此问题的关键不是让模型记住一切,而是让它在需要时拿到恰当的上下文。

两类处理思路

文中把应对手段归为两类:一是阻止不必要的信息进入上下文窗口,二是对已经进入窗口的内容进行管理与过滤。harness 需要按任务在合适时机把合适的上下文交给模型。博客指出,把 harness 接好并不容易,需要大量工作。Deep Agents 正是 LangChain 为此提供的开源 harness,它包裹用户选定的模型,把上下文移入文件、摘要或另一个 agent,使主 agent 只携带必要内容,并在需要时取回原始数据。

五项技术与中间件

已披露的技术包括:Offloading,把大型工具结果和用户消息保存到文件系统,模型只看到预览;Summarization,在对话接近上下文上限时把较早的消息压缩为摘要;Skills,用于沉淀任务相关的知识。这些技术通过名为 middleware 的机制注入 agent 的运行过程。博客强调,被移出活跃窗口的上下文并未被删除,需要时仍可恢复。

记忆存放与模型切换

Deep Agents 中 agent 的记忆以普通文件形式存放在用户自己控制的存储里。这一设计带来的直接好处是:更换模型或供应商时,agent 已经学到的东西可以完整保留,不必因底层模型变动而重建记忆。

为什么值得看

长任务 agent 的上下文管理是落地痛点,文中给出可复用的具体做法与开源实现。

信源1 家

  1. [1]LangChain:Blog(RSS)线索来自 AIHOTLangChain 详解 Deep Agents 的上下文工程:如何记住信息而不塞满上下文窗口

关键事实

  • Deep Agents 是 LangChain 的开源 agent harness,用五项技术把上下文移出活跃窗口而不删除。[1]

  • 上下文膨胀会带来准确率与推理能力下降,文中称之为 context rot。[1]

  • agent 记忆以普通文件形式存放在用户可控的存储中,切换模型或供应商后已学内容仍保留。[1]

  • 这些技术通过 middleware 机制注入 agent 的运行过程。[1]

  • 处理手段分为两类:阻止无用信息进入窗口,以及管理过滤已在窗口中的内容。[1]

相关 · 工具

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。