Claude Platform 公测 message threads,长会话首…
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
本条选题由第三方线索发现;线索方提供的摘要未被采用,本页内容依据下方信源整理。线索来源:AIHOT
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载省掉的是重发而非读取
message threads 改变的是请求的构造方式。以往智能体每一轮都要把此前所有消息和工具结果重新发给模型,对话累积到几十万 token 后,仅传输与预处理就要占用可观时间。启用后,首个请求携带完整对话并开启一个线程,后续请求只包含新增消息与上一条响应的 ID。需要说明的是,Claude 每轮依然读取完整对话,因此 token 消耗与计费口径没有变化,被压缩的是首字延迟这一项。官方给出的数据是:在 Claude Code 多数用户默认开启的情况下,50 万至 100 万 token 区间的请求首字延迟中位数下降约 35%。上下文越长,这一机制的收益越明显。
线程生命周期与数据存放
线程在两次请求之间由平台保存在内存中,内容加密且不写入磁盘。一个线程在最后一次请求结束 5 分钟后过期,此后客户端需要重新发送完整对话来建立新线程。这一设计意味着它面向的是持续活跃的会话,而不是隔很久才回来一次的对话;对于中断时间较长的任务,重新建立线程的成本需要纳入考虑。接入方式是在 Messages API 请求中增加 thread 参数,首个请求建立线程,之后每轮附带新增消息和上一条响应 ID。
适用场景与开放范围
官方点名的适用对象包括三类:长时间运行的编码智能体,每次工具返回或文件修改都会推高上下文;计算机操作类智能体,截图可以留在原线程中,不必每轮重新上传;文档与图片密集的工作流,请求体积因此变小。该功能已在原生 Claude Platform 进入公测,同时覆盖 AWS 上的 Claude Platform、Microsoft Foundry 中的 Claude 以及 Google Cloud 上由 Anthropic 托管的 Claude 模型,按标准 token 价格与现有速率限制执行。
为什么值得看
长会话智能体的延迟瓶颈有了平台级解法,做编码、计算机操作类智能体的团队可直接评估接入成本。
信源1 家
关键事实
相关 · 产品
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
