Claude Platform 公测 message threads,长会话首…

产品AI 评分 78/100Claude:Blog(网页)待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

本条选题由第三方线索发现;线索方提供的摘要未被采用,本页内容依据下方信源整理。线索来源:AIHOT

Claude Platform 上线 message threads 公测。开启后,智能体每轮只发送上一轮之后的新增消息和上一条响应的 ID,不再重发整段对话历史,从而缩短首字延迟。Claude Code 多数用户默认开启,50 万至 100 万 token 的请求首字延迟中位数下降约 35%。线程在两次请求之间保存在内存中并加密,不写入磁盘,最后一次请求后 5 分钟过期,客户端需重发完整对话开启新线程。由于 Claude 每轮仍读取完整对话,token 用量不变。该功能已在原生 Claude Platform 及 AWS、Microsoft Foundry、Google Cloud 上的 Claude 平台开放,按标准 token 价格计费。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

省掉的是重发而非读取

message threads 改变的是请求的构造方式。以往智能体每一轮都要把此前所有消息和工具结果重新发给模型,对话累积到几十万 token 后,仅传输与预处理就要占用可观时间。启用后,首个请求携带完整对话并开启一个线程,后续请求只包含新增消息与上一条响应的 ID。需要说明的是,Claude 每轮依然读取完整对话,因此 token 消耗与计费口径没有变化,被压缩的是首字延迟这一项。官方给出的数据是:在 Claude Code 多数用户默认开启的情况下,50 万至 100 万 token 区间的请求首字延迟中位数下降约 35%。上下文越长,这一机制的收益越明显。

线程生命周期与数据存放

线程在两次请求之间由平台保存在内存中,内容加密且不写入磁盘。一个线程在最后一次请求结束 5 分钟后过期,此后客户端需要重新发送完整对话来建立新线程。这一设计意味着它面向的是持续活跃的会话,而不是隔很久才回来一次的对话;对于中断时间较长的任务,重新建立线程的成本需要纳入考虑。接入方式是在 Messages API 请求中增加 thread 参数,首个请求建立线程,之后每轮附带新增消息和上一条响应 ID。

适用场景与开放范围

官方点名的适用对象包括三类:长时间运行的编码智能体,每次工具返回或文件修改都会推高上下文;计算机操作类智能体,截图可以留在原线程中,不必每轮重新上传;文档与图片密集的工作流,请求体积因此变小。该功能已在原生 Claude Platform 进入公测,同时覆盖 AWS 上的 Claude Platform、Microsoft Foundry 中的 Claude 以及 Google Cloud 上由 Anthropic 托管的 Claude 模型,按标准 token 价格与现有速率限制执行。

为什么值得看

长会话智能体的延迟瓶颈有了平台级解法,做编码、计算机操作类智能体的团队可直接评估接入成本。

GoogleMicrosoftClaude智能体API

信源1 家

  1. [1]Claude:Blog(网页)线索来自 AIHOTClaude Platform 推出 message threads 公测,降低长会话智能体延迟

关键事实

  • message threads 在 Claude Platform 进入公测,通过 Messages API 的 thread 参数启用[1]

  • Claude Code 多数用户默认开启该功能,50 万至 100 万 token 请求的首字延迟中位数下降约 35%[1]

  • 线程在请求间隔存于内存并加密、不落盘,最后一次请求后 5 分钟过期[1]

  • Claude 每轮仍读取完整对话,token 用量与计费不变[1]

  • 该功能同时可在 AWS、Microsoft Foundry 与 Google Cloud 上的 Claude 平台使用[1]

相关 · 产品

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。