AI 圈大事记

Anthropic 发布 Claude Platform 降本指南

工具AI 评分 65/100Claude:Blog(网页)待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手

本条选题由第三方线索发现;线索方提供的摘要未被采用,本页内容依据下方信源整理。线索来源:AIHOT

Anthropic 发布 Claude Platform 降本指南,指出通过提高提示词缓存命中率、移除反模式及校准任务投入,可在不牺牲性能的前提下降低成本。提示词缓存机制通过保存内部状态避免重复计算,读取费用仅为完整输入价格的一小部分。指南建议避免中途更改设置、保持前缀稳定、注意工具定义顺序及分支对话的缓存共享,以防止缓存失效。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

降本核心策略

Anthropic 针对 Claude Platform 发布了降本指南,旨在打破性能与成本必须权衡的固有观念。官方发现,许多应用可以通过三个关键修复手段在保持甚至提升性能的同时削减成本。首先是最大化提示词缓存命中率,这是降低输入处理开销的最有效手段。其次是升级到前沿模型时移除提示词中的反模式,避免旧有的低效写法影响新模型发挥。最后是根据任务校准投入,确保计算资源与任务难度相匹配。这些指导原则已被整合进 claude-api 技能中,方便开发者直接调用。

缓存机制原理

提示词缓存机制的核心在于避免重复计算昂贵的预填充步骤。在生成响应前,模型需要将提示词处理为内部工作状态,这一过程消耗了大量资源。缓存机制保存了这一键值状态,当新的请求以相同的前缀开始时,模型直接读取缓存而非重新计算。由于缓存读取的计费标准远低于完整输入价格,因此对于包含重复上下文的应用场景,能显著降低开支。这一机制特别适用于多轮对话或包含大量固定系统指令的场景。

缓存失效风险

要有效利用缓存,开发者必须注意几个限制条件。缓存绑定于特定模型,且要求提示词前缀在字节级别完全一致。任何细微的差异都会导致缓存失效。例如,动态时间戳或 ID 等易变值如果包含在系统提示词中,每次调用都会发生变化从而破坏缓存。此外,工具定义的顺序也至关重要,使用 Messages API 时工具定义渲染在顶部,任何顺序变动都会导致缓存无法命中。分支对话也只有在模型、前缀和 effort 设置完全一致时才能共享父级缓存。

实践避坑指南

为了避免缓存意外失效,指南提供了具体的实践建议。开发者应避免在对话中途更改 effort 或思考设置,因为这些设置会渲染在内容之前,属于缓存前缀的一部分。不过,Claude Opus 5 和 Fable 5.1 模型支持中途更新 effort 而不破坏缓存。同时,要警惕同步工具调用和生命周期超过缓存生存时间的子代理。如果代理在长时间运行的工具调用上阻塞,缓存可能在结果返回前过期,导致下一轮必须以正常输入价格的 1.25 倍重写缓存。

为什么值得看

提供具体技术手段帮助开发者显著降低 API 调用成本。

Anthropic字节Claude

信源1

  1. [1]Claude:Blog(网页)线索来自 AIHOTAnthropic 发布 Claude Platform 降本指南并更新 claude-api 技能

关键事实

  • 通过最大化提示词缓存命中率、移除反模式及校准任务投入可降低成本。[1]

  • 提示词缓存读取费用仅为完整输入价格的一小部分。[1]

  • 缓存要求字节级完全匹配,且绑定特定模型并有生存时间限制。[1]

  • 中途更改 effort 设置或包含动态值会导致缓存失效。[1]

相关 · 工具

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。