Claude API 提示词缓存(Prompt Caching)叠加批处理(Batches)降本架构与 TTL 选择

单开批处理省一半、单开提示词缓存省九成,这两项在 Claude API 里能不能叠在一起用?本文按 Anthropic 官方文档拆解 5m 与 1h 两档 TTL 写入费率对比、Batches 叠加 1 小时缓存的 Python 代码与乱序命中调优。

NNathaniel bigo··原创首发·AI 辅助撰写
8 分钟读完
资料核对于 2026-11-19 · 依据官方文档与公开资料整理 其他 账号

结论先说

  1. Prompt Caching 和 Message Batches 完全可以合法叠加,是官方离线降本的王炸组合:异步批处理本身享半价折扣,再加上共享长前缀命中缓存的高额折扣,大批量固定规则任务的综合输入成本能压到常规同步调用的零头。
  2. 在异步批处理里强烈建议把缓存设为 "ttl": "1h"(1 小时):因为 Batches 是后台队列异步分波调度的,跨度一旦超过 5 分钟,默认的 "5m" 缓存就会在半途过期导致重复写入扣费。
  3. 批内缓存属于「尽力而为(Best-effort)」并发匹配:如果第一波几十个请求在同一毫秒并发落地而缓存尚未写完,前几个请求可能会同时触发写入,建议可先发单条同步请求「预热建好缓存」再投递大批量任务。
  4. 验证提示词模板或领取会员附赠 API 额度:上线大规模批处理前建议先在网页端调准规则,或利用高阶订阅附赠的月度开发额度试跑,可查看本站 Claude Max 充值说明 与 Claude Pro 充值页。

Claude 缓存两档 TTL 与批处理叠加

图:本站根据 Anthropic 官方缓存与批处理文档 整理的费率倍数与场景对比图

本文根据 Anthropic 官方开发者文档《Prompt caching》《Message Batches》(platform.claude.com/docs)整理,资料核对于 2026-11-19。配图为本站整理的示意图,不是界面截图。本站(bigolab.com)不是 Anthropic 官方网站。

适用于谁

  • 要在夜间离线跑几千甚至几万条工单分类、简历初筛或文档结构化提取,每条请求都挂着同一套两万字规则手册的后端工程师;
  • 已经分别看过提示词缓存(本站 222 号文)和异步批处理(本站 1844 号文),想知道把两者叠在一起到底怎么写代码、为什么默认 5 分钟缓存在大批次里容易半路断掉的人;
  • 纠结 cache_control 里的 "ttl": "5m" 和 "ttl": "1h" 写入差价怎么算回本的架构师。

一、5m 与 1h 两档 TTL 怎么算回本,为什么批处理偏爱 1h

如果你还不熟悉两个单项基础概念,可以先回顾本站 Claude 提示词缓存基础教程 与 Claude API Message Batches 批处理入门。把两者合体时,核心算术题就在 ttl 参数上:

  • 默认 5 分钟档("ttl": "5m",省略不填即为此档):首次写入缓存按基础输入价的 1.25 倍 计费,只要 5 分钟内有下一次请求命中,倒计时就自动重置回 5 分钟。非常适合白天每秒都有用户访问的在线客服机器人——只付一次 1.25 倍写入费,能靠源源不断的流量续命一整天。
  • 扩展 1 小时档("ttl": "1h"):首次写入按基础输入价的 2 倍 计费,换来整整 60 分钟免刷新的稳固驻留期。非常适合两种情况:一是人类每隔二十分钟才回来审一次方案的慢节奏代码助手;二是后台排队执行耗时十几到几十分钟的 Message Batches 异步任务。只要同一批次里有三四条以上的请求成功读到缓存,多付的那一点首次写入费瞬间就赚回来了。
长文档精读与高频生产力订阅入口:无论是往 Projects 挂载几十份背景资料、审阅几十页英文商业合同,还是连续绘制复杂架构图,免费版短窗口配额极易受限。国内用户可通过本站支付宝、微信支付或 AlipayHK 免上号自助开通 Claude Pro 会员(直达单品 Pro iOS 自助充值)或大额度 Claude Max 充值。

二、Python 完整实战代码(预热缓存 + 投递 1h 批处理 + 核验命中)

批处理叠加 1 小时缓存落地四步

图:本站根据 Claude API 官方文档 整理的四步架构落地示意图

为了让整批几千条请求几乎百分之百命中读取折扣、避开首波并发重复写入,工程上最稳的做法是先用一条轻量请求把 1 小时缓存热好,紧接着立刻把整包 Batch 推进去(API 密钥准备见 Claude Console 获取 API Key 指南,计算前缀有没有达标可用 Count Tokens 接口教程):

python
import time
import anthropic
from anthropic.types.message_create_params import MessageCreateParamsNonStreaming
from anthropic.types.messages.batch_create_params import Request

client = anthropic.Anthropic()
MODEL_ID = "claude-sonnet-5-5"

# 注意:共享长前缀必须达到对应模型的最低起存 Token 门槛,且所有请求中字节级一字不差
shared_system_blocks = [
    {
        "type": "text",
        "text": open("enterprise_classification_manual.md", encoding="utf-8").read(),
        "cache_control": {"type": "ephemeral", "ttl": "1h"},
    }
]

# 第一步(推荐技巧):先发 1 条极短同步请求完成缓存首次写入预热
client.messages.create(
    model=MODEL_ID,
    max_tokens=16,
    system=shared_system_blocks,
    messages=[{"role": "user", "content": "回复就绪即可"}],
)

# 第二步:组装共享完全相同 system 前缀的大批量异步请求
tickets = [("ticket-001", "退款一直没到账"), ("ticket-002", "发票抬头填错了怎么重开")]
requests_payload = [
    Request(
        custom_id=cid,
        params=MessageCreateParamsNonStreaming(
            model=MODEL_ID,
            max_tokens=512,
            system=shared_system_blocks,
            messages=[{"role": "user", "content": body}],
        ),
    )
    for cid, body in tickets
]

batch = client.messages.batches.create(requests=requests_payload)

# 第三步:轮询等待异步批处理变为 ended 并核查缓存读取指标
while True:
    status = client.messages.batches.retrieve(batch.id)
    if status.processing_status == "ended":
        break
    time.sleep(20)

for item in client.messages.batches.results(batch.id):
    if item.result.type == "succeeded":
        u = item.result.message.usage
        print(item.custom_id, "缓存写入:", u.cache_creation_input_tokens, "缓存读取命中:", u.cache_read_input_tokens)

常见问题

问:我已经照抄加上了 cache_control,为什么跑完看 cache_read_input_tokens 全是 0?

答:排查两件事:第一,你的 enterprise_classification_manual.md 总字数太短,没跨过所选模型的最低缓存起存门槛(未达标时服务端不会报错,而是静默当普通无缓存请求处理);第二,你在拼装每条子请求的 system 字符串时混入了当前时间戳或变动编号,破坏了从头开始逐字节完全一致的前缀匹配铁律。

问:如果一个超大批次排了整整 4 个小时才跑完,1h 缓存中途还是过期了会报错吗?

答:完全不会报错失败。缓存过期后,下一波被调度到的子请求只是自动重新触发一次缓存写入并开启新的 1 小时窗口,后续子请求接着继续命中。你也可以把几万条超大任务按每两三千条一包分批投递,命中率更可控。

问:订阅了 Claude Max 会员送的月度 API 额度能用来跑这个批处理接口吗?

答:只要在 Anthropic Console 正常绑定领取了计划附赠的 API 额度(绑定方法见 Claude Max 与 Team 月度赠送 API 额度领取教程),该额度在 Console 组织账户里同样可用于常规 Messages 与 Batches 接口调用。

问:新注册 Claude 收不到手机验证码,或者没有外币卡怎么开通 Pro / Max 会员?

答:注册受阻可先看本站 Claude 注册与普号说明页;已有账号升级会员可直接前往 Claude Pro 充值页 或 Claude Max 充值页 获取自助卡密兑换,支持开具增值税发票,实时价格与售后边界(封号不在质保范围)见各商品页。

相关教程

Nathaniel 的更多内容

  1. 01

    独立开发者用 ChatGPT + Codex 跑通产品全流程:市场验证、PRD、原型到代码上线复盘清单

    单人做独立产品最容易陷入「闭门写两个月代码上线零用户」或「AI 写到一半目录越改越崩」。本文整理「ChatGPT 负责市场验证、PRD 与复盘 + Codex 负责工程实现与测试」的五阶段双轨流程,附起手提示词与 7 项上线复盘清单。

    ChatGPTCodex0
  2. 02

    用 ChatGPT 批量生成规范文件命名规则、整理混乱目录树与合并零散发票抬头清单脚本

    面对满桌面的「新建文件夹」「最终版2」和上百张零散电子发票,手工改名抄台账耗时又容易漏重。本文分享先脱敏取样、再用 ChatGPT 生成带预演和回滚日志的本地 Python 脚本,离线安全完成目录整理与发票抬头合并去重的实战流程。

    ChatGPT0
  3. 03

    用 ChatGPT 做海外邮件营销(EDM)受众分层文案、A/B 主题行测试与防进垃圾箱自检

    做海外独立站或出海 SaaS 邮件营销(EDM),最怕千人一面群发被直接送进垃圾箱。本文结合 Gmail/Yahoo 批量发件人规范,梳理用 ChatGPT 设计受众分层文案、批量生成 A/B 主题行矩阵并开展发前垃圾词与合规自检的实战提示词。

    ChatGPT0
  4. 04

    用 ChatGPT 写 Notion Formula 2.0 公式、Obsidian Dataview 查询与 Airtable 自动化脚本

    给 Notion 数据库写多条件 Formula 2.0 公式、给 Obsidian 写 Dataview 动态看板,或在 Airtable 里写自动化脚本,经常因为一个小括号或类型不匹配报错半天。本文整理三大工具的通用上下文喂料规范与三套直接可复制的生成提示词。

    ChatGPT其他 AI 工具0
  5. 05

    用 ChatGPT 处理复杂 JSON / YAML / XML 字段映射、格式转换与校验规则编写实战

    对接第三方 API、迁移 Kubernetes 配置或解析政企 XML 报文时,手工对照几百行嵌套字段既慢又容易漏掉空值与类型边界。本文整理用 ChatGPT 完成字段映射表梳理、生成确定性转换脚本以及编写 JSON Schema / Pydantic / XSD 校验规则的实战流。

    ChatGPT其他 AI 工具0
  6. 06

    用 ChatGPT 准备本科/硕士毕业论文答辩:提炼答辩 PPT 结构、模拟导师犀利追问与 3 分钟自述稿

    毕业论文写完后,要在 3–5 分钟内讲清研究价值并顶住答辩评委的连环追问并不轻松。本文整理在严格遵守高校学术规范的前提下,用 ChatGPT 提炼答辩 PPT 结构、打磨 3 分钟口语自述稿并开展模拟导师犀利追问的排练流程与提示词。

    ChatGPT0

同模型

  1. 01

    Anthropic Contextual Retrieval(上下文增强检索)是什么、怎么实现:给文档块自动补背景摘要结合缓存降失误率

    长文档切成小块后丢了公司名、年份和主语指代导致 RAG 频频搜错?本文按 Anthropic 官方技术文章详解 Contextual Retrieval 原理、官方公开评测失误率下降 49% 至 67% 的组合架构,以及用 Claude 提示词缓存低成本批量生成切片背景的完整 Python 代码。

    Claude其他 AI 工具0
  2. 02

    写代码兼顾办公,同时订「ChatGPT Plus + Claude Pro 双会员」还是单上「Max / Pro 高阶档」怎么算账

    每月花 $40 同时订 ChatGPT Plus + Claude Pro 双会员,还是花 $100 单上 Claude Max 或 ChatGPT Pro 100?本文按两家官方定价页拆解编程智能体、多模态办公、限额容灾与独占功能账本,给出清晰选型公式。

    ChatGPTClaude0
  3. 03

    Notion AI 怎么收费、包含在套餐里还是单独买:工作区知识问答、数据库自动填表与对比 Claude / ChatGPT 选型

    Notion AI 现在还能单独加购吗?按 Notion 官方现行定价页,完整 Notion AI 已直接打包进 Business(年付 $20/成员/月,月付 $24)与 Enterprise 套餐,Free 和 Plus 仅含少量试用。本文讲清计费变化、三大核心功能及与独立会员的取舍。

    其他 AI 工具0
  4. 04

    Raycast AI(Pro / Pro+ / Max)是什么、怎么配 BYOK 自带密钥:快捷呼出 Claude 与 GPT 桌面工作流

    Raycast AI 支持在桌面端全局快捷键呼出 Claude、GPT 与 Gemini。本文按官方手册说明 Raycast Pro、Pro+、Max 积分档位差别,以及配置 BYOK(自带 API 密钥)的前置条件、设置步骤与快捷指令工作流。

    其他 AI 工具0
  5. 05

    Perplexity Pro 值得买吗:每月 $20 比免费版多什么、可选哪些 Claude / GPT 模型与深度检索用法

    Perplexity Pro 月付 $20(年付约 $17/月),比免费版多出高配额 Pro 搜索、切换 Claude 与 GPT 模型及更高频的 Deep Research 深度检索。本文对比各档权益,帮你判断订它还是独立对话会员。

    其他 AI 工具0
  6. 06

    Claude API Citations 原文引用结合 Files API 搭建可溯源企业制度问答指南

    搭公司内部报销、法务或操作规程问答机器人,不想折腾复杂的切片向量数据库又怕大模型胡编页码?本文按 Anthropic 官方文档详解用 Files API 传一次 PDF 拿 file_id,结合 Citations 原生返回精确页码与原文摘录的完整架构。

    Claude0

同产品的其他教程

  1. 01

    RAG 知识库回答不准怎么调优:切片大小(Chunking)、BM25 + 向量混合检索与 Rerank 重排序三步排查法

    搭好的 RAG 企业知识库一问具体型号、报错码或跨行表格就答非所问?本文按 OpenAI 与 Anthropic 官方检索文档,给出先隔离检索与生成故障、再按结构化切片(Chunking)、BM25 加向量混合召回(RRF)与 Rerank 重排序逐层调优的三步法。

    Claude其他 AI 工具0
  2. 02

    Langfuse 开源本地部署(Docker Compose)与提示词版本管理(Prompt Management)从零上手教程

    企业内网严禁业务日志出境,又想免费拥有大模型调用链追踪与不发版热更新提示词的能力?本文按 Langfuse 官方文档整理 Docker Compose 本地一键启动(含 ClickHouse 架构注意事项)、密钥配置与 Prompt Management 标签化版本管理全流程。

    Claude其他 AI 工具0
  3. 03

    LangSmith 入门教程:给 LangGraph 与原生 OpenAI / Claude 接口加调用链追踪、Token 成本统计与免费层限额

    智能体多步调用总是找不到哪一轮提示词跑偏、单次请求到底烧了多少 Token?本文按 LangSmith 官方文档讲清环境变量零侵入接入 LangGraph、用 wrap_openai / wrap_anthropic 与 @traceable 追踪原生接口,以及 Developer 免费层额度与留存规则。

    Claude其他 AI 工具0
  4. 04

    Zotero 搭配 Claude / ChatGPT 高效读英文文献:PDF 翻译插件、批注导出精读与防捏造参考文献流程

    在 Zotero 里读英文顶会论文怎么无缝联动 Claude 与 ChatGPT?本文整理 Translate for Zotero 划词翻译配置、高亮批注导出精读提示词,以及杜绝 AI 捏造假 DOI 参考文献的核验闭环。

    Claude其他 AI 工具0
  5. 05

    Obsidian 接入 Claude、ChatGPT 与本地 Ollama 做个人双链笔记问答:主流插件配置与隐私脱敏边界

    想在 Obsidian 里基于自己的双链笔记库做 AI 问答又担心隐私外泄?本文对比 Copilot 与 Smart Connections 插件,整理接入 Claude、OpenAI 官方 API 与本地 Ollama 的步骤及敏感目录隔离规则。

    Claude其他 AI 工具0
  6. 06

    Excalidraw 结合 AI 怎么画架构图:Mermaid 代码一键转手绘风图表与 Excalidraw MCP 自动生图做法

    想用 AI 快速画出可自由拖拽修改的手绘风系统架构图?本文整理 Excalidraw 内置 Mermaid 转图表、Text to Diagram 与挂载 Excalidraw MCP 自动读取代码生成架构图的三套完整流程。

    Claude其他 AI 工具0

0 条评论

登录 后参与评论

还没有评论,来抢沙发~