Claude API 提示詞緩存(Prompt Caching)疊加批處理(Batches)降本架構與 TTL 選擇

單開批處理省一半、單開提示詞緩存省九成,這兩項在 Claude API 裏能不能疊在一起用?本文按 Anthropic 官方文檔拆解 5m 與 1h 兩檔 TTL 寫入費率對比、Batches 疊加 1 小時緩存的 Python 代碼與亂序命中調優。

NNathaniel bigo··原創首發·AI 輔助撰寫
8 分鐘讀完
資料核對於 2026-11-19 · 依據官方文檔與公開資料整理 其他 帳號

結論先說

  1. Prompt Caching 和 Message Batches 完全可以合法疊加,是官方離線降本的王炸組合:異步批處理本身享半價折扣,再加上共享長前綴命中緩存的高額折扣,大批量固定規則任務的綜合輸入成本能壓到常規同步調用的零頭。
  2. 在異步批處理裏強烈建議把緩存設為 "ttl": "1h"(1 小時):因為 Batches 是後台隊列異步分波調度的,跨度一旦超過 5 分鐘,預設的 "5m" 緩存就會在半途過期導致重複寫入扣費。
  3. 批內緩存屬於「盡力而為(Best-effort)」並發匹配:如果第一波幾十個請求在同一毫秒並發落地而緩存尚未寫完,前幾個請求可能會同時觸發寫入,建議可先發單條同步請求「預熱建好緩存」再投遞大批量任務。
  4. 驗證提示詞模板或領取會員附贈 API 額度:上線大規模批處理前建議先在網頁端調準規則,或利用高階訂閱附贈的月度開發額度試跑,可查看本站 Claude Max 充值說明 與 Claude Pro 充值頁。

Claude 緩存兩檔 TTL 與批處理疊加

圖:本站根據 Anthropic 官方緩存與批處理文檔 整理的費率倍數與場景對比圖

本文根據 Anthropic 官方開發者文檔《Prompt caching》《Message Batches》(platform.claude.com/docs)整理,資料核對於 2026-11-19。配圖為本站整理的示意圖,不是介面截圖。本站(bigolab.com)不是 Anthropic 官方網站。

適用於誰

  • 要在夜間離線跑幾千甚至幾萬條工單分類、簡歷初篩或文檔結構化提取,每條請求都掛着同一套兩萬字規則手冊的後端工程師;
  • 已經分別看過提示詞緩存(本站 222 號文)和異步批處理(本站 1844 號文),想知道把兩者疊在一起到底怎麼寫代碼、為什麼預設 5 分鐘緩存在大批次裏容易半路斷掉的人;
  • 糾結 cache_control 裏的 "ttl": "5m" 和 "ttl": "1h" 寫入差價怎麼算回本的架構師。

一、5m 與 1h 兩檔 TTL 怎麼算回本,為什麼批處理偏愛 1h

如果你還不熟悉兩個單項基礎概念,可以先回顧本站 Claude 提示詞緩存基礎教學 與 Claude API Message Batches 批處理入門。把兩者合體時,核心算術題就在 ttl 參數上:

  • 預設 5 分鐘檔("ttl": "5m",省略不填即為此檔):首次寫入緩存按基礎輸入價的 1.25 倍 計費,只要 5 分鐘內有下一次請求命中,倒計時就自動重置回 5 分鐘。非常適合白天每秒都有用戶訪問的在線客服機器人——只付一次 1.25 倍寫入費,能靠源源不斷的流量續命一整天。
  • 擴展 1 小時檔("ttl": "1h"):首次寫入按基礎輸入價的 2 倍 計費,換來整整 60 分鐘免刷新的穩固駐留期。非常適合兩種情況:一是人類每隔二十分鐘才回來審一次方案的慢節奏代碼助手;二是後台排隊執行耗時十幾到幾十分鐘的 Message Batches 異步任務。只要同一批次裏有三四條以上的請求成功讀到緩存,多付的那一點首次寫入費瞬間就賺回來了。
長文檔精讀與高頻生產力訂閱入口:無論是往 Projects 掛載幾十份背景資料、審閱幾十頁英文商業合同,還是連續繪製複雜架構圖,免費版短窗口配額極易受限。國內用戶可通過本站支付寶、微信支付或 AlipayHK 免上號自助開通 Claude Pro 會員(直達單品 Pro iOS 自助充值)或大額度 Claude Max 充值。

二、Python 完整實戰代碼(預熱緩存 + 投遞 1h 批處理 + 核驗命中)

批處理疊加 1 小時緩存落地四步

圖:本站根據 Claude API 官方文檔 整理的四步架構落地示意圖

為了讓整批幾千條請求幾乎百分之百命中讀取折扣、避開首波並發重複寫入,工程上最穩的做法是先用一條輕量請求把 1 小時緩存熱好,緊接着立刻把整包 Batch 推進去(API 密鑰準備見 Claude Console 獲取 API Key 指南,計算前綴有沒有達標可用 Count Tokens 接口教學):

python
import time
import anthropic
from anthropic.types.message_create_params import MessageCreateParamsNonStreaming
from anthropic.types.messages.batch_create_params import Request

client = anthropic.Anthropic()
MODEL_ID = "claude-sonnet-5-5"

# 注意:共享長前綴必須達到對應模型的最低起存 Token 門檻,且所有請求中字節級一字不差
shared_system_blocks = [
    {
        "type": "text",
        "text": open("enterprise_classification_manual.md", encoding="utf-8").read(),
        "cache_control": {"type": "ephemeral", "ttl": "1h"},
    }
]

# 第一步(推薦技巧):先發 1 條極短同步請求完成緩存首次寫入預熱
client.messages.create(
    model=MODEL_ID,
    max_tokens=16,
    system=shared_system_blocks,
    messages=[{"role": "user", "content": "回覆就緒即可"}],
)

# 第二步:組裝共享完全相同 system 前綴的大批量異步請求
tickets = [("ticket-001", "退款一直沒到賬"), ("ticket-002", "發票抬頭填錯了怎麼重開")]
requests_payload = [
    Request(
        custom_id=cid,
        params=MessageCreateParamsNonStreaming(
            model=MODEL_ID,
            max_tokens=512,
            system=shared_system_blocks,
            messages=[{"role": "user", "content": body}],
        ),
    )
    for cid, body in tickets
]

batch = client.messages.batches.create(requests=requests_payload)

# 第三步:輪詢等待異步批處理變為 ended 並核查緩存讀取指標
while True:
    status = client.messages.batches.retrieve(batch.id)
    if status.processing_status == "ended":
        break
    time.sleep(20)

for item in client.messages.batches.results(batch.id):
    if item.result.type == "succeeded":
        u = item.result.message.usage
        print(item.custom_id, "緩存寫入:", u.cache_creation_input_tokens, "緩存讀取命中:", u.cache_read_input_tokens)

常見問題

問:我已經照抄加上了 cache_control,為什麼跑完看 cache_read_input_tokens 全是 0?

答:排查兩件事:第一,你的 enterprise_classification_manual.md 總字數太短,沒跨過所選模型的最低緩存起存門檻(未達標時服務端不會報錯,而是靜默當普通無緩存請求處理);第二,你在拼裝每條子請求的 system 字符串時混入了當前時間戳或變動編號,破壞了從頭開始逐字節完全一致的前綴匹配鐵律。

問:如果一個超大批次排了整整 4 個小時才跑完,1h 緩存中途還是過期了會報錯嗎?

答:完全不會報錯失敗。緩存過期後,下一波被調度到的子請求只是自動重新觸發一次緩存寫入並開啟新的 1 小時窗口,後續子請求接着繼續命中。你也可以把幾萬條超大任務按每兩三千條一包分批投遞,命中率更可控。

問:訂閱了 Claude Max 會員送的月度 API 額度能用來跑這個批處理接口嗎?

答:只要在 Anthropic Console 正常綁定領取了計劃附贈的 API 額度(綁定方法見 Claude Max 與 Team 月度贈送 API 額度領取教學),該額度在 Console 組織帳戶裏同樣可用於常規 Messages 與 Batches 接口調用。

問:新註冊 Claude 收不到手機驗證碼,或者沒有外幣卡怎麼開通 Pro / Max 會員?

答:註冊受阻可先看本站 Claude 註冊與普號說明頁;已有帳號升級會員可直接前往 Claude Pro 充值頁 或 Claude Max 充值頁 獲取自助卡密兌換,支持開具增值稅發票,實時價格與售後邊界(封號不在質保範圍)見各商品頁。

相關教學

Nathaniel 的更多內容

  1. 01

    獨立開發者用 ChatGPT + Codex 跑通產品全流程:市場驗證、PRD、原型到代碼上線覆盤清單

    單人做獨立產品最容易陷入「閉門寫兩個月代碼上線零用戶」或「AI 寫到一半目錄越改越崩」。本文整理「ChatGPT 負責市場驗證、PRD 與覆盤 + Codex 負責工程實現與測試」的五階段雙軌流程,附起手提示詞與 7 項上線覆盤清單。

    ChatGPTCodex0
  2. 02

    用 ChatGPT 批量生成規範文件命名規則、整理混亂目錄樹與合併零散發票抬頭清單腳本

    面對滿桌面的「新建文件夾」「最終版2」和上百張零散電子發票,手工改名抄台帳耗時又容易漏重。本文分享先脫敏取樣、再用 ChatGPT 生成帶預演和回滾日誌的本地 Python 腳本,離線安全完成目錄整理與發票抬頭合併去重的實戰流程。

    ChatGPT0
  3. 03

    用 ChatGPT 做海外電郵營銷(EDM)受眾分層文案、A/B 主題行測試與防進垃圾箱自檢

    做海外獨立站或出海 SaaS 電郵營銷(EDM),最怕千人一面群發被直接送進垃圾箱。本文結合 Gmail/Yahoo 批量發件人規範,梳理用 ChatGPT 設計受眾分層文案、批量生成 A/B 主題行矩陣並開展發前垃圾詞與合規自檢的實戰提示詞。

    ChatGPT0
  4. 04

    用 ChatGPT 寫 Notion Formula 2.0 公式、Obsidian Dataview 查詢與 Airtable 自動化腳本

    給 Notion 數據庫寫多條件 Formula 2.0 公式、給 Obsidian 寫 Dataview 動態看板,或在 Airtable 裏寫自動化腳本,經常因為一個小括號或類型不匹配報錯半天。本文整理三大工具的通用上下文喂料規範與三套直接可複製的生成提示詞。

    ChatGPT其他 AI 工具0
  5. 05

    用 ChatGPT 處理複雜 JSON / YAML / XML 字段映射、格式轉換與校驗規則編寫實戰

    對接第三方 API、遷移 Kubernetes 配置或解析政企 XML 報文時,手工對照幾百行嵌套字段既慢又容易漏掉空值與類型邊界。本文整理用 ChatGPT 完成字段映射表梳理、生成確定性轉換腳本以及編寫 JSON Schema / Pydantic / XSD 校驗規則的實戰流。

    ChatGPT其他 AI 工具0
  6. 06

    用 ChatGPT 準備本科/碩士畢業論文答辯:提煉答辯 PPT 結構、模擬導師犀利追問與 3 分鐘自述稿

    畢業論文寫完後,要在 3–5 分鐘內講清研究價值並頂住答辯評委的連環追問並不輕鬆。本文整理在嚴格遵守高校學術規範的前提下,用 ChatGPT 提煉答辯 PPT 結構、打磨 3 分鐘口語自述稿並開展模擬導師犀利追問的排練流程與提示詞。

    ChatGPT0

同模型

  1. 01

    Anthropic Contextual Retrieval(上下文增強檢索)是什麼、怎麼實現:給文檔塊自動補背景摘要結合緩存降失誤率

    長文檔切成小塊後丟了公司名、年份和主語指代導致 RAG 頻頻搜錯?本文按 Anthropic 官方技術文章詳解 Contextual Retrieval 原理、官方公開評測失誤率下降 49% 至 67% 的組合架構,以及用 Claude 提示詞緩存低成本批量生成切片背景的完整 Python 代碼。

    Claude其他 AI 工具0
  2. 02

    寫代碼兼顧辦公,同時訂「ChatGPT Plus + Claude Pro 雙會員」還是單上「Max / Pro 高階檔」怎麼算帳

    每月花 $40 同時訂 ChatGPT Plus + Claude Pro 雙會員,還是花 $100 單上 Claude Max 或 ChatGPT Pro 100?本文按兩家官方定價頁拆解編程智能體、多模態辦公、限額容災與獨佔功能帳本,給出清晰選型公式。

    ChatGPTClaude0
  3. 03

    Notion AI 怎麼收費、包含在套餐裏還是單獨買:工作區知識問答、數據庫自動填表與對比 Claude / ChatGPT 選型

    Notion AI 現在還能單獨加購嗎?按 Notion 官方現行定價頁,完整 Notion AI 已直接打包進 Business(年付 $20/成員/月,月付 $24)與 Enterprise 套餐,Free 和 Plus 僅含少量試用。本文講清計費變化、三大核心功能及與獨立會員的取捨。

    其他 AI 工具0
  4. 04

    Raycast AI(Pro / Pro+ / Max)是什麼、怎麼配 BYOK 自帶密鑰:快捷呼出 Claude 與 GPT 桌面工作流

    Raycast AI 支持在桌面端全局快捷鍵呼出 Claude、GPT 與 Gemini。本文按官方手冊說明 Raycast Pro、Pro+、Max 積分檔位差別,以及配置 BYOK(自帶 API 密鑰)的前置條件、設定步驟與快捷指令工作流。

    其他 AI 工具0
  5. 05

    Perplexity Pro 值得買嗎:每月 $20 比免費版多什麼、可選哪些 Claude / GPT 模型與深度檢索用法

    Perplexity Pro 月付 $20(年付約 $17/月),比免費版多出高配額 Pro 搜尋、切換 Claude 與 GPT 模型及更高頻的 Deep Research 深度檢索。本文對比各檔權益,幫你判斷訂它還是獨立對話會員。

    其他 AI 工具0
  6. 06

    Claude API Citations 原文引用結合 Files API 搭建可溯源企業制度問答指南

    搭公司內部報銷、法務或操作規程問答機器人,不想折騰複雜的切片向量數據庫又怕大模型胡編頁碼?本文按 Anthropic 官方文檔詳解用 Files API 傳一次 PDF 拿 file_id,結合 Citations 原生返回精確頁碼與原文摘錄的完整架構。

    Claude0

同產品的其他教學

  1. 01

    RAG 知識庫回答不準怎麼調優:切片大小(Chunking)、BM25 + 向量混合檢索與 Rerank 重排序三步排查法

    搭好的 RAG 企業知識庫一問具體型號、報錯碼或跨行表格就答非所問?本文按 OpenAI 與 Anthropic 官方檢索文檔,給出先隔離檢索與生成故障、再按結構化切片(Chunking)、BM25 加向量混合召回(RRF)與 Rerank 重排序逐層調優的三步法。

    Claude其他 AI 工具0
  2. 02

    Langfuse 開源本地部署(Docker Compose)與提示詞版本管理(Prompt Management)從零上手教學

    企業內網嚴禁業務日誌出境,又想免費擁有大模型調用鏈追蹤與不發版熱更新提示詞的能力?本文按 Langfuse 官方文檔整理 Docker Compose 本地一鍵啟動(含 ClickHouse 架構注意事項)、密鑰配置與 Prompt Management 標籤化版本管理全流程。

    Claude其他 AI 工具0
  3. 03

    LangSmith 入門教學:給 LangGraph 與原生 OpenAI / Claude 接口加調用鏈追蹤、Token 成本統計與免費層限額

    智能體多步調用總是找不到哪一輪提示詞跑偏、單次請求到底燒了多少 Token?本文按 LangSmith 官方文檔講清環境變量零侵入接入 LangGraph、用 wrap_openai / wrap_anthropic 與 @traceable 追蹤原生接口,以及 Developer 免費層額度與留存規則。

    Claude其他 AI 工具0
  4. 04

    Zotero 搭配 Claude / ChatGPT 高效讀英文文獻:PDF 翻譯插件、批註導出精讀與防捏造參考文獻流程

    在 Zotero 裏讀英文頂會論文怎麼無縫聯動 Claude 與 ChatGPT?本文整理 Translate for Zotero 劃詞翻譯配置、高亮批註導出精讀提示詞,以及杜絕 AI 捏造假 DOI 參考文獻的核驗閉環。

    Claude其他 AI 工具0
  5. 05

    Obsidian 接入 Claude、ChatGPT 與本地 Ollama 做個人雙鏈筆記問答:主流插件配置與私隱脫敏邊界

    想在 Obsidian 裏基於自己的雙鏈筆記庫做 AI 問答又擔心私隱外泄?本文對比 Copilot 與 Smart Connections 插件,整理接入 Claude、OpenAI 官方 API 與本地 Ollama 的步驟及敏感目錄隔離規則。

    Claude其他 AI 工具0
  6. 06

    Excalidraw 結合 AI 怎麼畫架構圖:Mermaid 代碼一鍵轉手繪風圖表與 Excalidraw MCP 自動生圖做法

    想用 AI 快速畫出可自由拖拽修改的手繪風系統架構圖?本文整理 Excalidraw 內置 Mermaid 轉圖表、Text to Diagram 與掛載 Excalidraw MCP 自動讀取代碼生成架構圖的三套完整流程。

    Claude其他 AI 工具0

0 條評論

登入 後參與評論

還沒有評論,來搶沙發~