结论先说
- 先分清是「输入超窗」还是「输出触顶」。请求直接报 400
context_length_exceeded,说明输入消息加历史超出了模型总上下文窗口;请求返回 200 但文字或 JSON 卡在半截,则是单次生成撞到了max_output_tokens上限。 - Responses API 提供服务端自动裁剪参数
truncation: "auto"。默认值为"disabled"(超限即报错);设为"auto"后,若总长度超出窗口,服务端会保留顶层系统指令与最新消息,自动从对话中部丢弃最早的历史输入项。 - 绝对不能丢失的核心规则必须放进
instructions字段。放在普通早期对话轮次里的背景说明,在触发auto裁剪时可能被优先剔除。 - 严谨审计与全量抽取任务应保持
"disabled"。合同审查、财报核算等不允许静默漏读段落的场景,一旦超长应显式报错并改走分块汇总,切勿让服务端静默删减内容。 - 个人日常处理超长文档或代码库时若需更高上下文额度,国内无外币卡用户可在本站自助开通 ChatGPT Plus 或高配额 ChatGPT Pro,企业协作可咨询 ChatGPT Business 团队定制。

图:本站根据 OpenAI Responses API 官方参考文档 整理的示意图
本文根据 OpenAI API 官方文档《Create a model response Reference》《Error codes》整理,资料核对于 2026-11-18。配图为本站整理的示意图,不是界面截图。本站(bigolab.com)不是 OpenAI 官方网站。
适用于谁
- 在多轮客服机器人、Agent 工具循环或长文档问答里遇到 HTTP 400
context_length_exceeded报错的后端开发者; - 搞不清「输入撑爆上下文窗口报错」与「输出撞到
max_output_tokens半截中断」两种故障边界的人; - 想用 Responses API 原生
truncation: "auto"省去手写滑动窗口裁剪逻辑的工程师。
一、truncation 两种模式与截断类型对照
在 Responses API 中(接口基础见 /guides/openai-responses-api,常见错误码总览见 /guides/openai-api-error-codes),服务端对窗口边界的处理逻辑如下:

图:本站根据 OpenAI Responses API 官方参考文档 整理的示意图
| 故障现象 | 触发条件 | 对应控制参数与修复手段 |
|---|---|---|
HTTP 400 context_length_exceeded | 输入提示词 + 多轮历史 + 预留空间超出模型总窗口 | 多轮对话开 truncation="auto",或对旧轮次做摘要压缩 |
HTTP 200 但 status == "incomplete" | 生成过程耗尽了单次允许的 max_output_tokens | 检查 incomplete_details.reason,调高 max_output_tokens 或分步生成 |
| 结构化 JSON 解析报语法截断错 | 未检查完成状态就直接对半截输出跑 json.loads | 解析前先校验 resp.status == "completed"(详见 /guides/openai-api-structured-outputs) |
二、Python 实战代码:开启服务端自动裁剪与截断兜底检查
搭配 previous_response_id 做多轮有状态对话时,加上 truncation="auto" 即可防止聊到几十轮后突然炸 400 错误:
python
from openai import OpenAI
client = OpenAI()
resp = client.responses.create(
model="gpt-4.1",
instructions="你是技术支持助手,回答务必控制在 300 字以内,严禁编造不存在的命令。",
input="用户上传了最新一段报错栈,请结合前文继续给出排查命令。",
previous_response_id="resp_abc123xyz",
truncation="auto",
max_output_tokens=4096,
)
if resp.status == "incomplete":
reason = resp.incomplete_details.reason if resp.incomplete_details else "unknown"
raise RuntimeError(f"响应未完整结束,触发限制:{reason}")
print(resp.output_text)
print("本轮输入 Token:", resp.usage.input_tokens)
订阅与账号准备提示:长上下文多轮对话在未命中缓存时每轮都会重复计入历史输入 Token(价格计算见 /guides/openai-api-price-official-table)。若你日常办公需要高频上传长文档反复追问,开通包月会员往往比按量烧 API 更可控;国内用户可在本站选购 ChatGPT Plus 会员 或升级 ChatGPT Pro 充值。
三、控制窗口预算的三条工程实践
- 限制单次工具返回体积:在 Agent 循环里,
context_length_exceeded最常见的元凶不是用户打字太多,而是某一次数据库查询或网页抓取工具一次性塞回了十几万字符的原始 HTML。务必在工具层对返回文本做长度截断(例如上限8000字符并附带省略提示)。 - 区分静态前缀与动态变量保住缓存命中:
truncation="auto"发生裁剪时会改变历史序列前缀,可能导致后续请求暂时失去提示词缓存折扣;对于超长对话,每隔 15 至 20 轮主动用小模型把旧历史浓缩成一段摘要开启新会话链,成本更平稳。 - 仍在用旧版 Chat Completions 接口怎么办:旧版
/v1/chat/completions没有服务端truncation="auto"参数,只能由业务代码用tiktoken预估各条消息 Token 数并在客户端自行弹出旧消息,或平滑迁移至 Responses API。
常见问题
问:开了 truncation: "auto" 后,单条输入本身就超过模型最大上下文窗口还能救回来吗?
答:不能。auto 是按对话历史里的「输入项(Items)」粒度从中部剔除旧轮次;如果你单次塞进去的一整篇几百万字文本本身就大于模型总窗口,依然会返回 400 超长错误,这种情况必须先做文档切片检索(RAG)或分段摘要。
问:怎么知道某一轮请求有没有实际触发自动裁剪?
答:可以对比预期累计的历史 Token 数与本次响应 resp.usage.input_tokens 的回落幅度,或在平台后台日志面板核查实际进入模型上下文的消息条目列表。
问:国内没有外币卡,或者公司财务要求开具增值税发票,怎么订阅长窗口官方会员?
答:可通过本站 AI 会员充值总览 选购 ChatGPT Plus 或 ChatGPT Pro,支持支付宝、微信支付及 AlipayHK,支持卡密自助兑换与企业定制,并可开具增值税发票。实时价格以页面显示为准;售后遵循掉订阅按剩余天数折退、封号不在质保范围的规则。
相关教程
- OpenAI Responses API 是什么:和 Chat Completions 的区别
- OpenAI API 常见错误码(400/429/500)排查指南
- OpenAI API 结构化输出与 incomplete 处理
- OpenAI API 价格表与长上下文计费说明
参考资料
- OpenAI API 官方文档:Create a model response — https://platform.openai.com/docs/api-reference/responses/create
- OpenAI API 官方文档:Error codes — https://platform.openai.com/docs/guides/error-codes
0 条评论
还没有评论,来抢沙发~