结论先说
- 官方推荐的选型顺序是「从强往轻降(Top-down)」,而不是从最弱模型硬调:先拿最强旗舰模型跑通原型并定好验收基线,再把简单节点逐步替换成轻量模型。
- 不要让一把锤子敲所有钉子:意图分类、输入合规拦截、格式提取交给便宜高吞吐模型;跨服务排错、冲突方案权衡留给旗舰模型。
- 换模型之前先调推理强度(
reasoning.effort):同一模型从高档降到低档就能显著缩短等待时间并省下大量推理 token。 - 在代码层有两种现成落地方式:API 应用用 Agents SDK 的分诊交接(
handoffs),本地研发用 Codex 的子代理角色配置(.codex/agents/)。 - 路由之外一定要顺手接住提示词缓存(Prompt caching),把固定系统指令与工具定义放在前缀不动,重复请求的输入成本能降一大截。

图:本站根据 OpenAI 开发者文档:Model selection 整理的示意图
本文根据 OpenAI 官方开发者文档《Model selection》、Codex 文档《Models》与 Agents SDK 文档整理,资料核对于 2026-11-18。配图为本站整理的示意图,不是界面截图。本站(bigolab.com)不是 OpenAI 官方网站。如果你主要想看 Codex 客户端里四个主力模型的对比,请看 Codex 用哪个模型好:按任务推荐。
适用于谁
- 做 AI 应用或多智能体流水线,把所有请求一刀切全扔给最强模型,结果首字延迟高、账单居高不下的开发者;
- 一上来直接用最便宜的小模型写复杂业务,分不清效果差是「提示词没写好」还是「模型能力不够」的人;
- 想在 OpenAI API、Agents SDK 或 Codex 里落地「轻量模型做分诊路由 + 强模型攻克难题」的人。
一、为什么官方建议「先上旗舰定基线,再往下换轻模型」
很多团队为了省预算,第一天就拿最便宜的小模型调复杂多步任务,调了一周不出效果,根本分不清到底是业务逻辑有漏洞,还是模型本身撑不住。OpenAI 官方指南给出的标准工程节奏分四步:
- 用旗舰模型探明上限:先用最强模型(例如在 Codex 与 Responses API 中使用
gpt-6.2-astra)把业务跑通,证明这套提示词和工具定义确实能产出合格结果,并沉淀出几十条代表性测试样本。 - 拆解工作流颗粒度:把原本糊在一大段提示词里的任务拆成清晰的阶段——哪一步只是判断用户想干什么?哪一步是从长文本里抽 JSON 字段?哪一步才真正需要多步权衡?
- 固定输入逐层下探(Downshift):拿着同一批测试样本,把前哨分类、数据提取环节换成
gpt-6-luna等轻量模型,把常规编码和文稿起草换成gpt-6.2-sol,保留「刚刚好能稳定通过验收标准的最轻配置」。 - 叠加缓存与异步通道:实时对话保持固定前缀吃满提示词缓存;夜间批量跑报表、离线评测等不急着等结果的任务改走异步 Batch API。
二、典型三级分工架构与代码落地

图:本站根据 Codex 官方文档:Models 与 Agents SDK 整理的示意图
1. 在 OpenAI Agents SDK 里用便宜模型做分诊路由
在客服、工单或研发助手系统里,80% 的入口流量只是查状态或简单问答。我们可以给入口分诊台和输入护栏挂轻量模型,只有识别出疑难故障时才通过 handoffs 交接给旗舰模型(交接与护栏细则见 Agents SDK Handoffs 与 Agents as Tools 及 Guardrails 与 Tracing 详解):
python
from agents import Agent, Runner
# 简单高频问答:继续用均衡或轻量模型直接回复
faq_agent = Agent(
name="FAQ Agent",
model="gpt-6.2-sol",
handoff_description="处理常规配置查询、基础语法与文档问答",
instructions="简明解答用户的常规使用问题。",
)
# 复杂跨模块排错:升级到强推理旗舰模型
deep_debug_agent = Agent(
name="Deep Debugger",
model="gpt-6.2-astra",
handoff_description="处理跨服务线上故障、并发竞态与架构取舍难题",
instructions="深入分析调用链与边界条件,给出验证步骤与最小修复方案。",
)
# 入口路由层:只做意图识别与分发,用最轻快的模型压低首跳延迟
router_agent = Agent(
name="Router",
model="gpt-6-luna",
instructions="只判断问题复杂度并立即交接给对应专员,不要自己展开长篇作答。",
handoffs=[faq_agent, deep_debug_agent],
)
result = Runner.run_sync(router_agent, "两个微服务在高并发扣库存时偶发死锁,附日志如下……")
print(result.final_output)
2. 在 Codex 本地开发里给探索子代理配轻量模型
不写 SDK 代码、只用 Codex 写项目时,同样能跑多模型分工:主会话保持 gpt-6.2-sol 或 gpt-6.2-astra 把握全局方案,同时在 .codex/agents/ 下把翻目录、搜引用、查文档的只读子代理固定为 gpt-6-luna(完整配置见 Codex 多 Agent 与子代理怎么用)。这样既保住了主线程上下文干净,又不会让几十次文件搜索把套餐窗口瞬间刷空。
想要在日常开发中解锁 GPT-6.2 Sol 与 Astra 等多档模型自由切换搭配,个人可在本站查看 ChatGPT Plus 充值说明,团队共享空间可看 ChatGPT Business 团队版定制。
常见问题
问:前面多加一层轻量路由模型,会不会反而让总响应变慢?
答:不会拖慢整体体验,反而能显著降低平均耗时。路由层只输出十几个 token 的工具交接指令,轻量模型通常几百毫秒内就能完成分发,让占大头的简单请求彻底避开重型模型的长思考排队。
问:如果便宜路由模型偶尔分错了类怎么办?
答:给下游常规执行智能体保留一条「向上升级(Escalate)」的交接通道——当常规模型发现问题超出预期复杂度时,允许它再交接给旗舰专家兜底。
问:在同一个对话里来回切换不同模型会影响提示词缓存吗?
答:会。不同模型各自维护独立的提示词缓存池,频繁在同一条长线程里切模型会导致首次请求重算整段前缀;因此通过子代理或 as_tool() 把不同模型的上下文拆开往往更划算。
相关教程
- Codex 用哪个模型好:按任务推荐
- OpenAI Agents SDK 多代理:Handoffs 与 Agents as Tools
- OpenAI Agents SDK 的 Guardrails 与 Tracing 详解
- Codex 多 Agent 与子代理(Subagents)怎么用
参考资料
- OpenAI 官方文档:Model selection — https://developers.openai.com/api/docs/guides/model-selection
- Codex 官方文档:Models — https://learn.chatgpt.com/docs/models
- OpenAI Agents SDK 官方文档:Handoffs — https://openai.github.io/openai-agents-python/handoffs/
0 条评论
还没有评论,来抢沙发~