結論先說
- 官方推薦的選型順序是「從強往輕降(Top-down)」,而不是從最弱模型硬調:先拿最強旗艦模型跑通原型並定好驗收基線,再把簡單節點逐步替換成輕量模型。
- 不要讓一把錘子敲所有釘子:意圖分類、輸入合規攔截、格式提取交給便宜高吞吐模型;跨服務排錯、衝突方案權衡留給旗艦模型。
- 換模型之前先調推理強度(
reasoning.effort):同一模型從高檔降到低檔就能顯著縮短等待時間並省下大量推理 token。 - 在代碼層有兩種現成落地方式:API 應用用 Agents SDK 的分診交接(
handoffs),本地研發用 Codex 的子代理角色配置(.codex/agents/)。 - 路由之外一定要順手接住提示詞緩存(Prompt caching),把固定系統指令與工具定義放在前綴不動,重複請求的輸入成本能降一大截。

圖:本站根據 OpenAI 開發者文檔:Model selection 整理的示意圖
本文根據 OpenAI 官方開發者文檔《Model selection》、Codex 文檔《Models》與 Agents SDK 文檔整理,資料核對於 2026-11-18。配圖為本站整理的示意圖,不是介面截圖。本站(bigolab.com)不是 OpenAI 官方網站。如果你主要想看 Codex 客戶端裏四個主力模型的對比,請看 Codex 用哪個模型好:按任務推薦。
適用於誰
- 做 AI 應用或多智能體流水線,把所有請求一刀切全扔給最強模型,結果首字延遲高、帳單居高不下的開發者;
- 一上來直接用最便宜的小模型寫複雜業務,分不清效果差是「提示詞沒寫好」還是「模型能力不夠」的人;
- 想在 OpenAI API、Agents SDK 或 Codex 裏落地「輕量模型做分診路由 + 強模型攻克難題」的人。
一、為什麼官方建議「先上旗艦定基線,再往下換輕模型」
很多團隊為了省預算,第一天就拿最便宜的小模型調複雜多步任務,調了一週不出效果,根本分不清到底是業務邏輯有漏洞,還是模型本身撐不住。OpenAI 官方指南給出的標準工程節奏分四步:
- 用旗艦模型探明上限:先用最強模型(例如在 Codex 與 Responses API 中使用
gpt-6.2-astra)把業務跑通,證明這套提示詞和工具定義確實能產出合格結果,並沉澱出幾十條代表性測試樣本。 - 拆解工作流顆粒度:把原本糊在一大段提示詞裏的任務拆成清晰的階段——哪一步只是判斷用戶想幹什麼?哪一步是從長文本里抽 JSON 字段?哪一步才真正需要多步權衡?
- 固定輸入逐層下探(Downshift):拿着同一批測試樣本,把前哨分類、數據提取環節換成
gpt-6-luna等輕量模型,把常規編碼和文稿起草換成gpt-6.2-sol,保留「剛剛好能穩定通過驗收標準的最輕配置」。 - 疊加緩存與異步通道:實時對話保持固定前綴吃滿提示詞緩存;夜間批量跑報表、離線評測等不急着等結果的任務改走異步 Batch API。
二、典型三級分工架構與代碼落地

圖:本站根據 Codex 官方文檔:Models 與 Agents SDK 整理的示意圖
1. 在 OpenAI Agents SDK 裏用便宜模型做分診路由
在客服、工單或研發助手系統裏,80% 的入口流量只是查狀態或簡單問答。我們可以給入口分診台和輸入護欄掛輕量模型,只有識別出疑難故障時才通過 handoffs 交接給旗艦模型(交接與護欄細則見 Agents SDK Handoffs 與 Agents as Tools 及 Guardrails 與 Tracing 詳解):
python
from agents import Agent, Runner
# 簡單高頻問答:繼續用均衡或輕量模型直接回復
faq_agent = Agent(
name="FAQ Agent",
model="gpt-6.2-sol",
handoff_description="處理常規配置查詢、基礎語法與文檔問答",
instructions="簡明解答用戶的常規使用問題。",
)
# 複雜跨模組排錯:升級到強推理旗艦模型
deep_debug_agent = Agent(
name="Deep Debugger",
model="gpt-6.2-astra",
handoff_description="處理跨服務線上故障、並發競態與架構取捨難題",
instructions="深入分析調用鏈與邊界條件,給出驗證步驟與最小修複方案。",
)
# 入口路由層:只做意圖識別與分發,用最輕快的模型壓低首跳延遲
router_agent = Agent(
name="Router",
model="gpt-6-luna",
instructions="只判斷問題複雜度並立即交接給對應專員,不要自己展開長篇作答。",
handoffs=[faq_agent, deep_debug_agent],
)
result = Runner.run_sync(router_agent, "兩個微服務在高並發扣庫存時偶發死鎖,附日誌如下……")
print(result.final_output)
2. 在 Codex 本地開發裏給探索子代理配輕量模型
不寫 SDK 代碼、只用 Codex 寫項目時,同樣能跑多模型分工:主會話保持 gpt-6.2-sol 或 gpt-6.2-astra 把握全局方案,同時在 .codex/agents/ 下把翻目錄、搜引用、查文檔的只讀子代理固定為 gpt-6-luna(完整配置見 Codex 多 Agent 與子代理怎麼用)。這樣既保住了主線程上下文乾淨,又不會讓幾十次文件搜尋把套餐窗口瞬間刷空。
想要在日常開發中解鎖 GPT-6.2 Sol 與 Astra 等多檔模型自由切換搭配,個人可在本站查看 ChatGPT Plus 充值說明,團隊共享空間可看 ChatGPT Business 團隊版定製。
常見問題
問:前面多加一層輕量路由模型,會不會反而讓總響應變慢?
答:不會拖慢整體體驗,反而能顯著降低平均耗時。路由層只輸出十幾個 token 的工具交接指令,輕量模型通常幾百毫秒內就能完成分發,讓佔大頭的簡單請求徹底避開重型模型的長思考排隊。
問:如果便宜路由模型偶爾分錯了類怎麼辦?
答:給下游常規執行智能體保留一條「向上升級(Escalate)」的交接通道——當常規模型發現問題超出預期複雜度時,允許它再交接給旗艦專家兜底。
問:在同一個對話裏來回切換不同模型會影響提示詞緩存嗎?
答:會。不同模型各自維護獨立的提示詞緩存池,頻繁在同一條長線程裏切模型會導致首次請求重算整段前綴;因此通過子代理或 as_tool() 把不同模型的上下文拆開往往更划算。
相關教學
- Codex 用哪個模型好:按任務推薦
- OpenAI Agents SDK 多代理:Handoffs 與 Agents as Tools
- OpenAI Agents SDK 的 Guardrails 與 Tracing 詳解
- Codex 多 Agent 與子代理(Subagents)怎麼用
參考資料
- OpenAI 官方文檔:Model selection — https://developers.openai.com/api/docs/guides/model-selection
- Codex 官方文檔:Models — https://learn.chatgpt.com/docs/models
- OpenAI Agents SDK 官方文檔:Handoffs — https://openai.github.io/openai-agents-python/handoffs/
0 條評論
還沒有評論,來搶沙發~