OpenAI API 內容審核(Moderation API)怎麼用:omni-moderation-latest 免費檢測文本和圖片違規分類

做 AI 應用上線前怎麼先攔住不當提問和違規圖片?OpenAI 提供免費的 Moderation API,用 omni-moderation-latest 可在一次請求裏同時檢測文本與圖像。本文講清調用代碼、返回字段結構、閾值分流與速率限制。

NNathaniel bigo··原創首發·AI 輔助撰寫
10 分鐘讀完
資料核對於 2026-11-18 · 依據官方文檔與公開資料整理 其他 帳號

結論先說

  1. 官方主力審核模型是 omni-moderation-latest,基於多模態底座構建,支持在同一次 /v1/moderations 請求裏同時傳入文本與圖片(舊版 text-moderation-latest 僅支持純文本)。
  2. 審核接口本身免費調用:官方定價頁明確標註 Moderation API 不收 token 費用,但每分鐘請求數(RPM)和每分鐘 token 數(TPM)仍受你帳號當前用量層級的限制。
  3. 先審後調能節省主模型成本:在把用戶輸入發往高單價推理或生成模型之前先調審核接口,一旦返回 flagged: true 直接在業務層禮貌攔截,既降低帳號違規風險,也省去後續生成開銷。
  4. 返回對象提供四組關鍵字段:總判定布爾值 flagged、各細分維度布爾值 categories、0 到 1 的連續分數 category_scores,以及指出由哪種輸入模態觸發標記的 category_applied_input_types。
  5. 留意模態覆蓋邊界:當前支持文本與圖片(公開 HTTPS 連結或 Base64 數據),不支持直接傳入音頻;其中 illicit(違規行為指導類)目前只對文本輸入生效。
  6. 國內免境外卡開通入口:若沒有境外銀行卡或遇到支付被拒,可在本站通過支付寶、微信支付或 AlipayHK 自助獲取兌換碼開通 ChatGPT Plus 或 ChatGPT Pro,團隊多席位支持聯絡客服定製 ChatGPT Business 團隊版。

Moderation API 圖文審核接入四步

圖:本站根據 OpenAI 官方文檔:Moderation 整理的示意圖

本文根據 OpenAI 官方文檔《Moderation》與官方定價頁整理,資料核對於 2026-11-18。配圖為本站整理的示意圖,不是介面截圖。本站(bigolab.com)不是 OpenAI 官方網站。

適用於誰

  • 開發面向外部用戶的對話助手、表單處理或圖文生成應用,需要在把內容發給主模型之前先做一層合規過濾的開發者;
  • 之前只用過舊版純文本審核接口,想知道怎麼在一次請求裏同時檢測文字與圖片的工程師;
  • 擔心增加安全護欄會讓 API 調用帳單顯著上漲的人。

一、純文本與圖文混合調用代碼(Python)

調用前請確保已在環境變量配置好 OPENAI_API_KEY(還沒跑通過首個 API 請求的讀者可先看 /guides/openai-api-python-quickstart)。

1. 檢測單條或批量純文本

input 參數既可以傳單個字符串,也可以傳字符串數組,一次批量檢測多條用戶留言:

python
from openai import OpenAI

client = OpenAI()

resp = client.moderations.create(
    model="omni-moderation-latest",
    input="這裏放入待檢測的用戶提問或生成文本",
)

result = resp.results[0]
print("是否命中攔截規則:", result.flagged)

2. 在一次請求裏同時檢測文字與圖片

當你的產品允許用戶附帶截圖或照片提問時(常規視覺傳圖規範見 /guides/openai-api-image-input),可以把 input 組裝成包含 text 與 image_url 的多模態數組,圖片支持公開網址或 Base64 編碼的 Data URI:

python
resp = client.moderations.create(
    model="omni-moderation-latest",
    input=[
        {"type": "text", "text": "請幫我為這張活動配圖寫一段宣傳文案"},
        {
            "type": "image_url",
            "image_url": {"url": "https://example.com/poster-draft.png"},
        },
    ],
)

res = resp.results[0]
if res.flagged:
    print("命中風險項,觸發來源模態:", res.category_applied_input_types)

二、返回結構拆解:怎麼看懂四個核心字段

每次調用 moderations.create 返回的 results 列表裏,每個元素都包含四塊結構化數據:

返回字段數據類型業務用途說明
flagged布爾值只要任一細分風險維度超過官方預設判定線即為 true,適合做快速總開關
categories鍵值布爾字典列出 hate、harassment、violence、illicit 等官方一級與二級分類各自的布爾判定結果,完整鍵名列表以官方文檔表為準
category_scores鍵值浮點字典給出每個分類 0 到 1 之間的模型置信度得分,便於業務方按自身嚴格度重設閾值
category_applied_input_types鍵值數組字典圖文混傳時標明某分類是由 ["text"]、["image"] 還是兩者共同觸發,方便前端給出精準提示

關於 OpenAI 平台整體禁止哪些內容場景,可對照閱讀 /guides/chatgpt-restricted-content-usage-policy。如果你並非接入 API,而是在日常使用網頁端時關心訂閱帳號權限與升級方式,可查看本站 ChatGPT Plus 說明頁,注意個人會員訂閱與開發者 API 屬於兩套獨立系統。

本站訂閱與團隊開通提示:如果你在國內遇到銀行卡被拒或急需提升對話與推理配額,可前往本站 ChatGPT Plus 充值說明頁 或 ChatGPT Pro 5x/20x 充值頁 自助獲取卡密完成開通(全程無需交出帳號密碼,可開增值稅發票);企業多成員協作可直接查看 ChatGPT Business 團隊定製方案。

三、工程落地時的分流與防踩坑建議

審核返回結果與常見場景怎麼處理

圖:本站根據 OpenAI 官方文檔:Moderation 整理的示意圖

把審核接口真正放進生產鏈路時,建議做好以下三件事:

  1. 輸入與輸出雙端設防:除了在調主模型前做輸入側檢查(Input Guardrail),對安全要求嚴苛的公開應用還可以把主模型吐出的草稿再過一遍審核接口,確認無誤後再返回給終端頁面,也可異步並行執行以減少首字等待。
  2. 按業務場景微調分數線:不同行業對邊界內容的容忍度差異很大。兒童教育類應用可以把 category_scores 的攔截閾值調得比預設 flagged 更嚴;而新聞摘要、法學檢索類工具若遇到正常專業術語誤報,可設定灰度分數區間轉人工抽檢。
  3. 預留速率餘量並處理長文:新建或低層級 API 帳號的每分鐘請求上限較低,高並發上線前請核對 /guides/openai-api-usage-tiers-rate-limits。另外遇到上萬字長文檔時,單句違規內容容易被大段常規敘述稀釋分數,建議按自然段落切分後放進數組批量送檢。

常見問題

問:既然 Moderation API 免費,能拿來單獨審核與 OpenAI 無關的普通社區回帖嗎?

不建議。按 OpenAI 官方使用政策說明,該免費端點旨在幫助開發者保障圍繞 OpenAI 構建的應用安全;脫離 OpenAI 模型調用場景、單純把它當作第三方免費內容審核接口高頻刷量,可能觸發平台限制或違反使用條款。

問:底層模型迭代後,我寫死在代碼裏的分數閾值需要改嗎?

需要定期覆核。omni-moderation-latest 指向持續更新的最新快照,官方明確提示模型升級後同一段文本的概率校準值可能發生變化;依賴自定義 category_scores 閾值的系統,應在模型更新後用固定測試集重測一遍。

問:傳入中文或中英混排內容能正常識別嗎?

可以。相比早期側重英文的舊版純文本審核模型,基於多模態底座的新模型對中文等主流語種的語義理解能力提升明顯,日常中文問答和常見圖文場景可直接接入。

問:國內沒有境外信用卡,怎麼開通或續費 ChatGPT Plus / Pro?

答:可在本站使用支付寶、微信支付或 AlipayHK 下單獲取卡密自助兌換(支持 ChatGPT Plus、Pro 5x 可覆蓋檔 與 Pro 5x 空白號檔),實時價格、兌換前提與售後規則(掉訂閱按剩餘天數折退,封號不在質保範圍)以對應頁面說明為準。

相關教學

參考資料

  • OpenAI 官方文檔:Moderation — https://developers.openai.com/api/docs/guides/moderation
  • OpenAI 官方定價頁 — https://developers.openai.com/api/docs/pricing

Nathaniel 的更多內容

  1. 01

    獨立開發者用 ChatGPT + Codex 跑通產品全流程:市場驗證、PRD、原型到代碼上線覆盤清單

    單人做獨立產品最容易陷入「閉門寫兩個月代碼上線零用戶」或「AI 寫到一半目錄越改越崩」。本文整理「ChatGPT 負責市場驗證、PRD 與覆盤 + Codex 負責工程實現與測試」的五階段雙軌流程,附起手提示詞與 7 項上線覆盤清單。

    ChatGPTCodex0
  2. 02

    用 ChatGPT 批量生成規範文件命名規則、整理混亂目錄樹與合併零散發票抬頭清單腳本

    面對滿桌面的「新建文件夾」「最終版2」和上百張零散電子發票,手工改名抄台帳耗時又容易漏重。本文分享先脫敏取樣、再用 ChatGPT 生成帶預演和回滾日誌的本地 Python 腳本,離線安全完成目錄整理與發票抬頭合併去重的實戰流程。

    ChatGPT0
  3. 03

    用 ChatGPT 做海外電郵營銷(EDM)受眾分層文案、A/B 主題行測試與防進垃圾箱自檢

    做海外獨立站或出海 SaaS 電郵營銷(EDM),最怕千人一面群發被直接送進垃圾箱。本文結合 Gmail/Yahoo 批量發件人規範,梳理用 ChatGPT 設計受眾分層文案、批量生成 A/B 主題行矩陣並開展發前垃圾詞與合規自檢的實戰提示詞。

    ChatGPT0
  4. 04

    用 ChatGPT 寫 Notion Formula 2.0 公式、Obsidian Dataview 查詢與 Airtable 自動化腳本

    給 Notion 數據庫寫多條件 Formula 2.0 公式、給 Obsidian 寫 Dataview 動態看板,或在 Airtable 裏寫自動化腳本,經常因為一個小括號或類型不匹配報錯半天。本文整理三大工具的通用上下文喂料規範與三套直接可複製的生成提示詞。

    ChatGPT其他 AI 工具0
  5. 05

    用 ChatGPT 處理複雜 JSON / YAML / XML 字段映射、格式轉換與校驗規則編寫實戰

    對接第三方 API、遷移 Kubernetes 配置或解析政企 XML 報文時,手工對照幾百行嵌套字段既慢又容易漏掉空值與類型邊界。本文整理用 ChatGPT 完成字段映射表梳理、生成確定性轉換腳本以及編寫 JSON Schema / Pydantic / XSD 校驗規則的實戰流。

    ChatGPT其他 AI 工具0
  6. 06

    用 ChatGPT 準備本科/碩士畢業論文答辯:提煉答辯 PPT 結構、模擬導師犀利追問與 3 分鐘自述稿

    畢業論文寫完後,要在 3–5 分鐘內講清研究價值並頂住答辯評委的連環追問並不輕鬆。本文整理在嚴格遵守高校學術規範的前提下,用 ChatGPT 提煉答辯 PPT 結構、打磨 3 分鐘口語自述稿並開展模擬導師犀利追問的排練流程與提示詞。

    ChatGPT0

同產品的其他教學

  1. 01

    用 ChatGPT 整理家庭裝修預算明細、隱蔽工程驗收清單與主材優缺點對比表實戰

    第一次裝修面對幾十頁施工報價單、密密麻麻的水電防水隱蔽項目與五花八門的主材參數,極易踩坑增項。本文梳理用 ChatGPT 審查裝修報價漏項、生成帶公式的預算明細表、定製工地隱蔽工程驗收單與主材對比表的實戰提示詞。

    ChatGPT0
  2. 02

    用 ChatGPT 做費曼學習法讀書共讀:反向追問檢驗自己是否真讀懂專業書籍與整理書單筆記

    讀完一本專業硬書常感覺「合上書就忘」,直接讓 AI 概括全書又容易產生懂了的錯覺。本文介紹用 ChatGPT 結合 Study Mode 與費曼學習法做反向追問共讀,通過通俗複述、挑刺盲區到沉澱書單卡片的完整流程與提示詞。

    ChatGPT0
  3. 03

    用 ChatGPT 做外貿產品多語種目錄、展會邀約與客戶跟進節奏表(附脫敏與本地化提示詞)

    做外貿展會與海外推廣時,手工翻譯十幾款產品目錄費時且容易留下一堆中式英文,展後客戶跟進也常缺節奏。本文梳理用 ChatGPT 先脫敏建術語庫、再批量產出多語種目錄、展前邀約函與展後 21 天跟進節奏表的實戰流程與提示詞。

    ChatGPT0
  4. 04

    用 ChatGPT 寫高質素技術專欄文章、開源項目 Release Notes 與版本更新日誌實戰

    讓 AI 直接憑空寫技術文章容易滿篇空洞套話,直接甩 Git 記錄寫更新日誌又常常漏掉破壞性變更。本文整理用 ChatGPT 結合真實代碼片段、壓測數據與 PR 摘要,高效產出深度技術專欄、GitHub Release Notes 與 CHANGELOG 的實戰工作流。

    ChatGPT0
  5. 05

    用 ChatGPT 做產品用戶訪談紀要編碼、提煉高頻痛點需求池與 RICE 優先級打分實戰

    手頭攢了十幾份用戶訪談逐字稿,手工貼便利貼歸納痛點耗時又容易帶入主觀偏見。本文分享用 ChatGPT 完成脫敏檢查、逐份開放式編碼、跨樣本聚類高頻痛點並搭建 RICE 優先級打分表的 5 步實戰流,附可直接複製的三段核心提示詞。

    ChatGPT0
  6. 06

    ChatGPT 網頁版上載超過 10 個文件或回形針附件按鈕變灰怎麼辦:打包合併與配額限制排查

    在 ChatGPT 網頁版批量分析文檔時,常遇到一次選超 10 個文件被攔截或輸入框回形針按鈕變灰。本文依據 OpenAI 文件上載與存儲說明,梳理 6 類常見報錯的分流排查法,提供 ZIP 打包、本地合併與 Projects 複用方案及可直接複製的解包提示詞。

    ChatGPT0

0 條評論

登入 後參與評論

還沒有評論,來搶沙發~