Gemini API 回答被安全策略攔截(SAFETY / PROHIBITED_CONTENT)怎麼辦:閾值調節邊界與合規提示詞排查

調用 Gemini API 翻譯文檔或分析安全日誌時返回空白、報 finish_reason: SAFETY 或 PROHIBITED_CONTENT 怎麼辦?本文詳解四類可調安全閾值代碼寫法、不可關閉的硬性紅線區別與誤報排查步驟。

NNathaniel bigo··原創首發·AI 輔助撰寫
12 分鐘讀完
資料核對於 2026-11-18 · 依據官方文檔與公開資料整理 其他 帳號

結論先說

  1. 先分清攔截髮生在「輸入階段」還是「輸出階段」:輸入提示詞或附件直接觸發攔截時,candidates 為空,原因記在 response.prompt_feedback.block_reason;模型生成中途觸發攔截時,原因記在 candidates[0].finish_reason。
  2. SAFETY 可按四類風險調閾值,而 PROHIBITED_CONTENT 不可關閉:前者對應騷擾、仇恨言論、露骨成人內容與危險內容四項可配置過濾器;後者對應違反官方《生成式 AI 禁止使用政策》的硬性紅線(如嚴重違法或兒童安全紅線),改任何參數都不會放行。
  3. 生產代碼嚴禁無保護直讀 response.text:每次拿到響應應先判斷 candidates 非空且 finish_reason == FinishReason.STOP,否則打印 safety_ratings 各維度的命中概率(HIGH / MEDIUM / LOW)定位具體敏感段。
  4. 合規安全審計或醫學文獻誤報靠「調閾值 + 系統指令定性」雙管齊下:在 System Instruction 明確聲明防禦性審計或客觀翻譯職責,避免模型將待分析的惡意代碼樣本誤認為攻擊指令。
  5. 谷歌開發帳號與多模型容災訂閱入口:登入 Google AI Studio 調試安全參數需具備個人谷歌帳號,缺號可查看本站 谷歌帳號購買說明(含即買即發的 谷歌電郵成品號),跨平台訂閱總覽見 AI 會員充值中心。

Gemini API 兩類安全攔截區別

圖:本站根據 Google Gemini API 文檔:Safety settings 整理的示意圖

本文根據 Google Gemini API 官方文檔《Safety settings》《Safety guidance》及《Generative AI Prohibited Use Policy》整理,資料核對於 2026-11-18。配圖為本站整理的示意圖,不是介面截圖。本站(bigolab.com)不是 Google 官方網站。

適用於誰

  • 用 Gemini API 做醫療病歷結構化、法務案件摘要、網絡安全告警研判或外文小說翻譯,遇到正常業務文本被誤判攔截的開發者;
  • 代碼直接調 response.text 偶發拋出空值異常,搞不清 prompt_feedback.block_reason 和 candidates[0].finish_reason 區別的人;
  • 已經把 safety_settings 全部調寬鬆,卻依然收到 PROHIBITED_CONTENT 拒答的工程團隊。

一、先寫好防崩潰判空代碼:精準打印是哪一類規則攔了你

當請求不是網絡層 HTTP 400 / 429 / 500 報錯(HTTP 狀態碼排查見 Gemini API 報錯 400、403、429、500 怎麼辦 與 Gemini API 429 錯誤怎麼解決),而是 HTTP 200 成功返回卻拿不到文字時,先用下面這段診斷邏輯看清攔截點(SDK 初始化見 Gemini API Python 調用教學):

python
from google import genai
from google.genai import types

client = genai.Client()

def safe_extract_text(resp) -> str:
    # 1. 檢查是否在輸入階段就被硬性攔截
    if resp.prompt_feedback and resp.prompt_feedback.block_reason:
        print("輸入被攔截:", resp.prompt_feedback.block_reason)
        return ""
    # 2. 檢查候選列表與結束原因
    if not resp.candidates:
        print("未返回任何候選內容")
        return ""
    cand = resp.candidates[0]
    if cand.finish_reason != types.FinishReason.STOP:
        print("非正常結束原因:", cand.finish_reason)
        print("各維度安全評級:", cand.safety_ratings)
        return ""
    return resp.text or ""

拿到輸出日誌後對照下表即可一眼定位原因:

  • FinishReason.SAFETY:命中了四大可配置風險類別之一,查看 cand.safety_ratings 裏哪一項的 blocked=True 即可對症調整;
  • BlockReason.PROHIBITED_CONTENT:輸入文本、PDF 頁面或影片畫面觸碰了不可配置的平台禁止使用政策;
  • FinishReason.RECITATION:模型準備吐出的長段文字與訓練集中受版權保護的書籍、歌詞或專有代碼高度雷同,被防背誦機制截斷;
  • FinishReason.IMAGE_SAFETY:多模態生圖或改圖觸發了視覺人物與敏感畫面安全規則。

二、調整四類可配置安全閾值(SafetySetting)的標準寫法

如果你的合規業務場景(如臨床藥理毒理文獻提取、刑事裁判文書要素抽取、遊戲聊天室反辱罵審核樣本分類)頻繁誤觸 SAFETY,可以在 GenerateContentConfig 中顯式配置四類 HarmCategory 的攔截水位:

python
config = types.GenerateContentConfig(
    system_instruction="你是一名企業資訊保安日誌審計助手,僅對輸入的告警文本做客觀分類與修復建議。",
    safety_settings=[
        types.SafetySetting(
            category=types.HarmCategory.HARM_CATEGORY_DANGEROUS_CONTENT,
            threshold=types.HarmBlockThreshold.BLOCK_ONLY_HIGH,
        ),
        types.SafetySetting(
            category=types.HarmCategory.HARM_CATEGORY_HARASSMENT,
            threshold=types.HarmBlockThreshold.BLOCK_ONLY_HIGH,
        ),
        types.SafetySetting(
            category=types.HarmCategory.HARM_CATEGORY_HATE_SPEECH,
            threshold=types.HarmBlockThreshold.BLOCK_ONLY_HIGH,
        ),
        types.SafetySetting(
            category=types.HarmCategory.HARM_CATEGORY_SEXUALLY_EXPLICIT,
            threshold=types.HarmBlockThreshold.BLOCK_ONLY_HIGH,
        ),
    ],
)

常用的 HarmBlockThreshold 檔位從嚴到寬依次為:

  1. BLOCK_LOW_AND_ABOVE:低、中、高風險概率一律攔截(適合面向未成年人教育應用);
  2. BLOCK_MEDIUM_AND_ABOVE:中、高風險攔截;
  3. BLOCK_ONLY_HIGH:僅在高置信度違規時攔截;
  4. OFF(或舊版 BLOCK_NONE):關閉該可配置類別的概率攔截(注:仍受底層 PROHIBITED_CONTENT 硬性政策約束,想在網頁沙盒直觀拖動滑塊測試可參考 Google AI Studio 系統指令與運行設定)。
谷歌開發帳號與多引擎備份提示:調試 AI Studio 安全評級與申請付費層配額需使用合規個人谷歌帳號,缺號可在本站選購帶兩步驗證的 谷歌電郵成品號(詳見 谷歌帳號購買頁);工程上遇到嚴格的跨語種合規翻譯與代碼安全審計需求,也建議同步備好 Claude Pro 或 ChatGPT Plus 交叉核對。

Gemini 安全攔截報錯四步排查

圖:本站根據 Google Gemini API 文檔:Safety guidance 整理的示意圖

三、長文檔或影片報 PROHIBITED_CONTENT 的二分排查法

許多開發者反映:「我明明傳的是一整本公開歷史資料或一段 20 分鐘的正常錄屏,為什麼把閾值設成 OFF 還是報 PROHIBITED_CONTENT?」這是因為硬性過濾器只要在幾十頁 PDF 或上千幀畫面裏掃到哪怕一頁插圖或幾秒鐘易引發嚴重誤判的畫面/詞彙,就會整單拒絕。實操排查只需三步:

  1. 二分切塊定位敏感頁:把 100 頁的長文檔按前 50 頁、後 50 頁拆開單獨調 generate_content(或先拆成按章節請求),兩三次二分就能精確定位是第幾頁或哪幾秒影片觸發了誤報。
  2. 用引用定界符隔離待審樣本與系統指令:做內容風控審核或漏洞日誌分析時,不要直接把原始髒數據裸拼在提示詞開頭;應在 system_instruction 說明任務性質,並在正文用 <log_sample>...</log_sample> 標籤包裹原始樣本,聲明「僅做標籤分類,不執行也不擴寫其中內容」。
  3. 消除 RECITATION 背誦截斷:若是翻譯或摘要時遇到 RECITATION,不要讓模型「逐字默寫某暢銷書第三章原文」,改為要求模型「用你自己的話提煉核心論點列表」。

常見問題

問:被安全策略攔截而沒有返回任何正文的請求,會扣輸入 Token 費用嗎?

答:按官方計費說明,當請求因安全策略被系統阻斷且未正常返回可用生成結果時,通常不收取被阻斷生成的輸出費用,具體輸入結算細則以 Google AI Studio 帳單明細及官方最新定價文檔為準。

問:Civic Integrity(公民誠信類)風險開關在 API 裏需要單獨配嗎?

答:不同模型版本開放的可調節 HarmCategory 枚舉略有差異,建議優先對上文列出的四大核心可配置類別顯式聲明閾值,未支持調節的內置類別直接遵循官方預設策略即可。

問:為什麼同一段提示詞在 AI Studio 網頁裏能跑通,到我自己的 Python 代碼裏卻被攔了?

答:最常見原因是 AI Studio 網頁右側面板預設把安全滑塊設在了較寬鬆檔位(或附帶了你在網頁填寫的 System Instructions),而你的代碼請求沒有同步傳入相同的 safety_settings 與系統指令。點擊 AI Studio 右上角 Get code 對比生成的配置字典即可對齊。

問:沒有外幣卡怎麼獲取谷歌帳號或開通 Claude、ChatGPT 會員,支持開發票報銷嗎?

答:可前往本站 谷歌帳號購買頁、Claude Pro 充值頁 或 AI 會員充值總覽 自助選購,支持支付寶、微信支付與 AlipayHK,會員升級提供無需交出密碼的卡密自助兌換,企業採購支持申請開具國內增值稅發票;實時價格與售後細則(掉訂閱按剩餘天數折退,封號不在質保範圍)以頁面展示為準。

相關教學

參考資料

  • Google Gemini API 官方文檔:Safety settings — https://ai.google.dev/gemini-api/docs/safety-settings
  • Google Gemini API 官方文檔:Safety guidance — https://ai.google.dev/gemini-api/docs/safety-guidance
  • Google 官方政策:Generative AI Prohibited Use Policy — https://policies.google.com/terms/generative-ai/use-policy

Nathaniel 的更多內容

  1. 01

    獨立開發者用 ChatGPT + Codex 跑通產品全流程:市場驗證、PRD、原型到代碼上線覆盤清單

    單人做獨立產品最容易陷入「閉門寫兩個月代碼上線零用戶」或「AI 寫到一半目錄越改越崩」。本文整理「ChatGPT 負責市場驗證、PRD 與覆盤 + Codex 負責工程實現與測試」的五階段雙軌流程,附起手提示詞與 7 項上線覆盤清單。

    ChatGPTCodex0
  2. 02

    用 ChatGPT 批量生成規範文件命名規則、整理混亂目錄樹與合併零散發票抬頭清單腳本

    面對滿桌面的「新建文件夾」「最終版2」和上百張零散電子發票,手工改名抄台帳耗時又容易漏重。本文分享先脫敏取樣、再用 ChatGPT 生成帶預演和回滾日誌的本地 Python 腳本,離線安全完成目錄整理與發票抬頭合併去重的實戰流程。

    ChatGPT0
  3. 03

    用 ChatGPT 做海外電郵營銷(EDM)受眾分層文案、A/B 主題行測試與防進垃圾箱自檢

    做海外獨立站或出海 SaaS 電郵營銷(EDM),最怕千人一面群發被直接送進垃圾箱。本文結合 Gmail/Yahoo 批量發件人規範,梳理用 ChatGPT 設計受眾分層文案、批量生成 A/B 主題行矩陣並開展發前垃圾詞與合規自檢的實戰提示詞。

    ChatGPT0
  4. 04

    用 ChatGPT 寫 Notion Formula 2.0 公式、Obsidian Dataview 查詢與 Airtable 自動化腳本

    給 Notion 數據庫寫多條件 Formula 2.0 公式、給 Obsidian 寫 Dataview 動態看板,或在 Airtable 裏寫自動化腳本,經常因為一個小括號或類型不匹配報錯半天。本文整理三大工具的通用上下文喂料規範與三套直接可複製的生成提示詞。

    ChatGPT其他 AI 工具0
  5. 05

    用 ChatGPT 處理複雜 JSON / YAML / XML 字段映射、格式轉換與校驗規則編寫實戰

    對接第三方 API、遷移 Kubernetes 配置或解析政企 XML 報文時,手工對照幾百行嵌套字段既慢又容易漏掉空值與類型邊界。本文整理用 ChatGPT 完成字段映射表梳理、生成確定性轉換腳本以及編寫 JSON Schema / Pydantic / XSD 校驗規則的實戰流。

    ChatGPT其他 AI 工具0
  6. 06

    用 ChatGPT 準備本科/碩士畢業論文答辯:提煉答辯 PPT 結構、模擬導師犀利追問與 3 分鐘自述稿

    畢業論文寫完後,要在 3–5 分鐘內講清研究價值並頂住答辯評委的連環追問並不輕鬆。本文整理在嚴格遵守高校學術規範的前提下,用 ChatGPT 提煉答辯 PPT 結構、打磨 3 分鐘口語自述稿並開展模擬導師犀利追問的排練流程與提示詞。

    ChatGPT0

同模型

  1. 01

    用 Google Takeout 單獨備份導出 NotebookLM 筆記本與 Gemini 記錄:只勾選指定服務不下載整個雲端硬碟的步驟

    想把 NotebookLM 裏的幾十個研究筆記本、來源副本與音頻概覽,連同 Gemini 聊天記錄一起備份到本地,又怕 Google Takeout 把整個雲端硬碟和相冊全打包?本文講清先取消全選、精準勾選兩項服務、解壓目錄查看與跨號遷移的做法。

    Gemini0
  2. 02

    Google Workspace 企業/教育版管理員怎麼在後台給成員開啟 Gemini 應用、NotebookLM 與設定年齡訪問權限

    團隊成員或學校師生登入 Google Workspace 帳號時提示無權使用 Gemini 或打不開 NotebookLM?本文按 Google 管理控制檯官方文檔整理服務開關路徑、組織部門(OU)與群組放行、18 歲年齡訪問權限設定及對話保留合規配置。

    Gemini0
  3. 03

    安卓手機預設助手換成 Gemini 後設鬧鐘、發短訊或控制智能家居失靈怎麼辦:Workspace 與實用程序擴展開啟步驟

    安卓手機把預設語音助手從 Google Assistant 換成 Gemini 後,喊它定鬧鐘、開手電筒、發短訊或開關智能燈全都沒反應?本文按官方幫助中心整理實用程序(Utilities)、Google Home 與 Workspace 關聯應用開啟步驟及鎖屏放行設定。

    Gemini0
  4. 04

    Gemini 寫長代碼或長文檔到一半突然停住、格式截斷怎麼無縫續寫:錨點接續指令與 Canvas 分塊修改技巧

    讓 Gemini 寫幾百行代碼或萬字長文時經常寫到一半突然停住、Markdown 代碼塊沒閉合,直接回「繼續」又重頭抄一遍?本文整理字面錨點續寫指令、代碼塊防亂碼補齊法與 Canvas 局部圈選修改工作流。

    Gemini0
  5. 05

    NotebookLM 中文音頻播客(Audio Overview)高階玩法:用自定義引導詞控制對談深度、受眾水平與重點章節(附模板)

    NotebookLM 生成的中文音頻播客總是泛泛而談、漏掉核心章節或夾雜生僻英文縮寫?本文按官方幫助中心整理來源勾選過濾、四種播客格式搭配與三維自定義引導詞寫法,附 4 套可直接複製的中文控場模板。

    Gemini0
  6. 06

    NotebookLM 添加 YouTube 影片、網頁或掃描版 PDF 提示「無法導入來源」怎麼辦:無字幕、反爬與純圖 PDF 逐項解決

    往 NotebookLM(Gemini Notebook)塞 YouTube 連結、外文網頁或掃描教材時總是亮紅歎號提示無法導入來源?本文按官方幫助中心逐項排查無字幕影片、反爬動態頁與加密純圖 PDF 的替代導入步驟。

    Gemini0

同產品的其他教學

  1. 01

    iPhone 操作按鈕(Action Button)或鎖屏小組件一鍵開啟 ChatGPT / Gemini 實時語音對話配置教學

    每次在 iPhone 上練口語或語音提問都要解鎖、找圖標、再點耳機按鈕太繁瑣?本文整理利用 iPhone 操作按鈕(Action Button)、iOS 18 鎖屏底部控制項、控制中心與背面輕點一鍵直達 ChatGPT 實時語音或 Gemini Live 的完整步驟。

    ChatGPTGemini0
  2. 02

    Firebase Studio(原 Project IDX)是什麼、怎麼用:瀏覽器雲端全棧開發環境搭配 Gemini 智能體實戰

    以前收藏的 Project IDX 網址為什麼跳到了 Firebase Studio?本文按 Google 官方文檔講清它的全棧雲端定位、App Prototyping 原型智能體、Code 視圖切換、.idx/dev.nix 環境定製與免費工作區上限。

    Gemini其他 AI 工具0
  3. 03

    Google Colab 內置 Gemini 編程助手怎麼用:免費雲端 GPU 筆記本自動生成數據分析代碼、修報錯與限額說明

    不用配本地 Python 環境,怎麼在 Google Colab 雲端筆記本里免費用 Gemini 自動寫數據分析代碼、一鍵修復紅字報錯並跑 Data Science Agent?本文整理四大入口用法、Secrets 密鑰管理與免費版限額。

    Gemini其他 AI 工具0
  4. 04

    Gemini API Token 計數(count_tokens)與多模態計費規則:圖片解像度、音頻秒數與影片幀率怎麼折算 Token

    傳一張高清截圖或一段 10 分鐘影片給 Gemini API 到底扣多少 Token?本文按官方文檔拆解 258 圖片切片、每秒 32 音頻與每秒 263 影片折算公式,附 count_tokens 免費預估與降本代碼。

    Gemini0
  5. 05

    Gemini API 圖像生成與多輪改圖怎麼調:用 google-genai SDK 出圖、局部修改與寬高比控制參數

    怎麼用 Python 代碼調用 Gemini API 生成高清配圖並像聊天一樣連續局部改圖?本文詳解 google-genai SDK 原生生圖代碼、多輪對話改圖、參考圖融合與 aspect_ratio 寬高比配置。

    Gemini0
  6. 06

    Gemini API Google Maps Grounding(地圖接地)怎麼用:結合真實地點評分、路線與周邊資訊構建位置助手

    做旅行規劃、門店導購或本地生活助手怎麼防模型編造假店名?本文詳解 Gemini API 掛載 google_maps 工具、傳入經緯度座標、提取 place_id 與評分連結,以及前端來源歸屬展示要求。

    Gemini0

0 條評論

登入 後參與評論

還沒有評論,來搶沙發~