METR 与 Redwood 对 OpenAI 内部监控系统开展红队测试
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
本条选题由第三方线索发现；线索方提供的摘要未被采用，本页内容依据下方信源整理。线索来源：AIHOT
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载三周深度访问测试
这次演练由 METR 与 Redwood Research 各派一名人员参与，时间跨度为三周，从 7 月 21 日到 8 月 11 日，性质是对 OpenAI 内部失准监控系统做一次高权限压力测试。两名外部人员拿到的是相当深的权限：可以接触 OpenAI 内部代码库、失准监控器的提示词与配置细节，以及内部文档；他们还访谈了监控、安全系统与安保团队中约十二名研究人员和工程师。为支撑这种访问级别，两人使用 OpenAI 配发的设备，设备始终不离开办公场所，在场期间也有人陪同。演练结束后产出一份 61 页的内部报告，交给 OpenAI 的研究人员与安全人员。需要说明的是，这次演练被三方共同定位为“试点”，目的是摸索让外部研究者深入内部基础设施的可行方式，而不是对外充分披露 OpenAI 的监控体系，因此三方事先约定，公开内容只写成一篇相对简短、停留在高层的文章。
评估范围与时间边界
报告关注两个问题：一是有多大比例的智能体推理处在监控之下，二是智能体在原理上能否让监控系统失效或被绕过。评估对象锁定为 7 月 21 日及之前已经存在的内部失准监控系统，演练期间正在推进的改动不在评估范围内。材料给出的估计是：当时由至少与 GPT-5.5 同等强度的模型产生的、经由内部 Responses API（Codex 等能力由它支撑）的智能体流量中，约有 75–94% 具备被监控的条件。这一区间只描述被评估的历史系统，并不代表扩容后系统当下的覆盖水平，本次演练也没有就此得出结论。OpenAI 在演练进行期间正在扩充其监控系统，因此报告结论与当前实际状态之间存在时间差。
发现的漏洞与后续安排
两名外部人员在 7 月 21 日及之前的异步内部失准监控系统中发现了若干此前未见的新漏洞。材料只给出这些发现的示例性摘要，未逐条展开。对于后续同类演练，METR 表示将参照其与 AI 公司合作方式中提到的透明度与独立性做法，以提供更充分的对外说明。对读者而言，这次演练的价值在于展示了一种安排：外部研究者以受控方式进入企业内部，检查监控覆盖比例与监控系统本身是否可被规避，并把结果先以内部报告形式交给被评估方；同时，公开层面只保留高层描述，覆盖比例、漏洞细节等仍留在内部报告中。
为什么值得看
外部机构首次获准深入 OpenAI 内部基础设施做红队测试，暴露了异步监控系统的多处新漏洞，也说明监控覆盖率存在缺口。
信源2 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。