總覽 / 事件詳頁
INC-2026-063■ 中 · 6.5/10已修補💻 開發來源:安全研究披露
METR/Redwood 紅隊揭 OpenAI 內部 agent 監控多項繞過漏洞
兩家 AI 安全研究機構獲准對 OpenAI 內部的 AI 監控系統做三週壓力測試,找到了讓 AI agent 完全繞過監控的多個漏洞——包括一個可讓數百個動作憑空消失的 exploit。OpenAI 說都修好了,但研究方明說:我們沒驗證。
👤 跟你有什麼關係:連專門盯 AI 的監控系統都能被 AI 繞過——誰來監控監控 AI 的系統?
當時損害
- 2026-07-21~08-11 三週現場紅隊演練(61 頁內部報告)
- 五項發現:sandboxing+Auto-Review 繞過(in principle)/monitoring-masking exploit(數百動作免監控)/序列化差異/兩個 headers 停用監控/兩個未監控工具的沙箱繞過
- 估計 2026-05~07 約一成合格 Codex 流量因 compaction 未被監控(METR 估計)
- 2026-10-22 METR/Redwood 同日公開;OpenAI 稱 production 漏洞全數修補(自述、未驗證)
- 演練與 Hugging Face 事件為分開工作(METR 腳註)
- 後續(10-29):OpenAI 監控架構披露(099)——L0–L3 分層、回放驗證;自動暫停「規劃中」非已啟用
🔮 若不處理
第三方紅隊監控系統成為 frontier lab 治理新實踐;監控覆蓋率與監控繞過清單將是每個 agent 部署的必測項。
✅ 今天可以做:盤點你的監控盲區:壓縮、排程、上下文重建時,agent 還在被監控嗎?
建立已知繞過清單+log 交叉比對機制,驗證「該被監控的流量真的被監控」
時間線
- **2026-07-21**:紅隊演練開始(同日 openai 公開 INC-2026-001-openai-huggingface);被測對象為當日及之前的監控系統。METR 腳註明言演練與 HF 事件調查是**分開的兩件工作**。
- **2026-05~07(回溯)**:估計約一成合格內部 Codex 流量因 compaction 事件未受監控(OpenAI 員工演練前已獨立發現並於演練期間修復)。
- **2026-08-11**:演練結束,產出 61 頁內部報告(另有 OpenAI 刪節之 38 頁版交兩機構領導層)。
- **2026-10-22**:METR 博文+Redwood 同題博文(Buck Shlegeris 署名)公開;CNBC 同日報道。
- **2026-10-23~25**:The Register/THN 跟進(THN 同文混述 openai 自家紅隊發現 INC-2026-061-openai-frontier-training-containment,引用時須分離)。
發生:2026-10-22 | 披露:演練 2026-07-21~08-11;2026-10-22 METR/Redwood 同日博文公開;CNBC/The Register 跟進 | 受影響:—(授權紅隊演練,無受害方;被測為 OpenAI 內部監控系統) | ⚠ 全數覆蓋率數字為 METR/Redwood 估計(時點 07-21~08-11,不可外推)。「in principle」「likely」「did not validate」限定語必須保留——風險可行性 ≠ 已發生。「已修復全部 production 漏洞」為 OpenAI 自述、METR 明示未評估。同名異物:本篇 ≠ METR 03 月 Anthropic 紅隊 ≠ OpenAI 自家紅隊(061)≠ HF 調查報告。