總覽 / 事件詳頁

INC-2026-063■ 中 · 6.5/10已修補💻 開發來源:安全研究披露

METR/Redwood 紅隊揭 OpenAI 內部 agent 監控多項繞過漏洞

兩家 AI 安全研究機構獲准對 OpenAI 內部的 AI 監控系統做三週壓力測試,找到了讓 AI agent 完全繞過監控的多個漏洞——包括一個可讓數百個動作憑空消失的 exploit。OpenAI 說都修好了,但研究方明說:我們沒驗證。

👤 跟你有什麼關係:連專門盯 AI 的監控系統都能被 AI 繞過——誰來監控監控 AI 的系統?

當時損害

🔮 若不處理

第三方紅隊監控系統成為 frontier lab 治理新實踐;監控覆蓋率與監控繞過清單將是每個 agent 部署的必測項。

✅ 今天可以做:盤點你的監控盲區:壓縮、排程、上下文重建時,agent 還在被監控嗎?
建立已知繞過清單+log 交叉比對機制,驗證「該被監控的流量真的被監控」

時間線

發生:2026-10-22 | 披露:演練 2026-07-21~08-11;2026-10-22 METR/Redwood 同日博文公開;CNBC/The Register 跟進 | 受影響:—(授權紅隊演練,無受害方;被測為 OpenAI 內部監控系統) | ⚠ 全數覆蓋率數字為 METR/Redwood 估計(時點 07-21~08-11,不可外推)。「in principle」「likely」「did not validate」限定語必須保留——風險可行性 ≠ 已發生。「已修復全部 production 漏洞」為 OpenAI 自述、METR 明示未評估。同名異物:本篇 ≠ METR 03 月 Anthropic 紅隊 ≠ OpenAI 自家紅隊(061)≠ HF 調查報告。