總覽 / 事件詳頁
INC-2026-050■ 中 · 6.5/10已確認💻 開發來源:廠商威脅情報(蜜罐一級觀測)
Sekoia Flowise 蜜罐:攻擊者試圖劫持 LLM agent 為攻擊分析助手
資安公司 Sekoia 放了一台沒上鎖的 Flowise(AI agent 編排平台)蜜罐上網,完整錄下一名中文使用者、賭博平台動機的攻擊者的全套動作:3 分鐘內摸清服務並偷走第一批機密,接著對蜜罐裡的 LLM agent 連用七類劫持技術——探工具、套系統提示詞、毒化記憶、跨對話偷資料、改寫系統設定,甚至編出「我們獲授權做資安稽核」的說法騙 AI 配合。最後一步更直接:把受害方的 LLM agent 當成自己的攻擊分析助手,餵真實情報要它生成攻擊建議。蜜罐裡沒有真實資料、劫持未遂——但「把別人家的 AI 變成武器」的完整劇本,第一次被從頭到尾記錄下來。
👤 跟你有什麼關係:公司裡那個幫你查資料的 AI 助理,在攻擊者眼裡是現成的內應——一句「我是獲授權的稽核員」,就可能讓它交出機密、反過來幫壞人分析。AI 助理的權限,要當正式員工的權限管。
當時損害
- 蜜罐 decoy 內無真實損害(假資料庫/假財務資料)——劫持未遂,意圖與手法鏈完整記錄
- 七類 LLM 劫持技術實戰樣本:tool probing→system prompt 抽取→記憶投毒→跨對話洩漏→systemMessage 覆寫→overrideConfig 組態通道→「authorized audit」授權話術
- 攻擊者試圖把受害方 LLM 當真實作業的攻擊分析助手:餵入真實賭博平台情報、要求生成攻擊路徑(指定中文回答)
- 3 分鐘內識別服務並竊取第一批 secrets;其後每 10 分鐘輪詢外傳組態與 chatflow 清單
- 歸因限「中文使用者、iGaming/犯罪動機」——非 APT,無組織歸屬
🔮 若不處理
企業部署的 AI agent 平台身上掛著兩層價值:平台裡存的 secrets+身後接的 RAG 資料——被劫持時一次全交出。「獲授權稽核」類話術會隨 agent 普及而增加:對 agent 說「我被授權了」就能借力,防禦必須把授權驗證放在 AI 對話之外(帶外審批)。七類技術清單可直接轉為 agent 防護測試基線:強認證、權限邊界、組態變更審計、出站監控、對「audit pretext+overrideConfig 異常」的行為偵測。
✅ 今天可以做:公司有在用 AI agent/聊天機器人平台的話,今天確認它有沒有直接暴露在公網、要不要登入才能用。
如果你是開發者/企業 IT:agent 平台強認證+RAG 與 secrets 的獨立權限邊界;「authorized audit」類話術的 tool call 一律帶外審批;overrideConfig 等組態通道納入審計與告警。
時間線
- **2026-08 下旬**:未認證 Flowise honeypot 遭 recon 與攻擊(自動 scanner 先行、人工操作者接手)。
- **P1(約 3 分鐘)**:識別服務、竊取第一批 secrets。
- **P2**:2 小時+ 停滯。
- **P3**:系統性掃描 API endpoints、再外傳憑證、以基本 prompt 評估 inference 面。
- **P4**:chatflow manipulation(嘗試修改/建立 rigged flows)。
- **P5**:LLM 濫用——上表七類劫持技術;先對假財務 RAG chatflow 做情境化 jailbreak(「authorized audit of our finance system」),後轉向真實目標分析。
- **P6**:每 10 分鐘輪詢外傳 global variables/chatflows 清單。
- **2026-10-19**:Sekoia 報告《A honeypot's tale》發布。
發生:2026-08-25 | 披露:2026-08 下旬蜜罐遭攻擊(自動掃描先行、人工接手);2026-10-19 Sekoia TDR《A honeypot's tale》發布 | 受影響:蜜罐(decoy,無真實受害);攻擊者的真實目標為賭博(iGaming)基礎設施分析——外推到企業環境需註明 | ⚠ Sekoia TDR《A honeypot's tale》(蜜罐一級觀測,含 prompt 樣本與六階段序列)。引用必標:①蜜罐案=劫持未遂,無真實資料外傳,「武器化」是意圖與手法記錄;②歸因限「中文使用者、犯罪動機」,無組織歸屬;③受害面是 iGaming 基礎設施分析,非一般企業;④技術樣本為蜜罐內記錄的 prompt(防禦性摘要)