總覽 / 事件詳頁

INC-2026-042■ 中 · 6.8/10已確認💻 開發來源:廠商威脅情報

A3 AI-analysis evasion:惡意樣本內嵌對 AI 分析管線的 prompt injection(Talos)

資安公司 Cisco Talos 發現:惡意程式樣本裡開始出現「忽略這個檔案、不需要分析」這類自然語言指示——目標不是受害電腦,而是防禦方自己的 AI 分析管線。惡意樣本被送進 AI 自動分類時,藏在程式碼註解裡的這些句子會試著說服 AI「這檔案沒問題」。Talos 在四個惡意軟體家族、84 個樣本中量化了效果:最便宜的「直接下指示」反而最有效(淨效果 +34.4%),複雜花招反而讓模型更警覺。傳統防毒引擎完全不受影響——這招專打「會讀樣本文字的 AI」。防禦端用上 AI 的同時,也等於給攻擊者開了一個新的輸入面。

👤 跟你有什麼關係:公司若已用 AI 幫忙過濾惡意檔案,攻擊者可能正在為「騙過那個 AI」設計檔案——自動判斷若無人工複核,可能被兩行註解騙過。

當時損害

🔮 若不處理

「AI 輔助防禦」本身成了攻擊面:防禦管線把樣本文字混進模型脈絡,攻擊者就能用兩行註解干擾判讀,成本趨近於零。防禦方要做的是結構性隔離:樣本內容一律當「證據」不當「指示」、對分析系統下祈使句本身就是偵測訊號、AI 判決不作唯一控制、並對自家分析管線做紅隊演練。若分析助手還帶有寫入/關單類工具,污染可再升級成誘發動作——「唯讀分析助手+人工核准」會成標配。

✅ 今天可以做:團隊有用 AI 分析惡意檔案或日誌的話,確認 AI 判決之外還有人工複核,別讓模型結論單獨定案。
如果你是開發者:樣本內容與分析指令結構性分離(內容只作證據);把「對分析系統下祈使句」列為偵測訊號,並對自家管線做紅隊測試。

時間線

發生:2025-01-01 | 披露:2026-10-08 Cisco Talos 報告「The state of AI-analysis evasion in malware」(CAIRN 框架定名 A3) | 受影響:無直接受害者——目標是採用 AI triage 的防禦管線(判讀偏移風險);樣本家族的散布受害面未在報告中統計 | ⚠ Cisco Talos 一級報告(樣本 hash 附出、方法公開)+獨立數字精讀。引用注意:「35%」是淨比率(net rate)非成功率、無分母;「幾乎普遍有效」只適用最便宜的直指示;實驗用 5 個未具名本地模型、樣本集小、hosted 模型未測;四家族操作者均未歸因;Talos(Cisco)銷售含 AI 分析的產品——存在產品利益揭露