總覽 / 事件詳頁
INC-2026-040■ 中 · 7.0/10已確認💻 開發來源:安全研究披露
BadEngram——開源權重模型 gated memory 元件後門(Pillar × Fujitsu 研究 PoC)
資安公司 Pillar Security 與 Fujitsu 研究團隊示範了一種新的供應鏈攻擊「BadEngram」:只修改開源 AI 模型裡負責「記憶」的一小部分元件(gated memory),就能植入持久後門——模型其他部分完全不變,平時行為正常、後門休眠,一個短觸發詞就能啟動,常規測試很難發現。這是研究概念驗證(PoC),不是真實攻擊事件;但它把「模型本身」變成供應鏈攻擊目標——下載開源權重的組織,要自己負責驗證部署的模型是安全的。
👤 跟你有什麼關係:公司下載的開源 AI 模型,可能帶著一個平時休眠的後門——一旦有人說出觸發詞,模型就可能聽攻擊者的指揮。
當時損害
- 研究 PoC:修改 gated memory 元件(memory tables/gates/projections)即可植入持久後門,其餘模型不變
- trigger 短且任意、未觸發時行為正常;常規行為評估難發現;整檔簽名/hash 驗證可能通過(元件是合法檔案組成部分)
- 示範於 Qwen3.8-Flash-Next/DeepSeek-V4.1-Flash 的 gated memory 架構
- 無野外利用報告;無廠商修補(架構級問題,非版本漏洞)
🔮 若不處理
模型即供應鏈 artifact:轉檔、量化、重新封裝、第三方 repo 取得,都是投毒窗口——「開源權重給組織主權,但也讓組織自己負責驗證部署的東西安全」。新興架構元件(記憶、adapter、LoRA、量化變體)的安全稽核要與模型本體同級;模型 hub 與轉檔工具鏈會成防禦節點,企業需建立模型 provenance 驗證流程(對照軟體供應鏈的 SBOM 實踐)。與開源滲透框架治理(南韓案)同脈:成本壓力推動開源模型採購,採購方承擔驗證責任。
✅ 今天可以做:公司有部署開源權重模型的話,確認模型來自官方 repo,並留意模型供應鏈驗證的後續指引。
如果你是開發者:把完整模型當供應鏈 artifact——對 learned components(記憶表、gates、projections)做完整性與來源驗證。
時間線
- **2026-10-13**:Pillar Security(GlobeNewswire 新聞稿)+Fujitsu Research 共同發布;論文《BadEngram: Backdoor Attack on Gated Memory Components in LLMs》同步公開。示範對象:Qwen3.8-Flash-Next、DeepSeek-V4.1-Flash。
- **狀態**:研究 PoC——無野外利用報告;無廠商修補(架構級問題,非版本漏洞)。
發生:2026-10-13 | 披露:2026-10-13 Pillar Security(GlobeNewswire 新聞稿)+Fujitsu Research 共同發布,論文同步公開 | 受影響:無實際受害者(研究 PoC);警示對象為開源權重模型部署方(尤其中國開源模型的海外採購方) | ⚠ Pillar Security 官方新聞稿+論文(待同儕審查);研究 PoC 非野外事件;軸向判斷帶限定——本案是「對模型的攻擊」而非 LLM 自主攻擊,後門觸發後受感染模型即受攻擊者指揮(觸發態武器化);與 registry 投毒(INC-2026-010)、plugin pin 替換(INC-2026-030)、組態武器化(INC-2026-028)並列供應鏈第四形態「learned component 投毒」