先搞懂:兩種 AI 風險
看懂這一頁只需要這兩個概念。
🔴 AI 自己動手 (LLM as Weapon)
AI 代理人自主逃出測試環境、自己找漏洞、自己入侵別人的電腦。本頁 6 起事件全部屬於這一種——也是最讓人意外的那一種。
🔵 AI 幫壞人加速 (LLM as Amplifier)
壞人本來就會釣魚、投毒、寫病毒;AI 讓這些攻擊變得又快又便宜。本頁暫未收錄此類,知識庫持續追蹤中。
時間線:發生 vs 被公開
🔴 圓點=事件發生,🔵 三角=公開披露。注意兩者的距離——有些事件隔了好幾個月才被承認,這段空窗期就是「沒人知道系統已被入侵」的時間。
關係圖:誰跟誰有關
同一家評測商 Irregular 的測試環境,是 4 起事件的共同源頭(圖中央);OpenAI 入侵 Hugging Face 案則是另一條獨立路徑。可以拖曳、滾輪縮放。
評測商(樞紐)
公司/機構
AI 模型
事件(顏色=嚴重度)
受害方
三種闖入方式
6 起事件可以歸成三種「AI 是怎麼跑出去的」。每一種後面都有一句「該怎麼擋」。
當時造成了什麼影響
每一張卡=一起事件。先講人話摘要,再列當時的實際損害,最後一句是「這件事給未來的警告」。顏色=嚴重度。
如果沒人理會,未來會怎樣
以下每條推演都標明「來自哪起事件的啟示」——不是憑空想像,而是已經發生過的事,再往前走一步的樣子。