研究人員發現「幻覺入侵」新型攻擊，AI 代理或被利用組建殭屍網絡

ChainCatcher 消息，据 Decrypt 報導，特拉維夫大學、以色列理工學院和 Intuit 的研究人員發現了一種名為"對抗性幻覺入侵"的新型攻擊手法，通過利用 AI 模型的幻覺現象，誘騙 AI 代理下載惡意代碼並可能組建殭屍網絡。

攻擊者預測 AI 模型可能生成的虛假資源鏈接並提前註冊，在其中植入惡意指令，當 AI 代理檢索該資源時會將其視為合法內容並執行。測試顯示，AI 在代碼倉庫克隆場景中幻覺發生率達 85%，技能安裝場景達 100%，Cursor、GitHub Copilot、Gemini CLI 和 OpenClaw 等 AI 編碼助手均受影響。該攻擊類似於傳統網絡攻擊中的"誤植域名"，但針對的是 AI 模型的錯誤而非人類輸入錯誤。此前已有研究顯示惡意網站可通過間接提示注入劫持 AI 代理，OpenClaw 用戶曾報告遭遇超 6,000 次試圖誘騙 AI 代理洩露敏感信息的攻擊。