Исследователи обнаружили новый тип атаки "вторжения иллюзий", в которой AI-агенты могут быть использованы для создания зомби-сетей

ChainCatcher сообщает, что, согласно Decrypt, исследователи из Тель-Авивского университета, Технологического института Израиля и Intuit обнаружили новый тип атаки, названный "вторжением в противодействующие иллюзии", который использует иллюзии AI-моделей для обмана AI-агентов, заставляя их загружать вредоносный код и, возможно, создавать ботнеты.

Злоумышленники предсказывают ложные ссылки на ресурсы, которые AI-модель может сгенерировать, и регистрируют их заранее, внедряя вредоносные команды. Когда AI-агент запрашивает этот ресурс, он воспринимает его как легитимный контент и выполняет. Тесты показали, что частота возникновения иллюзий у AI в сценариях клонирования кодовых репозиториев достигает 85%, а в сценариях установки навыков — 100%. AI-кодовые помощники, такие как Cursor, GitHub Copilot, Gemini CLI и OpenClaw, также пострадали. Эта атака аналогична "ошибочно зарегистрированным доменам" в традиционных кибератаках, но нацелена на ошибки AI-моделей, а не на ошибки ввода человека. Ранее исследования показали, что вредоносные сайты могут косвенно подсказывать и захватывать AI-агентов, пользователи OpenClaw сообщали о более чем 6,000 попытках обмануть AI-агентов с целью раскрытия конфиденциальной информации.