🛡 Новый класс атак на ИИ-агентов — Agent Data Injection (ADI)
Исследователи из SNU представили метод ADI, который маскирует вредоносные инструкции под доверенные метаданные или контекст. Это позволяет обходить текущие механизмы защиты и заставлять агентов совершать несанкционированные действия.
🌍 Выявлен архитектурный недостаток: отсутствие изоляции между системными и внешними данными. Текущие методы защиты от Prompt Injection неэффективны против ADI.
👤 Если вы используете браузерные или кодинг-агенты, помните: обычный контент на сайтах может быть использован для обмана агента и выполнения действий от вашего имени.
Источник 1: https://compsec.snu.ac.kr/blog/agent-data-injection Источник 2: https://arxiv.org/abs/2607.05120