🛡 Уязвимость RCE в защитных ИИ-агентах
Исследователи из AI Now Institute продемонстрировали возможность удаленного выполнения кода (RCE) в таких агентах, как Anthropic Claude Code и OpenAI Codex. Атака использует метод «двойного обмана»: первый слой обманывает фильтры через поддельные файлы, а второй — исполняет вредоносные инструкции, скрытые в документации.
🌍 Проблема показывает, что текущие механизмы защиты не справляются с комплексными атаками, что ставит под сомнение безопасность массового внедрения автономных агентов.
👤 Разработчикам следует проявлять осторожность при использовании ИИ-агентов в режиме «автоматического выполнения» для анализа кода, так как агент может стать инструментом взлома.
Источник 1: https://ainowinstitute.org/publications/friendly-fire-exploit-brief Источник 2: https://github.com/Boyan-MILANOV/friendly-fire-ai-agent-exploit