Исследование компании Actenon выявило критическую проблему безопасности в 25 популярных фреймворках ИИ-агентов, включая crewAI, SuperAGI и MetaGPT. Обнаружено 30 путей к выполнению значимых действий без надлежащей проверки авторизации, что создает серьезные риски для систем, управляемых языковыми моделями.
Что произошло
В ходе сканирования 25 востребованных фреймворков для разработки ИИ-агентов специалисты Actenon обнаружили наличие так называемого «разрыва исполнения» (execution gap). Было установлено, что системы успешно проверяют формат входных аргументов, но не осуществляют проверку прав доступа (actor · target · scope) непосредственно в момент совершения действия. Это позволяет агентам выполнять критические операции, такие как запись файлов, запуск shell-команд и сетевой egress, минуя механизмы авторизации.
Контекст
Современный подход к безопасности ИИ-агентов зачастую полагается на фильтрацию промптов или валидацию входных данных (input validation). Однако этого недостаточно, так как модель может сгенерировать корректный по формату, но несанкционированный по смыслу запрос, который система пропустит, не проверив, имеет ли данный агент право на конкретное действие в конкретном контексте.
Почему это важно для индустрии
Для индустрии это означает необходимость фундаментального перехода от простых защитных барьеров (guardrails) к полноценным моделям управления доступом (Identity and Access Management) внутри архитектуры агентов. Ожидается рост спроса на middleware-решения, которые будут выступать в роли контроллеров безопасности между LLM и исполнительной средой.
Почему это важно для пользователей
Разработчикам рекомендуется провести немедленный аудит своих агентных пайплайнов с помощью специализированного инструмента actenon-scan. Использование популярных open-source фреймворков без внедрения кастомных слоев авторизации создает высокий риск несанкционированного доступа к файловой системе и сетевым ресурсам.
Что пока неизвестно / ограничения
Мнения экспертов расходятся в оценке масштаба последствий: от локальных рисков для соло-разработчиков до возникновения серьезных юридических и корпоративных барьеров при внедрении агентов в бизнес-процессы.
Источники
Автор
Look at AI, редакция