Согласно новому прогнозу Gartner, около 40% организаций планируют снизить статус или полностью отказаться от использования своих ИИ-агентов. Основной причиной становится отсутствие эффективных механизмов управления (governance), что ставит под сомнение текущую волну внедрения автономных систем в корпоративный сектор.
Что произошло
Аналитики Gartner заявляют, что значительная часть текущих внедрений ИИ-агентов столкнется с деградацией или полным прекращением работы. Компании обнаруживают, что существующие подходы к контролю либо чрезмерно ограничивают возможности агентов, либо оставляют их без должного надзора, что создает неприемлемые риски.
Контекст
Проблема заключается в так называемой «бинарной ловушке» управления: организации выбирают между избыточными ограничениями, которые делают агентов бесполезными, и полной автономией, ведущей к неконтролируемым действиям. Для обеспечения надежности требуется переход к многоуровневым моделям автономности с внедрением автоматических «предохранителей» (circuit breakers) и систем быстрого отката действий.
Почему это важно для индустрии
Разработчики крупного корпоративного ПО, таких как SAP, Oracle и Salesforce, вынуждены смещать фокус с создания простых «агентурных» рабочих процессов на построение сложных систем мониторинга, управления рисками и юридической ответственности. Отрасль ожидает роста спроса на middleware-решения и оркестраторы, способные обеспечить контролируемую автономность и управление состоянием (state management).
Почему это важно для пользователей
Для бизнеса это означает, что текущий хайп вокруг автономных агентов наталкивается на барьер эксплуатационной надежности. Пользователи и руководители в ближайшее время увидят переход от простых LLM-wrappers к системам с предсказуемым поведением, где уровень автономии жестко привязан к архитектуре безопасности.
Что пока неизвестно / ограничения
Диагнозы экспертов единодушны, однако акценты различаются: от необходимости чисто инженерных решений для повышения надежности до стратегических изменений в архитектуре корпоративного софта и формировании новых стандартов управления агентами.
Источники
Автор
Look at AI, редакция