Представлен SHACKLE — специализированный протокол управления (governance) и стандарт соответствия SP/1.0, разработанный для обеспечения детерминированного контроля над автономными ИИ-агентами в режиме реального времени.
Что произошло
Разработчики представили SHACKLE, систему, работающую как runtime-предохранитель. Протокол перехватывает вызовы инструментов и LLM-запросы, позволяя управлять поведением агентов через три режима принятия решений: ALLOW (разрешить), DENY (запретить) и HITL (Human-in-the-loop — вмешательство человека через интерактивную консоль). Это позволяет предотвращать бесконечные циклы (Loop of Death), превышение установленного бюджета и таймауты.
Контекст
Проблема непредсказуемого поведения автономных агентов и их бесконтрольных расходов на API-запросы является критическим барьером для их масштабного внедрения. SHACKLE предлагает решение в виде middleware-слоя, который можно интегрировать в существующие фреймворки, такие как CrewAI, AutoGen или LangGraph, с помощью простых декораторов.
Почему это важно для индустрии
Для индустрии это шаг к формированию стандартов верифицируемого управления поведением агентов. Внедрение стандарта SP/1.0 может унифицировать механизмы безопасности в различных open-source и корпоративных фреймворках, превращая непредсказуемые вызовы LLM в управляемые и контролируемые бизнес-процессы.
Почему это важно для пользователей
Разработчики получают готовый инструмент для защиты своей инфраструктуры и кошельков от «сходящих с ума» агентов, которые при возникновении ошибок могут тратить сотни долларов на бесполезные повторные запросы. Это снижает операционные риски и упрощает тестирование MVP, обеспечивая немедленный контроль над расходами на API.
Источники
Автор
Look at AI, редакция