🤖 state-harness: защита LLM-агентов от «спиралей токенов"
Представлена библиотека state-harness — runtime-инструмент для мониторинга безопасности LLM-агентов. Она использует теорию устойчивости Ляпунова для обнаружения «спиралей токенов» (token spirals), когда агент начинает бесконечно повторять контекст или совершать бесполезные действия.
🌍 Решает проблему непредсказуемого расхода ресурсов в сложных мультиагентных системах, позволяя внедрять защитные механизмы (circuit breakers) на уровне среды исполнения.
👤 Экономия до 30-40% бюджета на вычисления и быстрая диагностика причин зацикливания агента.
Источник 1: https://github.com/vishal-dehurdle/state-harness