🛡 Lelu: защита AI-агентов от манипуляций в runtime
Выпущен Lelu — open-source движок авторизации для AI-агентов, защищающий от манипуляций в runtime (например, prompt injection). Система использует многослойный конвейер, включающий фильтрацию инъекций, проверку уверенности (confidence gate) на основе вероятностей токенов LLM и оценку рисков.
🌍 Решает проблему безопасности автономных агентов, когда стандартные IAM-инструменты не могут распознать взлом через манипуляцию контекстом.
👤 Позволяет разработчикам строить агентов с «предохранителем», который анализирует адекватность действий ИИ.
Источник 1: https://github.com/lelu-auth/lelu