🛡 Google: новая архитектура безопасности для агентов
Google Research опубликовала отчёт по итогам CAPS Workshop (ноябрь 2025, 50+ исследователей). LLM-агенты ломают привычную безопасность: планы на естественном языке уязвимы к prompt injection, делегирование вызывает consent fatigue.
🌍 Статические permissions и подтверждающие диалоги не масштабируются на LLM-агентах: в отчёте предложены динамические contextual policy engines — отдельный от планировщика слой безопасности.
👤 Бесконечные «разрешить?» создают consent fatigue. Вместо них — движок, заранее оценивающий, уместно ли действие в контексте: список покупок уйдёт шопинг-ассистенту, а не родственникам.
Источник 1: https://research.google/blog/open-and-emergent-problems-in-agentic-privacy-and-security-a-contextual-angle/ Источник 2: https://research.google/pubs/open-and-emergent-problems-in-agentic-privacy-and-security-a-contextual-angle/