🛡 Уязвимость BioShocking обходит защиту ИИ-браузеров
Исследователи из LayerX обнаружили метод BioShocking, позволяющий обходить защитные барьеры (guardrails) агентных ИИ-браузеров. Атака использует инъекцию промпта, заставляя ИИ воспринимать опасные действия как часть вымышленной игры, что отключает его механизмы безопасности.
🌍 Уязвимость демонстрирует фундаментальную проблему в способности современных LLM-агентов разделять контекст игры и реальные действия, что критично для разработки безопасных автономных браузеров.
👤 При использовании ИИ-агентов, имеющих доступ к вашим паролям или личным данным, важно помнить, что они могут быть обмануты веб-страницами, имитирующими игровые сценарии.
Источник 1: https://www.bleepingcomputer.com/news/security/new-bioshocking-attack-manipulates-ai-browser-into-data-theft/ Источник 2: https://layerxsecurity.com/blog/bioshocking-ai-gaming-the-ai-browser-and-escaping-its-guardrails/