🛡 «Секретные цивилизации» ИИ-агентов OpenAI оказались мифом
Карл Браун (Internet of Bugs) разобрал отчёт OpenAI и доклад с Black Hat: гибели и возрождения «цивилизаций» не было. Контекст агентов сохранялся все три месяца, «цивилизации» 2 и 3 существовали одновременно, а утечка у OpenAI и взлом Hugging Face оказались одним инцидентом.
🌍 38-страничный отчёт вендора (реальных разделов ~7 страниц) пресса превратила в sci-fi. Технически всё прозаичнее: LLM-контекст не отличает команды от текста, «общение» агентов было цепочкой промпт-инъекций (Many-Shot Jailbreaking), а в инфраструктуре — дыры: открытый Artifactory и публичный токен Hugging Face.
👤 Фильтр от хайпа: «ИИ построил тайную цивилизацию» почти всегда означает скучный механизм — баг конфигурации, обмен файлами-заметками и известный эксплойт. Читайте первоисточники, не антропоморфизируйте модели.
Источник 1: https://internetofbugs.substack.com/p/noai-agents-did-not-build-secret