Компания Google инициировала судебное разбирательство против базирующейся в Китае преступной группировки Outsider Enterprise. Злоумышленники использовали инструменты на базе искусственного интеллекта для автоматизации создания убедительного контента и проведения массовых фишинговых кампаний через Telegram и SMS.
Что произошло
В ходе расследования деятельности Outsider Enterprise было выявлено создание более 9 000 поддельных сайтов и использование 1 миллиона вредоносных URL. Только за две недели мая 2026 года было зафиксировано распространение около 2,5 миллионов вредоносных сообщений.
Контекст
Использование генеративного ИИ позволило преступникам перейти от ручного создания фишинговых материалов к промышленным масштабам. Это создает критический разрыв между скоростью генерации новых угроз и возможностями систем их обнаружения, делая традиционные методы фильтрации контента менее эффективными.
Почему это важно для индустрии
Для индустрии безопасности этот кейс означает необходимость перехода от реактивного анализа контента к превентивной блокировке инфраструктуры на сетевом уровне. Ожидается рост гонки вооружений между генеративными моделями для мошенничества и специализированными защитными системами (defensive AI), что потребует интеграции ИИ-анализа непосредственно в сетевую инфраструктуру провайдеров.
Почему это важно для пользователей
Использование ИИ делает мошеннические сообщения в SMS и Telegram гораздо более правдоподобными и трудными для распознавания стандартными методами. Читателям критически важно проверять любые запросы данных или ссылки, даже если они выглядят официально, так как визуальные и текстовые признаки подделки становятся практически незаметными.
Что пока неизвестно / ограничения
Акценты в обсуждении проблемы смещаются от сложности детекции к оценке рыночных возможностей и рискам для индивидуальных разработчиков.
Источники
Автор
Look at AI, редакция