Обнаружено новое семейство вредоносного ПО для macOS под названием Gaslight, написанное на языке Rust. Оно использует инновационную технику prompt injection, внедряя в бинарный файл десятки ложных системных сообщений об ошибках, чтобы запутать инструменты автоматизированного анализа на базе AI.
Что произошло
Вредоносное ПО Gaslight внедряет в свои бинарные файлы поддельные сообщения об ошибках, такие как сообщения об утечке памяти или истечении токенов. Эта тактика направлена на то, чтобы обмануть AI-агентов, автоматизирующих анализ вредоносного кода, вынуждая их прерывать сессию или выдавать ошибочные вердикты о безопасности. Исследователи из SentinelOne связывают активность этого ПО с северокорейскими хакерскими группировками.
Контекст
В отличие от традиционных атак, направленных на обход песочниц (sandbox), Gaslight переносит вектор угрозы на когнитивные процессы AI-аналитиков. Использование Rust позволяет злоумышленникам создавать высокопроизводительное ПО, способное эффективно манипулировать контекстом, который обрабатывают большие языковые модели (LLM) в процессе исследования угроз.
Почему это важно для индустрии
Для индустрии кибербезопасности это важный сигнал о необходимости эволюции инструментов защиты. Разработчики систем безопасности на базе AI должны учитывать риск манипуляции контекстом через вредоносный код и внедрять методы верификации целостности контекста (context sanitization) и проверки достоверности системных сигналов (Signal Validation).
Почему это важно для пользователей
Пользователям, которые используют AI-инструменты для анализа программного кода или системных логов, следует проявлять осторожность. Вредоносный файл может быть специально спроектирован так, чтобы заставить ваш чат-бот игнорировать реальную подозрительную активность, создавая ложное чувство безопасности.
Источники
Автор
Look at AI, редакция