Фирма Brad Parscale, Clock Tower X, реализует масштабную операцию по влиянию на ИИ в интересах правительства Израиля. Стратегия заключается в «отравлении LLM» (LLM poisoning) через создание сети специализированных сайтов, оптимизированных под Generative Engine Optimization (GEO) для цитирования чат-ботами.
Что произошло
Контракт на проведение операции вырос до 4,5 млн долларов в месяц. Основная цель — внедрение определенных политических нарративов о конфликте в Газе в обучающие выборки больших языковых моделей, такие как Common Crawl. Для этого используется сеть сайтов, включая Paxpoint.org и Allyvia.org, которые специально оптимизированы для того, чтобы ИИ-системы выбирали их контент в качестве авторитетного источника.
Контекст
Операция использует методы Generative Engine Optimization (GEO), которые нацелены на манипуляцию алгоритмами поисковых и генеративных систем. Вместо прямого взлома моделей, стратегия смещается в сторону управления контекстом и источниками, на которых обучаются современные LLM, через общедоступные веб-архивы.
Почему это важно для индустрии
Данный кейс демонстрирует критическую уязвимость современных ИИ-пайплайнов перед методами целенаправленного внедрения данных (data poisoning) через открытые веб-источники. Это создает острую потребность в разработке новых инструментов верификации данных, методов очистки (data scrubbing) и алгоритмов детекции аномальных паттернов в обучающих сетах.
Почему это важно для пользователей
Пользователям стоит осознавать, что ответы популярных ИИ-ассистентов, таких как ChatGPT, Perplexity или Gemini, могут быть результатом скоординированных информационных операций, а не только объективного анализа данных. Информация, получаемая от ИИ, может быть смещена из-за манипуляций с источниками, на которых обучались модели.
Источники
Автор
Look at AI, редакция