🛡 Манипуляция ИИ через «отравление» обучающих данных
Фирма Brad Parscale и Clock Tower X проводят операцию по внедрению определенных нарративов в LLM. Стратегия заключается в «отравлении LLM» (LLM poisoning) через создание сети сайтов, оптимизированных под Generative Engine Optimization (GEO) для цитирования чат-ботами.
🌍 Продемонстрирована уязвимость современных LLM к методам GEO и целенаправленному внедрению данных через общедоступные архивы.
👤 Понимание того, что ответы популярных ИИ-ассистентов (ChatGPT, Perplexity, Gemini) могут быть результатом скоординированных информационных операций.
Источник 1: https://www.dropsitenews.com/p/israel-brad-parscale-ai-chatbots-gaza