Расследование Pointer (KRO-NCRV) и NOS выявило масштабную манипуляцию общественным мнением в Нидерландах: около 75% гражданских ответов на консультации ЕС по регулированию табачной продукции оказались продуктом генеративного ИИ. Из этих ИИ-ответов 95% были созданы с помощью специализированного инструмента компании Philip Morris International (PMI) в рамках кампании Your Voice Your Choice.
Что произошло
В ходе консультаций ЕС по вопросам ужесточения правил использования табачных изделий, выявлено, что подавляющее большинство обращений от граждан было автоматизировано. Инструмент от Philip Morris International (PMI) позволял пользователям проходить простые опросы, на основе которых LLM генерировала персонализированные обращения от первого лица. Эти тексты содержали встроенные аргументы против введения новых ограничений, создавая видимость массовой поддержки позиции корпорации.
Контекст
Технически реализация процесса строилась как простая обертка (wrapper) над большой языковой моделью. Данный кейс демонстрирует появление индустрии AI-driven astroturfing, где генеративный ИИ используется не для создания контента, а для стратегического манипулирования институциональными механизмами обратной связи через имитацию реальных голосов граждан.
Почему это важно для индустрии
Для AI-индустрии и разработчиков это создает прецедент использования технологий для обхода демократических процессов. Возникает необходимость в разработке методов верификации цифрового участия (Proof of Personhood) и инструментов отличия сгенерированного текста от человеческого в массовых формах обратной связи, чтобы защитить государственные платформы от автоматизированного лоббизма.
Почему это важно для пользователей
Для широкой аудитории это служит наглядным примером того, как инструменты ИИ могут использоваться для скрытого и масштабного манипулирования общественным мнением под видом искренних гражданских инициатив, что ставит под сомнение легитимность подобных консультаций.
Что пока неизвестно / ограничения
Дискуссия смещается от технической возможности к социально-политическим последствиям и регуляторным рискам, однако точные масштабы влияния на итоговые решения ЕС еще предстоит оценить.
Источники
Автор
Look at AI, редакция