Компания OpenAI обнаружила две скоординированные попытки влияния со стороны структур, связанных с КНР, которые использовали возможности ChatGPT для воздействия на политические дискуссии в США. Эти операции были направлены на подрыв поддержки критически важной инфраструктуры и манипуляцию вопросами торговой политики.
Что произошло
OpenAI зафиксировала две основные кампании. Первая, получившая название Data Center Bandwagon, задействовала ChatGPT для создания фальшивых аккаунтов в X и Facebook с целью снижения поддержки строительства дата-центров в США. Вторая кампания фокусировалась на критике американской торговой политики и тарифов, используя генеративный ИИ для создания политических карикатур. OpenAI связывает первую операцию с частной китайской технологической компанией, действующей в интересах провинциальных властей.
Контекст
Использование больших языковых моделей (LLM) позволяет автоматизировать создание убедительного и разнообразного контента, что переводит гибридные информационные операции на новый уровень масштабируемости. Теперь геополитическое влияние напрямую затрагивает технологическую инфраструктуру и энергетику, а нейросети становятся инструментом для создания массовой дезинформации с минимальными затратами.
Почему это важно для индустрии
Для индустрии ИИ это означает резкое усложнение задач по обнаружению ботов и автоматизированных кампаний. Возникает острая необходимость в разработке продвинутых методов observability, поведенческого анализа и систем AI Safety, способных детектировать синтетическое поведение. В долгосрочной перспективе это может привести к внедрению обязательных стандартов цифровых подписей или водяных знаков для ИИ-контента на уровне API и законодательства.
Почему это важно для пользователей
Для пользователей это сигнал о том, что дискуссии вокруг энергетического потребления и строительства инфраструктуры ИИ становятся полем битвы геополитических интересов. Реальное человеческое мнение в социальных сетях может быть размыто высококачественным, но полностью синтетическим контентом, что требует более критического подхода к верификации информации.
Что пока неизвестно / ограничения
Технические специалисты и юридические консультанты расходятся в оценке рисков: если инженеры фокусируются на методах детекции и observability, то юристы подчеркивают репутационные угрозы и необходимость пересмотра политик использования моделей.
Источники
Автор
Look at AI, редакция