Сервис GPTZero выявил массовые галлюцинации ИИ в отчетах крупнейших консалтинговых компаний «Большой четверки» (PwC, KPMG, Deloitte, EY), что ставит под сомнение достоверность профессиональной аналитики в эпоху ИИ.
Что произошло
Исследование GPTZero показало, что в отчетах компаний Big Four зафиксированы многочисленные выдуманные сведения. В частности, отчет PwC Middle East под названием «Transforming Governance» на 84% состоит из контента, сгенерированного ИИ, и содержит полностью ложные данные о продукте Citizen Pulse и несуществующих государственных контрактах с Данией, Саудовской Аравией, США и Австралией. Также зафиксированы проблемы с цитированием в материалах KPMG и Deloitte.
Контекст
Исследователи выделили феномен «вайб-цитат» (vibe citations) — практику, при которой LLM генерирует правдоподобно выглядящие, но фактически ложные ссылки на источники, авторов и публикации. Наблюдается прямая корреляция между высокой долей ИИ-генерации в документе и количеством несуществующих источников.
Почему это важно для индустрии
Для индустрии это создает критический риск «отравления данных» (data poisoning). Когда консалтинговые гиганты публикуют галлюцинации, ИИ-агенты (такие как Perplexity и ChatGPT) впитывают их в свои базы знаний, создавая бесконечный цикл распространения дезинформации. Это формирует немедленный спрос на специализированные инструменты автоматической верификации цитирования (citation check) и новые стандарты аудита ИИ-контента.
Почему это важно для пользователей
Читателям и профессионалам больше нельзя доверять даже отчетам именитых компаний без предварительной верификации. Визуальная корректность сносок и ссылок перестала быть признаком достоверности, что требует внедрения ручной проверки фактов или использования инструментов моментального фактчекинга при работе с любой ИИ-генерируемой аналитикой.
Что пока неизвестно / ограничения
Различие в восприятии рисков: технические специалисты фокусируются на системных угрозах для моделей, в то время как бизнес-ориентированные роли видят в этом рыночную возможность для новых сервисов верификации.
Источники
Автор
Look at AI, редакция