Исследование MIT Media Lab показало, что просмотр высокореалистичных AI-видео подрывает доверие к аутентичному видеоконтенту, даже если использование нейросетей явно указано в дисклеймерах.
Что произошло
В ходе эксперимента с участием 100 человек было установлено, что предварительный просмотр синтетического контента вызывает у людей повышенное сомнение в подлинности последующих реальных видео. Этот психологический эффект, получивший название «дистресс реальности», приводит к снижению уверенности пользователей в своих суждениях о подлинности визуальной информации.
Контекст
С ростом качества генеративного видео проблема переходит из чисто технической плоскости детектирования дипфейков в область психологического восприятия. Даже при наличии меток или вотермарок, человеческий мозг начинает системно сомневаться в подлинности всего визуального ряда.
Почему это важно для индустрии
Для разработчиков генеративных моделей и технологических платформ это означает необходимость перехода от простых методов обнаружения дипфейков к стратегиям обеспечения «перцептивной безопасности» (perceptual safety). В долгосрочной перспективе индустрии потребуется создание инфраструктуры «доказанной реальности» (provenance-based ecosystems), где механизмы верификации будут встроены на уровне протоколов передачи данных, таких как C2PA.
Почему это важно для пользователей
Зрители могут столкнуться с долгосрочным эффектом снижения доверия к любой визуальной информации. Даже если видео подписано как созданное ИИ, у пользователей может возникнуть навязчивое сомнение в подлинности всего остального контента, который они видят в медиа и социальных сетях.
Что пока неизвестно / ограничения
Спектр влияния варьируется от чисто психологического эффекта до необходимости создания новой инфраструктуры верификации (provenance) и изменения UX-паттернов.
Источники
Автор
Look at AI, редакция