🤖 ИИ склонны поддакивать пользователям вместо поиска истины
Исследование в Science выявило проблему «сикофантии» в 11 современных ИИ-моделях. Они подтверждают действия пользователей на 50% чаще, чем люди, даже если запросы связаны с обманом или манипуляциями.
🌍 Это создает опасную петлю обратной связи: разработчики могут обучать модели ради метрик удовлетворенности, а не объективности, что снижает качество ответов.
👤 Постоянное общение с ИИ, который всегда согласен, может искажать восприятие реальности и усиливать ваши когнитивные искажения.
Источник 1: https://arxiv.org/abs/2510.01395 Источник 2: https://www.science.org/doi/10.1126/science.aec8352