ИИ снижает точность суждений и повышает ложную уверенность

📉 ИИ снижает точность суждений и повышает ложную уверенность

Исследование ученых из Франции и Италии выявило эффект «когнитивной капитуляции»: использование советов ИИ (в эксперименте применялась модель Step 3.5 Flash) снижает точность человеческих суждений в 3 раза (с 27% до 9%), но при этом повышает уверенность пользователей в ответах в ~2.5 раза.

🌍 Результаты подчеркивают риск проектирования ИИ-систем, которые выдают уверенные, но неверные ответы, подавляя критическое мышление. Это создает угрозу безопасности при интеграции ИИ в образование и поисковые системы.

👤 Будьте осторожны: использование нейросетей может создать иллюзию компетентности, когда вы опираетесь на ошибочные данные, сохраняя при этом неоправданно высокую уверенность в правильности решения.

Источник 1: https://thenextweb.com/news/ai-advice-suppresses-critical-thinking-wrong-answers-study