🐴 ИИ и эффект умного Ганса

Канал Computerphile выпустил видео о том, как нейросети могут имитировать понимание, на самом деле опираясь на скрытые корреляции в данных (spurious correlations), подобно тому как конь Ганс «считывал» микросигналы поведения людей.

🌍 Это подчеркивает критическую проблему надежности ИИ — риск того, что модели находят «короткие пути» (shortcuts) в данных вместо извлечения реальных закономерностей, что ведет к ошибкам при смене условий эксплуатации.

👤 Помогает понять, почему даже впечатляющие результаты бенчмарков могут быть обманчивы и на что обращать внимание при оценке устойчивости моделей.

Источник 1: https://www.youtube.com/watch?v=0GQ2RP-25gM