Новое исследование, опубликованное в журнале PNAS, выявило серьезную проблему: использование GPT-4 без специальных механизмов контроля (guardrails) может приводить к снижению реальных знаний у учащихся, несмотря на видимый рост продуктивности при выполнении текущих задач.
Что произошло
В ходе исследования было установлено, что использование GPT-4 в качестве вспомогательного инструмента («костыля») без ограничений помогает старшеклассникам быстрее справляться с математическими заданиями. Однако при последующем тестировании без доступа к нейросети эти же учащиеся демонстрируют более низкие результаты, что свидетельствует о неэффективности такого подхода для долгосрочного усвоения материала.
Контекст
Проблема заключается в разрыве между продуктивностью выполнения конкретных задач (task performance) и реальным уровнем удержания знаний (learning retention). Без внедрения специализированных режимов работы, таких как AI tutoring modes, языковые модели могут подменять когнитивные процессы пользователя вместо их поддержки, создавая эффект «когнитивной лени».
Почему это важно для индустрии
Для индустрии это создает запрос на переход от простых интерфейсов «ответ-на-запрос» к специализированным EdTech-решениям. Разработчикам необходимо внедрять механизмы Socratic tutoring (сократовского метода), которые направляют пользователя к решению через подсказки, а не выдают готовый ответ. В долгосрочной перспективе стандартизация Learning Guardrails станет обязательным компонентом для ИИ-продуктов в образовательном секторе.
Почему это важно для пользователей
Студентам и учащимся важно осознавать разницу между простым получением ответа и полноценным обучением. Использование ИИ как инструмента для проверки логики и проверки своих рассуждений является эффективной стратегией, в то время как использование модели как источника готовых решений препятствует развитию навыков.
Источники
Автор
Look at AI, редакция