🧠 Зазубренный интеллект LLM
Мелани Митчелл в статье для The Yale Review ввела понятие «зазубренного интеллекта» (jagged intelligence). Она отмечает, что LLM могут демонстрировать сверхчеловеческие результаты в сложных задачах, но внезапно ошибаться в простейших сценариях из-за отсутствия метапознания.
🌍 Это ставит под вопрос текущие методы валидации ИИ-продуктов. Индустрии необходимо переходить от простых тестов на точность к оценке обобщающей способности (generality) и устойчивости моделей.
👤 Понимание этого феномена объясняет, почему даже продвинутые нейросети могут «галлюцинировать» или ошибаться в элементарной логике, и почему их нельзя рассматривать как полноценных автономных агентов.
Источник 1: https://yalereview.org/article/melanie-mitchell-jagged-intelligence