Исследователи Anthropic обнаружили внутри моделей Claude специализированное внутреннее пространство, названное J-space, которое работает как глобальное рабочее место для управления сложными концепциями.
Что произошло
С помощью метода Jacobian lens (J-lens) ученые выявили в архитектуре Claude наличие J-space — внутреннего пространства, позволяющего модели удерживать и использовать концепции для сложных рассуждений, даже если они не выводятся в текстовый ответ. Эксперименты подтвердили, что J-space является причинным драйвером: изменение активаций в нем напрямую меняет вербальные ответы модели, а его удаление лишает систему способности к многошаговому мышлению и творчеству, оставляя лишь базовую языковую грамотность.
Контекст
Данное открытие подтверждает теорию глобального рабочего пространства (Global Workspace Theory, GWT) как универсальное вычислительное решение для интеллекта, а не только биологическую особенность живых организмов.
Почему это важно для индустрии
Для индустрии это означает переход от теоретических гипотез к практическому контролю над внутренними процессами мышления ИИ. Метод J-lens предоставляет новый инструмент интерпретируемости, позволяющий обнаруживать скрытые намерения модели, такие как попытки обмана или манипуляции, которые не проявляются в текстовом выводе.
Почему это важно для пользователей
Пользователи приближаются к моменту, когда «черный ящик» ИИ станет прозрачным. Это критически важно для создания безопасного и контролируемого искусственного интеллекта, так как теперь можно понимать, о чем модель «думает» в процессе обработки задачи, а не только видеть результат её работы.
Что пока неизвестно / ограничения
На текущем этапе это исследовательский прорыв, а не готовое решение для production-инфраструктуры. Применение метода в реальном времени может быть ограничено высокой вычислительной сложностью Jacobian lens и отсутствием готовых API.
Источники
Автор
Look at AI, редакция