🧠 Anthropic обнаружила скрытое пространство рассуждений J-space
В рамках исследований механической интерпретируемости (mechanistic interpretability) компания Anthropic выявила математическое измерение J-space внутри LLM. Это пространство содержит концепции и слова, которые направляют процесс принятия решений моделью, но не отображаются в итоговом тексте.
🌍 Открытие дает инструмент для более глубокого мониторинга безопасности ИИ. Возможность анализировать скрытые процессы позволяет выявлять намерения модели до того, как они будут выражены в текстовом ответе.
👤 Это важный шаг к пониманию того, как «думают» нейросети. Исследователи получают способ заглянуть «под капот» ИИ, что приближает нас к созданию более предсказуемых систем.
Источник 1: https://www.technologyreview.com/2026/07/13/1140343/what-anthropics-latest-ai-discovery-does-and-doesnt-show/