🛠 Визуализация «мыслей» LLM через проект Subtext
Представлен инструмент Subtext, который позволяет в реальном времени наблюдать за формированием концепций в скрытых слоях языковых моделей. С помощью метода Jacobian lens (разработки Anthropic) система отображает промежуточные «мысли» модели еще до того, как они будут выведены в текстовый ответ.
🌍 Проект демонстрирует практическое применение методов интерпретируемости (mechanistic interpretability) для мониторинга процесса рассуждения, что критически важно для понимания причин ошибок и механизмов планирования.
👤 Теперь можно увидеть «закулисье» работы AI — как модель планирует ответ, формирует суждения и удерживает контекст до того, как напечатает первое слово.
Источник 1: https://github.com/ninjahawk/Subtext