Знают ли ИИ-модели собственные мысли: проверка экспериментом

🤖 Знают ли ИИ-модели собственные мысли

Исследователи внедряли в активации LLM концепции (steering) и спрашивали, замечает ли модель инъекцию. Топовые версии Claude (Jack Lindsey, Anthropic) замечали её в ~20% испытаний при 0% ложных срабатываний. Но назвать внедрённую концепцию модель не может: эта способность отключается без ущерба для детекции — описания оказались артефактом steering, а не интроспекцией.

🌍 Если модель замечает аномалии в своих активациях, это инструмент интерпретируемости: мониторинг манипуляций и отладка, но метрики самосознания LLM не стандартизованы.

👤 «Думает ли ИИ о себе» проверено цифрами: 20% детекции, 0% ложных срабатываний, +53% после ablation отказов. Статью Quanta и три arXiv-работы можно прочитать и увидеть границу доказанного.

Источник 1: https://www.quantamagazine.org/new-research-tests-whether-ai-models-know-their-own-thoughts-20261104/ Источник 2: https://arxiv.org/abs/2508.14802