Полисемантичность всё?

Основатель Goodfire Ник Каммарата 15 октября 2026 опубликовал эссе «Neural Networks Are Already Clean», где утверждает, что полисемантичность и суперпозиции во многом неверно истолкованы: по предварительному аудиту Qwen3-32B около 90% полюсов нейронов имеют одну основную функцию.

Автор Sergey KostenchukОпубликовано 2026-10-15Обновлено 2026-10-15

2026-10-15 Исследования OpenAI

🤖 Полисемантичность всё?

Основатель Goodfire Ник Каммарата опубликовал 15 октября эссе «Neural Networks Are Already Clean»: полисемантичность и суперпозиции во многом неверно истолкованы — за ними чаще стоит рекурсивная генерализация. Аудит Qwen3-32B: ~90% полюсов нейронов имеют одну функцию. Это гипотеза (~85% уверенности), а не доказательство.

🌍 Если «запутанность» сетей объясняется генерализацией и слабыми ранними инструментами, а не фундаментальной суперпозицией, главным фронтом становится прямое изучение нейронов, а SAE — не единственный путь.

👤 Эссе (~65 минут чтения) и обсуждение на LessWrong открыты каждому, вопрос подкреплён цифрами, а не мемом. Но это гипотеза одного автора: в комментариях 13+ откликов, часть экспертов видит переоценку.

Источник 1: https://already-clean.goodfire.com/ Источник 2: https://www.lesswrong.com/posts/x4kvabkF2Jk8GLZp8/linkpost-neural-networks-are-already-clean

Источники