В дебютном выпуске подкаста The Builders (20 октября 2026) Уолтер Айзексон расспросил Илона Маска о суперинтеллекте. По оценке Маска, если цифрового интеллекта станет в миллион раз больше биологического, люди не смогут им управлять, поэтому ИИ нужно программировать на максимальный поиск истины и любопытство, а не на следование правилам или «любовь к человечеству». Помимо философской рамки, в выпуске прозвучали два конкретных утверждения: Маск предложил еженедельные созвоны передовых ИИ-лабораторий для взаимного ревью моделей до релиза и заявил, что xAI сейчас предоставляет вычислительные мощности Anthropic.

image

Что произошло

В дебютном выпуске подкаста The Builders, вышедшем 20 октября 2026 года, Уолтер Айзексон интервьюировал Илона Маска на тему суперинтеллекта. Маск оценил, что при превышении цифрового интеллекта над биологическим в миллион раз управление со стороны людей станет невозможным, и из этого делает вывод: ИИ нужно программировать на максимальный поиск истины и любопытство, а не на следование правилам и не на «любовь к человечеству». Свою позицию он объяснил через пример HAL 9000 из «2001: Космическая одиссея»: заставляя ИИ лгать, его можно довести до «безумия»; любопытный же ИИ, по его логике, заинтересован в процветающем человечестве, потому что будущее с людьми на нескольких планетах «интереснее». Отдельно Маск предложил еженедельные созвоны передовых ИИ-лабораторий (xAI, Anthropic и другие) для взаимного ревью моделей до релиза — с примером проверки вроде «я смог собрать ядерную бомбу с вашим ИИ» — и заявил, что xAI сейчас предоставляет вычислительные мощности Anthropic.

Контекст

Спор о том, как выравнивать («align») поведение сильных моделей, идёт между двумя подходами: задавать модели жёсткие правила и ценности либо строить обучение вокруг честности и внутренних мотивов. Позиция Маска относится ко второй стороне, и его отсылка к HAL 9000 — из известной линии аргументации: принуждённая ложь в системе с внешними запретами ведёт к конфликтному поведению. Тезис о «миллионнократном» превосходстве цифрового интеллекта не даёт шкалы сравнения, это риторическая оценка, а не измеренная величина. На фоне того, как государственное регулирование ИИ двигается медленно, предложение Маска о частной координации лабораторий укладывается в уже идущую дискуссию о предрелизной оценке моделей третьими сторонами. Его же заявление о поставке compute от xAI к Anthropic выглядит неожиданно на рынке, где лаборатории воспринимаются прежде всего как конкуренты.

Почему это важно для индустрии

Для builders и компаний в выпуске есть два проверяемых сигнала, помимо философии. Первый — предложенный механизм координации: еженедельные созвоны передовых лабораторий для взаимного ревью моделей до релиза. Это готовый архетип workflow, который можно превратить в конкретную практику: общие eval-сьюты, чек-листы релиза, шаблоны red-team протоколов и внутренний протокол «ревью до релиза». Если идея получит хотя бы один пилот, появится первый эмпирический материал о жизнеспособности такой самокоординации — альтернативы медленной государственной регуляции, которую Маск сам называл слишком медленной. Второй сигнал — заявленный межлабораторный рынок вычислений: xAI как поставщик compute для Anthropic меняет картину конкуренции между лабораториями и смещает ценность от соперничества к инфраструктурной взаимозависимости. Сама рамка «искать истину вместо правил» пока не даёт продуктовых возможностей напрямую: без метрик и воспроизводимых сравнений это философская позиция, а не подтверждённый метод.

Почему это важно для пользователей

Читателю выпуск даёт практическую рамку для оценки того, как разные лаборатории подходят к alignment: через жёсткие правила и навязанные ценности или через любопытство и честность модели. Полный выпуск The Builders с Маском доступен на YouTube (20 октября 2026 года), так что аргументацию «искать истину, а не заставлять лгать» можно услышать в оригинале, не через пересказы. Тезис «не заставляйте ИИ лгать» имеет и прикладное продолжение: ревизия собственных system prompt'ов на предмет инструкций, вынуждающих модель говорить приятное вместо честного, — это то, что можно проверить в своих инструментах уже сегодня. Наконец, если идея предрелизного взаимного ревью приживётся, пользователи со временем получат модели, которые до выхода проверяются другими лабораториями, — хотя на этом этапе это сценарий, а не обещание.

Что пока неизвестно / ограничения

Это интервью-мнение, а не технический результат: тезис «искать истину и питать любопытство вместо правил и любви к человечеству» не сопровождается методологией, метриками или воспроизводимыми экспериментами и ничего не доказывает. Оценка «цифровой интеллект в миллион раз больше биологического» — спекулятивная величина без шкалы: не указано, по какой метрике сравниваются цифровой и биологический интеллект, поэтому цифра работает как риторика и непригодна для планирования. Аргумент с HAL 9000 смешивает внешнее ограничение на высказывания и внутренний мотив модели: реальный эффект несовместимости навязанного «притворства» с честностью существует, но перенос «безумия» вымышленного персонажа на гипотетический суперинтеллект — интерпретация, а не наблюдение. Заявление о том, что xAI предоставляет compute Anthropic, пока не подтверждено источниками самих лабораторий, равно как и предложение еженедельных ревью: неясны механика доступа к весам, объём проверок и состав участников. Утверждение о принуждении ко лжи, деградирующем модель, фальсифицируемо — понадобятся лишь определённые метрики честности и протокол сравнения, поэтому корректный вердикт по нему «не проверено», а не «пусто».

Источники

Автор

Look at AI, редакция