Профессора Принстона Арвинд Нараянан и Саяш Капур опубликовали 1 октября 2026 года эссе «A big-tent or small-tent AI safety movement?» в своём Substack «AI as Normal Technology», у которого 87 тысяч подписчиков. В нём они отвергают обе главные версии спора об экзистенциальном риске ИИ: и тезис о том, что катастрофа реальна и неизбежна, и зеркальный тезис о том, что предупреждения об x-risk — это psyop или регуляторный захват. Собственная позиция авторов: предупреждающие искренни, но ошибаются, а рамка страха контрпродуктивна для самой безопасности ИИ. Вместо неё эссе предлагает измеримую повестку: прозрачность систем, юридическую ответственность за негативные экстерналии, embedded evaluation и возможный запрет автономного рекурсивного самоулучшения. Публикация выходит на фоне самого острого за последние годы раскола в комьюнити безопасности ИИ и формулирует альтернативу обоим лагерям.

image

Что произошло

Эссе «A big-tent or small-tent AI safety movement?» вышло на normaltech.ai — это Substack «AI as Normal Technology», который Нараянан и Капур ведут вместе. Нараянан — профессор Принстона и автор самого термина «AI as normal technology», Капур — его многолетний соавтор по темам оценивания моделей. Авторы не отрицают серьёзности угроз как таковых: они согласны, что общество недоинвестирует в устойчивость к катастрофическим рискам, и подкрепляют это примерами. Доклад ВОЗ и Всемирного банка 2019 года предупреждал о патогене, способном убить 50–80 миллионов человек, при цене подготовки $1–2 на человека в год. Рекомендации более чем одиннадцати высокоуровневых комиссий, выпущенные с 2009 года, так и не были выполнены. Lloyd's of London в 2022 году отказалась страховать тяжёлые кибератаки, поддерживаемые государствами. После публикации Нараянан первым выложил эссе на Hacker News под ником randomwalker.

Контекст

Чтобы понять значение эссе, нужен фон 2026 года: спор об экзистенциальном риске задавали отставка Coxon, раскрытые частные p(doom) руководителей ИИ-компаний и агентные хакерские атаки лета 2026 года, о которых писали NYT и WSJ. Рамка авторов, «ИИ как усилитель существующих рисков», переносит внимание с гипотетического суперразума на то, что системы уже умножают сегодня: киберриски, биориски и так называемые аккумулятивные риски — по терминологии Atoosa Kasirzadeh. Из этого следует другой взгляд на оценивание моделей: вместо alignment-рамки для ИИ-усиленного биориска предлагается измерять dual-use capabilities на конкретных сценариях. Частные p(doom) при этом остаются нефальсифицируемыми величинами: у них нет методологии, калибровки и воспроизводимости, из-за чего опираться на них в политике невозможно, и эссе этого и не предлагает. Ещё одна идея текста — вовлечь в работу по безопасности скептичное кибергражданство в духе CISA, как продвигает комментатор Cory Scott, вместо того чтобы держать скоординированное safety-сообщество в изоляции.

Почему это важно для индустрии

Для индустрии эссе является не продуктом и не стандартом, а готовой формулировкой альтернативной повествовательной рамки, с которой компании и их советники могут сверять позиционирование и регуляторные ожидания. Авторы выделяют два кластера с наибольшим запасом согласия — transparency и liability, а методологическим ядром называют embedded evaluation: оценку моделей, встроенную в реальные продукты и рабочие процессы, а не только в изолированные бенчмарки. Это отвечает на давний разрыв между результатами бенчмарков и поведением систем в деплое. Общий сигнал в том, что влиятельные академические голоса подталкивают регуляторный фокус от суперразума к измеримым катастрофическим и аккумулятивным рискам. Сегодня в продакшене ничего не меняется, но словарь для другой работы уже доступен: инвентаризация того, что именно усиливает ваша система, регрессионные оценки при релизах агентов и журналирование действий — всё это дёшево и полезно само по себе. Если волна вокруг эссе продолжится, вероятны eval-гейты в релизных процессах, стандартизация агентных трейсов и инцидент-процессов, «safety dashboards» и чек-листы transparency и liability в procurement-требованиях.

Почему это важно для пользователей

Читателям эссе даёт компактную карту раскола в движении безопасности ИИ, которое со стороны кажется единым фронтом. Спор big-tent и small-tent — это спор о стратегии: «большой шатёр» означает плюрализм ценностей, позитивное видение вместо запугивания и признание разрыва с общественным мнением, при том что по данным Gallup лишь около 0,5% опрошенных считают ИИ главной проблемой. Такая карта работает как линза: читая очередное заявление о рисках или регулировании ИИ, можно спрашивать, предлагается ли измеримый механизм — прозрачность, ответственность, встроенная оценка, — или очередная мобилизация страха. Первоисточник полностью открыт на normaltech.ai, а обсудить и проверить аргументы можно в ветке Hacker News, которую завёл сам автор.

Что пока неизвестно / ограничения

Эссе выражает позицию двух академических авторов, а не проверяемое предсказание: уверенность в том, что эта повестка почти наверняка станет регуляторными требованиями, следует считать сверхинтерпретацией. Отклик сообщества на момент подготовки материала только начинался: тред на Hacker News содержал 1 point и 0 комментариев. Единственная жёсткая мера — возможный запрет полностью автономного recursive self-improvement — не операционализирована: без формального определения «автономности» и способов верификации такой запрет технически неисполним. Сценарии о смещении словаря публичной дискуссии, о стандартизации eval-гейтов и публичной отчётности — это осторожные прогнозы, а не свершившиеся изменения; приживётся ли вообще рамка big-tent, покажут ближайшие месяцы.

Источники

Автор

Look at AI, редакция