Anthropic, разработчик модели Claude, в частном порядке передала законодателям США свой черновик федерального закона о безопасности frontier-моделей — об этом 16 октября 2026 года сообщил Politico со ссылкой на три источника. Документ ещё не внесён в Конгресс, но уже показывает, какое регулирование продвигает одна из ведущих лабораторий: измеримые пороги катастрофического риска, обязательное независимое тестирование моделей и жёсткий режим отчётности о новых угрозах после выпуска.
Что произошло
Согласно Politico, черновик даёт федеральному правительству ограниченное право останавливать развёртывание высокопередовых моделей, но только при «предсказуемом, неотвратимом катастрофическом риске». Пороги заданы числами: потенциальный ущерб свыше 1 млрд долларов либо гибель или тяжёлое травмирование более 50 человек. Документ охватывает три категории рисков — биологическое оружие, потеря разработчиком контроля над собственной моделью и кибератаки. Он требует независимого тестирования frontier-моделей, регистрации независимых оценщиков в Министерстве торговли США и сообщения об emergent-рисках в течение 72 часов. Принуждение централизовано по принципу «одно ведомство, один судья»: обратиться к федеральному судье для остановки развёртывания может исключительно Министерство торговли. Текст черновика конфиденциален и официально в Конгресс пока не внесён; о нём известно из отчёта Politico, на который ссылаются Reuters и Crypto Briefing.
Контекст
Черновик — это попытка перевести внутренние safety-практики frontier-лабораторий в юридическую норму: уровни рисков в духе Responsible Scaling Policy, red-teaming и safety cases конвертируются в измеримые пороги и обязательные процедуры. Три категории рисков зеркалят внутренние чек-листы, которые Anthropic и другие лаборатории сегодня применяют добровольно, поэтому документ фактически предлагает сделать существующие внутренние evals федеральным стандартом. Содержательно главный элемент — не сама «остановка модели», а институционализация сторонних оценок: независимое тестирование и реестр внешних оценщиков при Министерстве торговли превращают декларации о безопасности из добровольной внутренней практики в аудируемый режим, а 72-часовая отчётность переводит проверку из формата «один раз протестировали перед релизом» в непрерывный инцидент-процесс по образцу кибербезопасности. На уровне штатов ориентиром уже служит калифорнийский SB 53, поэтому федеральный документ рассматривают и как модельный шаблон для дальнейших инициатив; дискуссия в целом сдвигается от саморегулирования лабораторий к юридически обязательному внешнему тестированию.
Почему это важно для индустрии
Если черновик одного из ведущих лабораторных авторов станет законом, он задаст федеральный комплаенс-контур для frontier-моделей. Для OpenAI, Google и других frontier-разработчиков это прямой рост стоимости релизов: обязательные независимые тестирования, работа с зарегистрированными сторонними оценщиками и 72-часовой инцидент-процесс заставят делать eval-пайплайны воспроизводимыми и аудируемыми, а соответствующие расходы — закладывать в бюджеты и релизные циклы. Параллельно может оформиться рынок вокруг этого контура: сервисы независимого тестирования frontier-моделей, стандартизированные протоколы проверки CBRN-, autonomy- и кибер-рисков, инструменты автоматизации инцидент-репортинга и оценки уже после развёртывания. Высокие пороги при этом оставляют вне зоны регулирования большинство AI-приложений: закон прицелен в frontier-разработчиков, а не во весь рынок, поэтому эффект для обычных AI-продуктов носит сигнальный, а не обязательный характер.
Почему это важно для пользователей
Для читателя документ — первая подробная картина того, как мог бы работать «аварийный тормоз» frontier-моделей на практике. Остановить развёртывание сможет не любое ведомство, а только Министерство торговли; решение принимает не сама администрация, а федеральный судья; механизм срабатывает лишь при превышении согласованных порогов катастрофического вреда, то есть обычные приложения на текущих моделях он не затрагивает — он рассчитан на самые передовые системы. Отчётность об emergent-рисках в течение 72 часов обещает пользователю, что государство быстро узнает об опасных проявлениях модели, причём уже после её выпуска: контроль не заканчивается предрелизным тестированием и продолжается на продакшне. Наблюдать стоит за двумя вещами: официальным внесением документа в Конгресс и реакцией OpenAI и Google на фреймворк, фактически смоделированный по предложению Anthropic — от этого зависит, станет ли контур законом или останется ориентиром для других инициатив.
Что пока неизвестно / ограничения
Текст черновика конфиденциален, а сама история опирается на три анонимных источника — до официального внесения в Конгресс содержание и сроки не гарантированы и могут меняться. Главная неопределённость методологическая: формулировка «предсказуемый, неотвратимый катастрофический риск» предполагает способность заранее количественно оценить угрозу, тогда как современные evals дают вероятностные срезы, а не бинарные ответы — неясно, кто и по какой методике будет фиксировать превышение порогов. Сдержанно стоит воспринимать и прогноз о быстром рынке независимого тестирования: узкое место не спрос, а предложение — содержательный аудит frontier-модели требует доступа к системе (API или весам), вычислительных ресурсов и глубоких компетенций, которых у потенциальных оценщиков пока немного. Неизвестно, кто выступит спонсором билля в Конгрессе и когда он будет официально внесён.
Источники
- Anthropic quietly pitches its own AI safety bill to lawmakers (Politico)
- Anthropic quietly pitches its own AI safety bill to lawmakers, Politico reports (Reuters)
- Anthropic pitches a frontier AI safety bill to US lawmakers, Politico reports (Crypto Briefing)
Автор
Look at AI, редакция