🛡 Расселл против «paced»-подхода Amodei
Профессор UC Berkeley Стюарт Расселл в The Guardian раскритиковал письмо Dario Amodei «We Must Pace the Frontier»: продолжать разработку на пониженной скорости, как машина безопасности в Formula 1. Расселл называет идею ошибочной и предлагает авиационную аналогию: модель выпускается лишь после сертификации свойств выравнивания, иначе — «red flag», а не pace car. Топы ИИ-компаний оценивают риск катастрофы как 1 к 10 — 1 к 5 при приемлемых 1 шанс на 100 млн в год.
🌍 Вместо «просто замедлиться» — жёсткий допуск: безопасность как условие выпуска модели, а не исследовательская программа. Amodei сам согласился с логикой red lines — регуляторы получают точку опоры.
👤 Для исследователей evals и выравнивания сертификационная рамка определит, какие измерения станут обязательными и кто признаёт результаты.
Источник 1: https://www.theguardian.com/commentisfree/2026/sep/15/ai-safety-requirements