Исследователи призвали ИИ-лаборатории раскрыть методы безопасности

🛡 Исследователи призвали ИИ-лаборатории раскрыть методы безопасности

18 сентября 2026 года группа учёных из EPFL, Оксфорда и ETH Zurich опубликовала обращение «A Call for Open Science in AI Safety». Они призывают разработчиков фронтирных ИИ-моделей публиковать оценки (evaluations), рецепты safety-обучения, код и данные — чтобы независимые исследователи могли их проверять.

🌍 Фокус смещается с закрытости на проверяемость: публиковать методы и доказательства, а не веса моделей. Риск-чувствительные сведения можно не раскрывать, но исключения должны быть точечными, а не общим предлогом.

👤 «Безопасность ИИ» — это конкретные документы: списки evals, рецепты обучения, код и данные. Обращение подписали около 208 исследователей, включая сотрудников Google DeepMind, Hugging Face и EleutherAI; документ обещают обновлять.

Источник 1: https://make-safety-open.github.io/ Источник 2: https://news.ycombinator.com/item?id=49796651