OpenAI предложила правила внешнего аудита безопасности своих моделей

🛡 OpenAI предложила правила внешнего аудита безопасности своих моделей

22 сентября OpenAI опубликовала документ «Priorities and principles for effective third party assessments»: аудиторам откроют данные об обучении, тестировании и развёртывании моделей, а проверять будут кейсы безопасности — джейлбрейки, опасные возможности в химии, биологии и кибербезопасности.

🌍 Документ задаёт шаблон внешнего аудита для фронтир-лабораторий и станет ориентиром для регуляторов. Но объём проверки, доступ и правки отчёта контролирует сама OpenAI — механизма принуждения нет.

👤 По условиям доступа аудиторов и порядку публикации отчётов будет видно, станет ли аудит независимой проверкой или формальностью.

Источник 1: https://openai.com/index/priorities-principles-third-party-assessments/ Источник 2: https://www.cio.com/article/4225761/openais-new-priorities-for-third-party-assessments-are-a-fine-start-but-they-lack-teeth.html