22 сентября 2026 года OpenAI опубликовала документ «Priorities and principles for effective third party assessments» — правила независимого внешнего аудита своих фронтирных моделей и систем защиты (safeguards). Компания готова открывать аудиторам данные об обучении, тестировании и развёртывании моделей, а главным предметом проверки называет кейсы безопасности — обоснования того, что риски под контролем. Аналитики уже предупреждают: без механизма принуждения и независимой публикации отчётов это скорее кодекс для аудиторов, чем обязательство для самой OpenAI.

image
image

Что произошло

OpenAI представила публичный набор приоритетов и принципов, по которым независимые внешние аудиторы могут проверять её фронтирные модели и системы защиты (safeguards). Центральный объект проверки — кейсы безопасности (safety cases), то есть обоснования того, что риски под контролем. В перечень приоритетов вошли защита от джейлбрейков, тесты опасных возможностей в химии, биологии и кибербезопасности, самоулучшение ИИ, а также расследование случаев, когда модель действует без разрешения или уходит от надзора. Описан и порядок работы: стороны заранее согласуют объём проверки, аудиторам открывают данные об обучении, тестировании и развёртывании моделей, а до публикации отчёта OpenAI оставляет себе время на исправления. С кем компания ведёт переговоры о проведении аудитов, она не раскрывает.

Контекст

До сих пор внешний аудит фронтир-моделей выглядел как разовые проверки, и OpenAI перевела его в формализуемую процедуру с зафиксированным предметом. Ключевое здесь смещение фокуса: аудиту подвергаются не веса модели и не сами бенчмарки, а eval-методология компании и её доказательная база, то есть вопрос ставится не о том, что умеет модель, а о том, можно ли доверять внутренним оценкам. Это первый публичный артефакт, в котором лаборатория зафиксировала, какие классы проверок считает приоритетными. Отраслевая реакция пока сдержанная: опрошенные CIO.com эксперты из Malwarebytes, Info-Tech Research Group, Moor Insights & Strategy и Dickson Research оценили документ как «fine start, but they lack teeth» — без принуждения и независимой публикации выводов проверка остаётся под контролем самой проверяемой компании.

Почему это важно для индустрии

Для фронтир-лабораторий документ задаёт шаблон, по которому можно пускать внешних аудиторов к кейсам безопасности на этапах обучения, оценки и развёртывания, и станет ориентиром для регуляторов и корпоративных программ проверки ИИ. Немедленного эффекта для продакшна нет: API, цены, задержки и требования к развёртыванию не меняются, а прямых интеграций в источниках не описано. Практическая ценность сейчас — сигнал и словарь требований: стартапы могут дёшево сопоставить свои продукты с перечнем проверок, вендоры и аудиторы — строить вопросники и чек-листы для vendor risk и self-assessment, а команды — собирать логи инцидентов, релевантные приоритетам аудита, и проектировать eval-наборы в формате safety cases. Если OpenAI договорится хотя бы с одним-двумя аудиторами и опубликует отчёты, возникнет первый прецедент: корпоративные заказчики начнут спрашивать у поставщиков свидетельства внешней оценки, а спрос сместится от вопросников к пайплайнам audit readiness с автоматическим сбором доказательств и трекингом правок до публикации.

Почему это важно для пользователей

В самих продуктах ничего не меняется: доступ к моделям, цены и интерфейсы остаются прежними, поскольку это методологический документ, а не обновление модели или API. Прочитать сам документ можно на openai.com, а дальше стоит следить, с какими аудиторами OpenAI в итоге договорится: именно условия доступа проверяющих и порядок публикации отчётов покажут, станет ли внешний аудит реальной независимой проверкой или формальностью. Тем, кто выбирает ИИ-решения для компании, перечень приоритетов из документа уже сейчас даёт готовый список вопросов к вендору: что показывают проверки на джейлбрейки и опасные возможности, как логируются попытки ухода модели от надзора и есть ли свидетельства внешней оценки.

Что пока неизвестно / ограничения

Переговоры с аудиторами не раскрыты, контрактов и опубликованных отчётов пока нет, поэтому реальный уровень доступа к данным обучения и тестирования неизвестен. В описанных материалах есть перечень приоритетов и порядок работы, но нет проверяемых требований: порогов, метрик и формата отчёта; не описаны API, формат данных или механизм доступа аудиторов. Оценка аналитиков CIO.com — экспертное мнение, а не измеренный результат; станет ли документ обязательством для OpenAI или останется декларацией, покажут только подписанные контракты и опубликованные отчёты.

Источники

Автор

Look at AI, редакция