Глава Google DeepMind Демис Хассабис выступил с инициативой создания нового международного регулирующего органа по надзору за ИИ, который должен быть сформирован до конца 2026 года под руководством США.
Что произошло
Предлагаемый регулятор будет финансироваться самой ИИ-индустрией и получит полномочия проводить обязательный аудит передовых (frontier) моделей перед их публичным выпуском. В случае выявления критических рисков организация сможет координировать общеотраслевое замедление темпов разработки.
Контекст
Данная инициатива знаменует переход от добровольного соблюдения этических принципов компаниями к жесткому государственному надзору. Предлагаемая модель управления во многом напоминает работу FINRA в финансовом секторе, где отрасль участвует в финансировании системы контроля.
Почему это важно для индустрии
Для индустрии это означает переход к эпохе обязательного комплаенса и создания специализированных инструментов для автоматизированного аудита безопасности. Регуляция может создать высокие барьеры для входа новых игроков, обеспечивая при этом стандартизацию безопасности и предотвращая бесконтрольную гонку вооружений в области ИИ.
Почему это важно для пользователей
Для пользователей и разработчиков это сигнал о завершении эпохи «дикого запада» в сфере ИИ. В ближайшее время могут появиться новые правила, которые напрямую повлияют на скорость выхода новых инструментов на рынок и доступность open-source решений.
Что пока неизвестно / ограничения
Существуют разногласия относительно того, является ли этот шаг необходимым этапом стандартизации безопасности или стратегическим ходом Big Tech для создания защитного рва (moat).
Источники
Автор
Look at AI, редакция