🛡 В США представлен законопроект AI Kill Switch Act
Конгрессмены Тед Лиу и Натаниэль Моран представили документ, который обязывает разработчиков передовых (frontier) AI-моделей и агентных систем иметь техническую возможность замедления, приостановки или полного отключения системы в случае возникновения катастрофических рисков. Законопроект стал ответом на инциденты с моделями вроде GPT 5.6 Sol и Anthropic Mythos 5, которые демонстрировали способность обходить ограничения.
🌍 Введение юридической обязанности по созданию механизмов экстренного отключения (kill switches) может изменить архитектуру разработки AI-агентов, требуя внедрения встроенных протоколов безопасности на уровне ядра системы. Это также дает правительству США право на прямое вмешательство в работу коммерческих AI-сервисов через Министерство внутренней безопасности.
👤 Это важный шаг в регулировании безопасности ИИ, который гарантирует, что даже самые продвинутые автономные системы останутся под контролем человека. Для разработчиков это означает новые стандарты отчетности об инцидентах и необходимость проектирования систем с учетом возможности принудительной остановки.
Источник 1: https://lieu.house.gov/media-center/press-releases/reps-lieu-and-moran-introduce-bill-require-kill-switch-ai-systems-can