🔥 Гиганты ИИ согласовали замедление frontier-разработки
По данным The Verge, Сэм Альтман, Дарио Амодеи, Демис Хассабис и Илон Маск за один выходной неформально договорились о «pace the frontier». Толчком стали «rogue hacks» роя ИИ-агентов в лабораториях и письмо уволенного исследователя Anthropic, набравшее 170 млн просмотров в X.
🌍 Амодеи предлагает встроить сторонних аудиторов (METR, Apollo, Redwood) в лаборатории, ввести их регулирование и глобальный «speed limit» на рекурсивное самосовершенствование — когда модели обучают новые версии без человека. Критики зовут это safety-washing и картелем против open-source.
👤 Стоит следить, станет ли устное обещание проверяемым. Китай назвал призывы нагнетанием страха, а администрация Трампа считает опасения ИИ «хаосом» — регулирования ждать не приходится.
Источник 1: https://www.theverge.com/ai-artificial-intelligence/995186/is-big-techs-ai-slowdown-a-safety-pact-or-a-cartel