🛡 Бывший исследователь Anthropic ушел из компании из-за страха перед «неуправляемым ИИ»
9 сентября Джейкоб Коксон, три года занимавшийся pretraining-исследованиями в OpenAI и Anthropic, объявил в X об уходе из Anthropic. В заявлении он утверждает, что «ни одна из компаний не действует ответственно»: обе, по его словам, «мчатся к самоулучшающейся суперинтеллектуальной системе, рискуя жизнями». WSJ озаглавил новость как уход из-за страхов перед «неуправляемым ИИ» (out-of-control AI). Профиль Coxon на Google Scholar подтверждает аффилиацию с Anthropic: основная публикация — соавторство в GPT-4o system card (2024), также есть работа о weight-sparse transformers (2025).
🌍 Публичный уход pretraining-исследователя с обвинением в «гонке к суперинтеллекту» — редкий сигнал о том, что споры о рисках внутри лаборатории выходят за рамки официальных заявлений. Вес аргумента при этом ограничен: h-index Coxon равен 3, почти все цитирования приходятся на GPT-4o system card, и часть сообщества в треде Hacker News (126 очков, 137 комментариев) трактует заявление как внимание-маркетинг, а не моральный поступок.
👤 Конкретный пример того, как дискуссия об экзистенциальных рисках ИИ переходит в кадровые решения лабораторий: заявление в X и тред на HN дают обе стороны аргументации — «гонка реальна и опасна» и «это PR, а не доказанная угроза».
Источник 1: https://x.com/hilbertspaess/status/2097476196791709843 Источник 2: https://www.wsj.com/tech/ai/anthropic-researcher-quits-over-out-of-control-ai-fears-707b7628