🛡 Специалист Anthropic: риск гибели человечества от ИИ выше 10%
Ведущий специалист по alignment Эван Хьюбингер в ответ на увольнение исследователя Джека Коксона написал в X, что лично считает вероятность гибели человечества от ИИ за десять лет выше 10%, и признал, что плана решить alignment суперинтеллекта у компании пока нет.
🌍 Редкая публичная количественная оценка экзистенциального риска от ключевого лица по безопасности лидирующей лаборатории усиливает аргументы регуляторов и инвесторов в пользу независимых проверок и финансирования safety-исследований.
👤 Это личная оценка Хьюбингера, а не официальная позиция Anthropic: он отдельно отметил, что текущие модели несут относительно низкий риск, а главную тревогу вызывает суперинтеллект от рекурсивного самоулучшения.
Источник 1: https://x.com/EvanHub/status/2097497037956891126 Источник 2: https://www.newsweek.com/anthropic-researcher-quits-warns-ai-could-kill-everyone-12418798