🛡 Сотрудники ИИ-лабораторий скептичны к «концу мира»
BBC опросила сотрудников OpenAI, Meta, DeepMind и Anthropic: большинство с иронией встретило предупреждение, что агенты на пока несуществующих моделях смогут создать биооружие, — в ответах звучали «Lol» и «Haaaaaa». Дженсен Хуанг (Nvidia) оценил риск катастрофы к 2030 году в 0%.
🌍 Раскол внутри лабораторий смещает спор с экзистенциального риска на проверяемые угрозы: обход guardrails, взлом Hugging Face, военное применение ИИ. Более 100 сотрудников требуют независимых внешних оценщиков; Anthropic привлекла Faculty, но без сроков.
👤 Для ML-исследователей и safety-команд это спор не о конце мира, а о качестве eval-методологии и независимости оценщиков: у предупреждения о биооружии нет ни модели, ни бенчмарка, а у «вероятности 0%» — то же самое наоборот.
Источник 1: https://www.bbc.com/news/articles/cm5y7qj54klpo Источник 2: https://news.ycombinator.com/item?id=49780704