Сооснователь Databricks и Perplexity Энди Конвински выступил с критикой текущего дискурса об «безопасности ИИ», утверждая, что крупные корпорации могут использовать этот повод для создания регуляторных барьеров и ограничения доступа к передовым технологиям.
Что произошло
В своем новом эссе Энди Конвински заявил, что концепция AI Safety может использоваться такими компаниями, как Anthropic, в качестве инструмента для защиты рыночных позиций. Он предложил создать «исследовательский коммонс» (research commons) — систему с открытым доступом к масштабным вычислительным ресурсам, которая позволила бы ученым проводить исследования на уровне frontier-моделей без необходимости получения разрешений от частных лабораторий. Позицию Конвински поддержал Ян Лекун, сравнив попытки установить жесткий контроль над ИИ с историческим запретом печатного станка в Османской империи.
Контекст
На фоне стремительного развития больших языковых моделей контроль над вычислительными мощностями и проприетарными весами становится критическим фактором власти. Существует опасение, что концентрация этих ресурсов в руках нескольких гигантов превращает ИИ в закрытую инфраструктуру, где стандарты безопасности становятся легальным способом блокировки входа новых игроков и стартапов.
Почему это важно для индустрии
Для индустрии это означает усиление политического и экономического давления в дискуссиях о стандартах безопасности. Возникает риск лоббирования ограничений на использование open-source моделей и методов обучения, что может замедлить темпы открытых исследований. В долгосрочной перспективе это может привести к формированию новых рынков децентрализованных вычислений как попытки обойти олигополию Big Tech.
Почему это важно для пользователей
Для пользователей и разработчиков это несет риск растущей зависимости от API ограниченного числа провайдеров. Понимание того, что споры о безопасности ИИ могут иметь глубокий политический и экономический подтекст, необходимо для оценки реальных причин ограничений доступа к технологиям и формирования стратегий использования гибридных или мульти-модельных подходов.
Источники
Автор
Look at AI, редакция