Исследование Epoch AI прогнозирует, что запасы высококачественных человеческих данных для обучения LLM могут быть исчерпаны в период с 2026 по 2032 годы. Это событие провоцирует фундаментальный сдвиг в индустрии: переход от массового сбора текстов из интернета к созданию специализированных, платных и мультимодальных наборов данных.
Что произошло
Согласно прогнозам Epoch AI, человеческий ресурс высококачественных текстовых данных (около 300 трлн токенов) близок к исчерпанию. В ответ на этот дефицит уже формируется новый рынок «добычи» данных. Стартапы начали активно инвестировать в сбор альтернативного контента: Kled AI привлекает миллионы долларов для покупки видео бытовых ситуаций, Silencio AI собирает аудиозаписи на тысячах языков, а Mercor нанимает узкопрофильных экспертов для разметки сложных ответов.
Контекст
Современные большие языковые модели (LLM) полагаются на масштабное использование публичного текстового контента, доступного в сети. Однако текущий путь развития scaling laws, основанный на простом увеличении объема веб-текстов, сталкивается с физическим пределом доступности качественного материала, что делает мультимодальность (видео, аудио) и экспертные знания необходимым условием выживания технологий обучения.
Почему это важно для индустрии
Для ИИ-индустрии дефицит означает изменение самой экономики обучения. Компании вынуждены переходить от бесплатного веб-скрейпинга к созданию контролируемых и оплачиваемых датасетов. Ключевым конкурентным преимуществом разработчиков становится не архитектура моделей, а владение уникальными, проприетарными и высококачественными мультимодальными массивами данных.
Почему это важно для пользователей
Для рядовых пользователей и специалистов открываются новые способы монетизации личного контента и знаний. Появляются возможности заработка на предоставлении видео, звуковых записей и профессиональной экспертизы (врачи, юристы) для обучения специализированных систем, а также растут новые направления в стартап-индустрии, связанные с инфраструктурой сбора и разметки данных.
Что пока неизвестно / ограничения
Наблюдается различие в оценках фокуса проблемы: от чисто исследовательского взгляда на пределы scaling laws до анализа бизнес-возможностей и юридических рисков, связанных с интеллектуальной собственностью.
Источники
Автор
Look at AI, редакция