На конференции ICML 2026 представлены ключевые исследования, знаменующие переход к универсальным графовым foundation-моделям и новым методам эффективного масштабирования диффузионных трансформеров (DiT).
Что произошло
В рамках постерных сессий ICML 2026 были представлены работы GraphPFN от Yandex Research, использующая фреймворк Prior-Data Fitted Networks для обучения на миллионах синтетических графов, а также методы оптимизации инференса, такие как ReCache для управления вычислительным бюджетом и использование register-токенов для улучшения структурной связности в моделях в пиксельном пространстве.
Контекст
Современные исследования движутся от узкоспециализированных графовых нейронных сетей (GNN) к универсальным Graph Foundation Models (GFM), способным решать широкий спектр задач без полной перенастройки архитектуры.
Почему это важно для индустрии
Для индустрии эти разработки означают переход к масштабируемым архитектурам и поиск путей снижения вычислительной стоимости генерации. Внедрение методов вроде ReCache и архитектурных улучшений позволяет оптимизировать инференс и снизить порог входа для создания сложных интеллектуальных систем.
Почему это важно для пользователей
Для конечных пользователей это означает повышение доступности сложных инструментов: GraphPFN упрощает работу с графами (соцсети, биоинформатика) через in-context learning, а оптимизации типа ReCache могут значительно ускорить генерацию видео и изображений даже на пользовательских устройствах.
Что пока неизвестно / ограничения
Существуют вопросы, связанные с использованием синтетических данных для обучения моделей, а также необходимость оценки реальной производительности новых методов в production-средах.
Источники
- GraphPFN: A Prior-Data Fitted Graph Foundation Model
- ReCache: Learning Budget-Aware Caching Schedules for Diffusion Models via REINFORCE
- Registers Matter for Pixel-Space Diffusion Transformers
Автор
Look at AI, редакция