Разработчики представили специализированные веса и наборы нод для ComfyUI, которые позволяют запускать мощные видеогенераторы LingBot на устройствах с объемом видеопамяти всего 8 ГБ VRAM.
Что произошло
Для платформы ComfyUI выпущены оптимизированные компоненты, включающие переупакованную модель LingBot Video 1.3B (для задач Text-to-Video и Image-to-Video) и GGUF-квантованную модель мира LingBot-World-v2 14B. Техническая реализация включает механизм «ленивой» загрузки текстового энкодера Qwen3-VL на CPU с последующей очисткой VRAM для модели 1.3B, а также использование формата GGUF для потоковой загрузки слоев 14B модели из системной оперативной памяти.
Контекст
Тяжелые видео-диффузионные модели (DiT) и модели мира традиционно требуют профессиональных ускорителей с огромным объемом памяти, таких как NVIDIA A100 или H100. Использование квантования GGUF и гибридных схем взаимодействия CPU и GPU позволяет обходить эти ограничения, перенося часть нагрузки на системную RAM.
Почему это важно для индустрии
Этот кейс демонстрирует возможности оптимизации архитектур DiT через агрессивное квантование и гибридные схемы инференса. Это снижает капитальные затраты на вход в индустрию генеративного видео и открывает путь к созданию локальных edge-решений для работы с тяжелыми мультимодальными моделями.
Почему это важно для пользователей
Пользователи с обычными игровыми ПК, например на базе RTX 3070, теперь могут запускать продвинутые инструменты генерации видео и управления миром локально, не прибегая к аренде дорогостоящих облачных GPU.
Что пока неизвестно / ограничения
Применение данных методов ограничено сегментом DIY-пользователей и требует высокой технической сложности настройки через интерфейс ComfyUI.
Источники
- realrebelai/LingBot_ComfyUI · Hugging Face
- realrebelai/LingBot_World_V2_ComfyUI · Hugging Face
- ComfyUI_Rebels_LingBot · GitHub
Автор
Look at AI, редакция