Компания fal представила две новые версии модели Ideogram 4, ориентированные на максимальную скорость генерации: Ideogram 4 Instant (8 шагов) и Ideogram 4 Fast (20 шагов). Благодаря использованию технологии дистилляции шагов и отказу от Classifier-Free Guidance (CFG) при инференсе, новые чекпоинты позволяют достичь субсекундной генерации изображений без потери качества.
Что произошло
Компания fal выпустила два оптимизированных чекпоинта — Ideogram 4 Instant и Ideogram 4 Fast. Оба варианта базируются на модели ideogram-4-fp8 и содержат около 9.28 млрд параметров. Ключевым техническим изменением стало применение timestep distillation, что позволило сократить количество необходимых шагов до 8 и 20 соответственно, а также устранить необходимость в использовании CFG во время выполнения запроса.
Контекст
Традиционные модели Text-to-Image (T2I) часто требуют использования Classifier-Free Guidance (CFG), что подразумевает двойные проходы модели (условный и безусловный) для каждого шага генерации, значительно увеличивая задержку. Использование специализированных квантованных весов, таких как FP8, в сочетании с методами дистилляции, становится новым стандартом для создания эффективных и масштабируемых моделей.
Почему это важно для индустрии
Переход к субсекундной генерации через дистилляцию и отказ от runtime CFG радикально снижает стоимость инференса и делает технологию коммерчески жизнеспособной для высоконагруженных API. Это задает новый стандарт эффективности для тяжелых T2I моделей, открывая путь к массовому внедрению специализированных квантованных форматов (таких как FP4 или QAD) в production-средах.
Почему это важно для пользователей
Пользователи могут получать высококачественные изображения в стиле Ideogram практически мгновенно, что открывает возможности для создания интерактивных интерфейсов с 'живым' дизайном. Важно отметить, что при локальном запуске через Diffusers необходимо использовать структурированный JSON-формат промптов, так как функция автоматического расширения запросов реализована только в облаке fal.ai.
Источники
Автор
Look at AI, редакция