Sber представила GigaChat 3.5 Ultra — сверхбольшую модель с 432B параметрами, оптимизированную для высокой эффективности и скорости. Благодаря сочетанию инновационной архитектуры и методов обучения в формате FP8, модель демонстрирует результаты на уровне DeepSeek V3.2, превосходя его в задачах кодинга и математики.
Что произошло
Sber представила GigaChat 3.5 Ultra, модель с 432B параметрами, обученную в формате FP8. Архитектура объединяет Multi-Head Latent Attention (MLA) с линейными слоями GatedDeltaNet, что позволяет сократить использование KV-кеша в 4 раза и увеличить контекстное окно в 2.14 раза. Использование Multi-Token Prediction (MTP) голов для спекулятивного декодирования увеличило скорость генерации в 2.2 раза, а пропускная способность под нагрузкой выросла на 20%. Модель поддерживает более 600 языков и выпущена под открытой лицензией MIT.
Контекст
Разработка направлена на решение проблем задержек (latency) при инференсе сверхбольших моделей и повышение их экономической эффективности. Гибридный подход к архитектуре и переход на низкоразрядное обучение в FP8 позволяют достигать высокой производительности при значительно меньших затратах памяти и вычислительных ресурсов по сравнению с традиционными методами.
Почему это важно для индустрии
Переход на гибридную архитектуру (MLA + GatedDeltaNet) и использование FP8-обучения задает новый стандарт эффективности для сверхбольших моделей, делая высокопроизводительные LLM более доступными для продакшена. Применение MTP-голов напрямую решает проблему задержек при инференсе, а выпуск под лицензией MIT снижает барьеры для создания сложных AI-агентов и высоконагруженных систем.
Почему это важно для пользователей
Разработчики и инженеры получают доступ к мощной open-source модели, которая отлично справляется со сложным кодом и математическими задачами, работая при этом быстрее и эффективнее тяжелых аналогов. Это позволяет развертывать продвинутые AI-инструменты локально или в частных облаках, снижая стоимость владения и задержки.
Источники
Автор
Look at AI, редакция