Limite 1B Violetto: математический решатель на 1 млрд параметров

Итальянский стартап Paradigma выпустил модель Limite 1B Violetto — плотный авторегрессионный трансформер на 1 млрд параметров, обученный с нуля менее чем на 300 млрд отобранных токенов и достигший 94,01% на AIME 2026 при вычислительном бюджете на 1–3 порядка ниже, чем у моделей того же уровня.

Автор Sergey KostenchukОпубликовано 2026-09-23Обновлено 2026-09-23

2026-09-23 Исследования NVIDIA

🤖 Limite 1B Violetto: математический решатель на 1 млрд параметров

Стартап Paradigma из Италии обучил с нуля плотный трансформер на 1 млрд параметров: менее 300 млрд отобранных токенов за 6 недель, контекст до 131 072 токенов. Не чат-бот: задача на входе — решение на выходе. На AIME 2026 — 94,01%, на BeyondAIME — 74,25%.

🌍 Модель в десятки раз меньше конкурентов того же уровня, а вычислений — на 1–3 порядка меньше: аргумент в пользу speedrun-предобучения и курации данных вместо масштаба. Связка «решатель + Limite Value Model» — блок для best-of-n и RL.

👤 Веса открыты на Hugging Face (Apache 2.0): локальный решатель олимпиадной математики — ~2 ГБ весов, ~7,5 ГБ VRAM. Запуск — через vLLM-плагин на Linux с NVIDIA. Промпт должен быть математической задачей: обычные вопросы она переосмысляет как математические.

Источник 1: https://paradigma.inc/blog/limite-1b-violetto/ Источник 2: https://huggingface.co/paradigma-inc/limite-1b-violetto

Источники