NVIDIA Nemotron 3.5 Lightning — модель MoE 30B/3B для AI-агентов

🛠️ NVIDIA Nemotron 3.5 Lightning — модель MoE 30B/3B для AI-агентов

30 миллиардов параметров, 3 миллиарда активных на токен. Гибридная архитектура Mamba-2 + Transformer, контекст до 1 млн токенов, работает на одном GPU.

🌍 NeMo Switchyard — маршрутизация между моделями, экономия до 74%.

👤 На Hugging Face. 86% PinchBench, 52.8% SWE-bench. vLLM, Ollama.

Источник: https://blogs.nvidia.com/blog/nemotron-lightning-switchyard-rtx-dgx/