🚀 Majestic Labs представила сервер Prometheus для борьбы со «стеной памяти»
Новая архитектура поддерживает до 128 ТБ DRAM на одно устройство благодаря чипам Ignite AIU (ARM + RISC-V). Система создает единое адресное пространство памяти, обеспечивая совместимость с PyTorch, vLLM и Triton без правки кода.
🌍 Переход к memory-first архитектуре позволит гиперскейлерам снизить CapEx, заменяя стойки GPU одним сервером для работы с моделями на триллионы параметров.
👤 Это сделает запуск сверхмощных LLM с контекстом в сотни миллионов токенов дешевле и быстрее, устраняя задержки при передаче данных.
Источник 1: https://www.businesswire.com/news/home/20260428206091/en/Majestic-Labs-Announces-Prometheus-The-First-AI-Server-Purpose-Built-to-Break-the-Memory-Wall Источник 2: https://spectrum.ieee.org/huge-memory-ai-server