Челлендж Laguna MLX Fast от Layr Labs

🛠 Челлендж Laguna MLX Fast от Layr Labs

Запущен конкурс по оптимизации инференса модели Poolside Laguna XS 2.1 на Apple Silicon. Участникам нужно оптимизировать runtime на Swift и Metal-кернелы для ускорения префиксного и последовательного декодирования на чипах M5 Max.

🌍 Стимулирует развитие библиотек для Apple Silicon, заставляя искать пределы производительности через кастомные Metal-кернелы и оптимизацию MoE-архитектур.

👤 Возможность поучаствовать в гонке и проверить скорость запуска современных LLM локально на Mac через фреймворк MLX.

Источник 1: https://mlx.fast/ Источник 2: https://github.com/Layr-Labs/mlxfast-challenge