🛠 Вышел LlamaServerLauncherAvalonia — графический интерфейс (GUI) для управления llama.cpp.
Приложение на базе .NET 8 и Avalonia UI позволяет запускать серверные инстансы llama-server, загружать модели (.gguf) напрямую из интерфейса или с HuggingFace, а также гибко настраивать параметры генерации. Программа поддерживает управление несколькими профилями и автоматическое обновление llama.cpp.
🌍 Развитие удобных инструментов для локального запуска LLM снижает порог входа для исследователей, позволяя быстро тестировать модели без использования терминала.
👤 Теперь управлять локальными нейросетями стало так же просто, как обычным приложением. Вы можете автоматизировать запуск моделей через сценарии и не тратить время на ручной ввод команд.
Источник 1: https://github.com/pytraveler/LlamaServerLauncherAvalonia