🛠 TensorSharp — новый open-source движок инференса для локального запуска LLM на языке C#.

Проект поддерживает формат GGUF и предлагает консольное приложение, веб-интерфейс чат-бота и HTTP API, совместимый с Ollama и OpenAI. Движок работает на Windows, macOS и Linux с поддержкой GPU-ускорения.

🌍 Появление качественного движка на C# расширяет экосистему локального запуска LLM, предоставляя альтернативу Python-ориентированным решениям и упрощая интеграцию в приложения на .NET.

👤 Теперь можно запускать мощные модели локально в среде Windows/macOS/Linux, используя привычный C# и имея доступ к API, аналогичному OpenAI, для своих проектов.

Источник 1: https://github.com/zhongkaifu/TensorSharp