🛠 Сервис проверки возможностей железа для локальных ИИ
Запущен Local SOTA Benchmark — веб-сервис, который анализирует характеристики вашего устройства (RAM, GPU, тип системы) и определяет, какие локальные ИИ-модели вы сможете запустить. Система сопоставляет параметры железа с требованиями различных уровней моделей, включая использование квантованных версий (например, 4-bit) для оптимизации работы на потребительских устройствах.
🌍 Инструмент способствует популяризации локального запуска LLM, помогая пользователям осознанно выбирать между облачными API и собственным железом.
👤 Вы сможете мгновенно узнать, потянет ли ваш ноутбук или ПК современные модели вроде Llama 3 или Phi-3, и какие именно категории нейросетей будут работать на нем эффективно.
Источник 1: https://localsotabenchmark.engineersf.dev/