📉 Снижение стоимости LLM на 50% с помощью Ship Beta
Стартап Thesean представил новый API-эндпоинт Ship Beta. Технология использует подход Inference-Time Optimization, работая по принципу JIT-компиляции: запрос оптимизируется под конкретную задачу через ансамбли моделей и инструменты. Ship является drop-in заменой — достаточно изменить префикс модели на 'ship-like/', чтобы получить качество уровня флагманских моделей по вдвое меньшей цене.
🌍 Появление 'Quality SLA' меняет модель ценообразования в сфере LLM, переходя от оплаты за токены к оплате за гарантированный уровень интеллекта.
👤 Это возможность масштабировать AI-агентов и сложные пайплайны в рамках того же бюджета.
Источник 1: https://www.thesean.ai/blog/introducing-ship