🛠 Вышел ARouter — прокси-сервер на Rust для OpenAI и Anthropic
Инструмент позволяет управлять маршрутизацией запросов через policy без изменения кода приложения, поддерживая автоматическое переключение на дешевые модели и failover между провайдерами.
🌍 Инструмент снижает операционные расходы на LLM (до 94% на простых запросах) и повышает надежность систем за счет прозрачного failover между крупнейшими провайдерами.
👤 Теперь можно использовать один и тот же код для работы и с моделями GPT, и с Claude, при этом система будет сама выбирать наиболее выгодную или надежную модель.
Источник 1: https://github.com/sricola/arouter