LiteLLM

О проекте

Открытый AI-шлюз, унификация форматов вызова 100+ LLM API и управление затратами

Сценарии использования

• Хостинг и инференс моделей
• Интеграция API для ИИ-приложений
• Эксперименты и обучение на бесплатном тарифе
• Самостоятельное развертывание и настройка