LiteLLM

Despre

Gateway AI open-source, unifică formatul de apel pentru peste 100 de API-uri LLM și gestionarea costurilor

Cazuri de utilizare

• Găzduire modele și inferență
• Integrare API pentru aplicații AI
• Experimentare și învățare pe nivel gratuit
• Implementare și personalizare auto-găzduită