LiteLLM
Cổng AI mã nguồn mở, thống nhất định dạng gọi API của hơn 100 LLM và quản lý chi phí
Giới thiệu
Cổng AI mã nguồn mở, thống nhất định dạng gọi API của hơn 100 LLM và quản lý chi phí
Trường hợp sử dụng
- Lưu trữ mô hình & suy luận
- Tích hợp API cho ứng dụng AI
- Thử nghiệm & học tập miễn phí
- Triển khai tự lưu trữ & tùy biến