LiteLLM
LiteLLM simplifica la realización de LLM y la integración de llamadas con una biblioteca de código abierto.
Puntuación
60
Calificación de Usuario
1.0
Soporte Gratuito/Prueba
Soportado
Precio Inicial
--
Última Actualización
sep 08, 2026
Resumen
¿Qué es LiteLLM?
LiteLLM es un LLM Gateway (OpenAI Proxy) diseñado para gestionar la autenticación, el equilibrio de carga y el seguimiento de gastos en más de 100 LLM, todo ello manteniendo el formato OpenAI. Simplifica el proceso de uso de API LLM de varios proveedores como OpenAI, Azure, Cohere, Anthropic, Replicate y Google. LiteLLM ofrece resultados y excepciones consistentes para todas las API de LLM, junto con registro y seguimiento de errores para todos los modelos. Proporciona funciones como seguimiento de costos, API de lotes, barreras de seguridad, acceso a modelos, presupuestos, observabilidad de LLM, limitación de tasas, administración rápida, registro S3 y puntos finales de paso.
¿Para qué se usa LiteLLM?
Etiquetas
Características Principales
- Puerta de enlace LLM para más de 100 LLM
- API compatible con OpenAI
- Seguimiento de costos y gestión de presupuesto
- Opciones de LLM
- Equilibrio de carga
- Limitación de tasa
- Gestión Rápida
- Registro y seguimiento de errores
¿Cómo usar LiteLLM?
Utilice LiteLLM llamando a las API de LLM utilizando el formato chatGPT: finalización (modelo, mensajes). Proporciona resultados consistentes y excepciones para todas las API de LLM. Puede implementar LiteLLM de código abierto o probar LiteLLM Enterprise para obtener más funciones.
Herramientas Alternativas
No se encontraron herramientas alternativas
Pros & Contras
Sin Datos
Casos de Uso
- Brindar a los desarrolladores acceso a múltiples LLM
- Gestionar el gasto en diferentes proveedores de LLM
- Implementación de alternativas de LLM para mayor confiabilidad
- Estandarizar el acceso a la API LLM en toda una organización
Precios de LiteLLM
Plan GratuitoPlan de Suscripción
No hay información detallada de precios disponible
Reseñas de Usuarios
1.0
de 5
1.0
Aún no hay reseñas
¡Sé el primero en reseñar esta herramienta!