Token Cost - Calcular el costo por token de más de 400 LLM
(github.com/AgentOps-AI)- Calcula el costo estimado de prompts y respuestas completadas para estimar el gasto de usar las principales API de LLM
- Hace seguimiento de los modelos y precios más recientes de cada proveedor de LLM
- Mide la cantidad de tokens antes de enviar el prompt y los tokens de la respuesta generada, y calcula el total usando el costo por token de cada LLM
- Se puede integrar en tu propio sistema conectado a LLM con una sola función
Aún no hay comentarios.