BricksLLM - Gateway de IA para LLM
(github.com/bricks-cloud)- Gateway de IA cloud-native escrito en Go
- Funciona como proxy para OpenAI
- Permite crear claves de API con Rate Limit, Cost Limit y TTL para ofrecer funciones detalladas de control de acceso que OpenAI no proporciona
- El objetivo es soportar varios LLM como LLama2, Claude y PaLM2, y simplificar la operación de los LLM
Aún no hay comentarios.