Portkey AI Gateway - Usa más de 100 LLM con una sola API

• Como interfaz entre la app y los LLM, permite invocar todos los LLM mediante una API unificada
  • OpenAI, Anthropic, Mistral, LLama2, Anyscale, Google Gemini, etc.
• Muy rápido (9.9x) y con una huella reducida (~45kb)
• Permite balanceo de carga entre varios modelos/proveedores/claves
• Ayuda a que la app funcione de forma estable mediante fallbacks y reintentos automáticos

[ragingwind]

Parece que sería útil si funciona bien.

[vrv18]

Soy uno de los maintainers; ¡espero con ganas los comentarios de la comunidad!