Token.js - integrar más de 200 LLM con un solo SDK
(github.com/token-js)- Llama a más de 200 LLM de 10 proveedores usando el formato de OpenAI
- AI21, Anthropic, AWS Bedrock, Cohere, Gemini, Groq, Mistral, OpenAI, Perplexity, OpenRouter
- Soporta tools, salida JSON, entrada de imágenes y streaming
- Funciona solo del lado del cliente, sin servidor proxy
3 comentarios
Parece similar a lo que ofrece el AI SDK.
Me dan ganas de que exista un paquete de Python.
En Python existe https://github.com/BerriAI/litellm