KubeAI - Operar IA privada sobre Kubernetes
(github.com/substratusai)- Proporciona una API HTTP compatible con OpenAI
- Escalado automático basado en la carga
- Permite servir LLMs de código abierto con CPU/GPU
- Cero dependencias (Istio, Knative, etc.)
- UI de chat integrada
Aún no hay comentarios.