Cortex - plataforma de despliegue open source para machine learning

"Run inference at scale"

• Compatibilidad con varios modelos, incluidos TensorFlow, PyTorch y Sklearn

• Despliegue a gran escala en AWS/GCP/Azure y autoescalado basado en requests

• Integración con sistemas de CI/CD

• Streaming de métricas de rendimiento y logs hacia herramientas de monitoreo

• Serving eficiente de múltiples modelos con caché multimodelo

• Soporte para actualizaciones rolling sin downtime

• División de tráfico para pruebas A/B