Cog: herramienta de contenedores para machine learning

• Herramienta de código abierto que permite empaquetar modelos de machine learning con un nivel listo para producción
• Genera fácilmente imágenes de Docker que ya incluyen buenas prácticas, como imagen base de NVIDIA + caché + Python + valores predeterminados de variables de entorno
  → con compatibilidad de versiones entre CUDA/cuDNN/PyTorch/TensorFlow/Python, etc.
• Genera esquemas OpenAPI mediante Pydantic
• Genera dinámicamente una API HTTP RESTful con FastAPI a través de tipos de modelo
• Ofrece un worker de cola basado en Redis para modelos de deep learning de larga ejecución o procesamiento por lotes (se planea agregar otros también)
• Fue creado para Replicate, un SaaS de ML, pero también puede usarse en tu propia infraestructura