Cloud TPU v5e
- La Cloud TPU más rentable, versátil y escalable, con integración con los principales frameworks como Google Kubernetes Engine (GKE), Vertex AI, Pytorch, JAX y TensorFlow
- Ofrece hasta 2 veces mayor rendimiento de entrenamiento por dólar y hasta 2.5 veces mayor rendimiento de inferencia para LLMs y modelos de IA generativa en comparación con Cloud TPU v4
- Compatible con 8 configuraciones distintas de máquinas virtuales (VM) para que se pueda elegir la configuración adecuada según distintos tamaños de LLM y modelos de IA generativa
- Con la incorporación de la tecnología Multislice, los usuarios pueden escalar modelos de IA más allá de los límites físicos de un pod de TPU hacia decenas de miles de chips Cloud TPU v5e o TPU v4
A3 GPU VM
- Equipada con la GPU NVIDIA H100 Tensor Core. Diseñada especialmente para entrenar y servir cargas de trabajo de IA generativa y LLMs particularmente exigentes, y estará disponible de forma general el próximo mes
- Las A3 VMs ofrecen un entrenamiento 3 veces más rápido y un ancho de banda de red 10 veces mayor que la generación anterior, brindando escala y rendimiento a gran nivel
Aún no hay comentarios.