- En GTC 2022 se anunció la arquitectura Hopper™ de próxima generación y la H100 basada en ella.
→ Su nombre proviene de Grace Hopper. Da continuidad a la arquitectura Ampere.
- Seis innovaciones tecnológicas para acelerar IA a gran escala y HPC
- Integra 80 mil millones de transistores con el proceso de 4 nm de TSMC. Es la primera GPU compatible con PCIe Gen5 y que utiliza memoria HBM3 (3 TB/s de ancho de banda de memoria)
- El nuevo motor Transformer ofrece una aceleración 6 veces mayor que la generación anterior
- Tecnología MIG (Multi-Instance GPU) de seguridad de segunda generación: permite particionar una GPU en fragmentos más pequeños para ejecutar cargas de trabajo aisladas. Con la arquitectura Hopper, MIG mejora 7 veces frente a la generación previa
- Primer acelerador de Confidential Computing para proteger modelos de IA en procesamiento y datos de clientes
- NVIDIA NVLink de 4.ª generación: conecta hasta 256 GPU H100 con un ancho de banda 9 veces mayor (frente a NVIDIA HDR Quantum InfiniBand existente)
- Las nuevas instrucciones DPX aceleran la "programación dinámica" utilizada en algoritmos/optimización de rutas/genómica. Es 7 veces más rápida que la GPU de la generación anterior y 40 veces más rápida que la CPU.
- Da soporte al modelo de lenguaje Megatron 530B con hasta 30 veces más rendimiento que la generación anterior
1 comentarios
MS y Nvidia anunciaron MT-NLG 530B, el modelo de lenguaje más grande del mundo