NVIDIA presenta DIGITS, una supercomputadora personal de IA con 128 GB de RAM basada en LPDDR5X
- NVIDIA presentó DIGITS, una supercomputadora personal de IA con 128 GB de RAM, en CES celebrado en Las Vegas el 7 de enero de 2025 (hora local)
- DIGITS incorpora el nuevo superchip NVIDIA GB10 Grace Blackwell de NVIDIA
- El objetivo de NVIDIA es poner una supercomputadora de IA en el escritorio de cada científico de datos, investigador de IA y estudiante, para que puedan participar en la era de la IA
Rendimiento del nuevo superchip GB10 de NVIDIA
- El superchip GB10 es un "system on chip" (SoC) basado en la arquitectura NVIDIA Grace Blackwell, y ofrece hasta 1 petaflop (PetaFlop, 10¹⁵/s, 1 cuatrillón de operaciones por segundo) de capacidad de cómputo con precisión FP4
- El GB10 integra una GPU NVIDIA Blackwell con núcleos CUDA® de última generación y Tensor Cores de quinta generación
- Está conectado mediante la interconexión chip-to-chip NVLink®-C2C a una CPU con 20 núcleos basada en arquitectura Arm
- MediaTek, líder del mercado en diseño de SoC basados en Arm, colaboró en el diseño del GB10
Especificaciones aproximadas de la supercomputadora personal de IA DIGITS
- DIGITS incorpora 128 GB de memoria unificada y coherente (unified, coherent memory) y hasta 4 TB de almacenamiento NVMe
- Aquí, la memoria unificada y coherente es un concepto distinto al VRAM de la GPU, y DIGITS construye sus 128 GB de memoria usando chips LPDDR5X
- Puede ejecutar LLM de hasta 200B (200 mil millones) de parámetros
- También es posible conectar dos supercomputadoras de IA DIGITS mediante networking NVIDIA ConnectX® para ejecutar LLM de hasta 405B parámetros
Fecha de lanzamiento prevista y precio
- DIGITS estará disponible para compra a partir de mayo de este año a través de los principales socios de NVIDIA, desde $3000 (4.37 millones de wones al tipo de cambio del 2025-01-08)
Estimación del ancho de banda de memoria (velocidad) de DIGITS
- El ancho de banda de memoria es un indicador representativo que se usa para estimar la velocidad de la GPU
- Aún no se han revelado las especificaciones detalladas de DIGITS, incluido el ancho de banda de memoria
- Un artículo señala que, según una imagen publicada por NVIDIA, DIGITS parece incluir 6 módulos LPDDR5X, y con base en ello estima un ancho de banda de memoria de 825GB/s
- Esto es 2.3 veces más rápido que los 360GB/s de la RTX 3060 y 0.8 veces más lento que los 1008GB/s de la RTX 4090, por lo que, considerando que cuenta con 128 GB de RAM, sería un rendimiento bastante sólido
- Sin embargo, esto no deja de ser una estimación individual poco clara, y el rendimiento detallado solo podrá conocerse cuando se publiquen las especificaciones completas
7 comentarios
Jaja, ¿128 de memoria de sistema normal y le llaman supercomputadora personal..?
Hasta mi shih tzu se ríe, señor Huang.
Cuando le apliquen el parche coreano al precio, seguro se va como a 600…
Entonces, ¿qué sistema operativo usaría?
¿Será Linux, no? Ubuntu
Digamos que... comparado con un modelo con gráficos integrados de alto rendimiento de AMD (como el 8840HS)..
¿Sería eso?
Parece estar en una posición similar a la del Mac mini M4, pero da la impresión de que este ofrece mejor relación costo-beneficio, aunque no sea de propósito general.
Como extra, ¿también correrá bien los juegos?
Como es diferente de una GPU común, por ejemplo por tener 128 GB de memoria unificada y coherente, no sé bien qué tal será.
En otro artículo dicen que no sería adecuada para gaming: https://dirox.com/post/nvidia-project-digits