Apple lanza el M3 Ultra
(apple.com)- Apple presentó M3 Ultra, su chip de gama más alta para Mac, impulsando aún más a Mac Studio como una estación de trabajo para grandes cargas de IA, gráficos y video
- Sus especificaciones clave incluyen CPU de 32 núcleos, GPU de hasta 80 núcleos, Neural Engine de 32 núcleos, Thunderbolt 5 y hasta 512 GB de memoria unificada
- En comparación con la generación anterior de Mac Studio, Apple afirma que la CPU es hasta 1.5 veces más rápida que M2 Ultra, y la GPU hasta 2 veces más rápida que M2 Ultra
- UltraFusion une dos dies M3 Max mediante más de 10,000 conexiones de alta velocidad, de modo que para el software parezca un solo chip
- Con más de 800 GB/s de ancho de banda de memoria y hasta 512 GB de memoria, apunta a renderizado 3D, efectos visuales, IA y ejecución en el dispositivo de LLM de más de 600,000 millones de parámetros
Rol y especificaciones básicas del M3 Ultra
- Apple presentó M3 Ultra como el chip de mayor rendimiento que ha fabricado hasta ahora
- Se posiciona como un chip que ofrece la CPU y la GPU más potentes en una Mac, un Neural Engine de 32 núcleos y la mayor cantidad de memoria unificada en una computadora personal
- Sus principales componentes son los siguientes
- Hasta CPU de 32 núcleos
- Hasta GPU de 80 núcleos
-
Neural Engine de 32 núcleos
-
Thunderbolt 5
- Hasta 512 GB de memoria unificada
- M3 Ultra se usa como el chip que eleva el rendimiento de la nueva Mac Studio
Rendimiento y cargas de trabajo de IA
- La CPU está compuesta por 24 núcleos de rendimiento y 8 núcleos de eficiencia, y ofrece hasta 1.5 veces el rendimiento de M2 Ultra y hasta 1.8 veces el de M1 Ultra
- La GPU es la configuración más grande entre los chips de Apple, con hasta 80 núcleos gráficos, y es hasta 2 veces más rápida que M2 Ultra y hasta 2.6 veces más rápida que M1 Ultra
- La comparación de rendimiento toma como referencia sistemas Mac Studio de generaciones anteriores
- M1 Ultra: CPU de 20 núcleos, GPU de 64 núcleos, 128 GB de RAM
- M2 Ultra: CPU de 24 núcleos, GPU de 76 núcleos, 192 GB de RAM
- La arquitectura gráfica incluye caché dinámico, mesh shading acelerado por hardware y ray tracing
- Para trabajos de IA y machine learning se aprovechan en conjunto los aceleradores de ML de la CPU, la GPU, el Neural Engine y más de 800 GB/s de ancho de banda de memoria
- Mac Studio con M3 Ultra puede ejecutar directamente en el dispositivo modelos de lenguaje grandes de más de 600,000 millones de parámetros
Memoria unificada y trabajos de gran escala
- La arquitectura de memoria unificada de M3 Ultra destaca por su alto ancho de banda y baja latencia
- La memoria empieza en 96 GB y puede configurarse hasta 512 GB
- Apple afirma que esta capacidad supera la memoria ofrecida por las tarjetas gráficas de estaciones de trabajo avanzadas actuales
- La configuración busca reducir cuellos de botella en trabajos profesionales que exigen grandes cantidades de memoria gráfica, como renderizado 3D, efectos visuales e IA
Thunderbolt 5 y expansión
- M3 Ultra introduce Thunderbolt 5 en Mac Studio, con velocidades de transferencia de datos de hasta 120 Gb/s
- El ancho de banda es más del doble que el de Thunderbolt 4
- Cada puerto Thunderbolt 5 cuenta con el soporte de un controlador de diseño propio ubicado directamente en el chip
- El ancho de banda dedicado por puerto está orientado a usuarios profesionales que usan almacenamiento externo, docks, hubs y chasis de expansión de próxima generación
- Thunderbolt 5 también permite configuraciones que conectan varios sistemas Mac Studio
Tecnología interna del chip
- UltraFusion usa un interposer de silicio integrado para conectar dos dies M3 Max con más de 10,000 señales
- El ancho de banda entre dies de baja latencia supera los 2.5 TB/s
- Para el software, M3 Ultra aparece como un solo chip
- El motor multimedia tiene el doble de recursos que M3 Max y admite más procesamiento de video simultáneo
- Ofrece H.264 y HEVC basados en hardware, además de cuatro motores de codificación y decodificación ProRes
- Puede reproducir hasta 24 streams 8K ProRes 422
- El motor de pantalla admite hasta 8 Pro Display XDR y maneja más de 160 millones de píxeles
- Secure Enclave funciona junto con arranque seguro verificado por hardware y tecnologías de protección contra exploits en tiempo de ejecución
Eficiencia energética y objetivos ambientales
- La eficiencia energética de M3 Ultra contribuye a que la nueva Mac Studio cumpla con los estándares de eficiencia energética de Apple
- También ayuda a reducir la cantidad total de energía consumida durante la vida útil del producto
- Apple actualmente es carbono neutral en sus operaciones corporativas globales, y bajo el objetivo Apple 2030 planea lograr la neutralidad de carbono en toda su huella de carbono para finales de 2030
1 comentarios
Opiniones en Hacker News
512 GB de memoria unificada realmente abre un territorio nuevo.
Me preguntaba cuándo Apple iba a superar las limitaciones de memoria, y ahora la memoria unificada llega a 0.5 TB. Es muy práctico para correr modelos grandes de IA localmente, y resulta interesante este enfoque de integrar tanta memoria de alta eficiencia en un solo chip, comparado con la solución al estilo NVIDIA. Eso sí, me da curiosidad qué desempeño tendrá el diseño de “pegar” dos M3 Max en términos de temperatura y consumo de energía.
El problema es si, a esa escala, los modelos grandes de lenguaje corren con un rendimiento usable. Aunque haya suficiente memoria unificada, si el ancho de banda de memoria es el mismo, incluso si sube el rendimiento de procesamiento de IA del nuevo chip aparece una disminución de rendimientos. Al final parece que debe existir alguna proporción óptima entre el ancho de banda de memoria frente al rendimiento de procesamiento y el tamaño del pool de memoria.
Parece que un Epyc SP5 dual tendría más ancho de banda de memoria que este producto de Apple, y por el rango de precio de Apple también podrías meterle más o menos el doble de RAM. Probablemente la solución de Apple tenga mejor eficiencia energética.
En términos prácticos, me pregunto qué aplicaciones mainstream se beneficiarían de esta combinación de tanta memoria con un rendimiento de cómputo aceptable pero relativamente de gama media. Si el sistema con todas las opciones cuesta 14 mil dólares, quizá uno preferiría, por ejemplo, algo como dos NVIDIA Project DIGITS.
Para el procesamiento parecería que quieres reservar el mejor nodo de proceso, y para la RAM usar un proceso más barato.
Sorprende que sea M3 y no M4. Básicamente me pregunto si será para aprovechar el rendimiento de chips seleccionados, aunque creo haber leído en algún lado que el interposer que hacía posible esto en los chips M1 ya no existe.
Aun así, 512 GB de RAM unificada accesible para la NPU es un cambio total de juego. Parece que Apple desarrolló este chip para sus trabajos internos de IA y ahora llegó al punto de abrirlo para que otros también lo usen. Eso sí, este hardware realmente necesita un form factor de rack 2U. Ahora mismo el sistema operativo está frenando a este hardware.
La CPU casi no tiene competencia en velocidad y ancho de banda de memoria. Todavía me sorprende que ninguna otra empresa haya podido fabricar un chip de servidor Arm competitivo.
Como sistema operativo de consumo, personalmente me gusta más que Windows, pero cada vez acumula más cosas innecesarias y residuos viejos, lo que lo vuelve difícil de tolerar para cargas de trabajo de servidores en producción. Si hubiera un OS de servidor que tratara el hardware subyacente como un hipervisor y permitiera conectar o compartir varios componentes con VMs y contenedores, tendría un valor enorme en datacenters pequeños o entornos edge. Una NPU on-premise con esta cantidad de RAM ayudaría mucho para aceleración local de IA compartida por varios usuarios en una LAN.
La base de la especulación era que no se veía un interposer en las fotos del die del M3 Max, pero eso en la práctica no significa casi nada sobre si era posible soportarlo en una configuración M3 Ultra. El anuncio de hoy es la prueba.
Aun así, la gente terminaría empezando a portar cosas, y como ya existen MacPorts y Homebrew, podrían adaptarse para correr también en esa plataforma. Pero Apple no parece interesada en ese mercado, así que probablemente no se haga realidad.
El M1 Max tenía 24 a 32 núcleos de GPU, el M2 Max 30 a 38, el M3 Max 30 a 40 y el M4 Max 32 a 40. Si miramos las fechas de anuncio: M1 Max el 18 de octubre de 2021, M1 Ultra el 8 de marzo de 2022, M2 Max el 17 de enero de 2023, M2 Ultra el 5 de junio de 2023, M3 Max el 30 de octubre de 2023, M3 Ultra el 12 de marzo de 2025 y M4 Max el 30 de octubre de 2024. Viendo el retraso adicional entre la presentación del M3 Max y el Ultra, la especulación de que Apple desarrolló este chip para trabajos internos de IA también suena bastante plausible.
La memoria máxima del modelo M2 Ultra anterior era de 192 GB, y en los Pro o algunos modelos M3 era de 128 GB. Creo que eso ya es suficiente para el 99.9% del trabajo profesional.
Pero ahora la subieron a 512 GB, y el precio del Mac Studio con 512 GB también está en un nivel de locura: 9499 dólares. Esto casi seguro es efecto de la fiebre del oro de la IA.
Por ejemplo, el modelo cuantizado a 4 bits de Llama-3.1 405B debería caber bien.
Incluso ahora hay gente que arma sistemas Epyc con esa cantidad de RAM o más, por mucho menos dinero, y puede correr DeepSeek a unos 6 tokens por segundo. Pero no a todo el mundo le gusta armar y ajustar equipos, así que hay mercado para quienes quieren evitarse esas molestias. Se habla de la “fiebre del oro de la IA” como si fuera algo malo, pero no necesariamente lo es.
Actualmente Docker no soporta GPU Metal.
Si ejecutas un LLM con Docker en un chip Apple M3 o M4, Docker funciona en modo CPU sin importar la gama del chip, porque solo soporta GPU Nvidia y Radeon. Si desarrollas LLM en Docker, quizá convenga considerar una laptop Framework con GPU Nvidia o Radeon. Como fuente, estoy desarrollando un framework de agentes de IA que ejecuta LLM dentro de Docker en un M3 Max: https://kdeps.com
Si ahora actualizaron el Studio a M3 Ultra, puede que el M4 Ultra vaya directo al Mac Pro en la WWDC. El timing es interesante, y quizá también cambien el factor de forma del Mac Pro.
Además, como probablemente sea un producto de muy bajo volumen, que use el proceso N3B no debería ser algo fatal. Al mismo tiempo, estos chips deben ser carísimos de fabricar, así que también tiene cierto sentido vincularlos con configuraciones de RAM de alto precio.
Hay que tomar este reporte con cautela, pero dicen que viene directamente de Apple. Entonces se vuelve aún más misterioso qué planean hacer con el M2 Mac Pro.
[0] https://www.numerama.com/tech/1919213-m4-max-et-m3-ultra-let...
[1] Contexto adicional de Macrumors: https://www.macrumors.com/2025/03/05/apple-confirms-m4-max-l...
El enfoque actual exige diseñar el chip Max alrededor de la interconexión. En teoría, una configuración con múltiples SoC también podría escalar más allá de dos chips hacia una línea de productos más amplia.
En cualquier caso, el M2 Mac Pro parecía un producto en el que Apple le preguntaba a sus clientes: “¿Pueden hacer algo interesante con estas ranuras PCIe? A nosotros no se nos ocurre nada más que expansión de conectividad”. A menos que rediseñen Apple Silicon para soportar GPU actualizables, el Mac Pro parece acabado.
Se siente como un producto final para aguantar hasta que los usuarios de PCIe trasladen todo a Thunderbolt. Reutilizaron un diseño pensado para alojar varias GPU grandes, pero ahora que no soporta GPU, la mayor parte de la refrigeración y la alimentación quedan solo como vestigios. Además, la expansión PCIe también fue rebajada discretamente, y Apple Silicon no tiene muchas líneas PCIe, así que las ranuras están fuertemente sobresuscritas mediante un switch PCIe.
Para trabajos de IA, 512 GB de memoria unificada es realmente enorme. Comparado con la cantidad de GPU NVIDIA necesarias, el precio casi parece razonable.
Quería decir que la NPU y los núcleos de GPU tendrían que poder acceder a esa RAM, y el rendimiento también tendría que ser razonable.
Aunque es cara, es mucho más rápida y no tienes que pasar por el trabajo de adaptar el código para que corra en macOS.
Si necesitas los 512 GB de memoria máxima para correr modelos de IA, y no te molesta conectar una unidad externa para guardar los pesos del modelo, puedes comprarla por un poco menos de 10 mil dólares. Es la máquina soñada.
NVIDIA Project DIGITS dice que saldrá “pronto” por 3 mil dólares, pero una Mac con las mismas especificaciones de 128 GB y 4 TB se puede comprar por unos 4700 dólares, recibirla de verdad en menos de una semana, y además corre macOS. No sé cuál será la diferencia de rendimiento. Quiero ver pronto a alguien probando el modelo completo de DeepSeek en esto; quizá podría ser el primer dispositivo personal de IA pequeño que puedas poseer por completo y usar como quieras.
Si es un ladrillo de IA de Apple, debería durar bastante.
En este dispositivo se podría correr una versión cuantizada, pero no el modelo completo.
Thunderbolt 5 es bastante útil. Puedes usar una laptop muy delgada y liviana y, cuando lo necesites, acceder a una GPU externa o eGPU por TB 5 [1].
Ahora puedes tener al mismo tiempo las ventajas de una laptop ligera y las de una GPU potente.
[1] Asus anunció la primera eGPU Thunderbolt 5 del mundo:
https://www.theverge.com/24336135/asus-thunderbolt-5-externa...
En cambio, el bastante nuevo modo de pantalla compartida de alto rendimiento agregado en Sonoma es realmente excelente. Si te conectas desde una MacBook a una Mac Studio, puedes seleccionar ese modo y cambiar la configuración de pantalla a resolución dinámica. Entonces el “thin client” usa toda la pantalla 16:10 de la MacBook en pantalla completa, obtienes 60 fps con baja latencia incluso en juegos reales, también se transmite el audio para poder participar en reuniones, y la pantalla de la Mac Studio anfitriona se apaga. Son cosas que con VNC no eran posibles, y RDP también es mucho mejor, pero esta nueva pantalla compartida de alto rendimiento es más potente. Siempre he pensado que una laptop delgada y liviana conectándose de forma remota a una máquina potente es una movilidad real superior a sufrir intentando correr todo localmente en la laptop. Con solo ajustar un poco el firewall, también funciona por LTE.
Quizá Apple debería volver a considerar Xserve.
Seguramente Apple tiene algún tipo de equipo de infraestructura de servidores, pero vale la pena explorar crear su propia infraestructura de servidores con su propio hardware y software. Si combinara el ecosistema de apps con servidores de Apple para ofrecerlos como nube o permitir comprarlos directamente, podría ser un negocio de servicios muy interesante. Especialmente ahora que hasta el iPad lleva chips M, considerando el rendimiento del hardware, la App Store necesita mejores apps. Un servicio de hardware y software en la nube diseñado para el ecosistema de apps sería bastante atractivo.
En Apple, el hardware ha avanzado más rápido que el software. En la mayoría de las empresas tecnológicas, normalmente el hardware no alcanza al software; en Apple es al revés.
Me pregunto cuándo llegará el día en que Apple Silicon dé soporte nativo a sistemas operativos como Linux.
Apple parece reacia a publicar documentación técnica detallada de referencia sobre los SoC de la serie M, y por eso se vuelve difícil ejecutar Linux de forma nativa en Apple Silicon.
Si alguien compra hardware de Apple para correr Linux, no tendría por qué haber un impacto negativo para AAPL, y aun así pasa eso.