Procesadores Ryzen Pro serie 8000 para laptops y estaciones de trabajo
- Basados en la serie 8040 existente, 'Hawk Point'
- Los primeros en el mercado comercial en integrar una NPU para cargas de trabajo de IA
- Afirma una ventaja en rendimiento de NPU frente a Intel (16 TOPS vs 11 TOPS)
- Los procesadores de escritorio APU 8000 también integran una NPU de 16 TOPS
Ecosistema de IA y alianzas
- El ecosistema actual de IA todavía está en una etapa inicial
- AMD planea establecer más de 150 alianzas con ISV para 2024
- Intel actualmente cuenta con 100 alianzas con ISV/IHV
Especificaciones detalladas de la serie Ryzen Pro 8040
- Series U y HS con un rango de TDP de 15 a 54 W
- Mismo reloj máximo en los modelos de 6/8 núcleos; solo el Ryzen 5 Pro 8540U no incluye NPU
- Afirma una ventaja de rendimiento de más del 30% frente a Intel (ojo con los benchmarks)
Especificaciones detalladas de la serie APU Ryzen Pro 8000
- Basados en la serie 8000G para consumo
- Versiones de 4/6/8 núcleos, de 45 a 65 W y también una versión de bajo consumo de 35 W
- Afirma hasta 3 veces más rendimiento gráfico frente a Intel
Tecnología AMD Pro
- Pro Security, Pro Manageability y Pro Business Ready, entre otras
- Soporte de las mismas funciones en toda la línea de productos (diferenciándose de Intel)
Opinión de GN⁺
- Integrar una NPU en procesadores para profesionales es una innovación digna de atención. En un contexto donde el uso de la IA se está expandiendo rápidamente, AMD parece haberse adelantado.
- Sin embargo, el ecosistema de aplicaciones que aprovechan la NPU todavía es inmaduro, por lo que podría ser difícil percibir una mejora real de rendimiento. La clave será ampliar las alianzas con ISV.
- Aunque AMD afirma tener ventaja frente a Intel, hace falta una verificación objetiva con benchmarks. También se echa de menos una comparación con la serie M de Apple.
- En aspectos como la integración de funciones para profesionales o el soporte de la tecnología Pro, sí parece haber elementos diferenciadores. La competitividad general de la plataforma luce sólida.
- Queda por ver hasta qué punto podrá desafiar el dominio de Intel en el mercado empresarial. Eso dependerá de la expansión del ecosistema y de la hoja de ruta a largo plazo.
2 comentarios
Sin CUDA, parece que no hay forma de darle la vuelta a nada... Según entiendo, la vez pasada también cancelaron el proyecto de wrapping de CUDA... :(
Opiniones en Hacker News
Los chips de la serie M de Apple han demostrado que su modelo de memoria unificada, que monta la memoria en el mismo paquete que la CPU y ofrece un ancho de banda amplio, es muy potente. Por eso, muchas personas de la comunidad de LLM han llegado a preferir las Mac con mucha memoria.
Es una buena noticia que los nuevos núcleos Ryzen incluyan una NPU, pero queda la duda de si el enfoque de AMD, que usa memoria fuera del die, podrá ser tan eficaz como el de Apple.
Ver este tipo de capacidades en productos que no son tarjetas carísimas de NVIDIA es un gran avance. Una NPU local podría ayudar a desplegar más funciones de videoconferencia y similares en el edge.
La arquitectura Zen4 es muy elegante. Se aprovecha mucho la APU y también es posible ejecutar código arbitrario en los núcleos de GPU. Aun así, la pila de software todavía no está completamente lista.
La NPU Ryzen AI todavía no está integrada con los principales frameworks de inferencia, así que por ahora no es más que área de silicio desperdiciada.
Cada proveedor tiene hardware propio, así que el soporte de herramientas es deficiente y, aun cuando existe, solo se usa en parte del software. Mientras tanto, ocupa área del die y recursos.
Queda la duda de si una NPU podrá manejarse dentro del stack de LLM de PyTorch. El significado de NPU varía mucho según el dispositivo o proveedor.
Los nuevos productos anunciados esta vez ofrecen como máximo 8 núcleos, lo que se siente como un retroceso frente a los 12/16 núcleos de los anteriores 5900X y 5950X.
Enfocarse en los TOPS no encaja con la realidad de los LLM. Si el ancho de banda de memoria no acompaña, los TOPS no significan nada. Parece ser memoria de doble canal, no de cuatro canales.