Meta reutiliza RAM antigua en servidores nuevos con un chip puente CXL personalizado
(theregister.com)- Meta conecta memoria DDR4 que podría descartarse a nuevos servidores DDR5, reduciendo hasta en 25% la cantidad de servidores necesarios para algunas cargas de trabajo de inferencia desagregada
- Alrededor de 40% de la flota de servidores no puede ampliarse en memoria, mientras que la memoria puede usarse durante más tiempo que los servidores, por lo que reciclar DIMM se convierte en una forma de reducir costos
- Su ASIC propio Vistara conecta DDR4 mediante una interfaz PCIe Gen5 x16 compatible con CXL 2.0/1.1, evitando las limitaciones de reutilización de DDR4 en equipos CXL existentes
- El MemServer basado en Vistara combina AMD Turin, 768GB de DDR5 y 256GB de DDR4, y expone la DDR4 al sistema operativo como un nodo NUMA separado sin CPU
- La memoria ampliada con CXL reduce en 33% la sobrecarga por fallas y reinicios de trabajos causados por OOM, así como por fragmentación de recursos, disminuyendo la carga operativa de la infraestructura a gran escala
Contexto de la reutilización de DDR4
- Meta instala DIMM DDR4 recuperados de servidores antiguos en servidores nuevos para formar un pool de memoria compartible
- Alrededor de 40% de la flota de servidores no puede ampliarse en memoria, lo que dificulta procesar algunas cargas de trabajo
- La vida útil esperada de un servidor es de 3 a 5 años, mientras que la memoria puede seguir siendo útil durante 7 a 10 años
- Por esta diferencia de vida útil, reutilizar la memoria de servidores antiguos en sistemas nuevos se convierte en una forma de mejorar la eficiencia de la infraestructura
- Proporción de servidores sin posibilidad de ampliación: {p:40}
Limitaciones de la adopción de CXL y el papel de Vistara
- CXL permite compartir memoria entre varios hosts, pero en entornos de producción pueden pesar el bajo ancho de banda, la alta latencia y la sobrecarga adicional de gestionar una nueva capa de memoria
- Estas limitaciones pueden hacerse más notorias al combinar distintas tecnologías de memoria en un mismo sistema
- Meta quería mezclar varios tipos de memoria dentro de una sola máquina, pero los equipos CXL disponibles comercialmente no se ajustaban a sus requisitos
- La mayoría de las soluciones CXL agrupan DRAM y controlador, lo que dificulta la reutilización de DIMM
- Muchas no incluyen soporte para DDR4, por lo que no encajan con el reciclaje de memoria antigua
- El consumo de energía y el costo también reducen el atractivo de su adopción
- Para cubrir ese vacío, Meta desarrolló el ASIC personalizado Vistara
Configuración del ASIC Vistara
- Vistara actúa como un puente CXL que conecta memoria DDR4 con el procesador host
- La interfaz principal es PCIe Gen5 x16 compatible con CXL 2.0/1.1
- Cada ASIC Vistara tiene la siguiente configuración
- 2 canales de memoria DDR4 independientes de 72 bits
- Soporte para velocidades de hasta 3,200 MT/s
- Hasta 256GB por chip al usar DIMM de 64GB
- Para operar el ASIC se usan 2 procesadores RISC-V personalizados
Hardware y software de MemServer
- El hardware Vistara se integra en un dispositivo que Meta llama MemServer
- Cada MemServer combina los siguientes elementos
- Procesador AMD Turin
- 158 núcleos, 316 hilos
- 768GB de memoria DDR5
- 256GB de DDR4 conectados mediante el ASIC Vistara
- La tarjeta CXL Vistara se instala en una ranura de acceso trasero dedicada dentro del chasis del MemServer
- Para manejar la carga térmica de la memoria de alta densidad y del dispositivo CXL, el chasis usa ventiladores de alta capacidad y flujo de aire direccional para enviar aire de enfriamiento directamente al módulo Vistara
- En el software, la DDR4 aparece ante el sistema operativo como un nodo NUMA separado sin CPU, separado del nodo de DRAM local conectado directamente al procesador
- La plataforma de Meta usa primero la DDR4 local disponible y, cuando es necesario, utiliza la memoria basada en CXL
- El código del driver CXL de Linux usado por Vistara ya está en el kernel upstream o en proceso de inclusión upstream
Implementación en producción y efectos operativos
- Meta aplica la configuración CXL basada en Vistara a una infraestructura hyperscale de millones de servidores
- Las cargas de trabajo implementadas incluyen
- Inferencia de ML desagregada, incluidas tablas de embeddings de sistemas de recomendación
- Procesamiento de big data
- Bases de datos
- Caché distribuido
- Sistemas de compilación CI/CD
- Herramientas de big data como Spark y Hive manejan datasets de escala de terabytes y petabytes, y pueden requerir cientos de GB de memoria por trabajo
- Cuando ocurren eventos OOM en estas cargas de trabajo, pueden interrumpirse análisis de negocio críticos y pipelines de ML
- El margen de memoria ampliado mediante CXL reduce el riesgo de OOM y disminuye en 33% la sobrecarga relacionada con fallas de trabajos, reinicios de trabajos y fragmentación de recursos
- En la inferencia desagregada, se observa un efecto de reducción de hasta 25% en la cantidad de servidores
- Meta también está obteniendo el efecto de evitar precios altos de memoria
- Reducción de la sobrecarga operativa: {p:33}
- Reducción de servidores para inferencia desagregada: {p:25}
1 comentarios
Comentarios en Hacker News
Al comienzo de Neuromancer de William Gibson, el protagonista intenta vender 3 MB de RAM en un mercado subterráneo, y eso suele citarse como un ejemplo de cómo el libro no resistió el paso del tiempo
Pero viendo hacia dónde va hoy el mercado de la memoria… quizá todavía no hemos llegado hasta ahí
Ahora usamos RAM en cantidades de GB para un simple formulario web. Que Gibson pensara que 3 MB de RAM bastaban para una sola conciencia en el ciberespacio era muy optimista, pero encajaba bien con el ambiente de la época
En 2000, cuando acababa de salir Diablo II, pude usar prestada una computadora con un Pentium III de 450 MHz y 64 MB de RAM; en ese tiempo 64 MB de RAM era más o menos gama media, no una especificación garantizada. Si mal no recuerdo, Diablo II recomendaba 64 MB para un jugador y 128 MB para multijugador
La computadora en la que escribo esto ahora tiene 64 GB de RAM, o sea 1024 veces más. En cambio, el CPU es un Intel de 20 núcleos con hasta unos 3 GHz, y aun suponiendo que cada núcleo corra al máximo al mismo tiempo, el aumento de rendimiento del CPU apenas llega a unas 133 veces
El tiempo de lectura de NVMe podría ser tan importante como el aumento en la capacidad de memoria, o incluso más, pero en las hojas de especificaciones de PC no queda tan al frente como la memoria y el CPU
El aumento en la capacidad de los discos duros también ha sido tan impresionante como el de la RAM. En 2000 creo que eran aproximadamente de 10 a 30 GB, pero ahora no uso discos de 10 TB porque no los necesito y con 1 TB me basta. Por eso, en lo personal, no se siente tanto como la memoria
La capacidad de memoria de esas máquinas solía expresarse en tamaño de palabra. Por ejemplo, algo como “esta máquina tiene 8 kilopalabras de memoria de núcleo”. Así que cuando veo capacidades de memoria anacrónicas en novelas viejas, prefiero pensar que simplemente no conozco el tamaño de palabra que usaban
Aunque una llamada rápida por FaceTime habría evitado la tragedia
No entiendo por qué no ir directamente al artículo original más detallado
https://www.theregister.com/systems/2026/06/29/zuck-saves-me...
Viéndolo por encima, puede pensarse como algo parecido a conectar mucha DDR4 en una tarjeta PCIe y usarla como espacio de swap. En la práctica es más sofisticado por el protocolo CXL, pero así se entienden los compromisos
También parece haber soporte a nivel del sistema operativo para mover páginas calientes/frías entre la DRAM principal rápida y la DRAM expandida de mayor latencia
Tiene mucho sentido como problema: la DRAM dura bastante, ya incorpora una cantidad considerable de emisiones de carbono embebidas por su fabricación y, al mismo tiempo, hay una crisis de suministro de DRAM nueva
https://www.blocksandfiles.com/architecture/2026/06/26/panmn...
Desde hace tiempo me preguntaba por qué nunca apareció un mercado grande para “tarjetas PCI/PCI-X/PCIe baratas que permitan usar SIMM/DIMM viejos o sobrantes, memoria de una o dos generaciones atrás, como swap/memoria lenta/RAM disk”
Rara vez se llena por completo el espacio de direcciones de la placa madre con memoria nueva, y además al kernel se le puede enseñar qué memoria debería preferir según la velocidad, así que parecía algo totalmente viable
Recuerdo que un mercado parecido que intentó hacer algo similar con flash se frenó por temas de patentes, pero ya no tengo claros los detalles. Aun así, el caché en flash por lo menos sí llegó a ser mercado entre las empresas grandes. Puede que aquí haya pasado algo similar, o quizá solo aplicaba al nicho que me interesaba en ese momento
[1] Sé que existieron algunos productos en esta área, pero mi impresión es que nunca despegaron de verdad. Puedo estar equivocado
[2] En NetBSD definitivamente se puede. Lo probé directamente en arquitecturas como VMEbus, donde es común una configuración con memoria onboard pequeña y rápida junto con memoria del bus más lenta pero de mayor capacidad. Supongo que en Linux también debe ser posible gracias al trabajo de soporte de NUMA, aunque nunca lo revisé personalmente
Ahora la situación es distinta, así que la gente está volviendo a mirar esta idea
El sistema arrancaba solo 1 de cada 5 veces, y no se estabilizó sin importar cómo cambiara la configuración de velocidad de la memoria
https://www.ebay.com/itm/383521792853
DDR2 ya es más caro que DDR3, probablemente porque ya no se fabrica, pero sigue habiendo demanda para reemplazar o ampliar memoria en hardware antiguo
Sin coherencia de caché hay que ser mucho más cuidadoso con cómo usar esa memoria, y hablar de rendimiento también se vuelve más complicado. La RAM sobre CXL será más lenta que la RAM conectada directamente al controlador de memoria del CPU, pero no debería tener trampas grandes
Si no quieres diseñar un chip personalizado, existen productos estándar como los chips de expansión de memoria CXL
https://www.marvell.com/products/cxl.html
https://www.asteralabs.com/products/leo-cxl-smart-memory-con...
Lo interesante de esta “crisis de RAM” es que, como en otras áreas, cuando aparece un problema varios actores empiezan a buscar alternativas
Como resultado, después de la crisis podrían aparecer ideas interesantes o soluciones de rodeo capaces de crear un boom de memoria que, ojalá, también llegue a las máquinas locales
Primero, Apple está evaluando nuevos fabricantes chinos, y si el aseguramiento de calidad sale bien, la relación entre oferta y demanda podría cambiar. (https://www.ft.com/content/f4ac5c92-03be-4499-b16a-017a7e9ee...)
Segundo, las empresas están buscando atajos de rendimiento. ¿De pronto un solo canal también es “aceptable”? :)
(https://www.gigabyte.com/press/news/2403)
Hay un vínculo muy estrecho entre la escasez de recursos y la motivación. La demanda que los modelos frontier de mayor escala imponen sobre RAM, SSD y GPU es una motivación directa para crear LLM más pequeños. Es parecido a la presión evolutiva que empuja a los animales a ser más pequeños y consumir menos alimento
Incluso si estos modelos más pequeños tienen éxito, salvo quizá en procesamiento de video de alta calidad, probablemente seguirán usando más RAM, SSD y GPU que casi cualquier otra aplicación. Los LLM pequeños y el procesamiento avanzado de video parecen requerir recursos parecidos
Aun así, los recursos podrían distribuirse por todo el mercado de una forma más tradicional, haciendo que el ciclo sea menos demente
Por eso, la salida al problema cíclico de precios de RAM/SSD que enfrentan los fabricantes —es decir, la subida y bajada de precios entre restricciones de oferta y sobreoferta causada por nueva capacidad de producción— parece ser financiar investigación en LLM más pequeños. De todos modos van a vender casi la misma cantidad de producto, y tal vez incluso más
Ojalá también hagan algo así para consumo. Tengo bastante RAM vieja
https://en.wikipedia.org/wiki/I-RAM
Este tipo de arquitectura encaja mejor en granjas de servidores, donde los ingenieros pueden personalizar y ajustar según la arquitectura
También existieron tarjetas que usaban RAM como almacenamiento, pero había que configurarlas como disco, así que sus usos eran muy limitados y no se volvieron populares
Viendo el precio de DDR4 usada hoy, quizá convenga más venderla y comprar una unidad NVMe
ServeTheHome ya había cubierto en diciembre el controlador de expansión de memoria CXL
https://www.servethehome.com/hyper-scalers-are-using-cxl-to-...
El paper dice esto: “Nuestra solución CXL logró grandes mejoras en diversas cargas de trabajo y, en inferencia de ML distribuida, redujo la cantidad de servidores hasta en un 25%”
No entiendo cómo es posible una reducción del 25% en la cantidad de servidores para la misma carga de trabajo usando RAM peor
Es interesante cómo se verá el mercado de electrónica de consumo en los próximos años. Las empresas están apostando a que, por la escasez de RAM, los consumidores pagarán precios más altos ahora
Pero como todos los demás costos también están subiendo, creo que bastantes consumidores no comprarán dispositivos nuevos por un tiempo. Hay que recordar que esto no es HN y que no todo el mundo gana un sueldo de la industria tech
Todo se está volviendo cada vez más hostil y ya llegó al punto de quiebre
Windows 10 ya recibió una extensión de 1 año porque Microsoft intentó forzar hardware nuevo para Win11
Qué bien, ahora también podrían dispararse los precios de la RAM usada
Estaría genial que el precio de las PCs volviera a ser el de un auto. Habría muchísimas oportunidades de monetización