1 puntos por GN⁺ 3 시간 전 | 1 comentarios | Compartir por WhatsApp
  • Meta conecta memoria DDR4 que podría descartarse a nuevos servidores DDR5, reduciendo hasta en 25% la cantidad de servidores necesarios para algunas cargas de trabajo de inferencia desagregada
  • Alrededor de 40% de la flota de servidores no puede ampliarse en memoria, mientras que la memoria puede usarse durante más tiempo que los servidores, por lo que reciclar DIMM se convierte en una forma de reducir costos
  • Su ASIC propio Vistara conecta DDR4 mediante una interfaz PCIe Gen5 x16 compatible con CXL 2.0/1.1, evitando las limitaciones de reutilización de DDR4 en equipos CXL existentes
  • El MemServer basado en Vistara combina AMD Turin, 768GB de DDR5 y 256GB de DDR4, y expone la DDR4 al sistema operativo como un nodo NUMA separado sin CPU
  • La memoria ampliada con CXL reduce en 33% la sobrecarga por fallas y reinicios de trabajos causados por OOM, así como por fragmentación de recursos, disminuyendo la carga operativa de la infraestructura a gran escala

Contexto de la reutilización de DDR4

  • Meta instala DIMM DDR4 recuperados de servidores antiguos en servidores nuevos para formar un pool de memoria compartible
  • Alrededor de 40% de la flota de servidores no puede ampliarse en memoria, lo que dificulta procesar algunas cargas de trabajo
  • La vida útil esperada de un servidor es de 3 a 5 años, mientras que la memoria puede seguir siendo útil durante 7 a 10 años
  • Por esta diferencia de vida útil, reutilizar la memoria de servidores antiguos en sistemas nuevos se convierte en una forma de mejorar la eficiencia de la infraestructura
  • Proporción de servidores sin posibilidad de ampliación: {p:40}

Limitaciones de la adopción de CXL y el papel de Vistara

  • CXL permite compartir memoria entre varios hosts, pero en entornos de producción pueden pesar el bajo ancho de banda, la alta latencia y la sobrecarga adicional de gestionar una nueva capa de memoria
  • Estas limitaciones pueden hacerse más notorias al combinar distintas tecnologías de memoria en un mismo sistema
  • Meta quería mezclar varios tipos de memoria dentro de una sola máquina, pero los equipos CXL disponibles comercialmente no se ajustaban a sus requisitos
    • La mayoría de las soluciones CXL agrupan DRAM y controlador, lo que dificulta la reutilización de DIMM
    • Muchas no incluyen soporte para DDR4, por lo que no encajan con el reciclaje de memoria antigua
    • El consumo de energía y el costo también reducen el atractivo de su adopción
  • Para cubrir ese vacío, Meta desarrolló el ASIC personalizado Vistara

Configuración del ASIC Vistara

  • Vistara actúa como un puente CXL que conecta memoria DDR4 con el procesador host
  • La interfaz principal es PCIe Gen5 x16 compatible con CXL 2.0/1.1
  • Cada ASIC Vistara tiene la siguiente configuración
    • 2 canales de memoria DDR4 independientes de 72 bits
    • Soporte para velocidades de hasta 3,200 MT/s
    • Hasta 256GB por chip al usar DIMM de 64GB
  • Para operar el ASIC se usan 2 procesadores RISC-V personalizados

Hardware y software de MemServer

  • El hardware Vistara se integra en un dispositivo que Meta llama MemServer
  • Cada MemServer combina los siguientes elementos
    • Procesador AMD Turin
    • 158 núcleos, 316 hilos
    • 768GB de memoria DDR5
    • 256GB de DDR4 conectados mediante el ASIC Vistara
  • La tarjeta CXL Vistara se instala en una ranura de acceso trasero dedicada dentro del chasis del MemServer
  • Para manejar la carga térmica de la memoria de alta densidad y del dispositivo CXL, el chasis usa ventiladores de alta capacidad y flujo de aire direccional para enviar aire de enfriamiento directamente al módulo Vistara
  • En el software, la DDR4 aparece ante el sistema operativo como un nodo NUMA separado sin CPU, separado del nodo de DRAM local conectado directamente al procesador
  • La plataforma de Meta usa primero la DDR4 local disponible y, cuando es necesario, utiliza la memoria basada en CXL
  • El código del driver CXL de Linux usado por Vistara ya está en el kernel upstream o en proceso de inclusión upstream

Implementación en producción y efectos operativos

  • Meta aplica la configuración CXL basada en Vistara a una infraestructura hyperscale de millones de servidores
  • Las cargas de trabajo implementadas incluyen
    • Inferencia de ML desagregada, incluidas tablas de embeddings de sistemas de recomendación
    • Procesamiento de big data
    • Bases de datos
    • Caché distribuido
    • Sistemas de compilación CI/CD
  • Herramientas de big data como Spark y Hive manejan datasets de escala de terabytes y petabytes, y pueden requerir cientos de GB de memoria por trabajo
  • Cuando ocurren eventos OOM en estas cargas de trabajo, pueden interrumpirse análisis de negocio críticos y pipelines de ML
  • El margen de memoria ampliado mediante CXL reduce el riesgo de OOM y disminuye en 33% la sobrecarga relacionada con fallas de trabajos, reinicios de trabajos y fragmentación de recursos
  • En la inferencia desagregada, se observa un efecto de reducción de hasta 25% en la cantidad de servidores
  • Meta también está obteniendo el efecto de evitar precios altos de memoria
  • Reducción de la sobrecarga operativa: {p:33}
  • Reducción de servidores para inferencia desagregada: {p:25}

1 comentarios

 
GN⁺ 3 시간 전
Comentarios en Hacker News
  • Al comienzo de Neuromancer de William Gibson, el protagonista intenta vender 3 MB de RAM en un mercado subterráneo, y eso suele citarse como un ejemplo de cómo el libro no resistió el paso del tiempo
    Pero viendo hacia dónde va hoy el mercado de la memoria… quizá todavía no hemos llegado hasta ahí

    • Los primeros científicos de la computación eran realmente optimistas. Creían que con apenas unos KB de RAM y unos pocos MHz de CPU se podía lograr de todo: inteligencia artificial, conciencia, aprendizaje automático, lenguaje, hasta síntesis de voz
      Ahora usamos RAM en cantidades de GB para un simple formulario web. Que Gibson pensara que 3 MB de RAM bastaban para una sola conciencia en el ciberespacio era muy optimista, pero encajaba bien con el ambiente de la época
    • Varias veces he pensado que el avance más impresionante desde que empecé a fijarme en la computación ha sido la capacidad de memoria. Las redes o el USB también han avanzado mucho, pero no hacen que una computadora sea “más rápida” de la misma manera
      En 2000, cuando acababa de salir Diablo II, pude usar prestada una computadora con un Pentium III de 450 MHz y 64 MB de RAM; en ese tiempo 64 MB de RAM era más o menos gama media, no una especificación garantizada. Si mal no recuerdo, Diablo II recomendaba 64 MB para un jugador y 128 MB para multijugador
      La computadora en la que escribo esto ahora tiene 64 GB de RAM, o sea 1024 veces más. En cambio, el CPU es un Intel de 20 núcleos con hasta unos 3 GHz, y aun suponiendo que cada núcleo corra al máximo al mismo tiempo, el aumento de rendimiento del CPU apenas llega a unas 133 veces
      El tiempo de lectura de NVMe podría ser tan importante como el aumento en la capacidad de memoria, o incluso más, pero en las hojas de especificaciones de PC no queda tan al frente como la memoria y el CPU
      El aumento en la capacidad de los discos duros también ha sido tan impresionante como el de la RAM. En 2000 creo que eran aproximadamente de 10 a 30 GB, pero ahora no uso discos de 10 TB porque no los necesito y con 1 TB me basta. Por eso, en lo personal, no se siente tanto como la memoria
    • En la historia temprana de la computación, las unidades de memoria todavía no estaban bien establecidas, y el tamaño de palabra variaba según la arquitectura de hardware, además de que no necesariamente era divisible entre 8
      La capacidad de memoria de esas máquinas solía expresarse en tamaño de palabra. Por ejemplo, algo como “esta máquina tiene 8 kilopalabras de memoria de núcleo”. Así que cuando veo capacidades de memoria anacrónicas en novelas viejas, prefiero pensar que simplemente no conozco el tamaño de palabra que usaban
    • Si fueran 3 MB de RAM “caliente” guardados en un termo criogénico, se parecería más a un ataque de arranque en frío; no estarían vendiendo la RAM, sino los datos
    • Decir que por eso la obra quedó anticuada es bastante quisquilloso. Hamlet no tiene teléfonos celulares y aun así sigue siendo una gran obra
      Aunque una llamada rápida por FaceTime habría evitado la tragedia
  • No entiendo por qué no ir directamente al artículo original más detallado
    https://www.theregister.com/systems/2026/06/29/zuck-saves-me...

    • El enlace al artículo original es https://aisystemcodesign.github.io/papers/isca26/vistara_cam...
      Viéndolo por encima, puede pensarse como algo parecido a conectar mucha DDR4 en una tarjeta PCIe y usarla como espacio de swap. En la práctica es más sofisticado por el protocolo CXL, pero así se entienden los compromisos
      También parece haber soporte a nivel del sistema operativo para mover páginas calientes/frías entre la DRAM principal rápida y la DRAM expandida de mayor latencia
      Tiene mucho sentido como problema: la DRAM dura bastante, ya incorpora una cantidad considerable de emisiones de carbono embebidas por su fabricación y, al mismo tiempo, hay una crisis de suministro de DRAM nueva
    • Sorprende que lo escriban como si fuera gracias a “Zuck”. Cuesta creer que él realmente sepa de este tipo de cosas
    • Si por “artículo original” se refieren a esto, sería el sitio hermano de The Register
      https://www.blocksandfiles.com/architecture/2026/06/26/panmn...
  • Desde hace tiempo me preguntaba por qué nunca apareció un mercado grande para “tarjetas PCI/PCI-X/PCIe baratas que permitan usar SIMM/DIMM viejos o sobrantes, memoria de una o dos generaciones atrás, como swap/memoria lenta/RAM disk
    Rara vez se llena por completo el espacio de direcciones de la placa madre con memoria nueva, y además al kernel se le puede enseñar qué memoria debería preferir según la velocidad, así que parecía algo totalmente viable
    Recuerdo que un mercado parecido que intentó hacer algo similar con flash se frenó por temas de patentes, pero ya no tengo claros los detalles. Aun así, el caché en flash por lo menos sí llegó a ser mercado entre las empresas grandes. Puede que aquí haya pasado algo similar, o quizá solo aplicaba al nicho que me interesaba en ese momento
    [1] Sé que existieron algunos productos en esta área, pero mi impresión es que nunca despegaron de verdad. Puedo estar equivocado
    [2] En NetBSD definitivamente se puede. Lo probé directamente en arquitecturas como VMEbus, donde es común una configuración con memoria onboard pequeña y rápida junto con memoria del bus más lenta pero de mayor capacidad. Supongo que en Linux también debe ser posible gracias al trabajo de soporte de NUMA, aunque nunca lo revisé personalmente

    • La razón por la que no hubo un mercado grande es que la memoria nueva no era tan cara como para justificar el costo, el riesgo y las limitaciones de usar memoria vieja en servidores nuevos
      Ahora la situación es distinta, así que la gente está volviendo a mirar esta idea
    • No es exactamente lo mismo, pero estoy armando una caja NAS con piezas viejas. La mayor parte de la RAM que me sobra es DDR4 SODIMM de laptop, así que probé un adaptador de SODIMM a DIMM de escritorio, pero no funcionó bien
      El sistema arrancaba solo 1 de cada 5 veces, y no se estabilizó sin importar cómo cambiara la configuración de velocidad de la memoria
    • Recuerdo que hace 30 años existían tarjetas de este tipo que convertían 4 módulos SIMM de 30 pines para que encajaran en una ranura SIMM de 72 pines
      https://www.ebay.com/itm/383521792853
    • Los DIMM de generaciones anteriores no son tan baratos y la oferta también es limitada. Eso pasa porque los productos de generaciones viejas salen de producción para asegurar capacidad de fabricación para chips nuevos
      DDR2 ya es más caro que DDR3, probablemente porque ya no se fabrica, pero sigue habiendo demanda para reemplazar o ampliar memoria en hardware antiguo
    • Entiendo que la gran diferencia actual es que CXL agrega coherencia de caché sobre PCIe. Puedo estar equivocado
      Sin coherencia de caché hay que ser mucho más cuidadoso con cómo usar esa memoria, y hablar de rendimiento también se vuelve más complicado. La RAM sobre CXL será más lenta que la RAM conectada directamente al controlador de memoria del CPU, pero no debería tener trampas grandes
  • Si no quieres diseñar un chip personalizado, existen productos estándar como los chips de expansión de memoria CXL
    https://www.marvell.com/products/cxl.html

  • Lo interesante de esta “crisis de RAM” es que, como en otras áreas, cuando aparece un problema varios actores empiezan a buscar alternativas
    Como resultado, después de la crisis podrían aparecer ideas interesantes o soluciones de rodeo capaces de crear un boom de memoria que, ojalá, también llegue a las máquinas locales
    Primero, Apple está evaluando nuevos fabricantes chinos, y si el aseguramiento de calidad sale bien, la relación entre oferta y demanda podría cambiar. (https://www.ft.com/content/f4ac5c92-03be-4499-b16a-017a7e9ee...)
    Segundo, las empresas están buscando atajos de rendimiento. ¿De pronto un solo canal también es “aceptable”? :)
    (https://www.gigabyte.com/press/news/2403)

    • Incluso RAM de un solo canal sigue siendo claramente mejor que swap basado en disco
    • Estaría bien volver a diseñar software teniendo presentes las limitaciones de hardware
    • Al final, la necesidad es la madre de la invención. Debe ser una de las abstracciones más antiguas del pensamiento intelectual
      Hay un vínculo muy estrecho entre la escasez de recursos y la motivación. La demanda que los modelos frontier de mayor escala imponen sobre RAM, SSD y GPU es una motivación directa para crear LLM más pequeños. Es parecido a la presión evolutiva que empuja a los animales a ser más pequeños y consumir menos alimento
      Incluso si estos modelos más pequeños tienen éxito, salvo quizá en procesamiento de video de alta calidad, probablemente seguirán usando más RAM, SSD y GPU que casi cualquier otra aplicación. Los LLM pequeños y el procesamiento avanzado de video parecen requerir recursos parecidos
      Aun así, los recursos podrían distribuirse por todo el mercado de una forma más tradicional, haciendo que el ciclo sea menos demente
      Por eso, la salida al problema cíclico de precios de RAM/SSD que enfrentan los fabricantes —es decir, la subida y bajada de precios entre restricciones de oferta y sobreoferta causada por nueva capacidad de producción— parece ser financiar investigación en LLM más pequeños. De todos modos van a vender casi la misma cantidad de producto, y tal vez incluso más
  • Ojalá también hagan algo así para consumo. Tengo bastante RAM vieja

    • Hace tiempo Gigabyte llegó a fabricar una tarjeta adicional de RAM disk. No era exactamente lo mismo, pero como aparecía como dispositivo de almacenamiento, se podía usar como espacio de swap del sistema operativo
      https://en.wikipedia.org/wiki/I-RAM
    • Agregar RAM de esta forma no es exactamente lo mismo que ampliar la RAM principal del sistema. Como la RAM está conectada mediante un enlace de la familia PCIe, no funciona como memoria base normal
      Este tipo de arquitectura encaja mejor en granjas de servidores, donde los ingenieros pueden personalizar y ajustar según la arquitectura
      También existieron tarjetas que usaban RAM como almacenamiento, pero había que configurarlas como disco, así que sus usos eran muy limitados y no se volvieron populares
    • Los sistemas de consumo no tienen tanto ancho de banda hacia el CPU, así que la sensación es distinta
      Viendo el precio de DDR4 usada hoy, quizá convenga más venderla y comprar una unidad NVMe
  • ServeTheHome ya había cubierto en diciembre el controlador de expansión de memoria CXL
    https://www.servethehome.com/hyper-scalers-are-using-cxl-to-...

  • El paper dice esto: “Nuestra solución CXL logró grandes mejoras en diversas cargas de trabajo y, en inferencia de ML distribuida, redujo la cantidad de servidores hasta en un 25%”
    No entiendo cómo es posible una reducción del 25% en la cantidad de servidores para la misma carga de trabajo usando RAM peor

    • Porque no reemplaza RAM mejor, sino que se usa como complemento
    • Básicamente, CXL agrega RAM “lenta” sobre PCIe. No es un reemplazo
  • Es interesante cómo se verá el mercado de electrónica de consumo en los próximos años. Las empresas están apostando a que, por la escasez de RAM, los consumidores pagarán precios más altos ahora
    Pero como todos los demás costos también están subiendo, creo que bastantes consumidores no comprarán dispositivos nuevos por un tiempo. Hay que recordar que esto no es HN y que no todo el mundo gana un sueldo de la industria tech

    • Creo que yo también estoy más cerca de eso. Simplemente estoy eligiendo interactuar menos con la tecnología
      Todo se está volviendo cada vez más hostil y ya llegó al punto de quiebre
    • Los fabricantes de sistemas operativos van a tener que dar soporte al hardware viejo por más tiempo
      Windows 10 ya recibió una extensión de 1 año porque Microsoft intentó forzar hardware nuevo para Win11
  • Qué bien, ahora también podrían dispararse los precios de la RAM usada
    Estaría genial que el precio de las PCs volviera a ser el de un auto. Habría muchísimas oportunidades de monetización

    • Ya pasó. La DDR4 usada de hace 5 años ahora cuesta más que nueva hace 5 años