La escasez de RAM finalmente alcanza a todos

• A nivel mundial, el precio de la memoria se ha disparado y está afectando tanto a quienes arman PCs como a los fabricantes
• Un kit de memoria DDR5 de 64 GB subió de 209 dólares a más de 650 dólares (más de 3x)
• El cierre de la marca Crucial de Micron, el aumento de precios de Raspberry Pi y la presión de costos en fabricantes de placas pequeñas están debilitando el mercado de consumo
• Con la expansión de los centros de datos de IA, los principales fabricantes de memoria reducen la producción para consumidores y se enfocan en productos para IA
• Por ello, crece el riesgo de contracción del ecosistema en general, incluido el ensamblaje de PCs, SBC y la fabricación de placas GPU

---

Estado del alza repentina de precios de memoria

• El kit de memoria DDR5 de 64 GB estaba en 209 dólares a inicios de año, pero ahora subió a 650 dólares
  • La DDR4 también subió de 30 a 120 dólares, y la DDR5 de 150 a 500 dólares
  • En el gráfico de PC Parts Picker también se confirma esta tendencia de explosión de precios
• Raspberry Pi elevó el precio de las Single Board Computer (SBC) y Micron eliminó la marca Crucial
  • La reducción de fabricantes de memoria para consumidores limita aún más la oferta

Golpe al mercado consumidor y fabricantes medianos

• Libre Computer mencionó que un módulo LPDDR4 de 4 GB cuesta 35 dólares
  • Esto es más caro que el precio de todos los demás componentes de su SBC
  • Al no poder absorber las pérdidas, se vuelve inevitable subir precios o retirar productos
• Raspberry Pi también subió precios y lanzó un modelo de 1 GB
  • Se menciona la posibilidad de cambiar a desarrollo ahorrador de memoria
• Se prevé impacto en todos los dispositivos que usan memoria, como cámaras, consolas y tabletas

Expansión de centros de datos de IA y concentración de la oferta

• Los principales fabricantes de memoria se están enfocando en producir para productos de centros de datos de IA
  • Reducen o cierran las líneas de memoria para consumo
  • Buscan maximizar beneficios con la producción de RAM para IA
• También se ven perjudicados los fabricantes de placas GPU
  • Hay reportes de que Nvidia detuvo el suministro de VRAM y ahora solo ofrece chips
  • Los fabricantes de GPU se ven en la situación de abastecer memoria directamente

Cambio en la estructura del mercado y efecto a largo plazo

• Algunos confían en que, tras el estallido de la burbuja de IA, se liberará hardware barato al mercado
  • Sin embargo, la RAM que se produce hoy es de especificaciones especiales como HBM y no sirve para PCs comunes
  • Las GPUs y la memoria para servidores de IA no pueden usarse en entornos normales de energía y refrigeración
• Como resultado, se prevé el declive del hobby de armar PCs, aumento brusco de precios de SBC y escasez de componentes
  • Incluso Lenovo está realizando acopio de RAM, profundizando el monopolio de suministro centrado en grandes empresas

Perspectivas y reacción de la comunidad

• Algunas empresas incluso evalúan recuperar chips de memoria de sistemas de segunda mano
  • El patrón recuerda a la escasez de semiconductores de 2021-2022
• En la comunidad apareció la reacción de que “la IA actúa como un impuesto encubierto en todas las industrias”
  • Preocupación por el aumento de precios de todos los dispositivos electrónicos, como autos, equipos médicos y terminales bancarios
• Hay pesar por la desaparición gradual del armado de PCs y la cultura de hacking
  • Algunos usuarios responden con reutilización de equipos antiguos o montaje de servidores locales
• Conclusión del artículo: “es hora de terminar proyectos pendientes en lugar de comprar piezas nuevas"

[aer0700]

De nuevo, ¿se viene una época en la que el costo de cómputo sea más caro que el costo en tiempo de los desarrolladores...?
Si es así, quizá de ahora en adelante termine la era de los lenguajes pensados para la comodidad del desarrollador,
y podría llegar una era en la que usemos LLM para programar en lenguajes como C o Rust.

[roxie]

Creo que es una buena observación. Ojalá se detenga en C TT

[ryj0902]

¿Dicen que hasta el fondo tiene fondo? Ugh.

[bokjjang]

C o RUST también son lenguajes para humanos, así que en el futuro los LLM podrían desarrollar directamente en ensamblador sin necesidad de adaptarlo para humanos.
Las innumerables bibliotecas y plataformas también son, al fin y al cabo, para humanos, así que su necesidad podría percibirse de forma distinta a la de ahora.

[kaykim]

¿No será algo temporal cuando llegue ese momento, o quedará limitado a ciertos sectores?

[GN⁺]

Opiniones en Hacker News

• Me hizo pensar en un video de LaurieWired que vi hace poco. La idea era: “¿Qué pasaría si se detuviera la producción de CPU?”. La conclusión era que al final ganan la durabilidad y confiabilidad del hardware viejo
  DDR5 32GB cuesta unos $330, DDR4 unos $130 y DDR3 ronda los $50, así que si el costo importa, tiene mucho más sentido usar hardware antiguo en un entorno Linux

  • Si todo el mundo se vuelca a DDR4 o DDR3, como la oferta no aumenta, el precio inevitablemente subirá
  • Si usas RAM antigua, al final también tienes que irte por placas base, sockets y CPU antiguos, así que no es un cambio simple
  • Hace tiempo haber llenado con anticipación mi servidor casero con 128GB de DDR4 fue una gran decisión. Me da pena no haber podido hacer lo mismo con el servidor nuevo
  • Mi PC también usa DDR4, así que estoy pensando en sacar una PC de 2012 e instalarle Linux
  • En lugar de Linux, FreeBSD 15.0R también está bien. La nueva versión acaba de salir

• Me parece que OpenAI adelantarse y acaparar el suministro de obleas fue una jugada estratégica tremenda. En un contexto donde Anthropic, Google y los modelos abiertos siguen mejorando, pueden crear un cuello de botella de hardware y frenar la expansión de sus competidores
  También da algo de envidia ver un modelo como Claude mostrando mejoras consistentes

  • Google diseña sus propias TPU, así que quizá sufra menos este tipo de limitaciones
  • Me pregunto si esta situación podría presionar el desarrollo de modelos que ahorren memoria
  • Me inquieta la realidad de que una empresa sin fines de lucro pueda, en la práctica, monopolizar los recursos de cómputo del mundo
  • Ya no me gustaba OpenAI. Este tipo de movimientos me genera todavía más rechazo
  • Si esto es una burbuja de IA, cuando reviente OpenAI podría terminar cargando un riesgo enorme de inventario

• Creo que el artículo debería mencionar la responsabilidad de OpenAI. El tema está bien resumido en este post de Moore’s Law Is Dead

  • En un pódcast también hubo un rumor de que “directivos de empresas de IA compraron RAM al mayoreo en tiendas físicas”. Sería aún más interesante si eran productos ni siquiera certificados como ECC
  • Al final, el propio autor menciona que la causa es la expansión de centros de datos para IA. Ojalá esta burbuja reviente pronto y solo quede la IA realmente útil

• Tal vez tengamos que volver a pensar en optimización de rendimiento y eficiencia de memoria. Por ejemplo, MS Teams usa 1.5GB incluso sin hacer nada

  • Las apps Electron y las PWA consumen mucha memoria. Las PWA en Safari consumen menos, pero el soporte es débil
  • Slack también ocupa 2.3GB. Me pregunto si este boom de la IA terminará provocando el regreso de las apps nativas
  • Siento que escucho la palabra “optimización” por primera vez en mucho tiempo
  • Aquí hay alguien dispuesto a poner a dieta de código todo para que corra hasta en PCs viejas
  • Usar un PCIe 5.0 NVMe como page cache ayuda bastante

• Hubo una propuesta medio en broma, medio en serio: “¿Y si montamos nuestro propio fab?”. Dice que está cerca de Toronto

  • Probablemente las grandes tecnológicas chinas estén pensando lo mismo. Pero un fab tarda años en llegar a producción masiva. En 2 o 3 años la oferta podría aumentar y los precios estabilizarse
  • No tengo ni la tecnología ni el dinero, pero si fuera cerca de Ottawa me gustaría intentarlo
  • DRAM artesanal (artisanal DRAM) suena sorprendentemente bien
  • Incluso si compras el equipo, no sabes cuándo sería la entrega
  • En la práctica hacen falta bolsillos muy profundos, pero apoyo la idea

• Me preocupa si la escasez de RAM también afectará el lanzamiento de Steam Machine. A Valve le sería más difícil que a Sony o Nintendo asegurar producción. Si supera los $750, parece difícil venderla

  • A corto plazo parece difícil competir con las consolas. La escasez de RAM podría casi matar el mercado de fabricación de mini PC. Parece que solo aguantarían fabricantes grandes como HP o Dell
  • Valve dice que lo pondrá en el mismo rango de precio que una gaming PC de especificaciones similares. Tal vez no venza a una consola, pero para gamers de PC sigue siendo atractivo
  • También podría usar una estrategia de aceptar pérdidas a corto plazo para asegurar lealtad a largo plazo
  • Como Valve tiene bastante efectivo, hasta salió la broma de que en una situación extrema podría comprar Micron para asegurarse DDR5

• Me pareció interesante la explicación de que, por la demanda de centros de datos para IA, se están reduciendo las líneas de memoria para consumo. Yo entendía que las líneas de producción de HBM y DDR eran distintas, así que me gustaría leer más evidencia al respecto

  • Como pasó con las GPU, era natural que NVIDIA también diera prioridad de producción a los productos más caros
  • Al final, es natural que los fabricantes de RAM le vendan a quien pague más

• En mayo actualicé una laptop HP de $330 (se doblaba como si fuera de plástico) de 8GB a 32GB, y esa RAM que entonces costaba $44 ahora cuesta $180
  Enlace a la reseña de la actualización

  • De verdad estaba baratísima en ese momento. Yo también actualicé un servidor a 32GB y me costó apenas 55 euros. Ahora solo estoy esperando el estallido de la burbuja

• El problema de suministro de los ‘chips rojos’ dentro de la fábrica normalmente se debe a una escasez de barras de plástico, y eso viene de un cuello de botella en la producción de petróleo que reduce el consumo de combustóleo pesado. Basta con craquear el combustóleo pesado a ligero, y el petróleo sobrante convertirlo en combustible sólido. Si controlas las bombas con una red de circuitos para que solo funcionen cuando la capacidad del tanque supera el 80%, resulta eficiente

  • ¿No serás jugador de Foxhole? La gente de logística quiere a personas como tú
  • El combustible sólido después se usa como combustible para cohetes, así que acumularlo no es desperdicio

• Desde hace meses vengo diciendo que hacía falta fortalecer la competitividad de semiconductores de China. Así el mercado colapsaría y los usuarios comunes volverían a tener precios accesibles. En ese momento me criticaron, pero viendo la situación actual, siento que tenía razón