El anuncio de Microsoft del mes pasado
- Microsoft es un inversionista clave y proveedor de capacidad de cómputo para OpenAI
- Microsoft anunció que pagará la financiación para reactivar la Unidad 1 de la planta nuclear de Three Mile Island
- Esto es para cubrir la creciente demanda eléctrica de los centros de datos
- Se convierte en la segunda gran empresa tecnológica de EE. UU., después de Amazon, en depender de una planta nuclear heredada
Uso actual de los productos de IA
- Se usan ampliamente para generación de código, texto e imágenes, análisis de datos, automatización de tareas y mejora de plataformas en línea
- Los modelos de vanguardia requieren enormes recursos de cómputo para entrenamiento e inferencia
- Se necesitan grandes arreglos de hardware avanzado alojados en instalaciones a escala industrial
- Estas instalaciones requieren acceso a enormes cantidades de electricidad, agua, banda ancha y otra infraestructura para operar
Consecuencias derivadas del boom de la IA
- Aumento abrupto de la inversión fija en EE. UU. para satisfacer la mayor demanda de cómputo
- Se están destinando decenas de miles de millones de dólares a computadoras avanzadas, instalaciones de centros de datos, plantas de energía y más
- La construcción de centros de datos en EE. UU. está en un máximo histórico de 28.6 mil millones de dólares anuales
- Esto es casi igual a lo que EE. UU. gasta en conjunto en construir restaurantes, bares y tiendas minoristas
La magnitud de la inversión en centros de datos
- Las cifras de construcción solo corresponden a los edificios físicos y excluyen computadoras, cables, ventiladores, etc.
- En el último año se importaron más de 6.5 mil millones de dólares en grandes computadoras y componentes
- Las empresas de tecnología de la información están comprando la mayor parte de estos nuevos centros de datos y equipos
- En el último año, sus tenencias netas de propiedades, plantas y equipos aumentaron en un nivel récord de más de 95 mil millones de dólares
Cambios frente a hace 10 años
- Facebook adquirió Instagram por 1.2 mil millones de dólares y WhatsApp por 15 mil millones de dólares
- En ese momento, estuvieron entre las adquisiciones más grandes de la historia de la tecnología
- Instagram tenía solo 13 empleados y WhatsApp solo 55, con una presencia física casi inexistente
- Hoy, Meta gastó 15.2 mil millones de dólares en gasto de capital solo en la primera mitad de 2024
- El boom de la IA es más intensivo en hardware que en cualquier otro momento de la historia
Impacto del boom de la IA en la inversión
- La inversión de las empresas estadounidenses en computadoras y equipos relacionados se disparó a niveles récord
- Tras una relativa estancación durante toda la década de 2010, aumentó 16.6% en el último año
- Solo fue superada por el boom del trabajo remoto de la era de la pandemia
- La inversión en computadoras cayó algo en 2022, pero volvió a dispararse a fines de 2023 con el boom de la IA
Aumento de la demanda de semiconductores de TSMC
- TSMC es el principal fabricante mundial de semiconductores avanzados
- La demanda de cómputo para IA ha incrementado las importaciones desde Taiwán de chips, computadoras y componentes relacionados
- En el último año superaron los 38 mil millones de dólares, un aumento de más de 140% interanual
- Las importaciones directas de chips lógicos crecieron desde un nivel relativamente menor hasta casi 5 mil millones de dólares anuales
- Los componentes y piezas de computadora siguen siendo la mayor categoría de importación
Análisis de los datos de inversión hasta 2023
- Procesadores de datos y empresas de búsqueda web como Amazon/Google mantuvieron los mayores niveles de inversión en el sector tecnológico
- Los desarrolladores de software mostraron el crecimiento de inversión más rápido
- La inversión real en propiedad intelectual de las empresas de software aumentó 40% desde 2021
- La inversión real en equipos como computadoras aumentó 96%
- Las empresas de software están compitiendo por ver qué tan rápido pueden construir capacidades de hardware
Desequilibrio regional en la construcción de centros de datos
- Los centros de datos deben estar distribuidos hasta cierto punto para cumplir con los requisitos de red y evitar restricciones de infraestructura
- Pero concentrarlos en grandes clústeres ayuda a maximizar la eficiencia y reducir costos/latencia
- Las cifras oficiales de construcción solo ofrecen un desglose del gasto en centros de datos a nivel regional
- La construcción de centros de datos es más activa en los clústeres históricos del sur de EE. UU.
- El crecimiento fue mucho más rápido en mercados del Medio Oeste y la Costa Oeste
- El noreste prácticamente no se ve afectado
Impacto de los centros de datos en la demanda eléctrica
- La Administración de Información Energética (EIA) ha revisado repetidamente al alza sus proyecciones de crecimiento de carga con base en la demanda de los centros de datos
- Pronostica que el consumo eléctrico del sector comercial aumentará 3% este año y 1% el próximo
- Los usuarios comerciales son un motor menor del aumento del consumo eléctrico que la electrificación residencial y el reshoring industrial
- Sin embargo, entre 2007 y 2023, el consumo eléctrico comercial total solo aumentó 5%
- Las estimaciones previas a la IA mostraban que las computadoras y equipos de oficina representaban apenas 11.4% del consumo eléctrico comercial
Estado del consumo eléctrico de los centros de datos por estado
- El consumo eléctrico comercial de Dakota del Norte aumentó más de 45% desde la apertura de un gran centro de datos en 2022
- Sin embargo, Dakota del Norte es un mercado relativamente pequeño tanto de electricidad como de cómputo
- Los mayores incrementos en demanda eléctrica se producen en grandes clústeres de centros de datos como Virginia y Texas
- El consumo energético comercial de Virginia aumentó 30% desde 2019 y muestra el mayor aumento de demanda eléctrica comercial del país
- Texas ha visto crecer 10% su consumo eléctrico comercial desde 2019, y se espera un crecimiento mucho mayor en los próximos años
Tendencias de inversión eléctrica de las empresas de IA
- Las empresas de IA buscan concentrarse cerca de recursos eléctricos a gran escala
- Como resultado, está resurgiendo el interés por la energía nuclear
- A medida que las tecnológicas construyen capacidad de cómputo, crece su interés por invertir directamente en infraestructura de generación eléctrica
- Los ingresos del sector de tecnología de la información se recuperaron tras la desaceleración de 2022 y 2023
- Los ingresos de desarrolladores de software, portales de búsqueda web y proveedores de infraestructura de cómputo aumentaron entre 12% y 15% en el último año
Debilidad del empleo tech pese al boom de la IA
- EE. UU. solo añadió 32 mil empleos tecnológicos en el último año
- Es un nivel más bajo que en 2021, 2022 o cualquiera de los 9 años previos a la pandemia
- Incluso las empresas de software y la industria de infraestructura de cómputo en pleno boom de la IA no mostraron un crecimiento real del empleo en el último año
- El mercado laboral estancado que ha afectado recientemente a los graduados de ingeniería informática no ha mejorado mucho
Efecto del boom de inversión en IA sobre el mercado laboral
- La compensación total en la manufactura de semiconductores aumentó 25% entre el 1T de 2023 y el 1T de 2024
- Los trabajadores de empresas como NVIDIA reciben opciones sobre acciones mucho más valiosas
- El aumento de 30 mil empleos en construcción comercial durante el último año refleja el impacto de la demanda de centros de datos
- También hay un auge en empleos de construcción industrial vinculados a fábricas de semiconductores y otras manufacturas, así como aumentos de empleo por la expansión de infraestructura y energía
- Pero hasta ahora, la dinámica laboral del boom de la IA es muy distinta a la del mercado laboral tecnológico de la última década
- Está mucho más enfocada en inversión en hardware, empresas de manufactura/diseño y construcción de infraestructura que en programadores tradicionales
Competencia entre desarrolladores de IA y visión de los responsables de políticas
- Los desarrolladores de IA compiten intensamente con la expectativa de que podrán justificar la actual escala de inversión mediante mejoras de producto y comercialización
- En el corto plazo, se espera que la inversión siga creciendo a medida que se desarrollen modelos más avanzados y el uso de IA se expanda a más aplicaciones reales
- Los responsables de políticas ven a la IA como un eje central de la economía futura de EE. UU.
- El desarrollo de IA y la capacidad de centros de datos son industrias avanzadas en las que EE. UU. mantiene una ventaja considerable
- El boom de la IA probablemente ha beneficiado a la inversión estadounidense más que a la de cualquier otro país
Posible intensificación de la competencia geopolítica por la capacidad de hardware
- La Ley CHIPS buscaba reducir la dependencia de las importaciones desde Taiwán, pero el aumento de la demanda de semiconductores avanzados ha terminado elevando esa dependencia
- Para satisfacer el suministro a escala de centros de datos, EE. UU. sigue dependiendo de China
- Es probable que EE. UU. continúe restringiendo el acceso de China a chips avanzados para frenar el desarrollo chino de IA
- China sigue ampliando su capacidad de fabricación de chips para reducir su dependencia de las importaciones
- Si el boom de inversión en IA continúa, es probable que esto profundice aún más el frente de la guerra de chips en curso
Opinión de GN⁺
- Asegurar competitividad en semiconductores en la era de la IA es una tarea sumamente importante
- La demanda de semiconductores avanzados se ha disparado, y sin una buena tecnología de semiconductores es difícil crear modelos de IA competitivos
- Más allá del liderazgo tecnológico, la capacidad en semiconductores también desempeña un papel clave en el poder militar y económico
- La competencia por semiconductores entre EE. UU. y China se volverá aún más intensa, y ambos parecen enfocarse en asegurar capacidad de producción local
- También es posible que la cooperación y el comercio entre ambos países enfrenten algunas restricciones
- Se necesitan esfuerzos para reducir la dependencia de un solo lado de la cadena de suministro de semiconductores y diversificarla
- El desarrollo de nuevos semiconductores avanzados requiere enormes inversiones en I+D y personal altamente calificado
- También vale la pena seguir de cerca el papel de países asiáticos como Corea del Sur, Taiwán y Japón
- A largo plazo, se espera que este sea un campo clave de la competencia por la supremacía tecnológica entre EE. UU. y China
1 comentarios
Comentarios de Hacker News
Un usuario espera que en la historia de Estados Unidos se repitan grandes booms de inversión de capital, como los de los ferrocarriles, las automotrices y la fibra de telecomunicaciones. Cree que, aunque al principio muchas empresas quiebren, estas inversiones terminarán aportando grandes beneficios a la economía y a la sociedad. En particular, piensa que la inversión en energía ayudará a alejarse de los combustibles fósiles
Otro usuario sostiene que es inapropiado comparar los ferrocarriles con la inversión actual en hardware. Los ferrocarriles son sostenibles durante largos períodos, pero considera que la inversión actual en hardware no valdrá nada dentro de 6 años. También advierte sobre el riesgo de que los futuros sistemas de IA no funcionen de manera eficiente sobre el hardware actual
Otro usuario señala que es contradictorio invertir enormes recursos en los LLM mientras se afirma preocuparse por la destrucción ambiental. Argumenta que, al final, habrá que abandonar las expectativas sobre los LLM o dejar de sostener esas afirmaciones sobre el daño ambiental
Un usuario afirma que el boom actual de la IA está centrado en las GPU y en la inversión en hardware, y que también debería prestarse atención a la inversión en software y plataformas de IA. Considera que sería más preciso describir esto como un "boom de inversión en GPU"
Un usuario que expresa preocupación por los costos de la nube se pregunta cómo afectará la inversión masiva a esos costos. Supone que podrían bajar por las economías de escala, pero también podrían subir si los recursos se agotan
Un usuario que predice que la burbuja de la IA pronto estallará compara la situación actual con la burbuja puntocom de 1998. Cree que los LLM y la IA generativa serán las palabras de moda de este año
Un usuario que señala el problema de las alucinaciones en la IA sostiene que este tipo de IA no será útil fuera de mercados de nicho
Un usuario, que observa un boom de inversión para capacidad futura y se pregunta si la demanda podrá seguirle el ritmo, espera que se construya una sobrecapacidad que provoque algunas quiebras y costos más bajos de computación/IA. Cree que eso podría abrir oportunidades para que prosperen startups o empresas de próxima generación
Un usuario que recuerda una historia del Dr. Robert Martin menciona una situación en la que la capacidad de ancho de banda aumenta hasta el infinito y el costo se acerca a 0. Plantea la posibilidad de que la demanda de inteligencia sea infinita y de que el costo de la inteligencia converja con el costo de la electricidad
Un usuario dice que los productos de IA se usan para distintos fines, como generar código, texto e imágenes, analizar datos y automatizar tareas, pero que personalmente ha reducido su uso de Copilot. Afirma que la IA genera bugs sutiles y que eso hace que depurar tome más tiempo. También probó modelos de "chain of thought", pero obtuvo resultados aún peores