La pregunta de $600B (830 billones de wones) de la IA

• La burbuja de la IA está llegando a un punto de inflexión. Será importante prepararse para los cambios que vienen
• En septiembre de 2023, se publicó un artículo titulado "La pregunta de $200B de la IA". El objetivo de ese texto era plantear la pregunta: "¿Dónde están los ingresos?"
  • En ese momento, se encontró una gran brecha entre las expectativas de ingresos implícitas en la construcción de infraestructura de IA y el crecimiento real de los ingresos dentro del ecosistema de IA. Esto se describió como "un agujero de 125 mil millones de dólares que debe cubrirse cada año para justificar el nivel actual de CapEx"
  • Recientemente, Nvidia se convirtió en la empresa más valiosa del mundo. Antes de eso, muchas personas preguntaron por los resultados de este análisis. Querían saber si el problema de los 200 mil millones de dólares de la IA se había resuelto o si había empeorado
• Si hoy se vuelve a ejecutar este análisis, se obtiene lo siguiente:
  • El problema de $200B (260 billones de wones) de la IA ahora se ha convertido en un problema de $600B (830 billones de wones)
  • Si se toma la proyección de ingresos anuales de Nvidia y se multiplica por 2, se puede reflejar el costo total de los centros de datos de IA (los GPU representan la mitad del costo total de propiedad; la otra mitad incluye energía, edificios, generadores de respaldo, etc.)
  • Luego se multiplica otra vez por 2 para reflejar el margen bruto total del 50% de los usuarios finales de GPU (por ejemplo, startups o empresas que compran cómputo de IA en Azure, AWS o GCP también necesitan obtener ganancias)

Qué ha cambiado

1. Fin de la escasez de oferta

   • A finales de 2023, la escasez de suministro de GPU alcanzó su punto máximo
   • Ahora es fácil conseguir GPU

2. Aumento del inventario de GPU

   • La mitad de los ingresos de centros de datos de Nvidia proviene de grandes proveedores de nube
   • Microsoft representa aproximadamente el 22% de los ingresos del Q4 de Nvidia
   • El CapEx de los hyperscalers ha alcanzado niveles históricos

3. Participación de OpenAI en los ingresos

   • Los ingresos de OpenAI aumentaron de 1.6 mil millones de dólares a finales de 2023 a 3.4 mil millones de dólares actualmente
   • Aparte de ChatGPT, no hay muchos productos de IA que los consumidores realmente usen

4. El agujero de 125 mil millones de dólares se convierte en uno de 500 mil millones

   • Se asume que Google, Microsoft, Apple y Meta generarán cada una 10 mil millones de dólares anuales en nuevos ingresos relacionados con IA
   • Se asume que Oracle, ByteDance, Alibaba, Tencent, X y Tesla generarán cada una 5 mil millones de dólares en nuevos ingresos de IA
   • Incluso si estas suposiciones son correctas, el agujero de 125 mil millones de dólares ahora se ha ampliado a 500 mil millones

5. La llegada del B100

   • Nvidia presentó el chip B100
   • El B100 ofrece un rendimiento 2.5 veces mejor que el H100, mientras que el costo solo aumenta un 25%
   • Se espera que la demanda del B100 aumente con fuerza

Principales contraargumentos (diferencias frente a ciclos anteriores de construcción de infraestructura)

1. Falta de poder de fijación de precios

   • A diferencia de la infraestructura física, los centros de datos de GPU tienen menos poder para fijar precios
   • El cómputo con GPU se está volviendo cada vez más un commodity y se cobra por hora

2. Quema de inversión

   • Al igual que con infraestructuras físicas como los ferrocarriles, los booms de inversión especulativa tienen una alta tasa de quema de capital
   • Según los motores que mueven los mercados, muchas personas enfocadas en los ferrocarriles perdieron mucho dinero durante una ola tecnológica especulativa

3. Depreciación

   • El rendimiento de los semiconductores mejora con el tiempo
   • Nvidia seguirá produciendo mejores chips de próxima generación
   • Esto llevará a una depreciación más rápida de los chips de generaciones anteriores

4. Ganadores y perdedores

   • Es muy probable que la IA sea la próxima gran ola tecnológica transformadora
   • La caída en el precio del cómputo con GPU es positiva para la innovación y las startups en el largo plazo

Conclusión

• La IA creará un enorme valor económico
• Nvidia merece un gran reconocimiento por su papel al hacer posible esta transición
• Los booms especulativos son parte de la tecnología, y no hay que temerles
• No hay que caer en la ilusión de que la AGI llegará pronto
• El camino por delante será largo y con altibajos, pero casi con certeza valdrá la pena

La opinión de GN⁺

• La IA creará un enorme valor económico. Los fundadores de empresas enfocados en ofrecer valor al usuario final recibirán grandes recompensas
• Los booms especulativos son parte de la tecnología, así que no hay que temerles. Quienes atraviesen este momento con calma tendrán la oportunidad de crear empresas muy importantes
• Pero hay que tener cuidado de no creer en la ilusión que se ha extendido desde Silicon Valley al resto del país y, en realidad, a todo el mundo.
  • Esa "ilusión" dice que todos nos haremos ricos rápidamente, porque la AGI llegará mañana y todos debemos acaparar GPU, el único recurso verdaderamente valioso
  • No hay que caer en la ilusión de que la AGI llegará pronto
• En realidad, el camino por delante será largo. Habrá altibajos, pero casi con certeza valdrá la pena

[GN⁺]

Opiniones en Hacker News

• Según Jensen, entrenar un modelo del tamaño de GPT-4 requiere 8,000 GPU H100 durante 90 días

  • Meta tiene 350,000 GPU, por lo que podría entrenar 200 modelos tipo GPT-4 al año
  • Esto podría hacer que los márgenes de ganancia reales de las empresas centradas en IA se acerquen a cero
  • Es malo para los inversionistas, pero bueno para los desarrolladores
  • El factor más importante en la calidad de la salida del modelo son los datos propietarios usados en el entrenamiento

• Las grandes empresas tecnológicas están invirtiendo enormes cantidades en hardware

  • Es parecido a invertir en Sun Microsystems y Netscape a finales de los 90
  • Se sabía que internet iba a cambiar el mundo, pero no cómo iba a fluir el dinero

• Los ingresos de la IA no son directos, sino que vienen de la reducción de costos y el aumento de la productividad

  • La IA ayuda en todos los aspectos de una startup

• Hay demasiado enfoque en el aumento de la productividad

  • Hay más potencial en el valor de entretenimiento
  • En este momento, apps torpes están ganando dinero
  • Todavía no se sabe cuál será el verdadero producto exitoso

• Es muy probable que la inversión en IA tenga éxito

  • Si miramos los casos de internet y móvil, muchas empresas exitosas surgieron después de que desapareció el hype

• Hay predicciones de que la IA creará un gran valor económico

  • Pero eso es una conjetura fuerte sin pruebas
  • Existe la creencia de que la IA va a cambiarlo todo

• El desarrollo de la IA será largo y accidentado

  • Pero valdrá la pena
  • El caso FTX pudo haber dejado una lección

• Los LLM son excelentes en tareas básicas, pero tienen límites en tareas complejas

  • La gente tiende a culpar a otras personas
  • Se usarán más en entretenimiento y en aplicaciones inesperadas que en roles de cara al cliente

• La suposición de que todas las GPU de centros de datos se usan para IA es incorrecta

  • El modelo de negocio de la IA no consiste solo en cobrar por uso de API
  • La IA ya está jugando un papel importante en el negocio de búsqueda y publicidad de Google

• Considerando la población y el PIB de los países de la OCDE, la inversión en IA podría mejorar mucho la productividad

  • Pero queda la duda de si la inversión actual podrá recuperarse rápidamente