Casi la mitad de los ingresos de Nvidia en el segundo trimestre provino de 4 clientes anónimos que compraron más de US$3.000 millones cada uno

• En medio de la creciente competencia por invertir en centros de datos de IA, alrededor de US$13.800 millones, equivalentes al 46% de los US$30.000 millones en ingresos de Nvidia en el segundo trimestre, provinieron de compras directas de 4 clientes anónimos
• Cada uno de estos clientes representó más del 10% de los ingresos totales, y todas las compras estuvieron vinculadas con la venta de chips para centros de datos, el principal motor de crecimiento de Nvidia
• Los chips de IA como el H200 se usan no solo para entrenar modelos de lenguaje de gran escala como GPT-4, sino también para generar respuestas a prompts en ChatGPT y Sora
• La presentación 10-Q revela que hubo períodos en los que una cantidad limitada de clientes generó ingresos significativos, y que esta concentración de ingresos podría continuar
• Jensen Huang dijo que la base de clientes se ha “diversificado relativamente”, pero en el mismo período del año anterior no había clientes directos que superaran el 10%, por lo que persisten las preocupaciones del mercado sobre la sostenibilidad del crecimiento

---

4 grandes clientes que definieron los ingresos del segundo trimestre

• Nvidia duplicó con creces sus ingresos en el segundo trimestre, y una parte importante del aumento provino de un pequeño número de grandes clientes
• Según la presentación regulatoria 10-Q, 4 clientes anonimizados representaron mediante compras directas el 46% de los US$30.000 millones en ingresos
  • En monto, fueron alrededor de US$13.800 millones
  • Participación de compras directas: {p:46}
  • Cada cliente representó más del 10% de los ingresos totales
  • Todas las compras estuvieron relacionadas con el negocio de venta de chips para centros de datos
• Solo la contribución a ingresos de estos 4 clientes fue mayor que todos los ingresos de Nvidia en el mismo período del año anterior

Demanda de centros de datos de IA y posibles clientes anónimos

• Los nombres de los clientes no se revelan por motivos competitivos
• Entre los posibles grandes clientes anónimos de IA se mencionan Amazon, Meta, Microsoft, Alphabet, OpenAI y Tesla
• También se observa una tendencia en la que empresarios como Elon Musk aceleran la construcción de centros de datos en medio de la fiebre del oro de la IA
  • Musk publicó un video del interior de Cortex, un nuevo superclúster de entrenamiento de IA para resolver problemas reales de IA en la sede de Tesla en Austin

Dónde se usan los chips de Nvidia

• Entre los productos populares de Nvidia se incluyen chips de IA como el H200
• Estos chips son necesarios para entrenar modelos de lenguaje de gran escala como GPT-4 de OpenAI
• También se utilizan en el proceso de inferencia, mediante el cual ChatGPT o Sora generan respuestas a prompts de texto

La concentración de ingresos aumenta las preocupaciones sobre la sostenibilidad

• La dependencia de un pequeño número de grandes clientes aumenta las preocupaciones del mercado sobre cuánto tiempo podrá sostenerse el crecimiento de Nvidia
• Algunos inversionistas, como Elliott Management y Citadel, muestran una visión escéptica sobre la sostenibilidad del crecimiento relacionado con la IA generativa
• Históricamente, la industria de semiconductores es conocida por sus marcados ciclos de auge y caída
• Se esperaba que las acciones de Nvidia abrieran a la baja el jueves, con un desempeño peor que el del mercado bursátil en general

La escala de concentración que mostró “Customer B”

• Nvidia señala por separado el riesgo de concentración de clientes en el apartado “concentration of revenue” de su reporte trimestral
• Hubo períodos en los que una cantidad limitada de clientes generó ingresos significativos, y esta tendencia podría continuar
• La rentabilidad también se mantiene en niveles muy altos
  • En el primer semestre, Nvidia retuvo US$5,60 de utilidad neta por cada US$10 de ingresos totales
  • Las ganancias después de impuestos casi se cuadruplicaron frente al año anterior, hasta US$31.500 millones
• El “Customer B” mencionado en la presentación representó, mediante compras directas, el 11% de los US$30.000 millones en ingresos
  • Esto supera los US$2.900 millones en ingresos del segmento de gaming, la segunda mayor división de Nvidia
  • Customer B estuvo por debajo del umbral del 10% en el total del primer semestre, lo que indica que aumentó mucho su gasto en el último trimestre
  • Lo mismo aplica a “Customer C”, ya que las cifras proporcionadas por Nvidia fueron iguales

La brecha entre las declaraciones de Jensen Huang y las cifras de la presentación

• En Bloomberg TV, al ser consultado sobre fuentes de demanda más allá de hyperscalers como Microsoft, Google y Amazon, Jensen Huang dijo que la base de clientes está “relativamente diversificada hoy”
• A diferencia de esa declaración, basada en una variedad de grupos de clientes, las propias cifras de Nvidia muestran que aumentó su dependencia de determinados grandes clientes
• En el mismo período del año anterior, no hubo clientes directos que representaran 10% o más de los ingresos totales ni en el primer ni en el segundo trimestre
• Nvidia no respondió de inmediato a la solicitud de comentarios de Fortune

[GN⁺]

Opiniones en Hacker News

• Según Observer, serían Microsoft, Meta, Google y Amazon.
  Otros grandes compradores incluyen Oracle, CoreWeave, Lambda, Tencent, Baidu, Alibaba, ByteDance, Tesla y xAI.
  https://observer.com/2024/06/nvidia-largest-ai-chip-customer...

  • Meta ha mencionado directamente en todas sus presentaciones de resultados de este año la inversión en infraestructura y un aumento de miles de millones de dólares en gastos de capital hasta fines de 2025, así que se puede confirmar como uno de ellos.
  • Apple parece estar usando sus propios semiconductores.
    Esto fue un gran logro para Apple, y me pregunto si las otras empresas FAANG realmente podrán seguir el mismo camino.
  • En cierto momento, más del 50% de los ingresos de servidores de NVIDIA provenían de hiperescaladores, que son precisamente las cuatro empresas mencionadas arriba.

• Sinceramente, no parece un misterio tan grande. Creo que, como mucho, hay 5 o 6 candidatos.

  • Como hay empresas tipo CoreWeave que alquilan aceleradores, este análisis podría no ser tan simple como parece.
  • Aunque no se revelaron los nombres, el artículo también dice que es probable que incluyan a Amazon, Meta, Microsoft, Alphabet, OpenAI y Tesla.
  • Sean quienes sean esos cuatro, es muy probable que los otros dos de los seis candidatos no estén muy atrás.

• Creo que Meta ha sido bastante transparente con sus compras de GPU. 350.000 H100 fácilmente pueden representar varios miles de millones de dólares.
  https://blogs.nvidia.com/blog/meta-llama3-inference-accelera...

• Hay dos preguntas que responder:

  1. ¿Pueden los chatbots volverse mucho más eficaces de lo que son ahora? Todos los actores principales parecen haber entrado en una meseta, y la diferenciación entre modelos se siente cada vez más comoditizada, lo cual no parece bueno para ventas sostenibles de GPU. Si no logran resolver el problema de las alucinaciones, tampoco está claro si esta generación de IA puede desplegarse a gran escala.
  2. ¿Existe una verdadera aplicación a gran escala de la IA fuera de los LLM? La conducción autónoma parece un eje importante, pero no sé qué tan lista está para producción. También se mencionan aplicaciones como el descubrimiento de fármacos, pero es difícil estar seguro de cuánta demanda de GPU pueden generar en la práctica. En los generadores de imágenes, a medida que pasó la etapa de novedad de la curva de adopción, quedó claro que había muchos experimentos insostenibles. Personalmente, hace un año mis amigos generaban muchísimas imágenes, pero ahora casi no lo hacen.
  • Si por “fuera de los LLM” entendemos “fuera del procesamiento de texto”, la respuesta es robótica.
    El aprendizaje por imitación usando LLM está funcionando sorprendentemente bien. Para llegar a una etapa práctica hará falta mucha inversión en datos y entrenamiento, pero las señales iniciales muestran la posibilidad de que se abra una nueva fuente de ingresos en robótica.
    La limitación que aún queda es la velocidad de inferencia. Para que un robot inteligente funcione a una velocidad razonable, creo que se necesita una velocidad de procesamiento de prompts de alrededor de 10.000 tokens por segundo. Con modelos 8B, los chips de Groq y Cerebras se están acercando a ese nivel, pero esos modelos 8B son demasiado torpes, sobre todo después de ajustarlos con datos de robótica, y los modelos 70B todavía son 20 veces más lentos de lo necesario para un uso práctico.

• Cuando estalle la burbuja de la IA, se va a poner feo.

  • No apostaría a que la demanda de cómputo a gran escala vaya a dejar de ser alta por un buen tiempo.
    Aunque se desinfle la burbuja de la IA, la gente usará las GPU sobrantes para otras cosas.
  • No termino de entender que este clima se repita.
    La IA y los LLM están ampliando mucho mis capacidades, y cuanto más me adapto a este nuevo poder, más los uso en la vida diaria.
    La acción de NVIDIA puede estar sobrevalorada, pero la IA en sí es una herramienta que potencia. Me cuesta imaginar que su uso no siga creciendo, y cuando las capacidades se expanden, se usa más. Con solo corregir algunos bugs y hacer que la integración sea más fluida, los usos aumentarán muchísimo.
  • De forma extraña, se siente como si 1999 hubiera vuelto.
  • Es una lástima que se esté creando tanta capacidad de cómputo y parezca que no habrá nada que se derrame hacia abajo. Si más adelante se vende a precio de remate, sería divertido hackear cosas como hobby.
  • No sé exactamente cómo se supone que estallaría. ¿ChatGPT y Google Assistant dejarán de funcionar de repente?

• Es un título clickbait. El artículo también cita cifras de una entrevista con Jensen.
  https://youtu.be/NC5NZPrxbHk?si=8uQ4zdMU02f4X1Hc (1:41)
  Se refiere a los hiperescaladores y a Meta. En lenguaje corporativo, hiperescaladores significa AWS, GCP y Azure.

• Es un indicador bastante bueno de la burbuja especulativa absurda alrededor de la IA.

  • No es que la IA no haya dado resultados en los últimos tres años; apenas está empezando.
    Ahora mismo no hay nadie quitándole participación de mercado a NVIDIA. Groq y Tenstorrent son muy prometedoras, pero ambas siguen siendo empresas privadas. Cuando Groq salga a bolsa, durante un tiempo los “expertos” podrían declarar el fin de NVIDIA y hacer tambalear un poco sus acciones. Después, si la demanda de GPU de propósito general cae por estas empresas y el sector resulta suficientemente atractivo, creo que NVIDIA también podría vender aceleradores de IA dedicados.
  • Por ahora soy bastante optimista sobre la IA, pero aun así esto suena como una burbuja de semiconductores.
    NVIDIA parece una empresa que sabe subirse bien a estas burbujas. Antes fue la minería de criptomonedas; ahora es la IA.
    No me sorprendería que uno de los principales compradores fuera un grupo especulativo, por ejemplo un hedge fund liderado por gente del mundo cripto.

• Si no recuerdo mal, las empresas que cotizan en bolsa deben informar en el 10-K a los clientes que representan más del 10% de sus ingresos, así que esos clientes no seguirán siendo “ballenas misteriosas” por mucho tiempo.

• Es muy probable que una o dos agencias de inteligencia también sean grandes compradoras. Podrían alquilar, pero ese enfoque podría tener implicaciones de seguridad difíciles de aceptar.