Anthropic recibe una inversión de 5 mil millones de dólares de Amazon y, a cambio, se compromete a gastar 100 mil millones en la nube

• Con una inversión adicional de Amazon, acordó gastar más de 100 mil millones de dólares en AWS durante los próximos 10 años, en una estructura de acuerdo que combina infraestructura en la nube y financiamiento
• A cambio, aseguró hasta 5 GW de nueva capacidad de cómputo para usar en el entrenamiento y operación de Claude; más allá de una simple inversión en efectivo, el derecho de uso de infraestructura real se incluye como elemento clave
• La inversión total de Amazon aumentó a 13 mil millones de dólares, y esta estructura es similar al acuerdo de inversión de OpenAI firmado hace dos meses
• En el centro del acuerdo están los chips personalizados de Amazon, incluidos dentro del alcance desde Trainium2 hasta Trainium4 de las familias Graviton y Trainium
• También aseguró una opción de compra de capacidad para chips que se lanzarán en el futuro, y este anuncio alimentó especulaciones sobre una nueva ronda de financiamiento para Anthropic y reportes de una valuación superior a 800 mil millones de dólares

---

Resumen del acuerdo

• Amazon acordó una inversión adicional de 5 mil millones de dólares, ampliando su inversión total en Anthropic a 13 mil millones de dólares
• Se incluye un compromiso de gasto en AWS por parte de Anthropic: acordó usar más de 100 mil millones de dólares en AWS durante los próximos 10 años
  • A cambio, aseguró hasta 5 GW de nueva capacidad de cómputo para el entrenamiento y operación de Claude
• Este acuerdo tiene una estructura similar a otra inversión reciente en IA realizada por Amazon
  • No se trata solo de una inversión en efectivo: los servicios de infraestructura en la nube también forman parte de la estructura del acuerdo

Comparación con el acuerdo de OpenAI

• Existe una similitud estructural con el acuerdo que Amazon cerró con OpenAI hace dos meses
  • Amazon participó en una ronda de financiamiento por 110 mil millones de dólares
  • De ese monto, aportó 50 mil millones de dólares
  • En esa ronda, la valuación pre-money del creador de ChatGPT fue de 730 mil millones de dólares
• El acuerdo con OpenAI también incluyó en parte la provisión de infraestructura además del efectivo directo

Infraestructura y chips clave

• En el centro de este acuerdo están los chips personalizados de Amazon
  • Graviton son CPU de bajo consumo energético
  • Trainium son chips aceleradores de IA que compiten con Nvidia
• El alcance del acuerdo con Anthropic incluye desde Trainium2 hasta Trainium4
  • Trainium4 no está disponible actualmente
  • El chip más reciente, Trainium3, se lanzará en diciembre
• Anthropic también aseguró una opción de compra de capacidad para futuros chips de Amazon
  • Esto incluye el derecho a comprar esa capacidad cuando los nuevos chips estén disponibles

Posible financiamiento adicional

• Se menciona que este anuncio podría ser un adelanto de una nueva ronda de financiamiento para Anthropic
• Hay reportes de que firmas de capital de riesgo ofrecieron invertir capital en Anthropic
  • Se cita que, con base en ese posible acuerdo, la valuación podría ser de más de 800 mil millones de dólares

[GN⁺]

Comentarios en Hacker News

• Viendo la situación actual, da la impresión de que la ilusión de rentabilidad ya casi se está acabando. Es dudoso que estén generando los ingresos que esperan los inversionistas, y que Anthropic y OpenAI estén empujando sus IPO también parece más una decisión para ganar tiempo. El costo real de los tokens empezó a hacerse visible, y el cuello de botella de cómputo es fuerte. Al ver la tarifa de tokens 7.5 veces más alta de Opus 4.7, la carga se siente mayor, y como los modelos abiertos son mucho más baratos, parece que mientras más sensibles sean las empresas al costo, más vulnerables serán los dos grandes. Me pregunto si los centros de datos y el suministro eléctrico crecerán lo suficientemente rápido, o si esto es un all-in gigante para llegar antes al AGI. Sobre todo, da la impresión de que el rendimiento de los modelos se está estancando, e incluso en tareas complejas siento una caída en la productividad
  • Yo creo que muchas empresas, desde el principio, no necesitaban cotizar en bolsa. La cultura de hacer despidos masivos cada vez que los resultados trimestrales salen mal para mandar la señal de que van a detener la hemorragia me parece demasiado dañina y ridícula. Las empresas en las que estuve también vivieron su época dorada cuando eran privadas, y al final solían venderse a una empresa pública más grande al topar con barreras económicas. Siento que sería más saludable si existiera un mercado alternativo donde solo se pudiera invertir a largo plazo y no se pudiera retirar capital durante varios años
  • Desde la perspectiva del desarrollo de software, siento que los modelos actuales sí justifican bastante bien el costo por token. Este movimiento me parece menos una señal de exceso y más una decisión para asegurar oferta por adelantado anticipando la demanda. Lo entiendo como cuando una aerolínea compra combustible a futuro o Apple asegura inventario de DRAM antes que los demás
  • No sé qué tanto este pesimismo conecta con la realidad. Las empresas Fortune 500 ya pasaron de simplemente experimentar con compañías como Anthropic, y ahora se están apresurando a resolver cómo desplegarlo en toda la organización y su gobernanza. Sí hubo sobrecalentamiento, pero la propuesta de valor se siente cada vez más concreta. Puede que algunas empresas de IA hayan prometido demasiado gasto, pero creo que Anthropic iba avanzando relativamente rápido hacia la rentabilidad
  • No estoy completamente en desacuerdo, pero sí tengo algunas objeciones. Para empezar, el argumento de que los proveedores de modelos ya son rentables si solo se mira el costo del servicio de tokens de inferencia me parece convincente. Las pérdidas parecen venir de entrenar la siguiente generación de modelos. Los modelos abiertos todavía tienen una brecha de rendimiento grande, así que como por ahora los tokens siguen siendo relativamente baratos y el costo de las alucinaciones es caro, no siento que la adopción de modelos abiertos haya crecido mucho en agentes de código. Tampoco tengo certeza sobre la economía general de la IA, pero el valor de empresas como Meta o Microsoft ya ha bajado algo y los inversionistas parecen estar más atentos al riesgo de sobrevaluación. Las señales de alerta no son clarísimas, pero las ganancias corporativas todavía se ven sanas. Revisé este análisis del costo de tokens de Anthropic y este artículo de The Economist sobre ganancias corporativas
  • Yo también siento que esa dirección es la correcta. De hecho, se nota que los servicios empezaron a apretar los límites de uso. Yo uso Gemini Pro por mi plan de Google de 5 TB, y del lado del IDE también uso GitHub Copilot Pro, pero últimamente Gemini llega al límite mucho más rápido y ya me aparecen mensajes de que agoté los tokens Pro por varias horas. Antes podía usarlo gran parte del día, pero ahora incluso me bloquea desde la mañana. Por eso estoy considerando seriamente comprar este año una PC con una GPU grande e irme por la vía de ejecución local. Por cómo va la tendencia, parece mucho más probable que los costos suban fuerte a que bajen
• Si realmente están en una situación en la que tienen que gastar 100 mil millones de dólares, dudo que seguir usando cloud de terceros siga siendo lo correcto. Por muy buenas que sean las condiciones que ofrezca Amazon, a esa escala da la impresión de que al final querrías tener tu propio stack. Sobre todo en un sector tan competido, donde pronto los márgenes van a importar de verdad. Ahora mismo siento que los hyperscalers están aprovechando perspectivas demasiado optimistas para atraer todo el capital posible, y que el pico de este ciclo podría estar cerca o incluso ya haber llegado
  • El problema es que la alternativa termina siendo construir centros de datos propios. Podrías necesitar algo así como 2 en EE. UU., 2 en Europa, 2 en Asia, 1 en África y 1 en LATAM, y más de la mitad tendrían que estar listos a tiempo. Pero precisamente ese “a tiempo” es lo difícil. Los permisos de gobiernos locales, las negociaciones con eléctricas, variables políticas y contratos militares pueden hacer que una autorización se caiga. Además, necesitas conseguir CPU, GPU, memoria y equipo de red, y el lead time de transformadores eléctricos industriales es de más de 5 años. Tampoco puedes avanzar con plantas de tratamiento de agua sin permisos. En medio de todo eso, tampoco es que AWS o Google vayan a darle trato preferencial a un cliente si ven señales de que quiere irse. La IA y los LLM ya operan en un entorno competitivo complejo y frágil; intentar construir centros de datos en paralelo no se siente como diversificación sino como una sentencia de muerte
  • Que una empresa sin ninguna experiencia construyendo centros de datos pase de golpe a operar cómputo a escala de 100 mil millones me parece un objetivo de alto riesgo a décadas
  • Veo este tipo de compromisos como una forma de transferir parte del riesgo a proveedores de infraestructura como Amazon u Oracle. Aunque Anthropic u OpenAI no cumplan sus proyecciones, el proveedor de infraestructura puede vender esos activos a otros clientes o usarlos por su cuenta. En cambio, si la demanda resulta mayor de lo esperado, puede entrar más capital de VC y desplazar a competidores aunque salga más caro. Si lo construyeran ellos mismos y se equivocaran en el pronóstico de demanda, el error sería muchísimo más costoso; al final, esto se entiende como reparto de riesgo
  • Creo que el artículo ya trae la respuesta. El contrato de Anthropic incluye hasta Trainium4, que todavía no sale, y además asegura la opción de comprar capacidad de futuras generaciones de chips de Amazon cuando aparezcan. O sea, no es solo por el presente inmediato, sino una manera de apartar de antemano el suministro a lo largo de toda la hoja de ruta futura de chips
  • Hace tiempo vi en Facebook un gráfico de cómo el dinero circulaba entre unas cuantas empresas dentro del grupo de las principales compañías de IA, y de verdad fue impactante. Se veía casi como dinero dándose vueltas, al punto de parecer algo cercano a una estafa
• Me pregunto cuáles son exactamente las expectativas sobre los laboratorios de IA. Desde donde yo lo veo, sus productos ya parecen estar casi comoditizados, y además hay muchos competidores open source fuertes. Al final, cada vez va a ser más difícil justificar la prima que se cobra por estos modelos
  • Siento que la situación llamada Mythos, sea real o exagerada, igual apunta al endgame. Si aparece un modelo lo suficientemente poderoso como para impactar de verdad al mundo, uno dejaría de pensar en venderlo a consumidores y empezaría a preocuparse por usarlo para dominar la economía por cuenta propia o porque el Estado lo nacionalice. Si tienes una máquina capaz de automatizarlo todo, la idea sería: ¿por qué vender acceso?
  • Creo que es muy probable que los modelos open source alcancen por completo a los líderes en 1 o 2 años. Los productos son commodity y los modelos también. Ahora mismo el cuello de botella solo es que cuesta conseguir suficientes GPU para inferencia a gran escala. Al final lo que necesitas es una plataforma con lock-in, pero no veo por qué eso tendría que estar basado en modelos cerrados en vez de open source
  • Creo que en la mayoría de las grandes tecnológicas ya se están desplegando agentes de código de forma masiva. En algunas, prácticamente sin límites de tokens: mientras puedas explicar el retorno, te dejan usarlos todo lo que quieras. Las empresas están metiendo estas herramientas en sus flujos de trabajo y ya están empezando a documentar procesos internos alrededor de herramientas específicas. Una vez que eso arranca, se replica rápido en toda la organización. Si Anthropic ya llegó a 30 mil millones de dólares en ingresos y esto apenas es el inicio de un despliegue amplio del coding, siento que no es tan fácil ignorar esa cifra
  • Estos modelos son commodities, pero al mismo tiempo también son ciberarmas. Los países que compiten en lo militar van a querer mejores capacidades cibernéticas y de inteligencia a través de una IA superior, y por eso probablemente no querrán apostar por un solo laboratorio, sino poner a competir a varias empresas de defensa basadas en IA. Así como antes EE. UU. vendía armas a varios países, en el futuro China, EE. UU. o Francia podrían terminar vendiendo capacidades cibernéticas de IA. Y como cada país tampoco confiará por completo en el cloud ajeno por razones de seguridad, puede que necesiten sus propios centros de datos para correr clústeres de proveedores preferidos
  • No creo que ninguna empresa tenga un foso defensivo. Siento que OpenAI ya perdió la delantera y que ahora nadie está ganando de forma clara. Al final, esto parece un juego de gallina quemando GPU que ni siquiera van a durar tanto. Como referencia, vi esta imagen comparativa
• Da la impresión de que están acelerando más la captación de dinero antes de que los modelos locales para consumidores se vuelvan suficientemente buenos en unos pocos años. Hoy la demanda está explotando, pero si la inferencia on-device se consolida, en algún momento la demanda podría desplomarse y todo esto se ve como un castillo de naipes
  • Siento que yo ya vivo parcialmente en ese futuro. Si a un framework decente de ejecución le sumas gestión de contexto, memoria basada en Unix y mecanismos de búsqueda y acceso web, los modelos locales ya pueden usarse casi al mismo nivel que los modelos de frontera. A veces incluso son más rápidos. Mientras las empresas de IA sigan liderando con precios todavía subsidiados en mayor medida de lo que aparenta la realidad, seguiré pagando, pero al final también puedes usar sus propios servicios para bootstrapear su propia caída. Personalmente, sigo apoyando a largo plazo la idea de correr mi propio software en mi propia computadora
  • Yo también estoy esperando ese momento. Tal vez una combinación de motores LLM para código con hardware personalizado de alto rendimiento como taalas y agentes de código open source podría ser la respuesta. Si el precio queda al nivel de una tarjeta gráfica premium, con el tiempo podría pagarse solo. Me recuerda a la transición de los mainframes de IBM hacia las PC, como si estuviéramos por ver algo parecido otra vez
  • Los modelos para consumidor ya son bastante buenos, y creo que el verdadero cuello de botella de la inferencia local es el hardware. Los modelos pequeños corren en casi cualquier dispositivo, pero en cuanto quieres más conocimiento y contexto más grande, los requisitos se disparan muy rápido
• Me preguntaba si esto no termina siendo algo más parecido a una circulación de dinero y deuda, como la estructura que se vio entre Nvidia y OpenAI
  • En el caso de Nvidia y OpenAI sí hubo movimiento real de tarjetas gráficas, y el vendor financing en sí es una práctica bastante común, como cuando una agencia de autos vende el coche junto con el crédito
  • Recuerdo que Oracle también se metió en eso y luego terminó golpeada
  • Para desarrollar chips y mantenerse en la frontera, al final necesitas economías de escala. Por eso, respaldar la demanda con financiamiento para crear esa escala no se ve tanto como un esquema Ponzi, sino como una estructura racional. Anthropic consigue acceso a un recurso escaso de cómputo, y Amazon consigue demanda y retroalimentación en campo para justificar más I+D y capex
• No soy experto en economía, pero me preguntaba cómo funciona exactamente una estructura en la que Amazon da 5 mil millones de dólares y después recibe ese dinero multiplicado por 20
  • Los 5 mil millones no son dinero regalado, sino una inversión de capital, y al mismo tiempo obtienen un compromiso de gasto. Si el acuerdo es usar 100 mil millones de dólares a lo largo de 10 años, esos 5 mil millones podrían consumirse en menos de 3 años, o incluso antes. Según mi lectura, Amazon básicamente da créditos de uso y recibe participación accionaria; si Anthropic tiene éxito, es un gran trato para Amazon. Si fracasa, puede perder en la parte de inversión, pero igual asegura cerca de 5 mil millones de dólares de ingresos operativos y una justificación para expandir capacidad. Desde la perspectiva de Anthropic, la estructura les compra más tiempo para resistir aunque todavía no cuadren del todo los números. Al final, parece una apuesta a que expandir capacidad de Amazon con dinero de Amazon puede ser más rápido que construir capacidad propia con dinero ajeno
  • La clave es que necesitan cómputo a gran escala ahora mismo. Amazon dijo que invierte 5 mil millones de dólares hoy y que después podría sumar hasta 20 mil millones más, además de los 8 mil millones ya invertidos. Según dicen, con este acuerdo van a aumentar capacidad de forma significativa en 3 meses y llegarán a una escala cercana a 1 GW total antes de fin de año. Eso se puede verificar en el anuncio de Anthropic
  • Al final, es más fácil entenderlo si lo ves como recibir 5 mil millones ahora y luego gastar alrededor de 10 mil millones al año en costos de cómputo que igual iban a tener que pagar
  • No son 100 mil millones de ganancia pura, porque también hay un intercambio de servicios con costos operativos para Amazon. Además, Anthropic de todos modos tenía que gastar ese dinero para operar el negocio, así que más que pagar menos después, parece una especie de descuento adelantado: reciben efectivo ahora y luego pagan tarifa normal más adelante
  • Yo lo entendí más o menos igual. Como de todos modos iban a gastar en infraestructura, parece más un contrato para atar ese gasto a AWS a cambio de los 5 mil millones
• Al final me hizo pensar en la broma de que Anthropic básicamente consiguió un 5% de cashback estilo la tarjeta Prime Visa, pero a escala corporativa. Las empresas de IA, en el fondo, tampoco son tan distintas a nosotros
• Con la situación geopolítica actual, espero que la capacidad de producción de chips de memoria y de distintos CPU y GPU pueda reducirse. Algunas noticias que vi sobre Japón, Corea y Singapur reforzaron esa preocupación. Si esa expectativa se cumple, me preocupa que el costo de construir nuevos centros de datos se dispare
• Me preocupa que cuando termine esta locura, al final los contribuyentes tengan que rescatar a estas empresas
  • Solo puede pasar si dejamos que pase. Al final, siento que la respuesta está en el voto