OpenAI desarrolla su primer chip en colaboración con Broadcom y TSMC, y reduce sus planes de fundición

• OpenAI está desarrollando un chip de inferencia de IA y abandonando su plan de red de fundiciones
• Broadcom está ayudando con el diseño del chip de OpenAI y facilitando su fabricación en TSMC
• OpenAI también está sumando chips de IA de AMD para diversificar su suministro de chips

El esfuerzo interno de diseño de chips de OpenAI y el aprovechamiento de alianzas en la industria

• OpenAI está evaluando varias opciones para diversificar el suministro de chips y reducir costos
• Por ahora, la empresa planea pausar su ambicioso plan de fundición y concentrarse en su esfuerzo interno de diseño de chips
• La estrategia de OpenAI muestra, al igual que la de grandes competidores como Amazon, Meta, Google y Microsoft, cómo aprovechar alianzas en la industria y enfoques internos y externos para asegurar el suministro de chips y controlar costos
• OpenAI es uno de los mayores compradores de chips, y su decisión de desarrollar chips personalizados mientras se abastece de varios fabricantes podría tener un amplio impacto en el sector tecnológico
• Broadcom ayuda a empresas como Google a ajustar con precisión diseños de chips para su fabricación y suministra componentes de diseño que permiten mover información rápidamente dentro de los chips
• A través de Broadcom, OpenAI aseguró capacidad de fabricación con TSMC para producir en 2026 su primer chip de diseño personalizado
• Actualmente, las GPU de Nvidia tienen más del 80% de participación de mercado
• Sin embargo, la escasez de suministro y el aumento de costos están llevando a grandes clientes como Microsoft, Meta y ahora OpenAI a buscar alternativas internas o externas
• La decisión de OpenAI de usar chips de AMD a través de Azure de Microsoft muestra que el nuevo chip MI300X de AMD está intentando captar parte del mercado dominado por Nvidia
• Entrenar modelos de IA y operar servicios como ChatGPT cuesta mucho dinero
• OpenAI espera este año pérdidas por 5 mil millones de dólares sobre ingresos de 3.7 mil millones de dólares
• Los costos de cómputo son el mayor gasto de la empresa, lo que ha impulsado esfuerzos para optimizar su utilización y diversificar proveedores

La opinión de GN⁺

• El esfuerzo interno de OpenAI por diseñar chips y su colaboración con distintos fabricantes representan un cambio importante en la industria de la IA. Esto podría crear nuevas alternativas capaces de desafiar el dominio de Nvidia y acelerar el avance de la tecnología de IA
• Sin embargo, podrían surgir preocupaciones sobre la estructura de costos de OpenAI. Dado que el desarrollo de modelos de IA y la operación de servicios requieren gastos enormes, existen dudas sobre la rentabilidad y sostenibilidad a largo plazo
• Al mismo tiempo, la aparición de nuevos chips de IA como el MI300X de AMD impulsará la competencia en el mercado y ofrecerá más opciones a los clientes. Esto podría contribuir a la masificación y comercialización de la tecnología de IA
• Se espera que la competencia cada vez más intensa en el mercado de chips de IA acelere la innovación tecnológica y aumente la demanda de chips de alto rendimiento y bajo consumo energético. En consecuencia, también se prevé una competencia aún más fuerte por inversión y talento en diseño y fabricación de chips
• Cuando las empresas adopten chips de IA, deben considerar de forma integral diversos factores como rendimiento, costo, compatibilidad y escalabilidad. Es importante elegir el chip más adecuado para su hoja de ruta tecnológica de largo plazo y su estrategia de negocio

[GN⁺]

Comentarios de Hacker News

• OpenAI abandonó su plan de construir una red de fábricas llamadas "foundries" para fabricar chips. La razón fueron los costos y el tiempo.

  • El plan de OpenAI era recaudar 7 billones de dólares y construir 36 plantas de fabricación de silicio para IA.
  • Se dice que ejecutivos de TSMC se rieron al escuchar ese plan.

• OpenAI está contratando a muchos ingenieros de hardware de Google.

  • Si revisas en LinkedIn los perfiles de ingenieros de hardware de OpenAI, puedes ver que muchos antes trabajaban en Google.
  • El equipo de TPU de Google está más débil que antes, y existe la posibilidad de que los futuros TPU de Google sean inferiores a los chips de OpenAI.

• El desarrollo de los TPU de Google contó con ayuda de Broadcom.

  • Considerando que Broadcom contribuyó al desarrollo de los TPU de Google, es natural que ex empleados de Google mantengan esa relación en su nueva empresa.

• Hay movimientos para sumar chips de AMD y NVIDIA con el fin de cubrir la demanda de infraestructura.

  • La demanda está creciendo "como loca", y eso podría derivar en problemas de suministro.
  • Las empresas Fortune 500 no concentran todos sus recursos en un solo lugar, y diversificar las fuentes de hardware y software de IA es una decisión inteligente.

• Parece que OpenAI está construyendo sus propios centros de datos, aunque el artículo no lo menciona claramente.

  • Da curiosidad si existe algún fabricante occidental de chips de IA/multiplicación de matrices que no sea TSMC.
  • NVIDIA, AMD, Google y OpenAI usan TSMC.
  • Queda la duda de si Samsung no es competitivo.

• Da curiosidad cuánto tiempo tomará producir el nuevo chip y usarlo para entrenamiento/inferencia.

• Fuera de GH Copilot, todavía no he visto un impacto social/cultural de los LLMs.

  • Ojalá haya un impacto cultural productivo, amplio y duradero en la sociedad.

• OpenAI buscaba asegurar una ventaja competitiva mediante el diseño y la fabricación de sus propios chips.

  • Los chips propios podrían ofrecer una gran ventaja en costos.
  • Tal vez concluyeron que empezar solo con el diseño de sus propios chips era suficiente.

• Construir sus propias fábricas con 7 billones de dólares era un plan ambicioso y temerario.

  • Parece que aceptaron la realidad y redujeron el alcance del plan.
  • Ojalá mantengan la calidad.

• Es curioso que fabricar su propio chip junto con TSMC sea el plan "reducido".