CEO de Intel: “Toda la industria tiene el incentivo de eliminar el mercado de CUDA”

El CEO de Intel ataca la tecnología CUDA de Nvidia en el campo de la IA

• El CEO de Intel, Pat Gelsinger, afirmó durante un evento en la ciudad de Nueva York, donde presentó Intel Core Ultra y los chips para centros de datos Xeon de 5.ª generación, que la tecnología de inferencia en IA será más importante que el entrenamiento.
• Gelsinger mencionó que CUDA de Nvidia domina el área de entrenamiento, pero que no será así para siempre, y explicó que MLIR, Google, OpenAI y otros están moviéndose hacia una “capa de programación al estilo Python” para hacer que el entrenamiento de IA sea más abierto.
• Intel enfatizó que tiene competitividad no solo en el entrenamiento, sino también en la inferencia, y subrayó que lo importante es qué tan bien se pueden ejecutar los modelos.

La estrategia de IA de Intel y el estándar OpenVINO

• Gelsinger está impulsando los esfuerzos de IA de Intel mediante el estándar OpenVINO y anticipa un futuro de computación híbrida que ocurra en la nube y en la PC.
• Sandra Rivera, vicepresidenta del grupo de centros de datos e IA de Intel, añadió que Intel podría tener ventaja al momento de elegir socios gracias a su escala, que va desde el centro de datos hasta la PC.
• Gelsinger dijo que Intel competirá por el 100% del mercado de IA para centros de datos con CPU líderes, aceleradores y fundición, y mencionó que también buscará oportunidades comerciales con Nvidia, AMD y otros.

Opinión de GN⁺

• Las declaraciones del CEO de Intel, Pat Gelsinger, muestran un nuevo intento de desafiar el dominio de la tecnología CUDA de Nvidia en el campo de la IA. Esto puede verse como parte de un movimiento dentro de la industria tecnológica hacia un enfoque más abierto y estandarizado.
• La estrategia de Intel de poner el foco en la inferencia de IA anticipa una nueva dinámica competitiva en el mercado de IA. Esto sugiere un cambio hacia una mayor valoración de la ejecución y el aprovechamiento eficiente de los modelos de IA.
• Ofrece una perspectiva sobre cómo Intel busca fortalecer su posición en el campo de la IA mediante estándares como OpenVINO. Esto podría contribuir a impulsar la democratización de la tecnología y la innovación.

[GN⁺]

Opiniones de Hacker News

• Debate sobre la importancia de CUDA

  • CUDA no es solo una cuestión de velocidad de producción de chips, sino de software y ecosistema. Los competidores tienen que competir contra el ecosistema.
  • Una Mi100 usada en eBay ofrece un rendimiento casi similar al de una A100 por una quinta parte del precio, pero debido a incompatibilidades de software, ponerla a funcionar requiere mucho más tiempo que una GPU de Nvidia.
  • Google ofrece compatibilidad con PyTorch a través de la interfaz XLA, e Intel está en una situación parecida.
  • Los competidores necesitan probar todos los modelos y construir enormes suites de pruebas para detectar y resolver problemas.
  • Intel tiende a anunciar iniciativas públicamente y luego brindar solo soporte mínimo, y es poco probable que OpenVino tenga éxito. En cambio, Triton de OpenAI parece ser más popular.

• La estrategia de ingeniería de software de NVIDIA

  • Más de la mitad de los ingenieros de NVIDIA son ingenieros de software. Jensen ha construido un sólido stack de software durante décadas.
  • Hasta que Intel encuentre un CEO con perfil técnico y estratégico, será difícil organizar una respuesta exitosa frente a CUDA.

• Expectativas y realidad sobre las alternativas a CUDA

  • Si se ofrecieran herramientas, ecosistemas y una experiencia de programación mejores que CUDA, todos saldrían beneficiados.
  • Pero por ahora, considerando intentos previos como el fracaso de OpenCL, estas afirmaciones suenan un poco ridículas.
  • Intel y AMD han puesto mucho menos esfuerzo que el invertido en CUDA, y los resultados han sido decepcionantes.

• Preguntas sobre la verdadera ventaja de CUDA

  • La ventaja de CUDA no está en el hardware, sino en el ecosistema de software.
  • Para la mayoría de los usuarios, quizá no haya un gran costo de migración, pero para investigadores y quienes empujan los límites, puede no ser así.

• Críticas a los esfuerzos de respuesta basados en OpenCL

  • Intel y AMD fracasaron pese a haber tenido varios años para ofrecer capacidades similares basadas en OpenCL.

• Falta de incentivos para alejarse de CUDA

  • La mayoría de los modelos y herramientas siguen usando CUDA, y casi no se ve uso del middleware NN de AMD.

• Fracaso de la estrategia de software de Intel y AMD

  • Intel no ha hecho nada en los últimos 10 años y ha desperdiciado miles de millones de dólares en GPU que casi no funcionan.
  • Nvidia sí ha invertido con éxito en impulsar el avance de la IA.

• Críticas a la estrategia de software de Intel y AMD

  • Pat Gelsinger y Lisa Su carecen de comprensión sobre software y dependen de la comunidad para el software de hardware complejo.
  • Nvidia ha desarrollado hardware y software de manera conjunta, y el modelo de programación de CUDA fue una gran apuesta desde hace mucho tiempo.
  • Si Intel y AMD no hacen cambios fundamentales, perderán frente a ARM y Nvidia.

• Expectativas sobre las GPU de Intel

  • Si hubiera una GPU de Intel con mejor rendimiento al mismo costo que una GPU de Nvidia y pudiera ejecutar bien PyTorch, habría disposición a comprar una GPU de Intel.

• Críticas al monopolio de CUDA

  • Se entiende la motivación de NVIDIA para mantener el monopolio de CUDA, pero también es cierto que AMD/Intel/otras empresas dejaron pasar la oportunidad.
  • Cuando barreras técnicas o de capacidad mantienen un monopolio de facto en ciertos casos de uso, los consumidores salen perdiendo.