Cómo podría AMD cruzar el foso de CUDA

• Nvidia tiene una ventaja en el campo de la GenAI gracias a herramientas de software y bibliotecas optimizadas como CUDA y cuDNN
  • Ha construido un sólido "foso" de software alrededor del hardware, lo que dificulta que otras empresas compitan en los mercados de HPC y GenAI
• El aumento en la demanda de recursos de cómputo para GenAI está impulsando la necesidad de más GPU. Esto está generando una brecha entre oferta y demanda, y compañías como AMD buscan cubrirla
• Para competir con Nvidia, las GPU y aceleradores de otros fabricantes deben ser compatibles con CUDA. AMD lo hace posible mediante la herramienta de conversión HIP para CUDA
• La biblioteca open source de machine learning PyTorch está ganando popularidad como alternativa a TensorFlow para crear aplicaciones de IA que usan GPU
• PyTorch aísla a los usuarios de la arquitectura base de la GPU, lo que facilita que las GPU de AMD crucen el foso de CUDA
• El próximo superchip Grace-Hopper de Nvidia, basado en ARM de 72 núcleos, está generando gran expectativa por su rendimiento potencial en HPC y GenAI
• AMD planea competir con el superchip Grace-Hopper de Nvidia con su próximo procesador Instinct MI300A, que impulsará a El Capitan, el próximo sistema del Lawrence Livermore National Laboratory
• La CEO de AMD, Lisa Su, expresó su objetivo de convertir a la empresa en líder de la industria en soluciones de inferencia gracias a sus elecciones de arquitectura
• Para AMD y otros proveedores de hardware, PyTorch les ha tendido un puente levadizo sobre el foso de CUDA
• La batalla del hardware en el mercado de GenAI se decidirá por el rendimiento, la portabilidad y la disponibilidad

[slemma999]

Siempre leo y agradezco sus buenos artículos, pero me gustaría dar una opinión personal: no es una localización al coreano, sino una conversión a palabras de origen chino, y eso hace que el texto suene extraño y difícil. Términos como 도개교 o 해자 sería mejor dejarlos en inglés o explicarlos con palabras coreanas más sencillas.

[monovision]

"Foso" es una palabra muy usada, y aunque "puente levadizo" no se use tan comúnmente, si uno consulta el diccionario y similares, parece ser un término traducido bastante acertado.
https://ko.wikipedia.org/wiki/%EA%B0%80%EB%8F%99%EA%B5%90

[slemma999]

Sé que también se usa en economía, y entiendo que se usa a medida que la tecnología de IA se vuelve más compleja, pero creo que aquí lo están usando de forma incorrecta. Por ejemplo, decir que aislarlo de la arquitectura base de la CPU facilita que la GPU de AMD supere el foso de CUDA está mal planteado, como si fuera algo que se resolviera técnicamente de manera simple. En coreano, encajaría mejor una expresión como que existe la capacidad técnica para superar ese foso, y esta oración está redactada de una forma que la hace sonar como si una sola biblioteca pudiera resolverlo todo, por eso se siente bastante extraña. Hasta dan ganas de preguntarse si "foso" era realmente la palabra adecuada.

[newtype]

"Foso" es una palabra demasiado apropiada, porque realmente no tiene un reemplazo exacto y tampoco hace falta reemplazarla... Puede que a usted le resulte extraña porque recién la conoció en el diccionario, pero no todos los demás lectores tienen un nivel de vocabulario similar al suyo. No use su ignorancia como arma.

[botplaysdice]

Qué incómodo. Pero espero que no se convierta en una comunidad donde la ignorancia sea motivo de vergüenza.

[fortune]

Es cierto, a mí también a veces me pasa que noto partes extrañas en la traducción automática.

Pero en este caso, foso es una expresión que también se usa mucho en nuestro país. Si buscas foso en las noticias, podrás ver muchos resultados.

[cosine20]

Según entiendo, OpenCL era lo que AMD impulsó como alternativa a CUDA, así que como no se menciona aquí, supongo que en todo este tiempo no tuvo tanta integración con las librerías del lado de la inteligencia artificial.

[GN⁺]

Opinión de Hacker News

• Un usuario usó ROCm con Pytorch y vio una mejora de rendimiento de 200 veces frente a la CPU.
• Debido a la complejidad de la configuración de AMD, el usuario recomienda usar la imagen oficial base de Docker de ROCm Pytorch.
• El usuario dijo que la única razón por la que tiene una tarjeta Nvidia es CUDA, pero agradecería que más proyectos se movieran a entornos neutrales.
• El usuario siente que ejecutar Nvidia en Linux no es nada agradable, comparable a los fallos del kernel en Windows Vista.
• El usuario celebra la competencia de AMD y otros rivales, y también tiene interés en los SoC Apple Silicon con gran cantidad de RAM interna.
• Pytorch permite otro hardware, y el usuario quiere ver benchmarks reales sobre la potencia de cómputo.
• La evidencia empírica de que AMD esté cerrando la brecha con Nvidia en software científico o de ML es limitada.
• CUDA es el resultado del esfuerzo de Nvidia por respaldar el ecosistema, y cuando compras Nvidia, también compras el esfuerzo que han invertido en ese ecosistema.
• AMD tiene el hardware, pero le falta soporte para HPC más allá de bliss y AOCL.
• El usuario se pregunta si AMD tiene una solución para la compatibilidad futura entre dispositivos, como el PTX de Nvidia.
• La ventaja de Nvidia es el resultado de años de trabajo de la comunidad open source, grandes empresas e institutos de investigación.
• El usuario se pregunta si, cuando AMD se ponga al día, bajarán los precios para aficionados o startups autofinanciadas, o si AMD también subirá los precios como Nvidia.
• La solución de software de AMD está diseñada para ejecutarse en cualquier hardware, y como hip es compatible con cuda línea por línea, la portabilidad es muy sencilla.