¿Rebellion sueña con ser la próxima Samsung? Análisis de la empresa (I)
(frontierbydoyeob.substack.com)La IA opera en dos etapas: entrenamiento, en el que manipula parámetros con los datos proporcionados, e inferencia, en la que resuelve problemas con base en los parámetros ya creados. Hasta ahora, la IA se usaba casi solo entre investigadores, pero con la llegada de ChatGPT incluso el público general ya se ha familiarizado con ella.
El rendimiento de esta IA recibe una enorme influencia de hardware como GPU y NPU. Entre las empresas que fabrican este tipo de hardware, NVIDIA tiene una participación abrumadora, especialmente en entrenamiento. En cambio, en inferencia, como la dificultad es menor que en entrenamiento, están surgiendo varias empresas que buscan competir con NVIDIA. En ese contexto, Rebellion lanzó su desafío.
La empresa, que valora mucho el talento, fue fundada por cuatro directores con maestrías o doctorados relacionados con IA. Al principio diseñó chips que necesitaban las empresas financieras, y después amplió su alcance hasta diseñar chips de inferencia para IA.
Los productos que ha creado la empresa son los siguientes.
ION, especializado en el sector financiero, fue el primer producto de la empresa, algo posible gracias al CEO Park Seong-hyeon y al CTO Oh Jin-wook, ambos con experiencia en diseño de chips. Puede manejar al mismo tiempo enteros y números de punto flotante, permite modificar libremente la ISA y soporta diversos algoritmos relacionados con deep learning. Además, se dice que tiene una alta eficiencia energética (TOPS/Watt) y que puede construir servidores de latencia ultrabaja (Ultra Low Latency, ULL).
El siguiente producto lanzado fue ATOM, un chip diseñado para inferencia de IA. Para lograr una inferencia más rápida, añadió memoria y funciones de comunicación entre núcleos dentro del chip (network on chip, NoC), que no estaban en ION. Gracias a ello, obtuvo una ventaja importante sobre Qualcomm en el rendimiento del modelo BERT de MLPerf.
La empresa no solo fabricó hardware, sino también un compilador para chips de IA. Se basó en el proyecto open source Apache TVM e incluyó funciones pensadas para entornos cloud.
Parece que la empresa ha definido como clientes a grandes operadores de centros de datos. A diferencia de laptops y smartphones, que tienen muchas restricciones, los centros de datos pueden aceptar cualquier tipo de workload y permiten personalizar el sistema con facilidad. Además, como están creciendo los mercados de centros de datos e inferencia de IA, la empresa debería apuntar aún más a ese segmento.
Aunque todavía no hay noticias de contratos para ION, ATOM se ha estado suministrando de forma constante a KT desde 2023. Además, como ha recibido inversiones enormes de Kakao y del gobierno, da la impresión de que seguirá teniendo un desarrollo aún mayor en el futuro.
Aún no hay comentarios.