Intel presenta Aurora genAI, un modelo de IA generativa científica de 1 billón (1T) de parámetros

• Está previsto que se ejecute en la supercomputadora Aurora de 2 exaflops, que entrará en funcionamiento a finales de este año
• Se entrenará con texto general, así como con documentos/datos/código relacionados con la ciencia, y es un modelo generativo enfocado exclusivamente en fines científicos
• Se usará en aplicaciones científicas como biología de sistemas, investigación del cáncer, ciencia del clima, química y materiales de polímeros, y cosmología
• Basado en Megatron y DeepSpeed

[xguru]

MS y Nvidia anuncian el modelo de lenguaje más grande del mundo, MegaTron-NLG 530B
DeepSpeed - la biblioteca de optimización de aprendizaje profundo publicada por MS