Meta presenta LLM Compiler

• Meta presentó la familia de modelos LLM Compiler, desarrollada sobre Code Llama, con funciones de optimización de código y compilador
• Estos modelos cuentan con las siguientes capacidades:
  • Emulación de compilador
  • Predicción del pase óptimo para optimizar el tamaño del código
  • Desensamblado de código
• Pueden ajustarse finamente para nuevas tareas de optimización y compilador

Características principales

• Logran resultados de primer nivel en optimización del tamaño del código y desensamblado
• Demuestran que la IA está aprendiendo a optimizar código y que puede ayudar a los expertos en compiladores a identificar oportunidades de optimización

Publicación de modelos

• Los modelos LLM Compiler 7B y 13B se publican bajo una licencia permisiva tanto para uso de investigación como comercial
• Buscan facilitar que desarrolladores e investigadores los aprovechen fácilmente y realicen nueva investigación en esta área

[ragingwind]

La idea se ve interesante.

[GN⁺]

Opiniones en Hacker News

• Usar un LLM como compilador/descompilador es una aplicación interesante
• En un compilador, la confiabilidad y la precisión son importantes
• Como los LLM son inherentemente impredecibles, se siente raro incluirlos en un pipeline de build
• En el paper, entrenaron el modelo para tres tareas empezando con CodeLlama
  • La primera tarea es compilación: dar código de entrada y flags del compilador, y predecir el ensamblador de salida
  • La segunda tarea es predicción/optimización de flags del compilador: optimizar el tamaño del ensamblador
  • La tercera tarea es descompilación: afirman que tiene ventajas frente a enfoques anteriores
• Hay problemas con la verificabilidad del enfoque de descompilación
• Usan el método de volver a compilar el código descompilado para comprobar la exactitud
• La precisión sigue siendo de alrededor de 45%, así que todavía no es confiable, pero podría ser útil si se usa junto con descompiladores tradicionales
• Me gustaría explorar si este modelo puede ampliarse a optimización de rendimiento
• Parece que aumentarán los sistemas donde los LLM aportan intuición y luego se procesa de forma mecánica/estricta
• Me pregunto cómo verifican si el LLM preserva el significado de la entrada
• Se puede revisar investigación previa en GitHub
• Twitter quedó impresionado con esta investigación, pero cree que es muy probable que arruine programas
• A diferencia de otros papers de IA de Meta, no se menciona que se use en Instagram, Facebook o Meta
• Creo que "Compiler LLM" sería un nombre más preciso que "LLM Compiler"
• No logro entender el propósito de este trabajo
• Recuerdo haber comerciado con el Meta Technologies Neural Optimizer and Disassembler en el juego <i>Deus Ex</i>