El Llama de Meta creció 10 veces desde 2023 - Actualización sobre la adopción de Llama

(ai.meta.com)

16 puntos por GN⁺ 2024-08-30 | Aún no hay comentarios. | Compartir por WhatsApp

Resumen de puntos clave

Los modelos Llama han registrado hasta ahora aproximadamente 350 millones de descargas, más de 10 veces frente al mismo periodo del año pasado. Solo en el último mes se descargaron más de 20 millones de veces, consolidando a Llama como una de las principales familias de modelos open source
El volumen de uso en tokens de Llama a través de sus principales socios proveedores de servicios en la nube se duplicó con creces en apenas tres meses, de mayo a julio de 2024, tras el lanzamiento de Llama 3.1
En el caso de algunos grandes proveedores de servicios en la nube, el uso mensual de Llama medido por volumen de tokens creció 10 veces entre enero y julio de 2024

Con el lanzamiento de Llama 3.1, se amplió la longitud de contexto a 128K, se añadió soporte para 8 idiomas y se presentó Llama 3.1 405B, el primer modelo de IA open source de nivel frontier
El éxito de Llama como modelo open source está impulsando la innovación en empresas de todos los tamaños. Desde startups hasta grandes corporaciones, están construyendo soluciones con Llama en entornos on-premise o mediante servicios en la nube
Al ofrecer públicamente los modelos Llama, surgió un ecosistema de IA vibrante y diverso, y los desarrolladores ahora cuentan con más opciones y capacidades que nunca
En 18 meses, Llama evolucionó de un único modelo base a un sistema de referencia completo para desarrolladores. Llama 3.1 incluye herramientas de seguridad y protección que ayudan a los desarrolladores a crear agentes personalizados con facilidad

Junto con el lanzamiento de Llama 3.1, Mark Zuckerberg compartió una carta abierta sobre las ventajas de la IA open source, reforzando aún más su visión y compromiso con un enfoque abierto
El open source está grabado en el ADN de Meta, y Llama materializa y fortalece su compromiso de compartir los resultados de investigación de manera responsable
El open source promueve un ecosistema más competitivo que beneficia a los consumidores, a las empresas —incluida Meta— y, en última instancia, al mundo

El ecosistema de Llama está creciendo rápidamente. Los modelos Llama han registrado hasta ahora aproximadamente 350 millones de descargas en Hugging Face, una cifra que representa un aumento de más de 10 veces frente a hace aproximadamente un año
Solo el mes pasado se descargaron más de 20 millones de veces en Hugging Face. Esto es solo una parte de la historia de éxito de Llama, ya que también se distribuye a través de los servicios de sus socios
El uso de Llama alojado por los principales socios proveedores de servicios en la nube, medido por volumen de tokens, se duplicó con creces entre mayo y julio de 2024 tras el lanzamiento de Llama 3.1

Con Llama 3.1, el número de socios del programa de acceso anticipado aumentó 5 veces, y se planea redoblar esfuerzos para responder al fuerte incremento de la demanda por parte de los socios
Muchas empresas como Wipro, Cerebras y Lambda esperan convertirse en futuros socios de integración de LEAP y Llama

Accenture: usa Llama 3.1 para construir un LLM personalizado para reportes ESG, con una mejora esperada del 70% en productividad y del 20-30% en calidad frente a los métodos tradicionales
AT&T: mejoró la gestión de clientes mediante el fine-tuning de modelos Llama. Con la adopción de GenAI, las respuestas de búsqueda relacionadas con atención al cliente mejoraron aproximadamente un 33%, además de reducir costos y tiempos de respuesta
DoorDash: usa Llama para simplificar y acelerar las tareas cotidianas de los ingenieros de software
Goldman Sachs: a través de GS AI Platform, permite que los ingenieros usen modelos Llama de forma segura y responsable en diversos casos de uso
Niantic: integró Llama para dar vida al mundo virtual del juego AR Peridot. La generación de respuestas en tiempo real ofrece interacciones dinámicas y únicas
Nomura: usa Llama en AWS para acelerar el ritmo de innovación y obtener beneficios clave como transparencia, mitigación de sesgos y alto rendimiento
Shopify: sigue experimentando con modelos open source de primer nivel, incluido Llama basado en LLaVA. Actualmente ejecuta entre 40 y 60 millones de inferencias de LLaVA al día para apoyar tareas de metadatos y mejora de productos
Zoom: impulsa AI Companion con modelos propios y LLM cerrados y open source, incluido Llama. Ofrece a los usuarios resúmenes de reuniones, grabación inteligente, seguimientos y más

Llama está desempeñando un papel líder en apertura, capacidad de modificación y eficiencia de costos
Existe un compromiso de construir en open source para que los beneficios de la IA lleguen a todas las personas
Los LLM pueden ayudar a responder preguntas difíciles, aumentar la productividad y despertar la creatividad. A medida que el ecosistema de Llama se expande, también crecen las capacidades y la accesibilidad de Meta AI

El rápido crecimiento y la adopción de Llama muestran que la demanda por modelos de IA open source está aumentando. Las empresas buscan modelos de IA rentables y de alta calidad, y Llama está respondiendo a esa necesidad
Aun así, al usar modelos open source deben considerarse temas como sesgos, ética y seguridad. Las empresas necesitan establecer marcos de gobernanza y lineamientos para el uso de estos modelos
En un mercado de modelos de IA altamente competitivo, el enfoque abierto de Llama está demostrando que no se queda atrás en calidad frente a los modelos comerciales
La rápida adopción y alta popularidad de Llama vuelven a confirmar el valor y la influencia del open source en la comunidad de IA y de desarrollo. Esto podría tener un impacto importante en la dirección futura del desarrollo de IA
Se espera que en adelante modelos open source como Llama y modelos basados en API evolucionen de forma complementaria. Para las empresas, será importante elegir el modelo adecuado según sus necesidades y desarrollar la capacidad de aprovecharlo eficazmente