Larga vida a la 'escasez de GPU': subsidios open source para IA

• Los modelos de IA de código abierto están logrando ser competitivos frente a las alternativas de código cerrado.
• Muchos equipos pequeños e individuos están trabajando para mejorar y optimizar estos modelos.
• Sin embargo, estos proyectos a menudo carecen de recursos para seguir trabajando o mantenerse a largo plazo.
• Para resolver esto, se lanzó el programa a16z Open Source AI Grant, que apoya a desarrolladores open source mediante fondos de subvención.
• El programa tiene como objetivo darles a los desarrolladores la oportunidad de continuar su trabajo sin la necesidad de generar beneficios financieros.
• Se anunciaron los primeros beneficiarios de las subvenciones y los proyectos apoyados, entre ellos proyectos enfocados en instruction tuning de LLMs, fine-tuning de LLMs sin censura y el desarrollo de nuevas herramientas para la inferencia de modelos.
• El programa busca fomentar la colaboración abierta, el aprendizaje y el avance en el campo de la IA.
• Las opiniones expresadas en este artículo son las de las personas citadas y no reflejan necesariamente las opiniones de a16z ni de sus afiliadas.
• Este contenido se proporciona con fines informativos y no debe considerarse asesoría legal, comercial, de inversión ni fiscal.

[GN⁺]

Opiniones de Hacker News

• El programa de subvenciones para inteligencia artificial apoya a personas, equipos y hackers del ámbito de la inteligencia artificial de código abierto.
• Este programa no apoya a empresas comerciales.
• Los beneficiarios de las subvenciones agradecen el apoyo y elogian la transparencia y la equidad del proceso.
• Las subvenciones incluyen la compra de hardware como GPU para apoyar proyectos de IA.
• El programa busca impulsar el estado del arte de la inteligencia artificial de código abierto y contribuir a una mejor comprensión de la tecnología.
• Oobabooga es elogiado como un excelente portal para probar varios modelos de generación de texto.
• Se considera que los beneficiarios actuales de las subvenciones son personas/equipos influyentes elegidos con buen criterio.
• Alguien pregunta si puede configurar su propia GPU para apoyar el esfuerzo de "escasez de GPU".
• Esta iniciativa es vista como algo genial y se evalúa como un gran uso de las comisiones de administración.
• Se presentan propuestas de futuros beneficiarios de subvenciones, como MLC LLM, ExLlama y forks de código abierto de inferencia de generación de texto.
• A16z es elogiada por un enfoque orientado a resolver puntos de dolor reales, y se espera que otros líderes de pensamiento/venture capitalists sigan un camino similar.
• Los primeros beneficiarios de las subvenciones son considerados importantes y sólidos para la experimentación orgánica.
• Se expresa curiosidad por el hecho de que los proyectos de inteligencia artificial de imágenes no hayan recibido subvenciones.