1. Invertir en proyectos, no en artículos
- Al inicio de la carrera de investigación, publicar artículos es importante, pero a largo plazo importan más el impacto de la investigación y la visión general que la cantidad de artículos.
- Hay que pensar la investigación no como artículos individuales, sino como una gran visión o paradigma.
- Es importante mantener artefactos consistentes como modelos open source, sistemas, frameworks y benchmarks.
2. Elegir problemas oportunos con gran escalabilidad y “efecto multiplicador”
- El problema debe ser oportuno. Por ejemplo, conviene encontrar problemas que se vuelvan “hot” en 2 o 3 años.
- Debe tener un gran “efecto multiplicador” que pueda influir en muchos problemas derivados.
- Hay que elegir problemas con mucho margen de mejora. Por ejemplo, debería existir la posibilidad de que con el tiempo pueda hacerse 20 veces más rápido o 30% más efectivo.
3. Pensar dos pasos adelante e iterar rápido
- En lugar de buscar una solución inmediata, hay que pensar dos pasos adelante.
- Después de identificar la ruta que probablemente tomará la mayoría, hay que entender las limitaciones de esa ruta y concentrarse en resolverlas.
- Es importante iterar rápidamente distintas versiones del problema y recibir retroalimentación.
4. Hacer público el trabajo y popularizar las ideas
- Después de publicar un artículo, no hay que pasar de inmediato al siguiente; hay que hacer público el trabajo y comunicarse activamente con la gente.
- Hay que publicar el artículo en arXiv y anunciarlo en un hilo, pero comenzando con afirmaciones concretas y accesibles.
- Incluso después de publicar el artículo, hay que seguir promoviendo las ideas y comunicándose con la comunidad.
- Las ideas y la comunicación científica deben mantenerse durante todo el año, más allá de una publicación aislada.
5. Generar interés y hacer crecer la investigación open source
- No basta con subir el código y un README a GitHub.
- Una buena investigación open source debe ser buena investigación y también tener una utilidad downstream clara y baja fricción.
- Hay que crear lanzamientos de código que sean utilizables, útiles y accesibles.
- Hay que explicar por qué fallan las alternativas evidentes y tener paciencia.
- Hay que entender las distintas categorías de usuarios y hacer evolucionar el proyecto en función de ellas.
- Es importante convertir el interés en comunidad para formarla y hacerla crecer.
6. Seguir invirtiendo en el proyecto a través de nuevos artículos
- Los proyectos open source y la investigación no son cosas separadas.
- Gran parte del tiempo invertido en open source puede consistir en hacer investigación nueva e interesante.
- Estar en la frontera del esfuerzo open source permite reconocer intuitivamente nuevos problemas muy temprano y recibir colaboradores y retroalimentación.
- Por ejemplo, ColBERT y DSPy han evolucionado gracias a varios artículos y colaboradores.
- La comunidad que se construye ofrece retroalimentación directa sobre el enfoque y acceso a excelentes colaboradores que entienden la importancia del problema.
Resumen de GN⁺
- Este texto trata sobre cómo maximizar el impacto en la investigación de IA a través de proyectos open source.
- Enfatiza que una gran visión y un proyecto consistente son más importantes que la cantidad de artículos.
- Explica la importancia de elegir problemas oportunos, pensar dos pasos adelante, hacer público y popularizar el trabajo, y hacer crecer proyectos open source.
- Destaca que la investigación y los proyectos open source no están separados, sino que pueden complementarse y desarrollarse mutuamente.
3 comentarios
Así que en estos días la investigación en IA ya no se hace en posgrados, sino en las grandes tecnológicas.
Las grandes tecnológicas publican más artículos recientes que los programas de posgrado. Qué mundo tan curioso..
Incluso hay muchos casos en los que contratan a estudiantes de posgrado como interns por algunos meses para investigar juntos y publicar un paper.
Opinión de Hacker News
El consejo de "invertir en proyectos y no en artículos" no es realista para estudiantes de doctorado o investigadores en etapa inicial
Para llevar adelante con éxito un programa de investigación, es importante elegir problemas oportunos y difundir ampliamente las ideas
Para los investigadores de IA, elegir temas útiles dentro de un plazo de 1 a 2 años puede ser una razón para irse a la industria
Es difícil medir el impacto real de un artículo en el mundo real
El consejo de "invertir en proyectos y no en artículos" significa que los buenos proyectos producen buenos artículos
Los artículos de IA suelen tener muchos autores, y en realidad la investigación verdaderamente influyente es poco común
En las etapas iniciales de una investigación, pequeñas mejoras pueden tener un gran impacto
Es importante hacer que los resultados de investigación sean fáciles de acceder, pero también es necesario no hacerlo todo público
El "hype" también es parte de la investigación
Este consejo puede aplicarse no solo a la investigación académica, sino también a las startups