La ilusión de las promesas sobre AI coding: por qué no vemos una explosión de 'shovelware'
(mikelovesrobots.substack.com)- Al revisar con datos las recientes afirmaciones sobre aumentos de productividad de las herramientas de AI coding, en realidad ni la velocidad ni la cantidad de resultados aumentan de forma visible
- Según la investigación de METR, los desarrolladores creían que las herramientas de AI coding mejoraban su productividad en 20%, pero en realidad cayó 19%
- Las innumerables frases de marketing y las exageradas afirmaciones de productividad 10x por parte de empresas y desarrolladores no se están reflejando en la realidad del mercado ni en los nuevos lanzamientos de software
- No se observa un fenómeno como un fuerte aumento del Shovelware (apps producidas en masa, software de baja calidad), así que no hay cambios visibles
- La exageración de productividad por parte de empresas como GitHub, Copilot, Cursor, Google y OpenAI, así como de algunos desarrolladores, se está usando indebidamente para inversión, reestructuraciones y fijación salarial
- Conclusión central: “Mientras no salga realmente más software, la afirmación de que el AI coding vuelve 10 veces más productivo a un desarrollador es ficticia”, por lo que los desarrolladores no deberían dejarse presionar y deben responder con datos
Introducción: desarrolladores de software molestos con el AI coding
- Tras vivir mucho tiempo como desarrollador de software, el autor siente orgullo e identidad por la programación
- Al inicio de la adopción de herramientas de codificación basadas en IA tenía expectativas altas, pero una investigación reciente (METR) lo llevó al escepticismo
- Pensaba que el AI coding lo hacía aproximadamente 25% más rápido, pero el estudio de METR mostró que en cambio lo hacía 19% más lento
- Ese estudio confirma que la percepción de los desarrolladores sobre la eficiencia de las herramientas de IA y los datos medidos directamente son completamente opuestos
- Sus propios experimentos también le hicieron sentir que usar IA no tiene un impacto positivo en el tiempo real de programación
Verificación directa: experimento comparativo con IA y aleatorización
- Aplicó un método experimental para medir la diferencia de tiempo (Delta) entre usar IA y no usarla por unidad de trabajo
- Los datos obtenidos durante 6 semanas no encontraron una diferencia estadísticamente significativa
- A pesar del tamaño reducido de la muestra, confirmó una tendencia en la que el uso de IA en realidad lo hacía 21% más lento (la misma cifra que en el estudio de METR)
- Si realmente hubiera existido una mejora de 2x o 10x, habría aparecido con claridad en los datos
- El sueño actual del AI coding no se está materializando y en la práctica no hay cambios
Expectativas y realidad: por qué no hay una explosión de Shovelware
- Si la revolución de productividad del AI coding fuera real, debería haber una explosión de todo tipo de apps, servicios y juegos
- Circulan por todos lados mensajes de marketing de muchas herramientas de AI coding (“Built to make you extraordinarily productive”, etc.)
- Google, OpenAI y GitHub Copilot también afirman aumentos de velocidad del 25% o productividad 10x para desarrolladores
- Pero en los datos reales de nuevos lanzamientos de software (GH Archive, BigQuery, etc.) no se observa un crecimiento pronunciado ni una explosión
- A pesar de la difusión masiva del AI coding desde 2022, no ha habido grandes cambios en las cifras globales de nuevos releases y proyectos
Impacto en el mercado y realidad de los desarrolladores
- Ya se ven efectos sociales dentro de la industria, como estrategias AI-First, FOMO, despidos masivos y reducción de salarios para desarrolladores
- En la práctica del desarrollo real, las herramientas de IA no están ofreciendo una revolución de productividad
- Ni la curva de aprendizaje ni la pericia con las herramientas explican una diferencia absoluta de productividad
Conclusión: necesidad de un juicio frío y basado en datos
- La clave es confirmar con datos que hasta ahora no ha cambiado el volumen de nuevo software entregado
- No hay evidencia para la afirmación de que alguien se haya convertido en un coder 10x gracias a la IA
- Los desarrolladores no deben ceder ante la presión y deben elegir herramientas con base en los datos que ellos mismos hayan verificado
Respuesta a objeciones frecuentes
-
"Si dominas bien el prompting, te conviertes en un desarrollador 10x"
- Si de verdad hubiera personas logrando una productividad 10x, la producción mundial de nuevo software ya se habría más que duplicado
- La evidencia importante no es la afirmación, sino los resultados objetivos (apps, proyectos, etc.)
-
"Todavía está en una etapa temprana; hace falta tiempo"
- Ya se han invertido miles de millones de dólares y además ya se está implementando en el trabajo real
- Las decisiones de hoy afectan directamente la vida de personas reales
-
"Si no lo adoptas ahora, te vas a quedar atrás"
- Incluso en datos de Github Copilot, el aumento real de productividad asociado a una mayor experiencia es extremadamente pequeño (29% → 34% de tasa de aceptación)
-
"Solo mejoró la calidad; la cantidad sigue igual"
- La calidad general de la industria, de hecho, está retrocediendo, y también se están haciendo menos pruebas
- Si de verdad fuera una herramienta para crear desarrolladores 10x, la inundación de Shovelware debería ser una realidad
-
"Todo gira en torno a sitios web y hoy ya no importan los nombres de dominio. Todo son subdominios de lugares como Vercel"
- Sigue habiendo muchos usuarios que prefieren dominios propios
-
"El aumento de dominios .ai (47% este año) = aumento real"
- El crecimiento de nuevos dominios se debe solo al pivot de startups de IA, no a una explosión en la cantidad total de nuevos dominios
- El número total de dominios no muestra eso
-
"La esencia del desarrollo está en tareas distintas al código"
- En entornos de desarrolladores individuales o equipos pequeños, no en grandes empresas, el código sí es el centro real
- Aun así, no se ve un aumento claramente perceptible de nuevos proyectos que satisfagan pequeños impulsos de programar
Cierre
- Los desarrolladores en realidad no están lanzando más cosas
- La afirmación de que el AI coding ofrece productividad 10x se puede refutar con datos
- No hay que dejarse arrastrar por el FOMO ni por la narrativa de marketing de la industria; hay que evaluar con base en resultados reales
- Mensaje del autor: “Si sientes presión, muestra los datos y los gráficos. Exige comprobantes para las afirmaciones de productividad 10x.”
Aún no hay comentarios.