- Se expresa el temor de que la inteligencia artificial se estanque en su nivel actual y que la gente deje de aspirar a una mejor calidad
- La IA actual puede generar rápidamente resultados con un 90% de avance, pero existe el riesgo de que desaparezca la cultura de esforzarse por ese 10% restante de pulido
- Se plantea preocupación por el fenómeno de lanzar productos ‘suficientemente buenos (good enough)’ tal como están, y de que los consumidores los acepten sin espíritu crítico
- Las herramientas de IA están produciendo en masa resultados uniformes, y cada vez se vuelve más difícil crear software original y hecho con oficio
- Más que el avance tecnológico, el problema mayor es el deterioro de la calidad y la creatividad: si tanto desarrolladores como usuarios se vuelven indiferentes, el oficio del software podría desaparecer
Los límites del avance de la IA y el riesgo del nivel ‘suficientemente bueno’
- Si la IA se detuviera en su nivel actual, existirían modelos capaces de casi completar un navegador web o un compilador, pero seguirían siendo imperfectos
- Se pone como ejemplo la imperfección de un vehículo autónomo que funciona en la mayoría de las situaciones, pero falla en momentos críticos
- Si estos resultados completados al 90% siguen multiplicándose, surge el miedo de que la sociedad deje de buscar ese 10% restante de acabado
- El núcleo del problema no está tanto en la IA en sí, sino en la actitud humana de considerar que algo es ‘suficientemente bueno’
El ‘slop’ y el deterioro de la calidad del software
- El autor expresa preocupación por la normalización de los resultados toscos producidos por IA (slop)
- Señala que apps o contenidos creados por IA se evalúan solo como ‘lo bastante buenos para lanzarse’, sin aprendizaje ni comprensión real sobre su calidad
- Incluso si agentes de IA escriben apps, se considera problemático que quienes las administran las distribuyan sin entender la calidad del resultado
- Se describe esta tendencia como una especie de dropshipping del software, que termina produciendo algo todavía más barato y de peor nivel que la fabricación en masa tipo IKEA
La uniformidad de las herramientas de IA y la pérdida de creatividad
- Modelos de IA como Claude pueden ayudar a aprender nuevas tecnologías, pero al final tienden a converger en una app promedio estilo ‘Next-React-Tailwind’
- Incluso al intentar crear con herramientas de IA una app original (por ejemplo, Paper by FiftyThree), el resultado termina siendo algo común y sin inspiración
- La IA no maneja bien la creación que se sale del camino predefinido, y eso funciona como un límite para el desarrollo de software creativo
Un problema centrado en las personas y en la estructura de la industria
- El ‘slop’ no es un fenómeno nuevo, sino un problema que ya proviene de malas decisiones humanas y de estructuras de incentivos defectuosas
- Sillas incómodas, resultados de búsqueda contaminados por SEO y UI pésimas son todos resultado de decisiones humanas
- En la cultura de “Move fast and break things”, las apps hechas con oficio desaparecen por las copias gratuitas de las grandes empresas y la destrucción del mercado
- Los agentes de IA pueden repetir este proceso más rápido, acelerando así el ciclo de desaparición del buen software
La indiferencia de usuarios y desarrolladores
- También existe la expectativa de que las herramientas de IA puedan reducir la brecha entre usuarios y desarrolladores
- Se mencionan como ejemplo hojas complejas de Excel creadas por personal de contabilidad o usuarios que implementan automatizaciones en TikTok
- Sin embargo, se plantea que estos usuarios creativos podrían ser casos excepcionales, y que la mayoría de la gente probablemente sea indiferente a los problemas técnicos, la privacidad o la calidad
- Al final, si la sociedad se conforma con un nivel ‘suficientemente bueno’, podrían desaparecer el oficio y la cultura de desarrollo creativo
- El texto concluye con una visión desesperanzada: “aunque nuestro oficio técnico muera, a nadie le importará”
1 comentarios
Opiniones en Hacker News
Con la adopción generalizada de productos de IA generativa, resulta lamentable que la gente no vea el mundo dentro de un contexto histórico
El impacto de la IA en el mundo es similar a cambios tecnológicos del pasado, y la forma en que funciona el mundo no cambia tanto
La mayoría de los productos y servicios han mantenido solo un nivel “suficientemente bueno” de funcionamiento, sacrificando calidad
Igual que con unas botas de senderismo, si un producto solo necesita durar 20 millas, no hay razón para comprar algo más durable; con el software pasa lo mismo
A la mayoría de los usuarios no les importan la seguridad, la privacidad, la mantenibilidad o la robustez
Esta realidad no es nueva y seguirá siendo así
Solo se indignan cuando ocurre algo como una gran filtración de datos o una caída global
Eso es precisamente lo que son los requisitos ocultos (hidden requirements)
Cuando cambian los requisitos, el software también llega a su límite, igual que unas botas pensadas para 20 millas no sirven para recorrer 35
Hay productos baratos que duran mucho, y también muchos proyectos caros que son un desastre
Surge la duda de por qué no se puede hacer desde el principio algo barato y de buena calidad
Porque la gente no quiere gastos de capital (capex)
Casi nadie quiere comprar un auto más caro que una casa o unos zapatos de 2000 dólares
Por ejemplo, el Model T de Ford popularizó el automóvil al reducir los costos de fabricación
La calidad bajó, pero la accesibilidad creció de forma explosiva, y al final se llegó a un nuevo punto de equilibrio
La alta calidad solo se mantiene en nichos donde está económicamente justificada
Da miedo pensar en cómo va a cambiar la civilización
Los ricos serán más ricos y mucha gente perderá su empleo y su esperanza
Una sociedad sin ingresos es insostenible y corre un alto riesgo de derivar en violencia
Se cree que casi no hay gente con poder capaz de impedirlo
Como referencia, se mencionan Survival of the Richest de Douglas Rushkoff y este video de YouTube
Algunas cosas empeoran y otras mejoran, y es difícil afirmar que haya una disminución o un aumento neto
Cada época tiene problemas distintos que resolver
Hay una preocupación de fondo sobre los sistemas basados en LLM
Pero esta inquietud ya existía antes de los LLM
Igual que con el offshoring (tercerización en el extranjero) de antes, ahora son granjas de GPU las que producen código en lugar de personas
La diferencia es que esta vez la inversión privada ha llevado ese costo casi a cero
Al final, ese precio se terminará pagando en algún momento
pero ahora se está concentrando en los países más ricos
Servicios como ChatGPT cobran suscripción, y al final se ajustarán a precios del nivel del outsourcing en India
La calidad del código no depende de la raza, sino de la inversión y la gestión
La IA generativa es una continuación de la industrialización
Es una estructura orientada a crear productos lo más rápido y barato posible
Lo “suficientemente bueno” se volvió el estándar, y por eso no se detiene la acumulación del deterioro de la calidad
El sistema es tan grande que resulta difícil cambiar de dirección
En el mundo startup, la mayoría valora más la velocidad que la artesanía
Es común escuchar consignas como “Move fast and break things”
En realidad, la mayoría nunca se preocupó demasiado por ese último 10% de calidad
De hecho, los LLM podrían incluso acelerar la corrección de bugs
Problemas que antes no se arreglaban con el argumento de “las estadísticas de usuarios muestran que a nadie le importa” podrían resolverse más rápido
Tener 0% de bugs es casi imposible, y los usuarios toleran ciertos errores a cambio de obtener las funciones que necesitan
Los LLM no cambian ese equilibrio, pero sí podrían reducir las oportunidades de que competidores apunten a nichos de usuarios
Frente a la frase “me da miedo que muera el oficio del artesano”,
se piensa que si todavía hay personas que aman esa habilidad, entonces no morirá
Los LLM parecen una encarnación del principio de Pareto
Si puedes obtener el 80% del resultado con el 1% del tiempo, a nadie le importa el 20% restante
Eso deja en evidencia la debilidad de una cultura que maximiza el consumo por encima de la calidad
Ya existían fenómenos como las granjas de contenido, y ahora estamos viendo su punto final en el despilfarro de los centros de datos
Está acelerando una cultura que incluso ha perdido el sentido de lo que significa la calidad
Una forma de pensar que cree lo contrario terminará por destruirse a sí misma
Pero como los seres humanos son irracionales, no se puede saber cuándo llegará ese “al final”
Estados Unidos es más tolerante con lo “suficientemente bueno”
Japón ni siquiera lanza productos así
Por ejemplo, la serie 3D Mario de Nintendo muestra un nivel de pulido que un estudio estadounidense ni imaginaría
Apple es una excepción por su obsesión con la calidad, mientras que Microsoft tiene fama de “no tener gusto”
Existe mucho malestar en el trabajo real con los desarrolladores que usan LLM en exceso
A quienes les toca revisar o mantener código generado por LLM se les multiplica el trabajo por las estructuras de código antihumanas
Creen que son “eficientes”, pero en realidad hacen perder el tiempo a los demás
Ojalá esta situación termine
Si se trata de un texto escrito por alguien que usa un dominio japonés, resulta interesante
Los japoneses tienen mucha paciencia con la calidad, mientras que los estadounidenses tienden a conformarse con algo “suficientemente bueno”
Que productos caros como los de Grado se sigan vendiendo aunque estén ensamblados con pistola de pegamento es un ejemplo de ello