- A pesar del bombo exagerado alrededor de las herramientas de programación basadas en LLM, la calidad real de los resultados del desarrollo de software no ha mejorado mucho y, por el contrario, se están desbordando productos más cercanos a la falsificación (forgery)
- La esencia de lo que hacen los LLM es permitir que una persona imite resultados potenciales, propios o ajenos, para producirlos más rápido; el problema aparece cuando eso se usa como sustituto de algo auténtico
- Los proyectos de código abierto están sufriendo daños reales: cierran las contribuciones públicas o suspenden los bug bounties debido a PR de baja calidad generados por IA
- Mientras la industria de los videojuegos está resistiendo de forma efectiva exigiendo, desde los consumidores, etiquetado y filtrado de contenido de IA, los ingenieros de software lo están aceptando sin defensas
- Para que los LLM dejen de mentir, es indispensable la atribución correcta de la fuente (source attribution), pero con la arquitectura actual de los modelos eso es técnicamente imposible
Objeción al marco de la supuesta inevitabilidad del uso de IA
- Según el bombo de la industria, el desarrollo de software tradicional ya terminó, pero tras años usando herramientas basadas en LLM, los resultados siguen prácticamente al mismo nivel que antes
- Una enorme cantidad de exageración sobre la tecnología atrae inversiones masivas, y esa inversión a su vez exige todavía más exageración, creando un ciclo
- Se siguen entrenando nuevos modelos para cumplir promesas que modelos ya retirados supuestamente debían haber cumplido
- "No usar IA está completamente bien" — no es una postura anticuada y, de hecho, puede implicar menos estrés y mayor satisfacción que adoptarla
Artesanía (Craft) vs producción en masa (Kraft): el marco de la falsificación
- Entre las muchas formas de enmarcar lo que hacen los LLM (ayuda, creatividad, productividad vs pereza, desechable, plagio), la palabra que sorprendentemente falta es falsificación (forgery)
- Si pintas una obra al estilo de Van Gogh y le pones su firma, es falsificación; si haces pasar un documento legal por auténtico, es falsificación; una investigación con datos manipulados también es falsificación — que algo lo sea depende del objeto y de cómo fue hecho
- Los LLM son herramientas que permiten a una persona crear falsificaciones de resultados potenciales, propios o de terceros, con mayor rapidez
- La imitación en sí puede ser legal como forma de libertad de expresión, pero el problema empieza cuando se intenta usar la falsificación como sustituto de un original
- Nadie te arrestará por "falsificar" una carta de Santa Claus, pero ni siquiera guardar una "moneda falsa" extremadamente refinada solo como pieza de colección está permitido en ninguna jurisdicción
La analogía de la protección de origen y los estándares de calidad
- Alimentos con denominación de origen controlada como "Brie de Meaux" exigen al mismo tiempo métodos tradicionales de fabricación, materias primas de alta calidad y un origen geográfico específico
- Si se permitiera producirlos en el extranjero, eso llevaría inevitablemente a una inundación de imitaciones baratas, dañando la marca auténtica y amenazando conocimientos locales escasos transmitidos durante generaciones
- El juicio individual de cada consumidor no basta para garantizar el funcionamiento adecuado del mercado, y el rango de productos que llega a los estantes ya está determinado por factores fuera de su control
- La calidad del queso artesanal representa una cadena de suministro completa operada con métodos modernos, y trasladarla a otro lugar exigiría enormes inversiones en capital humano, infraestructura y agricultura
- Toda sociedad debe trazar una línea entre el "queso artesanal tradicional" y los "huevos falsos hechos con químicos industriales"; solo una sociedad que entiende y preserva el valor de la artesanía alimentaria puede evitar tasas de obesidad superiores al 70% (como en el caso de Nauru)
El daño del slop de IA en el código abierto y la programación cotidiana
- Los mantenedores de código abierto fueron los primeros en sentir los efectos secundarios — ya era muy difícil encontrar colaboradores realmente motivados y adaptarlos a los objetivos y la forma de pensar de ingeniería del proyecto
- Empezaron a aparecer contribuyentes que envían PR programados con slop para inflar su currículum de GitHub
- tldraw cerró las contribuciones públicas, el proyecto curl suspendió su bug bounty, y otros proyectos respondieron burlándose de contribuyentes falsos
- En el trabajo diario con colegas de vibe-coding ocurre algo similar — parece que un empleado junior se adapta rápido, pero en realidad está delegando a un bot el proceso inicial de aprendizaje
- En 2026, si un empleado junior entrega un PR con explicaciones y comentarios extremadamente detallados, hay que sospechar de cada palabra
Ingenieros senior y la ilusión de la productividad 10x/100x
- Se dice que veteranos experimentados que usan IA producen 10 o 100 veces más código que antes, pero eso sigue sin entender que cada línea de código que se ejecuta y de la que dependes es un pasivo (liability)
- La afirmación de que "la programación con IA es genial porque todo lo que el agente necesita está explicado en la base de código" es fatalmente errónea — si eso fuera cierto, entonces en realidad no habría trabajo de programación que hacer
- La diferencia clave está en si el ingeniero pasó la mayor parte de su carrera resolviendo problemas creados por otro software, o resolviendo problemas que la gente ya tenía antes de que existiera ese software
- Solo lo segundo enseña a pensar en las restricciones reales del problema y en las necesidades de los usuarios
- Cuando el software se ve como un fin en sí mismo, se termina convirtiendo algo que bastaría con un VPS de $10/mes en una nube de infraestructura sobreingenierizada
Características del código slop y la reacción de la industria
- Un ingeniero con sentido de la artesanía detecta el slop fácilmente al revisar: código excesivamente repetitivo, complejidad innecesaria, rechazo a refactorizar, etc.
- Se observan casos en los que incluso seniors, pese a años de experiencia, cometen errores vergonzosos con vibe coding y los entregan tal cual
- El caso de Co-pilot Discord de Microsoft, donde se prohibió el insulto "Microslop" — una forma de encuadrar la reacción de los usuarios como "spam" o "dañina", haciendo que las promesas se traten como más importantes que los resultados reales
- A estas herramientas se las llama "adictivas" o "el mejor amigo que podrías tener", pero no se ve la explosión cámbrica de creatividad y logro que eso implicaría
Problemas estructurales de la industria del software y el papel de la IA
- Lo que la IA está produciendo en su mayoría es código pegamento (glue code), necesario porque las aplicaciones de software desde la revolución de la PC se han vuelto más cerradas, fragmentadas y corporativas
- Las API HTTP no ofrecen verdadera apertura porque exigen blobs JSON pobremente documentados cuyos esquemas cambian cada noche
- Muchas empresas todavía operan principalmente con Excel, y no existe una herramienta equivalente a Excel para JSON
- Se dijo que SQL liberaría a los negocios de la dependencia en herramientas propietarias, pero fracasó, y la historia se está repitiendo
- Si las apps Electron hechas con vibe coding siguen siendo preferidas frente a apps nativas multiplataforma, entonces cabe preguntarse dónde está realmente esa productividad 100x
- Si ni siquiera Apple puede mantener un sistema adecuado de formularios e íconos en sus sistemas operativos más recientes, las posibilidades de una IA entrenada con slop web son todavía menores
La resistencia efectiva de la industria de los videojuegos
- Los ingenieros de software se lanzaron sin chaleco salvavidas, pero la industria de los videojuegos está resistiendo de forma efectiva, impulsada por los consumidores
- Numerosos títulos de videojuegos pidieron disculpas y retiraron contenido de IA sin etiquetar
- Steam tiene políticas claras sobre contenido de IA, y SteamDB ofrece herramientas para filtrar juegos generados por IA
- La política reciente de Steam se actualizó para excluir usos de "mejora de eficiencia" en herramientas de desarrollo que no generan contenido mostrado al jugador
- Hay dos razones por las que el mercado de videojuegos resiste de forma efectiva:
- Es un mercado de distribución digital puramente D2C (directo al consumidor) — los gamers tienen toda la capacidad de elección, y los mismos gamers son quienes marcan el gusto y exigen transparencia
- La mayoría de los juegos son obras artísticas, compradas por su atractivo artístico específico — en el arte, la imitación se considera una degradación del valor del original y un robo de crédito
Contraste entre la reutilización de código y la originalidad artística
- Por lo general, el código no sufre por la reutilización o, en el caso de la infraestructura, incluso puede beneficiarse de ella
- Por eso los proyectos de código abierto son particularmente poco adecuados para atraer creativos artísticos talentosos — el espíritu de compartir sin costo implica que un diseño artístico puede ser apropiado de inmediato fuera de su contexto original
- La generación procedural clásica es un precedente digno de atención y, en general, no estuvo a la altura de las expectativas
- El caso de No Man's Sky (versión 2016): la promesa de crear contenido exponencial desde una fuente limitada terminó volviendo inútil la diversidad de sus propios resultados
IA generativa, bibliotecas pirata y ambigüedad legal
- Es natural que los artistas denuncien la IA generativa como plagio masivo, y también que emprendedores tecnológicos y curadores de datos no lo comprendan y entrenen modelos con bibliotecas pirata en la sombra
- Se acusó a Nvidia de intentar conseguir un acceso acelerado a la enorme colección de libros pirateados de Anna's Archive
- Hay una razón clara por la que los resultados son mediocres, toscos y sospechosos — la variedad de muestras de entrenamiento de origen ya no es más que slop para máquinas
- Eso genera una negación plausible (plausible deniability) en la que es imposible distinguir qué es cita, qué es alucinación y qué es original
- Poner etiquetas de contenido generado por IA o marcas de agua a contenido de IA es, en la mayoría de los casos, una forma de evadir responsabilidad, no una divulgación verdaderamente responsable
- Para que el vibe coding sea aceptable y justificable, hay que asumir paradójicamente que la producción del propio ingeniero es desechable, no creativa y no merece reconocimiento
La atribución de fuente como solución
- Ningún tribunal debió haber dictaminado sobre la legalidad o posibilidad de copyright de la totalidad de una salida de IA; una salida sin fuente debería tratarse como falsificación
- La solución al problema de los LLM es clara pero inalcanzable: que el LLM haga atribución correcta de la fuente junto con su razonamiento
- Esto podría revelar que buena parte del vibe code es en realidad copiar/pegar desde bases de código existentes, omitiendo autor original, licencia y enlaces
- En los modelos actuales, la atribución real es técnicamente imposible — la capacidad del LLM para mencionar fuentes y citar es en sí misma una propiedad emergente (emergent property) de los datos recopilados
- El LLM solo puede citar fuentes cuando citar encaja con la posición actual dentro del texto; no es más que una actuación de cita (citation role-play) que cita bien lo que suele aparecer bien citado
- Las implicaciones de exigir atribución son enormes: si los pesos pudieran atribuirse y la propagación hacia adelante pudiera auditarse, ¿qué forma tendría la retropropagación (backpropagation)? No cabría en
int4
- Eso es precisamente lo que las "herramientas de detección de IA" intentan resolver al revés
- Es paradójico que la siguiente gran tecnología posterior a la World Wide Web y a motores de búsqueda a escala de Google que la aprovechan sea una tecnología que, por diseño, no puede decir de dónde viene la información
- Para que la máquina deje de mentir, debe citar correctamente sus fuentes; y las empresas de IA también
3 comentarios
¿Qué es esto? Ya se me está empezando a acabar el vocabulario.
Aquí estoy sentado buscando "emergente, slop, atribución de fuentes, efecto de encuadre, explosión cámbrica".
Opiniones de Hacker News
El mercado de los videojuegos parece ser un caso raro en el que los consumidores reaccionaron negativamente a la IA, pero en realidad la reacción fue solo contra los assets artísticos hechos con IA
A nadie le importa si el código fue escrito con IA o no. Si ves la encuesta de IA de Steam, la generación de código ya está permitida
Al final, la expansión del coding con LLM es inevitable. Lo mismo pasa con la generación procedural: depende más de la capacidad de quien la usa que de la herramienta en sí
La discusión sobre los LLM ya se siente agotadora. Esta tecnología se está usando más para controlar que para potenciar a las personas, para facilitar despidos y para concentrar aún más la riqueza
Es como si los cerdos estuvieran debatiendo la utilidad de una máquina para hacer tocino
El movimiento ludita no era simplemente antitecnología. Les preocupaba la caída de la calidad, y en eso tenían razón
Las bufandas de lana artesanales de la Europa medieval eran completamente distintas de los productos modernos de fábrica. El avance tecnológico no siempre es un reemplazo 1:1
Incluso hoy, al ver herramientas internas creadas por gente no técnica que ahorran cientos de horas, uno siente que si funciona y da resultados, aunque no sea perfecto, ya es suficiente
Lo que los LLM han dejado al descubierto es que gran parte de la programación es código boilerplate
El valor real está en pequeñas innovaciones de nivel superior
El uso ideal de los LLM es como profesor. Conviene usarlos como herramienta para enseñar conceptos rápidamente en lugar de producir código
Como el queso o el jamón artesanal, quizá en el futuro aparezca el Artisanal Coding
En otras palabras, se volvieron una máquina que traduce especificaciones a código en lugar de personas
La realidad fría es que a nadie le importa nuestro código en sí
A la mayoría solo le importa si funciona, qué tan rápido es y cuánto cuesta. Al final, estamos más cerca de ser obreros de fábrica
Se parece a la sensación de pérdida que debió sentir un relojero al ver un torno automático
Al final, se está derrumbando la narrativa romántica de que protegíamos una “profesión creativa”
Toda esta discusión parece, al final, otro problema de la naturaleza humana que se repite como el meme de TTP (Time To Penis)
Este texto muestra una visión realmente realista y equilibrada
Tanto el texto principal como los comentarios son sorprendentemente negativos. ¿Será que ninguno siquiera ha probado Claude Code..?