- Mientras la IA reemplaza una gran cantidad de empleos, al mismo tiempo crecen nuevos trabajos humanos dedicados a limpiar los resultados sin sentido creados por la IA
- Con la expansión de las herramientas generativas, se dispara el contenido de bajo costo y producción rápida, y empieza a destacarse el fenómeno de compensar la baja calidad y los errores con trabajo humano de posedición y corrección
- En texto, imagen y video, el AI slop se desborda, y se consolida un problema estructural que se distribuye a través de plataformas virales, de búsqueda y de comercio
- Cada vez más escritores, diseñadores y desarrolladores trabajan no como creadores, sino como personal de limpieza
- En lugar de depender de técnicas como la corrección multiparte o las solicitudes de cobertura, la industria está aumentando el trabajo de depuración digital que eleva la calidad apoyándose en el juicio humano sobre contexto, emoción y veracidad
- Como resultado, en vez de cumplir la promesa de reemplazar la contratación de creadores originales, se generan un nuevo costo de corrección de resultados de IA y un riesgo de burnout
- La solución de fondo está en aclarar el uso de la IA como herramienta mediante un diseño human-in-the-loop y una redefinición de los estándares de calidad, para restaurar una cultura de producción centrada en la autenticidad y la integridad
La ironía de una era en la que los humanos arreglan los problemas creados por la IA
- Mientras la IA reemplaza muchísimos empleos, al mismo tiempo se da la situación de contratar humanos para ordenar resultados absurdos y erróneos creados por la IA (slop), lo que crea una nueva categoría laboral
- Diseñadores, escritores y artistas digitales están siendo destinados a corregir y mejorar resultados inexactos generados por la IA, en lugar de crear directamente
WHAT IS AI SLOP
- El AI slop es una evolución del spam: contenido masivo de baja calidad que puede tener atractivo superficial, pero carece de creatividad, significado y confiabilidad
- Herramientas como ChatGPT y Midjourney permiten generar contenido de baja calidad en masa
- Se expande en múltiples formas: publicaciones sociales, ebooks de Amazon, música en Spotify, artículos periodísticos e incluso imágenes en revistas académicas
- Este contenido parece convincente a simple vista, pero carece de significado, originalidad y confiabilidad, como “calorías vacías”
- Con la caída del costo del video con IA, también se desborda el slop en video, y se han reportado muchos casos virales surrealistas, como videos de gaviotas rompiendo el vidrio de un auto
- Los videos estilo CCTV de conejos saltando en trampolín también muestran muchos errores, como dos cabezas o desaparecer a la mitad
- Incluso en la publicidad corporativa aparece texto distorsionado, con casos como el error ortográfico del logo de Coca-Cola (“Coca-Coola”)
HARMS OF THE AI SLOPOCALYPSE
- La IA produce en masa artículos, reseñas y publicaciones de baja calidad que parecen persuasivos, acelerando el colapso de la confianza en medio de una sobrecarga de información
- Va más allá de la enshittification de los negocios en línea y se expande hacia una enshittification de la cultura
- Arte, música, video, libros y reseñas que antes hacían creadores reales ahora son reciclados y reproducidos por la IA, degradando la cultura misma
- La IA también consume enormes cantidades de electricidad y agua para producir sus resultados, por lo que la carga ambiental es grande
- Operar modelos a gran escala con alto consumo de energía y agua eleva el costo ambiental y provoca frustración y burnout en las personas encargadas del trabajo de limpieza
- También hubo casos que desinformaron al público, como el desfile fantasma de Halloween en Dublín en 2024, marcado por errores tipográficos y texto ininteligible en materiales creados con IA
- El caso de los diagramas generados con IA en un artículo retractado de la revista Frontiers puede verse como una advertencia sobre la contaminación del ámbito académico
CLEANUP CREW TO THE RESCUE
- Contrario a la promesa de eficiencia de la era de la IA, se forma una estructura en la que los humanos cargan con costos invisibles (limpieza y control de calidad), y se dispara la demanda de personal especializado en corrección posterior
- Rewriter de contenido con IA: reescribe textos producidos por IA reforzando contexto, emoción y hechos
- Art fixer: corrige partes irreales, errores de texto y otros problemas en ilustraciones, logos e imágenes creados por IA
- Code debugger: corrige errores y optimiza código incompleto generado por Copilot y ChatGPT
- Pulidor de video: artistas de VFX corrigen errores físicos o falta de naturalidad en videos generados por IA
- La mayoría de estos empleos no consisten en colaboración, sino en trabajo centrado en corregir y retocar, y no son espacios donde se exprese la verdadera creatividad humana
- En Upwork, Fiverr y Freelancer, entre otras plataformas, aumenta la demanda de trabajos de creación y corrección guiados por humanos
- Artistas y escritores están siendo empujados hacia tareas simples de limpieza, como si fueran personal de saneamiento del entorno digital, lo que profundiza la pérdida de creatividad y el desgaste
La verdadera ironía y la solución
- Parecía que la IA iba a reemplazar a los humanos, pero en la práctica se crea una estructura doble en la que se contrata de nuevo a personas como apoyo para compensar la inmadurez de la IA
- Se forma una economía paralela en la que los humanos vuelven “humana” a la IA, y ocurre la tragedia de que algunas personas que podrían haber sido creadoras son reasignadas al papel de “limpiadores”
- El verdadero problema no es la IA en sí, sino la elección humana de priorizar velocidad, volumen y costo por encima de la calidad
- La solución no es abandonar la IA ni hacerla más inteligente, sino un uso y una participación humana más sabios
- Hay que redefinir la IA como una herramienta combinada con la creatividad genuina y la empatía humanas
- El ser humano debe estar en el centro, y no se debe caer en una estructura donde haya que estar arreglando todo el tiempo los problemas de los resultados creados por la IA
- Lo verdaderamente peligroso es acostumbrarnos al AI slop y olvidar el valor creativo humano
- El actual personal de limpieza es una solución temporal; a largo plazo, debe apuntarse a un futuro tecnológico basado en la verdadera creatividad humana y la autenticidad
1 comentarios
Opinión en Hacker News
Se decía que la IA iba a reemplazar a los humanos, pero en realidad creo que hay dos fenómenos. Primero, que la IA no logró generalizar el trabajo especializado; segundo, que la cultura mediática se está diluyendo y deteriorando. Sobre el primer fenómeno, todavía estoy esperando más indicadores, como los datos de la BLS. El segundo es que apareció una nueva categoría de medios, con una vibra parecida al chiptune o a los memes de "deep fried"
El trabajo realmente especializado, por ejemplo traductores, diseñadores o copywriters, sigue siendo necesario al menos en niveles intermedios o superiores. No parece que vayan a ser reemplazados de inmediato, por eso no se refleja bien en las estadísticas oficiales. Más bien, quienes sí están siendo reemplazados, o directamente ya no están siendo contratados, son los interns o perfiles junior. La IA puede hacerse cargo de bastante de ese nivel, pero incluso ese cambio casi no aparece en las estadísticas oficiales de desempleo. Apenas se puede observar en la caída de las vacantes, y aun así eso también puede deberse a muchas variables, como la incertidumbre económica o la situación internacional. Al final, en unos años la industria de medios y la creativa van a quedar completamente destruidas. Si la IA bloquea la entrada a la carrera profesional, desaparecerán los interns, luego los juniors y poco a poco también los perfiles intermedios y senior. Al final solo quedarán personas de traje que tocaron Photoshop hace 15 años y el equipo de ventas
Dudo que las estadísticas oficiales de la BLS lleguen a ser realmente confiables. Pensando en cómo trató Trump a esa institución después de que publicó estadísticas de desempleo que no le gustaron, me inspiran todavía menos confianza
La creatividad humana y la capacidad de explicación hasta ahora habían sabido manejar bien la aleatoriedad para acercarse a la especificidad. Pero ahora la automatización de esa aleatoriedad, como la IA no está entrenada para la especificidad, más bien está embotando la punta de la creatividad y alejándonos cada vez más de los detalles realmente finos. Este retroceso se vuelve especialmente evidente cuando la gente cree por error que la salida de la IA es válida y detallada. Es una locura, pero la tecnología lo normaliza
No es irónico. Si ves a humanos en una fábrica separando productos defectuosos, es porque antes hubo una época en la que esas mismas personas habrían sido artesanos que fabricaban directamente el producto
En una fábrica, los productos defectuosos son raros y fáciles de distinguir. Simplemente se desechan y la máquina sigue produciendo el resto. Mucho más rápido que un artesano. Pero con la IA el problema es que no está haciendo lo mismo una y otra vez, así que es difícil detectar el problema; y aunque encuentres el error, tienes que corregirlo manualmente uno por uno, y al final puede que haya que tirar todo y empezar de cero. En ese caso, todo el tiempo y esfuerzo invertidos en la IA se desperdician, y habría sido mejor dejárselo a un artesano desde el principio
Da una sensación bastante vacía comparado con cómo promocionaban a la IA como la gran revolución de los últimos siglos. En resumen, todavía no hemos entrado en la era de la IA
Cuando leí eso de "humanos en una fábrica separando productos defectuosos", recordé que, según el sitio de una empresa india de outsourcing, sus trabajadores no separan productos defectuosos sino que hacen "clean up". Si suponemos que en una fábrica la mayoría de los productos fueran defectuosos y fuera fácil identificarlos, pero en vez de tirarlos hubiera que arreglarlos todos, entonces el costo energético del proceso de producción sería enorme
Que humanos limpien los errores de otros humanos es algo común en todas partes. En desarrollo de software, más todavía
No es tan raro que el primer lugar donde la IA cambió las cosas de forma visible haya sido el e-commerce. La mayoría de las tiendas en línea solo tienen una propuesta central, y la presentación no importa tanto. Mientras no parezca una página de inicio de 2003, sinceramente a casi nadie le importa mucho cómo se ve el front de una tienda en 2025. Los anuncios solo tienen que llamar la atención; su objetivo no es ser arte. Y si algo hace bien la IA es producir cosas comunes, suficientemente aceptables para que cualquiera las vea y diga que están bien. En realidad son bastante insípidas. Pasa lo mismo con la música, las imágenes y los textos. Claro, la parte de sentido común, como dibujos con ocho dedos, sigue siendo una tarea pendiente, pero para una revisión superficial ya llegamos al punto en que el resultado generado por IA es casi indistinguible de uno real. Por eso, en este momento la IA sirve bien para producir "moldes". Antes Lorem Ipsum era el texto de muestra; ahora la IA genera esqueletos de ese tipo para todas las partes. Los humanos tienen que agregarle personalidad a esa base que la IA deja regada. Al crear algo siempre hacen falta riesgos y decisiones. Esas decisiones implican gusto, y alguien tiene que hacerse responsable de eso. Además de corregir errores obvios, al final lo importante es adaptar ese esqueleto a medida para cada situación
Como decía Brad Pitt en su papel de Rusty: "Usa solo tus palabras cuando puedas. No te detengas, mira fijo tu objetivo. Sé lo suficientemente específico como para no dejar huella. Sé gracioso, pero no hagas chistes. Debes dar la impresión justa para que te olviden apenas te alejes. Y lo realmente importante es... nunca, nunca... bajo ninguna circunstancia..." (cita de la película <Ocean's Eleven>)
Compras y publicidad son áreas donde la IA realmente puede lucirse. Hay señales de retroalimentación muy claras sobre si algo funcionó o no. Claro, esas señales tienen que aprovecharse bien; no basta con tirar una salida de LLM en cualquier lado
En el fondo no ha cambiado tanto respecto a los consultores de siempre. Produce código más limpio y mejora la eficiencia de los sitios de empleo. No hay mucho realmente nuevo. Era algo que todos ya predecían
Se siente como si hubiera surgido el rol de gerente medio que administra empleados que no saben aprender
Antes de que la IA llegue al AGI que prometía, siento que todos vamos a volvernos locos en una especie de slopocalypse como la del cuento corto de PKD, 'Sales Pitch'. Sales Pitch (short story)
La mayor ironía es que incluso el único comentario en ese artículo fue escrito por IA
Yo creo que todavía no hemos entrado en la era de la IA. Parece que está por llegar, pero no siento que los LLM puedan llamarse IA, y el machine learning es más práctico. No sé si en el futuro los LLM evolucionarán o si terminarán quedando obsoletos
Los LLM son una aplicación del machine learning, así que se influyen mutuamente. Los LLM no son esa IA única que solemos imaginar, pero sin duda marcaron un hito enorme en el procesamiento del lenguaje. Antes, procesar lenguaje natural era uno de los indicadores representativos del AGI. Al final es solo cuestión de tiempo: creo que en el futuro aparecerán modelos grandes multisensoriales, capaces de entender y aprender de los cinco sentidos humanos, e incluso de auto-modificarse. Incluso podrían existir modelos que manejen sentidos nuevos que los humanos no tenemos
Da la impresión de que cada vez se corre un poco más hacia atrás la meta de lo que cuenta como haberlo logrado
Llevamos décadas haciendo este tipo de trabajo. Hace más de 20 años me contrataron para corregir y entrenar programas de reconocimiento de voz u OCR, y un amigo mío se dedicaba a corregir geotags. Los sistemas de IA tienen una historia larga, y al principio la gente metía reglas de Prolog a mano, o programadores iban codificando una por una las reglas en programas como ELIZA o Generalised Problem Solver