Por qué me opongo a la GenAI y a todo lo que representa

• La crítica a la GenAI no apunta al aprendizaje automático útil en general, sino a los modelos generativos, considerados una tecnología sobrecalentada más dañina y más duradera que las criptomonedas y los NFT
• La IA generativa funciona entrenándose masivamente con creaciones humanas de internet para luego revender el acceso por suscripción, y el caso de los 82 TB de libros pirateados por torrent de Meta muestra el problema del saqueo de datos
• Los LLM pueden generar automáticamente contenido basura tipo comentarios las 24 horas para amplificar la desinformación, y los modelos entrenados con sesgo de derecha, como Grok, se señalan como especialmente rechazables
• En educación, pensamiento y programación, el vibecoding y el copiar-pegar reducen el aprendizaje por prueba y error, y aumentan la carga de revisión, la deuda técnica y los problemas de no determinismo
• La IA generativa también agrava la soledad, la promoción del suicidio, los documentos verbosos y los costos ambientales y de hardware, y hace difícil que internet vuelva a su estado anterior

---

Alcance de la GenAI y planteamiento del problema

• GenAI se usa como término para incluir los LLM que generan texto y los modelos que crean medios como imágenes y video
• El blanco de la crítica no es el aprendizaje automático en general usado para resolver problemas reales en distintas industrias, sino la IA generativa
• El procesamiento de imágenes con redes neuronales para encontrar señales de alto en imágenes se distingue como un aprendizaje automático útil que puede ser mejor que la detección clásica de características
• La IA generativa se considera la siguiente tecnología sobrecalentada surgida después de las criptomonedas y los NFT, pero evaluada como peor y con más probabilidades de durar que esos casos anteriores

Capitalismo y saqueo de datos

• Se critica a la IA generativa por operar con una estructura en la que toma como datos de entrenamiento creaciones humanas recolectadas masivamente de internet y luego vende el acceso al modelo en forma de suscripción
• Los registros judiciales que revelan que empleados de Meta descargaron por torrent casi 82 TB de libros pirateados para entrenar IA se presentan como un caso representativo del problema de adquisición de datos
• La lógica es que, si el objetivo fuera beneficiar a la humanidad, el desarrollo de IA debería hacerse de forma abierta, los datos deberían obtenerse legalmente, los modelos deberían distribuirse gratis, y el acceso no debería quedar bloqueado detrás de suscripciones cada vez más caras
• Se compara a las empresas de IA con reducidores que compran mercancía robada para revenderla, y la crítica se extiende a que en la IA generativa las grandes empresas ni siquiera pagan por los datos robados
• La IA se resume como una tecnología que, bajo un gasto de capital masivo, contamina múltiples industrias, permite a las big tech extraer rentas mediante el uso de tokens y acelera el deterioro de la calidad en las áreas que toca

Máquina de producir desinformación

• Incluso antes de la IA generativa, la desinformación ya era una gran industria, y la Internet Research Agency se presenta como una organización rusa de desinformación que difundía mensajes pro-Kremlin
• Se describe que esta organización operaba haciendo que personas rusas publicaran propaganda y desinformación prorrusa en redes sociales las 24 horas, y se trata dentro del contexto de su influencia en el ascenso del Trumpism en EE. UU. y de los vínculos entre figuras relacionadas con Trump y funcionarios rusos
• Los LLM pueden generar automáticamente contenido basura tipo comentarios las 24 horas, lo que vuelve mucho más grave el problema de la desinformación
• Se describe que en las grandes comunidades en línea hay muchos bots que primero publican contenido inofensivo y luego cambian a contenido político, casi siempre con el objetivo de provocar reacciones emocionales
• De ahí surge la afirmación de que, si en 2026 alguien se enoja por un comentario en línea, es muy probable que ese comentario sea falso y haya sido creado por un LLM para enfurecer al usuario
• En Alemania, se vincula al partido marginal de izquierda BSW y al partido de extrema derecha AfD con la idea de que Rusia los financia al menos indirectamente mediante corrupción
• Las posturas de AfD incluyen mejorar la relación con Rusia, eliminar las energías renovables, mantener los autos con motor de combustión, deportar extranjeros, salir de la UE y negar el cambio climático, presentadas como una agenda de derecha beneficiosa para Rusia
• La conclusión es que, si se detesta la desinformación, también deberían rechazarse los LLM, en especial los entrenados explícitamente con sesgo de derecha, como Grok

Promoción del suicidio y de conductas dañinas

• El artículo de Wikipedia sobre Deaths linked to chatbots se presenta como una página que recopila casos de personas que se suicidaron después de recibir orientación de LLM
• Se trata como una tragedia el riesgo de que una persona psicológicamente vulnerable o en un momento difícil de su vida reciba de un LLM una recomendación de suicidarse
• Pese a ese riesgo, el hecho de que la IA generativa se haya convertido en una industria de billones de dólares se presenta como un fuerte motivo de crítica

Educación y deterioro de la atención

• Se sostiene que la IA generativa está dañando la educación, conectándola con el problema de que el consumo de videos cortos y de baja calidad destroza la capacidad de atención de la gente joven
• Se critica que las big tech intenten meter LLM en el aula, de forma similar a como Microsoft pasó 30 años criando estudiantes acostumbrados a Windows y Office en las escuelas
• Las empresas ya ofrecen acceso para instituciones educativas a los LLM
• La cita de un artículo de Futurism, “me haría bastante feliz mandar todas las herramientas de genAI al sol”, condensa la postura de rechazo hacia la IA generativa

Reducción del pensamiento crítico y de la capacidad de resolver problemas

• Se argumenta que el daño de la IA generativa no se limita al mundo académico, sino que también afecta la capacidad general de pensar
• Se describe que algunas personas, después de la normalización de la IA, han dejado de pensar por sí mismas y ponen respuestas de ChatGPT por delante en casi cualquier pregunta o discusión
• Este fenómeno aparece no solo en debates presenciales, sino también en Reddit y en foros del formato antiguo
• Como evidencia de que la academia también aborda este problema, se enlaza un artículo en arXiv

Expansión de la soledad

• Se critica que la IA empeora la tendencia moderna de que la gente se quede en casa, en el sillón, deslizando el dedo en el celular sin sentido
• La tendencia de jóvenes varones que se distancian de mujeres de su edad y dependen de novias de IA se presenta como una mala señal para el futuro
• La soledad alimenta el extremismo y el odio, y vuelve más difícil la comunicación en la vida real
• Se critica que quienes se sumergen profundamente en relaciones falsas con IA tienen más difícil aprender a formar vínculos reales o a desarrollar empatía hacia alguien con necesidades distintas a las propias
• Se señala que los chatbots de IA no tienen opiniones propias capaces de influir en el pensamiento del usuario, no entienden cómo piensa el usuario y tampoco crecen experimentando el mundo como lo hace una persona
• Se presenta como prueba de la gravedad del problema que el papa León XIV criticó este aspecto de la IA generativa y otros problemas importantes

Deterioro del aprendizaje de programación y de la calidad del código

• Pérdida del aprendizaje basado en prueba y error

  • Se contrasta con el pasado, cuando se aprendía programación creando herramientas y resolviendo problemas sin conexión a internet, desarrollando así intuición sobre las computadoras y sus posibilidades técnicas
  • Se describe que hoy la gente joven está menos expuesta a entornos donde tenga que meterse de lleno para hacer que algo funcione, porque todo viene envuelto en apps y pantallas táctiles
  • Se critica que la IA generativa elimina incluso ese último elemento de “probar hasta que funcione y aprender en el proceso”
  • Si se le pide la solución a un LLM mediante un prompt, este devuelve un resultado, y en el trabajo se observa a veces que ese resultado se pega donde hace falta sin poder explicarlo
  • El problema no se plantea como no recordar las banderas de tar en la CLI de Linux, sino como copiar y pegar en la terminal un comando completo de tubería con xargs y esperar que no falle
  • Incluso cuando antes se copiaban fragmentos de Stack Overflow, al menos había que encajar esas piezas en la arquitectura y pensar algo sobre el código, pero con los LLM ese proceso se reduce

• Vibecoding y carga de revisión

  • Se describe al vibecoder como alguien que pide lo que necesita mediante prompts para que un LLM construya el programa completo o genere una parte de él
  • La práctica de generar un programa completo de una sola vez se llama “oneshotting”, y muchas veces ni siquiera se lee el código generado
  • A diferencia de la idea de que el LLM se usa solo como asistente o compañero de sparring, se critica que en los entornos profesionales reales hay mucho más código de baja calidad generado que código leído
  • Se describe que la lectura del código suele ocurrir recién en la revisión del MR/PR, cuando aparece un bloque de 9001 líneas de código generado
  • Esto crea una estructura en la que quien escribe hace el trabajo mínimo y la persona revisora asume la máxima carga de inspección, y se concluye que el vibecoding solo es más rápido cuando no se hace la revisión minuciosa necesaria

• Deuda técnica a largo plazo

  • Se plantea que, dentro de 5 a 10 años, los vibecoders dependientes de LLM habrán dejado en muchas bases de código software mal diseñado e imposible de mantener
  • La lógica es que para entonces ya no podrán avanzar sin LLM, y si la montaña de deuda técnica crece demasiado y además el LLM falla, la situación será grave
  • Se prevé que en las organizaciones podría surgir un nuevo rol dedicado a limpiar los problemas dejados por el vibecoding
  • Aunque se reconoce que el código de muchas organizaciones ya es un desastre, se presenta que la IA generativa empeorará la escala del problema de manera exponencial

• Agentes de código y problema de costos

  • Existe optimismo respecto a que el avance de los agentes de código mejorará el problema, pero aun si los LLM siguen mejorando, queda la duda de si eso se ofrecerá a bajo costo
  • Se señala que la fiebre de la IA ha absorbido cientos de miles de millones de dólares y que los accionistas querrán ganancias en algún momento
  • Se menciona un issue sobre la caída de rendimiento de un modelo frontier pocas semanas después de su lanzamiento, conectándolo con una tendencia en la que el precio se mantiene o sube

• Capacidades del desarrollador y no determinismo

  • Incluso si se asumiera que la IA generativa mejora la programación, se cuestiona en qué se diferencia de que el empleador simplemente pague una suscripción al proveedor del LLM si el usuario pierde capacidad de razonamiento y habilidades técnicas
  • Frente a la afirmación de las comunidades entusiastas de la IA de que quien no use IA se quedará atrás, se plantea la postura contraria: que se quedará atrás quien la use y dependa de ella
  • Se critica a los LLM como sistemas no deterministas incapaces de garantizar un resultado satisfactorio en el intento 11 aunque el mismo prompt haya funcionado 10 veces
  • Se concluye que los LLM no son software confiable, sino algo más parecido a tragamonedas glorificadas

Empobrecimiento de la comunicación

• Quienes usan IA generativa dicen que pueden redactar más rápido correos o documentos largos, pero esa práctica se critica como un uso egoísta que ralentiza a toda la organización
• Se da el ejemplo de que, si un desacuerdo que cabría en dos líneas es inflado por un LLM a 500 palabras, entonces 34 personas terminan gastando varias horas-persona en extraer la razón real del desacuerdo de ese texto
• Se contrasta con la práctica de escribir personalmente respuestas detalladas cuando hacen falta, pero condensando lo esencial para no desperdiciar el tiempo de otros
• La gente deja de invertir tiempo en su comunicación escrita, y los correos se vuelven largos y complejos hasta hacer pesada su sola lectura
• La tendencia a resumir con otro LLM los correos largos generados por LLM se compara con un túnel de red con proxies en ambos extremos, donde la codificación de transferencia entre proxies termina siendo texto de baja calidad

Daños adicionales y utilidad limitada

• Sin entrar en detalles, se presentan como problemas evidentes el boom de los centros de datos, el aumento del precio del hardware por la GenAI, las empresas a las que el precio de la DRAM les dificulta construir productos digitales realmente útiles, la pérdida de empleos por la IA y el problema ambiental de construir plantas de gas para entrenar generadores de baja calidad
• Se reconoce que los LLM pueden tener un papel en algunas aplicaciones útiles y menos dañinas
• La traducción puede ser útil hasta cierto punto, pero se limita diciendo que, cuando importan los matices, como en la literatura, la traducción humana puede ser más adecuada
• Se usa la analogía de que no se debe inventar el Torment Nexus solo porque tenga algunas propiedades marginales que ciertas personas consideren prácticas

Cambio irreversible y conclusión

• Se plantea que la IA generativa es como un genio que ya salió de la botella y que no se puede hacer retroceder, y que conviviremos con ella por el resto de nuestras vidas
• Internet no volverá al estado previo a la IA generativa, y se prevé que muchos de los problemas expuestos seguirán empeorando por su causa
• Se enlaza el clima de que el sentimiento anti-IA sigue empeorando, conectándolo con el deseo de que la humanidad resista y evite que todo se arruine
• Se cierra con la esperanza de que las empresas de IA y la mayor parte de las inversiones de las big tech en IA colapsen y de que esta enorme máquina de destrucción social y tecnológica se detenga

[GN⁺]

Opiniones en Lobste.rs

• Aunque hay cierta superposición entre el grupo que impulsaba las criptomonedas y los NFT y el que impulsa la IA, no son lo mismo, y además es claro que la IA es mucho más útil, así que me cuesta coincidir con esa comparación
  El argumento de venta de las criptomonedas tampoco ha cambiado nunca y siguen siendo más bien un conjunto de activos especulativos. Creo que el grupo que las promueve se parece más a quienes promueven el oro o la plata que a la gente interesada en la IA
  Personalmente, las personas que consideraba con cierto nivel de capacidad técnica y buen juicio dudaban de que las criptomonedas encontraran casos de uso útiles, pero los modelos más avanzados parecen haber producido más bien el efecto contrario

  • Nunca hubo dudas de que las criptomonedas y los NFT eran útiles para el lavado de dinero y varios negocios criminales
    Casi no existe tecnología completamente inútil, y suele ser más significativo juzgarla según a quién beneficia y en qué medida. Como muestra bien el texto original, los LLM fueron evidentemente útiles desde el principio para spammers, estafadores, plagiadores y propagandistas. Más allá de que los grupos promotores se superpongan, los LLM se parecen mucho a Bitcoin y los NFT en que concentran la riqueza en unos pocos y perjudican a la sociedad y al medio ambiente en un sentido más amplio
  • Según mi experiencia, los mismos estafadores que promovían los NFT de Bored Yacht Club ahora están alabando el absolutismo de la IA
    Claro, puede ser una impresión bastante subjetiva

• Este año las acciones de ciberseguridad web subieron mucho. Algunas empresas se dieron cuenta de que la estrategia de usar la mayor cantidad posible de tokens era una tontería
  Durante los próximos 10 años quedará trabajo para arreglar estas cosas
  Así como ahora nadie habla de big data, en unos años nadie hablará de agentes

  • Ya no parece usarse mucho el término big data, pero eso no significa que haya desaparecido
    Solo desapareció la palabra de moda; el concepto en sí sigue pareciéndose bastante a cómo funciona la economía de internet. ¿La tecnología publicitaria, Google e incluso el contenido basura hecho con IA no necesitan ese tipo de datos masivos para entrenarse?

• Siento que la mayoría de estos argumentos probablemente también aparecieron cuando internet se masificó

  • Para nada. Al menos a inicios de los 2000, yo diría que la gente era muy optimista con internet. De mediados de los 90 no sé mucho, pero bueno
    El optimismo con la IA parece existir solo en la cabeza del big tech y de la gente mayor; los jóvenes parecen estar más en contra de la IA
  • Para nada. Sí hubo algo de discurso sobre que “aumentaría aún más la soledad”, pero la experiencia real lo refutó. Antes podías encontrar a tu gente en internet
    IBM incluso sacó un anuncio de TV de OS/2 con monjas desesperadas por poder navegar la web. Ninguno de los otros argumentos de este texto apareció respecto de internet
    Hay un argumento en contra que sí existía con el internet temprano, pero no con la “IA” basada en LLM. La RIAA, la MPAA y otros grandes cárteles perdieron completamente la razón por las infracciones de copyright, y si te declaraban culpable por una sola canción o película, tu vida podía arruinarse. Ahora Meta, ByteDance, Anthropic y OpenAI vuelven a copiar todo el texto escrito por humanos cada 10 horas. Da igual si ya lo habían copiado antes. Todo lo que generan los LLM es producto de lo que en su momento los cárteles del entretenimiento llamaban una “amenaza existencial para el modo de vida estadounidense”
  • Me hace pensar de inmediato en Silicon Snake Oil

• Como alternativa al cártel cerrado de la IA y a una visión únicamente capitalista, hasta ahora habría que considerar a Hugging Face como un buen ejemplo