No me importa qué tan bien funcione tu ‘IA’
(fokus.cool)- Incluso en comunidades hacker se está extendiendo la autojustificación del uso cotidiano de la IA, y se hace visible la realidad de programadores que atraviesan ansiedad existencial y cambios abruptos en el valor de su trabajo frente a los LLM
- Incluso desarrolladores hábiles caen en la dependencia del vibecoding, perdiendo el control por sí mismos, y aparece una transformación del trabajo técnico en la que su papel se reconfigura como trabajo desgastante de limpiar lo que produce la IA
- Aunque hay personas que se mantienen alejadas de los LLM, para muchas existe una coerción estructural que las obliga a usarlos aunque no quieran, debido a la UI, las exigencias laborales, la contaminación del conocimiento y la presión social
- El uso de herramientas moldea la forma de pensar humana, y los LLM intervienen en los procesos de escritura, pensamiento y expresión, con el riesgo de distorsionar sutilmente el significado y hacernos confundir nuestros propios pensamientos con la salida del modelo
- Los sistemas de IA, independientemente de su nivel de madurez técnica, son una infraestructura diseñada para reforzar el poder, la vigilancia y la concentración de capital, y la alternativa son prácticas de autopreservación y resistencia como el cuidado comunitario, la organización laboral, la autoeducación y la creación
Conversaciones en el hackerspace y expansión de los LLM
- En el hackerspace, la gente comparte experiencias usando IA y asistentes de chat en su trabajo diario, y aparece repetidamente una sutil autojustificación según la cual su propia forma de usarlos sí “está bien”
- El mismo patrón se ha observado en varias conversaciones recientes
- Incluso personas con una mirada crítica sobre los LLM terminan en algún momento empezando a justificarlos
- Se expresa la decepción de que los LLM hayan penetrado incluso dentro de la comunidad hacker progresista
- Incluso en grupos con fuerte escepticismo tecnológico, la dependencia de los LLM está aumentando rápidamente
Vibecoding y cambios en el trabajo técnico
- Se observa a programadores capaces depender en exceso de herramientas de codificación con IA como Cursor, cayendo en una especie de agotamiento, ansiedad y patrón de uso compulsivo
- Una escena inquietante, parecida a ver a un amigo caer en problemas con el alcohol
- La programación se está devaluando más rápido y más profundamente de lo esperado, en una dinámica similar a la que vivieron diseñadores, escritores, traductores y encuadernadores
- La técnica no muere, pero tiende a reducirse al papel de personas limpiando los resultados arruinados por la máquina
- Queda claro que muchos desarrolladores no están respondiendo sanamente a este cambio
La nueva realidad y el uso forzado de la IA
- Algunas personas optan directamente por no usar LLM, y quien escribe mantiene esa postura
- Sin embargo, esa elección solo es posible en situaciones privilegiadas, y la mayoría de la gente termina obligada por su entorno a usar IA
- El diseño de la UI obliga a usarla
- Las expectativas y evaluaciones de jefes en el trabajo presuponen el uso de IA
- La contaminación del conocimiento producida por la IA está dificultando incluso el aprendizaje mismo
- En escuela, universidad y trabajo, muchas veces se vuelve inevitable usarla para competir en igualdad de condiciones
- La discusión pública se concentra sobre todo en el rendimiento, los errores y los sesgos de la IA, pero ese no es el núcleo del problema
- Independientemente del grado de perfección técnica, existen propósitos e impactos más fundamentales
La IA como herramienta e intervención en el pensamiento
- El uso de herramientas es central para el pensamiento humano, y al usarlas construimos el propio proceso de pensar sobre ellas
- El teclado, el cambio entre ventanas, las notas y los diccionarios se integran todos como parte del pensamiento
- Cuando la IA interviene en el proceso de escritura, el contexto, la intención y el matiz son reconfigurados por la salida del modelo, y existe el riesgo de que lo aceptemos naturalmente como “un pensamiento mío”
- Como se ve también en el code review, los humanos tienden a creer en “lo que parece plausible”, y por eso son aún más vulnerables
- Escribir no es solo producir texto, sino un proceso de descubrir y refinar ideas; cuando el pensamiento ajeno (del modelo) interviene en ese proceso, puede desaparecer la expresión propia y singular
La infraestructura de IA dentro de estructuras de poder
- En una realidad donde existen fuerzas sociales que redefinen la verdad, empresas de capitalismo de vigilancia y grandes corporaciones fuera del control democrático, es peligroso que sus máquinas penetren en el proceso de pensamiento
- Los sistemas de IA son un medio para reforzar las estructuras existentes de poder y violencia
- Se construyen como una enorme infraestructura física que convierte capital en poder, y luego poder otra vez en capital
- Quien controla eso domina a las personas
- Que la IA tenga una estructura excesivamente intensiva en recursos no es un accidente técnico, sino un diseño intencional
- La técnica, la expresión y el trabajo calificado humanos son formas de poder con las que las personas se controlan a sí mismas, y desactivarlas favorece la concentración del poder
- Por eso el debilitamiento de la creación y del trabajo técnico está conectado con un objetivo estructural
Lo que queda: prácticas de supervivencia y resistencia
- Este problema no es simplemente una cuestión de ética de la IA, sino un problema de supervivencia humana dentro de un poder total del capital
- Se proponen cuatro prácticas inmediatas
- Dedicar tiempo a la gente cercana, enviar mensajes y practicar el cuidado relacional
- Construir fuerza estructural mediante la organización sindical
- Reducir el uso de redes sociales y asegurar tiempo para la salud mental y la autoeducación
- Continuar el acto de crear algo nuevo que antes no existía en el mundo
- La desobediencia más poderosa es sobrevivir bien y prosperar
8 comentarios
Creo que la ambientación de Dune (novela de ciencia ficción) tuvo una visión muy adelantada.
Ser crítico está bien, pero ¿por qué negarse a usarlo? Me parece una forma de pensar difícil de entender. Los LLM mejoran cada día, así que habría que buscar maneras de usarlos bien; pero aquí, fingiendo que se tiene alguna reflexión profunda, la conclusión termina siendo simplemente el rechazo.
En el Fedro de Platón aparece una discusión sobre la invención de la escritura.
"La escritura debilitará la memoria de las personas. Porque, si la gente llega a depender de la escritura, en vez de recordar por sí misma desde su interior, terminará dependiendo de registros externos."
¿No les parece que el patrón es bastante parecido?
Opinión de Hacker News
Me decepciona ver que el debate sobre los LLM se haya metido tan profundo en la comunidad hacker últimamente
La vieja cultura hacker no tenía esta vibra de ‘ludismo progresista’. Siento que ahora esa cultura fue reemplazada por otra distinta
No es que me encante la IA, pero no se puede negar que, en la práctica, la mayor parte del trabajo consiste en tareas repetitivas sin sentido. Y aun así, hay gente que no quiere admitirlo
Por eso se ha creado un ambiente donde te atacan solo por ‘haber usado IA’, incluso si lo único que hiciste fue subir un meme o pedirle a la IA que explicara un dibujo hecho a mano. Esa actitud termina metiendo todavía más toxicidad en la vida diaria
Antes lo central era la habilidad técnica y la creatividad, pero ahora pesan más títulos de carrera como “ex-Google”
Vendimos la cultura, y los LLM aprovecharon ese vacío
Ahora hay que recuperar la dignidad del desarrollador y la nobleza del oficio técnico. Hay que mirar de frente el vacío mental y el nihilismo que dejaron los LLM, y ver con espíritu crítico ese alarmismo de que ‘todos los trabajos de software van a desaparecer’. Ya es hora de despertar
El IDE me autocompleta código, y Visual Studio me generaba clases de modelo a partir del esquema de la base de datos
Esa automatización es la esencia misma de la tecnología. ¿No se supone que el objetivo de la tecnología es eliminar el trabajo repetitivo?
Pienso que quienes se oponen probablemente están nerviosos porque ese ‘trabajo repetitivo’ constituye la mayor parte de lo que hacen
Instalar Linux o armar una PC lo podía hacer cualquiera, pero escribir código complejo requería dedicación
Creo que buena parte del rechazo actual hacia la IA en realidad viene de una negación provocada por una ‘amenaza a la identidad’
Si es una tecnología construida robando datos de artistas que nunca fueron compensados, es totalmente natural que ellos se opongan
Hay quienes dicen que el trabajo de los programadores se está devaluando, pero yo más bien siento que estamos mejor que nunca
El trabajo es divertido, paga bien y no suele destruirte la salud. Además, las herramientas para desarrolladores están creciendo de forma explosiva
Más bien parece que el lema “Developers, developers, developers” se volvió realidad. No entiendo cómo eso sería una ‘pérdida de valor’
Gracias al dinero barato, incluso personas con más suerte que talento recibían salarios altísimos, pero ahora esa burbuja se está desinflando
A medida que los LLM reemplazan tareas simples, lo único que se está derrumbando son puestos que llevaban tiempo sobrevalorados
Los que construimos una carrera sobre bases sólidas vamos a estar bien, pero la generación joven a la que le prometieron una ‘vida fácil de clase alta’ sí está recibiendo el golpe
En muchos casos los LLM ya trabajan más rápido y más barato que una persona. Toda la industria ha mantenido salarios altos explotando la ‘asimetría de información’, y esa barrera se está viniendo abajo
Con los LLM, cualquiera puede escribir código, y por eso cuesta más distinguir niveles de habilidad
Pero este tipo de cambio ya ha pasado muchas veces antes: ensamblador, compiladores, nube… cada nueva abstracción hizo algo parecido
Los LLM son solo la versión más reciente de ese patrón
Entiendo a quienes valoran la artesanía, pero en la práctica las empresas están fascinadas con los indicadores de productividad de IA
Incluso los no desarrolladores hacen apps, y los juniors parecen genios gracias a los LLM. Si una organización piensa en números, al final va a llegar la presión de “¿por qué solo tú eres tan lento?”
Eso de que un no desarrollador ‘hace una app’ se parece más a un meme de redes sociales; en la realidad, ni siquiera mantenerla sería fácil
Más bien pasa mucho que juniors entregan PRs desastrosos generados por LLM y luego esquivan la responsabilidad
La gente realmente capaz es la que aprende a usar los LLM como herramienta
La IA escribió código que se saltaba la lógica de protección de datos personales, y al final al equipo hasta le quitaron permisos de revisión de código por ser ‘lentos’
Si todos usan LLM y tú eres el único que no, terminas cargando con el trabajo ajeno
Si el equipo no comparte el mismo flujo de trabajo, lo único que crece es la fricción. Si no encajas, quizá sea mejor cambiarte de equipo
Pero la calidad es mucho peor que la de los productos fabricados en masa de otras industrias. No sé cuándo va a reventar esa burbuja
En cambio, los seniors con experiencia saben aprovechar la IA para producir código de alta calidad. Al final, la diferencia de nivel se hizo todavía mayor
El ‘odio a los LLM’ me parece una forma de pensamiento tribal. El hacker, por naturaleza, era alguien que probaba y rompía nuevas tecnologías
No entiendo por qué los LLM tendrían que ser la excepción. Que la tecnología reemplace trabajo humano es una evolución natural
Si el problema es que la sociedad solo valora a las personas por su ‘empleabilidad’, entonces lo que hay que cambiar es la estructura social, no frenar la tecnología
Hay quienes dicen que la IA refuerza estructuras de poder
Que elimina la autonomía humana y construye un sistema obsesionado solo con la eficiencia, como una especie de ‘sistema humano-gallina’
Si lees este texto relacionado, ese contexto se entiende muy bien
El buen código sigue siendo complejo, y quien sabe manejar bien la IA incluso gana una ventaja competitiva
En nuestra startup también usamos IA de forma activa, y aun usando la misma tecnología podemos ir por delante gracias a nuestra capacidad de diseño de arquitectura
Enlace al texto original de Manna
Si alguien quiere decir que los LLM son especialmente peligrosos, entonces tiene que explicar por qué serían distintos de otras herramientas
Cuando veo desarrolladores que dicen “nunca voy a usar LLM”, pienso que eso es suicidio profesional
Yo también era escéptico al principio, pero ahora uso asistentes de programación con IA todos los días. Esto es una nueva habilidad profesional
Decir tajantemente que “no sirve” revela más la actitud de la persona que de la tecnología
Este es un momento fascinante en la historia de la tecnología. Yo sigo aprendiendo, y eso es lo que me mantiene vivo
El día que se cayó el servicio, sentí como si me hubieran cortado una mano
Ahí entendí algo: la IA estaba desgastando mi capacidad de pensar y mis habilidades técnicas
Prefiero una postura moderada. Cuando sale una herramienta nueva, como una calculadora, una PC o la IA, la pruebas y si sirve, la usas
Si de verdad fuera útil, habría evidencia, y en ese momento usarla no sería demasiado tarde
Mis colegas lo rechazaban diciendo que “la nube es una moda”, pero yo aprendí CloudFormation y mi sueldo se triplicó
Al final ese equipo se desarmó, y yo sobreviví
La tecnología no liberó al ser humano; más bien produjo vigilancia y adicción
La IA generativa amenaza la creatividad y la presencia humana. Todavía no estamos preparados para ella, y ella tampoco lo está para nosotros
Al final solo quedan dos opciones: resistir o rendirse. Yo ya elegí resistir
Creo que es exagerado decir que los LLM amenazan el sustento de los desarrolladores
Más bien nos dan una eficiencia casi sobrenatural
Antes había que pedir manuales de IBM y esperar dos semanas para conseguir una respuesta, pero ahora le preguntas a Claude y en dos minutos te da hasta ejemplos
Incluso si la respuesta está mal, corregirla toma muchísimo menos tiempo que antes
Si eres principiante, en lugar de temerle a los LLM, lo importante es aprender a usarlos de forma eficiente
Si desaparece el proceso de leer manuales y aprender conceptos, se debilita la comprensión del ‘por qué’
Que esos recursos no puedan ir a otras ideas innovadoras implica un costo de oportunidad enorme
Estoy de acuerdo con la advertencia del autor. Siento que la IA debilita mi capacidad de pensar
Si uso IA para escribir Python o Terraform, es cómodo, pero disminuye la profundidad del pensamiento
Últimamente intento recuperar una forma de pensar más humana leyendo libros otra vez. En especial me impactó la serie de Dune
Que aparezca una innovación como los LLM y aun así alguien la ignore diciendo “no me interesa” se parece a insistir en lavar platos a mano en la era de los robots
Si no tienes curiosidad, me cuesta llamarte hacker
Ojalá reviva aquel movimiento de pesos abiertos como eleuther.ai
Enlace al paper en PubMed
Cada vez que veo este tipo de opinión, no lo puedo entender. Si se tratara de decir que hacen falta medidas complementarias para los llamados “vulnerables tecnológicos”, como las personas mayores o la gente de bajos recursos que tienen un acceso frágil al conocimiento y la tecnología, realmente podría empatizarlo y entenderlo; pero sinceramente no me suena más que a un berrinche de “eso no me gusta y ojalá no hiciera ninguna falta en mi vida”. Se oye como cuando alguien dice “los viejos tiempos eran mejores”, pero aun así seguimos yendo a trabajar en automóvil en vez de carruaje, y hacemos más cosas en menos tiempo con una computadora que frotando la punta de una pluma mojada en tinta sobre papel. Subimos y bajamos edificios en elevador sin cuerdas ni estacas, y al llegar a casa encendemos la luz con un clic usando electricidad en vez de lámparas de grasa, antorchas o velas. Puede que para algunas personas las formas antiguas hayan sido mejores. Entiendo que alguien, a solas en su casa, añore el pasado y quiera aferrarse a ese modo de vida. Pero, ¿qué se le va a hacer? Si la sociedad exige, quiere y acepta esas cosas, para formar parte de esa sociedad no queda más que participar en cierta medida. Si te parece que es el camino equivocado, no hay otra respuesta que proponer uno mejor. Al menos yo creo que, a partir de cierto punto, la sociedad humana se parece a una locomotora desbocada que si se detiene, muere.
Si de verdad te inquieta la tendencia actual de depender en exceso de los LLM y quieres discutir seriamente hacia dónde debería ir la sociedad, creo que hace falta una mirada más reflexiva y perspicaz que ese tipo de “fundamentalismo tecnológico” selectivo y ciego. ¿Que los desarrolladores dependen del vibe coding? Me suena más bien a que quien dice eso no es desarrollador, o no ha desarrollado de verdad, o está exagerando de forma sensacionalista alguna anécdota de alguien que dijo haber probado el vibe coding. Quien puede depender en exceso del vibe coding o no es desarrollador, o si lo es, está haciendo un trabajo que no vale nada, o está practicando un pasatiempo que ni siquiera era su trabajo original. Para un desarrollador, seguir desarrollando apoyándose en código no verificado es, por definición, imposible. En algún momento tiene que verificarlo por sí mismo; y si se trata de algo que no requiere verificación, entonces o es un código tan simple y sin valor que cualquiera podría teclearlo siguiendo un tutorial, o quizá sea código hecho como hobby, donde da lo mismo no verificarlo. Si es código que sí requiere verificación y aun así alguien sigue desarrollando sin verificarlo, entonces esa persona deja de ser desarrollador. Y si no es desarrollador, ¿qué más da si se queda rogándole, suplicándole, amenazándolo o presionando a la inteligencia artificial hasta que le haga lo que quiere, o no?
Si eres desarrollador, con pensarlo un poco basta para saber que depender en exceso del vibe coding en la práctica ni siquiera puede llegar a un nivel tan grave. Cuando veo que se deja de lado ese hecho y solo se usa lo conveniente para reforzar una postura, pues… me parece que ya no vale la pena seguir hablando.
Y si les preocupa incluso avanzar en el desarrollo dependiendo parcialmente y de forma fuerte de la inteligencia artificial, aunque no sea vibe coding total, entonces me pregunto cómo hacen para vivir en una sociedad donde ya nadie memoriza números de teléfono y todos pueden llamar a cualquiera en cualquier momento con esa cajita rectangular que llevan en la mano.
Muy buen artículo, lo disfruté.
Totalmente cierto
Es un fenómeno común cada vez que cambia un paradigma... cuando aparecieron los automóviles por primera vez, también coexistieron con los caballos. Creo que es un patrón histórico.