¿Estamos delegando demasiado pensamiento a la IA?
(artfish.ai)- Desde elecciones triviales hasta investigaciones y razonamientos complejos, la IA ahora entrega respuestas terminadas, así que más allá de ahorrar tiempo, se vuelve importante hasta qué punto preservamos la autonomía del pensamiento
- Los motores de búsqueda dejaban en manos de las personas descomponer la pregunta, evaluar fuentes y sintetizar una respuesta, pero Google Deep Research y OpenAI Deep Research también reemplazan ese proceso intermedio de pensamiento que antes tomaba minutos, horas o días
- Tras plantear primero hipótesis y debatir sobre la historia colonial de Portugal, y luego verificarlas con IA, la IA respaldó varias hipótesis y añadió nuevas explicaciones, pero omitió algunas posibilidades plausibles, mostrando el valor de pensar primero y usar IA después
- Como traductor de Gemini, agentes de código o ChatGPT como tutor personal, la IA puede reducir tareas repetitivas y la carga del aprendizaje, pero los casos de estudiantes que entregaron respuestas casi idénticas muestran que obtener una respuesta y aprender a pensar no son lo mismo
- Si la IA no solo automatiza tareas simples sino que también decide qué queremos y qué decisiones tomar, los humanos podrían ceder junto con la comodidad también su capacidad de agencia
La IA empezó a sustituir incluso los juicios cotidianos
- Delegar en la IA la investigación, el razonamiento y las respuestas se volvió fácil y conveniente, desde decisiones pequeñas hasta pensamiento complejo, e incluso en algunos entornos se fomenta activamente
- En el cuento de 2012 de Ken Liu, The Perfect Match, aparece Tilly, una asistente de IA de propósito general que dice conocer los gustos y el estado de ánimo del usuario
- El protagonista le deja a Tilly decidir qué desayunar, qué música escuchar, con quién salir y hasta qué decir durante la cita
- Cree que Tilly encuentra científicamente las opciones que mejor se ajustan a sus preferencias, así que le delega desde decisiones triviales como la ropa hasta decisiones importantes como encontrar el amor
- En un evento de startups en San Francisco, apareció una persona con un micrófono en forma de cápsula metálica, de menos de dos dedos de ancho, sujeto a la camisa y grabando todas las conversaciones
- Al final del día ejecuta un flujo de trabajo que resume y analiza las conversaciones grabadas
- Dijo que confía todos sus pensamientos porque Claude Fable piensa críticamente mejor que él
- Su startup busca reemplazar a ingenieros recolectando todas las entradas y tareas de ingenieros humanos sin consentimiento explícito
De los resultados de búsqueda a las respuestas terminadas
- Incluso antes de Claude, ChatGPT y Gemini, la gente ya delegaba parte del pensamiento en los motores de búsqueda, pero buscar todavía exigía descomponer preguntas, evaluar fuentes y sintetizar respuestas
- La IA realiza ahora esos pasos intermedios y genera respuestas terminadas en minutos incluso para preguntas complejas o especializadas
- Google Deep Research y OpenAI Deep Research pueden encargarse de trabajos que a una persona le tomarían desde unos minutos hasta varias horas o incluso días
- El rango temporal de tareas que pueden completar los modelos de IA se aborda en Task-Completion Time Horizons of Frontier AI Models de METR
- Como estas herramientas reducen no solo tiempo sino también el proceso de pensar por cuenta propia, pueden desdibujar la frontera entre asistencia laboral y pérdida de autonomía
- La diferencia entre una IA asistente que ayuda con tareas y una que domina decisiones depende de quién toma la decisión final en los asuntos importantes de la vida
Distinguir entre respuestas rápidas y pensamiento lento
- Muchas preguntas admiten una respuesta rápida, como el clima actual, quién era el presidente de cierto país hace 10 años, o reseñas de productos de skincare o equipo deportivo
- Pero también hay preguntas que vale la pena pensar durante más tiempo sin buscarlas de inmediato
- Al caminar sin celular, pueden surgir preguntas como si las cerezas crecen en árboles o arbustos, o cuándo y dónde se jugó el primer Mundial, pero la mayoría se olvida antes de llegar a casa
- Si solo unas pocas preguntas importantes permanecen en la memoria, quizá también haya valor en olvidar las triviales y no responder de inmediato a cada duda
Un viaje a Portugal: primero hipótesis, luego verificación con IA
- El Monument to the Discoveries de Portugal conmemora la llamada Era de los Descubrimientos portuguesa
- En Portugal parecía que se veneraba a figuras de esa época como “descubridores” y “exploradores”, mientras que en Estados Unidos esas mismas figuras podrían llamarse “conquistadores” y “colonialistas”
- Un guía turístico local respondió que figuras como Henry the Navigator no son objeto de cultura de la cancelación en Estados Unidos como Christopher Columbus, sino que en general se consideran personajes históricos respetados
- Surgió la duda de por qué Portugal muestra orgullo por su historia colonial y reacciona distinto a Estados Unidos, así que la hermana decidió no preguntárselo de inmediato a ChatGPT, sino formular primero sus propias hipótesis
- La posibilidad de que Portugal sea relativamente más homogéneo y religioso que Estados Unidos
- La posibilidad de que la “Era de los Descubrimientos” sea uno de los capítulos más destacados del relato nacional portugués
- Mientras ambas especulaban, conectaban ideas, rebatían puntos y cambiaban de opinión, recordaban conocimientos de historia aprendidos en la escuela hace mucho tiempo
- Aunque sabían que algunas hipótesis podían estar equivocadas, el proceso mismo ejercitó la memoria, el conocimiento, la comprensión del mundo y el pensamiento crítico
- Después le hicieron la misma pregunta a la IA, que respaldó muchas de las hipótesis existentes y añadió explicaciones que habían pasado por alto, pero dejó fuera algunas posibilidades que ambas seguían considerando plausibles
- Si se sigue la secuencia pregunta → generación de hipótesis → verificación y expansión con IA, la IA puede complementar el pensamiento humano en vez de sustituirlo
Usos productivos para reducir tareas repetitivas
- La capacidad real de la IA para ser útil también puede verse en tareas que miden si Gemini puede resolver trabajos difíciles, pensar y usar herramientas
- En el trabajo y en el aprendizaje, la IA puede reducir mucho el tiempo requerido y ayudar a que las personas se concentren en lo más importante
- Un usuario que trabaja en una empresa coreana acelera su trabajo traduciendo con Gemini largos informes formales en inglés al coreano
- Un investigador desarrolla ideas y deja la implementación detallada a agentes de código, dedicando más tiempo al análisis
- Un estudiante usó ChatGPT como tutor personal para aprender bioquímica desde cero y preparar el MCAT en unos meses
- Si se deja a la IA el pensamiento rutinario y las tareas repetitivas, y se dedica más tiempo al pensamiento más importante e interesante, pueden aumentar tanto la satisfacción con la vida como la productividad
- El informe de la OCDE sobre el impacto de la IA en el lugar de trabajo trata la automatización de tareas estructuradas, repetitivas y tediosas mediante IA
- Digital Labour Platforms and the Future of Work de la International Labour Organization aborda tareas que trabajadores humanos han realizado por poca paga
- Si la IA puede encargarse de varias horas de trabajo simple y agotador, las personas pueden concentrarse en formas de pensar más interesantes y satisfactorias
Los problemas de saltarse el proceso de aprendizaje
- Un profesor que enseña física en una universidad en línea sospecha que la mayoría o incluso todos sus estudiantes hacen las tareas con IA
- Algunas respuestas son casi idénticas, como si los estudiantes hubieran pegado el mismo problema en la misma IA
- Se repiten respuestas genéricas de IA sin pensamiento ni opinión personal del estudiante
- No hay forma de demostrar si usaron IA, y como las respuestas en sí son bastante completas, la mayoría de los estudiantes recibe A
- La IA puede apoyar el aprendizaje, pero también puede generar solo el resultado sin enseñar cómo se llega a la respuesta
- Decidir qué ecuación usar en un problema de física o elegir fuentes y argumentos en un ensayo puede ser tedioso, pero si se omite ese proceso, se debilita el propósito mismo de la escuela y del aprendizaje
Automatización de tareas simples y autonomía del pensamiento
- No es fácil separar con claridad la autonomía total del pensamiento de la automatización de tareas simples, y en la práctica el uso de IA suele mezclar ambas cosas
- El trabajo de recolectar y analizar datos personales también se parece en parte al método de Microphone Man
- Existe un proyecto de registro personal en el que se recopilaron y analizaron datos directamente
- Antes también se había dejado que la IA analizara datos personales
- La diferencia quizá esté en que la persona recopiló y seleccionó directamente los datos, formuló las preguntas que quería responder y evaluó el resultado final
- También hay una diferencia en que usó sus propios datos y no grabó conversaciones de otras personas
- Siempre hace falta un equilibrio entre automatizar tareas simples para dedicar tiempo a actividades valiosas y hacer el trabajo directamente por la experiencia de aprendizaje
¿Quién forma nuestros deseos y nuestra capacidad de actuar?
- Jenny, en The Perfect Match, critica que Tilly no solo le dice al usuario lo que quiere, sino que decide incluso qué pensar
- La autonomía depende, al menos en parte, de seguir participando en el proceso de formar por uno mismo los propios deseos
- Si dejamos en manos de la IA la música que escuchamos, las películas que vemos, la comida que comemos y hasta los zapatos que usamos, también podemos ceder la capacidad de juzgar por nosotros mismos qué queremos
- Al evaluar la automatización con IA, hay que distinguir si reduce trabajo y tareas humanas o si sustituye también el pensamiento humano y la capacidad de agencia
1 comentarios
Opiniones de Hacker News
El uso excesivo es subjetivo, así que cualquiera que use mucho la IA puede argumentar que está aprovechando su potencial, y que las calculadoras tampoco volvieron tontos a los humanos.
Pero si le encargo las sumas a una calculadora, yo sigo siendo el mismo; en cambio, si le encargo la mayor parte de mi pensamiento a un LLM, ¿qué queda? Si le delego hasta la crianza, las relaciones humanas y el diseño de productos, uno termina preguntándose si el valor único que aporta al mundo no es apenas el prompt que escribió una vez.
Una novela escrita por una persona tiene, por naturaleza, más valor porque está arraigada en una experiencia compartida ganada con esfuerzo, y yo quiero seguir siendo alguien capaz de escribir novelas a la vieja usanza. Como tampoco soy bueno para los deportes, al menos quiero proteger mi capacidad de pensar.
Se puede usar la IA como un arete que pregunta constantemente “¿qué hacemos ahora y cómo lo arreglamos?”, o como un exoesqueleto al que, después de haber definido de antemano la forma del resultado deseado, se le pide “implementa un kd-tree que aplique el espacio métrico xyz a este problema”. Lo segundo es automatización de ejecución una vez que el pensamiento ya está hecho, por lo que es fácil de revisar; lo primero, en cambio, atrofia la capacidad de pensar.
Un compañero de la secundaria que hace unos años ni siquiera podía configurar bien un sitio en Drupal ahora se convirtió en ingeniero de punta en una startup de IA, y todos los días publica jerga de moda sobre IA en LinkedIn. Al final llegará un momento en que no se pueda distinguir entre lo generado por IA y el resultado humano; de hecho, ya hay mucha gente que no puede distinguirlos.
Al programar con LLM también se necesita conocimiento para juzgar qué pedir, y si el resultado cumple con el alcance requerido, es correcto y es seguro. Las personas no técnicas que no revisan ni corrigen directamente el resultado terminarán chocando con un muro que no podrán depurar por sí mismas y necesitarán ayuda humana.
Desde la perspectiva de los profesores de matemáticas de la época, el pensamiento crítico de los estudiantes sin duda disminuyó. Al usar reglas de cálculo y tablas matemáticas había que pensar en cosas como las cifras significativas, pero la calculadora no exige ese razonamiento.
Mientras revisaba el plan de proyecto de un colega, investigué por mi cuenta los parámetros básicos y pregunté por las partes que no entendía; luego, en una reunión, el colega dijo que yo había encontrado varios problemas que Claude no había detectado. Es especialmente peligroso para los recién llegados que aún no aprendieron las trampas del campo, y en este caso incluso una persona con experiencia había delegado todo el trabajo al LLM.
A diferencia del consejo de “ahora considérate un gerente”, creo que para volverse más útil en la era de la IA y también usarla con eficacia, conviene profundizar la comprensión técnica.
Les recomiendo a mis hijos leer libros de texto sobre las áreas que les interesan, y yo hago lo mismo. Espero que, dentro de poco, la comprensión profunda en sí misma sea un recurso escaso y valioso.
Los buenos gerentes de primera línea por lo general tenían esa capacidad; los que nunca la tuvieron, o la perdieron hace mucho, la pasaban mal. Gestionar a altos directivos o ejecutivos es distinto, pero gestionar LLM se parece a la gestión de primera línea.
Al conversar con una IA medianamente competente pero a veces fatalmente equivocada, uno termina preguntando, dudando de las respuestas, investigando, razonando, criticando y repitiendo el proceso. Los libros de texto tienen más probabilidades de ser correctos, pero no está garantizado, y transmiten información en una sola dirección; en cambio, una respuesta incorrecta de la IA obliga a involucrarse activamente con el material.
Durante una revisión de diseño, le pregunté a un desarrollador junior por qué había hecho cierto cálculo y me impactó que respondiera “no sé”. Todo el cálculo incorrecto había sido generado por IA y él ni siquiera podía distinguir que estaba mal.
La mayoría no usa la IA para aprender conocimientos nuevos, sino para hacer que la propia tarea sea realizada por otro, y ni siquiera entiende el resultado. Si una persona no aporta ningún valor más allá de ser el recurso que genera prompts, cabe preguntarse para qué se la necesita.
A un estudiante que admitió no haber leído nunca su propio código le dije: “No te estoy regañando; lo que estás diciendo ahora es que tú mismo eres completamente innecesario aquí”.
Es fácil convencerse de que uno está automatizando el trabajo humano, pero lo que se automatiza cada vez más es la agencia y el pensamiento humanos. Las ideas que el modelo ofrece por defecto o con un solo prompt son gramaticalmente tan perfectas que resulta difícil ignorarlas y razonar desde cero.
Para resistir a un modelo que intenta atajar el proceso de pensamiento, quizá haya que aislar algunas tareas e ideas de la IA. Pero bajo la presión de producir resultados rápidos y numerosos, decidir qué trabajo mental aislar es en sí mismo extremadamente difícil.
Me da más miedo que, de ahora en adelante, tengamos que adjuntar una cita de un LLM a cada afirmación y pedir aprobación para cada acción: una era en la que se delega el pensamiento a la fuerza en la IA. Si Fable 9 determina que una idea planteada en una reunión es mala, no se puede impulsar, y si uno lo desafía, podría incluso ser despedido.
Como el camino de menor resistencia siempre será seguir las indicaciones del LLM, mucha gente renunciará por completo a pensar. La IA puede ser tratada como un dios con el que se puede conversar, pero al que no se le debe refutar, sino solo convencer para que cambie de opinión; eso es una opresión mental terrible, y creo que está a apenas unos años de distancia.
Ya es común que la gente se enoje cuando, después de haberle encargado su pensamiento a un LLM, se le dice que está equivocado. Exigen productos o servicios que nuestra empresa ni siquiera ofrece y, en lugar de aceptar que el LLM se equivocó, nos acusan a nosotros, los expertos del área, de estar equivocados. En apenas tres años y medio, que los LLM sean considerados una autoridad superior a los expertos está ocurriendo mucho más ampliamente de lo que uno pensaría.
Aplico con los LLM el mismo método que con una calculadora: antes de usarla, estimo mentalmente el orden de magnitud aproximado de la respuesta. Primero pienso cómo habría respondido yo, luego comparo qué tan cerca está, y no confío en la respuesta sin tener en cuenta los matices del contexto.
Eso sí, me cansa más cuando explica de más o de menos las partes equivocadas y, aunque responde formalmente la pregunta, ofrece una solución objetivamente pésima. Se siente como un estudiante que escribe una respuesta larga para sumar puntos con tal de no dejar espacios en blanco.
Últimamente, mi trabajo de consultoría se inclina cada vez más a arreglar lo que pasa después de que otras personas le encargan su pensamiento a la IA.
Hay investigadores que pasan meses con Claude intentando resolver con expresiones regulares una deduplicación absurda que no tiene nada que ver con la pregunta de investigación, y otros que sacan de ChatGPT, de manera improvisada, toda su metodología de investigación. El resultado siempre es confuso y genera muchísimo estrés y pérdida de tiempo.
Las personas no técnicas tratan a los LLM como un oráculo y toman grandes supuestos y decisiones casi sin revisar las implicaciones de los resultados. La falta de pensamiento crítico ya existía antes de la IA, pero ahora está en un nivel completamente nuevo, y seguro que en todas partes están ocurriendo cosas mal hechas porque alguien dijo “preguntémosle a Claude”.
dockeryagents, como ingenieros júnior. En ambas profesiones, originalmente, se dedica mucho tiempo a revisar críticamente y tratar con cuidado el trabajo propio y el de otros.La razón por la que tanta gente, incluidos los técnicos, trata a los LLM como oráculos es que nuestra cultura valora más mover ladrillos más rápido que si el ladrillo va al lugar correcto o si, para empezar, es el ladrillo correcto. Por qué importan aquí los ladrillos puede verse en https://www.business.com/articles/management-theory-of-frank... y https://en.wikipedia.org/wiki/Time_and_motion_study.
Parece que los LLM están volviendo más perezosa a la gente. Antes de buscar una respuesta, no hacen ningún esfuerzo por sí mismos y empiezan haciendo preguntas, esperando que la otra persona deje todo y responda con detalle como si fuera una IA.
Nadie lee manuales ni documentación; no tienen la concentración ni la voluntad para leerlos, e incluso confirmar si existen se trata como una pérdida de tiempo. En cierta medida ya era así antes, pero después de los LLM siento que la capacidad de pensar y resolver por cuenta propia empeoró mucho más.
Como no uso IA generativa en absoluto, personalmente no estoy delegando mi pensamiento. Al ver varios foros técnicos y de programación, no me gusta la dirección hacia la que va la industria.
Todavía hay esperanza de que esta corriente desaparezca, pero creo que cuanto más dure, mayor será el daño.
Para empezar, me resulta dudosa la premisa de que la mayoría realmente piense. Por lo general, las personas actúan según patrones que aprendieron al exponerse a las ideas de otros, y cuando los aceptan o cuando chocan entre sí, fuerzan una coherencia
Pensar de verdad es difícil y lleva tiempo, pero los patrones aprendidos de otros bastan para alcanzar objetivos modestos, así que hay pocos incentivos para invertir tiempo y esfuerzo. La IA moderna se parece más a una versión ampliada que ejecuta la ausencia de pensamiento del ser humano moderno más rápido y con mucha más energía
Si los tecnólogos consideran a los humanos tan insignificantes, temo por el futuro de la humanidad. Al final, aunque tus recursos corporales sean reasignados a la producción de clips, nadie lo lamentará
Unos pocos pueden pensar con esfuerzo y descubrir cosas nuevas y útiles, mientras la mayoría puede imitarlas sin crítica. No es una imagen alentadora del ser humano, pero tampoco hay motivo para menospreciar a nadie; se acerca más a una realidad de la vida que hay que abordar estratégicamente
https://en.wikipedia.org/wiki/Mimesis
La IA no solo amplía una ausencia de pensamiento ya existente, también crea problemas que antes no existían. Incluso científicos, estudiantes de posgrado y doctores, personas que pensaban profundamente en la frontera del conocimiento, se preocupan de estar perdiendo capacidad de pensamiento por usar LLM. En lugar de resignarnos a algo que empeora esto más rápido y con más energía, deberíamos detenerlo y revertirlo