Estudio del MIT concluye que el uso de IA reconfigura el cerebro y provoca deterioro cognitivo
(publichealthpolicyjournal.com)- Un estudio del MIT concluye que el uso de LLM como ChatGPT conduce a un deterioro cognitivo a largo plazo, incluyendo debilitamiento de la conectividad cerebral y disminución de la memoria
- Los estudiantes participantes mostraron que cuanto más dependían repetidamente de la IA, más disminuían su capacidad de integración creativa y su autonomía
- Las pruebas de EEG confirmaron una hipoactivación de las redes de atención y procesamiento visual en el grupo que usó LLM
- El grupo de usuarios de motores de búsqueda mantuvo funciones ejecutivas, activación de la memoria y capacidades de procesamiento visual más sólidas
- Incluso después de usar LLM, fue difícil recuperar por completo la función cerebral, y la dependencia de la IA llevó a una tendencia de “transferencia de carga cognitiva”
Principales hallazgos del estudio del MIT: uso de LLM y deterioro cognitivo
El estudio realizado en el MIT, "Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task", reveló que depender repetidamente de inteligencia artificial como ChatGPT puede causar daño cognitivo a largo plazo en el cerebro
Los estudiantes participantes experimentaron debilitamiento de las conexiones neuronales, disminución de la memoria y pérdida de sentido de autoría sobre la tarea cuanto más redactaban ensayos dependiendo de la IA
Aunque los resultados generados por IA en apariencia recibían evaluaciones altas, en el proceso el cerebro mostraba una tendencia a pasar gradualmente a un estado de inactividad
Disminución de la conectividad cerebral y fenómeno de dependencia de la inteligencia artificial
- Según las mediciones de EEG, a medida que aumentaba el uso de inteligencia artificial, la conectividad cerebral (systematic neural connectivity) disminuía de forma gradual
- Grupo que usó solo el cerebro: se confirmó la conectividad más fuerte y de mayor alcance
- Grupo de motor de búsqueda: nivel intermedio de activación cerebral
- Grupo de LLM: debilitamiento de la cohesión en todas las bandas de ondas cerebrales (alfa, beta, delta, theta)
- En particular, en el grupo de LLM se observó una marcada desactivación de las redes de atención y procesamiento visual
- En la sesión 4, al intentar escribir sin ayuda de IA, quienes habían usado LLM mostraron una disminución en el funcionamiento de las redes centrales del cerebro
Distorsión de la memoria y de las rutas de aprendizaje en usuarios de LLM
- Después de depender de LLM, los estudiantes experimentaron el fenómeno de no recordar bien lo que acababan de escribir
- Se observó una interferencia clara en las rutas cerebrales relacionadas con la memoria de largo plazo y el aprendizaje
- Durante el uso de IA se debilitó la integración de información en el cerebro y el enfoque automotivado
- Los participantes experimentaron distanciamiento psicológico respecto al resultado y una reducción del sentido de pertenencia sobre su trabajo
Límites de la transición de la inteligencia artificial al uso directo del cerebro
- En la cuarta sesión, el grupo que pasó de usar LLM a usar solo el cerebro mostró que la activación cerebral no se recuperó hasta el nivel de la sesión original (solo cerebro)
- Se detectó una tendencia persistente a mantenerse por debajo de la línea base en varios indicadores, como ondas cerebrales, esfuerzo en la tarea y autopercepción
Los usuarios de motores de búsqueda mantuvieron una participación cerebral más saludable
- El grupo de usuarios de motores de búsqueda mantuvo niveles altos en indicadores cognitivos clave como función ejecutiva, activación de la memoria y recuerdo de citas
- En las ondas cerebrales se confirmó un fortalecimiento de la activación en los lóbulos occipital y parietal, estrechamente relacionado con el procesamiento visual y el esfuerzo en la tarea
La transferencia de carga cognitiva (Cognitive Offloading) que trae la dependencia de la IA
- El equipo de investigación confirmó claramente que, cuando el cerebro se expone repetidamente a LLM, aparece una tendencia a interrumpir por sí mismo el esfuerzo de integrar información y memorizarla (neural efficiency adaptation)
- Esto lleva a fenómenos como actitud pasiva ante la tarea, edición mínima y menor nivel de integración conceptual
Eficiencia a corto plazo, deuda cognitiva a largo plazo
- El grupo de LLM obtuvo superficialmente cierto nivel de puntuación ante los evaluadores, pero mostró limitaciones claras como:
- falta de integración estratégica
- menor diversidad en la estructura expresiva
- carácter breve y mecánico de los resultados
- Con el paso del tiempo se mantuvo una tendencia constante de disminución en la participación cognitiva, el rendimiento y la satisfacción personal
Conclusiones y recomendaciones del estudio
- Cuanto más personas dependan de la inteligencia artificial para realizar tareas complejas, mayor será el riesgo de una rápida disminución de las capacidades cognitivas intrínsecas y creativas del ser humano
- Se enfatiza la importancia de tomar descansos periódicos y dedicar tiempo a usar directamente el propio cerebro al utilizar inteligencia artificial
- La inteligencia artificial no solo sustituye el trabajo humano, sino que afecta el propio sistema de pensamiento y la función cerebral humana
Sobre el autor
- Nicolas Hulscher, MPH
- Epidemiólogo y Foundation Administrator de McCullough Foundation
- Para más contenido relacionado, se pueden consultar en X (antes Twitter) las cuentas de McCullough Foundation y del autor
2 comentarios
Por el contenido, parece que quienes usaron el LLM solo se limitaron a transcribir la respuesta.
Normalmente, ¿no se usa con un objetivo o un flujo deseado, revisando la respuesta y repitiendo la retroalimentación? Me pregunto si en esos casos sería igual.
Opinión de Hacker News
Quiero compartir una experiencia de cuando estaba en posgrado y hablaba con un estudiante de doctorado al que admiraba. Cada vez que leía un paper, escribía código e implementaba él mismo lo que proponía. A mí me tomaba meses, pero él solía terminar el código en pocos días. Me explicó que, con mucha práctica, uno mejora. No solo programaba rápido, sino que también fue desarrollando una capacidad sobresaliente para analizar papers cada vez más rápido e integrar ideas, además de una intuición creciente sobre qué funciona. Yo ahora también soy bastante senior y casi no hago trabajo de código, pero sigo sintiendo que es realmente útil batallar personalmente con código e ideas nuevas. Creo que quienes piensan que basta con cambiar un poco el prompt se están perdiendo oportunidades de aprendizaje realmente importantes
Creo que, de hecho, ya se está formando una brecha de habilidades frente a nuestros ojos. Hay (1) personas que entienden los conceptos a profundidad, construyen un modelo mental y pueden implementar por sí solas código de cualquier nivel, y (2) personas que están subcontratando ese proceso a una máquina y perdiendo lentamente esa capacidad. Ahora todavía no se nota tanto, pero creo que en unos años la diferencia será evidente
Hay que cuidarse de la falacia de “los verdaderos programadores escriben ensamblador a mano”. Cuando los compiladores se volvieron comunes, había preocupación de que los programadores dejarían de entender cómo funciona su código. En cierta medida era cierto, pero creo que para la mayoría eso no impide demasiado producir cosas útiles. Si dejas de pensar, obviamente también aprendes menos. Si puedes pensar un nivel más arriba de abstracción, los detalles no siempre importan. La limitación de la universidad es que no es “el siguiente nivel de abstracción”, sino una secuencia de ideas seleccionadas a mano solo para transferir conocimiento validado. Eso es distinto de tener tiempo para construir algo directamente en una startup o atacar problemas más grandes. Claro, este enfoque no aplica a todos los doctorados. Habrá áreas donde sí necesitas conocer el detalle, pero en un mundo hoy más especializado incluso podría ser una ganancia neta
Se siente parecido a estudiar matemáticas. Puedes pasarte todo el día leyendo un libro de matemáticas y admirando las ideas, pero si no resuelves de verdad definiciones, teoremas y ejercicios, casi no aprendes nada
En ciencia de datos se usa la frase “no hay almuerzo gratis”. A medida que herramientas como ChatGPT se vuelven cada vez más comunes, incluso la gente con doctorado o más, si estudia por su cuenta sin usar estas herramientas, empieza a parecer un mago. Ya estoy viendo personas con poca habilidad real que no pueden programar por encima de un nivel intermedio o que tienen peor intuición. Ya no es síndrome del impostor; es una situación en la que no pueden hacer bien su trabajo sin AI. Yo, para cada tema, primero intento pensar y formular preguntas por mi cuenta sin herramientas. Y solo después de que ya tengo cierta intuición, le pregunto a ChatGPT
Interesante. Me pregunto si eso significa que realmente escribía el código a mano con pluma y papel. Siento que ese método de verdad ayuda a entender (yo no programo profesionalmente, por cierto). Los historiadores son parecidos: quienes pasan todo el día inmersos en archivos físicos desarrollan con el tiempo intuición y capacidad de insight sobre su tema. En cambio, cuando uno solo raspa citas y documentos con Google, corre más riesgo de entender el tema de forma superficial. También se tiende más a no pensar desde varios ángulos, a no ver las relaciones entre fenómenos y a obsesionarse demasiado con la propia tesis
Hay varios puntos que conviene aclarar. (1) Este paper está en arXiv; todavía no está publicado ni ha pasado peer review. Hay que leerlo con eso en mente. (2) Son 18 personas por cohorte. (3) 54 personas en total. La N es pequeña y parece centrarse principalmente en estudiantes de MIT de 18 a 22 años, así que hay desafíos de reproducibilidad y generalización. Durante el experimento también les midieron EEG, lo cual es un entorno poco familiar e incómodo. Además, como el estudio compara escribir ensayos con LLM, con herramientas de búsqueda o sin herramientas, los participantes saben perfectamente qué están usando. El resumen del paper dice que estudia el costo cognitivo del uso de LLM en tareas de redacción de ensayos. Escribir ensayos es una tarea compleja que moviliza múltiples procesos cognitivos y se usa en escuelas y exámenes. Hay que gestionar al mismo tiempo tareas de nivel macro, como organizar ideas y estructurar argumentos, y tareas de nivel micro, como elegir palabras, gramática y sintaxis. Para evaluar el involucramiento cognitivo, la carga cognitiva y la activación cerebral, usaron EEG. Además del LLM, compararon la actividad cerebral con búsqueda clásica en internet y con ausencia total de herramientas. Paper original
Los 54 participantes tenían entre 18 y 39 años (promedio 22.9, SD=1.69) y fueron reclutados en cinco universidades: MIT, Wellesley, Harvard, Tufts y Northeastern. Eran 35 estudiantes de licenciatura, 14 de posgrado, y 6 personas entre postdocs, investigadores e ingenieros de software. El tamaño y la composición de la muestra sí son una limitación, y los estudios de seguimiento deberían hacerse con muestras más grandes y diversas. Pero por eso no diría que ya implica “dificultades de reproducción”
Creo que ya deberíamos dejar de usar el argumento de “hay que tomarlo con cautela porque aún no pasó peer review”. El peer review tampoco es un proceso científico ideal; a menudo implica demoras innecesarias y comentarios sin sentido, y no deja de ser trabajo gratis para grandes editoriales. He publicado más de 30 papers y he recibido reseñas tan buenas como malas. Como mínimo deberíamos ir hacia open peer review y comunicación entre editores. La ciencia debería ser un mercado de ideas. El resto de las críticas me parecen totalmente válidas. Las conclusiones del paper también son demasiado apresuradas y cercanas a lo promocional. Personalmente creo que el sistema actual de peer review ya está anticuado
Este estudio es un experimento sobre el efecto de ChatGPT en la capacidad de escribir ensayos. Lo que muestra es que, si no practicas escribir, tu habilidad de escritura se deteriora, y que en la actividad cerebral se observaron diferencias respecto de otros métodos. No es evidencia de que sea algo especialmente dañino. Además, el paper usa el término “cognitive debt” y no “cognitive decline”, y eso tiene implicaciones importantes para la interpretación. Creo que otros estudios podrían encontrar resultados similares, pero me parece demasiado pronto concluir que la AI/los LLM son dañinos para el cerebro. Incluso podría leerse como que reducen la carga cognitiva y hacen más fácil escribir ensayos. Eso sí, hacen falta más estudios, por ejemplo evaluando la calidad del resultado
Otro punto importante es que aquí “AI” se usa como sustituto de LLM. AI abarca cosas muy distintas. Cuesta imaginar que generar imágenes, video o audio lleve a deterioro cognitivo; en el caso de los LLM, más bien pensaría en algo como “pereza intelectual al ya no tener que recordar o memorizar por cuenta propia”
Creo que este efecto se reproduce de manera bastante obvia. Cuando interactúo últimamente con gente que empezó a usar mucho los LLM, me da la impresión de que su IQ bajó de forma perceptible. He visto personas que antes debatían activamente y ahora no pueden sostener una conversación si antes no revisan la respuesta de Grok o ChatGPT
Este artículo y su titular en realidad no hacen más que repetir de manera burda una fuente anterior más original. Los propios investigadores dejaron muy claro en su FAQ que no quieren que los medios malinterpreten su trabajo con frases como “los LLM nos vuelven tontos”. Algunos comentarios en HN son un buen ejemplo de sesgo cognitivo: aceptar información sin revisar el material real
Entiendo por qué dicen que esto se está volviendo tipo Reddit. Este tipo de temas clickbait siguen apareciendo. En particular, este estudio solo trata de 18 personas que usaron ChatGPT cuatro veces a lo largo de cuatro meses, sin control suficiente del ruido. Estoy de acuerdo en que el sobreuso de AI es un problema, pero este estudio no es más que clickbait sobre un tema que nos disgusta
Siento que casi nadie leyó el paper de verdad. El grupo que usó LLM en las sesiones 1 a 3 mostró menor conectividad al hacer la sesión 4 sin LLM, y todos los grupos aumentaron su conectividad conforme avanzaban las sesiones. Lo importante es que en la sesión 4 la conectividad no volvió por completo al nivel inicial de la sesión 1, sino que quedó en un punto intermedio. Es decir, seguían aprendiendo. El concepto filosófico de Extended Mind es la clave. De hecho, cuando el grupo que pasó las sesiones 1 a 3 sin LLM empezó a usar LLM en la sesión 4, el cerebro se activó de forma explosiva. Ahí está el verdadero punto de las conclusiones del estudio
Personalmente, tras ocho meses programando con ChatGPT, sí he sentido que mi mente se vuelve más lenta. Por eso el estudio me resonó mucho. Aun así, supongo que casi no veremos nuevas investigaciones que traten estos resultados de manera negativa. Hay fuerzas que no quieren una opinión pública negativa sobre la AI y que marcan el tono social general
Yo creo que no hay que dejar que un LLM escriba o corrija un texto por ti. Se puede usar para feedback, explorar ideas o encontrar huecos, pero la redacción debes terminarla tú mismo. Es demasiado fácil entregarle el cerebro al LLM. No solo con ensayos: también he sentido un deterioro cognitivo real al depender del LLM para resolver problemas de programación. Cuando estás en un ecosistema de programación desconocido y solo copias y pegas errores una y otra vez, el problema se resuelve rápido, pero el aprendizaje real disminuye. Claro, a cambio empezar es más fácil y uno se atasca menos, así que hace falta equilibrio. Es indispensable tener la capacidad de luchar directamente con el problema
Mi experiencia ha sido la contraria. En vez de simplemente copiar y pegar errores o aceptar de inmediato la respuesta de la AI, sigo preguntando “¿por qué esto funciona?”. Le hago desmenuzar línea por línea cada comando y cada flag, y solo avanzo cuando lo entiendo por completo. Gracias a eso, aunque quizá no lo recuerde tan profundamente como si lo hubiera explorado solo, puedo experimentar más problemas más rápido y aumentar el volumen de aprendizaje
Cuando Firefox agregó autocorrección, practicar revisando la respuesta correcta me ayudó mucho a mejorar mi escritura sin errores tipográficos (el inglés no es mi idioma nativo). Creo que con los LLM pasa lo mismo: son una herramienta para aprender más rápido y llegar antes a conclusiones. Cuando en un proyecto nuevo olvido alguna configuración que ya había hecho antes, el LLM puede recordarme lo que antes habría dejado anotado en una wiki. Lo importante es hacer un self-check para convertirte en mejor ingeniero usando LLM
Ese sí es el verdadero problema, pero si usas LLM con moderación puedes ponerte rápido al día con tu propia habilidad y con áreas adyacentes, sin quedar bloqueado por pequeños vacíos de conocimiento y concentrándote en el trabajo esencial. Por ejemplo, pude implementar rápidamente en C procesamiento de señales acústicas submarinas, resolviendo de forma práctica y veloz un área que no necesitaba dominar a la perfección. Antes me habría pasado horas leyendo únicamente código ajeno
Pedirle a un LLM que redacte por ti es pereza, y además los resultados no son satisfactorios. Es mejor que yo escriba el borrador y luego usar el LLM para recibir feedback, revisar puntos ciegos o encontrar mejor vocabulario
Veo el hábito de usar LLM como algo parecido a depender demasiado del GPS o de las apps de mapas. Son realmente convenientes, pero tienen el efecto secundario de atrofiar áreas del cerebro necesarias para la memoria espacial o la toma de decisiones. Una vez confié ciegamente en eso y tuve un gran fracaso. Antes los mapas de papel eran incómodos, pero a cambio te daban más interacción y tiempo para pensar. Hoy casi no se usan, salvo quizá en zonas de conflicto
Incluso siendo un estudio muy comentado, como este paper, tiene límites metodológicos serios. Solo dividieron 54 personas en tres grupos; eso deja 9 por condición, algo totalmente insuficiente para afirmar cosas como “reprogramación cerebral”. Lo que mostró el estudio fue únicamente que durante la redacción de ensayos con apoyo de AI aparecen patrones cerebrales distintos, no daño permanente. Que haya menos actividad cerebral al usar herramientas es comparable a hacer menos cálculo mental cuando usas calculadora. Términos como “daño cognitivo” o “daño severo” tampoco corresponden al estudio real. Con mediciones de EEG superficial no se pueden inferir cambios profundos en el cerebro. Los autores también reconocen estas limitaciones. Incluso lo de que “83.3% no pudo recordar ni una sola frase de su ensayo” significa apenas 15 de 18 personas
Como ejemplo típico de uso cotidiano de AI, alguien menciona aprendizaje práctico en soldadura, uso de multímetro, diseño de circuitos, sistemas solares/de baterías y despliegue de redes LoRa, entre otras cosas. En todos los casos no solo estudia teoría, sino que aprende experimentando directamente. Cuando surge un problema, usa AI para identificar la causa, y repite preguntas y experimentos hasta entender bien el principio. Los videos de YouTube no van con su estilo; para esa persona, la AI basada en texto encaja mejor. Incluso prefiere aprender cometiendo errores y rompiendo cosas a propósito. Está aplicando a electrónica barata la estrategia de prueba y error que le funcionó en software, con buenos resultados
Como alguien que hace estas cosas directamente, me pregunto por qué eligió AI. Aprender por texto me parece una de las formas más difíciles. Un buen video muestra mucho mejor el proceso real y los criterios de éxito o fracaso. Aunque sí es verdad que cada vez cuesta más encontrar buenos videos
Antes de los LLM, yo también aprendí algo parecido construyendo sintetizadores analógicos. Estoy de acuerdo en que consultaba las mismas fuentes de texto en la web que ahora consulta un LLM. Cuando algo no funcionaba, recurría al equipo real o a la documentación. Ya existía un camino suficiente para aprender sin LLM, y todavía no tengo claro que el LLM sea necesariamente una forma de aprendizaje superior a otros métodos
Para aprender de verdad, el ritmo del trabajo físico hace que la velocidad del aprendizaje se alinee con la velocidad del cerebro. En cambio, un ciclo de retroalimentación demasiado rápido, como el “vibe coding” en software, en realidad no ayuda al aprendizaje. Hace que el cerebro evite el proceso mismo de aprender
Si usas el LLM como un aprendiz que le hace preguntas a un maestro, entonces no veo ningún problema
De forma parecida, yo resuelvo libros de ejercicios sin respuestas y, cada vez que me atoro, uso ChatGPT para recibir feedback y pistas. Me ha ayudado muchísimo
El artículo está tan mal concluido a partir del paper real que hasta parece escrito por AI. El experimento consistió en ensayos tipo SAT de menos de 30 minutos a lo largo de cuatro meses, y solo algunos usaron AI. Con algo así, usar AI 20 minutos al mes no puede llevar razonablemente a la conclusión de que la gente se volvió visiblemente más tonta. Lo que sí mostró el estudio es que uno siente menos apego y tiene menos memoria por un resultado que no produjo personalmente. Eso también pasa con trabajos hechos por otras personas
Creo que la manera en que usas AI está muy vinculada a su efecto sobre el aprendizaje. En mi caso, hacerle preguntas constantemente a la AI y discutirle con lógica me hace pensar mucho más profundo que de costumbre. Por ejemplo, cuando encuentro una función con poca documentación, uso la AI para seguir el flujo del código y luego discuto con ella distintas opciones sobre convenciones de nombres, refactorización estructural y documentación. El LLM solo es muchísimo más rápido para buscar información, así que me ahorra trabajo en esa parte; de hecho me obliga a pensar más a fondo. Claro, hubo áreas como
mermaidque me salté, pero gracias al LLM pude hacer trabajo real, y sin eso probablemente me habría quedado en tareas trivialesEl paper y los artículos se interpretaron de forma tan sensacionalista que el equipo de investigación incluso publicó un FAQ aparte. El autor del paper ha pedido repetidamente que no usen expresiones como “los LLM te vuelven tonto”
Hablar de “deterioro cognitivo a largo plazo” solo a partir de resultados técnicos de medición de redes neuronales es una exageración. Por ejemplo, el resultado de que “83% de los usuarios de LLM no pudo recordar ni una sola frase del ensayo que acababan de escribir” en realidad solo dice algo obvio: no recuerdas bien un texto que no pasó realmente por tus manos. Si la AI lo escribió por ti, es natural sentir que no pasó por tu propio pensamiento