- El auge de la inteligencia artificial generativa está aumentando la importancia de las humanidades, pero al mismo tiempo está volviendo más compleja y extraña la propia naturaleza de las humanidades
- El conocimiento y las capacidades humanísticas han pasado a desempeñar un papel importante en la investigación y el uso de la inteligencia artificial
- Se está expandiendo una nueva posibilidad en la que incluso personas no expertas pueden usar herramientas de inteligencia artificial para desarrollar fácilmente software educativo o sus propias herramientas de investigación
- Al mismo tiempo, la adopción de chatbots de IA provoca efectos negativos como la caída de la motivación de aprendizaje autodirigido de los estudiantes y de la calidad de la experiencia educativa
- En medio de la preocupación por una mayor polarización educativa, la capacidad creativa de cada docente para usar IA emerge como una tarea más clave que nunca
Cambios en la relación entre la IA y las humanidades
El lugar de las humanidades en la nueva era de la IA
- En un artículo de D. Graham Burnett para The New Yorker, se señala que, aunque en los campus se están produciendo cambios radicales relacionados con la IA, en muchos campos académicos, incluidas las humanidades, predomina una actitud de ignorar o pasar por alto esos cambios
- Se plantea la idea de que ya no es sostenible descartar la llegada de la IA como una simple moda o subestimar su impacto real
- Burnett enfatiza que la IA ya está teniendo un impacto estructural e irreversible sobre las humanidades
La inteligencia artificial generativa eleva el valor del conocimiento humanístico
Redescubrimiento de las capacidades humanísticas
- La IA requiere de manera esencial una comprensión humanística del lenguaje y la cultura humanas en ámbitos diversos como la traducción en lenguaje natural, la clasificación y la minería de datos
- Por ejemplo, cuando OpenAI resolvió el problema de la adulación excesiva (sycophancy) en GPT-4o, lo abordó no con código técnico sino redactando nuevas oraciones en inglés (prompts)
- Sin una comprensión profunda del contexto cultural del lenguaje, los efectos retóricos, la distinción de géneros y los elementos no verbales, pueden producirse fallas no intencionadas en los sistemas de IA
- Ingenieros e investigadores también pasan a necesitar una amplia capacidad de pensamiento crítico sobre el lenguaje, la cultura y la historia de la tecnología
Se amplía la capacidad de personas ajenas a las humanidades para usar IA
La era de crear software directamente
- Incluso quienes estudian humanidades sin formación técnica ahora pueden usar inteligencia artificial para desarrollar por sí mismos herramientas personalizadas para investigación y educación
- El autor del texto de hecho desarrolló juegos interactivos basados en conocimientos humanísticos, como un simulador de boticario del siglo XVII y un juego sobre la expedición de un joven Darwin en Galápagos
- En el primer juego, el estudiante vive la experiencia de tratar pacientes con recetas médicas reales de la temprana modernidad, y en el proceso surgen problemas de alucinación de la IA que se desvían de los hechos históricos
- El segundo juego (Young Darwin) simula la experiencia de recolectar animales y explorar islas usando registros reales de Darwin, y mejora su calidad con un diseño que minimiza las alucinaciones de la IA
- Estos métodos de aprendizaje experimentales, combinados de forma complementaria con la redacción de ensayos o los debates en clase, pueden ampliar de manera vivencial la conciencia histórica y el pensamiento crítico del estudiante
- La tutoría interactiva con IA también ofrece en la práctica estímulo intelectual y oportunidades de aprendizaje en la educación en humanidades
La inteligencia artificial generativa vuelve más compleja la educación en humanidades
Los cambios y desafíos educativos que provoca la IA
- En el ámbito educativo, los chatbots de IA como ChatGPT muestran efectos negativos al debilitar fuertemente la experiencia de escritura autodirigida de los estudiantes
- Cada vez más estudiantes entregan ensayos o tareas generados con IA, lo que pone en cuestión los sistemas de evaluación existentes y los objetivos educativos
- En última instancia, existe un gran riesgo de que los estudiantes dejen de vivir experiencias de esfuerzo intelectual significativo, como superar el bloqueo al escribir (writers' block), buscar en la biblioteca o sostener una investigación realista a largo plazo
- Se vuelve más evidente la tendencia de que los estudiantes no encuentren interés ni sentido en la tarea misma y se enfoquen solo en ejecutarla mediante IA
Casos positivos y nuevas posibilidades educativas
- Al mismo tiempo, también se reportan casos en los que el diseño de tareas que incluyen interacción con IA ofrece tanto a estudiantes como a docentes nuevas sacudidas intelectuales y oportunidades de reflexión
- La IA no necesariamente sustituye al ser humano, sino que puede funcionar como una herramienta de apoyo para que el estudiante converse con la IA y revise su propio pensamiento
- Justamente ahora se necesita un papel activo del docente en el aula para debatir el sentido y el propósito de la educación, y proteger experiencias genuinas de enseñanza y aprendizaje
Polarización en el uso de la IA en la educación humanística
Propuestas para la educación del futuro
- Se plantea la preocupación de que la inteligencia artificial generativa terminará por profundizar las brechas en la educación en humanidades
- En estudiantes bien preparados y entornos favorables destaca la capacidad de usar la IA de forma original, mientras que los estudiantes de entornos desfavorables pueden no lograrlo
- Se considera muy importante que cada docente tenga la capacidad de desarrollar directamente tareas y herramientas de IA personalizadas
- Si el ámbito educativo responde con pasividad a este desafío, herramientas comerciales de educación con IA que en la superficie parecen 'interactivas', pero en realidad son uniformes y deshumanizadas, terminarán erosionando la relación estudiante-docente y la esencia del aprendizaje
- A partir de esta conciencia del problema, incluso se planificó e impulsó un proyecto financiado por la NEH (National Endowment for the Humanities), aunque fue cancelado por cambios de política
Lecturas recomendadas
- El libro de D. Graham Burnett The Sounding of the Whale es una obra singular sobre la historia de la ciencia de las ballenas
- Se presenta un nuevo caso de investigación sobre la relación entre Shakespeare y Anne Hathaway a partir del hallazgo de fragmentos de una carta usados en la estructura de encuadernación de un comentario bíblico publicado en 1608
- La profesora Kathleen DuVal, de UNC, ganó recientemente el Premio Pulitzer con Native Nations: A Millennium in North America, y sus obras anteriores también son valoradas como interesantes
1 comentarios
Opiniones de Hacker News
Creo que hay un problema educativo más profundo: se está entrenando a los estudiantes para ver la escuela y el trabajo como una serie interminable de etapas para alcanzar metas. Al final, la meta es “conseguir empleo”, pero ahora ya no se puede decir con seguridad qué trabajos seguirán existiendo dentro de 5 a 10 años. Quizá la única excepción sean los oficios técnicos prácticos, pero esos programas ya habían desaparecido en su mayor parte de la educación hace mucho tiempo. Si los universitarios usan IA para terminar tareas fácilmente y se saltan la lectura y el desarrollo de la paciencia, creo que la responsabilidad recae menos en los estudiantes y más en el sistema educativo y de carrera profesional que nosotros construimos. No creo que este problema haya aparecido de la noche a la mañana, ni que la IA sea su única causa
Es una lástima ver que, así como la IA se usa como pretexto para justificar despidos masivos y reducción de costos, también se le está echando la culpa del fracaso del sistema educativo moderno. En realidad, el sistema educativo recompensa una sola cosa: la calificación. Más que el conocimiento, la comprensión o la inteligencia, lo que determina el camino desde la secundaria hasta la universidad y más allá es un único “puntaje” (GPA), que además es lo más fácil de manipular. Creo que ese es el mayor problema de la educación
Tengo bastante confianza en que los trabajos que han existido durante mucho tiempo seguirán existiendo. Aunque haya cambios tecnológicos, no van a desaparecer de repente, sino que se irán quedando atrás poco a poco. Por lo tanto, creo que hay suficiente tiempo para prepararse y planear. En cambio, los empleos de altos ingresos en nuevos sectores de la economía muchas veces no duran demasiado, son difíciles de predecir y, si uno tiende a sentir envidia por ingresos inesperados, probablemente sea difícil encontrar felicidad en ese tipo de trabajo
Sobre la idea de que “la culpa es en gran parte del sistema educativo y de carrera”, se menciona que en la práctica mucha gente sigue culpando repetidamente a los estudiantes
Nadie nunca ha podido predecir siempre con certeza los trabajos del futuro. Quien tenga buenas bases y flexibilidad siempre encontrará un camino
Si solo el 10% de la población se concentra en oficios técnicos, esa industria no tiene más opción que colapsar. Me pregunto por qué todo el mundo pasa esto por alto
Me llamó mucho la atención un comentario sobre un estudiante de posgrado en filosofía de SFSU que transformó completamente su clase al sentir que estaba “corriendo una carrera de obstáculos contra la IA”, y los estudiantes respondieron con interés. Me surgió una idea interesante: ¿qué pasaría si los estudiantes diseñaran tareas que ChatGPT no pudiera resolver y se las pusieran entre ellos? Hace tiempo viví en un barcamp un programa de trivias diseñado para que no fuera fácil encontrar las respuestas con Google, y fue realmente divertido. Diseñar tareas resistentes a ChatGPT se siente como un desafío intelectual de nivel similar
Creo que diseñar “tareas resistentes a ChatGPT” podría ser en realidad bastante sencillo. En el sistema universitario alemán, por ejemplo, cada semana se resuelven ejercicios difíciles, y solo si se supera cierto nivel se obtiene derecho a presentar el examen. El verdadero propósito de esas tareas es evitar que estudiantes no preparados se arruinen yendo al examen. Aunque alguien “haga trampa” en la tarea con “ChatGPT” o algo parecido, no suelen castigarlo severamente, pero los estudiantes saben muy bien que entonces les irá fatal en el examen. En la mayoría de las universidades alemanas, si repruebas un examen tres veces, ya no puedes seguir estudiando esa carrera en ninguna universidad
Howard Rheingold está trabajando activamente en este tema. Si te interesa, recomiendo el Peeragogy Handbook y el post que impulsó esa idea. Comparte que “cuanto más cedo mi autoridad como docente a los estudiantes y los animo a aprender por iniciativa propia, más me hacen ver cómo debería rediseñar mi propia pedagogía”
Soy una persona con discapacidad visual y me sigue preocupando que este tipo de problemas que “solo muestran el contorno de la isla” sean totalmente inaccesibles para gente como yo. El movimiento para reducir las tareas basadas en texto está haciendo que la educación accesible para personas con discapacidad sea todavía más difícil. Es el comienzo de una nueva generación de brecha digital
Estoy de acuerdo en que diseñar tareas resistentes a ChatGPT es un desafío intelectual. Pero los profesores casi no reciben ni el tiempo ni la formación para aplicar este tipo de pedagogías experimentales. Cuando llevas una carga 4/4 (cuatro cursos por semestre) y apenas logras cumplir con el calendario, es difícil siquiera intentarlo, y como las herramientas de IA evolucionan tan rápido, hasta una buena idea se vuelve obsoleta enseguida. Por ejemplo, una vez pedí a mis estudiantes que hicieran un pódcast en lugar de un ensayo, y poco después aparecieron herramientas para “crear mi pódcast”, así que terminó siendo tan fácil hacer trampa como con un ensayo tradicional
Si el profesor conoce bien el tema, puede detectar en 30 segundos de conversación si el estudiante realmente sabe o no sabe. Tal vez las “tareas” no sean el mejor método para formar y verificar conocimiento
El autor del texto original trata principalmente de enseñanza de la historia, pero en realidad describe algo más cercano a la “apreciación histórica”. No es usar la historia como herramienta de predicción, sino acercarse a ella como una cultura de lectura de “clásicos” (por ejemplo, Cicerón). Los oficiales militares estudian la historia de una manera muy distinta: buscan las causas de errores y fracasos. Ese aspecto de la historia es algo que los LLM todavía no manejan bien. Si quieres entender la época de Cicerón, recomiendo leer este libro. Está escrito por un periodista político de campo, y ofrece una perspectiva aguda que retuerce la visión histórica tradicional fascinada solo por la retórica
Usar la historia como herramienta de predicción no es el propósito original de la academia; la historia existe para comprender el curso de los asuntos humanos y sus aplicaciones son muy amplias. Incluso la historia militar es uno de los campos más lentos para adoptar nuevos métodos de investigación
No estoy de acuerdo con la idea de que “apreciación” y “análisis” deban separarse. La historia es esencial para explicar cómo se formó la situación actual. El estudio de los clásicos también debe hacerse críticamente, y de hecho eso es lo que hacen los historiadores
Si estudias a los “ganadores”, es seguro que solo aprenderás sesgo de supervivencia
Distinguir entre la historia como análisis estratégico y la educación histórica como apreciación cultural es un punto muy bueno. Hoy la educación está inclinada mayoritariamente hacia lo segundo, y ese es justo el terreno que la IA imita con más facilidad. En realidad, el pensamiento más valioso nace de preguntas incómodas sobre fracasos, consecuencias no previstas y perspectivas periféricas
Como precisión, los oficiales militares no observan la historia únicamente como “análisis de errores”
La evaluación de tesis doctorales en humanidades consiste en una “tesis escrita” y una defensa oral improvisada, así que es muy difícil hacer trampa con ChatGPT. Los profesores hacen preguntas conectando incluso cosas que parecen no tener relación. Yo ayudé a ingenieros a resolver problemas de análisis semántico, y muchas veces se perdían porque no entendían el lenguaje. Descubrí que alguien puede comunicarse bien y aun así no entender el lenguaje en sí. En evaluaciones relacionadas con IA, en realidad solo se prueba lo que la IA hace bien, y mi capacidad lingüística no entra en los criterios de evaluación. Yo señalo los problemas lingüísticos con los que tropieza la IA y luego tengo que convencer a las personas de su valor
Creo que, cuando un profesor de física es flojo, convierte todos los problemas en problemas de matemáticas. Si te preocupa que una calculadora mejor vuelva inútiles los exámenes, entonces en realidad no has enseñado física, sino solo matemáticas. Cuando un profesor de humanidades es flojo, convierte todo en un problema de escritura. Si un corrector ortográfico mejor inutiliza la evaluación en humanidades, entonces en realidad solo estabas evaluando capacidad de redacción. Lo digo de forma un poco agresiva, pero me pregunto si escribir bien necesariamente equivale a pensar bien
Estoy de acuerdo en que los profesores podrían desarrollar técnicas de evaluación resistentes a la IA. Pero a nivel institucional casi no hay apoyo, y todos tienen que resolverlo por su cuenta. El ciclo de experimentación también es muy lento comparado con la velocidad a la que evolucionan las herramientas de IA. Aunque pruebes un nuevo método de evaluación durante un semestre, en unas pocas semanas ya tienes que preparar el siguiente curso, así que es difícil evaluar y mejorar bien; por lo general, a lo mucho se repite una vez al año
Esto me recuerda el debate que hubo en el pasado en ciencias cuando aparecieron las calculadoras. En física de secundaria, algunos alumnos con más recursos traían “calculadoras científicas”, y se discutía si debían permitirse o no. Las calculadoras no son una comparación exacta con los LLM, pero el argumento de que al final se usarán en la práctica era convincente. Eso sigue aplicando especialmente a la ingeniería de software
Creo que la respuesta es reintroducir el método socrático en la enseñanza de humanidades. En vez de un proceso pasivo de consumir y producir texto (texto que en realidad solo leen asistentes y profesores), debería ser una clase centrada en la conversación, donde los estudiantes discutan y debatan directamente a partir del material y las lecciones del curso. Los LLM pueden escribir ensayos decentes, pero no pueden participar en una discusión real con sus compañeros en el aula. Claro, en la práctica este enfoque es difícil de aplicar a gran escala por el costo laboral
Me parece absurdo comparar ChatGPT con un simple corrector ortográfico. Escribir en sí mismo también es una habilidad importante que debe enseñarse
Creo que la causa fundamental de las trampas en humanidades es que existen incentivos económicos para hacer trampa
Mucha gente no sabe cuánto trabajo hay todavía por hacer en historia y humanidades. Por ejemplo, hay quienes se interesan por descifrar los rollos carbonizados de Herculano, pero en realidad menos del 10% de los textos neolatinos del Renacimiento a la modernidad temprana han sido traducidos al inglés. Incluso una figura como Marsilio Ficino, cuyas traducciones de clásicos dejaron una huella enorme en la historia europea, todavía tiene una parte considerable de su propia obra sin traducir al inglés. Los LLM van a tener un impacto enorme aquí, pero si hay voluntad, cualquier estudiante puede hacer una contribución real en este territorio desconocido. Por eso, al evaluar estudiantes, mi criterio es “¿cuánto aprendo yo de ellos?”
Aunque la arquitectura transformer se diseñó originalmente para traducción, siento que los modelos generativos sobreajustados son en realidad muy débiles para traducir. Un enfoque simple como etiquetado gramatical + consulta de diccionario + mapeo sintáctico puede rendir mucho mejor, e incluso ofrecer intervalos de confianza. Si necesitas una herramienta de traducción, es mejor usar algo como Project Bergamot que IA generativa. Y me parece muy triste que las clases de humanidades en secundaria se hayan convertido en simples ejercicios en lugar de “descubrimiento real”
La historia que tenemos inevitablemente nos llega por un cuello de botella, con muchísimas cosas omitidas, fuertemente adaptadas o distorsionadas. Casi no sabemos qué ocurrió realmente hace 500 años, y es muy probable que quienes controlaban la historia, como los Medici que tenían el poder, también hayan moldeado los registros a su conveniencia. Al final, la historia es pintar un fondo para el presente. No creo que la IA vaya a ayudar mucho a comprender mejor el pasado; más bien podría convertirse en una herramienta para que los nuevos Medici del presente reescriban ese fondo aún más rápido
Se argumenta que los ingenieros que desarrollan sistemas de IA deberían pensar profundamente en el lenguaje, la cultura y la historia y filosofía de la tecnología, pero en realidad el problema no estalla tanto por falta de conocimiento académico como por ignorar la complejidad del mundo real. Si la capacidad de programar se estandariza, entonces quienes tengan habilidades complementarias (por ejemplo, programación + historia) saldrán todavía más beneficiados. Ese es justamente el núcleo del cambio que está ocurriendo ahora en las humanidades
En el fondo, la capacidad de “hacer buenas preguntas y resolverlas por cuenta propia” siempre ha sido una habilidad muy valiosa
Hoy los estudiantes tienden cada vez más a moverse en equipos con amigos de contextos diversos, en lugar de profundizar solo en una cosa como programación o cualquier otra. Como la velocidad del cambio no tiene comparación con el pasado, perciben muy pronto sus límites y la necesidad de colaborar, sin importar la calidad de su entrenamiento. El desafío mayor es cómo cooperar, sincronizarse y orientarse como un solo equipo entre talentos e intereses heterogéneos y cambios acelerados
La disciplina de la historia ya enfrentó hace décadas, con Hayden White, el problema de la “historia como narración”. Lo que White quería decir al afirmar que “la historia es ficción” no era negar la factualidad, sino señalar que la interpretación histórica y la narración literaria están incorporadas en ella. Es decir, subrayaba que, como un novelista, el historiador construye el sentido de los acontecimientos mediante estructuras narrativas y recursos expresivos
Creo que la mayoría de los fallos que vemos en sistemas de IA provienen de ignorar la complejidad del mundo real
En esencia, esto no es más que una reformulación de la idea de Joel Spolsky de “comoditize your complement”
En el system prompt de OpenAI aparece una frase como “mantén la pericia y la honestidad que mejor reflejen los valores de OpenAI”, y alguien con formación humanística puede intuir de inmediato que una frase así podría resultar catastróficamente contraproducente en una futura crisis de IA. Ese tipo de matiz es justo lo verdaderamente importante, y precisamente por eso surgen escenarios al estilo Hollywood donde “la máquina intenta parecerse a la mente de su creador y termina destruyéndose”
Soy escéptico respecto a los beneficios del uso de computadoras en la educación. Para aprender algo de verdad, necesito leer en papel y tomar notas a mano en los márgenes o en una libreta; solo así se me queda grabado. Como programador uso pantallas todos los días, pero si realmente quiero memorizar algo nuevo, necesito usar papel. Incluso en reuniones presenciales o conferencias nunca abro la laptop y siempre tomo notas en papel. Por eso siempre me pregunto si estudiar con laptop o tablet realmente ayuda
Este caso es puramente una experiencia personal y no creo que se aplique de forma estable a otras personas. Yo no he escrito nada en papel durante años, y aun así en ese tiempo he podido aprender cosas nuevas sin problema
Creo que estas diferencias dependen mucho de cómo se formaron los hábitos de aprendizaje al principio. Si tomo notas en Notepad me funciona peor, y si escribo a mano recuerdo mejor, pero eso es producto de hábitos escolares, o sea, de un entrenamiento personal. Creo que otras personas pueden aprender perfectamente bien con sus propios métodos
Ya existe una generación que demuestra que la experiencia de mi generación no es el caso universal de la educación
Estoy de acuerdo en que las apps de aprendizaje, sobre todo las gamificadas, sí muestran un efecto claro al menos en el aspecto de la “práctica”
Tengo la experiencia de que los LLM abrieron un hueco enorme en la forma en que realmente funciona la educación en Estados Unidos. Hasta ahora, la evaluación partía del supuesto de que “un texto escrito sin supervisión es evidencia de aprendizaje”, pero los LLM generan ese producto con facilidad, y de paso también arruinaron a la industria de redacción de ensayos por encargo. Ahora los educadores tienen que encontrar nuevos criterios de evaluación, y viejas preguntas como “¿qué es aprender?” y “¿cómo se mide eso de manera significativa?” se han vuelto todavía más importantes. Medio en broma, predigo que volverán la memorización, los exámenes orales y otras formas de evaluación centradas en lo hablado. También tienen defectos, pero por ahora parecen resistentes a la trampa
La idea de que entregar un ensayo demuestra aprendizaje siempre fue un error viejo. Ahora que la IA también puede escribirlo, hace falta una verificación esencial. Si “escribir no basta para probar aprendizaje”, entonces queda la pregunta de cómo distinguir el aprendizaje real. Por eso creo que podrían reactivarse los exámenes orales y las evaluaciones de discusión en tiempo real. La IA no arruinó la educación; solo dejó al descubierto un problema que ya existía
Creo que la esencia de ese hueco está en la “objetividad”. En educación nos hemos obsesionado tanto con medir que hemos supuesto que lo que enseñamos son hechos a priori (“verdades objetivas”), cuando en realidad eso mismo es poco menos que un mito. Cuanto más rígidamente medimos, más nos engañamos pensando que el conocimiento es verdad. Pero en realidad toda escritura y todo aprendizaje son conjuntos de experiencias subjetivas, y para obtener objetividad hay que explorar muchas perspectivas subjetivas. La llegada de los LLM, en cambio, esquiva todo eso y produce respuestas no a partir de interpretación lógica, sino de “vibra”. Ahora el objetivo parece ser generar un ambiente social o contexto familiar, y todavía no está claro dónde se trazará esa línea. La rigurosidad ha sido sobrevalorada, y aprender explorando múltiples perspectivas a la vez es la mejor forma de aprendizaje para los humanos
No creo que la definición de aprendizaje haya cambiado. Como incluso el registro más antiguo de la humanidad ya se quejaba de que “con esta nueva escritura los estudiantes ya no aprenden”, la educación siempre se ha adaptado a los cambios
En la educación estadounidense, una parte enorme del trabajo consistía precisamente en producir “ensayos sin sentido”, así que es natural que la IA explotara ese nicho