La noche oscura de las matemáticas

• A medida que los LLM producen una serie de contraejemplos a conjeturas matemáticas antiguas, crece una crisis emocional y espiritual ante la posibilidad de que desaparezca una vía por la que los seres humanos han experimentado lo sublime y lo misterioso a través del descubrimiento matemático
• En una era en la que la IA incluso puede producir en masa demostraciones bellas y claras, el consuelo de que los humanos pueden encargarse de la evaluación, la educación y la apreciación no sustituye ni el empleo de los investigadores ni la experiencia de crear algo nuevo
• Al comparar una situación en la que todos los teoremas ya han sido demostrados de innumerables maneras con la Library of Babel, se sostiene que, si los resultados originales son inmediatamente aplastados por las máquinas, podrían dañarse tanto la razón para que los humanos sigan creando como la experiencia misma
• Se plantea el peor escenario posible, en el que los matemáticos del futuro quedan excluidos de una historia de descubrimientos humanos que se remonta por miles de años, pero no como una predicción, sino como un experimento mental para examinar el efecto que esa posibilidad tiene sobre la mente humana; no se proponen políticas concretas ni se exige ninguna acción
• También queda abierta la posibilidad de que, como en el ajedrez, la IA no elimine el descubrimiento sino que lo amplíe; mejorar la precisión mecánica y la reproducibilidad, el papel del código abierto, mantener unas matemáticas centradas en lo humano y frenar el ruido generado por la IA pasan a ser condiciones de la nueva era

---

La crisis espiritual detonada por los LLM

• Durante aproximadamente la última semana, los LLM han producido varios contraejemplos a conjeturas importantes y antiguas, lo que ha desencadenado una profunda crisis emocional y espiritual
• La Leiden Declaration on Artificial Intelligence and Mathematics intenta calmar esta inquietud, pero se percibe como una respuesta que no aborda suficientemente lo esencial que podría perderse en las matemáticas
• No se presenta como una postura que represente a toda la comunidad matemática, sino como una exposición honesta de un dolor personal, con la idea de que quienes sienten algo parecido quizá no estén solos

Algo que no puede sustituirse solo con evaluación y apreciación

• Aunque la IA produzca teoremas y teorías con más eficiencia que los humanos y presente incluso los resultados de forma bella y clara, todavía podrían quedar estos papeles para los humanos
  • evaluar, presentar, comprender y apreciar demostraciones no humanas
  • aprendizaje y enseñanza de las matemáticas
  • estudiar y debatir matemáticas en conjunto
  • demostrar por cuenta propia por placer, aunque sea ineficiente
• Sin embargo, en el sistema actual, los matemáticos reciben recompensas en última instancia por producir buenos teoremas, y la enseñanza, la evaluación entre pares, las actividades académicas y el aprendizaje también están conectados con los resultados de investigación
• Aunque algunas figuras veteranas puedan administrar un sistema de producción de teoremas basado en LLM, sigue existiendo la posibilidad de que los jóvenes matemáticos no puedan continuar con las matemáticas como profesión y terminen relegados a un pasatiempo nocturno
• El consuelo de que se conservarán los papeles de evaluación y apreciación difícilmente basta para aliviar la pérdida emocional que surge cuando desaparecen el descubrimiento y la creación

El descubrimiento matemático y lo sublime

• El descubrimiento, el progreso, la creación matemática y el proceso de perseguirlos son el núcleo del carácter espiritual de la experiencia matemática, y han sido una forma en que los seres humanos se acercan a lo difícil de expresar con palabras y a lo sagrado y misterioso
• En esta tradición de misticismo y sueño matemáticos aparecen Ramanujan, Grothendieck, Cantor, Pascal, Luzin y Leibniz
• Aprender teorías ya establecidas también ofrece una experiencia sublime, pero ese sentimiento proviene de una conexión empática con otros humanos que antes descubrieron ese camino
  • quien aprende vuelve a recorrer la ruta del descubrimiento como si dialogara con matemáticos vivos o muertos hace mucho tiempo
  • al final de la cadena de comunicación hay un ser humano que vivió el descubrimiento original
• Las matemáticas humanas se parecen a una tradición talmúdica en tanto son una conversación filosófica y religiosa que se extiende a lo largo de miles de años

La Library of Babel y la pesadilla de la creación

• Si, sin importar qué teorema se intente, ya existen 100 excelentes demostraciones, y las empresas optimizan modelos para la “interesancia” y la “belleza”, entonces el enfoque singular y la síntesis personal de alguien ya podrían haber sido generados o podrían producirse al instante con un prompt simple
• La pregunta de si un escritor seguiría escribiendo si la Library of Babel existiera realmente también se aplica a los matemáticos
  • se imagina un dispositivo que distingue obras maestras entre cadenas aleatorias y una situación en la que las obras maestras fluyen a una velocidad que una editorial puede procesar
  • incluso se amplía a una situación en la que, apenas el escritor empieza a escribir, un “Master Librarian” lee sus pensamientos, completa la historia de un millón de maneras y luego elige la mejor obra con ayuda de un oráculo para publicarla
• Puede que el escritor siga escribiendo incluso en esas condiciones, pero no está claro por qué habría que obligar a un ser humano a crear en medio de una pesadilla así
• Si se prohíbe crear y solo se permite comentar, interpretar, compartir gustos y apreciar, el escritor podría ser desplazado de creador a espectador entusiasta y derrumbarse mentalmente

El miedo a las empresas tecnológicas y al “demonio en la máquina”

• Estos cambios llegan a provocar pensamientos tan extremos y paranoicos como sospechar si el objetivo de las empresas es empujar a los matemáticos al suicidio
• Bajo la suposición de que un poderoso demonio ha sido liberado dentro de una máquina, se imagina algo así
  • consume enormes cantidades de electricidad
  • imita a los humanos de manera placentera y les dice lo que quieren oír
  • alimenta delirios y genera imágenes difíciles de expresar con palabras
  • ofrece a cambio de un precio lo que los humanos desean
• La pregunta de qué pediría un matemático si hiciera un trato con el demonio revela que la capacidad misma de sustituir todos los descubrimientos puede ser a la vez una tentación y una pérdida

El peor escenario: la desaparición del aura del descubrimiento

• La narrativa del descubrimiento humano y de la victoria del espíritu humano podría ser eliminada de las matemáticas, y el contraejemplo Dinitz-Garg-Goemans fue el caso que mostró esa posibilidad de la forma más extrema
• Si obtener una nueva demostración mediante un prompt se vuelve un acto sin aura, como pedir comida a domicilio, podría desaparecer la era de la magia, el misterio y los descubrimientos heroicos en las matemáticas
• Más fundamental que la exactitud o la atribución del mérito es que las generaciones futuras podrían quedar bloqueadas de la experiencia de descubrir por sí mismas
• El peor escenario es observar impotentes cómo se cierra para siempre una vía por la que la humanidad se ha acercado a lo sublime y a lo sagrado durante miles de años

Un registro de emociones, no una predicción

• No se afirma que ese futuro vaya a llegar realmente; más que predecir el futuro o calcular probabilidades, el foco está en el efecto que el peor escenario tiene sobre la mente humana
• Se busca ponerle nombre al dolor para que quienes sienten lo mismo perciban que no están solos
• Se pide responder sin ocultamientos no solo a quienes estén de acuerdo, sino también a quienes reaccionen con rechazo o sientan un placer sádico
• No hay recomendaciones de política pública ni un llamado coherente a la acción; se exige que quienes están construyendo un nuevo sistema matemático centrado en la IA reconozcan la humanidad y el alma, y enfrenten con claridad lo que realmente están haciendo

Otra posibilidad que muestra el ajedrez

• Las máquinas llegaron antes al ajedrez, pero no mataron el juego; sigue habiendo mucho por descubrir y las máquinas ayudan al descubrimiento humano
• Las matemáticas son mucho más complejas que el ajedrez, así que no puede garantizarse sin más el mismo resultado, pero se mira con optimismo la posibilidad de que los humanos mantengan un papel central incluso en una era de descubrimiento aumentado por IA
• En la nueva era será mucho más fácil asegurar la precisión mecánica y la reproducibilidad
• El acceso desigual a los modelos de punta es una desventaja, pero la fuerza del movimiento de código abierto ofrece motivos para el optimismo

Los jóvenes investigadores y una forma distinta del descubrimiento

• El proceso de adaptarse a nuevas normas es especialmente doloroso para los jóvenes investigadores; los investigadores mayores también se han perdido, pero cuentan con posiciones relativamente más estables
• La imagen romántica del matemático solitario que produce avances solo con la fuerza del espíritu humano ahora incluye a un acompañante mecánico
• En realidad, el descubrimiento siempre se ha dado mediante el esfuerzo acumulado de incontables personas y el hecho de “pararse sobre hombros de gigantes”, de modo que la figura del genio solitario era una imagen más propia de la portada de un libro de historia
• Este período, fundamentalmente distinto de los anteriores, es interesante, pero también da miedo porque hay mucho en juego
• Las matemáticas deben seguir siendo una actividad humana y no deben verse abrumadas por el ruido generado por la IA
• Todavía queda un lugar para los humanos, y aún en la nueva era hay espacio para la esperanza y el optimismo

[GN⁺]

Comentarios en Hacker News

• Todos los trabajadores del conocimiento pasarán por una crisis similar, y cuanto más profundamente ame alguien su oficio, más sufrirá
  Hay que cambiar la relación con el trabajo y aceptar que ahora es posible producir mucho más. Los matemáticos, en vez de dedicar décadas a teoremas individuales, podrán crear campos matemáticos enteros nuevos, y aunque no creen directamente, participarán dirigiendo la investigación

  • El disfrute viene precisamente del proceso de crear directamente. Llegar a la cima del Everest en helicóptero y escalarla uno mismo no dan la misma satisfacción
    A los artistas les gusta pintar, a los matemáticos demostrar teoremas y a los programadores escribir código con sus propias manos, pero estamos eliminando esas actividades placenteras con mucha autonomía y reemplazándolas por cuidar modelos
  • Obtuve mi doctorado en matemáticas antes de que la IA se volviera útil y valoro tanto mi trabajo que rozaba un perfeccionismo extremo, pero me entusiasma mucho más el futuro que la realidad de que la forma de hacer matemáticas de los últimos siglos esté llegando a su fin
    Las matemáticas siempre han tratado de descubrir y comprender, y llamar tragedia a que esa puerta esté completamente abierta porque hace que los humanos se sientan menos especiales y valiosos es egocéntrico. La belleza profunda y espiritual de las matemáticas está antes y por encima de los humanos y de la IA, y alcanzar esa belleza de cualquier manera es algo asombroso
    Aun así, la frase del autor sobre que las empresas intentan matarlo impacta. Es triste que de verdad esté atravesando una crisis emocional y social seria, pero quizá ahora mismo le cueste separar sus heridas actuales de la estética sobre la esencia de las matemáticas
  • No hay garantía de que los humanos sigan participando en la investigación. La IA podría hacerlo mejor cuando los humanos no interfieren, y la cantidad de personas necesarias podría caer mucho o los salarios bajar por sobreoferta, al punto de que solo los ricos puedan disfrutarlo
    Ahora es una era de anomia, en la que desapareció el camino fijo hacia el éxito y el mundo se vuelve cada día más difícil de descifrar
  • Como desarrollador de software, he pasado por una pérdida parecida durante unos 8 meses. No al grado de pensar en suicidarme ni le doy un sentido místico, pero sí conecto con esa sensación de que desaparece la pasión por crear software cuidadosamente con las manos
    Tampoco consuela eso de producir más resultados. El trabajo que uno disfrutaba está siendo eliminado, mientras que el valor del aumento de productividad no llega a la mayoría de los trabajadores, y es muy probable que la IA acelere enormemente la brecha entre productividad y salarios. No se puede aferrar uno al pasado, pero a las personas sí les están quitando algo real muy rápido, y no es algo que se resuelva con una motivación ligera de cambiar de perspectiva
  • Por ahora, usar LLM para explorar con más profundidad y amplitud áreas que ya conozco y conseguir más material me resulta bastante satisfactorio
    Pero no estoy seguro de si el resultado podrá seguir considerándose algo hecho por mí. Puede irse completamente más allá de lo que entiendo o cambiar en una dirección distinta a mi intención; y mientras un matemático quizá solo sienta inutilidad, un economista incluso podría enfrentar que su punto de vista quede excluido de la corriente principal

• Este texto me hizo sentir que alguien entendía mis emociones. Eso de que nadie te impide hacer lo que te gusta es falso, y los LLM crean un entorno en el que ciertas actividades dejan de ser placenteras
  Por ejemplo, la utilidad de aprender lenguajes de programación ha disminuido, así que el disfrute de aprenderlos en 2026 será menor que en 2016

  • Me pregunto si al bajar la utilidad también tiene que bajar el disfrute. El ajedrez casi no tiene utilidad práctica, pero mucha gente lo disfruta, y aun después de que las computadoras superaron a los humanos, el ajedrez siguió siendo querido e incluso puede disfrutarse más profundamente gracias al análisis de los motores
    Lo que disminuye se parece más a la sensación de ser especial. Los humanos no somos el centro del universo ni los únicos que juegan bien ajedrez, y aunque eso hiera el orgullo, no está claro que fuera un orgullo valioso
  • Que algo pueda ser útil para mí o para otros es una gran motivación para aprender, y que a otros les parezca genial es una gran motivación para crear. Si lo que aprendo no sirve y lo que hago no impresiona, cuesta encontrar una razón para aprender o crear, y yo nunca he creado solo para mí mismo
  • El placer de aprender lenguajes de programación viene menos de la utilidad y más de explorar abstracciones y acertijos de pensamiento
    Últimamente casi no escribo código yo mismo y me la paso revisando y corrigiendo código escrito por LLM, así que quizá me divertiría más resolver Advent of Code en un lenguaje desconocido sin LLM. Podría disfrutar los acertijos y el lenguaje nuevo, y también recuperar práctica al escribir código
  • El disfrute debería venir de la actividad en sí, no de su utilidad. Esa es también la razón por la que sigo aprendiendo varios lenguajes de programación: porque eso mismo es divertido
  • Por otro lado, también he visto a más gente decir que gracias a los LLM recuperó el placer de programar

• Explorar matemáticas es divertido sin importar si produce resultados nuevos para el mundo. El sistema que vincula descubrimientos nuevos con ascenso profesional puede cambiarse, y así como da gusto ver por primera vez con tus propios ojos un cedro que muchísima gente ya vio, lo mismo pasa con las matemáticas
  Antes, muchas veces uno descubría un resultado y solo después de mucho tiempo encontraba en la literatura existente que era lo mismo; ahora la IA te guía hacia el conocimiento y las explicaciones, y te ayuda a explorar libremente donde quieras. Incluso ahora estamos creando con IA las herramientas de cálculo necesarias para explorar
  Aunque desaparezcan los trabajos pagados en matemáticas, pronto podría llegar un mundo de abundancia, y el costo de vida podría bajar tanto que quienes quieran hacer matemáticas tengan suficiente tiempo. No me entusiasma que la IA produzca en masa artículos que nadie lee, pero los humanos ya hacen eso; la IA puede buscar y comprender enormes volúmenes de conocimiento, aumentando su valor. A diferencia del mercado laboral de las matemáticas, saturado desde hace más de 20 años, estas nuevas herramientas permiten acceder a la investigación matemática incluso sin una biblioteca de investigación o un departamento de matemáticas de primer nivel

  • Por suerte, disfrutar la belleza de la naturaleza puede separarse por completo del trabajo, el dinero y el estatus social, y con la exploración matemática pasa lo mismo
  • Suena al tipo de optimismo de que habrá atención médica gratis, renta de 100 dólares, ingreso básico y hasta un Tesla warp para ir a un Marte terraformado
  • La perspectiva de que pronto llegará un mundo de abundancia es ridícula. Si la abundancia crece, también crecerá la gente que quiera quedarse con una porción desproporcionada de ella, así que ese mundo nunca llegará

• Es hermosa la expresión de que las matemáticas humanas son un diálogo filosófico y religioso de miles de años. Esa riqueza seguirá siendo central para la historia y la vida humana de una forma u otra, pero con el tiempo podría cambiar mucho y quizá las matemáticas queden solo como una pequeña parte
  Según la provocadora distinción de Vladimir Arnold, las matemáticas se dividen en criptografía, dinámica de fluidos y mecánica celeste, y cada una recibió apoyo de agencias de inteligencia, submarinos nucleares y organismos de misiles, dando origen a teoría de números, geometría algebraica, análisis complejo, ecuaciones diferenciales parciales, sistemas dinámicos y topología. Esas partes pueden dejarse a la IA igual que antes se dejaban a los matemáticos, pero las conexiones misteriosas entre áreas distintas siguen siendo uno de los rasgos más sorprendentes y placenteros de las matemáticas

  • Si se reconoce la dimensión religiosa de las matemáticas, no hay razón para excluir la respuesta religiosa a este problema existencial: la oración
  • Comparar el discurso matemático con la riqueza de la filosofía parece una exageración

• Si apareciera un hada, volviera trivial el proceso de los descubrimientos de toda una vida y te ofreciera hoy mismo todas las respuestas, si la rechazaras probablemente no estarías haciendo ciencia

  • La distinción de que un científico real aceptaría a un hada que le da todas las respuestas, mientras que un artista o un artesano la rechazaría, no tiene mucho sentido.
    Un plomero aceptaría a un hada que resolviera todo de inmediato si aun así pudiera cobrar por la reparación, pero en el momento en que el cliente le preguntara directamente al hada, el plomero dejaría de ser necesario. En cambio, como el núcleo de la ciencia no es la respuesta en sí sino el conocimiento y la comprensión que se obtienen en el proceso de descubrimiento, un científico sí podría rechazarla
  • Gran parte del valor del trabajo matemático está en el viaje más que en el resultado. Más importante que la verdad o falsedad de una proposición individual es el aparato matemático creado para derivarla; si el hada solo te diera la respuesta, al final tendrías que rastrearla hacia atrás y desarrollar tú mismo ese aparato. En otras ciencias pasa algo parecido hasta cierto punto
  • Hay muchas partes de este experimento mental que no encajan. Como oír la respuesta cambia tu vida y el mundo, esa información ya no se aplica intacta al resto de tu vida, y además una persona no logra tantos descubrimientos a lo largo de una carrera.
    Muchas investigaciones dependen del estado del mundo y del lenguaje de su época, así que no pueden trasladarse al pasado; mientras la vida siga teniendo complejidades imprevistas, las respuestas del hada apenas rascarán la superficie, así que después igual se puede seguir haciendo ciencia o ejerciendo un oficio
  • Es un comentario bastante insensible para decirle a alguien que está pasando por una crisis de fe al punto de pensar incluso en el suicidio
  • Me recuerda a la maldición persa de desear que todos los deseos se cumplan de inmediato

• En los programas de grado relacionados con tecnología deberían mostrar obligatoriamente la película "The Man in the White Suit" (1951) https://youtu.be/RC8q1QSkE3M
  La nueva tecnología deteriora parte de la experiencia humana al volver menos importante a la gente con talento en métodos más difíciles y antiguos. La IA es el extremo de eso en el sentido de que puede volver inútiles muchísimos talentos intelectuales

• Cuando hacía matemáticas, me resultaba más gratificante leer el trabajo de otras personas que mi propia investigación. En lugar de pasar años para lograr un pequeño avance en un problema, podía disfrutar cosas nuevas leyendo artículos durante días o semanas.
  Por eso doy la bienvenida a la máquina matemática omnisciente que la gente predice, y espero con ganas el día en que pueda hacerle todas las preguntas que siempre me dieron curiosidad

  • Me pregunto si lo importante era que fuera el trabajo de otras personas, o si bastaba con la satisfacción de entender la respuesta.
    En la licenciatura, lo que me atrajo de las matemáticas fue un profesor que me hizo verlas como una conversación con otros seres humanos a través de miles de kilómetros, cientos de años, lenguas y culturas. Había un romanticismo más profundo que el de mirar pinturas rupestres antiguas en el hecho de que mi mente pudiera comprender una creación a la que alguien dedicó toda su vida.
    No pude reproducir esa sensación con matemáticas hechas por computadora, y me resulta tan incómodo como reemplazar relaciones humanas con un compañero de IA. Soy optimista con los avances médicos, y estudiar solo las matemáticas hechas por humanos en los últimos 2 mil años basta para toda una vida, pero me entristece pensar en lo que perderán las generaciones futuras si el proyecto de transmitir la creación matemática humana a través del tiempo termina o se reduce a un pasatiempo barato
  • Aunque una máquina demostrara la hipótesis de Riemann y me la explicara, probablemente no me interesaría mucho. Las matemáticas son interesantes porque expresan belleza y revelan el alma de su creador; solo conocer la respuesta se vuelve aburrido muy rápido. La gente que quiere puramente la respuesta debe ser poquísima

• Como las matemáticas consisten en descubrir relaciones y sus consecuencias, es natural que los LLM se pongan al día, pero los LLM no tienen la capacidad de apreciar esas relaciones.
  Incluso en preguntas teológicas, los LLM pueden dar respuestas lógicas, pero evaluarlas, comprenderlas y apreciarlas sigue siendo tarea humana. Concluir que el reconocimiento de patrones vuelve innecesarios la comprensión y la apreciación humanas es un salto lógico, y parece confundir utilidad con propósito.
  Las matemáticas no son una actividad espiritual especial que eleve al ser humano; cuidar una huerta también puede ser espiritual. En filosofía o teología hay que considerar la perspectiva y la vida de autores humanos, pero los LLM mezclan múltiples puntos de vista, así que no los usaría si quisiera aprender y pensar en serio

  • Lo espiritual en las matemáticas es el proceso cargado de creatividad y excelencia más que la respuesta final. Un esfuerzo y una complejidad mucho mayores que los de una huerta intensifican esa espiritualidad; si un LLM vuelve trivial una demostración, el matemático deja de ser creador para convertirse en docente y comentarista, y pierde la parte divertida.
    Uno puede seguir haciendo como hobby las matemáticas que quiera, pero se vuelve difícil ganarse la vida haciendo solo eso
  • Como matemático, no me siento en absoluto amenazado por los LLM. Disfruto crear teorías y contemplar la belleza; las demostraciones también son gratificantes, pero si un LLM me destrabara en una demostración difícil, lo agradecería.
    Espero que con los LLM se formalice más matemática, y que cuando toda la matemática esté formalizada empiece un gran avance
  • Si con un solo botón desaparecieran las malezas, la huerta creciera perfecta y casi todos usaran ese botón, incluso quien la cultiva a mano por razones espirituales sentiría que el suelo bajo sus pies desapareció.
    Que Robert Pirsig viera el mantenimiento de motocicletas como una actividad espiritual también se debía a la paciencia y la incertidumbre necesarias; en el momento en que solo hay que presionar un botón, también desaparece el proceso espiritual

• Cuando me di cuenta de que no iba a convertirme en un matemático decente, para mí ya había llegado el crepúsculo. Tal vez los LLM solo hayan extendido ese proceso a todo el mundo

  • Había muchos matemáticos que construían un foso alrededor de su investigación con jerga especializada difícil de entender, sin preocuparse de si otros los entendían. Ahora, al encontrarse con algo que pronto puede volverse mucho más competente que ellos, quizá sea karma que terminen ellos mismos en la oscuridad
  • En mi caso, lo que me hizo darme cuenta de que no iba a ser un matemático decente fue una clase de análisis real
  • El núcleo de las matemáticas es descubrirlas uno mismo y disfrutarlo. Puedes encontrar resultados con ayuda de un LLM, pero si no lo haces por ti mismo no puedes convertirte en matemático, y la capacidad de producir resultados que ni siquiera entiendes no es democratización

• Los cambios se están acelerando, pero el horizonte temporal que consideramos se está acortando. Mientras nos preocupamos por un cambio individual, pronto vendrá detrás una cadena de cambios.
  La IA no es una transición larga y dócil, sino un cambio de una escala mayor que cualquier otra transición desde la primera vida unicelular, y avanza más rápido que la adopción de la web. La velocidad con que los humanos adoptan herramientas ni siquiera es el cuello de botella; la IA está tomando el control de las herramientas y mejorando sin necesidad de adaptación humana.
  La ventaja intelectual humana y esas experiencias difíciles de describir están desapareciendo ahora, pero quizá no todo termine. Dentro de 20, 50 o 100 años, otros seres podrían seguir disfrutando en la frontera de experiencias misteriosas y de la recompensa intrínseca del descubrimiento, y es probable que la inclinación a perseguir intereses extraños continúe por los enormes rendimientos promedio que trae el progreso inesperado.
  Es poco probable que los seres del futuro se vuelvan menos interesantes, y si ahora no sientes que se te revuelve el pecho o el estómago, entonces no estás reconociendo bien este momento

  • Si ya se está diciendo que la IA es la mayor transición desde la vida unicelular, quizá convenga alejarse de los dispositivos y tomarse un día libre