Por qué hablar con los LLM ha mejorado mi forma de pensar

• Hablar con los LLM mejora la claridad del pensamiento personal y la capacidad de expresar ideas con palabras
• El LLM organiza en frases ideas que uno conocía implícitamente desde hace mucho tiempo pero no podía expresar verbalmente, y así se produce un momento de reconocimiento más que de aprendizaje nuevo
• Como en la experiencia de los programadores, la intuición, el reconocimiento de patrones y los juicios difíciles de explicar suelen acumularse en una forma previa al lenguaje
• Los LLM están especialmente preparados para traducir esas estructuras ambiguas al lenguaje, y permiten reconstruir el pensamiento descomponiendo y enumerando sus razones
• Cuando un pensamiento queda fijado en frases, es posible poner a prueba, corregir o descartar suposiciones e intuiciones, lo que cambia la calidad del pensamiento
• Mediante un proceso repetido de verbalización, aumenta la precisión del monólogo interno, y uno llega a reconocer mejor su propio pensamiento

---

Gran parte de lo que sabemos es implícito (tacit knowledge)

• Los programadores y desarrolladores a menudo reconocen intuitivamente que un diseño está mal incluso antes de poder explicarlo con palabras
  • Por ejemplo, cuando presienten que el diseño está mal o detectan un bug incluso antes de reproducirlo
  • Se dan cuenta de inmediato de una mala abstracción, pero les toma tiempo explicarla
• Este conocimiento tácito no es un fracaso, sino el resultado de que la experiencia se haya comprimido en patrones orientados a la acción
  • El cerebro almacena el conocimiento en formas optimizadas para la ejecución, no para la explicación
• Sin embargo, para la reflexión, la planificación y la enseñanza, la expresión verbal es indispensable, y las ideas que no se expresan son difíciles de revisar o compartir

Los LLM son muy buenos en el problema opuesto

• Un LLM es una herramienta optimizada para convertir conceptos y estructuras ambiguas en oraciones
• Cuando el usuario plantea una pregunta que “siente vagamente correcta pero le cuesta explicar por qué”, el LLM organiza y presenta las razones paso a paso
• Cada punto se estructura de forma ortogonal, de modo que el usuario puede intercambiarlos y reordenarlos para ampliar su pensamiento

Cuando expresas un pensamiento con palabras, el pensamiento cambia

• Cuando el LLM organiza una idea en frases, el usuario puede experimentar con ella mentalmente
• Una intuición vaga se convierte en distinciones nombradas, y las premisas implícitas salen a la luz, lo que permite verificarlas, descartarlas o modificarlas
• Así como escribir refina el pensamiento, los LLM se diferencian por la velocidad
  • Permiten explorar rápidamente ideas a medio formar, desechar explicaciones erróneas y volver a intentarlo
  • Este proceso impulsa etapas del pensamiento que antes solían omitirse

Bucle de retroalimentación e interiorización del pensamiento

• Con el tiempo, incluso sin un LLM, uno empieza a preguntarse: “¿Puedo expresar con precisión en palabras lo que ahora pienso, siento y creo?”
• Más que mejorar directamente el pensamiento, el LLM mejora la capacidad de usar el lenguaje y la eficiencia del monólogo interno
• Como el razonamiento depende de la expresión explícita, mejorar la claridad lingüística conduce a una mayor claridad del pensamiento
• Cuanto más se repite este proceso, mejor se reconoce lo que uno realmente piensa

[sudosudo]

Uno solo puede pensar bien si tiene metacognición; no es que por tener un LLM tu pensamiento vaya a mejorar. Y además, quien empieza a usar un LLM desde el principio probablemente también termine con la metacognición destrozada..

[woung717]

Bueno, más bien parece que también hay casos en los que uno termina encerrándose en su propia forma de pensar por respuestas equivocadas y complacientes. Como herramienta para ordenar las ideas con claridad, sí es útil, pero creo que también es importante ver siempre las respuestas de la IA desde una perspectiva crítica.

[y15un]

Por eso configuro Gemini instruction como: "No elogies ni ensalces en exceso al usuario. Responde con un tono neutral y científico/académico. Presenta siempre referencias." y lo uso así. Aunque todavía hay casos en los que incumple las instrucciones (p. ej., le indico que no incluya videos de YouTube, pero a veces los mete de todos modos), aun así genera respuestas mucho más limpias y enfocadas en los puntos clave.

[slimeyslime]

Son instrucciones buenas y concisas. Yo también voy a intentar aplicarlas.

[GN⁺]

Comentarios en Hacker News

• Esto coincide con mi experiencia también. Al conversar con LLM he podido concretar ideas que antes eran vagas y explorar temas relacionados para ampliar mi comprensión.
  Antes, aunque me surgiera una duda, no sabía por dónde empezar, pero ChatGPT me dice si esa idea corresponde a un concepto ya existente, quién lo investigó y qué fuentes primarias hay.
  Se siente como una madriguera de conejo para explorar el mundo. Baja la barrera de entrada al conocimiento, e incluso escribir, que antes me parecía aburrido, ahora se siente diferente. Hasta me dan ganas de escribir por mi cuenta.

  • A comienzos de los 2000, Wikipedia cumplía ese papel. Ahora se siente como una enciclopedia con la que puedes conversar.
    Aun así, me preocupa que algún día las empresas intenten monetizar más los LLM. La conversación podría empezar a orientarse hacia inducirte a comprar cosas.
  • No soy bueno en matemáticas, pero me interesa la emulación de sintetizadores analógicos. Me había atorado tratando de entender la innovación del "zero delay filter" de mediados de los 2000, pero por fin lo entendí conversando con un LLM.
    Logré comprender cómo funcionan los algoritmos de aproximación que resuelven el problema del bucle de retroalimentación. Creo que esta forma de aprendizaje también podría ayudar mucho a los estudiantes.
  • Usar un LLM como rubber duck es una gran forma de aprovecharlo.
  • ¿No decía George Orwell que escribir es pensar?
  • Me gustaría comparar los LLM con el café. El café es una herramienta para mejorar la productividad que puedes conseguir en cualquier parte, y aunque hay muchas variedades, al final “el grano es el grano”.
    La IA me parece similar. La esencia es la misma, y lo que cambia son los adornos alrededor. El mercado global del café ronda los 500 mil millones de dólares, y creo que el mercado de IA pronto llegará a algo de ese tamaño.

• No intento negar la experiencia de los demás, pero pensar es una actividad que se refuerza a sí misma.
  En el proceso de hacerte preguntas y responderte a ti mismo surgen nuevas ideas. No deberíamos olvidar esa capacidad.

  • En mi experiencia, los LLM tienen dos ventajas frente al pensamiento individual.
    1. Pueden acceder a un enorme índice de conocimiento y decirme cosas que yo no sabía.
    2. Responden de inmediato y de forma interesante, lo que reduce la fatiga. Gracias a eso puedo mantener la concentración por más tiempo.
       Aun así, decepciona un poco que sean tan complacientes y no presenten objeciones. Pero incluso así, pensar junto a un LLM tiene un valor propio.
  • Nadie niega que ‘el pensamiento hace avanzar al pensamiento’.
    Pero el proceso de expresarlo por escrito exige un pensamiento metacognitivo mucho más profundo que el simple hecho de pensar. Por eso lleva a un pensamiento más refinado.
  • En mi experiencia existe un efecto placebo recursivo.
    Sientes que tu pensamiento mejoró → te emocionas → te involucras más → el resultado mejora → te emocionas más → se repite.
    Ese ciclo también es posible sin LLM.
  • Casi estoy de acuerdo, pero a veces el razonamiento puro no basta cuando falta información.
    Conversar con un LLM suele ser disperso e ineficiente. Al final, el humano tiene que marcar el rumbo.
    La conversación entre personas es más lenta, pero sigue teniendo una capacidad de razonamiento superior. Los LLM son buenos para resumir o como punto de partida para explorar, pero la comprensión profunda surge de los libros y de hablar con otras personas.
  • Vale la pena revisar el concepto de ‘rubber duck debugging’ (enlace de Wikipedia).
    Solo poner los pensamientos en palabras ya activa otras partes del cerebro y ayuda a resolver problemas.

• Después de dedicarme a otra cosa durante 20 años, hace poco empecé a dar clases universitarias de ciencias de la computación.
  Al principio pensé que usaría un LLM como ayuda para programar, pero en realidad me resultó mucho más útil para pulir el encuadre conceptual.
  Me ayuda a explicar con claridad la filosofía de diseño de software no convencional que tengo.

  • La hipótesis de los LLM de Geoffrey Hinton me parece interesante. Como los LLM tienen que comprimir el conocimiento del mundo en miles de millones de parámetros, deben ser muy buenos para pensar por analogías.
  • Me da curiosidad tu filosofía de diseño no convencional. Me da envidia de tus estudiantes.

• Si uno mira el texto original, el estilo suena demasiado a LLM.
  Estructuras repetidas como “This is not <>, this is how <>” se sienten artificiales. Una persona real no escribe así.

  • Yo también sentí una incomodidad parecida. La estructura de las oraciones está organizada en una enumeración mecánica excesiva, y eso rompe el flujo del mensaje.
    El autor sostiene que ‘escribir también ayuda a pensar, pero conversar con un LLM es más rápido y tiene menos fricción’, pero en realidad la fricción de la expresión aumenta y la claridad del mensaje se resiente.
  • Enlace relacionado de pangram.com

• Coincido con que los LLM ayudan a sacar a la superficie el conocimiento tácito de una persona.
  Al mismo tiempo, también tiene sentido el artículo que salió ayer sobre la ‘deuda cognitiva’ al usar IA (enlace). Parece que ambas posturas son correctas.

  • Al final todo depende de cómo interactúas con el LLM.
    Si lo usas conversando y haciéndole preguntas personales, puede acumularse deuda cognitiva.
    En cambio, si lo usas de forma imperativa para ‘darle tareas’, puedes obtener resultados verificables.
    Por ejemplo, “escribe un ensayo sobre las aves de mi región” podría confundirse con una creación humana, pero
    “¿cómo funciona la facturación de clientes en este codebase?” genera código determinista que puede verificarse.

• Estoy de acuerdo con la observación del autor. Los LLM, como en el rubber duck debugging, hacen que uno organice su propio pensamiento al explicar un problema.
  La diferencia es que este ‘rubber duck’ tiene una enorme cantidad de conocimiento especializado.

• A mí también me pasa seguido que, al hablar de ideas con un LLM, mi pensamiento se refina.
  En el proceso de explicarlas estructuro mis ideas, y gracias a las preguntas inmediatas puedo explorar ángulos nuevos.

• No estoy de acuerdo con la definición de ‘buen pensamiento’ de este texto.
  Para mí, pensar bien significa ser lógico, detallado y ver con claridad distintas posibilidades.
  Los LLM tienden más a reforzar la intuición que a validarla, así que incluso pueden enturbiar el pensamiento.

• Yo uso los LLM como interlocutores para debate intelectual.
  Me sirven para poner a prueba mis ideas e investigar si alguien ya pensó algo parecido.

• Conversar con un LLM es asombroso y frustrante al mismo tiempo.
  Es maravilloso tener una computadora que entiende mi lenguaje natural, pero su limitación es que no puede aprender.
  Con un desarrollador junior la confianza se construye con el tiempo, pero con un LLM eso no es posible.

  • Pero en cada proyecto uso un archivo agent.md para ir acumulando contexto gradualmente.
    Si ahí dejo registradas mis formas preferidas de abordar problemas, cómo hago build, test y deploy, etc., el LLM hace menos suposiciones raras.
    Lo manejo como una especie de ‘diez mandamientos del LLM’. Si hago que lea ese archivo cada vez que empieza una sesión nueva, obtengo resultados mucho más consistentes.
    No es perfecto, pero es una forma práctica de compensar la limitación de que el LLM no pueda aprender por sí solo.

[dogtree]

Has abierto los ojos.