La tecnología del futuro no es la 'IA', sino la 'concentración'

• Los LLM son útiles para automatizar tareas repetitivas y para hacer brainstorming, pero depender ciegamente de ellos puede provocar una disminución en la capacidad de resolver problemas
• En especial, la confiabilidad de los LLM frente a problemas nuevos es baja, por lo que el criterio de los ingenieros humanos es importante
• Los motores de búsqueda como Google ofrecen un equilibrio entre exploración y explotación, pero los LLM solo empujan de inmediato hacia la “explotación” (exploitation)
• El hábito de depender solo de respuestas rápidas provoca el deterioro de la capacidad esencial para resolver problemas y de la concentración (focus)
• La capacidad clave del futuro, más que saber usar la IA, será la habilidad profundamente humana de pensar con profundidad y mantener la concentración

---

Los LLM son potentes, pero deben usarse con cuidado

• Los LLM ayudan mucho a automatizar tareas repetitivas y a apoyar la escritura de código o el debugging
• Sin embargo, por problemas como sesgos, inconsistencias y alucinaciones (hallucination), siempre es necesario revisar sus resultados
• En particular, los datos de entrenamiento contienen respuestas para problemas ya existentes, pero su capacidad de respuesta ante problemas realmente nuevos es baja
• Como resultado, si los ingenieros dependen de los LLM, su propia capacidad para resolver problemas puede debilitarse

El riesgo de aceptar todo sin pensamiento crítico

• Si se aceptan las respuestas que da un LLM sin entenderlas, uno termina enfocándose más en recibir la respuesta que en resolver el problema
• Resolver problemas complejos requiere al final la acumulación de capacidades básicas y de pensamiento; los LLM no pueden sustituir eso
• Lo importante no es el resultado final, sino entender por qué se resuelve de esa manera y cuál fue el proceso de razonamiento

La diferencia importante entre los motores de búsqueda y los LLM

• Los motores de búsqueda permiten un enfoque equilibrado entre exploración (exploration) y explotación (exploitation)
• En cambio, los LLM intentan dar la respuesta correcta desde el inicio, y los usuarios tienden a usarla sin verificarla
• Un sistema donde solo existe explotación sin exploración aumenta la inestabilidad y la dependencia

El propósito original de la informática: herramientas para que las personas se concentren en resolver problemas

• Los seres humanos han creado herramientas para reducir tareas repetitivas, y el control de los algoritmos estaba del lado humano
• Pero ahora, por la presión de producir resultados rápidamente, están disminuyendo las oportunidades de entrenar la concentración y el pensamiento
• Esta tendencia podría terminar debilitando la creatividad humana y la capacidad de pensar en profundidad

La verdadera tecnología para el futuro: concentración (Focus)

• Cuanto más avanza la tecnología, más importantes se vuelven la capacidad de pensar y la concentración propias del ser humano
• Más importante que el rendimiento de la IA es la capacidad humana de reconocer y resolver problemas complejos
• Es muy probable que la habilidad clave del futuro no sea saber usar LLM, sino la concentración y la capacidad de comprender lo esencial

[GN⁺]

Opiniones de Hacker News

• Es común que los nuevos estudiantes pierdan la capacidad de concentrarse. No solo los LLMs, sino casi todas las apps y startups compiten por captar la atención limitada de los usuarios

  • Los LLMs eliminaron la barrera de tener que esforzarse para encontrar respuestas. Es fácil volverse adicto a las respuestas rápidas y olvidarse de preguntar por qué algo funciona
  • Sin embargo, si se abordan correctamente, los LLMs pueden apoyar la exploración. He visto momentos en los que los estudiantes cuestionan la primera respuesta y descubren ideas más profundas
  • El verdadero riesgo no es la herramienta, sino olvidar cómo usarla con cuidado

• Usar aimbot en Gunbound no hizo mejores a los jugadores. Destruyó el ecosistema del juego

  • No sé si la humanidad podrá usar de forma responsable un "aimbot de alfabetización"
  • El ABS hizo que frenar en condiciones resbalosas fuera más fácil y seguro. La gente no aprendió a frenar mejor, y todavía cree que si pisa el pedal más fuerte el auto se detendrá más rápido
  • Muchas personas necesitan concentración. Algunas no, y esas deberían escalar. Algunos sistemas necesitan aimbot y otros no
  • El futuro requiere que coexistan todo tipo de tecnologías

• Los motores de búsqueda ofrecen una buena elección entre exploración (recorrer la lista de resultados y las páginas) y explotación (hacer clic en los primeros resultados)

  • Los LLMs no ofrecen esa elección
  • Los LLMs son muy útiles para explorar. Ayudan a resolver problemas complejos y a refinar ideas. También pueden generar bucles de retroalimentación difíciles incluso con un socio humano

• Poder concentrarse hoy en día parece un privilegio

  • En los 90 se podía trabajar durante semanas sin interrupciones. Hoy siempre hay gerentes que quieren actualizaciones o planes
  • El trabajo real queda relegado frente a las conversaciones

• En un mundo rico en información, la abundancia de información significa escasez de otra cosa. La información consume la atención de quien la recibe

  • La abundancia de información genera pobreza de atención, y hace falta asignarla de manera eficiente

• Lo opuesto a la concentración es la reactividad. Si publicas en SO, puedes obtener una respuesta precisa, pero hace falta paciencia para formular la pregunta correcta y esperar la respuesta

  • Un LLM puede decirte algo incorrecto de inmediato. Es reactivo
  • Un gran ingeniero debe ser reactivo con su equipo, sus gerentes, sus clientes y el negocio. También debe encontrar tiempo para concentrarse
  • Después del Covid hubo un gran cambio cultural cuando personas que no eran asíncronas ni remotas pasaron a estar todas en línea
  • Es fácil medir la reactividad, pero difícil medir la calidad y el crecimiento

• Cuando uso LLMs, pierdo la concentración

  • Copiar y pegar, copiar y pegar. No hay comprensión real de la solución
  • Tal vez puedas hacer más cosas, pero no lo disfruto. Ahora ya no puedo volver a googlear
  • Ojalá nunca se hubiera inventado

• Será otro tipo de concentración

  • Regularmente se predice que la tecnología reducirá capacidades que antes se consideraban importantes
  • Las calculadoras hicieron que los niños ya no necesitaran hacer aritmética a mano. Pero todavía se necesita la habilidad de interpretar los resultados
  • Los motores de búsqueda permitieron que la gente encontrara respuestas en segundos. Pero todavía hace falta saber qué buscar y cómo usar lo que se encuentra

• Hace 10 años había expertos que decían que los smartphones y las redes sociales lo cambiarían todo. Hay que aprender a usarlos con sabiduría

• No estoy de acuerdo con equiparar la revolución de los LLM con el auge de los motores de búsqueda como Google en los 90

  • Los LLMs fomentan la explotación inmediata. Los usuarios pueden explorar cuando la primera solución no funciona
  • La mayor parte del uso de LLMs en realidad se parece a un motor de búsqueda: explicar decisiones de diseño existentes, buscar una biblioteca que se ajuste a tus necesidades o generar consultas relacionadas