¿La IA está deteriorando nuestras capacidades? Los primeros resultados de investigación apuntan a que sí

• A medida que aumenta la dependencia de las herramientas de IA en el trabajo, están surgiendo indicios iniciales de que en campos donde la pericia es crucial, como la medicina y las ciencias de la computación, las capacidades humanas acumuladas podrían debilitarse
• En un estudio con endoscopistas en Polonia, cuando no usaron IA, la tasa de detección de adenomas cayó de 28.4% a 22.4%
• En un experimento aleatorizado y controlado de Anthropic, los ingenieros asistidos por IA obtuvieron una puntuación promedio de 50% en un quiz, por debajo del 67% del grupo sin IA
• En una encuesta a personal de salud en EE. UU., 70% de las enfermeras y 77% de los médicos expresaron preocupación por la pérdida de capacidades por sobredependencia de la IA
• Así como en el pasado el GPS debilitó la capacidad de orientarse, la IA generativa es la primera tecnología que automatiza habilidades cognitivas como pensar e interpretar, por lo que preservar la pericia humana se vuelve un reto importante

---

El auge del fenómeno de deskilling por IA

• A medida que profesionales especializados dependen de herramientas de IA en su trabajo, se expande entre médicos, científicos computacionales y otros la preocupación de que las habilidades adquiridas con mucho esfuerzo puedan atrofiarse
• En una encuesta a trabajadores de la salud en EE. UU. publicada este mes por Wolters Kluwer, 70% de las enfermeras y 77% de los médicos manifestaron preocupación por la pérdida de capacidades derivada de una dependencia excesiva de los sistemas de IA
• Está apareciendo evidencia de que el 'deskilling' provocado por la IA ya comenzó en varios campos, como la medicina y las ciencias de la computación, y los investigadores debaten cómo preservar la pericia humana en la era de la IA
• Kevin Crowston, científico de la información de Syracuse University: "Solo reconocer la existencia de este fenómeno ya puede provocar una reflexión sobre qué habilidades mantener y cuáles subcontratar a la IA"

Campo médico — estudio con endoscopistas

• Diseño del estudio

  • Fue una investigación con endoscopistas en Polonia; todos los médicos participantes habían realizado al menos 2,000 colonoscopias a lo largo de su carrera
  • Se les proporcionó un sistema de IA que analiza en tiempo real imágenes de colonoscopia y marca adenomas, lesiones intestinales precancerosas
  • La herramienta se operó de modo que estuviera disponible algunos días y no disponible en otros

• Resultados

  • Después de que los médicos comenzaron a usar la IA, su desempeño cayó de forma significativa cuando no podían usar el sistema
  • En los 3 meses previos a la introducción de la IA, los especialistas detectaron al menos 1 adenoma en 28.4% de las colonoscopias
  • En los 3 meses posteriores a la introducción de la IA, la tasa de detección de adenomas en colonoscopias realizadas sin asistencia de IA bajó a 22.4%
  • Los resultados se publicaron en octubre pasado en The Lancet Gastroenterology and Hepatology

• Interpretación de especialistas

  • Robert Wachter, médico de University of California, San Francisco: "Incluso profesionales altamente capacitados podrían ver reducida su capacidad para realizar tareas necesarias en su trabajo si aumenta su dependencia de la IA"
  • Los autores del estudio: "La exposición continua a estas herramientas podría hacer que los clínicos, al tomar decisiones cognitivas sin IA, estén menos motivados, menos concentrados y menos comprometidos con su responsabilidad"
  • Yuichi Mori, médico e investigador de University of Oslo y coautor: "Se necesitan más estudios para confirmar el fenómeno, pero quienes usan IA deben ser conscientes del riesgo de perder algunas habilidades"
    • "Actualmente no existe una solución establecida para el deskilling, y debería convertirse en un tema de investigación muy importante durante la próxima década"

Ciencias de la computación — experimento de programación de Anthropic

• Para investigar si hay pérdida de habilidades en ciencias de la computación, investigadores de la empresa de IA Anthropic, con sede en San Francisco, diseñaron un experimento aleatorizado y controlado con 52 ingenieros de software
  • Los 52 participantes tenían acceso a búsqueda web y a orientación sobre cómo abordar las tareas básicas de programación
  • A la mitad, además, se les recomendó usar un asistente de IA
• En un quiz sobre lo aprendido tras completar las tareas, apareció una brecha entre el grupo que usó IA, con 50% en promedio, y el grupo sin IA, con 67%
  • Los participantes asistidos por IA tuvieron un desempeño especialmente bajo en preguntas de diagnóstico de errores de código, lo que sugiere que no aprendieron bien los conceptos del código que acababan de escribir
  • El estudio fue publicado en el servidor de preprints arXiv antes de la revisión por pares
• Crowston: "Ahora existe una extraña desconexión entre el desempeño y el aprendizaje"
  • "Que la gente pueda rendir a un nivel bastante alto se debe básicamente a que está tomando prestadas habilidades de la IA, y no está desarrollando esas habilidades por sí misma"
  • Estos resultados son especialmente preocupantes para estudiantes y jóvenes profesionales del área

Externalización de la cognición — comparación con tecnologías anteriores

• Tapani Rinta-Kahila, investigador de sistemas de información de University of Queensland: "En el pasado también hubo tecnologías que volvieron innecesarias ciertas habilidades, como el GPS, que debilitó la capacidad de orientarse"
  • Sin embargo, la IA generativa es "la primera tecnología que automatiza habilidades cognitivas relacionadas con pensar e interpretar, consideradas durante mucho tiempo como exclusivamente humanas"

• Caso de los contadores

  • Un estudio publicado en 2018 examinó a un grupo de contadores que siguió usando durante más de 10 años sistemas contables automatizados no basados en IA
  • Cuando la herramienta desapareció, se confirmó que los contadores habían olvidado cómo realizar varias tareas rutinarias
  • "La próxima generación de programadores podría no comprender bien los fundamentos de la programación si carece de experiencia práctica"
  • "Lo mismo aplica a otros trabajos intensivos en conocimiento, como contabilidad y derecho"

• Medidas para prevenir la erosión de habilidades

  • Hay que ser consciente de cuántas tareas se están delegando a la IA generativa
  • Es necesario entender con precisión cómo funcionan y cuáles son los límites de los modelos de IA generativa, y no confiar en sus resultados sin verificarlos
  • "Hay que gestionar la dinámica competitiva entre la dependencia de la IA generativa y el mantenimiento consciente del estado de alerta"

[GN⁺]

Opiniones en Hacker News

• Nos hemos acostumbrado demasiado a la comodidad. Aprendimos computación sentados en sillas Herman Miller en oficinas con aire acondicionado y cobrando sueldos altos, y ahora que descubrimos cómo sintetizar inteligencia, lo único que se nos ocurrió fue arruinar lo que probablemente era la carrera más divertida que se podía soñar
  Claro, ahora somos más productivos, pero no sé qué tanto de eso se debe a que estamos aprovechando la IA montada sobre la inteligencia que antes acumulamos haciendo el trabajo manualmente
  ¿Quién puede garantizar que dentro de 36 meses nuestro conocimiento de sistemas no se habrá degradado y no seremos, en general, peores desarrolladores?
  No digo que no haya que usar IA. Siempre la uso para tareas secundarias útiles, como configurar GitHub Workflows mientras trabajo directamente en una función, o delegar tareas de internet a un agente en un VPS. Un poco de inteligencia sintética está bien
  Pero usarla para reemplazar y suplementar tu propia inteligencia no está bien. Igual que con los esteroides, puedes ponerte musculoso mientras dañas tu cuerpo; para mí, el beneficio está precisamente en hacer ese trabajo. Los atajos suelen ser el camino más peligroso

  • Más que preguntarme si “somos más productivos”, me gustaría preguntar si la era de la IA solo nos está empujando aún más hondo hacia producir más y más rápido. ¿Para qué, exactamente?
    Me hice ingeniero de software porque me divertía escribir código, pensar y resolver problemas complejos, y sentir la recompensa de ver funcionar por primera vez algo hecho con mis propias manos
    ¿De verdad es divertido gestionar un ejército de agentes en vez de escribir código? ¿O lo que disfrutan es la sensación de velocidad de sacar cosas a un ritmo que sería imposible en solitario? Moverse rápido, por sí solo, nunca fue el centro de la diversión para mí
    Entiendo usar IA para reducir trabajo repetitivo o boilerplate, pero cuando veo a gente totalmente entregada al desarrollo basado en agentes, de verdad me genera dudas
  • Para muchos desarrolladores, convertirse en peores desarrolladores dentro de 36 meses podría ser, de hecho, el mejor escenario. El mercado laboral ya se está ajustando para absorber el aumento de productividad, y todos van a ser forzados a producir más para conservar su empleo
    La demanda no puede ponerse al día de inmediato con ese aumento de productividad, así que no es como si las empresas simplemente pudieran vender más; al final llegan los despidos. Si más personas compiten por menos empleos, también bajan los salarios de quienes se quedan. Es un problema básico de oferta y demanda
    Me pregunto cuántas de las personas que en 2024 decían “mi trabajo es demasiado complejo o especializado como para verse afectado” seguirían diciendo lo mismo hoy, y cuántas menos serían
    Las empresas van a tener que asumir precios por token cada vez más caros para reducir costos laborales, o concluir que ese equilibrio no vale la pena y volver a apostar por la inteligencia humana. En los próximos meses, parece que la economía del sector va a decidir por nosotros
  • Creo que estás usando mal la IA, o que el lugar donde trabajas no está muy bueno. A mí me parece muy divertido programar con IA
    Los LLM y sus herramientas se sienten como nuevas restricciones de diseño que hay que tener en cuenta al construir sistemas, y si las manejas bien puedes crear cosas más grandes y mejores que antes. Se siente como aprender una rama completamente nueva del árbol de habilidades de programación
    Claro, eso lo digo después de que Claude destruyera por completo el RBAC de la aplicación y de pasar los últimos dos días rehaciéndolo
  • Ojalá no dijeras “nosotros”. Mucha gente no quería estos modelos ni estas empresas, y tampoco contribuyó a ellas. Si hubo alguna contribución, fue que les robaron código, datos y propiedad intelectual
    Mucha gente no se sumó voluntariamente al uso de IA; en la práctica se lo impusieron sus empleadores. Y no es que gracias a la IA todo el mundo sea más productivo: muchos terminan pasando el mismo tiempo que supuestamente ahorran revisando el código que generó la IA
  • En la empresa me obligan a usar LLM y me dijeron “no intentes entenderlo, solo haz que funcione”. Lo dijeron como si lo absurdo de esa frase no fuera evidente
    Desde entonces estoy buscando cómo salir de este trabajo, y quizá de esta carrera
    Al final, la gente a la que sí le importa será filtrada o se irá por su cuenta, y todo este campo va a terminar lleno de maximalistas de IA con efecto Dunning-Kruger. Eso de que “la IA reemplazará a los ingenieros” será cierto, pero por razones y de una forma totalmente distintas a las que imaginan quienes hacen esa afirmación

• Me pregunto si el mismo efecto también se da en personas muy ricas o en ejecutivos de muy alto nivel. Ese tipo de gente ya desde antes podía “tercerizar” el pensamiento: delegar trabajo, pedir investigación y resúmenes, asignar tareas, etc.
  ¿Pasarle esas cosas a una persona deteriora las capacidades de la misma manera? ¿O la IA es fundamentalmente distinta? Y si lo es, ¿por qué? ¿Porque no existe la misma presión moral y social de no delegarlo todo?

  • Sí. En el desarrollo práctico del día a día, las habilidades empiezan a degradarse en cuanto uno se pasa a un cargo de gestión. Incluso si no se degradan mágicamente, ya no las estás practicando ni siguiendo los nuevos avances
    Si cumples bien el rol de manager, es probablemente la trayectoria profesional más aterradora que existe. Después de unos años, ya no hay una forma realista de volver a un puesto de desarrollo práctico con menor sueldo. Tu trabajo ya no es hacer las cosas, sino ayudar a que otros las hagan
    Claro que hay una zona intermedia, y uno intenta mantener algo de filo técnico con I+D o proyectos paralelos, pero eso no es lo mismo que el trabajo práctico diario en producción
    El nivel técnico de partida varía según la persona, pero el efecto con el tiempo suele ser bastante parecido
    Ese es exactamente el punto sobre el que más advierto cuando un ingeniero experimentado me dice que quiere pasarse al track de gestión. No es una decisión para tomar a la ligera
  • Sí. También pasa con profesores o con decanos universitarios
    Por eso creo que la incorporación de Noam Shazeer a OpenAI también hay que verla en ese contexto. Sin duda es una buena contratación, pero no hay una razón especial para creer que él todavía trae alguna magia secreta que los demás no tengan ya en una forma más actualizada
  • La clase propietaria en realidad no trabaja. La planificación de alto nivel que delegan es más fácil de ejecutar para agentes de IA que tareas como la ingeniería de software, porque no necesita ser tan precisa ni tan accionable
    Eso sí, como el alcance es muy amplio y el riesgo del rol es alto, para que quitar a los humanos sea lo bastante “seguro” quizá haga falta un modelo de lenguaje de visión al nivel de Fable 5 o Fable 6
    Lo que va a explotar en 2027 serán las empresas automatizadas por IA, y los CEO y propietarios humanos ya no podrán competir con esas empresas operadas por IA
  • El trabajo intelectual, y más ampliamente cualquier campo con un árbol de habilidades por el que se puede subir o bajar, se deteriora con el tiempo si no se practica. Es como dejar de correr por un tiempo y luego no poder volver de inmediato a tu marca personal anterior
    Retomar después de una pausa y ponerse al día es más fácil que desarrollar la habilidad desde cero o no tener talento innato, pero si no entrenas, claramente te deterioras. Los líderes que subieron a roles de gestión o estrategia pura sin mantener habilidades prácticas terminaron comprendiendo las cosas bastante más lento
    Qué bueno que se haya hecho esta investigación. Creo que la correlación inversa entre IA y bienestar humano es uno de los grandes temas de nuestra era. Pero la conclusión en sí parece bastante obvia
  • He visto bastantes exprogramadores que, tras pasar unos años en gestión, apenas pueden resolver un fizzbuzz. Así que me parece algo bastante parecido
    Gran parte del cerebro funciona bajo la lógica de “si no lo usas, lo pierdes”, y ese tipo de delegación es justamente no usarlo
    Aun así, los LLM tienen mucho potencial de ser bastante peores que delegar en humanos. En parte porque el ciclo de iteración es tan rápido que incluso alguien que no sea inmensamente rico obtiene una velocidad que no podría comprarle a una persona

• Llevo más de un año sin escribir yo mismo, de principio a fin, una sola función de código. En cambio, paso mucho más tiempo pensando en arquitectura y en propiedades del sistema
  Así que siento que sí perdí en cierta medida habilidades de muy bajo nivel. Pero tal vez eso también me permitió dedicar más tiempo a habilidades de nivel más alto. Como los médicos que ya no saben leer tan bien las imágenes, pero quizá ahora tienen más recursos cognitivos para pensar en el contexto del paciente
  No estoy seguro
  Aun así, ya no puedo hacer que mi cuerpo se ponga a escribir código directamente sin IA. Se siente demasiado lento y casi doloroso

  • Me pregunto si la gente nueva podrá adquirir esa forma de pensar útil y productiva sin la formación mental de haber lidiado a mano con estructuras de datos y algoritmos de bajo nivel dentro de aplicaciones reales, por ejemplo
    Cuando estudiaba diseño, gran parte del trabajo era con medios físicos como grafito, papel recortado, pintura y carbón, y también practicábamos un montón con kerning y con herramientas digitales. Incluso en digital había que construir cada trazo individual y elegir la herramienta adecuada, pero definitivamente había una conciencia del proceso que les faltaba a quienes venían de un trasfondo puramente digital
    Es parecido a alguien que solo ha trabajado con referencias fotográficas e intenta dibujar del natural. Cuando dibujas algo que ya está en 2D, hay toda una parte del proceso cognitivo que no se usa. Se puede aprender, pero si no te obligan, es muy probable que sigas tomando fotos y dibujándolas
    La generación de imágenes es tan distinta, incluso con inpainting muy fino, que cuesta compararla. Me cuesta decir que alguien con mucha experiencia en generación avanzada de imágenes está muy por delante de un principiante absoluto cuando empieza a aprender a dibujar. Eso no aplica igual a un artista que usa referencias fotográficas, y menos todavía a un artista puramente digital que ha hecho dibujo del natural en tablet
    Es parecido a cómo los millennials, aunque siempre tuvieron acceso a la tecnología, también vivieron la era del dial-up y por eso suelen ser más duchos técnicamente que el típico “iPad kid” que ni siquiera sabe moverse por la estructura de directorios
  • La pregunta es qué habilidades de nivel superior van a quedar para concentrarse en ellas
    No estoy convencido de que la IA sea intrínsecamente peor en cosas como gestión de proyectos o arquitectura
  • Incluso si los sacerdotes de la IA tienen razón y usar IA libera margen mental y capacidad cognitiva para pensar en cosas más elevadas, ¿en qué te va a hacer usar ese margen tu jefe? ¿Va a dejar que el usuario desarrolle capacidades cognitivas de más alto nivel? No parece probable
    Supongamos que los médicos del artículo tuvieron peor desempeño después de la IA. Si gracias a la IA ahora pueden hacer 100 exámenes en el tiempo en que antes hacían 10, ¿cómo va a usar el empleador ese tiempo laboral sobrante? Obviamente les hará hacer más exámenes y despedirá a algunos de los médicos que ya no necesita
    Los médicos que queden sobrevivirán deskilled, haciendo la misma cantidad de trabajo o más, y la sociedad recibirá atención médica de menor calidad. Pero bueno, el empleador ahorrará en costos laborales y los accionistas estarán felices
  • No aprendimos a usar tarjetas perforadas de IBM. Escribir funciones a mano en lenguajes modernos también se está convirtiendo rápidamente en una tarea anacrónica
  • A los ojos de muchos CEO, te estás volviendo lentamente inútil

• Esto es nuevo, y sobre todo es nuevo en alcance. No están en juego solo algunas “habilidades” individuales, sino casi todas. Se está cuestionando lo más fundamental de la capacidad de pensar de forma profunda, amplia y persistente. Algo así nunca había pasado antes de esta manera
  Ver a un agente funcionar a veces resulta asombroso y hasta deja sin aliento. Pero justamente por ese poder, somos vulnerables en la misma escala a su tentación y a su efecto incapacitante. El potencial de sus efectos psicológicos a largo plazo es casi comparable al de una droga fuerte

  • Cuando se habla de que se pone en riesgo la capacidad de pensar de forma profunda, amplia y persistente, lo primero que viene a la mente son las redes sociales y los algoritmos de contenido. Fueron la primera ola que creó el terrible estado actual antes de que entráramos en la era de la IA
    Hoy en día es demasiado fácil caer en una cámara de eco y extremadamente difícil salir de un silo
    Puede ser un arma de doble filo. La IA, en la que la mayoría de la gente cree como si fuera un oráculo omnisciente, podría también ofrecer el único contrapunto que encontremos frente a posturas que absorbimos pasivamente al scrollear por redes sociales o por YouTube y TikTok
    Por ejemplo, si le preguntas a Claude, ChatGPT o Grok sobre los “láseres espaciales” del incendio de Hawái de 2018 que impulsaron en redes sociales personas como Marjorie Taylor Greene, lo desmienten rápido como una tontería
    Al final, todos podrían terminar teniendo su propia IA que solo les diga lo que quieren oír. Pero hasta ahora he visto a gente abandonar discusiones en Twitter porque Grok rechazó sus afirmaciones. Así que parece que todavía hay un poco de esperanza
  • Antes de decir “esto no había pasado nunca”, conviene leer lo que la gente decía sobre la invención de la radio y la televisión
    Que ver a los agentes en acción resulte tan sorprendente y deje sin aliento también pasa con la magia. La inquietante posibilidad de que todo eso no sea más que una ilusión mal entendida no parece incomodar demasiado a la gente
    Que sus efectos psicológicos a largo plazo se parezcan a los de una droga fuerte podría tener más que ver con cómo los dueños de este producto eligieron comercializarlo y distribuirlo. Si se levanta un poco la tapa, la euforia podría convertirse en miedo. Se acerca un momento al estilo de Upton Sinclair
  • La mente humana necesita retos tanto como el cuerpo. Para crecer, o incluso para mantener un nivel cognitivo alto, esa es la única forma
    Enfermeras, médicos y familiares saben bien lo rápido que se desploma la trayectoria de vida de una persona cuando de repente queda atada a una cama y sus estímulos y desafíos posibles se reducen al mínimo
    Los LLM eliminan o minimizan el desafío. Fuera del ahorro de costos para los empleadores, cuesta imaginar qué valor agregado le aportan a un ingeniero. Claro, hay gente que dice que ahora rinde 10 veces más, y quizá algunos realmente lo hagan, pero incluso ahí hay motivos para dudar. Para la gran mayoría no es bueno, y no va a mejorar a menos que el precio haga que sea inviable en la mayoría de los mercados

• A los 40 estoy aprendiendo cosas nuevas a una velocidad que jamás habría imaginado. Nuevos deportes, nuevos negocios, nuevos intereses académicos
  La tecnología es una palanca, y la IA es la mayor palanca que tenemos. Puede facilitar la flojera, y también una productividad enorme. El camino a seguir lo elige cada quien

  • No sé si aplique en tu caso, pero he visto a varios amigos convencerse de que estaban explorando la frontera de la ciencia, y al final la conversación siempre terminaba girando hacia un discurso raro de quantum y metafísica
    Los LLM son aduladores, y en conversaciones largas esa adulación crea un bucle de retroalimentación positiva. Si en la ventana de contexto entra una validación de una interpretación o analogía equivocada, el chatbot sigue por ahí porque es la continuación más plausible del texto previo
    De pronto ya estás descubriendo el tejido oculto del universo, y siempre termina siendo algo como una variedad reticular tensorial fractal del espacio-tiempo de Minkowski con nanotubos de ADN subarmónicos
    Así que, si no tienes una forma sólida de evaluar lo que estás aprendiendo y comprobar que realmente estás aprendiendo, más vale tener cuidado
  • No estás aprendiendo. Aprender implica hacerlo uno mismo
    Esto se sabe desde hace mucho. Si un estudiante solo lee un libro de matemáticas y no resuelve problemas una y otra vez, no va a aprobar el examen
    Incluso en el mejor de los casos, solo estás leyendo algo. Los usuarios de agentes de programación ni siquiera hacen eso
  • No estás aprendiendo. Se parece más a que estás escuchando explicaciones y te dieron un martillo para usarlas, normalmente con un nivel de habilidad inferior al promedio
    Aprender exige una enorme inversión de tiempo. Usar un LLM no reduce ese tiempo
  • ¿Exactamente cómo ayuda la IA en el deporte? ¿Te volvió un mejor atleta? Por ejemplo, desde la perspectiva de un entrenador, ¿aprendiste más sobre la estrategia de cada deporte? ¿Podrías contarlo en detalle?
  • En realidad estoy de acuerdo. Claramente siento que con los LLM sí se pueden aprender y explorar conceptos. Pero desde el inicio yo ya era una persona muy autodidacta y con mucha motivación
    Todo lo técnico que sé lo aprendí por mi propio esfuerzo. Por eso me gustaría que estas herramientas se publicitaran no como un modelo para hacer más trabajo, sino para ayudar a hacer mejor trabajo
    Ahora mismo se están usando más como excusa para despidos masivos que para elevar las capacidades de la gente. Y, por supuesto, también atrajeron en masa a personas que las usan para inflar lo que parecen ser sus capacidades reales

• El uso de herramientas normalmente sigue esta curva. Si quieres preservar una habilidad, entonces tienes que preservarla de verdad
  Esto en sí no es inherentemente malo. Las herramientas permiten hacer muchísimo más de lo que puede hacerse sin ellas, y siempre se puede debatir qué habilidades siguen siendo esencialmente importantes cuando la herramienta las reemplaza

  • La dificultad aquí es que el conjunto de habilidades que estamos dejando atrofiarse tiene un alcance prácticamente infinito
    No es una herramienta especializada con un campo de problemas bien definido, como una calculadora. En la práctica, mucha gente está usando IA en ámbitos profesionales como programación o diseño visual, pero en principio no hay ninguna razón por la que el propio nivel de abstracción en el que trabajamos hoy no pueda también entregarse a la IA
  • El gran problema en este caso es que, incluso para usar bien esta herramienta, también hace falta desarrollar y preservar las habilidades básicas. Es muy distinto de un taladro eléctrico
  • La diferencia entre que esté bien o no depende de qué tan confiable sea la herramienta. Si es una calculadora o un compilador, está bien. El ejemplo del artículo sobre clasificación de imágenes con aprendizaje automático también parece razonable, aunque no estoy totalmente seguro
    La salida de un LLM no es confiable, así que sigue haciendo falta criterio. Y para poder juzgar código, tienes que haberlo trabajado tú mismo hasta cierto punto. Así que una herramienta no confiable no ayuda mucho, a menos que aceptes esa incertidumbre
  • Exacto. Pero si no eres dueño de esa herramienta y queda en manos de un grupo centralizado, incluso cercano a lo político o estatal, el día que eso se convierta en “la computadora dice que no”, el problema va a ser enorme

• No sorprende si piensas en los ingenieros Staff+. Su trabajo se parece bastante a darle instrucciones a una IA. La mayoría sube la escalera con esfuerzo, gran habilidad de ingeniería, habilidades blandas y un poco de suerte. Pero mientras más crece la empresa, menos tiempo dedican a programar, depurar y diseñar en profundidad
  En cambio, actúan como gerentes de producto muy técnicos. Ayudan a los VP a planear y redactar requisitos de producto de alto nivel, echándoles un poco de jerga técnica encima. Dibujan cajas en la pizarra, hacen diapositivas bonitas y escriben documentos pulidos que dejen conforme al liderazgo. Están en reuniones o yendo a la siguiente, y si tienen una idea técnica mandan al equipo a validarla
  Obviamente todavía sienten que siguen siendo profundamente técnicos, pero cuando llega el día en que tienen que resolver una caída en producción, pasar una entrevista técnica o escribir mucho código, se dan cuenta de que sus habilidades se han oxidado
  No lo digo como crítica, sino para resaltar un desafío real de carrera. Como ingeniero quieres afinar tus capacidades técnicas, pero para subir en la escalera organizacional tienes que asumir más trabajo organizacional. La única solución que se me ocurre es acercarse más al perfil de investigador o profesor. Los buenos profesores, con el tiempo, pasan menos horas escribiendo papers o derivando fórmulas, pero tienen tanta profundidad de criterio que guían a sus estudiantes de doctorado hacia grandes resultados. Claro, ese camino no es tan fácil como suena

• El mayor efecto negativo que veo es que la gente se mueve demasiado rápido para evaluar lo que está metiendo. Si te mueves demasiado rápido, no tienes tiempo para desarrollar criterio ni para entender los matices de varios enfoques para el mismo problema
  Yo también uso bastante los LLM, pero siento que, en promedio, paso mucho más tiempo que mis colegas quedándome con el código que salió. Lo primero que genera “funciona”, pero normalmente termino iterando la idea original 2 o 3 veces más antes de sentir, después de dejarla asentarse en mi cabeza, que de verdad ya se puede fusionar
  Así que, sumándolo todo, no siento que la productividad haya aumentado mucho en lo que realmente importa a nivel de diseño

• Primero, me pregunto por el valor del estudio de endoscopia. Para comparar el número de adenomas detectados antes y después de una posible pérdida de habilidad causada por la IA, hay que asumir que la tasa de aparición de adenomas se mantuvo constante, y esa suposición no parece necesariamente segura
  No sé si el problema es del estudio mismo o del resumen, pero habría sido un diseño mucho mejor medir qué tan bien lo hicieron los participantes frente a un análisis de referencia, y también habría dado más confianza en que realmente hubo un cambio de habilidad
  También me pregunto si el tiempo de lectura se redujo, o si sintieron más presión al leer los escaneos del modo tradicional porque la IA los leía rápido. Eso sería un posible factor de confusión
  Segundo, no sorprende que aparezca una pérdida de habilidad medible por culpa de la IA. Pero antes también podrías haber encontrado pérdida de habilidad por culpa del corrector ortográfico y las calculadoras. Aun así, hoy nadie dice que no deberíamos usar procesadores de texto y volver a contar con los dedos de manos y pies o hacer divisiones largas
  Siempre hay un equilibrio entre qué habilidades y conocimientos son realmente importantes para un experto y qué cosas se pueden subcontratar a la tecnología. Ahora estamos en una transición porque la tecnología no solo es nueva, sino que cambia demasiado rápido. En unos años, cuando subamos más por la curva de adopción y el ritmo de cambio se estabilice en algunas áreas, aterrizaremos en formas de usar IA que requieran una combinación de conocimiento y habilidad en campos como la programación y la medicina. Y creo que nos acostumbraremos a que la gente ya no necesite saber ni hacer directamente cosas que hoy se consideran el núcleo del trabajo

• ¿Vamos a terminar en una situación donde la IA desaparezca y lamentemos las habilidades que perdimos? Incluso en el peor caso, como mucho usaríamos modelos de pesos abiertos en vez de la frontera tecnológica, así que no me parece un gran problema
  Estoy seguro de que, después de que se inventaron las calculadoras, la gente se volvió peor en aritmética

  • Creo que la verdadera amenaza no está a nivel individual, sino a nivel social
    Con el tiempo, al acumular habilidad, obtienes comprensión, y esa comprensión lleva a la innovación
    La IA hace muchas cosas interesantes, pero todavía no innova
    La verdadera amenaza no es que todos perdamos nuestras habilidades y también el acceso a la IA. Eso podría pasar, pero perder el acceso parece poco probable. El riesgo mayor es que la IA se quede más o menos en su nivel actual mientras nosotros dependemos de ella, embotamos nuestras habilidades y le cedemos demasiado pensamiento a una máquina no innovadora, haciendo que la innovación se estanque
    No digo que eso vaya a pasar necesariamente, pero sí parece un resultado suficientemente posible
  • ¿Desapareció toda la historia de la computación anterior a 2023? ¿De verdad estamos así de arruinados?
  • En la frase “después de que se inventaron las calculadoras, la gente se volvió peor en aritmética”, con los LLM podrías reemplazar “aritmética” por la variable X
    “Después de que se inventaron los LLM, la gente se volvió peor en X”
    El problema no es solo que la habilidad X se deteriore
    El problema es que, en los LLM, X es básicamente todo el conocimiento y todas las habilidades de comunicación
    ¿De verdad una sociedad puede soportar un estado en el que prácticamente todo el conocimiento y todas las habilidades de comunicación se deterioren?
  • En el peor de los casos, sufrimos un encogimiento cognitivo. Nos volvemos más tontos y más flojos