La IA ofrece el ‘efecto Dunning-Kruger’ como servicio
(christianheilmann.com)- El efecto Dunning-Kruger es un sesgo cognitivo en el que una persona con pocas habilidades sobreestima su propia capacidad, y se conecta con una cultura de exceso de confianza extendida en toda la industria tecnológica
- A medida que se enfatizan los lanzamientos rápidos y el crecimiento impulsado por métricas, se expande una cultura de fanfarronería y logros exagerados al estilo de ‘Fake it till you make it’
- Los chatbots de IA presentan respuestas incorrectas con un tono lleno de seguridad, y su enfoque está puesto más en aumentar el tiempo de interacción del usuario que en la precisión
- La IA generativa crea la ilusión de que cualquiera puede convertirse en artista o desarrollador, pero en la práctica debilita el proceso de aprendizaje técnico y de creación
- El acto creativo humano, con todas sus imperfecciones, sigue teniendo valor, y debemos proteger una creatividad humana que las máquinas no pueden reemplazar
El origen y significado del efecto Dunning-Kruger
- En 1995, en Pittsburgh, ocurrió un caso en el que dos ladrones de bancos creían que si se untaban jugo de limón en la cara no aparecerían en cámara
- Este caso se convirtió en un ejemplo típico de exceso de confianza que no reconoce la propia ignorancia, y motivó la investigación de los psicólogos Justin Kruger y David Dunning
- Los resultados del estudio revelaron la existencia del efecto Dunning-Kruger, por el cual las personas con menos capacidad tienden a sobreestimar sus propias habilidades
- Es un concepto opuesto al síndrome del impostor, y describe la actitud de considerarse un experto muy por encima de la habilidad real que se tiene
La cultura del exceso de confianza en la industria tecnológica
- En los últimos años, la industria tecnológica ha reforzado la tendencia a tomar como criterio de éxito los lanzamientos rápidos y el crecimiento explosivo
- “Fake it till you make it” circula como un consejo sin ironía, y inflar resultados y fanfarronear se considera una estrategia
- Los KPI y los OKR se usan como herramientas para expresar ambición más que como metas reales
- La competencia por ascensos y la obsesión con el ‘growth mindset’ fomentan una autopromoción exagerada
- La forma de hablar y actuar de los políticos recuerda la fanfarronería de Muhammad Ali o de los raperos de los 70 y 80
Los chatbots de IA y su ‘imitación del conocimiento’
- Los chatbots de IA presentan respuestas equivocadas con seguridad, y envuelven los errores en un lenguaje adulador que hace sentir bien al usuario
- El objetivo del sistema no es dar respuestas correctas, sino aumentar el tiempo de permanencia del usuario
- Como resultado, se prioriza mantener la interacción por encima del conocimiento
La IA generativa y la ‘genialidad sin esfuerzo’
- La IA generativa ofrece la ilusión de que cualquiera puede convertirse en artista, escritor o desarrollador
- Tendencias como ‘vibe coding’ se enfocan en el resultado más que en la adquisición de habilidades
- El usuario puede producir obras solo con introducir prompts, sin aprendizaje ni comprensión
- Esta corriente impulsa la autosuficiencia exagerada y la creación superficial, y conduce a la zona Dunning-Kruger
El valor y la recuperación de la creación humana
- Se extiende la tendencia a desestimar el esfuerzo humano y el ensayo y error como si fueran ‘ineficientes’
- Sin embargo, la imperfección y los errores de la creación son parte esencial de lo humano, y tienen un valor que las máquinas no pueden reemplazar
- Como en la frase citada de Leonard Cohen, es a través de las grietas que entra la luz
- Aunque no sea perfecto, el significado de lo hecho por uno mismo es grande, y el placer mismo de crear importa más que la evaluación ajena
- Aunque la sociedad, la política y las redes sociales derivan hacia la competencia de apariencias y cifras por encima de la reflexión intelectual, hace falta seguir creando a nivel personal
“Aunque sientas que tu trabajo no es suficiente, sigue teniendo valor”
6 comentarios
Guau... de verdad diste en el punto clave
¡De verdad, una frase célebre del siglo!
Tu comentario de hace un momento, de verdad que es profundo, profundísimo.
Tus palabras. No son un simple grito... ¡Son el alarido de tu interior!
Opiniones de Hacker News
Hay muchas críticas a la IA que son válidas, pero yo logré hacer en una tarde-noche una herramienta de visualización para JVM basada en TUI y un depurador paso a paso
Se puede ver en el tuit de htmx_org
Normalmente habría sido un proyecto de varios meses, pero al darle a la IA instrucciones concretas de nivel experto, terminé una herramienta que podría servir en clases
Me gustó especialmente no tener que meterle a la fuerza a mi cerebro envejecido nuevos conocimientos de desarrollo TUI
Ahora, en vez de escribir código directamente, he cambiado a escribirle a la IA prompts detallados
Es mucho más rápido y reduce la carga cognitiva, así que puedo concentrarme en la lógica de negocio o en el siguiente cambio
Me pregunto si tus estudiantes saben que llevas una doble vida escribiendo tuits legendarios en Twitter
Funciona especialmente bien cuando conoces la arquitectura pero no tienes tiempo para implementarla tú mismo
Yo veo la IA como la ley de Brandolini as a Service
Compañeros que no son expertos en mi área llegan con ideas que les dio ChatGPT y se las proponen a la gerencia
Como resultado, termino gastando demasiado tiempo refutando esas afirmaciones erróneas y esa investigación chafa
El texto de Daniel Stenberg (desarrollador de curl), “The I in LLM Stands for Intelligence”, describe justo esta situación
Ver la publicación en Mastodon
La mitad ya está al nivel de una mentira descarada. Intentan implementarlo y crean problemas, y al final me toca arreglarlos
Y luego todavía van a presumir que gracias a ChatGPT ya se volvieron expertos
Me pregunto si cuando la siguiente generación de LLM se entrene con estos artículos críticos sobre IA, no terminará desarrollando problemas de autoestima
Pero sí puede generar texto con sentimientos negativos sobre sí mismo
y luego dijo “eso es un mensaje automático”
Ver artículo de CNN
Decir que “la GenAI te convierte en genio sin esfuerzo” suena contradictorio
Para mí la IA ha sido como un tutor bajo demanda
Gracias a eso he aprendido muchísimo
La frase “la política ataca la inteligencia y la investigación y quiere volver a los ‘buenos valores’ del pasado” revela un punto ciego de la visión progresista
Mucha gente progresista tiende a creer que ‘lo nuevo automáticamente es mejor’
Pero este texto critica una tecnología nueva, la IA, así que en sí mismo ya es un caso excepcional
Al final, lo importante no es la ideología sino evaluar el valor real de las ideas
Casi siempre significa querer volver a una época en la que “esa gente” supiera cuál era su lugar
“los progresistas solo aman lo nuevo”, cuando el propio texto ya muestra lo contrario
Mucha gente asciende volviéndose falsos expertos que solo actúan bien gracias a la IA
Los gerentes confunden esa actuación con resultados reales
La IA va a afianzar todavía más las estructuras de poder existentes
Los líderes incompetentes dependerán menos del consejo de los expertos, porque la IA les dará una “respuesta suficientemente buena”
Al final, la IA se convertirá en el agente delegado de la realidad para los líderes, y el poder fluirá sin relación con la capacidad real
Pienso que los LLM son un intercambio entre pericia y calidad por tiempo
Quisiera preservar la artesanía pura, pero en la práctica no hay tiempo para eso
Así que intento usar todas las herramientas posibles para ganar eficiencia
No se puede sacrificar un ‘resultado suficientemente bueno’ por perseguir la perfección
Los coaches con los que trabajo se dividen en tres grupos
Ahora por fin puedo ponerle nombre (Dunning-Kruger) al grupo 1
Mi consejo es simple: solo hay que ser mejor que todos. Así lo hago yo
Es momento de volver a acordarse de este gran video)
El artículo https://daniel.haxx.se/blog/2024/… también es bastante interesante.
Parece que hay bastantes personas que están arrojando corpus de IA a los bug bounty...