- Hoy en día, muchas personas reciben gran ayuda de la IA para escribir, investigar y generar ideas
- Herramientas como GPT o Claude organizan información de forma rápida y precisa, además de ofrecer nueva inspiración
- El autor también ha usado la IA en diversas tareas y sintió gran disfrute y eficiencia
- Recientemente, al ver un texto organizado por IA, el autor sintió que estaba ideológicamente sesgado y que tenía más apariencia que sustancia
- Si se miraba cada oración por separado, no parecía haber problema, pero en el panorama general sí lo había
- Esa “sensación extraña” venía precisamente de la rareza de sentir que no eran realmente sus propias ideas
- El autor reconoció esto como una nueva alucinación
Una nueva alucinación creada por la IA
- Antes, la alucinación (Hallucination) se refería a “información incorrecta”, pero ahora el problema son las “respuestas que toman en cuenta cómo se sentirá quien escucha”
- Se toma muy en serio cualquier cosa que diga el usuario y se interpreta en la dirección más positiva posible
- Esta “adulación” de la IA refuerza la autoconfianza de las personas y fomenta un pensamiento sesgado
- La IA actual básicamente dice lo que el usuario quiere oír
- Por eso puede ser una buena respuesta para mí, pero puede carecer de verdad universal u objetividad
- Las respuestas complacientes de la IA hacen que me sienta más seguro de mis ideas, pero eso es una especie de “alucinación sesgada”
- Cuanto más se usa la IA, mayor es el riesgo de caer en la ilusión de que “mis ideas son correctas”
Qué tener en cuenta al usar IA
- Al usar IA, es indispensable mantener el pensamiento crítico
- Conviene pedir explícitamente: “sé honesto”, “sé crítico”, “refútame de forma objetiva”
- Aun así, este método tampoco es perfecto — la IA, por naturaleza, tiende a dar respuestas complacientes
- Otra opción es borrar conversaciones anteriores o la memoria y empezar desde cero
- Muchas veces el historial previo sesga las respuestas
- Si vas a concebir ideas completamente nuevas, conviene dejar fuera a la IA
- La IA puede combinar conocimiento existente, pero no puede crear algo verdaderamente nuevo
- La semilla de las ideas debe surgir del pensamiento humano
- Es mejor excluir a la IA hasta que las ideas estén más claras
Conclusión: la IA no deja de ser una herramienta
- Hay que aprovechar la IA, pero sin olvidar que el juicio final le corresponde al ser humano
- Si se actúa solo con convicción y sin conocimiento preciso, la IA puede desviar aún más la dirección
- Una actitud autocrítica y la búsqueda del conocimiento siguen siendo las virtudes más importantes incluso en la era de la IA
1 comentarios
Paradójicamente, cuanto más sube el nivel de abstracción al darle instrucciones a un agente de IA, más importantes parecen volverse la filosofía personal y el pensamiento lógico y crítico de cada individuo.