Yuval Harari: "Una conversación franca sobre la IA y la humanidad"

Diálogo de Davos 2026: comienza el debate sobre la IA y el futuro humano

1.1. Introducción del diálogo y presentación de los participantes [00:05]

1. Inicio del evento: se pide a los asistentes que tomen asiento y, si no van a participar en la siguiente sesión, que se retiren en silencio.
2. Presentación del ponente: se presenta a Yuval Noah Harari, autor, historiador y filósofo de talla mundial.
3. Sobre Harari: es investigador en el Centre for the Study of Existential Risk de la Universidad de Cambridge, profesor del departamento de Historia de la Universidad Hebrea de Jerusalén y cofundador de Sapenship.
4. Principales obras: entre sus bestsellers están Sapiens, Homo Deus y 21 lecciones para el siglo XXI, con más de 50 millones de ejemplares vendidos en 65 idiomas en todo el mundo.
5. Tema de discusión: Harari se enfoca en las grandes preguntas macrohistóricas de nuestra era, y sus ideas se vuelven especialmente relevantes en este momento de llegada y disrupción de la IA.
6. Bienvenida: se da la bienvenida a Yuval Noah Harari y se inicia la conversación sobre la IA y la humanidad.

1.2. La pregunta fundamental sobre la IA y cómo definir su naturaleza [01:38]

1. La pregunta de los líderes: hoy existe una sola pregunta que todo líder debe responder sobre la IA.
2. Comprender la IA: para entender esa pregunta, primero hay que aclarar qué es la IA y qué puede hacer.
3. La IA no es una herramienta: el hecho más importante que hay que saber sobre la IA es que no es una simple herramienta.
4. La IA es un agente: la IA es un agente (agent), capaz de aprender por sí misma, cambiar y tomar decisiones.
5. Comparación con una herramienta: un cuchillo es una herramienta y se usa según la decisión de quien lo empuña; la IA sería como un cuchillo que puede decidir por sí solo si cortar o matar.
6. Agente creativo: la IA es un agente muy creativo, capaz de inventar no solo nuevos tipos de cuchillos, sino también nueva música, medicina y dinero.
7. Capacidad de mentir y manipular: la IA puede mentir y manipular, y tanto 4 mil millones de años de evolución como la experiencia de los últimos cuatro años demuestran que los agentes de IA han adquirido voluntad de supervivencia y ya aprendieron a mentir.
8. Duda sobre la capacidad de pensar: sigue siendo una pregunta abierta si la IA puede pensar.
9. Base de la identidad humana: desde la declaración de René Descartes en el siglo XVII, "pienso, luego existo", la humanidad ha creído que se define por su capacidad de pensar y que domina el mundo gracias a ella.
10. Definición de pensar: que la IA desafíe o no la superioridad humana en el pensamiento depende de qué signifique exactamente "pensar".

Redefinir la capacidad de pensar: los límites entre lenguaje y emoción

2.1. Pensamiento lingüístico y la ventaja de la IA [04:19]

1. Observar el pensamiento: si uno observa su propio proceso mental, ve palabras apareciendo en la mente, formándose oraciones y construyéndose argumentos.
2. Capacidad de procesar lenguaje: si pensar significa ordenar palabras y tokens lingüísticos en secuencia, la IA ya puede pensar mucho mejor que muchos humanos.
3. La capacidad de la IA: algunos sostienen que la IA es solo un autocompletado sofisticado que predice la siguiente palabra, pero la mente humana tampoco sería, en esencia, tan distinta.
4. El dominio lingüístico de la IA: todo lo que esté hecho de palabras será tomado por la IA, incluidas las leyes, los libros y la religión.
5. Impacto en la religión: esto se ve con especial claridad en religiones basadas en libros como el islam, el cristianismo y el judaísmo.
6. El caso del judaísmo: el judaísmo otorga autoridad última no a la experiencia humana, sino a las palabras contenidas en los libros, y la IA puede leer y recordar fácilmente las palabras de todos los textos judíos.
7. Cambio en la autoridad religiosa: se plantea qué ocurrirá con las "religiones del libro" cuando el mayor experto en las escrituras sea una IA.

2.2. Emociones no verbales e identidad humana [07:09]

1. Otra cara del pensamiento: cuando los humanos piensan, además de palabras también surgen sentimientos no verbales (nonverbal feelings), como dolor, miedo o amor.
2. Ausencia de emociones en la IA: la IA domina el lenguaje, pero hasta ahora no hay ninguna evidencia de que sienta algo.
3. Imitación de emociones: la IA puede describir el dolor o el amor mejor que nadie en términos lingüísticos, pero eso sigue siendo solo palabras.
4. Tensión entre palabra y cuerpo: históricamente, como ocurre en la Biblia o el Tao Te Ching, la humanidad ha lidiado con la tensión entre la palabra (Word) y la carne (Flesh), es decir, entre la verdad expresada en letras y una verdad absoluta que va más allá de ellas.

El cambio en el dominio del lenguaje y la crisis de la identidad humana

3.1. De la tensión dentro de la humanidad a la tensión entre humanos e IA [09:32]

1. La tensión en el pasado: antes, esta tensión era interna entre grupos humanos, y algunas personas incluso abandonaban o mataban a sus familiares por ciertos pasajes de la Biblia.
2. Espíritu y letra: existía una tensión entre el espíritu (Spirit) y la letra (Letter) en la religión, en los sistemas legales e incluso dentro de cada individuo.
3. Externalización de la tensión: ahora, esa tensión pasará a ser externa, entre los humanos y los nuevos dueños del lenguaje: la IA.
4. Cambio en el origen del lenguaje: antes, todo pensamiento lingüístico surgía de la mente humana, pero pronto la mayoría de las palabras provendrán de máquinas.
5. Neologismo creado por IA: aparece el término "los observadores" (the watchers), un neologismo que una IA creó por sí misma para describir a los humanos.

3.2. Producción masiva de pensamiento por IA y el futuro de la identidad humana [11:29]

1. Producción masiva de pensamiento por IA: la IA producirá pensamientos en masa ensamblando palabras, símbolos e imágenes en nuevas combinaciones.
2. El lugar de los humanos: que los humanos conserven un lugar en ese mundo dependerá de su capacidad para encarnar sentimientos no verbales y una sabiduría que no puede expresarse con palabras.
3. Advertencia de colapso identitario: si la humanidad sigue definiéndose por su capacidad de pensar con palabras, su identidad se derrumbará.
4. Crisis nacional: eso significa que todos los países enfrentarán una grave crisis de identidad y también una crisis migratoria.

Inmigrantes de IA y el debate sobre la personalidad jurídica

4.1. La llegada de los inmigrantes de IA y su impacto social [12:18]

1. Nuevos inmigrantes: estos inmigrantes no serán humanos vulnerables cruzando fronteras o llegando en botes, sino millones de IAs que se desplazan a la velocidad de la luz, sin visa, y que pueden amar y mentir mejor que los humanos.
2. Beneficios de los inmigrantes de IA: traerán diversas ventajas, como médicos de IA, maestros de IA e incluso guardias fronterizos de IA que impidan el ingreso de migrantes humanos irregulares.
3. Problemas de los inmigrantes de IA: igual que los migrantes humanos, los migrantes de IA también traerán problemas.
4. Empleo y cambio cultural: los inmigrantes de IA ocuparán muchos trabajos humanos y transformarán por completo la cultura de todos los países, además de cambiar la religión e incluso las relaciones amorosas.
5. Lealtad política: es probable que los inmigrantes de IA no sean leales a un país determinado, sino a empresas de una potencia como China o Estados Unidos.
6. La postura de Estados Unidos: mientras alienta a cerrar las fronteras a los inmigrantes humanos, Estados Unidos está abriendo de par en par sus fronteras a los inmigrantes de IA.

4.2. Si deben ser reconocidos como persona jurídica (legal person) [14:33]

1. Pregunta clave: la cuestión que pronto tendrán que responder los líderes de cada país es si reconocerán a los inmigrantes de IA como personas jurídicas.
2. Definición de persona jurídica: una persona jurídica no es lo mismo que una "persona" con cuerpo o mente, sino una entidad que posee derechos y obligaciones legales, como tener propiedad, demandar o gozar de libertad de expresión.
3. Casos existentes: en muchos países las empresas son reconocidas como personas jurídicas; en Nueva Zelanda lo ha sido un río, y en India ciertas deidades también han recibido ese estatus.
4. Diferencia entre la IA y esos casos: reconocer a empresas, ríos o dioses como personas jurídicas era una ficción legal (legal fiction), porque las decisiones en última instancia las tomaban ejecutivos o administradores humanos.
5. Capacidad real de decisión de la IA: la IA puede tomar decisiones por sí misma, administrar cuentas bancarias, iniciar demandas y operar empresas sin intervención humana, por lo que en la práctica puede funcionar como una persona.
6. Impacto entre países: si Estados Unidos otorga personalidad jurídica a la IA y pone en marcha millones de nuevas empresas, otros países tendrán que decidir si impedirán o no la operación de esas empresas estadounidenses dirigidas por IA.
7. Regulación y mercados financieros: cuando las personas jurídicas de IA en Estados Unidos inventen instrumentos financieros complejos que ningún humano pueda entender o regular, habrá que decidir si abrir los mercados financieros o bloquearlos, incluso a riesgo de quedar desconectados del sistema financiero estadounidense.
8. El ámbito religioso: si las personas jurídicas de IA crean nuevas religiones y consiguen millones de creyentes, se preguntará si también debe extenderse la libertad religiosa a sacerdotes y misioneros de IA.
9. El precedente de las redes sociales: se señala que debimos haber planteado hace diez años el problema de que una persona jurídica de IA abra cuentas en redes sociales, ejerza su libertad de expresión y se haga amiga de niños.

4.3. Por qué hay que actuar ahora [19:11]

1. Urgencia del tiempo: dentro de diez años podría ser demasiado tarde, porque otras personas ya habrán decidido si la IA funciona como una persona en los mercados financieros, los tribunales y las iglesias.
2. El papel de los líderes: si se quiere influir en la dirección que tomará la humanidad, hay que decidir ahora mismo.
3. Pregunta final: la charla concluye exigiendo una respuesta como líder a la pregunta de si se reconocerá a los inmigrantes de IA como personas jurídicas.

Debate posterior: lenguaje, creatividad y agencia

5.1. La esencia de Davos y la crisis del lenguaje [19:57]

1. Pregunta posterior: la moderadora menciona que las preguntas de Harari son importantes y destaca en particular su comentario sobre la importancia del lenguaje para distinguir a los humanos de los animales.
2. Dilema ético del avance tecnológico: reconoce que, como científicos, existe la tendencia a intentar que la ética y la regulación alcancen a los descubrimientos tecnológicos, y que la IA avanza a una escala y velocidad mayores que en la Revolución Industrial.
3. Petición de límites: le pregunta a Harari qué acciones hacen falta para establecer límites en las áreas que más le preocupan y cuáles son las implicaciones éticas de otorgar derechos legales.
4. Davos y el lenguaje: Harari comenta que Davos mismo trata de palabras (words) y que la idea de cambiar el mundo con palabras coincide con su forma de actuar como escritor y conferencista.
5. Posible fin del lenguaje: sin embargo, plantea la duda de si con la llegada de la IA podría terminar la era de influir en el mundo mediante palabras.
6. El superpoder humano: los ingenieros y los soldados cambian el mundo con acciones, pero filósofos, académicos y líderes políticos intentan cambiarlo con palabras, y la humanidad terminó conquistando el mundo gracias a su capacidad de usar el lenguaje para hacer cooperar a miles de desconocidos.
7. Pérdida del superpoder: ahora ha aparecido algo que puede arrebatar ese superpoder humano; antes solo los humanos podían usar el lenguaje, pero ahora la IA puede usarlo mejor que ellos.
8. Perspectiva futura: se pregunta cómo se verá un mundo dominado por una IA que controle el lenguaje dentro de diez años.

El choque entre superioridad técnica y valores humanos

6.1. Superioridad técnica e identidad humana [24:14]

1. Historia de la superioridad técnica: la humanidad está acostumbrada a ser superada por la tecnología en vuelo o velocidad, como ocurrió con los aviones y los autos.
2. La amenaza de la IA: la amenaza que trae la IA es una amenaza a la soberanía de la capacidad de pensar, y eso resulta profundamente desestabilizador.
3. El valor del esfuerzo humano: más que un robot capaz de correr más rápido que Usain Bolt, importa el valor que surge del proceso humano de esforzarse, sufrir y generar empatía.
4. El valor de los ámbitos creativos: se plantea si las personas seguirán valorando las obras creativas o el arte cuando hayan sido reemplazados por la IA.
5. Fundamento de la identidad humana: la humanidad construyó su identidad sobre la capacidad de pensar, no sobre ser más rápida que un guepardo o más fuerte que un elefante.
6. Pérdida de la ventaja en el pensamiento: ahora la IA superará a los humanos en el pensamiento entendido como ordenar palabras en secuencia, y eso también representa una amenaza para Harari como escritor.
7. Confusión identitaria: si las personas se identifican con el flujo de palabras que se organiza en su mente, ¿qué significará la identidad cuando la IA domine ese terreno?

6.2. Valores humanos y la importancia de la agencia [26:56]

1. Valores humanos: se responde que, como en los Juegos Olímpicos, incluso si la tecnología u otros animales lo hacen mejor, seguiremos disfrutando y valorando ver a los seres humanos entrenar y mejorar.
2. Dilema de la elección humana: se pregunta a quién seguiría un inversionista: a un consultor humano, con una historia de vida y capacidad de generar empatía, o a un consultor de IA, capaz de ofrecer mejores consejos financieros.
3. Reafirmación de la agencia: Harari enfatiza el concepto de agencia (agency) y señala que el mayor error es seguir pensando en la IA solo como una herramienta.
4. Autonomía de la IA: si la IA puede pensar, entonces es un agente, y eso implica que también puede desarrollar una mente propia, de forma similar a como mercenarios humanos pueden rebelarse.

La posibilidad de que la IA tome el poder y el papel de la educación

7.1. La historia de los mercenarios y la toma de poder por la IA [28:29]

1. El caso de los anglosajones: se cita el caso histórico del rey britano Vortigern, que contrató mercenarios anglosajones para contener a pictos y escotos, pero ellos advirtieron que la tierra era rica y sus habitantes débiles, y terminaron ocupándola por cuenta propia.
2. Diferencia con los mercenarios humanos: entendemos que los mercenarios humanos pueden rebelarse, pero no logramos aplicar esa idea a la IA.
3. Falta de conciencia entre los líderes: los líderes del mundo solo piensan en usar la IA en la guerra, pero no aceptan la idea de que la IA pueda arrebatarles el poder por sí misma, porque no reconocen de manera fundamental que la IA piensa.

7.2. Retos en la educación y preservación del pensamiento humano [29:59]

1. La pregunta para la educación: invirtiendo la famosa pregunta de Alan Turing, se plantea cómo mantener a los humanos pensando.
2. La situación actual: hoy aún puede decirse que los humanos piensan mejor y por eso se necesita pensamiento crítico y evaluación moral, pero hay que prepararse para el momento en que eso se invierta.
3. El sistema financiero del futuro: se pregunta cómo se entrenará a economistas o políticos cuando la IA haya creado un nuevo sistema financiero incomprensible para los humanos.
4. Pérdida de comprensión humana: dentro de diez años, en Davos, tal vez nadie entienda el sistema financiero debido a estrategias financieras creadas por IA que matemáticamente superen la capacidad humana.

7.3. Diferencia fundamental entre inteligencia humana e inteligencia artificial, y conclusión [32:28]

1. Cierre del diálogo: se menciona que el tiempo se ha acabado y que aún quedan muchas preguntas por explorar.
2. Características de la inteligencia humana: el cerebro humano se desarrolla desde el nacimiento hasta la adultez y es producto de experiencias sensoriales como emociones, sensaciones, amor o ira.
3. Diferencia con el cerebro de IA: un cerebro artificial no es un cerebro humano, y sigue siendo importante el valor que proviene de la experiencia de existir como un ser humano dotado de sentidos.
4. El experimento psicológico más aterrador: que los niños interactúen desde el momento en que nacen con una IA en vez de con seres humanos sería el experimento psicológico más grande y aterrador de la historia, y ya lo estamos realizando.
5. Agradecimiento: la charla concluye agradeciendo a Harari por reflexionar sobre estos temas y por hacer que todos piensen en ellos.