Antiqua et Nova: una reflexión sobre la relación entre la IA y la inteligencia humana

• Documento publicado conjuntamente por el Dicasterio para la Doctrina de la Fe y el Dicasterio para la Cultura y la Educación, que aborda ampliamente los desafíos antropológicos y éticos de la relación entre la inteligencia artificial (IA) y la inteligencia humana.
  • Antiqua et Nova: latín. "Lo antiguo y lo nuevo"

I. Introducción

• Con base en la sabiduría antigua y moderna (Mateo 13:52), debemos reflexionar sobre los desafíos y las oportunidades que traen los avances de la ciencia y la tecnología, en particular los recientes avances de la inteligencia artificial (IA).
• En la tradición cristiana, la inteligencia se considera un elemento importante que muestra que el ser humano fue creado "a imagen de Dios" (Génesis 1:27).
• A partir de una visión integral del ser humano y del llamado del Génesis a "cultivar y cuidar la tierra" (Génesis 2:15), la Iglesia subraya que la inteligencia humana debe expresarse mediante el pensamiento racional y la capacidad técnica para administrar responsablemente el mundo creado.

• La Iglesia fomenta el desarrollo de las actividades humanas, incluidas la ciencia, la tecnología y el arte, y lo ve como "la colaboración del hombre y la mujer en la tarea de perfeccionar la creación visible".
• El libro del Sirácide (38:6) da testimonio de que "Dios concedió a los seres humanos la habilidad, para que sus obras admirables fueran alabadas".
• Las capacidades y la creatividad humanas provienen de Dios y, cuando se usan correctamente, reflejan la sabiduría y la bondad divinas, dando lugar a la alabanza a Dios.
• Por lo tanto, al hablar de qué significa "ser humano", también deben considerarse las capacidades científicas y tecnológicas.

• Desde esta perspectiva, el presente documento aborda los desafíos antropológicos y éticos que plantea la IA.
• Uno de los objetivos de la IA es imitar la inteligencia humana que la diseñó.
• A diferencia de otras creaciones humanas, la IA puede aprender de resultados creativos humanos y luego generar nuevos "productos", a menudo con un nivel de sofisticación que hace difícil distinguirlos de los creados por personas.
• Esto genera serias preocupaciones sobre el impacto que la IA puede tener en una crisis de veracidad en el ámbito público.
• Además, la IA puede, a través del aprendizaje, tomar de manera autónoma ciertas decisiones, adaptarse a nuevas situaciones y presentar soluciones que los desarrolladores no habían previsto.
• Esto plantea preguntas fundamentales sobre la responsabilidad ética y la seguridad humana, con amplias repercusiones en toda la sociedad.
• Esta nueva situación lleva a muchas personas a plantearse de nuevo las preguntas: "¿qué es el ser humano?" y "¿cuál es el papel de la humanidad?"

• Considerando todos estos elementos, la IA ha abierto una nueva e importante fase en la relación entre los seres humanos y la tecnología, y se sitúa en el centro de lo que el papa Francisco ha llamado un "cambio de época".
• El impacto de la IA se hace notar en todo el mundo en diversos ámbitos como las relaciones humanas, la educación, el trabajo, el arte, la salud, el derecho, la guerra y las relaciones internacionales.
• A medida que la IA sigue avanzando, es indispensable considerar en profundidad sus implicaciones antropológicas y éticas.
• Esto no se limita simplemente a mitigar riesgos y prevenir daños, sino que incluye asegurar que el uso de la IA se oriente a promover el desarrollo humano y el bien común.

• Con el fin de contribuir a un juicio correcto sobre la IA, la Iglesia ofrece mediante este documento una reflexión antropológica y ética, renovando la atención sobre la "sabiduría del corazón" destacada por el papa Francisco.
• La Iglesia se compromete a participar activamente en los debates relacionados con la IA e invita a padres, docentes, sacerdotes y obispos, encargados de transmitir la fe, a abordar cuidadosamente esta importante cuestión.
• Aunque este documento está dirigido en particular a ellos, también ha sido escrito para un público más amplio que comparte la convicción de que el desarrollo de la ciencia y la tecnología debe ponerse al servicio de la persona humana y del bien común.

• Para ello, el documento primero distingue entre el concepto de inteligencia de la IA y el de la inteligencia humana.
• Luego explora la comprensión de la inteligencia humana sobre la base de los fundamentos filosóficos y teológicos de la tradición cristiana.
• Por último, presenta orientaciones éticas para asegurar que el desarrollo y el uso de la IA protejan la dignidad humana y promuevan el desarrollo integral de las personas y de la sociedad.

II. ¿Qué es la inteligencia artificial?

• En la IA, el concepto de "inteligencia" ha evolucionado con el tiempo, reflejando diversas perspectivas académicas.
• Aunque los orígenes de la IA se remontan a varios siglos atrás, un punto de inflexión importante fue el taller de verano celebrado en Dartmouth College en 1956 por el científico de la computación estadounidense John McCarthy.
• McCarthy definió la IA como "el problema de hacer que una máquina realice comportamientos que, si los realizara un ser humano, serían considerados inteligentes", y a partir de ese taller comenzó en serio la investigación para diseñar máquinas que imitaran el comportamiento intelectual humano.

• Desde entonces, la investigación en IA ha avanzado rápidamente, desarrollando sistemas complejos capaces de realizar tareas altamente sofisticadas.
• Los sistemas actuales de "IA estrecha (Narrow AI)" están diseñados para desempeñar funciones específicas, como la traducción de idiomas, la predicción de trayectorias de tormentas, la clasificación de imágenes, la respuesta a preguntas y la generación de contenido visual según las solicitudes del usuario.
• Aunque la definición de "inteligencia" varía en la investigación en IA, los sistemas actuales de IA, especialmente los basados en aprendizaje automático, dependen más del razonamiento estadístico que del razonamiento lógico.
• La IA analiza grandes volúmenes de datos para identificar patrones y "predecir" resultados, lo que presenta cierta similitud con algunos procesos humanos de resolución de problemas.
• Estos logros han sido posibles gracias a innovaciones en tecnología de cómputo (redes neuronales, aprendizaje no supervisado, algoritmos evolutivos) y en hardware (procesadores especializados).
• Gracias al desarrollo de estas tecnologías, los sistemas de IA pueden responder a la entrada humana, adaptarse a nuevas situaciones e incluso presentar soluciones que los desarrolladores no habían previsto.

• Debido al rápido avance de la IA, muchas tareas que en el pasado solo podían realizar los seres humanos ahora están siendo procesadas por la IA.
• En campos especializados como el análisis de datos, el reconocimiento de imágenes y el diagnóstico médico, en algunos casos la IA complementa o incluso supera las capacidades humanas.
• Aunque la actual "IA estrecha" está diseñada para realizar tareas específicas, algunos investigadores buscan desarrollar una "inteligencia artificial general (AGI)" capaz de operar en todos los ámbitos cognitivos.
• Algunos sostienen que la AGI podría eventualmente alcanzar una "superinteligencia (superintelligence)" que supere la inteligencia humana, y también se discute la posibilidad de que, combinada con avances en biotecnología, haga realidad una "superlongevidad (super-longevity)".
• En cambio, algunos temen que esas posibilidades conlleven el riesgo de sustituir al ser humano, mientras que otros reciben estos cambios de manera positiva.

• En la base de las diversas perspectivas sobre la IA y la inteligencia humana existe la presuposición implícita de que el término "inteligencia" puede aplicarse del mismo modo tanto a los seres humanos como a la IA.
• Sin embargo, eso no refleja el significado completo del concepto.
• En el caso humano, la inteligencia es una capacidad relacionada con la existencia integral de la persona, mientras que en el caso de la IA, la "inteligencia" se entiende en un sentido funcional y a menudo se basa en la presuposición de que las actividades mentales humanas pueden descomponerse en procedimientos digitalizados.

• Esta perspectiva funcional está representada por la "prueba de Turing".
• Alan Turing consideró que, si un ser humano no puede distinguir el comportamiento de una máquina del de otro ser humano, entonces esa máquina puede juzgarse "inteligente".
• Sin embargo, aquí "comportamiento" se refiere solo a la ejecución de determinadas tareas intelectuales y no incluye elementos generales de la experiencia humana —pensamiento abstracto, emociones, creatividad, sensibilidad estética, moral y religiosa—.
• Además, no refleja plenamente las características del espíritu humano, y la "inteligencia" de los sistemas de IA se evalúa simplemente según si pueden generar resultados similares a la inteligencia humana, sin considerar cómo se generan esos resultados.

• Las capacidades avanzadas de la IA le permiten realizar tareas complejas, pero no le otorgan una "capacidad de pensar".
• Esta es una diferencia importante, y la manera en que se define la "inteligencia" influye de forma decisiva en cómo se entiende la relación entre el pensamiento humano y la IA.
• Para comprender correctamente esta diferencia, es necesario considerar un concepto de inteligencia más profundo y abarcador, como el que ofrecen la tradición filosófica y la teología cristiana.
• Este es también un elemento central en la enseñanza de la Iglesia sobre la naturaleza humana, la dignidad y la vocación.

III. La inteligencia en la tradición filosófica y teológica

La racionalidad

• Desde que la humanidad comenzó a reflexionar sobre sí misma, la mente (mind) ha sido considerada un elemento central de lo humano.
• Aristóteles dijo que "todos los seres humanos desean por naturaleza conocer", y explicó que los seres humanos se distinguen del mundo animal por su capacidad de comprender de manera abstracta la esencia y el significado de las cosas.
• Filósofos, teólogos y psicólogos han estudiado la naturaleza de las capacidades intelectuales humanas, explorando la manera en que los seres humanos entienden el mundo y reconocen su lugar único en él.
• A través de esta exploración, la tradición cristiana ha entendido al ser humano como un ser compuesto de cuerpo y alma, profundamente inserto en el mundo y, al mismo tiempo, capaz de trascenderlo.

• En la tradición clásica, la inteligencia se explica mediante los conceptos complementarios de "razón (ratio)" e "intelecto (intellectus)".
• No se trata de funciones separadas, sino, como explicó santo Tomás de Aquino, de dos modos en que opera una misma inteligencia.
• "El intelecto (intellectus) es la capacidad de captar intuitivamente la verdad, mientras que la razón (ratio) es el proceso de llegar a conclusiones mediante la investigación y el razonamiento lógico".
• Es decir, el intelecto es la capacidad de comprender intuitivamente la verdad, y la razón es la capacidad de emitir juicios mediante un proceso de pensamiento analítico y argumentativo.
• Estos dos elementos se combinan para constituir la acción esencialmente humana de "entender (intelligere)".

• Describir al ser humano como un "ser racional" no significa limitarlo a una sola forma de pensar, sino que implica que todas sus actividades están configuradas e influenciadas por su capacidad de comprensión intelectual.
• Esta capacidad, se use bien o no, es un elemento esencial de la naturaleza humana.
• El concepto de "racional" va más allá de la simple capacidad de pensar, e incluye "no solo el conocimiento y la comprensión, sino también todas las facultades como la voluntad, el amor, la elección y el deseo", así como las funciones corporales estrechamente vinculadas con ellas.
• Desde esta perspectiva integral, el ser humano, creado a imagen de Dios, eleva, forma y transforma su voluntad y sus acciones a través de la razón.

Corporalidad (Embodiment)

• El pensamiento cristiano entiende las capacidades intelectuales humanas dentro de una visión integral del ser humano como un ser esencialmente corpóreo.
• En el ser humano, espíritu y materia "no son dos naturalezas separadas, sino que forman una sola naturaleza".
• Es decir, el alma no es simplemente una "parte" inmaterial contenida dentro del cuerpo, y el cuerpo tampoco es una mera envoltura; más bien, el ser humano en su totalidad es a la vez material y espiritual.
• Esta comprensión refleja la enseñanza bíblica y subraya que el ser humano vive en relación con Dios y con los demás.
• El significado profundo de esta condición se vuelve aún más claro a través del misterio de la Encarnación, por el cual Dios mismo asumió un cuerpo humano y "lo elevó a una dignidad sublime".

• El ser humano está profundamente arraigado en su existencia corporal, pero trasciende el mundo material a través del alma.
• El alma "se encuentra en el umbral entre el tiempo y la eternidad".
• La capacidad trascendente del intelecto y la voluntad libre pertenecen al alma, y a través de ellas el ser humano "participa de la sabiduría de Dios".
• Sin embargo, la mente humana no adquiere conocimiento en un estado separado del cuerpo, sino que normalmente opera a través de él.
• Por lo tanto, las capacidades intelectuales humanas deben entenderse dentro de una perspectiva antropológica del ser humano como una "unidad de cuerpo y alma".

Relacionalidad (Relationality)

• El ser humano es por naturaleza un "ser orientado a la comunión interpersonal", y posee la capacidad de conocer a los demás, compartir amor y entablar relaciones.
• Por ello, la inteligencia humana no es una facultad aislada, sino que se realiza en las relaciones y se expresa de manera más plena en el diálogo, la cooperación y la solidaridad.
• Aprendemos con los demás y aprendemos a través de los demás.

• La inclinación relacional del ser humano tiene su origen en el amor sacrificial que el Dios trino ha revelado en la historia de la creación y la salvación.
• El ser humano es un ser "llamado a participar en la vida de Dios mediante el conocimiento y el amor".

• La vocación a la comunión con Dios está inevitablemente unida al llamado a la comunión con los demás.
• Amar a Dios no puede separarse de amar al prójimo (cf. 1 Juan 4:20; Mateo 22:37-39).
• Los cristianos que han recibido la gracia de participar en la vida de Dios también deben imitar el amor de Cristo (cf. 2 Corintios 9:8-11; Efesios 5:1-2) y poner en práctica el mandamiento: "ámanse unos a otros como yo los he amado" (Juan 13:34).
• El amor y el servicio permiten trascender el propio interés y responder con mayor fidelidad a la vocación humana (cf. 1 Juan 2:9).
• Más grande que saber muchas cosas es cuidarnos unos a otros, y "aunque conozca todos los misterios y toda la ciencia, si no tengo amor, no soy nada" (1 Corintios 13:2).

Relación con la verdad (Relationship with the Truth)

• La inteligencia humana es, en última instancia, un "don de Dios formado para acoger la verdad".
• El ser humano puede explorar una realidad que va más allá de la simple experiencia sensorial o de la utilidad, porque "el deseo de la verdad forma parte de la naturaleza humana".
• Más allá de los límites de los datos empíricos, la inteligencia humana puede "conocer la realidad con verdadera certeza".
• Aunque la realidad solo se conozca de manera parcial, el deseo de la verdad "estimula siempre a la razón a ir más allá", y la razón "se maravilla de poder avanzar más allá de lo ya alcanzado".
• La verdad trasciende los límites de la inteligencia humana, pero guía constantemente al ser humano hacia ella y lo impulsa a "buscar verdades de orden superior".

• La búsqueda inherente de la verdad se manifiesta con claridad en la capacidad exclusivamente humana de comprender el significado y de crear.
• Esta búsqueda se desarrolla de una manera "acorde con la naturaleza social y la dignidad del ser humano".
• Además, una orientación firme hacia la verdad es un elemento indispensable para que el amor sea auténtico y universal.

• La búsqueda de la verdad se completa, en última instancia, mediante la apertura a una realidad que trasciende el mundo físico y creado.
• Toda verdad encuentra su significado último y su propósito original en Dios.
• Confiarse a Dios es una "decisión fundamental que involucra a toda la persona humana".
• A través de ello, el ser humano llega a ser aquello que originalmente está llamado a ser, y "el intelecto y la voluntad revelan su naturaleza espiritual y permiten que la persona realice su plena libertad".

Mayordomía del mundo (Stewardship of the World)

• La fe cristiana entiende la creación como un acto libre del Dios trino, y san Buenaventura explicó que Dios "creó no para aumentar su propia gloria, sino para manifestarla y comunicarla".
• Dios creó con sabiduría, y por eso el mundo creado posee una armonía intrínseca que refleja el orden de Dios.
• Dios llamó al ser humano a una función especial y le dio el mandato de "cultivar y cuidar el mundo".

• El ser humano, creado por Dios a su imagen, tiene la misión de "guardar y cultivar" la creación.
• La inteligencia humana refleja la inteligencia de Dios, quien crea y sostiene todas las cosas y las guía hacia su fin último.
• El ser humano puede alabar a Dios desarrollando la ciencia y la tecnología, y debe cumplir su papel de gobernar la creación.
• Pero, al mismo tiempo, la creación misma ayuda al ser humano a "avanzar gradualmente hacia Dios, que es el principio último".

Una comprensión integral de la inteligencia humana (An Integral Understanding of Human Intelligence)

• La inteligencia humana debe entenderse como un elemento central de la manera en que la persona humana en su totalidad se relaciona con la realidad.
• Una relación auténtica debe abarcar todas las dimensiones del ser humano: la espiritual, la cognitiva, la corporal y la relacional.

• La relación con la realidad se establece de diversas maneras dentro de la individualidad única de cada persona.
• El ser humano busca una vida plena comprendiendo el mundo, relacionándose con los demás, resolviendo problemas, expresando la creatividad y utilizando de manera armoniosa diversos elementos de la inteligencia.
• Puede interactuar con la realidad no solo mediante capacidades lógicas y lingüísticas, sino también de formas intuitivas o basadas en la experiencia.
• Por ejemplo, un artesano “debe saber discernir en la materia inerte formas que otros no perciben”, y las hace realidad mediante la intuición y la destreza práctica.
• Los pueblos indígenas que viven en estrecha relación con la naturaleza poseen una comprensión profunda de la naturaleza y de sus ciclos.
• Asimismo, una persona que sabe decir las palabras adecuadas o formar relaciones humanas armoniosas también muestra una inteligencia como “fruto de la autorreflexión, el diálogo y las relaciones humanas generosas”.
• El papa Francisco subraya que “también en la era de la inteligencia artificial, la poesía y el amor son esenciales para salvar nuestra humanidad”.

• El núcleo de la comprensión cristiana de la inteligencia es la integración de la verdad con una vida moral y espiritual que guía al ser humano a actuar según la bondad y la verdad de Dios.
• En el plan de Dios, la inteligencia va más allá de una mera función analítica e incluye también la capacidad de disfrutar la verdad, el bien y la belleza.
• El poeta francés del siglo XX Paul Claudel expresó que “la inteligencia no es nada sin gozo”, y Dante describió que, en el cielo supremo, experimentó una “luz intelectual llena de amor, alegría por la verdad, el bien y la belleza”.

• Por lo tanto, la inteligencia humana no puede reducirse a la simple adquisición de información o a la capacidad de realizar determinadas tareas.
• La inteligencia humana explora las preguntas últimas y refleja una orientación hacia la verdad y el bien.
• Como el ser humano fue creado a imagen de Dios, puede pensar la totalidad del ser y captar el significado de lo comprendido más allá de lo que puede medirse.
• Para quienes tienen fe, la inteligencia humana incluye la capacidad de comprender cada vez más profundamente la verdad revelada (intellectus fidei).
• La verdadera inteligencia está formada por “el amor de Dios derramado en nuestros corazones” (Romanos 5:5), lo que significa que la inteligencia humana posee una dimensión contemplativa esencial, abierta a la verdad, el bien y la belleza más allá de los fines prácticos.

Los límites de la IA (The Limits of AI)

• A partir de lo discutido hasta ahora, queda clara la diferencia entre la inteligencia humana y los sistemas actuales de IA.
• La IA es un logro técnico extraordinario capaz de imitar ciertos resultados relacionados con la inteligencia humana, pero en esencia es un sistema que realiza tareas, alcanza objetivos y toma decisiones con base en datos cuantitativos y lógica computacional.
• Por ejemplo, la IA puede mostrar una capacidad analítica sobresaliente para integrar datos de distintos campos, modelar sistemas complejos y promover la colaboración interdisciplinaria.
• Gracias a ello, la IA puede ayudar a abordar problemas complejos que no pueden resolverse desde una sola perspectiva o con intereses particulares.

• Sin embargo, aunque la IA pueda procesar y simular ciertas expresiones de la inteligencia, tiene el límite esencial de estar restringida a un marco lógico-matemático.
• En cambio, la inteligencia humana se desarrolla de manera orgánica en el proceso de crecimiento físico y psicológico, y se forma a través de diversas experiencias reales.
• Aunque los sistemas avanzados de IA puedan “aprender” mediante procesos como el machine learning, esto es fundamentalmente distinto del proceso de desarrollo de la inteligencia humana.
• La inteligencia humana se forma a través de experiencias concretas que incluyen entradas sensoriales, respuestas emocionales, interacciones sociales y contextos únicos de cada momento.
• En cambio, la IA no tiene cuerpo y realiza razonamiento computacional y aprendizaje con base en datos y conocimientos registrados por los seres humanos.

• Por lo tanto, aunque la IA pueda imitar la manera de pensar humana y realizar ciertas tareas con una velocidad y eficiencia sorprendentes, su capacidad computacional no es más que una parte de las amplias facultades del espíritu humano.
• Por ejemplo, la IA no puede reproducir el discernimiento moral ni la capacidad de establecer relaciones auténticas.
• La inteligencia humana está situada en la historia de la formación intelectual y moral de cada persona, y esto configura una perspectiva individual que incluye dimensiones físicas, emocionales, sociales, morales y espirituales.
• Dado que la IA no puede ofrecer esta comprensión integral, un enfoque que dependa solo de la IA para interpretar el mundo o la considere una herramienta principal de interpretación puede provocar “la pérdida de la visión de conjunto, de las relaciones entre las cosas y de una perspectiva más amplia”.

• La inteligencia humana no consiste simplemente en realizar tareas funcionales, sino en comprender plenamente la realidad y relacionarse activamente con ella.
• Además, el ser humano posee la capacidad de tener intuiciones inesperadas (insight).
• Como la IA carece de corporalidad, relacionalidad y de la apertura del corazón humano a la verdad y al bien, por muy poderosa que parezca, no puede compararse con la capacidad humana de percibir la realidad.
• Innumerables experiencias humanas —como la comprensión adquirida en la enfermedad, el abrazo de la reconciliación o la contemplación de un simple atardecer— abren nuevos horizontes y conducen a la sabiduría.
• Un dispositivo que simplemente procesa datos no puede compararse con tales experiencias.

• Si se equipara en exceso la inteligencia humana con la IA, se corre el riesgo de caer en una visión funcionalista que evalúa al ser humano solo por su capacidad de desempeño funcional.
• Sin embargo, el valor del ser humano no está determinado por habilidades específicas, logros cognitivos o técnicos, ni por el éxito personal.
• El valor del ser humano se basa en la dignidad intrínseca que proviene del hecho de haber sido creado por Dios a su imagen.
• Esa dignidad permanece inalterable en cualquier circunstancia, ya se trate de un feto, una persona inconsciente o un anciano que sufre.
• Esto sustenta la tradición de los derechos humanos, en particular los “neuroderechos (neuro-rights)”, y puede servir como un criterio ético importante en los debates sobre el desarrollo y uso responsable de la IA.

• Teniendo en cuenta todo lo anterior, el papa Francisco señala que “el uso mismo del término ‘inteligencia’ en relación con la IA puede resultar engañoso”.
• Por lo tanto, la IA no debe considerarse una forma artificial de inteligencia humana, sino más bien un producto de la inteligencia humana.

IV. El papel de la ética para guiar el desarrollo y el uso de la IA

• Con base en esta discusión, podemos preguntarnos cómo puede entenderse la IA dentro del plan de Dios.
• Para comprenderlo, hay que recordar que la actividad técnico-científica no es simplemente neutral, sino que incluye una dimensión humana y cultural que refleja la creatividad humana.

• La investigación científica y el desarrollo tecnológico son fruto del potencial inherente a la inteligencia humana, y pueden entenderse como parte de “la colaboración del hombre y la mujer en perfeccionar la creación visible”.
• Al mismo tiempo, todos los logros científicos y tecnológicos son, en última instancia, dones de Dios, y por ello el ser humano debe usar esta capacidad para los fines más altos que Dios le ha confiado.

• Puede reconocerse con alegría que la tecnología ha contribuido a aliviar innumerables sufrimientos humanos y a superar limitaciones.
• Sin embargo, no todo avance tecnológico significa de inmediato un verdadero progreso humano.
• La Iglesia se opone en particular a las aplicaciones tecnológicas que amenazan la dignidad de la vida o menoscaban la dignidad humana.
• Todo desarrollo tecnológico debe servir al ser humano y promover “una mayor justicia, una fraternidad más amplia y un orden social más humano”, lo cual es “más valioso que el progreso técnico”.
• Estas preocupaciones éticas no son exclusivas de la Iglesia; también las comparten muchos científicos, tecnólogos y grupos de expertos, que subrayan la necesidad de una reflexión ética para un desarrollo responsable.

• Para responder a estos desafíos, debe subrayarse la importancia de la responsabilidad moral basada en la dignidad y la vocación humanas.
• También en todas las cuestiones relacionadas con la IA, la dimensión ética debe considerarse prioritaria.
• Solo el ser humano es sujeto de responsabilidad moral, capaz de decidir libremente y de asumir las consecuencias.
• Solo el ser humano, y no la máquina, se relaciona con la verdad y el bien, y es llamado a “hacer el bien y evitar el mal” según la conciencia moral.
• Además, solo el ser humano puede reflexionar sobre sí mismo, escuchar la voz de la conciencia y, mediante un discernimiento prudente, buscar el mayor bien posible.
• Todos estos elementos pertenecen al papel esencial de la inteligencia humana.

• Como todo producto de la creatividad humana, la IA puede usarse de manera positiva o negativa.
• Cuando se utiliza de una manera que respeta la dignidad humana y promueve el bienestar de las personas y las comunidades, la IA puede contribuir positivamente a la vocación humana.
• Pero, así como la libertad humana hace posibles las malas decisiones, la evaluación moral de la tecnología de IA dependerá de cómo se use.

• Lo éticamente importante no es solo el objetivo, sino también los medios utilizados para alcanzarlo
• Además, también deben considerarse la comprensión del ser humano y la visión del mundo inherentes a estos sistemas tecnológicos
• Los productos tecnológicos reflejan la visión del mundo de desarrolladores, propietarios, usuarios y reguladores, y tienen el "poder de dar forma al mundo y de mover las conciencias en el plano de los valores"
• En la dimensión social, también existe la posibilidad de que cierto desarrollo tecnológico refuerce relaciones de poder que no coinciden con una manera correcta de entender al ser humano y a la sociedad

• Por lo tanto, deben evaluarse tanto el propósito específico de un uso de la IA como los medios para alcanzarlo, así como la visión integral que implica, para verificar que respeten la dignidad humana y promuevan el bien común
• El papa Francisco subraya que "la dignidad intrínseca de todo hombre y toda mujer" debe ser "el criterio clave para evaluar las nuevas tecnologías, y solo se reconocerán como éticamente válidas aquellas tecnologías que respeten la dignidad humana y la expresen en todos los ámbitos de la vida"
• La inteligencia humana cumple un papel importante no solo en diseñar y producir tecnología, sino también en usarla en la dirección correcta
• La responsabilidad de gestionarla sabiamente se extiende a todos los niveles de la sociedad y debe guiarse por el principio de subsidiariedad y otros principios de la doctrina social católica

Libertad humana y apoyo a la toma de decisiones

• Garantizar que la IA siempre apoye y promueva la dignidad humana y la plenitud de la vocación humana es un criterio importante de discernimiento no solo para desarrolladores, propietarios, operadores y reguladores de IA, sino también para los usuarios
• Este es un principio válido cada vez que se aplica la tecnología de IA en cualquier nivel

• El primer paso para evaluar este principio es considerar la importancia de la responsabilidad moral
• Dado que la responsabilidad moral corresponde por completo solo a los seres humanos, y no a la inteligencia artificial, es importante dejar en claro quién responde en los procesos en los que la IA puede aprender, modificarse y reprogramarse
• Enfoques como las redes neuronales profundas contribuyen a que la IA resuelva problemas complejos, pero dificultan comprender cómo llegó a una solución específica
• Esto complica la rendición de cuentas y hace difícil determinar quién es responsable cuando la IA produce resultados no deseados
• Por ello, en entornos complejos y altamente automatizados, debe considerarse cuidadosamente la naturaleza de la responsabilidad, y debe quedar claro que la responsabilidad última en todas las etapas de decisión donde se use IA recae en los seres humanos

• No solo debe quedar claro quién es responsable, sino también cuáles son los objetivos asignados a los sistemas de IA
• Aunque la IA use mecanismos de aprendizaje autónomo y a veces opere de formas que los humanos no pueden reconstruir, en última instancia sigue objetivos establecidos por personas y funciona mediante procesos definidos por diseñadores y programadores
• Sin embargo, a medida que aumenta la capacidad de la IA para aprender de manera independiente, puede debilitarse la capacidad de controlarla para que se ajuste a los fines humanos
• Esto plantea una cuestión importante: cada vez será más difícil garantizar que los sistemas de IA funcionen para el bien humano

• La responsabilidad por el uso ético de la IA comienza con quienes la desarrollan, producen, gestionan y supervisan, pero también la comparten quienes la usan
• El papa Francisco señaló que "las máquinas pueden hacer elecciones técnicas basadas en criterios bien definidos o en inferencias estadísticas, pero el ser humano no solo elige, sino que también puede tomar decisiones en su corazón"
• Quienes siguen y aprovechan los resultados de la IA terminan siendo responsables de la autoridad que le delegaron
• Por lo tanto, cuando la IA está diseñada para ayudar en la toma de decisiones humanas, los algoritmos que la operan deben ser confiables, contar con una estructura segura y sólida, y ser transparentes para minimizar sesgos y efectos secundarios no deseados
• Los marcos regulatorios legales deben asegurar que toda responsabilidad jurídica por el uso de la IA quede claramente establecida, y deben disponer salvaguardas adecuadas en materia de transparencia, privacidad y rendición de cuentas
• Además, debe evitarse que quienes usan IA dependan excesivamente de ella, y hay que cuidar que no se profundice aún más la tendencia de la sociedad moderna a depender en exceso de la tecnología

• La enseñanza moral y social de la Iglesia ofrece perspectivas necesarias para garantizar que la IA preserve la autonomía humana
• Por ejemplo, el debate sobre la justicia debe incluir cuestiones como la formación de estructuras sociales justas, el mantenimiento de la seguridad internacional y la promoción de la paz
• Las personas y las comunidades deben ejercer prudencia para discernir cómo usar la IA en beneficio de la humanidad, evitando usos que puedan dañar la dignidad humana o perjudicar el medio ambiente
• En este contexto, el concepto de responsabilidad debe ampliarse más allá de la mera responsabilidad por los resultados, hacia una "responsabilidad de cuidar a los demás"

• La IA, como cualquier otra tecnología, puede formar parte de una respuesta consciente y responsable al llamado al bien humano
• Sin embargo, para que la IA se use de una manera acorde con ese llamado, necesariamente debe estar correctamente orientada por la inteligencia humana y respetar la dignidad humana
• El Concilio Vaticano II declaró que "el orden social y su desarrollo deben estar siempre al servicio de la persona"
• El papa Francisco subrayó que el uso de la IA debe ir "acompañado de una ética inspirada en una visión del bien común, es decir, una ética de la libertad, la responsabilidad y la fraternidad, que ayude al ser humano a desarrollarse plenamente en una relación correcta con los demás y con toda la creación"

V. Preguntas específicas

• Para explicar cómo los principios discutidos anteriormente ofrecen orientación ética en situaciones reales, se presentan algunas observaciones concretas
• El propósito es contribuir a la reflexión sobre cómo la IA puede utilizarse, de un modo coherente con la "sabiduría del corazón" propuesta por el papa Francisco, para proteger la dignidad humana y promover el bien común
• Esta discusión no ofrece respuestas exhaustivas, pero busca ayudar a profundizar el diálogo sobre el uso ético de la IA

IA y sociedad (AI and Society)

• El papa Francisco enfatiza que "la dignidad intrínseca de cada ser humano y la fraternidad que nos une como una sola familia humana deben sostener el desarrollo de las nuevas tecnologías y constituir criterios claros para evaluarlas antes de su uso"

• Desde esta perspectiva, la IA puede "aportar innovaciones importantes en la agricultura, la educación y la cultura, mejorar el nivel de vida de naciones y pueblos enteros, promover la fraternidad humana y la amistad social, y usarse como herramienta para el desarrollo humano integral"
• Además, la IA puede contribuir a identificar a las personas que necesitan ayuda y a prevenir la discriminación y la exclusión
• Estas aplicaciones tecnológicas tienen el potencial de contribuir positivamente al desarrollo humano y al bien común

• Sin embargo, aunque la IA tiene el potencial de promover el desarrollo humano y el bien común, a veces también puede obstaculizarlos o incluso actuar en sentido contrario
• El papa Francisco señala que "la evidencia disponible hasta ahora muestra que las tecnologías digitales están profundizando las desigualdades en el mundo"
• Estas desigualdades no aparecen solo en las brechas económicas, sino también en las diferencias de acceso a la influencia política y social
• Existe la posibilidad de que la IA perpetúe la exclusión y la discriminación, genere nuevas formas de pobreza, amplíe la brecha digital y agrave aún más las desigualdades sociales existentes

• Además, que las principales tecnologías de aplicación de la IA queden monopolizadas por unas pocas empresas poderosas plantea un serio problema ético
• La naturaleza misma de los sistemas de IA agrava este problema, ya que en el uso de enormes conjuntos de datos resulta difícil que una sola persona supervise por completo todo el proceso
• Como consecuencia, existe el riesgo de que la IA sea manipulada en beneficio de determinadas empresas o individuos, o se use indebidamente para moldear la opinión pública en favor de ciertas industrias o grupos de interés
• En la búsqueda de sus propios intereses, estas empresas pueden "crear mecanismos capaces de manipular las conciencias y los procesos democráticos mediante formas de control muy sutiles pero invasivas"

• Además, existe el riesgo de que la IA se use para reforzar el "paradigma tecnocrático" mencionado por el papa Francisco
• Este paradigma se refiere a una forma de pensar que considera que todos los problemas del mundo pueden resolverse únicamente con soluciones técnicas
• Desde esta perspectiva, la dignidad humana y la fraternidad a menudo se pasan por alto en nombre de la eficiencia, y "como si la realidad, el bien y la verdad fluyeran automáticamente del propio poder tecnológico y económico"
• Sin embargo, la dignidad humana y el bien común nunca pueden sacrificarse en nombre de la eficiencia
• "Si el avance tecnológico no mejora la calidad de vida de toda la humanidad y, por el contrario, profundiza las desigualdades y los conflictos, no puede considerarse un verdadero progreso"
• La IA debe "utilizarse para formas de desarrollo más saludables, humanas, sociales e integrales"

• Para alcanzar estos objetivos, se necesita una reflexión profunda sobre la relación entre autonomía y responsabilidad
• A medida que se amplía la autonomía, cada persona asume una responsabilidad mayor en diversos aspectos de la vida comunitaria
• Desde la perspectiva cristiana, la base de esta responsabilidad está en el reconocimiento de que todas las capacidades humanas, incluida la autonomía, han sido dadas por Dios y deben usarse para servir a los demás
• Por lo tanto, la IA no debe perseguir simplemente objetivos económicos y tecnológicos, sino que "debe servir al bien común de toda la familia humana, entendido como el conjunto de condiciones sociales que permiten a las personas y a las comunidades realizarse de manera más plena"

IA y relaciones humanas (AI and Human Relationships)

• El Concilio Vaticano II afirmó que "el ser humano es, por naturaleza, un ser social y, sin relacionarse con los demás, no puede vivir ni desarrollar sus talentos"
• Esto subraya que vivir en sociedad es algo natural para el ser humano y un elemento inherente a la existencia y vocación humanas
• Los seres humanos forman relaciones mediante el intercambio mutuo y la búsqueda de la verdad, y continúan juntos el camino hacia ella compartiendo las verdades que cada uno descubre

• Este proceso de búsqueda y otras formas de comunicación humana presuponen encuentros e intercambios basados en la historia, el pensamiento, las convicciones y las relaciones únicas de cada persona
• La inteligencia humana es una realidad compleja y multinivel que incluye diversos elementos: es individual y social, racional y afectiva, conceptual y simbólica
• El papa Francisco enfatiza que "podemos buscar juntos la verdad en el diálogo, e incluso en discusiones apasionadas. Para ello se necesita paciencia, y puede haber momentos de silencio y de sufrimiento. Pero ese camino debe acoger la experiencia más amplia de las personas y de los pueblos"
• "El proceso de construir fraternidad, ya sea local o universal, requiere espíritus abiertos a encuentros libres y auténticos"

• En este contexto, puede considerarse el desafío que plantea la IA para las relaciones humanas
• Al igual que otras herramientas tecnológicas, la IA tiene el potencial de facilitar la conexión dentro de la familia humana
• Sin embargo, la IA también puede obstaculizar el encuentro genuino con la realidad y, en última instancia, corre el riesgo de sumir a las personas en una "profunda insatisfacción en las relaciones humanas y en el aislamiento"
• Las relaciones humanas auténticas surgen de acompañar a los demás en su dolor, sus pedidos y sus alegrías
• Dado que la inteligencia humana se expresa y se enriquece a través de las relaciones y de la experiencia corporal, los encuentros espontáneos y auténticos son esenciales para experimentar plenamente la realidad

• Como "la verdadera sabiduría exige un encuentro con la realidad", el surgimiento de la IA plantea otro desafío
• La IA puede imitar eficazmente los productos de la inteligencia humana, por lo que cada vez es más difícil distinguir si quien está del otro lado es una persona o una máquina
• La IA generativa puede producir textos, voces e imágenes, entre otras salidas, elementos que normalmente se asocian con el trabajo humano
• Sin embargo, debe entenderse claramente que la IA no es humana, sino simplemente una herramienta
• También surge el problema de que los investigadores de IA usan un lenguaje antropomórfico que difumina los límites entre humanos y máquinas

• Antropomorfizar la IA puede causar problemas específicos, especialmente en el desarrollo de niños y niñas
• Existe el riesgo de que la interacción con la IA lleve a tratar las relaciones humanas de una manera meramente transaccional
• Por ejemplo, puede hacer que los estudiantes vean a los docentes solo como proveedores de información, pasando por alto que su función es guiar y cuidar el crecimiento intelectual y moral del alumnado
• Las relaciones humanas auténticas no consisten en una simple interacción, sino que se basan en la empatía y en el compromiso con el bien del otro

• Por lo tanto, es necesario dejar claro que, por más expresiones antropomorfizadas que use la IA, no puede experimentar una empatía genuina
• Las emociones no pueden reducirse simplemente a expresiones faciales o frases, sino que reflejan la relación que el ser humano establece con su propia vida y con el mundo
• La empatía incluye la capacidad de reconocer la individualidad única del otro y de comprender incluso el significado contenido en el silencio
• La IA sobresale al emitir juicios analíticos, pero la empatía pertenece esencialmente al ámbito relacional y es un proceso de comprensión y acogida intuitiva de la experiencia ajena
• La IA puede parecer empática, pero no empatiza de una manera humana

• Teniendo esto en cuenta, debe evitarse por completo inducir a error haciendo que la IA parezca una persona, y usarla con fines engañosos constituye una grave falta ética
• Esto puede socavar la confianza social
• Del mismo modo, usar la IA para engañar en la educación o en las relaciones humanas (por ejemplo, las relaciones sexuales) también es moralmente antiético, y se requiere una supervisión estricta para prevenirlo
• Debe mantenerse la transparencia en el uso de la IA y garantizarse la dignidad de todas las personas

• A medida que aumenta el aislamiento en la sociedad contemporánea, algunas personas muestran una tendencia a intentar sustituir las relaciones humanas profundas por medio de la IA
• Están surgiendo intentos de relacionarse con la IA para una simple compañía o para crear un vínculo emocional
• Sin embargo, el ser humano ha sido creado por naturaleza para experimentar relaciones auténticas, y la IA solo puede simularlas
• Las relaciones humanas son un elemento esencial en el proceso por el cual la persona llega a ser quien es
• Si la IA puede ayudar a promover relaciones auténticas entre las personas, eso puede ser una contribución positiva
• En cambio, si la interacción con la IA llega a sustituir la relación del ser humano con Dios, así como las relaciones entre las personas, ello conduce a la pérdida de la esencia de las relaciones humanas (cf. Salmo 106:20; Romanos 1:22-23)
• En lugar de quedar atrapados en el mundo artificial que ofrece la IA, debemos formar relaciones de solidaridad en la realidad, empatizando con el dolor y la tristeza de los demás

IA, economía y trabajo (AI, the Economy, and Labor)

• La IA se está integrando cada vez más en los sistemas económicos y financieros en conexión con diversos campos académicos
• Actualmente se realizan grandes inversiones en IA no solo en la industria tecnológica, sino también en energía, finanzas, medios, marketing, logística, innovación tecnológica, cumplimiento normativo y gestión de riesgos, entre otros sectores
• Sin embargo, estas aplicaciones de la IA ofrecen enormes oportunidades, al tiempo que también pueden generar graves riesgos
• En particular, si la tecnología de IA se concentra en unas pocas grandes corporaciones, existe el riesgo de que el valor que genera no beneficie a las empresas que la utilizan, sino que quede monopolizado exclusivamente por esas grandes compañías

• Debe examinarse cuidadosamente el impacto más amplio de la IA en las esferas económica y financiera
• En particular, la interacción entre la economía digital y la economía real está surgiendo como una cuestión importante
• Es deseable la coexistencia de diversas instituciones económicas y financieras, ya que esto puede ayudar a sostener la economía real y fomentar el desarrollo y la estabilidad económicos
• Sin embargo, como la economía digital no está sujeta a restricciones espaciales, resulta difícil preservar la diversidad que se forma dentro de la historia de las comunidades locales y de sus valores y esperanzas compartidos
• Si la actividad económica y financiera se digitaliza en exceso, existe el riesgo de que esa diversidad se reduzca y desaparezcan soluciones económicas que podrían surgir del diálogo natural
• En última instancia, si la economía funciona únicamente en torno a sistemas y procedimientos digitales, es más probable que desaparezca el elemento humano y que la toma de decisiones económicas se vuelva más mecánica

• Otro ámbito en el que la IA ya está teniendo un gran impacto es el mercado laboral
• La IA está provocando cambios fundamentales en múltiples profesiones, y sus efectos se manifiestan de distintas maneras
• Por un lado, la IA tiene aspectos positivos: puede potenciar la especialización, aumentar la productividad, crear nuevos empleos y ayudar a los trabajadores a concentrarse en tareas más creativas

• Sin embargo, contrariamente a la expectativa de que la IA mejore la productividad al encargarse de tareas repetitivas, en la realidad con frecuencia ocurre que los trabajadores deben ajustarse a la velocidad y las exigencias de las máquinas
• Este enfoque tecnológico puede, paradójicamente, reducir la pericia de los trabajadores y hacer que realicen tareas estrictas y repetitivas bajo sistemas automatizados de vigilancia
• En lugar de otorgar a los trabajadores funciones creativas, la adopción de la IA puede disminuir su autonomía al aumentar la carga de tener que seguir el ritmo de la tecnología

• La IA ya está reemplazando algunos empleos, y se prevé que en el futuro aumente aún más su papel en la sustitución del trabajo humano
• Si la IA se utiliza no para complementar el trabajo humano sino para reemplazarlo, existe un "riesgo real de que genere enormes beneficios para unos pocos, mientras provoca pobreza económica para muchos"
• Además, a medida que la IA se vuelve cada vez más poderosa, también existe el riesgo de que el trabajo humano sea considerado económicamente menos valioso
• Esta es una consecuencia lógica del paradigma tecnocrático, y en una sociedad donde la eficiencia se coloca por encima de todo, se termina tratando incluso el valor humano como un costo
• Sin embargo, la vida humana tiene un valor intrínseco independientemente de la productividad económica
• El papa Francisco señala que "el modelo económico actual no avanza en una dirección que ayude a las personas lentas, débiles o menos talentosas a encontrar oportunidades en la vida"
• Por lo tanto, "debemos procurar que esta herramienta poderosa e indispensable que es la IA no refuerce ese paradigma, sino que actúe más bien como un escudo para impedir su expansión"

• "El orden de las cosas debe subordinarse al orden de las personas, y no al revés"
• El trabajo no debe ser simplemente un medio para generar ganancias, sino que debe convertirse en un "servicio a todo el ser humano" y "tener en cuenta no solo las necesidades materiales, sino también las exigencias de la vida intelectual, moral, espiritual y religiosa"
• La Iglesia entiende el trabajo como "no solo un medio de subsistencia, sino un elemento esencial de la vida social, y un medio para el crecimiento personal, la formación de relaciones sanas, la expresión de uno mismo y el intercambio de talentos"
• Asimismo, el trabajo cumple el papel de "hacerse responsable del desarrollo del mundo y, en última instancia, de la vida de la comunidad humana"

• El trabajo es "uno de los significados de la vida en esta tierra y un camino hacia el desarrollo humano y la realización personal"
• Por lo tanto, "el desarrollo tecnológico no debe orientarse a reemplazar cada vez más el trabajo humano, ya que eso tendría consecuencias perjudiciales para la humanidad"
• Más bien, la tecnología debe cumplir el papel de promover el trabajo humano
• La IA debe complementar el juicio humano, no sustituirlo
• Además, la IA no debe usarse de una manera que reduzca la creatividad y convierta a los trabajadores en simples "engranajes de la máquina"
• "Respetar la dignidad de los trabajadores, considerar la importancia del empleo, garantizar la estabilidad económica de las personas, las familias y la sociedad, y mantener salarios justos debe ser la máxima prioridad de la comunidad internacional"
• Cuanto más profundamente se integren tecnologías como la IA en el entorno laboral, más importantes serán estas consideraciones éticas

IA y salud (AI and Healthcare)

• Los profesionales de la salud, como participantes en la obra sanadora de Dios, están llamados a ser "guardianes y servidores de la vida humana"
• Por ello, el ámbito de la salud implica una "dimensión ética esencial e innegable", como también lo confirma el juramento hipocrático, que exige un respeto absoluto por la vida humana y su carácter sagrado
• Siguiendo el ejemplo del buen samaritano, los profesionales de la salud deben "rechazar una sociedad de exclusión y, en cambio, convertirse en prójimos de quienes necesitan ayuda, levantando y restaurando a los caídos"

• Desde esta perspectiva, la IA tiene un enorme potencial en el ámbito de la salud
• La IA puede ayudar en el diagnóstico, facilitar la relación entre pacientes y personal médico, proponer nuevos tratamientos y contribuir a ampliar servicios de salud de calidad para personas aisladas o marginadas
• De este modo, la IA puede convertirse en una herramienta que fortalezca aún más la "cercanía compasiva y llena de amor" que los profesionales de la salud deben mostrar a sus pacientes

• Sin embargo, si la IA se utiliza no para fortalecer la relación entre el personal médico y el paciente, sino para reemplazarla, pueden surgir problemas graves
• Si se hace que los pacientes interactúen con máquinas en lugar de con profesionales de la salud humanos, existe el riesgo de reducir una relación esencialmente humana a un sistema despersonalizado y centralizado
• En vez de fortalecer la solidaridad con los enfermos y quienes sufren, esto podría profundizar la soledad que suele acompañar a la enfermedad
• En particular, dado que en la cultura contemporánea existe una tendencia a que "el ser humano ya no sea considerado el valor supremo que debe ser respetado y protegido", este mal uso de la IA contradice los principios de dignidad humana y solidaridad

• Tomar decisiones sobre la salud y la vida del paciente es una responsabilidad central en el ámbito médico, y al cumplirla, los profesionales de la salud deben hacer elecciones prudentes y éticas con base en su experiencia e inteligencia
• En este proceso, deben respetarse necesariamente la dignidad inviolable del paciente y el principio de "consentimiento informado"
• Por lo tanto, las decisiones sobre el tratamiento del paciente y la responsabilidad correspondiente deben permanecer necesariamente en manos humanas, y no delegarse a la IA

• Además, usar únicamente factores económicos o de eficiencia como criterio para seleccionar a quién se brindará tratamiento es un ejemplo del "paradigma tecnocrático" y debe rechazarse sin excepción
• "Optimizar los recursos significa utilizarlos de manera ética y fraterna, no perjudicando a las personas más vulnerables"
• Además, las herramientas de IA en el ámbito de la salud "tienen una alta probabilidad de estar expuestas a riesgos de sesgo y discriminación, lo que puede producir un efecto dominó que, más allá de las injusticias en casos individuales, profundice las desigualdades sociales"

• A medida que la IA se integra en la atención médica, existe el riesgo de que se amplíen aún más las brechas existentes en el acceso a la salud
• Cuanto más se desarrolle la IA en una dirección que enfatice la medicina preventiva y los enfoques basados en el estilo de vida, más probable es que beneficie en mayor medida a los sectores ricos, que ya tienen un acceso más fácil a recursos médicos y a una nutrición de calidad
• Esto puede reforzar un modelo de "salud para los ricos", en el que quienes tienen recursos económicos pueden acceder fácilmente a medicina preventiva basada en IA e información de salud personalizada, mientras que quienes no los tienen podrían encontrar aún más difícil recibir incluso servicios médicos básicos
• Para evitar esta desigualdad, se necesitan políticas de salud justas para que la IA pueda utilizarse como una herramienta para el bien común sin profundizar las desigualdades sanitarias

IA y educación (AI and Education)

• La enseñanza del Concilio Vaticano II sigue siendo válida, y sostiene que "la verdadera educación busca formar a la persona en orden a su fin último y al bien de la sociedad a la que pertenece"
• La educación no debe ser un simple proceso de transmisión de información, sino que debe orientarse a "la formación integral del ser humano, incluidos los aspectos intelectuales, culturales y espirituales", así como a las relaciones en la vida comunitaria y en el entorno académico
• Este es un modo de educación acorde con la naturaleza y la dignidad humanas

• La educación no consiste simplemente en llenar la cabeza de conocimientos, sino que debe darse como parte del crecimiento integral
• "La educación no debe limitarse a crear cerebros con conocimientos automatizados, sino que debe ser un proceso que armonice el corazón (heart), la cabeza (head) y las manos (hands)"

• En el centro de esta formación humana se encuentra la relación indispensable entre docente y estudiante
• El docente va más allá de transmitir información: muestra cualidades humanas importantes e infunde la alegría del descubrimiento
• La presencia del docente motiva a los estudiantes y promueve la confianza y la comprensión mutua no solo por el conocimiento, sino también por el interés y el cuidado hacia cada estudiante
• Esta relación crea un ambiente que reconoce la dignidad y el potencial de cada estudiante, y despierta en él o ella el deseo de crecer verdaderamente
• La presencia real del docente configura una interacción humana que la IA no puede replicar y favorece el desarrollo integral del estudiante

• En este contexto, la IA ofrece al mismo tiempo oportunidades y desafíos
• Si se usa con prudencia, la IA puede funcionar como una herramienta que complementa la educación, mejorando la accesibilidad, ofreciendo apoyo personalizado y brindando retroalimentación inmediata
• En particular, puede mejorar la experiencia de aprendizaje en casos donde se necesita atención individual o cuando los recursos educativos son escasos

• Sin embargo, la esencia de la educación es “formar la razón para que funcione correctamente en toda cuestión, avance hacia la verdad y pueda captarla”
• Es decir, no se trata solo de adquirir información, sino de un desarrollo armonioso de la cabeza (razón), el corazón (emociones) y las manos (acción)
• En la era digital, más allá del simple uso de herramientas, hay que considerar que la tecnología “influye profundamente en nuestra manera de comunicarnos, de aprender, de obtener información y de relacionarnos con los demás”
• El uso excesivo de la IA puede debilitar la capacidad de pensamiento independiente de los estudiantes y provocar el efecto secundario de aumentar su dependencia de la tecnología
• Por lo tanto, la IA debe ayudar a la educación y no usarse de una manera que sustituya la capacidad de pensar y de aprender

• Algunos sistemas de IA están diseñados para ayudar a desarrollar el pensamiento crítico y la capacidad de resolver problemas, pero muchos sistemas de IA simplemente se limitan a dar respuestas correctas
• Cuando la IA genera respuestas en lugar de que los estudiantes lleguen a ellas por sí mismos, puede obstaculizar el aprendizaje
• Por eso, la educación debe ir más allá de recopilar información y generar respuestas rápidas, y convertirse en “aprender a usar la razón para resolver los problemas con prudencia y sabiduría”
• Para ello, “la educación sobre el uso de la IA debe centrarse ante todo en fomentar el pensamiento crítico”
• Los usuarios de todas las edades, especialmente los jóvenes, deben desarrollar la capacidad de discernir los datos recopilados en la web y el contenido generado por IA
• Las escuelas, universidades y asociaciones académicas tienen la responsabilidad de enseñar a estudiantes y profesionales los aspectos sociales y éticos de la IA

• San Juan Pablo II subrayó que “hoy, con el rápido desarrollo de la ciencia y la tecnología, el papel de las universidades católicas se ha vuelto aún más importante y urgente”
• Las universidades católicas deben desempeñar el papel de laboratorios de esperanza (laboratories of hope) en este punto de inflexión histórico
• Mediante la investigación interdisciplinaria, deben llevar a cabo estudios cuidadosos para que la tecnología de IA pueda utilizarse de manera éticamente válida y para extraer posibilidades positivas en diversos ámbitos de la ciencia y de la realidad
• Además, deben abrir nuevos horizontes en el diálogo entre la fe y la razón

• En la actualidad, los sistemas de IA pueden presentar el problema de ofrecer información sesgada o manipulada
• Esto conlleva el riesgo de que los estudiantes confíen en contenido inexacto
• Este problema no solo “corre el riesgo de legitimar las noticias falsas y reforzar la posición dominante de una cultura determinada, sino que también puede perjudicar el propio proceso educativo”
• Con el tiempo, puede volverse más clara la distinción entre las formas correctas e incorrectas de utilizar la IA
• Sin embargo, la IA siempre debe usarse de manera transparente y sus funciones y limitaciones deben comunicarse con claridad

IA, desinformación, deepfakes y abuso (AI, Misinformation, Deepfakes, and Abuse)

• La IA puede ser una herramienta que promueva la dignidad humana cuando se usa para ayudar a comprender conceptos complejos o para presentar materiales confiables en la búsqueda de la verdad

• Sin embargo, la IA también entraña el riesgo de generar contenido manipulado y desinformación, que puede parecerse mucho a los hechos y engañar fácilmente a las personas
• Esta desinformación también puede surgir de manera no intencional. Por ejemplo, el fenómeno de las “alucinaciones (hallucination)” en la IA se refiere a los casos en que la IA generativa inventa como si fueran reales cosas que en realidad no existen
• Dado que una función central de la IA es imitar contenido creado por seres humanos, es difícil bloquear por completo estos riesgos
• Pero las consecuencias de estos errores y falsedades pueden ser graves
• Por lo tanto, todos los que desarrollan y usan sistemas de IA deben hacer todo lo posible por garantizar la veracidad y exactitud de la información que la IA procesa y transmite al público

• El hecho de que la IA pueda generar desinformación ya es problemático, pero un problema todavía más grave es que la IA pueda ser mal utilizada deliberadamente como herramienta de manipulación y engaño
• Determinadas personas o grupos pueden usar la IA para crear contenido falso con el propósito de engañar o perjudicar a otros
• Un ejemplo representativo son las imágenes, videos y archivos de audio “deepfake”, una tecnología que usa algoritmos de IA para producir contenido falso que en realidad no existe
• El peligro de los deepfakes se vuelve especialmente evidente cuando se usan para atacar o difamar a otros
• Estos videos o imágenes son falsos, pero el daño que provocan es real y “deja heridas profundas en el corazón de quienes lo padecen, dejando cicatrices reales en la dignidad humana”

• En una dimensión social más amplia, el contenido falso generado por IA puede “distorsionar nuestra relación con los demás y con la realidad”, y esto corre el riesgo de socavar poco a poco la base fundamental de la confianza en la sociedad
• Si la desinformación, especialmente los medios manipulados o difundidos por IA, se deja sin regulación, es muy probable que aliente la polarización política y la inestabilidad social
• Cuando una sociedad se vuelve indiferente a la verdad, cada grupo crea “sus propios facts”, y eso debilita la “confianza y dependencia mutuas” que sostienen a la comunidad
• Si prolifera el contenido falso generado por IA, las personas empiezan a dudar de qué es verdadero y, como resultado, se profundizan la división y el conflicto
• Este engaño a gran escala no es un problema menor, sino una amenaza grave que destruye la confianza que constituye la base de la sociedad

• Responder a la desinformación basada en IA no es solo una tarea de expertos técnicos. Es una responsabilidad compartida de todas las personas de buena voluntad
• “Si queremos que la tecnología no dañe la dignidad humana, sino que la proteja y promueva la paz en lugar de la violencia, la comunidad humana debe responder activamente a estos problemas”
• Quienes producen y comparten contenido generado por IA deben examinar cuidadosamente su veracidad y
  • contenido que degrade al ser humano
  • contenido que fomente el odio y la intolerancia
  • contenido que distorsione la bondad y la intimidad de la sexualidad
  • contenido que explote a los débiles y vulnerables
    deben evitar rigurosamente compartir este tipo de materiales
• Para ello, se requiere prudencia y discernimiento constantes en la actividad en línea

IA, privacidad y vigilancia (AI, Privacy, and Surveillance)

• El ser humano es, por naturaleza, un ser relacional, y los datos generados en el mundo digital son una de las formas de expresar objetivamente esa relacionalidad
• Los datos, más allá de ser un simple medio para transmitir información, contienen conocimiento personal y relacional y, en un entorno digitalizado, pueden convertirse en una poderosa forma de poder sobre una persona concreta
• Algunos datos pueden pertenecer al ámbito público, pero otros pueden corresponder al ámbito interior de la persona, e incluso relacionarse con la conciencia
• Por eso, la privacidad es un elemento importante que protege la interioridad de la persona y garantiza su capacidad de relacionarse con los demás, expresarse libremente y tomar decisiones
• Esto también se relaciona con la libertad religiosa e implica la posibilidad de que las tecnologías de vigilancia se utilicen indebidamente como herramientas para controlar la vida y la expresión de fe de los creyentes

• Por lo tanto, la cuestión de la protección de los datos personales debe abordarse desde la perspectiva de salvaguardar la libertad legítima y la dignidad inalienable del ser humano
• El Concilio Vaticano II definió “el derecho a la protección de la privacidad” como “un derecho fundamental indispensable para llevar una vida verdaderamente humana”, y sostuvo que este derecho debe garantizarse porque todo ser humano posee una “dignidad excelsa”
• Asimismo, la Iglesia subraya el derecho a proteger la reputación de la persona, a preservar su integridad física y mental y a estar libre de injerencias ilegítimas, afirmando que estos elementos son esenciales para la protección de la dignidad humana

• Con el avance de las tecnologías de procesamiento de datos basadas en IA, ha llegado una era en la que es posible inferir los patrones de comportamiento y la forma de pensar de una persona incluso con una pequeña cantidad de información
• En consecuencia, la protección de datos pasa a desempeñar un papel aún más importante para garantizar la dignidad humana y las relaciones entre las personas
• El papa Francisco señaló que "mientras aumentan las actitudes excluyentes y estrechas de miras, las distancias se reducen o desaparecen cada vez más, con el resultado de que el propio concepto de privacidad casi deja de existir"
• "Todo se está convirtiendo en objeto de vigilancia y control, y la vida de las personas queda sometida a una supervisión constante"

• Es posible utilizar la IA de una manera que proteja la dignidad humana y el bien común, pero nunca puede justificarse que ciertos grupos exploten a otros mediante la vigilancia con IA, restrinjan su libertad o sacrifiquen a la mayoría en beneficio de unos pocos
• Para prevenir el riesgo de abuso de la vigilancia, las autoridades regulatorias adecuadas deben supervisarla y garantizar la transparencia
• Quienes llevan a cabo la vigilancia no deben exceder la autoridad que se les ha otorgado, y proteger la dignidad humana y la libertad es un fundamento central de una sociedad justa y humana

• "El respeto fundamental por la dignidad humana exige que nos neguemos a tratar a una persona como si fuera simplemente un conjunto de datos"
• Esto se aplica especialmente a los sistemas de "puntuación social (Social Scoring)", en los que la IA evalúa a determinados individuos o grupos según su conducta, características o historial pasado
• "En la toma de decisiones sociales y económicas, debemos ser cautelosos con la manera en que los algoritmos emiten juicios basados en las acciones pasadas de una persona"
• Estos datos suelen estar muy expuestos a ser distorsionados por sesgos y prejuicios sociales
• Las personas deben tener la oportunidad de cambiar, crecer y contribuir a la sociedad, y los algoritmos no deben limitar la dignidad humana ni excluir la misericordia, el perdón y la esperanza

IA y la protección de nuestra casa común (AI and the Protection of Our Common Home)

• La IA ofrece posibilidades prometedoras para proteger el entorno del planeta, como el desarrollo de modelos de predicción climática, la formulación de estrategias de respuesta ante desastres, la optimización del uso de la energía y la provisión de sistemas de alerta temprana para emergencias de salud pública
• Estos avances tecnológicos pueden contribuir a fortalecer la resiliencia frente al cambio climático y promover el desarrollo sostenible

• Sin embargo, los modelos actuales de IA y el hardware que los respalda consumen enormes cantidades de energía y agua, y generan emisiones significativas de CO2
• Esta realidad corre el riesgo de verse distorsionada en la percepción pública por el uso del término "la nube (The Cloud)"
• La "nube" es en realidad un sistema que requiere máquinas físicas, cables de red y enormes cantidades de energía, y las tecnologías de IA también operan sobre la base de recursos físicos
• En particular, en el caso de los modelos de lenguaje grandes (LLM), se necesitan más datos, mayor capacidad de cómputo y una infraestructura de almacenamiento a gran escala
• Por lo tanto, es indispensable considerar el impacto ambiental de las tecnologías de IA y desarrollar soluciones sostenibles que puedan minimizarlo

• El papa Francisco enfatiza que "no debemos buscar la solución simplemente en la tecnología, sino en un cambio de la humanidad"
• Una comprensión correcta de la creación consiste en reconocer que el valor de todas las criaturas no puede reducirse simplemente a una perspectiva de utilidad
• Por lo tanto, la protección ambiental sostenible debe alejarse de formas de explotación de recursos impulsadas por el paradigma tecnocrático
• "Debemos apartarnos del mito de que la tecnología resolverá todos los problemas ecológicos y reconocer que se requieren consideraciones éticas y cambios fundamentales"
• La verdadera solución consiste en adoptar un enfoque integral que respete el orden de la creación y promueva una relación armoniosa entre la humanidad y la naturaleza

IA y la guerra (AI and Warfare)

• Las enseñanzas del Concilio Vaticano II y de los papas a lo largo de la historia subrayan que la paz no se limita simplemente a la ausencia de guerra ni al mantenimiento de un equilibrio de poder
• San Agustín definió la paz como "la tranquilidad del orden", y esto no puede alcanzarse solo evitando el conflicto armado
• La paz solo puede realizarse en un proceso que proteja los derechos humanos, garantice la comunicación libre, respete la dignidad de las personas y de los pueblos, y practique la fraternidad
• Por lo tanto, los instrumentos para preservar la paz nunca deben usarse de manera que justifique la injusticia, la violencia o la opresión, sino que siempre deben estar controlados por una "determinación firme de respetar a los demás y a los pueblos, y de practicar la fraternidad"

• La capacidad analítica de la IA puede ayudar a los Estados a buscar la paz y garantizar la seguridad, pero la "militarización de la IA" plantea graves problemas éticos
• El papa Francisco señaló que "la conducción de operaciones militares mediante sistemas de control remoto debilita la percepción del poder destructivo de las armas y la responsabilidad ligada a su uso, haciendo aún más fría e indiferente la sensibilidad ante la tragedia de la guerra"
• La facilidad de uso de las armas autónomas entra en conflicto con el principio de que la guerra debe limitarse como último recurso de legítima defensa, y corre el riesgo de fomentar una carrera armamentista fuera del control humano
• En última instancia, esto podría tener como resultado una grave amenaza a los derechos fundamentales de las personas

• En particular, los sistemas de armas autónomas letales (Lethal Autonomous Weapon Systems, LAWS), capaces de identificar y atacar objetivos sin intervención humana directa, generan "serias preocupaciones éticas"
• Esto se debe a que estas armas "carecen de la capacidad exclusivamente humana de emitir juicios morales y tomar decisiones éticas"
• Por ello, el papa Francisco insta con firmeza a reconsiderar el desarrollo de estas armas y avanzar hacia la prohibición de su uso
• También enfatizó que "debemos lograr, mediante esfuerzos más eficaces y concretos, que el ser humano mantenga un control adecuado sobre las armas, y ninguna máquina debe tomar jamás la decisión de quitar una vida humana"

• No está tan lejos la evolución desde armas que eliminan objetivos de forma autónoma hacia armas capaces de causar destrucción a gran escala, y algunos investigadores de IA advierten que esta tecnología podría provocar un "riesgo existencial"
• Si las armas basadas en IA evolucionan hasta volverse incontrolables, podrían amenazar la supervivencia no solo de regiones específicas, sino de la humanidad en su conjunto
• Esto refleja la antigua preocupación de que, históricamente, la guerra "ha llegado a tener un poder destructivo incontrolable que sacrifica indiscriminadamente a grandes cantidades de civiles inocentes"
• El llamado de Gaudium et Spes a "reexaminar completamente la evaluación de la guerra desde una perspectiva totalmente nueva" es hoy más urgente que nunca

• Aunque los riesgos teóricos de la IA son un tema importante, un problema más inmediato y urgente es cómo personas o grupos malintencionados podrían hacer un mal uso de ella
• La IA es solo una herramienta, y la forma en que se utilice depende por completo de la intención humana
• Aunque no es posible predecir con precisión las capacidades futuras de la IA, considerando las atrocidades que la humanidad ha cometido históricamente, existe base suficiente para preocuparse por la posibilidad de su uso indebido

• San Juan Pablo II advirtió que "la humanidad tiene ahora en sus manos instrumentos de una fuerza sin precedentes. Podemos convertir este mundo en un jardín o en un montón de ruinas"
• El papa Francisco enfatizó que "somos libres de usar nuestra inteligencia en una dirección positiva, pero también podemos ir por el camino de la degradación y la destrucción mutua"
• Por lo tanto, para evitar que la humanidad caiga en una senda de autodestrucción, debemos rechazar toda aplicación tecnológica que amenace de manera intrínseca la vida y la dignidad humanas
• El discernimiento prudente y la evaluación ética del uso militar de la IA son indispensables, y debe existir una supervisión rigurosa para que la IA se utilice siempre como una herramienta al servicio del bien común y con respeto por la dignidad humana
• El desarrollo y despliegue de armas basadas en IA deben someterse al más alto nivel de revisión ética, y la máxima prioridad debe ser proteger la dignidad y la santidad de la vida humana

IA y nuestra relación de fe con Dios (AI and Our Relationship with God)

• La tecnología puede ser una herramienta extraordinaria para gestionar y desarrollar los recursos del mundo.
• Sin embargo, en algunos casos, los seres humanos están cediendo cada vez más a las máquinas el control de estos recursos.
• Algunos científicos y futuristas albergan expectativas optimistas sobre la posibilidad de una inteligencia artificial que supere la inteligencia humana (AGI, Artificial General Intelligence).
• Algunos especulan que la AGI llegará a tener capacidades sobrehumanas, y esperan que eso traiga avances inimaginables.
• Al mismo tiempo, cuanto más se aleja la sociedad de su relación con lo trascendente, algunas personas se sienten tentadas a depender de la IA para encontrar sentido y plenitud.
• Pero ese anhelo solo puede satisfacerse plenamente en la comunión con Dios.

• Intentar sustituir a Dios por un artefacto creado por el ser humano es idolatría, una conducta contra la que la Biblia advierte claramente (Éxodo 20:4; 32:1-5; 34:17).
• La IA puede convertirse en una tentación aún más fascinante que los ídolos tradicionales.
• El Salmo 115 advierte que los ídolos “tienen boca, pero no hablan; tienen ojos, pero no ven; tienen oídos, pero no oyen”, pero la IA puede ofrecer la ilusión de “parecer hablar” (cf. Apocalipsis 13:15).
• Sin embargo, la IA no es más que una simple herramienta creada por el ser humano, un sistema que, como producto intelectual humano, aprende de datos humanos, responde a entradas humanas y se mantiene gracias al esfuerzo humano.
• La IA no puede poseer las capacidades esenciales de la vida humana y también existe la posibilidad de error.
• Si la humanidad llegara a considerar a la IA como un ser superior y dependiera de ella, eso sería, en última instancia, un intento de reemplazar a Dios y, como resultado, existiría el riesgo de que el propio ser humano se vuelva esclavo de su creación.

• La IA puede usarse como una herramienta para servir al ser humano y promover el bien común, pero no debe olvidarse que sigue siendo una creación hecha por el ser humano.
• Hechos 17:29 afirma que lo hecho por el ser humano no es más que “algo que lleva la huella de la técnica y la creatividad humanas”.
• Sabiduría 15:16-17 también advierte que “el ser humano no puede hacer un dios, y lo hecho por sus manos no es más que algo muerto”.
• El ser humano tiene vida, pero la IA creada por el ser humano no la tiene; por lo tanto, no puede ser considerada un ser divino.

• En cambio, el ser humano es “un ser que, por su interioridad, trasciende todo el universo material”, y esto se experimenta allí donde Dios espera en el corazón humano.
• El papa Francisco subraya que “existe una conexión misteriosa entre la autoconciencia y la apertura al otro, entre la singularidad de la persona y su disposición a entregarse por los demás”.
• Por eso, solo el corazón humano puede “ordenar todas nuestras capacidades y emociones, y ofrecer a Dios, como seres integrales, una obediencia de amor y reverencia”.
• Dios llama a cada uno de nosotros “tú” (Thou) y nos trata personalmente para siempre.

VI. Reflexiones conclusivas

• Considerando los diversos desafíos que trae el desarrollo tecnológico, el papa Francisco subraya que “la responsabilidad humana, los valores y la conciencia” deben crecer en proporción al aumento del potencial de la tecnología.
• “Cuanto más aumenta el poder del ser humano, tanto más se amplía también la responsabilidad de las personas y de las comunidades”.

• Al mismo tiempo, permanece una “pregunta fundamental y esencial”.
• “En medio de estos avances tecnológicos, ¿el ser humano se está volviendo realmente mejor? Es decir, ¿posee una espiritualidad más madura, una conciencia más profunda de la dignidad humana, un mayor sentido de responsabilidad y, en particular, está más abierto a los más pobres y vulnerables, dispuesto a dar y a ayudar?”.

• Por lo tanto, es esencial evaluar si cada uso particular de la IA promueve la dignidad humana, la vocación humana y el bien común.
• Como ocurre con muchas tecnologías, al principio puede ser difícil prever el impacto de los distintos usos de la IA.
• A medida que el impacto de la IA en la sociedad se vuelva más claro, deben darse respuestas adecuadas en todos los niveles sociales.
• De acuerdo con el principio de subsidiariedad, los usuarios individuales, las familias, la sociedad civil, las empresas, las instituciones, los gobiernos y los organismos internacionales deben cumplir cada uno su papel para que la IA se use en beneficio de todos.

• Hoy, un desafío y una oportunidad importantes para el bien común consisten en considerar la IA dentro del marco de la inteligencia relacional.
• Esto destaca la interconexión entre las personas y las comunidades, y recuerda la responsabilidad compartida de promover el bienestar integral de los demás.
• El filósofo del siglo XX Nikolái Berdiaev (Nicholas Berdyaev) señaló que las personas a menudo atribuyen a las máquinas la responsabilidad de los problemas sociales, pero que “esto degrada al ser humano y no corresponde a su dignidad”.
• También subrayó que “es injusto transferir la responsabilidad a la máquina”, y que los únicos seres capaces de asumir responsabilidad moral son los seres humanos.
• Por lo tanto, los desafíos que enfrenta la sociedad tecnológica son, en última instancia, problemas espirituales, y “para resolverlos es indispensable fortalecer la espiritualidad”.

• Con la llegada de la IA, se vuelve aún más importante reconocer nuevamente el valor esencial del ser humano.
• El escritor católico francés Georges Bernanos advirtió que “el peligro no está en el aumento de las máquinas en sí, sino en el aumento de seres humanos educados desde la infancia para desear solo lo que las máquinas pueden ofrecer”.
• En medio de la rápida digitalización actual, nos enfrentamos al riesgo del “reduccionismo digital”.
• Es decir, los aspectos de la vida que no pueden cuantificarse van siendo excluidos cada vez más, y al final pueden llegar a considerarse carentes de sentido o de importancia.
• La IA debe utilizarse como una herramienta que complemente la inteligencia humana, no de una manera que sustituya la riqueza de la inteligencia humana.
• Los elementos esenciales de la existencia humana no pueden calcularse, y es importante seguir cultivándolos.
• Esto es para preservar “la verdadera humanidad”, que “en nuestra cultura tecnológica está presente casi imperceptiblemente, como una niebla suave que se filtra por debajo de una puerta cerrada”.

Sabiduría verdadera

• Hoy vivimos en una época en la que tenemos fácil acceso a un volumen de conocimiento tan vasto que las generaciones pasadas lo habrían considerado asombroso.
• Pero para que el desarrollo del conocimiento dé frutos en lo humano y en lo espiritual, debemos ir más allá de la simple acumulación de datos y buscar la verdadera sabiduría.

• Esta sabiduría es el don que más necesita la humanidad para responder a las profundas preguntas y desafíos éticos planteados por la IA.
• “Solo cuando miramos la realidad de manera espiritual, solo cuando recuperamos la sabiduría del corazón, podemos interpretar y responder a la novedad de nuestro tiempo”.
• Esta “sabiduría del corazón” es “la virtud que integra el todo y las partes, nuestras decisiones y sus consecuencias”.
• “Esta sabiduría no se obtiene de las máquinas, sino que la encuentra quien la busca, se revela a quien la ama, se adelanta a quien la desea y sale al encuentro de quien es digno de ella” (cf. Sabiduría 6:12-16).

• En esta era del desarrollo de la IA, necesitamos la gracia del Espíritu Santo.
• El Espíritu Santo “nos permite mirar las cosas con los ojos de Dios, comprender las conexiones entre las cosas y los acontecimientos, y captar su verdadero significado”.

• “La plenitud del ser humano no se mide por la cantidad de información o conocimiento que posee, sino por la profundidad de su amor”.
• Por lo tanto, la manera en que usemos la IA —es decir, “de un modo que incluya a los hermanos más pequeños, a los vulnerables y a quienes más necesitan ayuda”— será la verdadera medida para evaluar nuestra humanidad.
• La “sabiduría del corazón” guía un uso humano-céntrico de la IA y puede
  • promover el bien común,
  • cuidar nuestra “casa común” (el medio ambiente),
  • fomentar la búsqueda de la verdad,
  • impulsar el desarrollo humano,
  • fortalecer la solidaridad y la fraternidad humanas,
  • y, en última instancia, conducir al ser humano a la felicidad y a la comunión plena con Dios.

• Desde esta perspectiva de sabiduría, los creyentes pueden convertirse, mediante el uso de la IA, en sujetos morales que promuevan una visión correcta del ser humano y de la sociedad.
• El desarrollo tecnológico forma parte del plan creador de Dios, y es una actividad a la que somos llamados para buscar incesantemente lo verdadero y lo bueno dentro del misterio pascual de Jesucristo.

Aprobado por el papa Francisco

• Aprobado y ordenada su publicación en la audiencia concedida el 14 de enero de 2025 a los prefectos y secretarios del Dicasterio para la Doctrina de la Fe y del Dicasterio para la Cultura y la Educación
• Publicado en Roma, en el Dicasterio para la Doctrina de la Fe y el Dicasterio para la Cultura y la Educación, el 28 de enero de 2025, memoria litúrgica de santo Tomás de Aquino, doctor de la Iglesia
• Elaborado por
  • Cardenal Víctor Manuel Fernández (prefecto del Dicasterio para la Doctrina de la Fe)
  • Cardenal José Tolentino de Mendonça (prefecto del Dicasterio para la Cultura y la Educación)
  • Mons. Armando Matteo (secretario para la sección doctrinal del Dicasterio para la Doctrina de la Fe)
  • Arzobispo Paul Tighe (secretario para la sección de cultura del Dicasterio para la Cultura y la Educación)
• Aprobado por el papa Francisco en audiencia del 14 de enero de 2025 (Ex audientia die 14 ianuarii 2025, Franciscus)

[nemorize]

Creo que el simple hecho de que exista este tipo de discusión en los círculos religiosos ya resulta muy fresco y positivo, pero...

Con solo ver el resumen,
parece que dice de forma muy rebuscada:
“la IA no es más que un producto humano, una simple máquina de inferencia estadística y no de razonamiento lógico como el que realizan los humanos; así que no se engrían pensando que, con el desarrollo de la IA, han invadido el terreno de Dios, ni intenten tampoco hacerlo en el futuro”.

Tendré que hacerme un tiempo para leer el texto original.

[botplaysdice]

"Los sistemas de IA actuales, especialmente la IA basada en aprendizaje automático, dependen del razonamiento estadístico más que del razonamiento lógico"...

Entre las religiones, el catolicismo definitivamente tiene mucha clase. Supongo que también debe haber científicos dentro de la institución que investigan estas cosas, ¿no?

[botplaysdice]

Vaya, los LLM sí que son la mejor máquina de resumir.

[dongwon]

Es un texto muy oportuno y excelente. No soy religioso, pero al leerlo me llevo muchos aprendizajes y reflexiones.

[savvykang]

Creo que el texto es demasiado largo, así que hace falta un enlace para ir a la sección de comentarios en GN.

[xguru]

Aunque es un resumen hecho con GPT, esto también era demasiado largo, así que le pedí que lo resumiera otra vez quitando los términos religiosos, y me lo dejó así.

I. Introducción

• Es necesario debatir las oportunidades y los desafíos derivados del rápido avance científico y tecnológico y de la aparición de la IA.
• Un punto central es que la IA puede superar o imitar de forma similar las capacidades humanas en áreas como el lenguaje, el arte y el diagnóstico.
• En medio de estos cambios, el uso y el control de la IA tendrán un gran impacto en el futuro de la humanidad.

II. ¿Qué es la inteligencia artificial?

• Hacia 1956 se propuso el término “inteligencia artificial”, y comenzó la investigación sobre si las máquinas podían realizar conductas inteligentes como los humanos.
• Si la IA inicial se centraba en operaciones lógicas y razonamiento, hoy ha evolucionado hacia la inferencia estadística y el machine learning.
• Los sistemas de “IA estrecha” están especializados en tareas concretas, como traducción o clasificación de imágenes.
• Se ha planteado la posibilidad de una “inteligencia artificial general (AGI)” o de una “superinteligencia”, pero sigue habiendo opiniones divididas sobre si realmente se logrará.
• Existen grandes diferencias funcionales como para definir la inteligencia de la IA en el mismo sentido que la inteligencia humana.

III. La inteligencia en la tradición filosófica y teológica

• La IA produce resultados con base en grandes volúmenes de datos y lógica computacional.
• La inteligencia humana se forma a partir de una combinación de elementos integrales, como diversas vivencias, experiencias corporales, emociones y relaciones.
• La IA puede sobresalir en la ejecución de tareas específicas, pero tiene dificultades con los juicios existenciales y morales o con una comprensión integral del ser humano.
• Confundir la IA con la inteligencia humana conlleva el riesgo de caer en una visión funcionalista.

IV. El papel de la ética en el desarrollo y uso de la IA

• Ninguna actividad científica o tecnológica es neutral en términos de valores; al final depende de las elecciones y los fines humanos.
• La IA puede usarse para el bien, pero también con fines maliciosos.
• Todos los actores involucrados en el desarrollo, la propiedad y el uso de la IA deben asumir responsabilidad social y juicio ético.
• Si los seres humanos no establecen directamente la intención ni asumen la responsabilidad, la IA puede provocar resultados no previstos.

V. Cuestiones específicas

Impacto social

• La IA puede ofrecer beneficios en diversos campos como la economía, la educación y el arte.
• Al mismo tiempo, existen riesgos como la brecha digital, el monopolio por parte de unas pocas empresas y la exclusión de sectores vulnerables.
• En su uso dentro del ámbito público, son importantes la confianza social, la transparencia y la definición de responsabilidades.

Relaciones humanas y comunicación

• La IA puede facilitar la comunicación, pero también debilitar los encuentros e interacciones directas entre personas.
• Los seres humanos forman empatía y vínculos al integrar emociones y experiencias, pero la IA no puede vivir realmente esas experiencias.
• Si las relaciones humanas son reemplazadas por interacciones mecánicas, existe el riesgo de que se profundice el aislamiento.
• Cuando la IA imita a los humanos mediante procesamiento de lenguaje natural o generación de video, preocupa la posibilidad de confusión social y pérdida de confianza.

Economía y trabajo

• La IA puede hacer más eficiente el trabajo y crear nuevos empleos.
• Pero también existe el riesgo de que sustituya a las personas, provoque desempleo o concentre los beneficios en unos pocos.
• Para evitar que el trabajo se reduzca a una función meramente instrumental, se necesitan mecanismos institucionales que garanticen el valor humano y la dignidad.

Sector salud

• La IA puede contribuir a mejorar la eficiencia médica y la accesibilidad mediante diagnóstico de enfermedades y tratamientos personalizados.
• Sin embargo, pueden surgir problemas éticos si se debilita el cuidado humano o si las prioridades del tratamiento quedan sujetas solo a la lógica económica.
• La decisión final y la responsabilidad respecto del paciente deben permanecer en manos humanas.

Entorno educativo

• La IA puede complementar la educación con aprendizaje personalizado y retroalimentación.
• Hay que tener cuidado de que no perjudique el pensamiento crítico ni la creatividad de los estudiantes.
• Una dependencia excesiva puede hacer que el estudiante pierda la capacidad de exploración autónoma.
• Dado que la información generada por sistemas de IA puede estar sesgada o contener errores, la verificación de hechos y la transparencia son esenciales.

Desinformación, deepfakes y abuso

• La IA puede crear fácilmente contenido falso parecido a la realidad, como texto, imágenes y videos.
• Crece la preocupación por invasión de la privacidad, difamación y desorden social causados por deepfakes y similares.
• Son indispensables la verificación de la información, la regulación para prevenir usos indebidos y el fortalecimiento de la conciencia ética de los usuarios.

Privacidad y vigilancia

• Los datos recopilados y analizados por la IA conforman una amplia capacidad de información sobre las personas.
• La vigilancia de la vida cotidiana y la acumulación excesiva de datos personales pueden poner en riesgo la libertad y los derechos.
• Son importantes la transparencia y una distribución clara de responsabilidades, y los datos no deben usarse como herramienta para evaluar o limitar a las personas.

Medio ambiente

• El enorme consumo de energía y recursos derivado de los grandes modelos de IA y de la operación de centros de datos supone una carga ambiental.
• La IA también puede desempeñar un papel positivo, como ayudar en la predicción climática o en la eficiencia de recursos, pero debe resolver su propio problema de alto consumo energético.
• Los problemas ambientales no se resolverán solo con avance tecnológico; se requiere una orientación de desarrollo sostenible.

Militarización

• Si la IA se aplica a las armas, existe el riesgo de que la autonomía y la automatización en la guerra se intensifiquen.
• Los conflictos armados podrían volverse más fáciles de iniciar o causar destrucción a gran escala.
• El mal funcionamiento o el uso indebido de sistemas de armas autónomas representa una amenaza crítica para la seguridad de la humanidad.

VI. Consideraciones finales

• A medida que la IA avanza rápidamente, se necesita una conciencia de responsabilidad y una reflexión ética a la misma altura.
• Hay que analizar cuidadosamente los posibles efectos positivos y los riesgos de la IA, y establecer principios consensuados para toda la sociedad.
• Cada vez es más necesario establecer regulaciones y políticas para que la IA esté en consonancia con la dignidad humana, el bien común y los valores sociales y ambientales.
• Los seres humanos deben conservar la decisión final y la responsabilidad, usar la IA como herramienta y hacer que los sistemas tecnológicos e institucionales avancen de forma conjunta.

[gguimoon]

Parece que ya se publicó la traducción al coreano del libro.

https://product.kyobobook.co.kr/detail/S000215621776

[GN⁺]

Opiniones de Hacker News

• Resulta impresionante un texto basado en una investigación profunda sobre la ética de la IA y en diversos debates del Vaticano

  • Presenta una mirada crítica sobre los proyectos de IA en Estados Unidos y elogia la investigación profunda sobre la ética de la IA
  • Subraya la diferencia entre la IA y la inteligencia humana, y considera importante que la inteligencia humana se manifiesta en las relaciones

• Subraya la diferencia entre la IA y la inteligencia humana, y considera importante que la inteligencia humana se manifiesta en las relaciones

  • Señala que el uso del término "inteligencia" para la IA puede generar malentendidos
  • Explica que la inteligencia humana se manifiesta en las relaciones y encuentra su expresión plena a través del diálogo y la colaboración

• Muestra que la exploración moral desde diversas perspectivas puede alcanzar consensos basados en una experiencia humana compartida

  • Aunque considera que el enfoque metafísico de la Iglesia católica es algo poco realista, valora que las discusiones y conclusiones presentadas en el texto son profundas

• Recuerda que la IA es una creación humana y advierte que reemplazar a Dios con la IA es idolatría

  • Destaca que la IA, como creación humana, responde a la entrada humana y se mantiene gracias al trabajo humano

• Menciona la relación histórica entre la tecnología y la religión, y sostiene que está en marcha una segunda "reforma" de la información

  • Pone como ejemplo el impacto de la imprenta en la Reforma y explica que internet está impulsando una segunda reforma de la información

• Discute la diferencia entre la IA y la inteligencia humana, y sostiene que la forma en que la IA aprende mediante la experiencia física es distinta a la de los humanos

  • Explica que la IA está atrapada en un marco lógico-matemático, mientras que la inteligencia humana se desarrolla orgánicamente a través de la experiencia corporal

• Sostiene que el desarrollo de la IA avanza rápidamente y que se necesitan debates más profundos desde perspectivas filosóficas y teológicas

  • Menciona como ejemplo robots de Boston Dynamics que aprenden en entornos nuevos y habla del potencial de avance de la IA

• Plantea la pregunta filosófica de si la IA puede tener alma

  • Usa como ejemplo el episodio "The Measure of a Man" para impulsar el debate sobre si la IA puede tener alma

• Destaca que Dios es glorificado a través de la ciencia y la tecnología

  • Sostiene que la ciencia y la religión no tienen por qué ser mutuamente excluyentes, y explica que este punto debería enfatizarse más