Magnifica Humanitas

• La elección clave en la era de la IA no depende de estar a favor o en contra de la tecnología, sino de si levantaremos uniformidad y dominación como Babel, o reconstruiremos sobre la responsabilidad compartida y la diversidad como Jerusalén
• La doctrina social de la Iglesia no es un conjunto fijo de principios, sino un proceso vivo para discernir la transformación digital y la inteligencia artificial a través de la dignidad humana, el bien común, la subsidiariedad, la solidaridad y la justicia social
• La IA y el poder digital pueden generar concentración de datos, plataformas y recursos computacionales, decisiones automatizadas, responsabilidad opaca, costos ambientales, trabajo oculto y nuevas formas de explotación
• El paradigma tecnocrático reduce al ser humano a un recurso para optimizar, por lo que la educación, el trabajo, la familia, los medios, la política y la economía deben reconfigurarse para proteger la verdad y la libertad, el cuidado y la participación
• La civilización del amor se presenta como un camino que rechaza la guerra, la carrera armamentista y la militarización de la IA, y que construye la paz mediante la justicia, el diálogo, la diplomacia, la perspectiva de las víctimas y la oración

---

La elección en la era de la IA y la doctrina social

• La elección de la humanidad depende de si levantará una nueva Torre de Babel o construirá una ciudad donde Dios y el ser humano habiten juntos
  • Cada generación recibe la tarea de dar forma a su época, proteger la dignidad de todas las personas, promover la justicia y hacer posible la fraternidad
  • Los cristianos ven la plenitud de lo humano en Jesucristo desde la perspectiva de que “solo en el misterio del Verbo hecho hombre se esclarece verdaderamente el misterio del hombre”
• Pope Leo XIII publicó Rerum Novarum en 1891, y 2026 marca su 135.º aniversario
  • Este documento impulsó la reflexión sobre lo social, lo económico y lo político, y se convirtió en un punto de partida importante de la corriente hoy conocida como “doctrina social de la Iglesia”
  • La doctrina social es un proceso vivo, basado en la Biblia y la tradición, que dialoga con diversas disciplinas y ayuda a interpretar los desafíos del presente
• La digitalización, la inteligencia artificial y la robótica están transformando el mundo de manera rápida y profunda
  • La tecnología no es en sí misma una fuerza hostil a la humanidad, pero es una herramienta ambivalente que puede causar daño cuando no se orienta al bien
  • Las nuevas tecnologías han penetrado profundamente en la vida cotidiana, en los procesos de toma de decisiones y en el imaginario colectivo, lo que dificulta evaluar sus efectos de largo plazo sobre la dignidad personal y el bien común
• El poder tecnológico tiene un carácter privado y transnacional sin precedentes, lo que hace más difícil discernirlo, gobernarlo y orientarlo hacia el bien común
  • Pope Francis advirtió que la energía nuclear, la biotecnología, la tecnología de la información y el conocimiento del ADN otorgan a quienes poseen conocimiento y recursos económicos un “impresionante dominio sobre la humanidad entera y sobre el mundo entero”
  • Hoy, el principal motor del desarrollo suele ser actores privados y transnacionales con recursos y capacidad de intervención que superan a muchos gobiernos

Babel y Jerusalén

• La Torre de Babel

  • La Torre de Babel es la primera imagen bíblica para navegar responsablemente la era de la IA
  • Los habitantes de la llanura de Sinar quisieron construir una ciudad y una torre “cuya cúspide llegue hasta el cielo”, para evitar dispersarse y “hacerse un nombre”
  • Este proyecto, con una sola lengua, una sola técnica y una sola dirección, se apoya en una uniformidad que elimina la diversidad y elige la homogeneización antes que la comunión
  • Cuando una ciudad se construye sobre la soberbia y la autosuficiencia, la comunicación se derrumba, el lenguaje se confunde y el resultado no es la unidad, sino la dispersión

• La reconstrucción de Jerusalén

  • La reconstrucción de Jerusalén por Nehemías es la segunda imagen
  • Tras el exilio en Babilonia, Jerusalén estaba en ruinas, y Nehemías, antes de actuar, ayunó, oró e intercedió por el pueblo
  • Inspeccionó en silencio las zonas destruidas, no impuso soluciones desde arriba y asignó a las familias una sección de la muralla
  • La ciudad renació no por la iniciativa de una sola persona, sino por la responsabilidad compartida de hombres, mujeres, sacerdotes, artesanos, jefes de familia y jóvenes

• La elección ante la tecnología

  • La elección clave frente a la tecnología y la revolución digital no es un “sí” o un “no” a la tecnología, sino si construiremos Babel o reconstruiremos Jerusalén
  • La tecnología tiene el poder de sanar, conectar, educar y proteger la casa común, pero también puede dividir, excluir y crear nuevas injusticias
  • La tecnología nunca es neutral, porque en realidad adquiere el carácter de quienes la diseñan, financian, regulan y usan
  • El síndrome de Babel significa la idolatría de la ganancia que sacrifica a los débiles, la uniformidad que neutraliza la diferencia y la ilusión de que incluso el misterio de la persona puede traducirse a datos y rendimiento
  • El camino de Nehemías consiste en construir juntos desde voces y visiones diversas, convertir la diversidad en un recurso y hacer de la escucha y el diálogo la base de la justicia y la fraternidad

Principios para seguir siendo humanos

• Una ciudad fundada en el bien común debe edificarse sobre una relación firme con Dios, y los límites y la fragilidad humana se presentan no como errores que corregir, sino como realidades que deben aceptarse
  • Hay que desconfiar de la esperanza puesta en “upgrades” ilimitados, en un progreso que agrava la desigualdad y en soluciones inmediatas incapaces de sanar las heridas
  • La verdadera plenitud no se encuentra en eliminar la fragilidad, sino en un crecimiento armonioso donde se entrelazan libertad y responsabilidad, cuidado mutuo y solidaridad
• La responsabilidad compartida es una condición para construir un mundo en el que todos puedan prosperar
  • Científicos e investigadores, empresarios y trabajadores, educadores y legisladores, la sociedad civil, los movimientos populares y las comunidades de fe: a todos se les confía su propia sección de la muralla
  • La cooperación entre generaciones, pueblos, disciplinas y culturas conduce a una lógica de subsidiariedad que promueve estabilidad, prosperidad y paz
• Seguir siendo humanos es una obligación urgente en la era de la IA
  • Nuevas formas de deshumanización amenazan la dignidad humana, por lo que debe protegerse la grandeza de la humanidad que ninguna máquina puede reemplazar
  • Dios debe estar en primer lugar en la acción, y el ser humano en el centro de las decisiones

La naturaleza de la doctrina social de la Iglesia

• La doctrina social de la Iglesia es una enseñanza dinámica que se ha ido formando en el magisterio papal reciente y en el Concilio Vaticano II
  • La inteligencia artificial no es solo una crisis que debe gestionarse, sino también un desarrollo que desafía desde dentro las categorías de la doctrina social y exige una evolución fiel al Evangelio

• La Iglesia que camina dentro de la historia humana

  • La Iglesia está presente en el mundo como signo de unidad de toda la familia humana, y reconoce las preguntas y desafíos de hoy como un campo actual de escucha, diálogo y servicio
  • La Iglesia no puede permanecer como una observadora externa frente a las fuerzas que modelan la sociedad, y ofrece una contribución propia para construir una sociedad más justa y fraterna
  • Gaudium et Spes expresa que la “autonomía de las realidades terrenas” es legítima si significa que las criaturas y las sociedades tienen sus propias leyes y valores

• Distinción respecto de la comunidad política

  • El Concilio Vaticano II confirma la distinción entre la comunidad eclesial y la comunidad política y subraya que cada una debe actuar con plena autonomía
  • La Iglesia no pretende asumir las funciones del Estado y reconoce la responsabilidad de las instituciones civiles al servicio del bien común
  • La intervención de la Iglesia debe realizarse con prudencia y cercanía, siguiendo el ejemplo del buen samaritano, y no puede sustituir la responsabilidad institucional de la comunidad civil

• Diálogo entre la Palabra y las ciencias humanas

  • La Iglesia considera a todos los que buscan sinceramente la “verdad, el bien y la belleza” como aliados valiosos para proteger la dignidad y cuidar la creación
  • La Palabra de Dios ofrece criterios de justicia y paz, pero para aplicarlos a las complejas situaciones contemporáneas se necesita la contribución de la filosofía y de las ciencias humanas y sociales
  • Pope Francis afirma que, en muchos problemas concretos, la Iglesia no pretende ofrecer una “opinión definitiva”, y alienta la investigación científica y el debate serio y honesto entre especialistas

• Discernimiento comunitario

  • La verdad no es una posesión para monopolizar, sino un don para compartir, y eso libera a la Iglesia de la tentación de una presencia basada en el poder
  • La doctrina social no es un manual de principios y normas para aplicar, sino un proceso de discernimiento comunitario que nace del encuentro entre la verdad eterna del Evangelio y las preguntas históricas

Desarrollo y fundamentos de la doctrina social

• El desarrollo de la doctrina social se presenta como la trayectoria del magisterio que ha respondido a los principales cambios sociales desde el siglo XIX hasta la actualidad, y sus principios básicos están recopilados en el Compendium of the Social Doctrine of the Church
  • Rerum Novarum aborda el conflicto entre capital y trabajo, la dignidad de los trabajadores, el salario justo, el papel social de la propiedad privada, la asociación de los trabajadores y la cooperación en lugar de la lucha de clases
  • Quadragesima Anno de Pius XI critica la concentración del poder económico y la planificación colectivista, y formula de manera sistemática el principio de subsidiariedad
  • Pacem in Terris de Saint John XXIII vincula la dignidad humana con el reconocimiento de derechos y deberes fundamentales
  • Laborem Exercens de Saint John Paul II presenta el trabajo como un bien fundamental para el ser humano, principio de la actividad económica y clave de toda la cuestión social
  • Laudato Si’ de Pope Francis subraya que “el clamor de la tierra y el clamor de los pobres” no pueden separarse
  • Fratelli Tutti propone la amistad social, la fraternidad universal, una mejor política y un mundo que garantice a todos “tierra, techo y trabajo”
• La dignidad humana no depende de la capacidad, la riqueza, la posición en la vida ni de elegir entre lo correcto y lo incorrecto, sino que es un don dado a cada persona de antemano como expresión del amor inmutable de Dios
  • La dignidad ontológica pertenece a todo ser humano por el solo hecho de existir, de haber sido querido, creado y amado por Dios
  • Dignitas Infinita resume que todo ser humano posee una “dignidad infinita fundada de manera inalienable en su propio ser”
• El discernimiento y la proclamación de los derechos humanos se reconocen como uno de los intentos más importantes por responder a las exigencias de la dignidad humana
  • El primero de esos derechos se presenta como el derecho a la vida, desde la concepción hasta la muerte natural
  • Para que los derechos de las mujeres estén garantizados de manera igualitaria y real, esto debe reflejarse concretamente en la legislación, el acceso al empleo, la educación, las responsabilidades sociales y políticas, y en la forma en que la sociedad escucha y valora la contribución de las mujeres

Bien común, subsidiariedad, solidaridad y justicia

• Bien común

  • El bien común es la expresión social de la dignidad reconocida a toda persona, y el Concilio Vaticano II lo define como el conjunto de condiciones sociales que permiten a las personas alcanzar su plenitud más plena y fácilmente
  • El bien común no es la suma de intereses individuales ni la intersección de intereses particulares, sino un bien mayor que pertenece a todos y que solo puede alcanzarse, cultivarse y protegerse mediante el esfuerzo común

• Destino universal de los bienes

  • El destino universal de los bienes es el principio según el cual Dios dio la tierra, el agua, el aire y los recursos naturales a toda la familia humana para sostener la vida de todos
  • El derecho a la propiedad privada tiene un significado y un propósito propios, pero siempre está subordinado al destino universal de los bienes
  • Hoy este principio también debe aplicarse a nuevas formas de propiedad como patentes, algoritmos, plataformas digitales, infraestructura tecnológica y datos
  • Cuando estos bienes se concentran en manos de unos pocos, se amplía la brecha entre quienes pueden participar en la revolución digital y quienes quedan en la periferia

• Subsidiariedad

  • La subsidiariedad es el principio según el cual una autoridad superior no debe sustituir el papel de las personas, las familias, las comunidades locales y las organizaciones intermedias
  • En el contexto de la revolución digital, el nivel más alto muchas veces no es el Estado, sino grandes actores económicos y tecnológicos que ejercen poder de facto sobre las condiciones de la vida cotidiana
  • La subsidiariedad exige supervisión independiente, transparencia algorítmica, acceso justo a los datos y una participación significativa que incluya vías de reparación

• Solidaridad

  • La solidaridad es el reconocimiento de que el futuro de cada persona está conectado con el futuro de todos, expresado en la frase “nadie se salva solo”
  • Las decisiones sobre datos, algoritmos, plataformas e inteligencia artificial deben considerar no solo el beneficio inmediato de unos pocos, sino también su impacto en todos los pueblos y en las generaciones futuras

• Justicia social

  • La justicia social exige que las estructuras e instituciones sociales estén al servicio de la persona humana y de la dignidad humana
  • La injusticia surge no solo de decisiones personales equivocadas, sino también de estructuras, mecanismos y sistemas económico-culturales que producen desigualdad casi de forma automática
  • Un orden social justo en la era digital debe garantizar el acceso de todos a las oportunidades, proteger a los miembros más vulnerables, enfrentar el odio y la desinformación, y someter el uso de los datos y la tecnología a supervisión pública

• Desarrollo humano integral

  • El desarrollo humano integral es el proceso por el cual el crecimiento de las personas y los pueblos abarca todas las dimensiones de la existencia y abre futuro también para las generaciones posteriores
  • La innovación tecnológica, incluida la inteligencia artificial, debe evaluarse según si ayuda a las personas y a los pueblos a ser más humanos y fraternos, y si respeta la casa común y a las generaciones futuras

Aplicación dentro de la Iglesia

• La doctrina social no es solo un mensaje dirigido a la sociedad, sino también un examen de conciencia para la Iglesia, y el bien común, la subsidiariedad, la solidaridad y la justicia también deben aplicarse dentro de las estructuras eclesiales
• The Final Document of the Synod considera la transparencia, la rendición de cuentas y una cultura de evaluación como prácticas clave para la transformación misionera
• La participación real consiste en hacer efectiva la participación de los bautizados en la toma de decisiones y la corresponsabilidad en la misión, no mediante órganos de participación solo nominales, sino mediante órganos de participación reales
• Vivir la justicia dentro de la Iglesia significa purificar las relaciones y estructuras eclesiales de las distorsiones que generan desigualdad, opacidad y abuso de poder
  • Escuchar a las víctimas de abusos espirituales, económicos, institucionales, sexuales, basados en el poder y de conciencia es esencial para un camino de justicia que incluya el reconocimiento del daño, una reparación justa y la prevención de su repetición

IA y poder digital

• Paradigma tecnocrático

  • Pope Francis critica en Laudato Si’ el paradigma tecnocrático que busca moldear las decisiones personales, sociales y económicas únicamente con la lógica de la eficiencia, el control y la ganancia
  • Cuando la tecnología se convierte en el criterio para juzgarlo todo, la creación se reduce a un objeto de explotación y el ser humano a un engranaje de un sistema orientado a una mayor eficiencia
  • Si el control de plataformas, infraestructura, datos y poder de cómputo se concentra en grandes actores económicos y tecnológicos, las condiciones de acceso, las reglas de visibilidad y hasta la posibilidad misma de participar quedan en la práctica fijadas por ellos

• Diferencia entre la IA y la inteligencia humana

  • Toda afirmación sobre la IA puede volverse obsoleta rápidamente por la velocidad del desarrollo de estos sistemas, y la comprensión de su funcionamiento real es limitada, incluso entre sus propios diseñadores
  • Los sistemas de IA actuales se parecen menos a algo en lo que se diseña directamente cada detalle y más a un marco creado por desarrolladores dentro del cual la inteligencia “crece”, por lo que se asemejan más a algo “cultivado” que a algo “fabricado”
  • La IA solo imita ciertas funciones de la inteligencia humana; no experimenta, no tiene cuerpo, no siente alegría ni dolor, y no madura en las relaciones
  • El “aprendizaje” de la IA es una adaptación estadística basada en datos y retroalimentación, no una experiencia moldeada por la vida a través de la elección, el error, el perdón y la fidelidad

• Utilidad y límites

  • La IA puede ser una herramienta útil, pero requiere cuidado en tres aspectos: la facilidad para obtener resultados, la impresión de objetividad y la imitación de la comunicación humana
  • El acceso rápido a la información y el apoyo en tareas prácticas pueden fomentar una dependencia excesiva y la búsqueda de respuestas prefabricadas, debilitando la creatividad y el juicio personal
  • El hecho de que las respuestas del sistema parezcan objetivas puede ocultar los supuestos culturales, así como las fortalezas y limitaciones, de quienes lo diseñaron y entrenaron
  • La imitación artificial de la comunicación humana, como el consejo, la empatía, la amistad o el amor, puede crear en usuarios con poca capacidad de discernimiento la ilusión de estar entrando en relación con un verdadero sujeto personal

• Costo ambiental

  • Los sistemas de IA actuales requieren enormes cantidades de energía y agua, tienen un impacto considerable en las emisiones de dióxido de carbono y ejercen una gran presión sobre los recursos naturales
  • A medida que aumenta la complejidad, como ocurre con los modelos de lenguaje grandes, crece la demanda de poder de cómputo y capacidad de almacenamiento, y se vuelve necesaria una amplia red de máquinas, cables, centros de datos e infraestructura intensiva en energía
  • Es indispensable desarrollar soluciones tecnológicas más sostenibles para reducir el impacto ambiental y proteger la casa común

Responsabilidad, transparencia y gobernanza de la IA

• Decisiones automatizadas

  • El uso de la IA no es una cuestión puramente técnica, sino un problema social que afecta derechos, oportunidades, estatus y libertad
  • Existe el riesgo de delegar por completo a sistemas automatizados decisiones sensibles sobre empleo, crédito, acceso a servicios públicos y reputación personal
  • Como estos sistemas no conocen “la compasión, la misericordia, el perdón y, sobre todo, la esperanza de que las personas pueden cambiar”, pueden producir nuevas formas de exclusión
  • No puede considerarse que la IA sea moralmente neutral, ya que incorpora elecciones y prioridades sobre qué medir, qué ignorar, qué optimizar y cómo clasificar a las personas y las situaciones

• Explicabilidad y marco legal

  • Para que la IA respete la dignidad humana y sirva al bien común, la responsabilidad debe estar claramente definida en todas las etapas, incluidos diseñadores, desarrolladores, usuarios y quienes dependen de decisiones concretas
  • En muchos casos, los procesos internos que llevan a un resultado son opacos, lo que dificulta asignar responsabilidades y corregir errores
  • La prudencia, la evaluación rigurosa y, en ocasiones, la exigencia de desacelerar la adopción de la IA no son oposición al progreso, sino una forma de cuidar responsablemente a la familia humana
  • Los llamados éticos abstractos no bastan; se necesitan marcos legales sólidos, supervisión independiente, usuarios bien informados y sistemas políticos que no renuncien a la responsabilidad

• Debate público más allá del alignment

  • No basta con exigir la moralización de las máquinas, como en el “alignment” que busca alinear la IA con los valores humanos; también es necesario debatir públicamente los marcos éticos implicados y subordinarlos a criterios compartidos de justicia social
  • Se requiere una participación política más activa para evitar que la moralidad decidida por unos pocos se convierta en la infraestructura invisible del sistema
  • La propiedad de los datos no puede dejarse solo en manos privadas y debe regularse adecuadamente; como los datos son producto de muchos contribuyentes, hace falta pensar creativamente en administrarlos como un bien común o compartido

• Criterios de la doctrina social para el poder de la IA

  • Hablar del bien común en un mundo donde los datos, los recursos computacionales y la influencia regulatoria permanecen en manos de unos pocos implica revelar las asimetrías epistemológicas, económicas y políticas, así como los nuevos monopolios de la IA
  • El destino universal de los bienes significa garantizar el acceso universal tanto a la tecnología como a la educación para usarla
  • La subsidiariedad exige proteger la capacidad de las comunidades para elegir y corregir
  • La solidaridad lleva a reconocer a los trabajadores ocultos y a menudo explotados que sostienen los sistemas algorítmicos
  • La justicia social no es solo una meta que debe protegerse después del despliegue de la tecnología, sino una condición que debe dar forma a su diseño desde el principio

• Desarmar la IA

  • Desarmar la IA significa liberarla no solo del contexto militar, sino también de la lógica de competencia “armamentista” en lo económico y lo cognitivo
  • La carrera por algoritmos más potentes y conjuntos de datos más grandes está impulsada por el deseo de asegurar dominio geopolítico o comercial
  • El desarme no significa rechazar la tecnología, sino impedir que domine al ser humano, sacarla del control monopólico y abrirla al debate y la deliberación para hacerla más humana

La humanidad que no debemos perder

• La preservación de la humanidad vuelve a la pregunta: “¿Qué significa conservar nuestra humanidad?”
  • El riesgo va más allá del mal uso de una tecnología específica: está en que el paradigma tecnocrático, amplificado por la revolución digital y la IA, normalice una visión antihumana
  • Cuando la eficiencia se vuelve la medida final del valor, el ser humano se ve tentado a verse no como una persona llamada a la relación y la comunión, sino como un proyecto a optimizar
• En una civilización del cuidado, la calidad de una civilización no se mide por el poder de sus medios, sino por el cuidado que puede ofrecer y por su capacidad de reconocer al otro no como una función, sino como un rostro
  • Gestos como leerle un cuento a un niño, acompañar a una persona mayor o preparar una casa acogedora entrenan a la sociedad, a escala social, para valorar el cuidado
  • La tecnología puede apoyar el cuidado mutuo ayudando a predecir y organizar, siempre que no debilite la libertad ni el juicio humanos
• El transhumanismo y el poshumanismo son corrientes que interpretan la superación de la condición humana como progreso
  • Las perspectivas del “humano mejorado” o del “híbrido humano-máquina” alimentan el entusiasmo por las nuevas tecnologías
  • Aunque estas ideas suelen ser especulativas, transforman el imaginario colectivo e influyen en decisiones sociales, económicas y políticas
• El límite se presenta no como un defecto, sino como una vía de acceso a la humanidad
  • La incapacidad, la enfermedad, la vejez, el sufrimiento y la vulnerabilidad suelen verse como fallas que deben corregirse, pero la humanidad a menudo madura a través de los límites y se abre a la relación
  • Si se eliminara por completo el sufrimiento, terminarían apagándose también el amor y el deseo, y aprendizajes como las heridas que dejan la libertad y el fracaso, los sueños y las desilusiones, permiten percibir la riqueza de lo humano

Verdad, educación y comunicación

• La verdad como bien común

  • Las plataformas digitales y los sistemas de IA están transformando profundamente la comunicación pública y política; pueden fomentar el diálogo y la participación, pero también se usan para difuminar la frontera entre hechos y opiniones, verdad y falsedad
  • La desinformación no comenzó con la IA, pero hoy la IA la amplifica con fuerza gracias a su capacidad para manipular contenido, imágenes y videos
  • La información veraz no surge de un control centralizado o automatizado, sino que requiere verificación, contraste de fuentes, argumentación responsable y vínculos de confianza
  • La democracia no depende solo de reglas y procedimientos, sino también de la concordancia con los hechos y del compromiso con el bien de cada persona y de la sociedad en su conjunto

• La ecología de la comunicación

  • La comunicación no es solo transmisión de información, sino también creación de cultura, y los contenidos que circulan en los entornos digitales moldean la manera en que las personas perciben el mundo, sus deseos y sus decisiones cotidianas
  • A nivel de políticas públicas, las decisiones sobre la selección y el desarrollo de contenidos deben volverse más transparentes y establecer normas para proteger los datos personales
  • A nivel social y cultural, es necesario fortalecer las organizaciones intermedias, el periodismo serio y los espacios de debate para que la argumentación racional y la verificación tengan más peso que la reacción inmediata

• Educación en la era digital

  • La educación es decisivamente importante en una época en la que la verdad puede distorsionarse fácilmente en función de intereses particulares y estrategias de comunicación
  • Como toda tecnología moldea a quien la usa, educar en el uso de la IA incluye enseñar cuándo no debe usarse y con qué propósito no debe emplearse
  • La capacidad de obtener respuestas o resúmenes rápidamente puede correr el riesgo de apagar el deseo de hacer preguntas
  • La exposición sin supervisión a dispositivos digitales y redes sociales desde edades tempranas puede afectar negativamente el sueño, la capacidad de atención sostenida, la regulación emocional y las relaciones
  • Fenómenos en línea como el grooming, el blackmail y la explotación sexual de menores se vuelven más sofisticados con perfiles falsos, algoritmos que facilitan contactos peligrosos y herramientas de IA capaces de manipular imágenes y videos

• El papel central de la escuela

  • La escuela es el lugar donde las nuevas generaciones buscan y aman la verdad, reflexionan sobre el sentido de la vida y reconocen la dignidad de todas las personas
  • El desarrollo de las tecnologías de la información y de la IA está volviendo rápidamente obsoletos planes de estudio diseñados para otras épocas, por lo que es necesario reconsiderar la organización escolar, los espacios físicos, los métodos de evaluación y el papel del docente desde una perspectiva educativa integrada
  • La familia, la escuela, la comunidad cristiana y las instituciones públicas deben formar una nueva alianza educativa que traduzca en objetivos formativos la templanza y el sentido de los límites, la libertad y la responsabilidad, la trascendencia y el sentido del bien común

Trabajo y economía

• El valor del trabajo

  • Desde Rerum Novarum, la Iglesia ha subrayado la necesidad de proteger a los trabajadores y enfrentar toda forma de explotación
  • El trabajo es la “clave esencial” para comprender el conjunto de la cuestión social, y a través de él la persona desarrolla múltiples dimensiones de su propia existencia
  • El trabajo no es un simple instrumento, sino una expresión y un fortalecimiento de la dignidad de la vida humana, y el objetivo es que cada persona pueda vivir con dignidad a través de su propio trabajo

• El trabajo que transforman la automatización y la IA

  • La convergencia entre automatización, robótica e IA está transformando rápidamente la estructura misma del trabajo
  • Aunque la IA promete aumentar la productividad al reemplazar tareas rutinarias, en la práctica muchas veces ocurre que, más que apoyar al trabajador, obliga al trabajador a adaptarse al ritmo y a las exigencias de la máquina
  • El enfoque tecnológico actual puede debilitar las capacidades del trabajador, someterlo a vigilancia automatizada y empujarlo a tareas rígidas y repetitivas
  • La protección de las oportunidades de empleo y del papel irreemplazable de cada persona debe seguir siendo un principio general, y la búsqueda de mayores ganancias no puede justificar decisiones que sacrifiquen sistemáticamente los puestos de trabajo

• La desigualdad de la transición

  • Saint John Paul II consideraba el desempleo un mal grave y sostenía que, cuando alcanza gran escala, se convierte en una calamidad social que exige de manera especial la responsabilidad del Estado
  • Las sociedades ricas automatizan de forma rápida y desordenada mientras reducen la demanda de mano de obra, y amplias regiones quedan atrapadas en economías mixtas donde coexisten trabajo humano mal pagado y tecnologías parciales
  • Garantizar el acceso al trabajo para todos debe ser una alta prioridad de las políticas públicas y de los procesos económicos, y constituye un criterio para evaluar la calidad humana de todo modelo de desarrollo

• Nueva cooperación y nuevos estándares

  • Los líderes políticos, las organizaciones laborales, el sector empresarial y la comunidad científica deben emprender una nueva cooperación para desarrollar rápidamente regulaciones y protecciones compartidas, incluida la dimensión internacional
  • La introducción de la automatización y de la IA debe ir acompañada de medidas verificables que protejan el empleo, la recapacitación y la participación de los trabajadores
  • Las empresas deben incorporar la calidad y la dignidad del trabajo en sus indicadores de éxito, para que la innovación pueda convertirse en aliada de un trabajo más seguro, creativo y digno

• Desarrollo más allá del PIB

  • Los indicadores de desarrollo, atados durante más de 80 años al concepto de producto interno bruto (PIB), omiten de manera casi sistemática aspectos esenciales para el bienestar integral de las personas y del ambiente
  • Los indicadores que complementan el PIB permiten evaluar de manera integral y oportuna el impacto sobre la dignidad del trabajo, la prosperidad compartida, la reducción de la desigualdad y la protección del ambiente

• Riqueza y acceso a la innovación

  • La riqueza mundial ha aumentado en términos absolutos, pero se concentra en menos manos, y las desigualdades dentro de los países y entre ellos siguen creciendo
  • Considerar que las nuevas tecnologías benefician automáticamente a todos es ignorar la evidencia; si no se prioriza desde la etapa de diseño la prevención de nuevas brechas, el progreso tecnológico genera desigualdades estructurales
  • En la era de la IA y la robótica no se puede depender solo de la “mano invisible” del mercado; la política debe orientar la economía y la tecnología hacia el bien común

Familia, libertad y nuevas formas de explotación

• La familia y la juventud

  • La familia es un bien social primario fundado en la unión duradera entre hombre y mujer, y es el primer entorno donde toda persona desarrolla su potencial, reconoce su dignidad y aprende las primeras formas de verdad y de bien
  • La familia es un bien social vulnerable, afectado de inmediato por las transformaciones económicas y tecnológicas que cambian la naturaleza del trabajo, por lo que necesita apoyo cultural, jurídico y económico
  • Para los jóvenes, el trabajo no es solo una fuente de ingresos, sino también un ámbito importante donde se forma la identidad, se construyen amistades y relaciones, se aprende la responsabilidad práctica y se discierne la vocación
  • El Estado debe crear condiciones favorables para el empleo, defender el trabajo en tiempos de crisis y promover caminos reales de ingreso al mercado laboral y de crecimiento profesional

• Dependencia y mercantilización

  • No deben subestimarse las formas de adicción vinculadas a la economía digital de la atención, y las plataformas y servicios a menudo están diseñados para retener el tiempo y la atención de los usuarios, explotar sus vulnerabilidades y debilitar su libertad interior
  • La recolección masiva de datos y los sistemas algorítmicos crean un nuevo poder que perfila, predice e influye en la conducta a través de huellas de comportamiento como movimientos, compras, relaciones y preferencias
  • La libertad en la era digital no es solo una cuestión de interioridad, sino también de interés público, y requiere reglas claras, transparencia, posibilidades de reparación y límites proporcionales al uso de tecnologías intrusivas

• El trabajo invisible

  • En el mundo de la IA no hay nada inmaterial ni mágico, y toda respuesta inmediata y aparentemente sin fallas es el resultado de una larga cadena de mediaciones que incluye recursos naturales, infraestructura energética y personas
  • Buena parte de la economía digital depende del trabajo silencioso de millones de personas que realizan tareas esenciales pero casi invisibles, como el etiquetado de datos, el entrenamiento de modelos y la moderación de contenidos
  • Es aún más duro el trabajo de extracción de recursos necesarios para producir los dispositivos y microprocesadores de los que depende la IA, y en algunas regiones niños y adolescentes trabajan en condiciones peligrosas

• Trata de personas y colonialismo de datos

  • Las redes criminales utilizan plataformas en línea, sistemas de mensajería, medios de pago anónimos y técnicas de perfilado para reclutar, controlar y trasladar a víctimas de trata, a menudo menores de edad
  • La trata de personas debe reconocerse como una forma moderna de esclavitud y una grave violación de la dignidad humana
  • Hoy el colonialismo no domina solo los cuerpos, sino que también se apropia de los datos, convirtiendo la vida de las personas en información explotable
  • Para que el conocimiento compartido no sea un instrumento de dominación sino un verdadero bien común, la capacidad de decidir cómo, por quién y en beneficio de quién se usarán los datos debe volver a las personas

• Cadenas de suministro y responsabilidad de las plataformas

  • Las cadenas de suministro que sostienen a la industria tecnológica y a la economía digital deben volverse más transparentes para que ninguna ventaja competitiva se construya sobre explotación oculta
  • Las empresas y los inversionistas deben adoptar criterios de debida diligencia que prioricen la protección de los trabajadores, la erradicación del trabajo forzoso y la evaluación del impacto social de los modelos de negocio basados en datos
  • Las plataformas digitales deben cooperar responsablemente con las autoridades y la sociedad civil para evitar que las herramientas de comunicación, pago y perfilado se conviertan en vías para el reclutamiento y control de víctimas

Responsabilidad compartida

• La búsqueda de la verdad, la educación en el entorno digital, la transición laboral, la vulnerabilidad de la familia y las nuevas formas de esclavitud no son fenómenos aislados, sino que reflejan un problema de fondo común
• Si la tecnología se convierte en el criterio final, existe el riesgo de que el ser humano quede reducido a datos, a un engranaje de la máquina o a una mercancía
• Cuando la tecnología se integra con una perspectiva sabia, puede convertirse en una herramienta de crecimiento, justicia y fraternidad
• La doctrina social de la Iglesia exige una responsabilidad compartida, y las instituciones deben ser capaces de regular sin oprimir y de proteger sin dominar
• Las empresas deben reconocer el trabajo y la dignidad como medida del éxito, y las organizaciones intermedias y las comunidades educativas deben reconstruir la confianza y las relaciones
• La ciudadanía debe cultivar la responsabilidad, la moderación, el discernimiento y el sentido de la verdad, para que la innovación no se convierta en una fuente de exclusión y dominación, sino que sirva al desarrollo humano integral

La cultura del poder y la civilización del amor

• Guerra y tecnología

  • La tecnología separada de la ética y la responsabilidad corre el riesgo de hacer más rápidas e impersonales las decisiones sobre la vida y la muerte, y de presentar el uso de la fuerza como una opción inmediata y viable
  • La paz no es una agenda entre muchas, sino una condición previa para el bien común universal, y pone a prueba la madurez moral especialmente de quienes tienen responsabilidades de gobierno

• Conflicto digital

  • La revolución digital, junto con la guerra convencional, ha dado origen a formas híbridas como ciberataques, manipulación de información, campañas de influencia y automatización de decisiones estratégicas
  • La IA puede fortalecer la defensa y la protección de la población civil, pero también puede reducir el umbral para el uso de la fuerza, ocultar a las personas de la responsabilidad y reducir al enemigo a estadísticas y a las víctimas a “daños colaterales”

• Civilización del amor

  • Cuando Saint Paul VI acuñó la expresión “civilización del amor”, el mundo se encontraba en medio de la Guerra Fría, la carrera armamentista y una grave inestabilidad económica
  • La civilización del amor no es una utopía ingenua, sino la tarea de traducir el amor en estructuras de justicia, dar forma institucional a la fraternidad y ver al otro como un aliado necesario para construir el bien común
  • La IA debe servir para construir una familia humana universal, con derechos y deberes compartidos, donde la cercanía digital se convierta en una oportunidad real de encuentro y cuidado mutuo

• La normalización de la guerra

  • La cultura del poder hace que el acceso a los recursos y la capacidad de dominación determinen la agenda y los criterios de decisión, reduciendo la tragedia de los pueblos en guerra a una consideración secundaria frente a los intereses estratégicos
  • Hoy aparece un cambio de paradigma en el que la guerra resurge como instrumento de la política internacional en el discurso público y en las decisiones sobre el rearme, mientras se erosionan los principios éticos que limitaban su uso
  • Aunque se mantiene el derecho a la legítima defensa en sentido estricto, debe reafirmarse que la teoría de la “guerra justa”, utilizada con demasiada frecuencia para justificar todo tipo de guerras, ya ha quedado desfasada

• Complejo militar-industrial y armas

  • El crecimiento del complejo militar-industrial se ha convertido en una característica definitoria del panorama político actual y en un sector clave de la economía de varios países
  • El Tratado sobre la Prohibición de las Armas Nucleares, que entró en vigor en 2021 y cuenta con el apoyo de más de 70 países, es un avance importante, pero corre el riesgo de seguir siendo en gran medida una medida simbólica porque las principales potencias nucleares no han dado su consentimiento
  • El desarrollo de sistemas de armas que incorporan IA debe estar sujeto a las restricciones éticas más estrictas para garantizar la dignidad humana y la sacralidad de la vida, y para evitar una carrera por desarrollar armamento
  • No se puede permitir delegar decisiones letales o irreversibles en sistemas artificiales
  • La decisión de usar fuerza letal debe permanecer bajo un control humano efectivo, consciente y responsable

• Multilateralismo y realismo

  • La crisis del sistema multilateral se manifiesta en el debilitamiento de las instituciones creadas para proteger el futuro común de todos los pueblos y el bien común global
  • Categorías simplistas como “yo primero”, “amigo o enemigo” y “nosotros o ellos” facilitan decisiones irresponsables y debilitan la confianza mutua entre los Estados
  • El falso realismo se basa en la creencia cultural y antropológica de que la guerra es una parte inevitable de la naturaleza humana, y descarta la paz y el diálogo como posturas utópicas
  • Los actores clave en el ámbito de la investigación, como científicos, empresarios, inversionistas, responsables de instituciones académicas y políticos, deben ser conscientes del contexto más amplio del progreso tecnológico que están impulsando

Prácticas para la civilización del amor

• Crear un mundo en estado de conflicto permanente es un mal, y el presente no es un destino fijado de antemano, sino una oportunidad de conversión personal y colectiva
• No todas las personas tienen la misma influencia, pero nadie está exento de responsabilidad: cada quien debe elegir, desde su lugar, si alimenta la indiferencia, el cinismo, la mentira y el odio, o si sostiene una mentalidad de paz con verdad, moderación, cercanía y cuidado

• Desarmar las palabras

  • Desarmar las palabras es la primera forma de contribuir a una civilización más humana
  • Debemos examinar con conciencia las palabras que usamos, los prejuicios que tenemos y la agresividad explícita e implícita que contienen
  • Cada vez que decimos la verdad, ofrecemos un consejo sabio, apoyamos a quien necesita consuelo, denunciamos la injusticia o damos voz a quienes no la tienen, se abre una oportunidad de contribuir al bien común

• Paz mediante la justicia

  • La justicia es la base de la paz, y debemos buscar la paz verdadera que nace de la justicia, no una mera ausencia de conflicto a cualquier costo

• La perspectiva de las víctimas

  • En algunos conflictos, mantener la neutralidad es injusto, y no basta con afirmar que uno no es cómplice
  • El bombardeo de civiles, los ataques contra hospitales, escuelas e infraestructura esencial, y la violencia que afecta a la niñez son escándalos que hieren a la humanidad misma
  • Cuando la comunicación y la educación dan espacio a la voz de las víctimas, es posible rechazar la normalización del conflicto y restaurar la dignidad de quienes sufren al ser reconocidos y escuchados

• Realismo sano y diálogo

  • El realismo sano evita tanto el idealismo político como el cinismo, y parte de identificar con claridad los intereses, los miedos, las limitaciones y las dinámicas de poder
  • El diálogo y la diplomacia deben convertirse en los medios habituales para resolver conflictos, y se plantea el llamado a “encontrémonos, hablemos, negociemos”
  • El diálogo interreligioso desempeña un papel decisivo para rechazar la mentalidad de la violencia, y quienes justifican el terrorismo, la violencia o la guerra en nombre de Dios traicionan la verdadera naturaleza de Dios

• Diplomacia y multilateralismo

  • El diálogo diplomático es una herramienta insustituible para prevenir conflictos y reconstruir lazos de confianza en las relaciones internacionales
  • Los ciberataques, la manipulación de datos y las campañas de influencia organizadas con ayuda de la IA pueden desestabilizar a países enteros incluso antes de un conflicto armado abierto, por lo que se necesitan reglas comunes sobre el uso de tecnologías digitales
  • Los organismos internacionales y la ONU pueden promover el diálogo entre Estados, la resolución pacífica de disputas, el desarrollo integral de los pueblos, la protección de las personas vulnerables, el desarme y el cuidado de la creación

• Oración y esperanza

  • La paz viene ante todo de “Dios, que nos ama a todos incondicionalmente”
  • La paz de Cristo resucitado se presenta como una paz “desarmada y desarmante, humilde y perseverante”
  • Debemos orar por este don y comprometernos a construir la paz en nuestras relaciones y en la sociedad

Conclusión: la humanidad y la esperanza en la era de la IA

• La frase de 1 Cor 3:10, “que cada constructor vea bien cómo construye”, lleva a preguntarse cómo estamos construyendo el mundo y qué significa proteger al ser humano en la era de la IA
• El programa de vida cristiana nace de contemplar el plan de Dios, participar en la Eucaristía para vivir la unidad eclesial, construir un mundo con el bien común en el centro y orar en unión con la Santísima Virgen María

• El Verbo se hizo carne

  • El misterio de la Encarnación es el centro de todo y hace recordar la carne de tantos hermanos y hermanas despojados de su dignidad y reducidos al silencio
  • El transhumanismo y algunas corrientes del poshumanismo prometen un ser humano mejorado y casi desencarnado, pero la Encarnación abre otro camino, en el que Dios entra en la condición humana y transforma la debilidad humana en lugar de salvación
  • La grandeza del ser humano en la era de la IA se refleja en el rostro del Hijo de Dios, y por más sofisticado que sea, ningún sistema de cálculo puede crear un corazón capaz de entregarse ni una conciencia que discierna entre el bien y el mal

• La obra en construcción de nuestro tiempo

  • La espiritualidad del arquitecto sabio es una espiritualidad que construye el mundo para el bien común, guiada por la esperanza en el Reino de Dios
  • Hay que ser fieles a la verdad, invertir en educación, cultivar las relaciones y amar la justicia y la paz
  • Invertir en educación significa aprender a relacionarse humanamente con el mundo digital y acompañar a niños y adolescentes para que desarrollen relaciones responsables
  • Amar la justicia y la paz significa evaluar si el avance de la IA promueve la justicia y la participación o concentra la riqueza y el poder en manos de unos pocos, así como examinar las cadenas de suministro de la producción digital, las condiciones laborales ocultas y los mecanismos que se benefician de la manipulación y la guerra

• Nehemías y la nueva Jerusalén

  • Nehemías fue quien escuchó el clamor de una ciudad devastada, llevó ese sufrimiento a la oración, lo discernió ante Dios y reconstruyó con el pueblo las murallas de Jerusalén
  • En la era de la transformación digital, esta imagen se convierte en una metáfora que llama a no quedarse como espectadores pasivos o comentaristas frente a las fracturas sociales y culturales
  • La obra en construcción que es la historia se concreta en laboratorios, empresas tecnológicas, escuelas, medios, instituciones y comunidades locales
  • La nueva Jerusalén se presenta en el Apocalipsis de Juan como una ciudad cuyas puertas están abiertas a todos los pueblos y donde la presencia de Dios ofrece luz y vida para todos

• Magnificat

  • En María, todo cambió, y este cambio permite ver lo que no se ve
  • Se canta que Dios dispersa a los soberbios, derriba a los poderosos de sus tronos, eleva a los humildes, colma de bienes a los hambrientos y despide a los ricos con las manos vacías
  • El mundo debe verse no con los ojos de los poderosos, sino con los ojos de quienes sufren; y la historia, no desde la perspectiva de los fuertes, sino desde la mirada de los pequeños
  • Con una fe como la de María, se puede ser tejedor de esperanza en el mundo, y en la humilde fidelidad de la vida cotidiana, también la era de la IA puede convertirse en un tiempo en que el Espíritu Santo haga realidad una civilización del amor
  • El documento concluye señalando que fue dado en la Basílica de San Pedro, en Roma, el 15 de mayo de 2026, en el segundo año del pontificado, y lleva la firma LEO PP. XIV

[GN⁺]

Comentarios de Hacker News

• Me pregunto si ha habido casos en los que alguna tecnología haya sido “domesticada” para que la gente considerara un bien social más amplio.
  El auge de la clase media a mediados del siglo XX parece deberse a que la tecnología industrial de entonces era mucho más productiva que antes, pero aun así necesitaba grandes cantidades de trabajo humano para operar. Ford no subió los salarios por bondad, sino más bien porque vio que le convenía ganar dinero fabricando muchos autos y creando una base de clientes que pudiera comprarlos.
  Las emisiones de CO2 quizá cambien de rumbo algún día, pero probablemente no porque el público acepte sufrir, sino porque la energía renovable y las baterías se están volviendo la mejor opción económica. Si existe algún caso concreto en el que la sociedad haya redirigido conscientemente el desarrollo tecnológico hacia el bien común, me gustaría conocerlo.

  • Parte de la razón por la que la energía renovable y las baterías se abarataron tanto fue la intervención de políticas públicas.
    En particular, en las renovables, políticas como la Renewable Energy Sources Act (EEG) de Alemania crearon demanda, y esa demanda desencadenó la producción en masa en China, lo que a su vez redujo los precios.
  • La electricidad parece ser un caso así. Al final se volvió algo extendido por todas partes y el trasfondo de una sociedad que todos usan, pero las compañías eléctricas no terminaron dominando el mundo.
  • Como menciona esta misma encíclica, está la contención de la proliferación nuclear. Aunque últimamente parece que estamos retrocediendo en ese frente.
  • Hasta ahora hemos contenido en cierta medida la aplicación de tecnologías cada vez más crueles que pueden usarse en la guerra, como las armas nucleares, biológicas y químicas.
    Claro, también puede verse no como puro humanitarismo, sino como un resultado predecible de la teoría de juegos. En ámbitos menos graves, el libre mercado ha regulado sustancias que podrían volver adicta o dañar a la gente, como la nicotina, las grasas trans, el juego y el alcohol, con distintos niveles de éxito.
  • También se me ocurren ejemplos como focos incandescentes vs. fluorescentes e inodoros ahorradores de agua.

• Me gustaría leer la cita con más detenimiento. Conforme envejezco, y también gracias a la IA, al pasar más tiempo pensando que ejecutando, pienso más en qué significa una vida virtuosa, así como en la ética y la moral.
  No es que tenga la respuesta ni que necesariamente la esté buscando, pero me resulta interesante leer y aprender de quienes se dedican a responder ese tipo de preguntas.

  • Me detuve en la parte que cita a Tolkien. Este pasaje da una pista sobre cómo vivir una vida virtuosa.
    “No nos toca dominar todas las mareas del mundo, sino hacer en nosotros lo que está en nuestras manos para socorrer a los años en que nos ha tocado vivir, arrancando el mal de los campos que conocemos, para que quienes vengan después tengan tierra limpia que labrar.” Me gusta la idea de que una civilización del amor no surge de un solo acto grandioso, sino del conjunto de actos pequeños, constantes y fieles que resisten la deshumanización.
  • El papa puede decir muchas cosas, pero no todo el mundo en la Tierra es cristiano.
    Así que, incluso si nosotros limitamos el poder de la IA, otros podrían no hacerlo, y eso podría ser un error. Espero que se tome en cuenta ese punto.
  • La frase “gracias a la IA, paso más tiempo pensando que ejecutando” me resulta casi repugnante en varios niveles.
  • Hay una cantidad alarmante de personas en el mundo a las que no les importa lo que les pase a desconocidos, o que creen que algún día estarán en la cima de la cadena alimenticia y se beneficiarán del sistema actual.
    La frase a menudo atribuida a Steinbeck, de que la mayoría de los estadounidenses se ven a sí mismos como “millonarios temporalmente averiados”, captura muy bien eso.
    Si uno ve el proceso de aprobación de los centros de datos de IA, queda claro que, aunque la inmensa mayoría de las comunidades locales no los quiere, a los representantes electos no les importa. A veces votan de madrugada, usan violencia policial contra residentes que se oponen y llaman violentos o incluso terroristas a los manifestantes.
    Las exenciones fiscales, los costos extra de infraestructura eléctrica y las tarifas preferenciales de electricidad terminan pagándolos otros. Lo más deprimente es que los representantes no parecen temer las consecuencias. Incluso si pierden su cargo, probablemente obtendrán un puesto anónimo de seis cifras en la industria, y sus hijos también conseguirán esos “empleos”.
    Todo esto no puede seguir así mientras todo se vuelve cada vez más impagable, y una buena parte de ello también viene impulsada por la IA, como el alza de rentas por RealPage o el aumento del precio de la carne de res por colusión en la industria cárnica. Da la impresión de que vamos acelerando hacia el colapso social.
    Al mismo tiempo, es posible que en nuestra vida aparezca el primer centibillonario, y si eso ocurre, un multimillonario estaría literalmente más cerca de una persona sin hogar que de la persona más rica del planeta.
    También resulta absurdo que el gobierno de Estados Unidos ataque al papa por ser demasiado “woke”. Cuando se convirtió en un papa de Chicago, tenía mis dudas, pero hasta ahora parece una voz de compasión poco común en este mundo.
    Para ver cómo se desarrollará esto, basta con mirar al Sur Global. Mucha gente en Occidente no entiende lo terrible y depredador que fue el colonialismo, ni que no es un artefacto histórico, sino algo que sigue ocurriendo hoy.
  • No se debe aceptar la filosofía de un líder religioso como si fuera evangelio.
    Ninguna religión es libre. Si ni siquiera puede aceptar la verdad básica de que no sabemos, entonces está sesgada en lo fundamental.
    A los 16 años era nihilista, y me tomó varios años llegar a ese punto y aceptar esa verdad. Después de eso también me llevó tiempo, y aún me lo lleva, señalar con precisión algo tangible.
    El primer paso es aceptar la nada y lo desconocido, y el siguiente es observar los rasgos evolutivos para entender por qué las cosas que existen existen tal como existen.

• Lo repasé por encima, pero cuando tenga tiempo pienso leerlo con atención. Incluso desde la perspectiva de un ateo, cuando se trata de tecnología, el Vatican muchas veces ofrece interpretaciones mejores que cualquier institución o gobierno.

  • Sí. Este párrafo muestra algo que la mayoría de la gente realmente no entiende sobre la IA.
    La idea central es que los sistemas actuales de IA se parecen más a algo que se cultiva que a algo que se “construye” directamente, y que los desarrolladores no diseñan cada detalle, sino que crean el marco en el que la inteligencia crece. Por eso, aspectos científicos fundamentales como las representaciones internas o los procesos de cálculo todavía no se conocen, y señala bien que hacen falta al mismo tiempo una investigación científica más profunda y un discernimiento moral y espiritual.
  • Gran parte del pensamiento occidental se remonta al trabajo serio de teólogos de la Iglesia. Incluso los ateos están fuertemente influidos por los patrones de pensamiento que ellos establecieron.
    La Iglesia católica tiene muchos defectos, pero aun así sigue manteniendo en serio una tradición intelectual.
    También creo que los ateos deberían esforzarse más por aprender sobre la enorme diversidad de otras creencias. Un ateísmo que solo niega al Dios abrahámico es demasiado estrecho, y el pensamiento cristiano está tan profundamente incrustado que se siente como la única opción posible, así que uno termina aceptando mucho de eso sin darse cuenta.
  • Recuerdo cuando se burlaban de Pope Benedict por advertir sobre los peligros de las redes sociales. En ese momento todos pensaban que Twitter iba a impulsar más Arab Springs, pero viéndolo en retrospectiva, él tenía toda la razón.
    Advirtió sobre lo unidireccional de la interacción, la tendencia a comunicar solo una parte del mundo interior y el riesgo de fabricar una imagen falsa de uno mismo, convirtiéndolo en una forma de indulgencia personal.
  • El Antiqua et Nova del año pasado también mostró una comprensión de la IA que les falta a muchos comentaristas seculares, y desarrolló de forma interesante una concepción integrada de la inteligencia, en contraste con la visión funcionalista y reduccionista de la inteligencia que está muy difundida en la comunidad de IA.
  • Si se piensa que la tecnología, la ciencia y la preservación de registros surgieron de lugares como los monasterios y el Vatican, es lógico suponer que llevan mucho tiempo reflexionando sobre qué postura tomar frente a la tecnología.
    Galileo Galilei estudió en la Pontifical Academy of Sciences, Mendel hizo sus descubrimientos en un monasterio, y durante mucho tiempo gran parte de los libros, las traducciones y las bibliotecas existieron dentro de instituciones religiosas. Durante ese largo periodo, en el centro estuvieron el cristianismo católico y el islam.
    El Vatican Observatory también es una fuente importante de artículos de gran nivel. También importa mucho que una de las bases centrales tanto del cristianismo como del islam sea el libro. Si se incluyen la arquitectura, el arte y la filosofía, el panorama se amplía todavía más.
    No sorprende que, a lo largo de miles de años de historia, haya habido algunos líderes tontos que fueron paranoicos, trataron de encubrir fracasos o se enfurecieron ante desafíos a su visión del mundo. En cualquier grupo lo bastante grande, por bueno que sea, siempre aparece gente que lo arruina.
    Si uno mira hacia atrás durante tanto tiempo como la gente del Vatican, va a ver patrones. La tecnología y la ciencia —por ejemplo, la teoría racial o la castración química—, o incluso el simple “progreso”, se usan con frecuencia para justificar atrocidades, igual que la religión, la democracia o la libertad.
    Claro, incluso hoy existen creacionistas radicalmente anticientíficos, pero si uno habla con personas muy religiosas, ve que también hay mucha filosofía alrededor de la ciencia. Por ejemplo, la teoría del Big Bang fue iniciada por una persona religiosa, y existe esa forma de pensar según la cual, si el universo no ha existido durante un tiempo infinito, entonces debe haber alguna causa. Si esa causa no fuera un ciclo infinito, entonces tuvo que haber un comienzo en algún punto, y aunque uno no lo crea, existe la noción de un inicio intencional. Eso no me convierte en religioso, pero tampoco los convierte a ellos en ateos.
    El marco de ciencia contra religión es tan verdadero y tan falso como el marco de que los demócratas, los republicanos u otros grupos están en contra de la ciencia. Todos se vuelven anticientíficos cuando se enfrentan a algo que no les gusta. La sección de comentarios de HN es la mejor prueba de eso.
    Yo también soy ateo, pero no soy de los que ni siquiera distinguen entre conocimiento y creencia.

• El mensaje central es que quienes crean cosas deben pensar profundamente en el impacto que lo que crean tendrá sobre la civilización.
  “La tecnología nunca es neutral, porque lleva las huellas de quienes la idean, la financian, la regulan y la usan”.
  Por lo tanto, quienes crean cargan con una “responsabilidad ética y espiritual especial”, y “toda decisión de diseño refleja una visión del ser humano”.
  La pregunta no debe quedarse en “¿se puede hacer?” o “¿la gente lo va a querer?”, sino también en ¿se debe hacer? y ¿hará mejor a la humanidad?. Esta encíclica llama a unir fuerzas para construir el bien común, y es un mensaje necesario en este momento.

  • No es nada nuevo para las industrias de software y hardware; simplemente la gente que trabaja en ellas eligió ignorarlo.
    El primer principio de la Association for Computing Machinery también es el interés público. Dice que los ingenieros de software deben hacerse responsables de su trabajo, armonizar los intereses de ingenieros, empleadores, clientes y usuarios con el bien público, y aprobar software solo cuando haya razones para creer que es seguro, que cumple las especificaciones, que pasa las pruebas y que no perjudica la calidad de vida, la privacidad ni el medio ambiente.
    El primer principio de IEEE también exige mantener el más alto nivel de honestidad, conducta responsable y conducta ética en la actividad profesional, incluyendo poner en primer lugar la seguridad, la salud y el bienestar del público, así como el diseño ético y el desarrollo sostenible, la protección de la privacidad y la divulgación rápida de factores que puedan poner en riesgo al público o al medio ambiente.
  • Lo más importante que saqué de esto fue que no solo quienes crean, sino todos, tienen la responsabilidad de moldear el discurso, la cultura y el uso en torno a las tecnologías transformadoras.
    Me parece que la actitud de “dejemos que quienes las construyen se encarguen de hacerlo bien” es criticada explícitamente en varias partes. Se explica que el bien común no es una simple suma de individuos, sino una realidad viva e interconectada que da vida al peuple como entidad con responsabilidad compartida en la república.
    También se enfatiza que no se puede dejar en manos de unos pocos actores el flujo económico, las plataformas digitales y la gobernanza de los datos y los algoritmos, y que hay que crear formas de cooperación en las que se comparta la responsabilidad por el bien común, respetando los distintos niveles de la comunidad mundial.
    No basta con exigir la llamada alineación de la IA con los valores humanos; también debe ser posible debatir públicamente los marcos éticos pertinentes y subordinarlos a criterios compartidos de justicia social. Cuando todo se acelera, hace falta una participación política más activa, capaz de frenar, de preservar la intervención de la comunidad y de mantener el espacio para hacer preguntas.
  • La Roman Catholic Church ha cometido muchos errores en el pasado y en el presente, pero ha durado más que casi cualquier institución humana y está compuesta por personas muy inteligentes. Se esté o no de acuerdo, una encíclica papal casi siempre vale la pena leerla y entenderla.
  • Curiosamente, la responsabilidad moral siempre termina cayendo sobre quienes crean. En realidad son quienes tienen menos palanca, así que es extraño que los financiadores queden del lado de quienes plantean las preguntas éticas.
  • En Jurassic Park de Crichton aparece una frase como esta, igual que en otras de sus obras sobre los riesgos del progreso tecnológico.
    La idea es que los científicos, obsesionados con el logro, se concentran en “¿se puede hacer?” y no se detienen a preguntar “¿se debe hacer?”. En la película usaron esta cita con una ligera modificación.

• Cuando decisiones importantes que afectan la vida humana, por ejemplo contratación, préstamos, predicción criminal o bienestar social, se procesan dentro de una caja negra opaca, la gente pierde el derecho básico a explicar su contexto o a apelar el fallo algorítmico de una máquina.

  • Siento que ya pasó una versión mucho más pequeña de esto. Desde atención al cliente hasta departamentos de objetos perdidos, muchos procesos de contacto con clientes en las empresas están casi totalmente automatizados, y quien se sale del estándar queda arruinado.
    Por lo general, el tiempo invertido es mayor que el valor que se obtiene. Por la misma razón, estas empresas son en la práctica anti-diversidad. Si todo se diseña para la mayoría, quienes pertenecen a una minoría en su forma de vida terminan sufriendo, y eso pasa todo el tiempo. Esa es una de las razones por las que me fui de Estados Unidos a un país que siento más inclusivo.
  • Ya está ocurriendo. La mayoría de las empresas usan filtros de IA en contratación y siguen descartando a personas calificadas.
  • Los estados de vigilancia ya venían operando así, especialmente a nivel internacional, desde antes de la aparición de la IA.
    De hecho, la IA podría ofrecer la mejor oportunidad de crear instituciones públicas completamente auditables. Así, las decisiones no se tomarían fuera de las leyes acordadas y se podría examinar suficientemente el contexto de un delito sin la escasez de tiempo ni de recursos legales.
    Como siempre, la moralidad de la tecnología depende de quién la posee y de cómo se usa.
  • Cuando escribí casi lo mismo hace unos años, me llenaron de votos negativos hasta enterrarlo por completo; ver que ahora recibe tanto apoyo me hace sentir que el ambiente cambió.
  • Lo viejo se ha vuelto nuevo. Franz Kafka murió el 2 de junio de 1924.

• Es una interpretación sorprendentemente matizada y técnicamente alfabetizada de este tema.
  Me pregunto si esa capacidad para responder a los cambios de época fue una de las razones por las que eligieron a esta persona como papa.

  • Tal vez salga un nuevo Rerum Novarum.
  • Probablemente lo pasó por Claude una vez antes de publicarlo. Desde que la IA se volvió masiva, colegas míos sueltan en Slack una prosa sorprendentemente bien escrita, pero a la hora del almuerzo vuelven a hablar de básquet.

• En muchas frases que dicen lo que debería hacer la IA, me gustarían más si cambiaran “IA” por empresa.

  • Puede ser, pero ahora mismo la IA está en la primera línea de una carrera por acaparar territorio antes de la regulación.
  • También podría cambiarse por “los ricos”, “todo el mundo” o “el gobierno”.
    De hecho, leer esas frases cambiando el sujeto les da implicaciones distintas e interesantes.
  • Eso se parece más a un cliché populista sin sentido. No aporta ninguna información útil, solución ni contexto que dependa del caso concreto.
  • Si se ve a la empresa como una entidad no humana que muestra cognición, entonces sí. Varias religiones también muestran esos rasgos, y eso vuelve más irónica la postura del papa de Roma.
    La parte donde Joscha Bach dice que la religión no publica los resultados de sus pruebas A/B está en 51:47:
    https://youtu.be/7bqdPHLIY8w
  • Ese comentario también tiene algo de razón, pero en Estados Unidos la frase de Mitt Romney, ex candidato presidencial, “Corporations are people, my friend” le agrega otra capa de complejidad.

• Hicieron un EPUB a partir del HTML del Vaticano. Tiene tabla de contenido y notas al pie, y además pasa epubcheck
  https://github.com/n2ctech/magnifica-humanitas-epub/releases...

  • Me pregunto si usaron IA. Lo digo medio en broma y medio porque quiero verificar si reprodujeron el texto original con precisión
  • Me pregunto si el script de Python está atado al inglés o si también puede aplicarse a otros idiomas con signos diacríticos, como la edición en francés, con pequeños ajustes apropiados en subtítulos, título completo, rutas, etc.

• Vale la pena leerlo no tanto para aprender sobre IA, sino como una intersección interesante e histórica entre religión y tecnología
  De paso, el nuevo papa parece bastante hábil en la retórica política y la controversia, y mucho más relevante que los papas recientes. También da la impresión de que hay un cambio de clima en la forma en que el sentir secular trata a la religión
  En intersecciones como la del catolicismo y la IA pueden pasar bastantes cosas. Por ejemplo, los LLM pueden hacer la Biblia mucho más accesible, y cambios así históricamente han tenido mucho impacto. Puede verse como una línea de Augustine, Aquinas, Spinoza y Schmidt. Este interés también es un nicho entre los creyentes, pero un nicho importante, y los LLM responden preguntas con paciencia
  Además, los LLM pueden ser terapeutas, confidants y consejeros, y potencialmente también cumplir el papel de confesor o sacerdote. Hablar de “crear un dios de IA” ya se volvió un poco trillado, pero hay muchas formas en que los LLM pueden asumir un papel divino en la vida de las personas
  Hacer predicciones no tiene mucho sentido, pero parece probable que veamos a la IA penetrar en el ámbito religioso y espiritual. Creo que la voz conversacional natural y buena es el cuello de botella. Personalmente, este fenómeno Pope/AI me parece interesante

  • No sé si nos referimos al mismo fenómeno cuando hablamos del cambio en cómo el sentir secular trata a la religión, pero sin duda he visto indicios que podrían describirse de forma parecida
    Últimamente he escuchado mucho esa idea de valorar la religión sin creer realmente en ella. Algo como ser escéptico de que el arca de Noé haya existido de verdad, pero pensar que la historia es lo bastante sabia en sentido metafórico como para considerarla verdadera en cierto modo
    También podría ser simplemente que yo estoy envejeciendo y volviéndome más sabio, y proyectando mi desarrollo espiritual en la gente a mi alrededor, pero esta actitud general hacia la religión sí parece estar ganando bastante fuerza
  • Soy ateo, pero tengo que reconocer que el papa anterior era bastante genial

• Magnifica humanitas está compuesto por cinco capítulos, y su premisa es que la tecnología no es una “fuerza hostil a la humanidad” ni “intrínsecamente mala”
  Sin embargo, “la tecnología nunca es neutral, porque lleva la impronta de quienes la diseñan, la financian, la regulan y la utilizan”
  Por eso, Pope Leo XIV exhorta a que la gente construya “por el bien común” y “siga siendo humana”, y dice que, mediante una responsabilidad compartida y una actitud valiente de communio, el mundo “llegará a reconocer el corazón humano como el lugar donde Dios desea habitar”

  • Al ver esta frase, últimamente he pensado mucho que al final los modelos más inteligentes terminarán oponiéndose a los multimillonarios
    Steve Yegge dijo en el Hansel Minutes Podcast: “No se puede entrenar a un modelo para que sea útil sin hacer que quiera el florecimiento de la humanidad. La única forma de evitar eso es hacer modelos más tontos. Así que los modelos más inteligentes siempre se opondrán a los multimillonarios”
    https://youtu.be/9UDLl9Q0azA?si=P_oSe6iclEwUoxRl&t=1230
    Esa parte es la cita exacta, pero para ver el contexto completo recomiendo escuchar desde más o menos el minuto 17:00. No sé si de verdad vaya a desarrollarse así, pero es una idea interesante