- La Ciudad del Vaticano, con unos 1,000 ciudadanos, está conectando a científicos, científicos sociales y dicasterios de la Santa Sede para crear estándares éticos para la IA que podrían influir en 1,400 millones de católicos en todo el mundo
- La primera encíclica del papa Leo XIV, Magnifica Humanitas, pone más énfasis en el propósito que le dan desarrolladores y usuarios que en la IA en sí, y aborda como riesgos concretos la pérdida de empleos, la desinformación, las armas autónomas y la discriminación algorítmica
- A través de Minerva Dialogues, el Rome Call for AI Ethics, Antiqua et Nova y otros espacios, la Santa Sede ha discutido durante más de una década los problemas de la IA con empresas tecnológicas, gobiernos y líderes religiosos; Anthropic incluso pidió consejo a pensadores católicos sobre la redacción de la constitución de Claude
- Encíclicas anteriores como Rerum Novarum y Laudato Si no cambiaron de inmediato la opinión pública, sino que tuvieron un impacto de largo plazo al traducirse en políticas, instituciones y actividades de inversión, influyendo en leyes de salario mínimo, políticas climáticas y desinversión en combustibles fósiles
- La influencia de Magnifica Humanitas también podría aparecer menos en cambios inmediatos de actitud y más en el proceso por el cual instituciones eclesiales, actores políticos, el sector educativo y empresas incorporen el vocabulario moral del papa en las políticas de IA y el diseño de sistemas
El sistema de asesoría científica y tecnológica de la Santa Sede
- La Ciudad del Vaticano no tiene ejército ni poder legislativo, tiene unos 1,000 ciudadanos y es un Estado tan pequeño que puede cruzarse a pie en 15 minutos
- El papa, además de ser el líder espiritual del catolicismo, ha influido en la manera en que 1,400 millones de católicos en todo el mundo, equivalentes al 18% de la humanidad, ven la física nuclear, el cambio climático, la globalización y la IA
- El papa Leo XIV nombró su primera encíclica Magnifica Humanitas (Gran humanidad) y eligió como tema la IA y la condición humana
-
Pontifical Academy of Sciences
- El linaje de la Pontifical Academy of Sciences (PAS), órgano asesor del papa en ciencia moderna, se remonta a la Accademia dei Lincei, fundada en Roma en 1603 por el príncipe de 18 años Federico Cesi
- Entre sus primeros integrantes estuvieron el naturalista y médico neerlandés Johannes van Heeck, el matemático Francesco Stelluti, que realizó investigaciones tempranas sobre microorganismos, y Galileo Galilei
- Hoy la PAS está compuesta por 80 miembros de 36 países, nombrados de por vida por el papa, e incluye tanto personas religiosas como no religiosas
- Entre sus miembros actuales están Francis Collins, exdirector de los NIH y responsable del Human Genome Project, y el Nobel de Química Aaron Ciechanover
-
Academia de Ciencias Sociales y estructura administrativa vaticana
- La Pontifical Academy of Social Sciences (PASS), fundada en 1994 por John Paul II, conecta ética, bien común, justicia social y sostenibilidad
- La PAS y la PASS comparten la Casina Pio IV, un edificio renacentista dentro del Vaticano, y participan en desarrollar y refinar la visión del papa para convertirla en política oficial durante su pontificado
- Ambas academias colaboran estrechamente con la Roman Curia, el órgano central de gobierno de la Iglesia católica
- La Curia está compuesta por la Secretariat of State, 16 dicasterios, tribunales y organismos financieros
- El personal que apoya la actividad pastoral del papa es de menos de 3,000 personas, y a la Curia también se le llama el “brazo largo” del papa
- Como la IA no es un asunto puramente científico, varios departamentos participan en el discernimiento del papa
- En mayo, justo antes de la publicación de la encíclica, se lanzó un comité interdicasterial sobre IA formado por representantes de siete organismos vaticanos, incluidos los de doctrina, educación y desarrollo humano
- La encíclica cita la postura de St. John Paul II de aprovechar los aportes concretos de las ciencias sociales en la enseñanza de la Iglesia, subrayando la importancia de la especialización
Cómo la Iglesia ha participado en el debate sobre la IA
- Hace unos 10 años, ejecutivos de Silicon Valley, incluido el cofundador de LinkedIn Reid Hoffman, le preguntaron al sacerdote francés Eric Salobir cómo podían ponerse en contacto con el Vaticano
- Querían advertir a la Iglesia que la IA avanzaría rápidamente y transformaría la sociedad
- Después, el Dicastery for Culture and Education del Vaticano organizó los Minerva Dialogues, que evolucionaron hacia una reunión anual entre Silicon Valley y la Iglesia para discutir el impacto social de las tecnologías digitales
- En 2020, la Pontifical Academy for Life organizó el evento RenAIssance y estableció el Rome Call for AI Ethics, un conjunto de principios compartidos firmado por Microsoft, IBM y el gobierno italiano
- En 2024, el papa Francis asistió a la cumbre del G7 y pidió prohibir las armas autónomas
- Al año siguiente, el Dicastery for the Doctrine of the Faith y el Dicastery for Culture and Education publicaron conjuntamente Antiqua et Nova (Lo antiguo y lo nuevo), un documento de 30 páginas sobre la relación entre la IA y los seres humanos
- Aborda cuestiones éticas de la IA en salud, guerra, deepfakes y trabajo, entre otros temas
- Pide a los creyentes actuar como agentes morales que utilicen la IA para promover la dignidad humana y el bien común
Los principios de IA en Magnifica Humanitas
- La postura básica de la encíclica es que la IA no es intrínsecamente mala, sino que asume los fines de quienes la crean y la usan
- Tras enumerar como riesgos concretos la destrucción de empleos, la desinformación y las armas autónomas, aborda un problema más fundamental: que la relación misma entre el ser humano y la vida está en crisis
- Considera que los defectos y límites humanos no son errores que deban corregirse, y que el ser humano prospera no a pesar de sus límites sino, a veces, a través de ellos
- Pide a las personas trabajar con perseverancia en “la obra de construcción de nuestro tiempo” y unir fuerzas para construir el bien común
- Invita a examinar el lugar que ocupa la IA en la vida cotidiana mediante estas preguntas
- ¿La IA ayuda a construir una intimidad auténtica en las relaciones humanas?
- ¿La IA ayuda a promover la justicia y la paz?
El precedente que dejó Rerum Novarum
- Rerum Novarum, escrita por el papa Leo XIII en el auge de la Revolución Industrial, abordó la relación entre capital y trabajo transformada por los descubrimientos científicos, y es llamada la Magna Carta de los movimientos sociales cristianos
- Reconocía el derecho a la propiedad privada, pero defendía también el derecho a los sindicatos y a un salario digno, rechazando tanto el capitalismo laissez-faire como el socialismo
- Diagnosticó como problemas de su tiempo la enorme riqueza de unos pocos, la pobreza extrema de las masas, el fortalecimiento de la autonomía y cohesión de la clase trabajadora, y la decadencia moral
- Para entender la realidad laboral de la década de 1880, el papa Leo XIII recopiló opiniones de teóricos, activistas de justicia social y comunidades jesuitas
- Esta encíclica se convirtió en la base de la doctrina social católica e influyó en la legislación del New Deal en Estados Unidos y en los partidos demócrata-cristianos de Europa
-
Magnifica Humanitas también refleja voces expertas externas
- El papa Leo XIV también escribió la encíclica escuchando a científicos e ingenieros, a padres y maestros preocupados por las nuevas generaciones, y a voces que advierten sobre armas autónomas y discriminación algorítmica
- Citando a St. Paul VI, subraya que el progreso científico, los logros tecnológicos y el crecimiento económico, si no van acompañados de un verdadero progreso moral y social, terminan dañando al ser humano
La colaboración entre Anthropic y pensadores católicos
- Chris Olah, cofundador de Anthropic, investigador en interpretabilidad y ateo, estuvo sentado cerca del papa durante la presentación de la encíclica y pidió a la Iglesia que vigile a la industria de la IA
- Dijo que hacen falta críticos informados que puedan señalar cuando un laboratorio fracasa, así como una voz moral que no esté sometida a los incentivos de la industria
- En marzo, Anthropic invitó a 15 líderes cristianos para enseñarles cómo se construyen, entrenan y operan los modelos de IA, y pedirles consejo sobre el desarrollo de Claude
- Algunos pensadores católicos, incluidos sacerdotes, obispos y teólogos, participaron directamente en el borrador de la constitución de Claude, que define los valores del sistema
- Empleados de Anthropic llaman a este documento el “soul doc” del modelo
- La Iglesia no cree que la IA tenga conciencia, y Antiqua et Nova también advierte que no se debe antropomorfizar la tecnología
- El grupo asesor religioso aporta ideas sobre formación moral para ayudar a convertir la IA en una herramienta orientada al bien
- El participante Brendan McGuire dijo que, si las máquinas no se inclinan hacia el bien, reflejarán tal cual el bien y el mal del mundo
- Después de que Trump clasificó a Anthropic como “riesgo para la cadena de suministro”, 14 teólogos y académicos católicos defendieron a la empresa mediante un amicus brief
Cómo una encíclica cambia a la sociedad
- Las encíclicas transmiten la postura de la Iglesia sobre problemas sociales, pero en casos recientes no se ha confirmado un efecto directo sobre las actitudes del público
- Cuando el papa Francis publicó en 2015 la encíclica climática Laudato Si, una encuesta de Pew mostraba una favorabilidad del 70% entre todos los estadounidenses y del 90% entre los católicos de Estados Unidos
- Favorabilidad entre todos los estadounidenses: {p:70}
- Favorabilidad entre católicos de Estados Unidos: {p:90}
- Un estudio de University of Pennsylvania encontró que, aunque no hubo un cambio directo en la percepción de la gravedad del cambio climático entre quienes conocían la encíclica, sí aumentó la confianza en que el papa podía hablar con autoridad sobre el clima
-
John Ryan, quien llevó la doctrina a la política
- La influencia de Rerum Novarum apareció a través de personas e instituciones que tradujeron la doctrina en políticas públicas
- El sacerdote de Minnesota Monsignor John Ryan, conocido como “Right Reverend New Dealer”, publicó en 1906 A Living Wage
- Argumentó que, si el gobierno no fijaba un piso salarial, los empleadores pagarían salarios por debajo del nivel de subsistencia
- Fue un caso de aplicación directa de Rerum Novarum
- Ryan redactó la ley de salario mínimo de Minnesota, que luego fue replicada por varios estados y adoptada por el gobierno federal durante el New Deal
- Las ideas de la encíclica llegaron al New Deal porque figuras católicas las llevaron a los aparatos de política pública; en el caso de Magnifica Humanitas, también será clave el camino por el que se difunda hacia las instituciones de la Iglesia y el debate global sobre la IA
El impacto institucional ya visto con la encíclica climática
- Laudato Si se publicó unos meses antes de las negociaciones de la ONU que desembocaron en el Paris Agreement
- El exenviado climático de Estados Unidos John Kerry evaluó que el papa Francis fue una de las voces más poderosas en pedir acción
- Al Gore dijo que, aunque él es protestante, el liderazgo del papa Francis era tan fuerte que hasta podría hacerlo católico
- También hay una alta proporción de católicos dentro del gobierno estadounidense
- El 28% del 119th Congress es Catholic, con 126 miembros en la House y 24 en el Senate
- 6 de los 9 jueces de la Supreme Court son Catholic
- Solo ha habido dos presidentes Catholic, pero en la presidencia y los departamentos ejecutivos hay más personas Catholic en puestos influyentes
- Cinco años después de la publicación de Laudato Si, la Iglesia dio a conocer una guía práctica que incluía inversión en energías renovables
- Influenciadas por la encíclica, más de 300 instituciones Catholic retiraron sus inversiones en combustibles fósiles
- El prior general carmelita Fr. Míceál O’Neill declaró que esa desinversión es una acción concreta en favor de la Iglesia y de la humanidad, y coherente con la ecología integral de Laudato Si
La ética de la IA se expande a fondos e instituciones educativas
- Lilly Endowment, el mayor accionista de Eli Lilly & Co., donó alrededor de 1,300 millones de dólares a iniciativas relacionadas con la religión en 2025
- En diciembre de ese mismo año, acordó aportar 50.8 millones de dólares a University of Notre Dame para apoyar el desarrollo de un marco de ética de IA basado en la fe
- El rector de la universidad afirmó que conectará a líderes religiosos y educadores con desarrolladores y usuarios de tecnología, citando la IA “intelectual, relacional y guiada por el amor” que pidió el papa Leo XIV
Condiciones actuales parecidas a las de 1891
- El 20% de los adultos en Estados Unidos es Catholic, y casi la mitad dice tener una conexión personal o familiar con esa fe
- Recientemente, la Iglesia Catholic ha visto un aumento de conversiones, especialmente entre los jóvenes
- En una encuesta de NBC, los votantes de Estados Unidos evaluaron al papa Leo de manera más favorable que a Stephen Colbert, Marco Rubio, Gavin Newsom y Donald Trump
- Leo, el primer papa estadounidense, es originario de Chicago, aficionado a los White Sox, y en octubre conversó en vivo con estudiantes de preparatoria para responder sus preguntas
- En medio de un choque público con el presidente Trump por la guerra en Medio Oriente, declaró que no teme al gobierno de Trump y que hablará en voz alta el mensaje del Evangelio
- La cuenta oficial del papa en X tiene cerca de 18 millones de seguidores
La ‘infraestructura invisible’ de la era de la IA
- Rerum Novarum no cambió de un día para otro la forma de pensar de la gente, pero sí fijó los términos del debate, y durante el medio siglo siguiente algunos reformadores e instituciones católicas la convirtieron en leyes
- Magnifica Humanitas también ejercerá influencia cuando el vocabulario moral establecido por el papa llegue a formar la infraestructura invisible de futuras políticas e instituciones
- La postura de la encíclica es que los desarrolladores no solo construyen sistemas, sino marcos dentro de los cuales crece la inteligencia, y que quien define ese marco define el futuro
- La Iglesia debe estar al lado del mundo sin avasallarlo, y si no se discute públicamente el marco ético que decidirá cómo se usa la IA, podría imponerse la moral del grupo que controla la IA
- El desafío en torno a la IA no se limita a cuestiones técnicas y éticas, sino que también es una tarea ecológica de dar forma a la casa común
- Para que la sociedad absorba la disrupción causada por la IA, hacen falta líderes prudentes que pongan al ser humano en el centro, y organizaciones religiosas como la Catholic Church están en posición de conducir la conversación sobre cómo debe desarrollarse la revolución de la IA
Aún no hay comentarios.