- Magnifica Humanitas pide elegir reconstruir Jerusalén y no Babel en un tiempo de transición en el que la IA, la digitalización y la robótica ponen en tensión la dignidad humana y el bien común
- La doctrina social de la Iglesia, con motivo del 135.º aniversario de Rerum Novarum, aplica al poder tecnológico actual los principios del trabajo, el salario justo, la subsidiariedad, la solidaridad y el destino universal de los bienes
- La IA no es una herramienta neutral, sino que refleja las decisiones de diseñadores, capital y reguladores, y sin responsabilidad, transparencia y control humano puede vulnerar derechos y libertades
- La economía digital puede generar trabajo oculto y explotación como el etiquetado de datos, la moderación de contenidos, la extracción de recursos y el colonialismo de datos, por lo que se necesita responsabilidad en cadenas de suministro y plataformas
- El criterio del progreso no es la eficiencia ni el control, sino si hace al ser humano más humano, y hace falta construir una civilización del amor mediante la educación, el trabajo, la paz, el multilateralismo y el cuidado
La tarea de la doctrina social de la Iglesia en una época de transición tecnológica
- La humanidad se encuentra en un punto de inflexión en el que debe elegir si levantará una nueva Babel o una ciudad donde Dios y el ser humano habiten juntos
- La digitalización, la IA y la robótica están transformando rápida y profundamente la estructura de la vida cotidiana, los procesos de toma de decisiones y el imaginario colectivo
- La tecnología puede sanar, conectar, educar y proteger la casa común, pero al mismo tiempo también puede producir división, exclusión y nuevas injusticias
- La tecnología no es abstractamente buena ni mala, pero en la práctica no es neutral porque refleja las decisiones de quienes la diseñan, financian, regulan y utilizan
- La decisión central no es estar a favor o en contra de la tecnología, sino si construiremos una Babel de la eficiencia que sacrifica a los débiles, o si reconstruiremos Jerusalén con voces diversas y responsabilidad compartida
- La encíclica de 1891 de Pope Leo XIII, Rerum Novarum, puso en primer plano el trabajo, la dignidad de los trabajadores, el salario justo y el valor del ser humano por encima del capital
- Este año, el 135.º aniversario de Rerum Novarum se convierte en una ocasión para aplicar a los poderes tecnológicos actuales y a la economía digital principios de la doctrina social como el trabajo, la subsidiariedad, la solidaridad y el destino universal de los bienes
Babel y Jerusalén
- La Torre de Babel del Génesis revela el intento de alcanzar estabilidad, poder y “un nombre para nosotros” sin referencia a Dios
- Babel se apoya en una uniformidad que elimina la diversidad y, cuando se edifica sobre el orgullo y la autosuficiencia, termina en el colapso de la comunicación y en la dispersión
- La reconstrucción de la muralla de Jerusalén en el libro de Nehemías se presenta como una imagen de levantar de nuevo las ruinas mediante ayuno, oración, escucha, reparto de tareas y responsabilidad compartida
- Jerusalén renace no por el impulso de una sola persona, sino por una reconstrucción en la que participan hombres y mujeres, sacerdotes, artesanos, jefes de familia y jóvenes
- La navegación responsable en la era de la IA se parece más al camino de Jerusalén, construida juntos para restaurar relaciones y orientarse al bien común, que a una Babel que exhibe el poder tecnológico
Principios principales de la doctrina social
- La dignidad humana pertenece a toda persona por el simple hecho de ser humana, sin depender de capacidad, riqueza, posición, logros o elecciones
- Los derechos humanos no son elementos externos añadidos a la persona, sino expresión de una dignidad intrínseca, y deben ser universales, inalienables y tener efectos jurídicos reales
- El bien común se presenta como el conjunto de condiciones sociales que permiten a las personas alcanzar de manera más plena y más fácil su realización
- El derecho a la propiedad privada tiene sentido y propósito, pero siempre está subordinado al destino universal de los bienes, y hoy debe aplicarse también a nuevos bienes como patentes, algoritmos, plataformas digitales, infraestructura tecnológica y datos
- La subsidiariedad es el principio según el cual una autoridad superior no debe sustituir lo que pueden hacer las personas, las familias, las comunidades locales y las organizaciones intermedias; en la era digital también se aplica al poder de plataformas, datos y algoritmos
- La solidaridad es el reconocimiento concreto de que el futuro de cada persona está ligado al futuro de todos, y cuando se une a la subsidiariedad hace posible una cooperación social responsable
- La justicia social aborda también las estructuras, mecanismos y sistemas económicos y culturales que producen desigualdad de forma automática; en la era digital esto incluye el acceso a la tecnología, la vigilancia, los sesgos algorítmicos y la protección de migrantes y refugiados
IA y paradigma tecnocrático
- Pope Francis criticó en Laudato Si’ el paradigma tecnocrático en el que la lógica de la eficiencia, el control y la ganancia domina las decisiones personales, sociales y económicas
- El control sobre plataformas, infraestructura, datos y poder de cómputo está concentrado en muchos casos no en los Estados, sino en grandes actores económicos y tecnológicos
- Estos actores moldean las condiciones de acceso, las reglas de visibilidad y la posibilidad misma de participar, y cuanto más se concentra el poder en unos pocos, mayores son los riesgos de dependencia, exclusión, manipulación y desigualdad
- Los sistemas de IA pueden imitar ciertas funciones de la inteligencia humana y superar a las personas en velocidad y capacidad de cálculo, pero no tienen experiencia, no poseen cuerpo y no conocen desde dentro la alegría, el dolor, el amor ni la responsabilidad
- El “aprendizaje” de la IA es una adaptación estadística basada en datos y retroalimentación, no una experiencia humana formada en la vida mediante elecciones, errores, perdón y fidelidad
- La IA no posee conciencia moral para discernir el bien y el mal, captar el sentido último de una situación o asumir responsabilidad por sus consecuencias
- Si decisiones sensibles como empleo, crédito, acceso a servicios públicos o reputación se delegan por completo a sistemas automatizados, pueden vulnerarse derechos, oportunidades, estatus y libertades
- La responsabilidad significa que debe poder identificarse quién explica, justifica y supervisa una decisión, quién tramita objeciones y quién repara el daño
- No basta con alinear la IA con valores humanos mediante el alignment; también debe debatirse públicamente qué marco ético se aplica y subordinarlo a criterios de justicia social
- La propiedad de los datos no puede dejarse solo en manos privadas y debe regularse adecuadamente; como los datos son fruto de la contribución de muchas personas, no deben tratarse como algo entregado a unos pocos
Antropología, transhumanismo y límite
- La cuestión central para la doctrina social de la Iglesia no es tanto el uso de la tecnología en sí, sino la visión del ser humano que hay debajo
- Si se ve al ser humano como algo que debe completarse o superarse, resulta más fácil aceptar la idea de que ciertas vidas son menos útiles, menos deseables y menos valiosas
- El transhumanismo incluye proyectos de aumentar el rendimiento y las capacidades humanas mediante tecnologías como la biomedicina, la ingeniería corporal, dispositivos y algoritmos
- El posthumanismo, en sus formas más radicales, desafía el antropocentrismo e imagina una hibridación entre lo humano, la máquina y el entorno, así como nuevas etapas evolutivas
- Límites como la discapacidad, la enfermedad, la vejez, el dolor y la vulnerabilidad pueden tratarse fácilmente solo como defectos a corregir, pero la humanidad con frecuencia madura y se abre a la relación a través del límite
- Es correcto esforzarse por aliviar el sufrimiento, pero también hace falta la sabiduría de reconocer la finitud fundamental del ser humano
- El humanismo cristiano no rechaza la ciencia ni la tecnología, sino que las acoge con gratitud y sentido de realidad, colocándolas dentro de una vocación más alta y de la autotrascendencia en el amor
- La pregunta clave en la era de la IA es si la tecnología vuelve la vida humana en la tierra “más humana” en todos sus aspectos
Verdad, educación, trabajo y economía
- Las plataformas digitales y los sistemas de IA transforman profundamente la comunicación pública y política, y pueden difuminar la frontera entre hecho y opinión, verdad y falsedad, mediante narrativas distorsionadas e imágenes y videos manipulados
- La información verdadera no surge del control centralizado ni automatizado, sino que exige verificación, contraste de fuentes y argumentación responsable
- La búsqueda de la verdad es un elemento indispensable de la democracia, y cuando se debilita la pregunta por lo verdadero también se debilita la vida democrática
- La formación para usar IA debe incluir no solo cuándo y con qué propósito usarla, sino también el criterio para decidir cuándo no debe usarse
- La comodidad de obtener rápidamente respuestas o resúmenes puede debilitar el deseo de preguntar y la capacidad de aprender en profundidad
- La exposición temprana y sin supervisión a dispositivos digitales y redes sociales puede afectar negativamente el sueño, la capacidad de atención, la regulación emocional y las relaciones
- Los contenidos violentos o humillantes en línea, la pornografía y el material hipersexualizado, el grooming, las amenazas y la explotación sexual de menores se vuelven más sofisticados con perfiles falsos, algoritmos que facilitan contactos riesgosos y herramientas de IA que manipulan imágenes y videos
- El trabajo no es solo una fuente de ingresos, sino un ámbito donde se expresa y promueve la dignidad de la vida, y el objetivo es que cada persona pueda vivir dignamente con su propio trabajo
- La convergencia de automatización, robótica e IA está cambiando rápidamente la estructura del trabajo, con el riesgo de que, en vez de apoyar al trabajador, las máquinas obliguen a las personas a adaptarse a su velocidad y exigencias
- La automatización y la adopción de IA deben ir acompañadas de medidas verificables para proteger el empleo, la recapacitación y la participación de los trabajadores
- El PIB por sí solo difícilmente basta para evaluar el bienestar integral de las personas y del ambiente, y hacen falta indicadores que consideren también la dignidad del trabajo, la prosperidad compartida, la reducción de la desigualdad y la protección ambiental
- En la era de la IA y la robótica, no puede dejarse todo a la mano invisible del mercado; la política debe orientar la economía y la tecnología hacia el bien común
- La adicción asociada a la economía digital de la atención puede aprovechar vulnerabilidades y debilitar la libertad interior al estar diseñada para retener el tiempo y la atención de los usuarios
- La recopilación masiva de datos y los sistemas algorítmicos crean nuevos riesgos de control social al perfilar desplazamientos, compras, relaciones y preferencias, e influir en la conducta
Trabajo oculto, esclavitud y colonialismo de datos
- Las respuestas inmediatas y aparentemente perfectas de la IA son el resultado de una larga cadena de mediaciones que incluye recursos naturales, infraestructura energética y personas
- La economía digital depende de innumerables trabajos que realizan actividades esenciales pero casi invisibles, como el etiquetado de datos, el entrenamiento de modelos y la moderación de contenidos
- Los moderadores de contenido suelen tratar con material perturbador y, en muchos casos, son jóvenes, principalmente mujeres, que reciben salarios bajos en condiciones difíciles
- La extracción de recursos necesarios para producir dispositivos de IA y microprocesadores es todavía más dura, y en algunas regiones niños y adolescentes manipulan materiales para extraer tierras raras en condiciones peligrosas
- Redes criminales utilizan plataformas en línea, sistemas de mensajería, métodos de pago anónimos y tecnologías de perfilado para reclutar, controlar y transportar a víctimas de trata
- La trata de personas debe reconocerse como una forma moderna de esclavitud y una grave violación de la dignidad humana
- El colonialismo actual no solo domina cuerpos, sino que aparece como colonialismo de datos, apropiándose de datos y convirtiendo la vida de las personas en información explotable
- Datos vitales como datos de salud, perfiles epidemiológicos, mapas genéticos e información demográfica pueden usarse para entrenar modelos predictivos, orientar estrategias de inversión, anticipar crisis y determinar relevancia
- Debe garantizarse que los datos recolectados en nombre de la ayuda, la investigación o la innovación no se conviertan en herramientas de dominación, sino en un verdadero bien común
- Debe aumentar la transparencia de las cadenas de suministro que sostienen la industria tecnológica y la economía digital, para que no se construyan ventajas competitivas sobre explotación oculta
- Las empresas y los inversionistas deben priorizar verificaciones éticas preventivas, protección de trabajadores, respuesta frente al trabajo forzado y evaluación del impacto social de modelos de negocio basados en datos
- Las plataformas digitales deben cooperar de manera responsable con las autoridades y la sociedad civil para evitar que herramientas de comunicación, pago y perfilado se conviertan en canales de reclutamiento y control de víctimas
Guerra, armas y multilateralismo
- La IA y la revolución digital intensifican no solo la guerra tradicional, sino también conflictos híbridos como ciberataques, manipulación informativa, campañas de influencia y automatización de decisiones estratégicas
- Cuando la tecnología se separa de la ética y la responsabilidad, puede volver más rápidas e impersonales las decisiones sobre vida y muerte, y hacer que el uso de la fuerza parezca una opción inmediata y viable
- La IA puede reforzar la defensa y la protección de civiles, pero también corre el riesgo de bajar el umbral para el uso de la fuerza, ocultar a las personas detrás de la responsabilidad y reducir al enemigo a estadísticas y a las víctimas a “daños colaterales”
- La civilización del amor no es una utopía ingenua, sino un proyecto exigente que traduce el amor en estructuras de justicia y da forma institucional a la fraternidad
- La cultura del poder normaliza la guerra, busca una mayor fuerza militar, aprovecha la crisis del multilateralismo y promueve el falso realismo de que “no hay alternativa”
- En 1965, Saint Paul VI clamó ante la Asamblea General de la ONU: “¡Nunca más la guerra, nunca más la guerra!”
- Hoy, con el rearme y con el regreso de la guerra en el discurso público como instrumento de la política internacional, se debilitan los principios éticos que antes limitaban el uso de la fuerza
- El crecimiento del complejo militar-industrial se ha convertido en una característica definitoria del panorama político y en un sector central de la economía de varios países
- La creencia de que la disuasión nuclear es una premisa indispensable de la seguridad ha contribuido a nuevas carreras armamentistas, al desmantelamiento gradual de los acuerdos de reducción nuclear y al desarrollo de armas miniaturizadas que hacen que su uso parezca una opción más viable
- Cuanto más fácil sea desplegar sistemas de armas autónomas, más “ejecutable” se vuelve la guerra y menos control humano conserva
- No puede permitirse delegar decisiones letales o irreversibles a sistemas artificiales, y ningún algoritmo puede volver la guerra moralmente aceptable
- Todos los sistemas usados en contextos bélicos deben permitir rastrear y reconstruir el proceso de decisión, y la responsabilidad y la culpa no deben desaparecer dentro de la “máquina”
- El diálogo y la diplomacia deben ser los medios normales para resolver conflictos, y se necesitan normas comunes para proteger a los civiles y a las personas vulnerables también frente a violencias invisibles como ciberataques, manipulación de datos y campañas de influencia
- Las organizaciones internacionales, incluidas las United Nations, pueden promover el diálogo entre Estados, la solución pacífica de controversias, el desarrollo integral de los pueblos, la protección de los vulnerables, el desarme y el cuidado de la creación
La defensa del ser humano en la era de la IA y la vida cristiana
- La pregunta por proteger al ser humano en la era de la inteligencia artificial está vinculada al misterio de la Encarnación, por el cual la Palabra se hizo persona y entró en la condición humana
- Dios carga con la fragilidad humana y la convierte en lugar de salvación; para Dios no existe ningún momento ni situación humana carente de valor
- Ningún sistema de cálculo, por sofisticado que sea, puede producir un corazón capaz de darse a sí mismo ni una conciencia que discierna entre el bien y el mal, y el rostro humano sigue estando en el centro de la historia
- La Eucharistic spirituality se presenta como una espiritualidad de unidad eclesial en el amor, que impulsa a la justicia, al compartir y al cuidado prioritario de quienes están cargados por la pobreza y la marginación
- Mientras las nuevas redes económicas y tecnológicas pueden producir exclusión, aislamiento y dependencia, hace falta otro paradigma que preserve el vínculo humano y dé voz a quienes permanecen invisibles
- La tarea constructiva de nuestro tiempo debe poner en el centro la relación con Dios, aceptar el límite humano como una realidad natural y positiva, y caracterizarse por la responsabilidad compartida y el lenguaje del Evangelio
- Aprender a relacionarse humanamente con el mundo digital debe formar parte de la educación en la fe y de una vida según el Evangelio, y el mundo digital debe considerarse un nuevo continente que necesita ser evangelizado
- Deben valorarse lugares y tiempos en los que importa la presencia física, como compartir una comida, reunirse en comunidad cristiana, pasar tiempo con quienes están solos y servir a los pobres
- La imagen de reconstrucción de Nehemías ilumina la vocación en la era de la transición digital y exige no quedarse como observadores pasivos o comentaristas ante las fracturas sociales y culturales
- Los lugares de reconstrucción son laboratorios, empresas tecnológicas, escuelas, medios, instituciones y comunidades locales, donde hace falta unir escucha y valentía, oración y responsabilidad, para hacer de la ciudad humana un lugar más habitable
1 comentarios
Opiniones en Lobste.rs
El simple hecho de que exista un documento así ya es una realidad de ciencia ficción que jamás imaginé llegar a ver en vida
Ya casi no se habla de eso, pero sigue siendo absurdamente raro
Si eso hubiera aparecido en un libro, ya fuera de ciencia ficción o no, habría parecido demasiado “inventado”. Demasiadas cosas dependieron de la inclinación de un rifle
Respuesta de Anthropic
"Si sirve de algo, a veces lo explico como algo un poco parecido a dar vida a un personaje ficticio"
Siento que de toda la gente de Anthropic emana maldad pura
Me sorprendió de manera bastante agradable ver este enlace publicado en lobste.rs
Me prometí a mí mismo leer bien la primera encíclica apenas eligieran al Papa, y me da gusto que justo sea sobre un tema que de verdad me interesa
Ojalá pueda hacerme tiempo este fin de semana para profundizar. Revisé por encima el capítulo 1 y, viendo la cantidad de referencias, no parece una lectura ligera