Magnifica Humanitas: La custodia de lo humano.

Magnifica Humanitas: La custodia de lo humano

«Sobre la custodia de la persona humana en la era de la inteligencia artificial». Es el subtítulo de la encíclica Magnifica Humanitas, que, siguiendo la línea de la doctrina social, pone nombre y denuncia las numerosas distorsiones que impiden a miles de millones de personas llevar una vida digna.

 

Pero es un documento que ofrece una visión positiva, llena de esperanza. Otro camino es posible, si queremos que la IA nos haga más perspicaces, competentes, humanos y sensibles hacia los demás. A condición de saber bien cuáles son los riesgos si aceptamos pasivamente el dominio digital.

 

El documento se inscribe plenamente en el marco de las encíclicas sociales y, de hecho, la fecha de la firma se fijó el 15 de mayo de 2026, coincidiendo con la Rerum Novarum del Papa León XIII, del 15 de mayo de 1891.

 

El texto se articula en torno a una introducción (nn. 1-16) y cinco capítulos: «Un pensamiento dinámico fiel al Evangelio», nn. 17-45; «Fundamentos y principios de la Doctrina Social de la Iglesia», nn. 46-89; «Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA», nn. 90-130; «Custodiar lo humano en la transformación. Verdad, trabajo, libertad», nn. 131-181; «La cultura del poder y la civilización del amor», nn. 182-228; y una conclusión, nn. 229-245.

El prefacio presenta dos imágenes bíblicas destinadas a servir de guía. Una es la Torre de Babel (Gn 11,1-9), símbolo de la pretensión de autosuficiencia humana que produce desastre y confusión. Es el riesgo que corremos y que hay que evitar. La segunda es la imagen positiva del relato del profeta Nehemías (Ne 1-2), cuando el pueblo de Israel, al regresar del exilio babilónico, coopera en la reconstrucción de Jerusalén. 

La ciudad renace «a traves de la responsabilidad compartida de todo el pueblo: sacerdotes, artesanos, jefes de familia, mujeres y jóvenes. Es una obra que tiene a Dios en el centro y reconstruye los vínculos incluso antes que las piedras» (n. 8). Evitemos, pues, el «síndrome de Babel» y construyamos el bien, escribe el Papa, centrándonos en las res novae de nuestro tiempo y, por tanto, en las posibilidades que ofrecen las tecnologías. 

A lo largo de los capítulos 1 y 2, el documento repasa la evolución de la Doctrina Social de la Iglesia. Señala que se trata de un desarrollo coherente, que ha seguido el curso de los tiempos y que requiere una atención continua por parte de la Iglesia. Tanto porque la Iglesia vive en la historia de la humanidad, acompañándola, como porque «el poder y la omnipresencia de las tecnologías emergentes se entrelazan con el tejido de la vida cotidiana, moldean los procesos de toma de decisiones e inciden profundamente en el imaginario colectivo» (n. 4).

 

La Doctrina Social, recuerda el Papa, se basa en tres pilares: el ser humano como imagen del Dios trinitario, la igual dignidad de todos los seres humanos, el altísimo valor de los derechos humanos. Y tiene cinco principios fundamentales: el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad, la justicia social. El criterio para verificar la bondad del progreso es si persigue el «desarrollo humano integral» (nn. 82-85).

 

Y también la Iglesia —este es un aspecto muy importante del texto— está llamada a la coherencia en su actuar interno, con respecto a estos principios, valorizando a las personas, corrigiendo los abusos de poder, para «ofrecer a la sociedad un signo creíble: porque buscar juntos el bien de todos, en la corresponsabilidad y en la fraternidad, no es una utopía, sino una posibilidad real» (n. 89).

Por un lado, tenemos como telón de fondo el Magisterio de la Doctrina Social; por otro, las dos encíclicas Laudato Si’ y Fratelli Tutti. El desarrollo humano y tecnológico debe respetar el medio ambiente —la única Tierra de la que disponemos, dada por Dios— y el Papa tiene muy presentes los costes energéticos de la IA, invitando a considerarlos con atención.

 

Por otra parte, la tecnología es sostenible si señala el camino de la fraternidad y la hermandad universales y no el de la división y la explotación, porque todos y todas somos hijos del mismo Dios.

 

En esta visión positiva, la tecnología, el desarrollo, el poder económico y político deben ponerse al servicio de la humanidad. El capítulo tercero, retomando los análisis del Papa Francisco en Fratelli Tutti, repite que la tecnología no puede estar controlada por actores privados (nn. 95-96), sino que debe ser orientada para que favorezca el desarrollo y la participación.

 

En cuanto a la IA, el Papa León XIV señala  que se necesita un enfoque «prudente y cauteloso» (n.º 100), ante la rapidez de los cambios —por lo que hay que evitar definiciones que corran el riesgo de quedar obsoletas en poco tiempo—, pero también hay que evitar una fácil divinización del término «inteligencia».

 

No deben olvidarse ni ocultarse las ventajas de la potencia de cálculo hoy posible, pero siempre observando con atención cuánto cuestan en términos de uso de los recursos. Por lo tanto, debe perseguirse con determinación y atención la sostenibilidad de las soluciones tecnológicas. Aquí, precisamente, es fuerte la huella de Laudato Si’.

 

El Papa León XIV explica que la tecnología no es neutra y, por lo tanto, es su uso el que debe ponerse al servicio del bien común y de la humanidad. En este sentido, se concretan los principios rectores de la Doctrina Social. 

«Hablar de destino universal de los bienes significa encontrar modos de asegurar el acceso universal a las tecnologías y a la formación. Hablar de subsidiariedad exige proteger la capacidad de las comunidades de decidir y corregir, sin relegar su intervención a una vigilancia posterior, una vez que los estándares hayan sido establecidos en otro sitio. Hablar de solidaridad obliga a reconocer el trabajo invisible, a menudo explotado, que alimenta los modelos algorítmicos. Hablar de justicia pide cuestionar las geografías del poder que definen quien puede programar los modelos y quien es solo objeto de esa programación, y reconocer que la justicia social no es solo un objetivo que hay que tutelar después de la adopción de las tecnologías, sino una condición que se debe poner en práctica desde su diseño » (n.º 109). 

No menos importante, en este viaje al interior de la IA, es el tema del «desarme». La tecnología no debe ponerse al servicio de la destrucción y la muerte, sino al servicio de la custodia de la vida y del bien. 

«Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida» (n. 110). 

En el documento, el bien común y la solidaridad se encarnan en un llamamiento a los poderes tecnocráticos, a la política y a todos los hombres y mujeres del planeta, para que el desarrollo tecnológico sea portador de un nuevo humanismo. Una visión en la que las ciencias y las tecnologías converjan hacia un mundo más humano.

 

La Iglesia propone ejemplos de heroísmo cotidiano, de mujeres y hombres que, en silencio, dan testimonio con su solidaridad, incluso a costa de la vida, de que otro camino es posible. 

«Precisamente esta convergencia de instituciones justas, testimonios creíbles y fidelidades cotidianas mantiene viva la esperanza e indica una dirección: hacer que la técnica crezca sin que se repliegue el corazón. Por eso la humanidad —magnifica y herida— no debe ser sustituida ni superada; puede acoger los progresos de la técnica para aliviar los sufrimientos y abrir posibilidades nuevas, siempre que no reniegue de aquello que la hace ser ella misma, es decir, la capacidad de relación y de amor. A este punto se impone una pregunta decisiva: si existe un autentico “más que humano”, ¿dónde se encuentra? La fe cristiana responde indicando una plenitud que no deriva de una divinización tecnológica, sino de aquella que produce la gracia de Dios, recibida en Cristo» (n. 126).

En este sentido, la verdadera alternativa no está entre el entusiasmo y el miedo, sino entre dos formas de construir: un progreso que sirva a la persona y a los pueblos, o un progreso que los someta a lógicas de poder.

En el capítulo cuarto - «Custodiar lo humano en la transformación. Verdad, trabajo, libertad» - se indica la dirección en la que debe situarse el desarrollo tecnológico. No el miedo, sino la visión positiva de que un mundo nuevo es posible.

 

La búsqueda de la verdad y la comunicación deben ponerse al servicio del bien común y de una mayor conciencia. Es muy valiosa aquí la indicación de que se necesita una «ecología de la comunicación» (nn. 137-138), para informar y no para desinformar.

 

Son de gran relevancia las referencias al potencial educativo de la IA y la atención que deben prestar las familias a los riesgos de captación, explotación y chantaje, sobre todo hacia los menores (nn. 141-142). En cuanto a los temas del trabajo y el empleo, la visión de la Iglesia es clara y el Papa la recuerda con perspicacia y realismo. 

Una sabiduría de gran importancia cuando se observa que «se necesitan herramientas capaces de adaptarse: modelos articulados, experimentos locales, redistribuciones progresivas, nuevos derechos de acceso a los bienes esenciales. Sin perseguir una armonía abstracta, se trata de construir formas concretas de convivencia humana en la transformación» (n. 153).

El capítulo se cierra con algunos pasajes importantes sobre la importancia de la lucha contra todas las formas de esclavitud de la sociedad moderna. Y con la referencia al hecho de que también la Iglesia, en su recorrido histórico, ha tenido un camino de conversión, que lentamente y solo en el siglo XX —pero con fuerza— asumió un compromiso decidido a favor del reconocimiento de todos los derechos humanos, como prueba de fuego de la bondad de una visión equitativa de la política, la economía y el desarrollo social (nn. 170-181).

 

Por último, en el capítulo quinto - «La cultura del poder y la civilización del amor» -, el análisis se convierte en propuesta. El Papa León XIV retoma y profundiza de manera sistemática las denuncias de los conflictos y de la mentalidad de opresión y violencia que tantas veces ha reiterado en el primer año de su pontificado, a través de discursos y tomas de posición públicas.

 

La «cultura del poder» (n.º 188), señala el Papa, se materializa en la crisis del multilateralismo, en los conflictos actuales que parecen imparables, en una especie de «normalización de la guerra» (n.º 190), a la que contribuye la pérdida de la memoria histórica. Como si, en definitiva, solo existiera el conflicto como vía para resolver los problemas.

 

La tecnología se pone de buen grado al servicio de esta lógica, tras la cual se esconde una voluntad de lucro sin límites. No es así para la Iglesia, que indica puntualmente los criterios éticos que deben utilizarse. 

«No es suficiente invocar la ética de manera genérica: es necesario indicar criterios precisos de discernimiento. El primero se refiere a la responsabilidad personal. Cuando la decisión de atacar se automatiza o se vuelve opaca, aumenta el riesgo de que se pierda el sentido de la responsabilidad. Por eso, la cadena de responsabilidades debe seguir siendo identificable y verificable: quienes planifican, entrenan, autorizan y emplean deben poder rendir cuentas de sus decisiones. El segundo criterio se refiere al tiempo del juicio moral. La IA tiende a acortar los tiempos de decisión; pero, en la guerra, las decisiones irreversibles no pueden tener como criterios supremos la rapidez y la eficiencia. El tercer criterio es la distinción y la protección de los civiles. Toda tecnología que facilite atacar sin ver el rostro del otro baja el umbral moral del conflicto. La selección de objetivos y el uso de la fuerza no pueden confundir a combatientes y no combatientes, ni ignorar el impacto sobre las poblaciones indefensas» (n.º 199).

En la mentalidad actual, que querría llevarnos a una especie de «normalización del conflicto» (n. 208), a la que se pliegan la desinformación, la fácil instrumentalización y la demonización del adversario, la Iglesia señala otro camino, el de la «civilización del amor», ya trazado por el Papa Juan Pablo II (nn. 210-228), relanzando el diálogo, la convivencia pacífica, la búsqueda de soluciones compartidas, el multilateralismo en la política y también la misericordia recíproca. La espiritualidad que necesitamos, subraya el Papa, se basa en la unión con Cristo. Es eucarística. No es una perspectiva intimista, sino seria y concreta. 

«La Eucaristía nos mueve a la justicia y al compartir, con una atención preferencial hacia quienes sufren el peso de la pobreza y de la marginación. Y mientras las nuevas redes económicas y tecnológicas pueden generar exclusión, aislamiento y dependencias, la Iglesia, alimentada por la Eucaristía, está llamada a hacer visible otro tipo de medida, custodiando los vínculos, devolviendo la voz a los invisibles y orientando los procesos hacia la dignidad de las personas» (n. 235). 

Al final del recorrido, el Papa León XIV retoma la historia de Nehemías con la que abrió la encíclica: la convergencia hacia un proyecto común. Y la visión de la esperanza se concreta en el canto del Magnificat para convertirnos en «tejedores de esperanza en nuestro mundo» (n. 245).

 

Uno de los méritos del documento es, sin duda, haber mostrado de manera plástica cómo los principios de la Doctrina Social son criterios útiles para verificar la bondad de las decisiones que se toman.

 

En la encíclica, el discurso del Papa Francisco ante el G7 sobre la IA del 14 de junio de 2024 (cf. https://www.vatican.va/content/francesco/es/speeches/2024/june/documents/20240614-g7-intelligenza-artificiale.html), aunque importante, solo se cita una vez en el n.º 83.

 

Por otro lado, no hay referencias al Rome Call for AI Ethics del 28 de febrero de 2020 (cf. https://www.vatican.va/roman_curia/pontifical_academies/acdlife/documents/rc_pont-acd_life_doc_20202228_rome-call-for-ai-ethics_en.pdf), promovido por la Pontificia Academia para la Vida, que es el primer y hasta ahora único documento vaticano dedicado a esbozar algunos aspectos concretos para una visión ética aplicada a los algoritmos. En aquella ocasión se acuñó el término algor-ética (sobre los principios éticos para el desarrollo y uso de la IA), que hoy ha pasado al uso común, del que falta una referencia en la encíclica. 

P. Joseba Kamiruaga Mieza CMF