Fabrizio Mastrofini
«Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial». Este es el subtítulo de la Encíclica Magnifica Humanitas, que, en la línea de la Doctrina Social, denuncia las numerosas distorsiones que impiden a miles de millones de personas vivir una vida digna. Pero es también un documento que transmite una visión positiva, llena de esperanza. Otro camino es posible, si queremos que la IA nos haga más sagaces, competentes, humanos y sensibles hacia los demás. Con la condición de conocer bien cuáles son los riesgos si aceptamos pasivamente el dominio digital.
El documento entra plenamente dentro de las encíclicas sociales y, de hecho, la fecha de su firma se fijó el 15 de mayo de 2026, coincidiendo con la Rerum Novarum de León XIII, del 15 de mayo de 1891.
El texto se desarrolla a través de una introducción (nn. 1-16) y cinco capítulos: «Un pensamiento dinámico fiel al Evangelio», nn. 17-45; «Fundamentos y principios de la Doctrina Social de la Iglesia», nn. 46-89; «Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA», nn. 90-130; «Custodiar lo humano en la transformación. Verdad, trabajo, libertad», nn. 131-181; «La cultura del poder y la civilización del amor», nn. 182-228; y una conclusión, nn. 229-245.
***
El prefacio presenta dos imágenes bíblicas destinadas a servir de guía.
Una es la Torre de Babel (Gn 11,1-9), símbolo de la pretensión de autosuficiencia humana que produce desastre y confusión. Es el riesgo que corremos y que debemos evitar. La segunda es la imagen positiva del relato del profeta Nehemías (Ne 1-2), cuando el pueblo de Israel, de regreso del exilio babilónico, coopera en la reconstrucción de Jerusalén.
La ciudad renace «a través de la responsabilidad compartida de todo el pueblo: sacerdotes, artesanos, jefes de familia, mujeres y jóvenes. Es una obra que tiene a Dios en el centro y reconstruye los vínculos antes incluso que las piedras» (MH, n. 8). Evitemos, por tanto, el «síndrome de Babel» y construyamos el bien, escribe el Papa, centrándose en las res novae de nuestro tiempo y, por tanto, en las posibilidades que ofrecen las tecnologías.
En su desarrollo, en los capítulos 1 y 2, el documento papal recorre la evolución de la Doctrina Social de la Iglesia. Señala cómo se trata de un desarrollo coherente, que ha seguido el ritmo de los tiempos y que necesita una atención continua por parte de la Iglesia. Tanto porque la Iglesia vive en la historia de la humanidad, acompañándola, como porque «el poder y la omnipresencia de las tecnologías emergentes se insertan en la trama de la vida cotidiana, modelan los procesos de decisión e influyen profundamente en el imaginario colectivo» (n. 4).
La Doctrina Social, recuerda el Papa, se fundamenta en tres pilares: el ser humano como imagen del Dios trinitario, la igual dignidad de todos los seres humanos y el altísimo valor de los derechos humanos. Y tiene cinco principios fundamentales: el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad y la justicia social. El criterio para verificar la bondad del progreso es si persigue el «desarrollo humano integral» (nn. 82-85).
También la Iglesia —y este es un aspecto muy importante del texto— está invitada a la coherencia en su actuación interna respecto a estos principios, valorando a las personas y purificando los abusos de poder, para «ofrecer a la sociedad un signo creíble de que buscar juntos el bien de todos, en la corresponsabilidad y en la fraternidad, no es una utopía, sino una posibilidad real» (n. 89).
***
Por un lado, está como telón de fondo el Magisterio de la Doctrina Social; por otro, las dos encíclicas Laudato Si’ y Fratelli Tutti. El desarrollo humano y tecnológico debe respetar el medio ambiente —la única Tierra que tenemos a disposición, dada por Dios— y los costes energéticos de la IA son tenidos muy presentes por el Papa, que invita a considerarlos atentamente.
Por otra parte, la tecnología es sostenible si señala el camino de la fraternidad y sororidad universales, y no el de la división y la explotación, porque todos y todas somos hijos del mismo Dios.
En esta visión positiva, la tecnología, el desarrollo y el poder económico y político deben ponerse al servicio de la humanidad. El tercer capítulo, retomando los análisis del papa Francisco en Fratelli Tutti, reafirma que la tecnología no puede ser controlada por actores privados (nn. 95-96), sino que debe ser orientada para favorecer el desarrollo y la participación.
Respecto a la inteligencia artificial, sabiamente el papa León XIV señala que es necesario un enfoque «sobrio y vigilante» (n. 100), ante la rapidez de los cambios —por lo que deben evitarse definiciones que corren el riesgo de quedar obsoletas en poco tiempo—, pero también hay que evitar una fácil divinización del término «inteligencia». Observa, en efecto:
«La impresión de objetividad que pueden suscitar las respuestas y propuestas de estos sistemas corre el riesgo de hacernos olvidar que reflejan los parámetros culturales de quienes los han diseñado y entrenado, con todas sus virtudes y defectos. La imitación artificial de una comunicación humana positiva —palabras de consejo, de empatía, de amistad, de amor— puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede engañar y crear la ilusión de estar en relación con un auténtico sujeto personal».
Cuando la palabra es simulada, no construye una relación, sino solo una apariencia de ella. La imitación artificial de la relación de cuidado o de acompañamiento puede volverse peligrosa cuando se introduce en un contexto pobre en relaciones y afectos reales: entonces, el riesgo no es tanto que una persona crea estar hablando con otra persona, sino que pierda el deseo mismo de buscar verdaderamente al otro» (n. 100).
***
No deben olvidarse ni ocultarse las ventajas de la capacidad de cálculo hoy posible, pero siempre observando atentamente cuánto cuestan en términos de utilización de recursos. Por ello, debe perseguirse con determinación y atención la sostenibilidad de las soluciones tecnológicas. Aquí se percibe claramente la impronta de Laudato Si’.
Con gran lucidez, el papa León XIV explica que la tecnología no es neutral y que, por tanto, es su uso el que debe ponerse al servicio del bien común y de la humanidad. En este sentido, los principios guía de la Doctrina Social se vuelven concretos.
«Hablar del destino universal de los bienes significa encontrar modos de asegurar el acceso universal a las tecnologías y a la formación. Hablar de subsidiariedad exige proteger la capacidad de las comunidades para elegir y corregir, sin relegar su intervención a una mera vigilancia después de que los estándares hayan sido escritos en otro lugar. Hablar de solidaridad obliga a reconocer el trabajo invisible, a menudo explotado, que alimenta los modelos algorítmicos. Hablar de justicia impone interrogarse sobre las geografías del poder que definen quién puede entrenar los modelos y quién es solamente objeto de entrenamiento, y reconocer que la justicia social no es solo un objetivo que debe protegerse después de la adopción de las tecnologías, sino una condición previa que debe practicarse en su mismo diseño» (n. 109).
No menos importante, en este recorrido dentro de la IA, es el tema del «desarme». La tecnología no debe ponerse al servicio de la destrucción y de la muerte, sino al servicio de la protección de la vida y del bien.
«Desarmar no significa renunciar a la tecnología, sino impedir que domine lo humano. Significa sustraerla a los monopolios, hacerla discutible y cuestionable, y por tanto habitable, devolviéndola a la pluralidad de las culturas humanas y de las formas de vida» (n. 110).
***
En el documento, el bien común y la solidaridad se encarnan en un llamamiento a los poderes tecnocráticos, a la política y a todos los hombres y mujeres del planeta, para que el desarrollo tecnológico sea portador de un nuevo humanismo. Una visión en la que las ciencias y las tecnologías converjan hacia un mundo más humano.
La Iglesia propone ejemplos de heroísmo cotidiano, de mujeres y hombres que en silencio testimonian con su solidaridad, incluso a costa de la propia vida, que otro camino es posible.
«Precisamente este entramado de instituciones justas, testimonios creíbles y fidelidades cotidianas mantiene viva la esperanza e indica una dirección: hacer crecer la técnica sin hacer retroceder el corazón. Por ello, la humanidad —magnífica y herida— no debe ser sustituida ni superada: puede acoger los progresos de la técnica para aliviar los sufrimientos y abrir nuevas posibilidades, siempre que no renuncie a aquello que la hace ser ella misma, es decir, la capacidad de relación y de amor. En este punto se impone una pregunta decisiva: si existe un auténtico “más que humano”, ¿dónde se encuentra? La fe cristiana responde indicando un cumplimiento que no deriva de una divinización tecnológica, sino de la realizada por la gracia de Dios recibida en Cristo» (n. 126).
En este sentido, la verdadera alternativa no está entre entusiasmo y miedo, sino entre dos maneras de construir: un progreso que sirve a la persona y a los pueblos, o un progreso que los somete a lógicas de poder.
En el cuarto capítulo («Custodiar lo humano en la transformación. Verdad, trabajo, libertad») se indica la dirección en la que debe situarse el desarrollo tecnológico. No el miedo, sino la visión positiva de que un mundo nuevo es posible.
La búsqueda de la verdad y la comunicación deben ponerse al servicio del bien común y de una mayor conciencia. Es valiosa aquí la indicación de que hace falta una «ecología de la comunicación» (nn. 137-138), para informar y no para desinformar.
***
Son de gran relevancia las referencias a las potencialidades educativas de la IA y la atención que las familias deben prestar a los riesgos del acoso, la explotación y el chantaje, especialmente hacia los menores (nn. 141-142). Sobre los temas del trabajo y del empleo, la visión de la Iglesia es clara y el Papa la recuerda con perspicacia y realismo.
Una sabiduría de gran importancia cuando se afirma que «se necesitan instrumentos capaces de adaptación: modelos articulados, experimentaciones locales, redistribuciones progresivas, nuevos derechos de acceso a los bienes esenciales. Sin perseguir una armonía abstracta, se trata de construir formas concretas de convivencia humana en la transformación» (n. 153).
El capítulo concluye con algunos importantes pasajes sobre la importancia de la lucha contra todas las formas de esclavitud de la sociedad moderna. Y con el recordatorio de que también la Iglesia, en su recorrido histórico, ha vivido un proceso de conversión, que lentamente y solo en el siglo XX —pero con fuerza— asumió un compromiso decidido en favor del reconocimiento de todos los derechos humanos, como piedra de toque de la bondad de una visión justa de la política, la economía y el desarrollo social (nn. 170-181).
***
Finalmente, en el quinto capítulo («La cultura del poder y la civilización del amor»), el análisis se convierte en propuesta. León XIV retoma y profundiza de manera sistemática las denuncias de los conflictos y de la mentalidad de opresión y violencia que tantas veces ha reiterado durante el primer año de su pontificado, a través de discursos y declaraciones públicas.
La «cultura del poder» (n. 188), señala el Papa, se manifiesta en la crisis del multilateralismo, en los conflictos actuales que parecen imparables y en una especie de «rehabilitación de la guerra» (n. 190), favorecida por una pérdida de la memoria histórica. Como si, en definitiva, no existiera otro camino para resolver los problemas que el conflicto.
La tecnología se pone con facilidad al servicio de esta lógica, detrás de la cual se esconde una voluntad de beneficio sin límites. No así la Iglesia, que indica con claridad los criterios éticos que deben utilizarse.
«No basta invocar genéricamente la ética: es necesario indicar criterios precisos de discernimiento. El primero se refiere a la responsabilidad personal. Cuando la decisión de atacar se automatiza o se vuelve opaca, crece el riesgo de desresponsabilización. Por ello, la cadena de responsabilidades debe permanecer identificable y verificable: quien diseña, quien entrena, quien autoriza y quien utiliza debe poder responder de sus decisiones. El segundo criterio se refiere al tiempo del juicio moral. La IA tiende a reducir los tiempos de decisión; pero, en la guerra, las decisiones irreversibles no pueden tener como criterios supremos la rapidez y la eficiencia. El tercer criterio es la distinción y la protección de los civiles. Toda tecnología que hace más fácil atacar sin ver el rostro del otro reduce el umbral moral del conflicto. La selección de objetivos y el uso de la fuerza no pueden confundir combatientes y no combatientes, ni ignorar el impacto sobre las poblaciones indefensas» (n. 199).
Ante la mentalidad actual, que querría llevarnos a una especie de «normalización del conflicto» (n. 208), alimentada por la desinformación, la fácil instrumentalización y la demonización del adversario, la Iglesia propone otro camino: el de la «civilización del amor», ya señalado por san Juan Pablo II (nn. 210-228), promoviendo nuevamente el diálogo, la convivencia pacífica, la búsqueda de soluciones compartidas, el multilateralismo político y también la misericordia recíproca. La espiritualidad que necesitamos, subraya el Papa, está basada en la unión con Cristo. Es eucarística. No es una perspectiva intimista, sino seria y concreta.
«La Eucaristía nos abre a la justicia y a la compartición, con una atención preferencial hacia quienes cargan con el peso de la pobreza y la marginación. Y mientras las nuevas redes económicas y tecnológicas pueden generar exclusión, aislamiento y dependencias, la Iglesia, alimentada por la Eucaristía, está llamada a hacer visible otra medida, custodiando los vínculos, devolviendo la voz a los invisibles y orientando los procesos hacia la dignidad de las personas» (n. 235).
***
Al término del recorrido, el papa León XIV retoma la historia de Nehemías con la que había abierto la Encíclica: la convergencia hacia un proyecto común. Y la visión de la esperanza se concreta en el canto del Magnificat para convertirse en «tejedores de esperanza en nuestro mundo» (n. 245).
El mérito del documento es, sin duda, haber mostrado de forma clara cómo los principios de la Doctrina Social son criterios útiles para verificar la bondad de las decisiones que se toman. Por ejemplo, cuando se refiere a «empresas y plataformas que definen condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas. La subsidiariedad exige que tales procesos no se impongan desde arriba de manera opaca y unilateral, sino que se orienten al bien común mediante transparencia, responsabilidad y formas reales de participación (auditorías independientes, transparencia sobre los algoritmos, acceso equitativo a los datos, mecanismos de recurso)» (n. 71).
En el plano ético, sería interesante desarrollar un diálogo, a partir de la Encíclica, con quienes trabajan en esta línea. Por ejemplo, el sábado 23 de mayo, en una amplia entrevista previa a la publicación del documento papal, el filósofo Luciano Floridi, a propósito del poder de los algoritmos y de la responsabilidad ética, señalaba que: «un algoritmo de selección de personal que descarta sistemáticamente a los candidatos con un determinado apellido es el producto de decisiones de diseño, de datos de entrenamiento, de aplicaciones contingentes y de muchas otras circunstancias y operaciones; quizá nadie entre los diseñadores y usuarios haya querido la discriminación. Para describir este tipo de mal hace falta una ética de las arquitecturas, atenta a configuraciones, umbrales, parámetros y distribución del control. Sin embargo, la intención no desaparece: se desplaza hacia arriba, se articula en las decisiones de los contratantes, de los diseñadores y de los reguladores que han decidido aprobar o no controlar. El mal artificial no exime a nadie; solo obliga a mirar en lugares distintos de aquellos donde la ética tradicional estaba acostumbrada a buscar a los responsables» (La Stampa–Tuttolibri, 23 de mayo de 2026, pp. 4-5).
Por último, en la Encíclica el discurso del papa Francisco en el G7 sobre IA de 2024 se cita solo una vez (n. 83). No hay referencias a la Rome Call for AI Ethics de 2020, promovida por la Pontificia Academia para la Vida, que fue el primer documento vaticano en proponer de forma concreta una visión ética aplicada a los algoritmos. En esa ocasión se acuñó el término algor-ética, hoy ya de uso común (y recogido en las palabras nuevas de la Accademia della Crusca), del cual no aparece referencia en la Encíclica.