La primera encíclica del papa León XIV ha irrumpido en el escenario internacional como uno de los documentos doctrinales más ambiciosos que la Iglesia católica ha publicado en décadas sobre tecnología, poder y futuro humano. Bajo el título Magnifica humanitas (“Magnífica humanidad”), el pontífice sitúa a la inteligencia artificial en el centro de una nueva cuestión social global, comparable —según su planteamiento— a la revolución industrial que afrontó León XIII con la histórica encíclica Rerum Novarum.
Publicado este lunes y firmado simbólicamente en el 135 aniversario de aquel texto fundacional de la doctrina social moderna de la Iglesia, el documento supone una advertencia directa sobre los riesgos políticos, económicos, militares y antropológicos derivados del desarrollo acelerado de la IA.
La encíclica aparece en un momento especialmente delicado para el debate tecnológico mundial. La expansión de sistemas generativos, la automatización del empleo, la concentración de datos en grandes corporaciones y la militarización de algoritmos han provocado un choque creciente entre gobiernos, empresas y organismos internacionales. En ese contexto, León XIV ha querido posicionar al Vaticano como una autoridad moral global en la discusión sobre el futuro digital. El documento no es únicamente una reflexión religiosa: es también un manifiesto político y ético que cuestiona la arquitectura del poder tecnológico contemporáneo.
La elección misma del nombre papal León XIV ya anticipaba esta orientación. Desde el inicio de su pontificado, el Papa había explicado que eligió ese nombre como homenaje a León XIII, el pontífice que afrontó las consecuencias sociales de la industrialización masiva del siglo XIX. Ahora, la nueva revolución tecnológica —centrada en la inteligencia artificial— es presentada por el Vaticano como un desafío equivalente o incluso superior. Según el texto, la humanidad se encuentra ante una disyuntiva histórica: utilizar la tecnología para ampliar la dignidad humana o permitir que derive hacia sistemas de control, desigualdad y deshumanización.
El núcleo conceptual de Magnifica humanitas gira alrededor de una idea repetida a lo largo de sus cinco capítulos: la tecnología no es neutral. León XIV sostiene que toda inteligencia artificial refleja los intereses, valores y estructuras de poder de quienes la diseñan, financian y controlan. En consecuencia, el pontífice rechaza la visión tecnocrática que presenta la IA como un simple instrumento objetivo. “Quien controla la IA impondrá su visión moral”, resume uno de los pasajes más citados del documento. La advertencia va dirigida tanto a gobiernos autoritarios como a conglomerados tecnológicos privados capaces de influir sobre información, empleo, seguridad y cultura.
El Papa denuncia especialmente la concentración de poder digital en manos de unas pocas compañías globales. Sin mencionar directamente a gigantes tecnológicos concretos, el texto critica la acumulación de datos personales, la vigilancia masiva y el dominio de infraestructuras digitales por actores privados con capacidad de condicionar la democracia y las libertades públicas. León XIV alerta sobre el nacimiento de una nueva forma de colonialismo, basada no ya en territorios físicos sino en el control de datos, algoritmos y capacidad computacional. La encíclica sostiene que millones de personas se han convertido en “proveedores involuntarios” de información para sistemas que escapan a cualquier supervisión democrática efectiva.
El «tecnofascismo»
Uno de los aspectos más contundentes del documento es su crítica a lo que denomina “tecnofascismo”. Con ese término, el pontífice engloba las corrientes ideológicas que defienden modelos de organización social dirigidos por sistemas algorítmicos, vigilancia automatizada y estructuras tecnológicas capaces de sustituir progresivamente el juicio humano.
León XIV advierte contra las teorías transhumanistas y posthumanistas que consideran al ser humano biológicamente imperfecto y susceptible de ser reemplazado o subordinado a sistemas de inteligencia artificial avanzada. Según el Papa, la dignidad humana no puede depender de parámetros de eficiencia, productividad o capacidad cognitiva medidos por máquinas.
La dimensión laboral ocupa una parte central de la encíclica, siguiendo precisamente la tradición inaugurada por Rerum Novarum. León XIV reconoce que la automatización puede liberar a las personas de trabajos peligrosos, repetitivos o degradantes, pero advierte de que también puede desencadenar desempleo masivo, precarización y nuevas formas de exclusión social. El documento critica un modelo económico que utiliza la inteligencia artificial únicamente para reducir costes laborales y aumentar beneficios empresariales. El Papa teme que millones de trabajadores queden desplazados sin mecanismos de protección adecuados, generando una fractura social de enorme magnitud.
En este sentido, el pontífice reclama nuevas políticas públicas internacionales que garanticen una transición tecnológica justa. La encíclica propone reforzar la regulación estatal y supranacional de la inteligencia artificial, crear organismos independientes de supervisión y establecer límites éticos vinculantes para las empresas tecnológicas. León XIV insiste en que el desarrollo digital no puede quedar exclusivamente en manos del mercado. También reclama que los beneficios económicos derivados de la automatización se redistribuyan socialmente para evitar un incremento explosivo de las desigualdades.
El documento dedica además capítulos enteros a la manipulación informativa y la erosión de la verdad en la era digital. León XIV considera que los sistemas de IA generativa pueden alterar radicalmente la percepción pública de la realidad mediante desinformación automatizada, falsificaciones audiovisuales y campañas de manipulación política. Según la encíclica, la democracia contemporánea corre el riesgo de entrar en una etapa en la que la verdad factual sea sustituida por realidades sintéticas producidas industrialmente. El Papa alerta de que las sociedades podrían quedar atrapadas en burbujas algorítmicas capaces de destruir el diálogo público y la confianza institucional.
Uno de los apartados más polémicos del texto aborda la dimensión militar de la inteligencia artificial. León XIV pide explícitamente “desarmar la IA”, una expresión que se ha convertido en el lema central de la encíclica.
Los drones, en su punto de mira
El Papa denuncia la incorporación creciente de algoritmos en sistemas de combate, drones autónomos y tecnologías de vigilancia militar. A su juicio, la automatización de la guerra multiplica el riesgo de deshumanización del conflicto y reduce la responsabilidad moral de quienes toman decisiones letales. Incluso llega a cuestionar la validez contemporánea de la tradicional doctrina católica de la “guerra justa”, considerando que las nuevas tecnologías bélicas han alterado profundamente la naturaleza de los conflictos armados.
La encíclica también relaciona la inteligencia artificial con la crisis medioambiental. León XIV subraya el enorme consumo energético de los centros de datos y de los sistemas de entrenamiento algorítmico, alertando sobre su impacto climático. El documento señala que la carrera global por la supremacía tecnológica está acelerando la explotación de minerales estratégicos, incrementando tensiones geopolíticas y generando nuevas formas de desigualdad entre países ricos y pobres. Según el Papa, existe el riesgo de que la revolución digital reproduzca las mismas dinámicas extractivas y depredadoras que marcaron etapas anteriores del capitalismo industrial.
En el plano filosófico y teológico, Magnifica humanitas plantea una defensa radical de la singularidad humana frente a cualquier intento de equiparar conciencia y computación. León XIV rechaza la idea de que una máquina pueda sustituir plenamente dimensiones esenciales de la experiencia humana como la compasión, la conciencia moral, la espiritualidad o el amor. El texto sostiene que la inteligencia humana no puede reducirse a procesamiento de información ni a capacidad de cálculo. De fondo aparece una crítica profunda al reduccionismo tecnológico contemporáneo y a la tentación de medir el valor de las personas únicamente en términos de eficiencia algorítmica.
Otro elemento significativo es el intento del Vaticano de abrir un diálogo directo con el sector tecnológico. La presentación pública de la encíclica contó con la presencia de investigadores y expertos en IA, entre ellos Christopher Olah, cofundador de Anthropic, algo inédito en un acto de este tipo. La Santa Sede pretende así situarse como interlocutor activo en el debate sobre gobernanza tecnológica global. Sin embargo, esta aproximación también ha generado críticas de quienes consideran contradictorio que la Iglesia colabore con empresas privadas a las que simultáneamente acusa de concentrar poder excesivo.
La encíclica también contiene una dimensión autocrítica poco habitual. León XIV reconoce errores históricos de la Iglesia, incluyendo referencias explícitas al retraso institucional en condenar la esclavitud y otros abusos del pasado. Esa reflexión aparece vinculada a una advertencia contemporánea: las instituciones religiosas no deben volver a reaccionar tarde ante transformaciones históricas que afectan a la dignidad humana. El Papa sostiene que la inteligencia artificial representa uno de esos momentos decisivos en los que el silencio o la pasividad tendrían consecuencias profundas para generaciones futuras.
Más allá del ámbito religioso, Magnifica humanitas refleja el creciente temor global ante el avance descontrolado de la inteligencia artificial. El documento recoge preocupaciones ya presentes en organismos internacionales, universidades y parte de la propia industria tecnológica: pérdida de empleo, concentración de poder, vigilancia masiva, manipulación política, automatización militar y deterioro de la cohesión social. Pero León XIV añade una dimensión moral y antropológica más amplia: la posibilidad de que la humanidad termine redefiniéndose a sí misma según criterios impuestos por sistemas digitales.
El cierre de la encíclica recupera un tono profundamente humanista. Frente a la lógica de la automatización total, el pontífice reivindica la educación, la cultura, el pensamiento crítico y el diálogo como herramientas esenciales para preservar la libertad humana. León XIV insiste en que el futuro tecnológico no está predeterminado y que las sociedades todavía pueden decidir qué tipo de relación quieren mantener con las máquinas inteligentes. La encíclica concluye con un llamamiento a construir una “civilización del amor” capaz de situar la tecnología al servicio del bien común y no del dominio de unos pocos sobre el resto de la humanidad.
Excelente y muy aclaratorio artículo, sobre cuyo contenido voy a dar mi opinión.
Quien controla la IA, impone su visión moral (o amoral), incluso ideológica del mundo.
Disyuntiva histórica: La tecnología, que es una herramienta, no «amplía» la dignidad humana, pues ésta juega en otro campo, más profundo y vital, pero sí puede contribuir a destruirla.
La tecnología no es neutral; pero es que la Ciencia tampoco lo es.
Efectivamente, puede ser una forma de «colonialismo mental», desde que ya hace años se está trabajando en convertir en una interfaz el cerebro humano a través de la Neurobiotecnología (Pedro Baños). Pero además se están elaborando programas piloto (con permiso de la UE) sobre el Metaverso en la Educación (Antonio Flores Galea, 2023). Ello consiste a grandes rasgos: infraestructura inmersiva global, que supondría la transformación de negocios, relaciones sociales, ocio, las calles, la Ley…pues según ese autor se puede cambiar incluso sustituir el aspecto de la realidad percibida por alguien; proyección de sensaciones; cambio del sistema económico, social y de identidades!!; promoción de un «ego» ideal; un solo Metaverso que conecte a todo el mundo en todas partes (sí, sobre todo en Nigeria, Sudán, Somalia, etc.), controlado por una sola entidad o un colectivo(?); habrá autoridades por encima de los países! En fin, el Metaverso va dirigido a crear un mundo digital holográfico paralelo al tradicional, mediante la elaboración de un software que no sólo espía el comportamiento humano, sino que va a interactuar con los impulsos eléctricos neuronales de nuestro cerebro e interferir en las ondas electromagnéticas, que son las que elaboran la información.Es lo que se llama interfaces cerebro-ordenador (BCI, en inglés). Es sencillamente perverso. Galea dice que el Metaverso tiene el potencial de revolucionar la Educación; y en lugar de usar libros de texto(…)los profesores podrán sumergir instantáneamente a los estudiantes en las escenas de estudio… O sea, mostrarán digitalmente ( y esto es mío) una película que su cerebro asimilará como real (que no verdadera).
«La tecnología transformará las raíces de la sociedad». Hay un campus experimental, KAIST, presidido por un «futurólogo»: Hyung Lee, que trabajó en el Departamento de Bioingeniería y Cerebro, ya en 2001! Aparte de «swouman» (esto es mío) es doctor en Ciencias de la Computación, Bioinformático, Teórico Difuso(?) y cuya misión ha sido asesorar a las primeras generaciones de emprendedores emergentes(nótese el frikilenguaje).
Y es toda esa línea de actuación sobre la que hay que reflexionar, vigilar y, si es necesario para apuntalar y recuperar la dignidad y la identidad humana, desmontar.
Y aclaremos. TECNOFASCISMO no es que a quienes llaman fascistas usen la tecnología, sino que como muy bien se aclara en el artículo, que los «modelos de organización social no sean dirigidos por el algoritmo, que además podría estar sesgadamente ideologizado.
El Papa habla de reforzar la regulación estatal y supranacional. La pregunta es: ¿quedan autoridades independientes, formadas y honestas en esas instituciones?
El capítulo de la automatización de la guerra merece mención aparte: el soldado ya no tiene dudas ni conciencia, ni culpa ni remordimientos por haber destruido vidas y hogares; es un juego de ordenador para él.
Y para conseguir el famoso coltán, con el que se fabrican piezas de todos los «juguetes» digitales, coches eléctricos, armas modernas, también aparatos quirúrgicos de precisión, se expolian terrenos, se «crean» guerras tribales y civiles sobre todo en África central: sólo la República Democrática del Congo posee el 80% de las reservas de coltán del mundo. Ello conlleva masacres de poblaciones, violaciones de niños y mujeres, corrupción en la cadena de autoridades-locales y estatales-, destrucción extensa del medio ambiente por las minas a cielo abierto…
«Que el Metaverso nos pille confesados».
Gracias Piedad, por sus más que interesantes observaciones. Un afectuoso saludo.