Por qué el papa necesitó a Gandalf y a Picasso para explicar el peligro de la inteligencia artificial

Ambos visten de blanco. Pero lo que une al papa León XIV con Gandalf el Blanco no es solo el color de su indumentaria: es también una cita textual en el párrafo 213 de Magnifica Humanitas, la primera encíclica del pontífice, publicada este lunes (25.05.2026) de Pentecostés y centrada en los desafíos éticos de la inteligencia artificial (IA).

El pasaje, tomado de El retorno del rey, el tercer volumen de la saga de J. R. R. Tolkien –a quien León XIV identifica como "escritor católico"–, reza así en el documento: "No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza". 

Para el papa, esas palabras resumen bien la tarea de la Iglesia ante la IA, donde la "civilización del amor” no nace de gestos espectaculares sino de "fidelidades pequeñas y tenaces, que hacen frente a la deshumanización".

Arte, filosofía y cine en el corazón de la encíclica sobre IA

La cita tolkieniana no es, sin embargo, una rareza aislada. A lo largo de Magnifica Humanitas, León XIV incorpora otras referencias al arte, la filosofía, la música y el cine para construir su reflexión sobre los dilemas éticos de la inteligencia artificial.

Por ejemplo, el papa convoca a Picasso –cuyo Guernica describe como "denuncia de la deshumanización"–, a Beethoven –cuya Novena Sinfonía encarna el anhelo de unidad–, a La lista de Schindler –como "una invitación a no entregar el pasado al olvido"–, a Hannah Arendt –para advertir que "el desinterés por la verdad conduce lenta pero inexorablemente hacia el totalitarismo"– y a Martin Luther King Jr., cuya figura evoca al recordar que "algunos acontecimientos ayudan a ver que la historia puede cambiar cuando al menos un solo hombre o una sola mujer se toma realmente en serio la dignidad de todos".

Todas estas referencias sostienen uno de los argumentos centrales del documento. La IA, escribe el papa, imita ciertas funciones de la inteligencia humana y a menudo la supera "en velocidad y amplitud de cálculo", pero según el papa, no puede reproducir plenamente rasgos humanos como el amor, la compasión, la creatividad ni el anhelo de justicia.

De ese diagnóstico se desprende también una advertencia geopolítica. El colonialismo, escribe León XIV, "muestra en la actualidad un rostro inédito" y ya no solo domina los cuerpos, sino que "se apropia de los datos, transformando las vidas personales en información explotable". 

El Vaticano abre el diálogo con Anthropic

Un día después de la publicación de la encíclica, León XIV confirmó en Castel Gandolfo que representantes del Vaticano se habían reunido con Anthropic para discutir el desarrollo de una inteligencia artificial "desarmada”.

El papa advirtió que la IA tiene ya aplicaciones en ámbitos militares y de conflicto, y puede amplificar tanto la desinformación como la capacidad destructiva de las guerras modernas.

No fue el primer acercamiento entre ambas partes. En la presentación oficial de Magnifica Humanitas en el Vaticano participó Christopher Olah, cofundador de Anthropic, quien tomó la palabra para reconocer algo poco frecuente en el ecosistema tecnológico: que los propios laboratorios de IA operan bajo presiones –comerciales, geopolíticas, de ambición– que pueden entrar en conflicto con hacer lo correcto. 

"Por sinceramente que cualquiera de nosotros pretenda hacer lo correcto –y creo que muchos lo pretendemos–, siempre estaremos influidos por esos incentivos", dijo Olah en una carta abierta. Por eso, argumentó, es fundamental que haya voces externas dispuestas a ser "críticos sinceros y reflexivos". En la encíclica, y en la disposición de la Iglesia a asumir ese papel, Olah ve exactamente eso.

Lo que aún no se entiende sobre los modelos de IA

Olah también apuntó algo más incierto, viniendo de alguien que dirige un equipo dedicado a estudiar el interior de estos sistemas. Dentro de los modelos de IA, señaló, aparecen estructuras que muestran paralelos con algunos hallazgos de la neurociencia humana, además de comportamientos que ciertos investigadores interpretan como formas limitadas de autoevaluación. 

También describió patrones internos que, según él, recuerdan funcionalmente estados asociados al miedo, la satisfacción o el malestar. "No sé qué significa eso", admitió, "pero creo que merece un discernimiento continuo".

El Vaticano lleva una década en contacto con Silicon Valley. Antes de la publicación de la encíclica, hubo encuentros de varios días entre teólogos, filósofos y programadores en la sede central de Anthropic para debatir los peligros latentes en los modelos de IA.

IA militar: la respuesta de Mistral al papa

No todo el sector tecnológico recibió el documento con la misma disposición al diálogo. Apenas dos días después de su publicación, Arthur Mensch, director ejecutivo y cofundador de la startup francesa de IA Mistral, rechazó públicamente las críticas del papa al uso de la IA en contextos militares. 

"Somos todos partidarios de la paz, pero si uno mira a nuestros rivales y adversarios en el mundo, ellos están usando la inteligencia artificial. Mientras tengamos adversarios que amenazan –y sí amenazan–, necesitamos tener nuestras propias capacidades", declaró Mensch desde París, según Reuters. 

Mistral provee modelos de IA al ejército francés y anunció además un nuevo centro de datos en Les Ulis con una capacidad de 10 megavatios, previsto para el tercer trimestre de 2026.

La respuesta de Mistral refleja una de las tensiones centrales del debate sobre la IA. Mientras el Vaticano pide límites internacionales para esta tecnología, varios gobiernos y empresas la consideran una herramienta estratégica. Es, en cierto modo, el mismo dilema de responsabilidad que atraviesa la cita de Gandalf recuperada por León XIV: qué hacer con el poder tecnológico en los años que toca vivir.