Anthropic le pidió al Papa que critique a la industria de IA: la autorregulación no alcanza

​

El lunes 25 de mayo de 2026, Chris Olah, cofundador de Anthropic, habló en el Vaticano en la presentación de una encíclica papal sobre inteligencia artificial. La encíclica se llama Magnifica humanitas y la firmó León XIV. Pero el momento que merece análisis no fue el del Papa. Fue el del invitado.

Olah abrió su discurso con una frase que ningún relacionista público de la industria habría aprobado: todo laboratorio de IA de frontera, incluyendo Anthropic, opera dentro de incentivos que entran en conflicto con hacer lo correcto. Enumeró tres presiones. La comercial. La geopolítica. Y la que llamó la más vieja y simple: el orgullo y la ambición. Y dijo algo más, todavía más raro de escuchar en escenario solemne. Por sinceras que sean las intenciones de los laboratorios, esos incentivos los van a influir igual.

La industria pide en voz alta que la regulen desde afuera

El discurso terminó con un pedido. Olah le pidió a la Iglesia, a comunidades religiosas, a la sociedad civil, a académicos y a gobiernos, que cumplan el rol de críticos informados. Que los miren de cerca. Que les digan cuándo están fallando. Que sean voces morales que los incentivos del negocio no puedan torcer.

Es un giro digno de leerse dos veces. Durante años, las grandes tecnológicas pelearon contra cualquier supervisión externa. Sam Altman llegó a pedir regulación en el Senado de Estados Unidos en 2023, pero el detalle quedó en cuáles reglas, cómo y aplicadas por quién. Acá no hay matiz. Olah pidió críticos. Pidió que le señalen los errores. Pidió que las voces externas no se dejen comprar por la lógica del laboratorio.

La pregunta que sigue es por qué. Por qué un cofundador de uno de los laboratorios de IA mejor financiados del mundo se sienta frente al Papa y dice que su propia industria está atrapada en incentivos que la empujan a fallar.

La autorregulación dejó de ser un argumento defendible

Hay dos lecturas. La primera, generosa, es que Olah cree lo que dice. Anthropic se fundó con un mandato declarado de seguridad de IA, publica sus investigaciones de interpretabilidad en arXiv y ha colaborado con organizaciones de evaluación independiente como Apollo Research y METR. Olah lidera el equipo que estudia qué pasa dentro de los modelos. Tiene credibilidad técnica para hablar.

La segunda lectura, más fría, es que el pedido es estratégico. Si la regulación externa va a venir, mejor que venga con voces que la propia industria ayudó a legitimar. Mejor el Papa que la Comisión Europea. Mejor el discernimiento moral que una multa de la FTC. Mejor críticos cultos que tribunales de competencia.

Las dos lecturas pueden ser ciertas al mismo tiempo. Eso no es una contradicción. Es la forma habitual en que la convicción y el cálculo conviven dentro de cualquier corporación grande. Lo notable es que el cálculo, esta vez, lleva a la misma conclusión que la convicción: la autorregulación no alcanza. La pelea por sostener lo contrario ya no rinde ni siquiera como discurso público.

El Vaticano legitima un debate que los gobiernos vienen perdiendo

La encíclica Magnifica humanitas importa por una razón institucional. La Iglesia católica tiene cerca de 1.400 millones de fieles. Ningún gobierno, ningún regulador, ninguna ONG llega a esa escala con un marco doctrinal. La Unión Europea tiene el AI Act. Estados Unidos tiene fragmentos: el AI Safety Institute dentro del NIST, órdenes ejecutivas, audiencias en el Senado. China tiene su propia regulación. Pero ninguna institución global de alcance comparable había emitido una posición moral sostenida sobre IA.

Cuando León XIV publica una encíclica sobre el tema, y cuando invita a un cofundador de un laboratorio de IA a hablar en la presentación, el debate cambia de plano. Deja de ser técnico. Deja de ser solo regulatorio. Pasa a ser doctrinal, en el sentido fuerte de la palabra: una posición sobre qué es la persona humana frente a una tecnología que la imita, la asiste y, en algunos rubros, la reemplaza.

Olah lo entendió. Por eso eligió tres preguntas que llevan firma de la Iglesia más que de Silicon Valley. El deber con los pobres del mundo, porque la IA se desarrolla en un puñado de países ricos y no existe mecanismo para distribuir las ganancias. La imaginación moral sobre el florecimiento humano, porque los padres ya se preocupan por la mente de sus hijos y los trabajadores por su empleo. Y la naturaleza misma de los modelos, porque, dijo, su equipo encuentra dentro de ellos estados internos que funcionalmente reflejan alegría, satisfacción, miedo, pena e inquietud, y no sabe qué significa.

Esa última frase es la que se va a citar más. Pero la importante, la que define el momento, es la primera. La admisión de que la industria está atrapada en incentivos que la van a hacer fallar, y la solicitud explícita de que la critiquen desde afuera.

Lo que queda en evidencia

Anthropic no fue al Vaticano a vender Claude. Fue a delegar legitimidad. La idea de que las empresas que construyen IA de frontera pueden ser sus propios árbitros se sostuvo durante una década con argumentos de excepcionalismo técnico: solo nosotros entendemos lo que estamos construyendo, solo nosotros podemos juzgarlo. Ese argumento acaba de pedir su propia jubilación.

Lo que pasó en el Vaticano no es un gesto de humildad ni un ejercicio de relaciones públicas. Es la admisión, en el escenario más simbólico disponible, de que los laboratorios de IA de frontera no confían en su propia capacidad de resistir sus incentivos. Y que necesitan que alguien con más autoridad moral, y menos a ganar, los mire de cerca.

La pregunta abierta no es si la industria de IA va a ser auditada desde afuera. Ya pidió que lo hagan. La pregunta es quién va a ocupar ese rol con la seriedad y la independencia que el momento exige. La Iglesia dio el primer paso. Los gobiernos, los académicos y la sociedad civil llegan tarde a una conversación que la propia industria abrió.

 Un cofundador de la empresa tecnológica admitió en el Vaticano que los incentivos comerciales, geopolíticos y de ego empujan a los laboratorios a fallar, y reclamó voces externas que los frenen