Anthropic le pidió al Papa que critique a la industria de IA: la autorregulación no alcanza

Surgen avances clave en el escenario mundial. El lunes 25 de mayo de 2026, Chris Olah, cofundador de Anthropic, habló en el Vaticano en la presentación de una encíclica papal sobre inteligencia artificial. La encíclica se llama Magnifica humanitas y la firmó León XIV. Pero el momento que merece análisis no fue el del Papa.

Olah abrió su discurso con una frase que ningún relacionista público de la industria habría aprobado: todo laboratorio de IA de frontera, incluyendo Anthropic, opera dentro de incentivos que entran en conflicto con hacer lo correcto. Enumeró tres presiones. Y la que llamó la más vieja y simple: el orgullo y la ambición.

Los detalles

Y dijo algo más, todavía más raro de escuchar en escenario solemne. Por sinceras que sean las intenciones de los laboratorios, esos incentivos los van a influir igual. La industria pide en voz alta que la regulen desde afueraEl discurso terminó con un pedido.

Olah le pidió a la Iglesia, a comunidades religiosas, a la sociedad civil, a académicos y a gobiernos, que cumplan el rol de críticos informados. Que los miren de cerca. Que les digan cuándo están fallando.

Que sean voces morales que los incentivos del negocio no puedan torcer. Es un giro digno de leerse dos veces. Durante años, las grandes tecnológicas pelearon contra cualquier supervisión externa.

Qué dicen los expertos

Sam Altman llegó a pedir regulación en el Senado de Estados Unidos en 2023, pero el detalle quedó en cuáles reglas, cómo y aplicadas por quién. Pidió que le señalen los errores. Pidió que las voces externas no se dejen comprar por la lógica del laboratorio.

La pregunta que sigue es por qué. Por qué un cofundador de uno de los laboratorios de IA mejor financiados del mundo se sienta frente al Papa y dice que su propia industria está atrapada en incentivos que la empujan a fallar. La autorregulación dejó de ser un argumento defendibleHay dos lecturas.

La primera, generosa, es que Olah cree lo que dice. Anthropic se fundó con un mandato declarado de seguridad de IA, publica sus investigaciones de interpretabilidad en arXiv y ha colaborado con organizaciones de evaluación independiente como Apollo Research y METR. Olah lidera el equipo que estudia qué pasa dentro de los modelos.

El desarrollo ha despertado una amplia atención internacional, con los círculos diplomáticos siguiéndolo de cerca.