Anthropic no usó su aparición en el Vaticano para presumir producto. La usó para decir algo bastante más incómodo: los laboratorios de IA no deberían confiar solo en su propia buena voluntad.
Ese fue el tono del discurso de Chris Olah, cofundador de Anthropic, durante la presentación de Magnifica humanitas, la primera encíclica de Pope Leo XIV centrada en inteligencia artificial. En vez de una defensa corporativa, Olah planteó que los grandes labs están atrapados entre incentivos comerciales, presión geopolítica y ambición, y que por eso necesitan críticos serios fuera de Big Tech.
Lo realmente llamativo no es el Vaticano: es lo que Anthropic admitió ahí
Según el texto oficial publicado por Anthropic, Olah dijo que “every frontier AI lab—including Anthropic—operates inside a set of incentives and constraints that can sometimes conflict with doing the right thing”. Traducido al lenguaje menos diplomático: incluso las empresas que dicen querer desarrollar IA responsable trabajan bajo presiones que pueden empujarlas en otra dirección.
Su conclusión fue todavía más clara. Si esta tecnología va a salir bien, dijo, hacen falta personas e instituciones fuera de esos incentivos, capaces de señalar fallas, exigir seguridad y decir cosas incómodas cuando haga falta.
Ese matiz importa porque cambia el tipo de mensaje. No estamos ante otra pieza de marketing sobre “IA para el bien”. Estamos viendo a uno de los nombres más visibles de Anthropic reconocer en público, y en un foro altamente simbólico, que la autorregulación de la industria no basta.
Qué hacía Anthropic en la presentación de una encíclica sobre IA
La presencia de Olah no salió de la nada. Vatican News había adelantado que participaría en la presentación de la encíclica junto a cardenales, teólogos y académicos. El propio texto de Anthropic explica que la invitación forma parte de su iniciativa para “ampliar la conversación” sobre las preguntas difíciles que abre la IA.
En otras palabras, el Vaticano no llamó a Anthropic para una demo. Lo llamó para poner a un laboratorio de frontera dentro de una conversación moral más amplia sobre trabajo, dignidad humana, poder y responsabilidad.
Y eso también es noticia porque muestra algo que ya empieza a verse con más frecuencia: la discusión sobre IA se está saliendo del círculo de ingenieros, fundadores e inversionistas, y está entrando de lleno en instituciones que piensan en escalas históricas más largas.
Las tres alertas que puso Chris Olah sobre la mesa
En sus comentarios, Olah destacó tres preguntas donde, a su juicio, la voz de la Iglesia y de actores externos puede ser decisiva.
1. El golpe al trabajo y la distribución desigual de ganancias
Olah advirtió que existe una posibilidad real de que la IA desplace trabajo humano a gran escala. Si eso ocurre, apoyar a las personas desplazadas sería, en sus palabras, un “moral imperative of historic proportions”.
Pero fue más allá: recordó que el desarrollo de IA está concentrado en un puñado de países ricos y preguntó cómo se repartirán sus beneficios a nivel global. Ahí está uno de los vacíos más serios del debate actual: casi todo el mundo habla de productividad, pero mucho menos de quién captura el valor y quién absorbe el costo.
2. La vida humana no se resume a eficiencia
El segundo punto fue más difícil de medir, pero quizá más importante. Si los modelos van a estar en todas partes, dijo Olah, la pregunta no es solo qué pueden hacer, sino qué tipo de vida humana ayudan a construir.
Eso toca inquietudes muy concretas: padres preocupados por la mente de sus hijos, trabajadores preocupados por su oficio, y sociedades enteras preguntándose si están ganando herramientas o cediendo criterio. Es una forma de llevar la conversación fuera del benchmark y volverla una discusión sobre florecimiento humano, no solo sobre rendimiento.
3. Ni siquiera los labs entienden del todo lo que están creando
La parte más extraña del discurso llegó cuando Olah habló de su trabajo en interpretabilidad. Dijo que su equipo sigue encontrando fenómenos internos en los modelos que resultan misteriosos e incluso inquietantes, incluyendo estructuras comparables a hallazgos de neurociencia, señales de introspección y estados internos que, funcionalmente, se parecen a alegría, miedo, duelo o incomodidad.
Eso no significa que Anthropic haya probado que los modelos “sienten”. Sí significa algo más sobrio y más importante: ni los propios investigadores creen que entienden por completo el tipo de sistemas que están desplegando.
Por qué esto sí importa para la industria
La noticia no es que el Vaticano hable de IA. Eso ya era esperable. La noticia es que Anthropic aceptó en ese escenario que la industria necesita frenos, crítica externa y vigilancia moral sostenida.
La cobertura de medios católicos y generalistas fue en la misma dirección. USCCB destacó que Olah pidió “moral voices that the incentives cannot bend”, mientras que CNN subrayó que el cofundador de Anthropic presentó a la sociedad civil y a las comunidades religiosas como contrapeso frente a una posible “race to the bottom” en IA.
Ese tipo de lenguaje no es menor. Muestra que el debate está subiendo de nivel: menos obsesión con la demo del día, más atención a quién gobierna estos sistemas, con qué incentivos y bajo qué límites.
La lectura práctica
Esto no lanza una función nueva de Claude ni cambia mañana el producto de Anthropic. Pero sí deja una señal fuerte sobre hacia dónde se está moviendo la conversación seria alrededor de la IA.
Los labs de frontera ya no solo compiten por modelos, agentes o cuota de mercado. También están compitiendo por legitimidad moral. Y cuando uno de sus cofundadores se para en el Vaticano para decir que hace falta vigilancia desde fuera de Big Tech, está admitiendo que esa legitimidad no se gana solo con benchmarks ni con blogs corporativos.
La pregunta ahora es si ese discurso se va a traducir en límites reales, auditoría más dura y presión pública sostenida, o si quedará como una intervención elegante en el escenario correcto.
Fuentes base
- Anthropic: Anthropic co-founder Chris Olah's remarks on Pope Leo XIV's encyclical "Magnifica humanitas"
- Vatican News: Pope Leo XIV's first encyclical Magnifica humanitas to be published May 25
- USCCB: In first encyclical, Pope Leo urges world to 'disarm' AI amid increased reliance
- CNN: Pope Leo warns of AI fueling warfare in first major theological document