La empresa de inteligencia artificial Anthropic ha instado a una pausa global o desaceleración en el desarrollo de la IA, en respuesta a la reciente encíclica del Papa León XIV que advertía contra la creación de una «nueva Torre de Babel» sin control ético. La petición se produce menos de dos semanas después de la publicación del documento pontificio, según informó la compañía en un comunicado.
La encíclica, titulada Veritatis et Caritatis, dedica un capítulo a la inteligencia artificial y alerta sobre los riesgos de desarrollar sistemas autónomos sin un marco moral claro. Anthropic, conocida por su modelo Claude y por su enfoque en la seguridad de la IA, ha sido una de las primeras grandes empresas tecnológicas en responder directamente a las palabras del Papa.
La postura de Anthropic
En su declaración, la compañía señaló que «comparte la preocupación del Santo Padre sobre la necesidad de un desarrollo responsable de la IA» y propuso una moratoria temporal en el entrenamiento de modelos más allá de un cierto umbral de capacidades, así como una mayor inversión en investigación en seguridad. «No se trata de detener el progreso, sino de garantizar que este progreso esté alineado con los valores humanos fundamentales», afirmó un portavoz.
La petición de Anthropic se enmarca en un debate global sobre la regulación de la inteligencia artificial. El Vaticano, a través de la Pontificia Academia para la Vida, ha organizado varios seminarios sobre el tema, y el Papa Francisco ya había abordado la cuestión en 2024. León XIV, elegido en 2025, ha hecho de la ética tecnológica uno de los ejes de su pontificado.
Reacciones y contexto
La iniciativa de Anthropic ha sido recibida con interés por parte de organizaciones católicas y grupos de reflexión sobre tecnología, aunque también ha suscitado críticas entre quienes defienden un desarrollo sin trabas. El gobierno de Estados Unidos, por su parte, no ha comentado oficialmente la petición, pero fuentes del Congreso indican que el debate sobre una ley federal de IA se intensificará en los próximos meses.
Anthropic no es la única empresa que ha mostrado receptividad a las advertencias del Vaticano. Ejecutivos de otras compañías han expresado en privado su preocupación por el ritmo actual de innovación, aunque ninguna había dado el paso de solicitar una pausa explícita hasta ahora. La propuesta de Anthropic, no obstante, no incluye mecanismos concretos de verificación ni plazos definidos, lo que algunos analistas consideran una limitación.
