En su primera enseñanza escrita importante como pontífice, el Papa León XIV advirtió sobre las amenazas más preocupantes de la inteligencia artificial para la humanidad: el reemplazo de trabajadores, la aceleración de conflictos bélicos y la explotación del medio ambiente, según reportó The Guardian. Durante la ceremonia de presentación de la encíclica en el Vaticano, el papa estuvo acompañado por un invitado inusual: Chris Olah, cofundador de Anthropic, una de las empresas más valiosas del sector de IA y responsable del auge tecnológico que precisamente preocupa al pontífice.

La presencia de Olah plantea una contradicción fundamental: cómo pueden colaborar la Iglesia Católica y una de las principales empresas de IA cuando la tecnología de Anthropic podría materializar el futuro contra el que León XIV advierte.

Pete Furlong, gerente senior de política e investigación del Centro para la Tecnología Humana, una organización sin fines de lucro que aboga por la rendición de cuentas en IA, señaló que las principales compañías de inteligencia artificial, incluida Anthropic, no están priorizando las preocupaciones sobre la preservación de la dignidad del trabajo humano que la encíclica discute extensamente. "Todas estas empresas están construyendo tecnología que está diseñada para reemplazar a las personas", dijo Furlong. "Eso está muy en desacuerdo con las palabras del papa. No puedes tener dignidad en un mundo donde estás construyendo tecnología para reemplazar a las personas".

Según el propio análisis del mercado laboral de Anthropic publicado en marzo, algunas profesiones como programadores, representantes de servicio al cliente y trabajadores de entrada de datos son especialmente vulnerables a la capacidad de la IA para automatizar tareas. Una encuesta publicada el mes pasado por Epoch AI, un centro de investigación sin fines de lucro, encontró que el 20% de los trabajadores de tiempo completo en Estados Unidos dijeron que la IA ha asumido partes de su trabajo. Dario Amodei, director ejecutivo de Anthropic, ha advertido sobre una pérdida apocalíptica de empleos de cuello blanco en los próximos años.

Paolo Carozza, profesor de derecho en la Facultad de Derecho de Notre Dame y copresidente de la Junta de Supervisión de Meta, advirtió sobre el riesgo de que el compromiso de Anthropic con el Vaticano permanezca superficial y conduzca a un discurso de "sentirse bien" sin un autoexamen crítico para ambas partes. "Esta es la marca de Anthropic, ¿verdad? Así es como se están distinguiendo, alineándose con las voces más orientadas a la seguridad y la responsabilidad. Hay algo que ganar al decir: 'Mira, incluso el papa está dispuesto a hablar con nosotros debido a [nuestra marca pro-seguridad]. Google no estaba en el escenario y OpenAI no estaba en el escenario'", dijo Carozza.

Sin embargo, Carozza se mantiene esperanzado a pesar de su escepticismo inicial sobre la presencia de Olah en la ceremonia. "Tiene que haber diálogo entre todos los actores aquí, y no puede ser una cosa de nosotros contra ellos", agregó.

Furlong coincidió en gran medida con esta perspectiva. "Lo que dice la escritura del papa está en conflicto con lo que dice Anthropic. Para mí, esa es una buena señal", afirmó. Furlong considera que vale la pena tomar los esfuerzos de Anthropic al pie de la letra por ahora, y que es importante involucrar a los pioneros de la IA, aunque siendo cautelosos sobre cómo las crecientes presiones financieras, como salir a bolsa, pueden influir en sus posturas futuras.

Olah reconoció en sus comentarios que cada laboratorio de IA de vanguardia "opera dentro de un conjunto de incentivos y restricciones que a veces pueden entrar en conflicto con hacer lo correcto". "No importa cuán sinceramente cualquiera de nosotros pretenda hacer lo correcto, y creo que muchos de nosotros lo hacemos, siempre estaremos influenciados por esos incentivos", dijo.

Algunos defensores de la seguridad de la IA consideran que el papa no fue lo suficientemente contundente al intentar frenar los daños de la IA. Timnit Gebru, fundadora del Instituto de Investigación de Inteligencia Artificial Distribuida, escribió en una publicación de LinkedIn que la alianza era efectivamente un "lavado vaticano" y dijo que la iglesia debería haberse asociado con "los trabajadores de datos explotados que luchan por sus derechos, las personas cuya agua está contaminada luchando contra los centros de datos, o las muchas otras víctimas en todo el mundo". Anthropic no ofreció comentarios sobre el asunto.

La Iglesia y Anthropic sí coinciden en otras cuestiones, como las líneas rojas sobre el uso de IA en la guerra. León XIV escribió sobre cómo la IA puede "bajar el umbral para el uso de la fuerza, proteger a las personas de la responsabilidad y fomentar una cultura en la que el enemigo se reduce a una estadística y la víctima a 'daño colateral'". Hizo un llamado a "las restricciones éticas más rigurosas" para proteger "la santidad de la vida y evitar una carrera para desarrollar tales armas".

Cuando Amodei se negó a permitir que el gobierno estadounidense usara los modelos de IA de su empresa en armas totalmente autónomas y vigilancia masiva a principios de este año, esto llevó a una amarga disputa con el presidente. La administración Trump posteriormente incluyó a Anthropic en una lista negra y designó a la compañía de IA como una amenaza para la cadena de suministro, lo que provocó una batalla judicial que continúa en curso.

Anthropic ha alineado su marca con ser pro-seguridad de IA en contraste con su competidor OpenAI, donde Amodei trabajó anteriormente, al reconocer los riesgos de sus sistemas de IA y promover salvaguardas para el uso responsable de la IA. La compañía gastó un récord de 1.6 millones de dólares en cabildeo en el primer trimestre de 2026, superando a su competidor OpenAI. Gran parte de su defensa en Washington y las legislaturas estatales promueve la regulación de la IA.

Escondida en un párrafo de la encíclica de aproximadamente 42,000 palabras hay una crítica suave a los centros de datos que impulsan el auge de la IA, y un llamado a reducir su daño ambiental. "Los sistemas actuales de IA requieren enormes cantidades de energía y agua, influyen significativamente en las emisiones de dióxido de carbono y ejercen grandes demandas sobre los recursos naturales", escribió León XIV. "Por esta razón, es esencial desarrollar soluciones tecnológicas más sostenibles que reduzcan el impacto ambiental y ayuden a proteger nuestra casa común".

Los centros de datos han provocado una reacción negativa a nivel nacional en Estados Unidos, que alberga el mayor número de ellos en el mundo, por parte de comunidades preocupadas por los efectos negativos, desde emisiones industriales hasta facturas de energía disparadas. Estos grupos de computadoras que consumen energía son fundamentales para el negocio de Anthropic: la empresa necesita su poder de cómputo para alimentar sus modelos de IA cada vez más potentes. A su vez, muchas agencias federales y las empresas más grandes del mundo dependen de los modelos de IA de Anthropic para flujos de trabajo y análisis complejos, ya sea que el objetivo sea obtener ganancias o seleccionar un objetivo militar.

Las ambiciones de Anthropic pueden entrar en conflicto con los llamados de León XIV para un crecimiento más sostenible. La startup de IA prometió invertir 50,000 millones de dólares en infraestructura de IA, incluidos centros de datos, el año pasado. Sin embargo, la compañía se ha comprometido a cubrir los aumentos en los precios de la electricidad que enfrentan los consumidores debido a estas instalaciones, y sistemas que reducen el uso de energía durante la demanda máxima.

La encíclica papal de aproximadamente 42,000 palabras representa la primera enseñanza escrita importante del pontificado de León XIV y marca un hito en el posicionamiento de la Iglesia Católica frente a los desafíos tecnológicos contemporáneos. La colaboración entre el Vaticano y Anthropic plantea preguntas fundamentales sobre si las empresas tecnológicas pueden reconciliar sus modelos de negocio con las preocupaciones éticas y sociales que sus propias tecnologías generan, o si estas alianzas sirven principalmente como herramientas de relaciones públicas para mejorar la imagen corporativa sin cambios sustanciales en sus prácticas.