El papa León XIV publicó el lunes 'Magnifica Humanitas: Sobre la Salvaguarda de la Persona Humana en el Tiempo de la Inteligencia Artificial', su primera encíclica papal que representa el pronunciamiento más extenso y detallado de la Iglesia Católica sobre la inteligencia artificial hasta la fecha, según informó The Guardian.

El documento, que supera las 40.000 palabras, presenta un análisis exhaustivo de los desafíos éticos, sociales y económicos que plantea el desarrollo acelerado de la inteligencia artificial, según confirmó la presidenta del Aquinas College, la hermana Maureen R. Geary, en una carta a su comunidad académica.

La encíclica comienza con una referencia bíblica a las consecuencias trágicas de la ruptura en la comunicación humana, planteando que la humanidad enfrenta "una elección fundamental: construir una nueva Torre de Babel o edificar una ciudad en la que Dios y la humanidad habiten juntos", según The Guardian. El documento incluye un recuento detallado de la evolución de las perspectivas de los predecesores del papa León XIV sobre trabajo, autoridad, gobierno, ciencia, poder y la obligación moral mutua.

En el tercer capítulo, titulado 'Tecnología y Dominación. La Grandeza de la Humanidad a la Luz de las Promesas de la IA', el pontífice define qué significa ser humano al explicar qué no es la inteligencia artificial. "Las llamadas inteligencias artificiales no experimentan vivencias, no poseen un cuerpo, no sienten alegría ni dolor, no maduran a través de relaciones y no saben desde dentro qué significan el amor, el trabajo, la amistad o la responsabilidad", escribió el papa según The Guardian. La inteligencia artificial no posee conciencia moral ni muestra preocupación orientadora por el bien humano mayor, añade el documento.

La encíclica identifica como la mayor amenaza de la inteligencia artificial su programación exclusiva para maximizar ganancias, situación que según el papa "solo puede resultar en el sufrimiento de muchos para beneficio de unos pocos", según The Guardian. El pontífice advierte contra "la manipulación de la privacidad" y el "mal uso de la información", contra el uso de algoritmos para gestionar empleo, controlar acceso a servicios públicos y crédito, y para elevar o dañar la reputación personal.

Según el documento papal, la compasión, la misericordia y el perdón —no prioritarios en la lista de la máquina— se volverán obsoletos. "Pueden comenzar a justificarse 'sacrificios necesarios', colocando la carga sobre los más vulnerables en busca de la supuesta optimización de la especie", advierte el papa según The Guardian. Si las herramientas de este nuevo poder se colocan en manos de quienes ya poseen riqueza e influencia, serán utilizadas para elevar la comodidad, salud y bienestar de los ciudadanos más ricos y privilegiados.

El papa León XIV no condena la inteligencia artificial de manera absoluta, sino la forma en que puede usarse como herramienta de represión política y garantía de empeoramiento de la desigualdad económica, según The Guardian. Cerca del final de la carta, el pontífice llama a permanecer fieles a la verdad, invertir en educación, cultivar relaciones, vivir en justicia y paz, y resistir la manera en que las nuevas tecnologías pueden "explotar a los más vulnerables, crear nuevas formas de esclavitud y obtener ganancias del conflicto".

La escritora Francine Prose, expresidenta del PEN American Center y miembro de la Academia Estadounidense de las Artes y las Letras, manifestó su gratitud por la encíclica en The Guardian. Prose explicó que frecuentemente le preguntan si cree que las novelas del futuro serán escritas por inteligencia artificial, pregunta que describe como "no tanto una pregunta sino una provocación" sobre si una máquina puede hacer su trabajo mejor que ella.

"Ahora cuando alguien me pregunta mi opinión sobre la IA, puedo referirlos a la carta del papa, o al menos al capítulo tres", escribió Prose según The Guardian. La autora destacó el pasaje del papa como "elocuente" y señaló que la visión de la encíclica sobre la naturaleza humana, el espíritu de justicia y empatía que debe prevalecer, y la importancia esencial de los valores morales más altos "es en última instancia tan benéfica, tan positiva, tan generosa, tan innegablemente clara sobre nuestra obligación de proteger a los débiles y pobres que es difícil encontrar razones para descartarla".

Sin embargo, la encíclica ha generado reacciones negativas en Silicon Valley, donde inventores y maestros de la última tecnología han sugerido que el papa no sabe de qué habla, según The Guardian. Jeremy Nixon, fundador de AGI House, un grupo dedicado a probar que la inteligencia artificial es esencialmente igual al cerebro humano, declaró al New York Times que la iglesia no había "pensado profundamente sobre... la IA", añadiendo: "No podrían tener una posición al respecto, porque no la entienden", según citó The Guardian.

Existe una creencia generalizada de que el producto final de la investigación actual será, en efecto, un nuevo Dios, o al menos un simulacro convincente, según Prose en The Guardian. "Preocupada por los peligros del futuro, nuestra sociedad está eligiendo pasar por alto la evidencia de que los aspectos negativos de la IA ya están sobre nosotros", escribió la autora, citando el caso de la hija de una amiga, estudiante universitaria de publicidad, a quien su asesor informó recientemente que para cuando se gradúe, todos los trabajos en publicidad habrán sido tomados por inteligencia artificial.

En el Aquinas College, la publicación de la encíclica coincide con conversaciones intensas sobre inteligencia artificial en el campus. La hermana Geary informó que a principios de mayo, el Centro para la Excelencia en la Enseñanza organizó una jornada completa de capacitación para profesores y personal sobre inteligencia artificial, y la institución lanzó nuevos programas académicos, incluida una especialización en inteligencia artificial.

"Las conversaciones en el campus han revelado una amplia gama de reacciones y perspectivas", escribió la hermana Geary según el comunicado del Aquinas College. Algunas conversaciones han estado energizadas por la curiosidad y la posibilidad, marcadas por esperanzas de herramientas que apoyen la investigación, innovación y gestión de carga de trabajo. La institución reconoce el bien genuino que la tecnología de inteligencia artificial puede ofrecer: se está aplicando en laboratorios para acelerar el descubrimiento científico, ayudando a radiólogos a detectar tumores más temprano y mejorar resultados de tratamiento, expandiendo accesibilidad para personas con discapacidades, prediciendo pandemias y clima severo, y apoyando nuevos enfoques para la construcción comunitaria y resolución de problemas.

Al mismo tiempo, muchos estudiantes, exalumnos y otros en la comunidad han planteado serias preocupaciones sobre los efectos más amplios de la inteligencia artificial, que van desde impacto ambiental y salud mental hasta preguntas sobre empleo, creatividad, pensamiento crítico y otras capacidades profundamente humanas, según la hermana Geary. También existen preocupaciones legítimas sobre privacidad, seguridad y las formas desiguales en que las nuevas tecnologías pueden afectar a comunidades marginadas.

"Una cosa es cierta: la IA está aquí, y su presencia creciente exige más que un simple abrazo o rechazo. Demanda una respuesta fundamentada en ética, sabiduría y discernimiento", escribió la hermana Geary, citando al papa León XIV: "La verdadera alternativa no es entre entusiasmo y miedo, sino entre dos caminos de desarrollo: un progreso que sirve a individuos y pueblos, o un progreso que los somete a la mentalidad del poder".

El papa advierte en la encíclica que cuando la tecnología "se convierte en el estándar por el cual todo se juzga, comienza a dictar qué importa y qué puede descartarse, reduciendo la creación a un objeto de explotación y los seres humanos a meros engranajes en un sistema impulsado hacia una eficiencia cada vez mayor", según citó la hermana Geary.

El pontífice también escribió que "el discernimiento ético no puede limitarse a preguntar si estamos usando un sistema para propósitos buenos o malos; también debe examinar cómo ese sistema está diseñado y qué visión de la persona humana y la sociedad está incrustada en los datos y modelos que lo guían", según el Aquinas College.

La encíclica enfatiza que la inteligencia artificial no reemplaza el juicio humano, ni la creatividad, las relaciones o la conciencia. "No puede escuchar la voz de Dios en nuestros corazones. De todas las cosas que la IA generativa puede hacer, no puede generar Veritas", escribió la hermana Geary, añadiendo que por eso importa dónde se toman las decisiones sobre inteligencia artificial y quién está en la sala cuando se toman.

El papa León XIV establece en la encíclica que "para que la IA respete la dignidad humana y verdaderamente sirva al bien común, la responsabilidad debe estar claramente definida en cada etapa: desde quienes diseñan y desarrollan estos sistemas hasta quienes los usan y dependen de ellos para decisiones concretas. En muchos casos, sin embargo, los procesos internos que conducen a un resultado permanecen opacos, dificultando asignar responsabilidad y corregir errores. Aquí es donde la rendición de cuentas se vuelve crucial: la posibilidad de identificar quién debe dar cuenta de las decisiones, justificarlas, monitorearlas y, cuando sea necesario, desafiarlas y remediar cualquier daño causado", según citó la hermana Geary.

Prose concluye en The Guardian que si los maestros de esta nueva tecnología no están de acuerdo con lo que el papa ve como sus peligros y desventajas, "estamos en problemas muy profundos". "El problema no es que tendremos un robot escribiendo Anna Karenina. El problema es que nadie verá ninguna necesidad posible de una novela que retrate tan exquisitamente los sufrimientos de una mujer, un ser humano singular", escribió la autora.

"No habría sentido en un libro así a menos que ese relato de un error que cambia la vida pudiera ser monetizado por un hermano tecnológico con visión de futuro y usado para financiar la compra de un yate más grande y mejor, presumiblemente atendido por una clase baja permanente, por trabajadores cuya dignidad —cuyos trabajos anteriormente valorados y valiosos— han sido pirateados por las manifestaciones rapaces de la inteligencia artificial", concluyó Prose según The Guardian.

La hermana Geary indicó que continuará pensando profundamente sobre cómo abordar la inteligencia artificial "no simplemente como una cuestión tecnológica, sino como una moral, informada por la Enseñanza Social Católica y nuestros pilares dominicos de estudio, oración, comunidad y servicio", e invitó a su comunidad a explorar estos temas, compartir pensamientos y ofrecer ideas sobre cómo, como comunidad, pueden continuar involucrándose con los muchos aspectos de un mundo impulsado por la tecnología.