Bloomberg — El papa León XIV dijo que la inteligencia artificial debería ser “desarmada” para proteger a la humanidad de sus peligros, sumando su voz a un acalorado debate sobre hasta qué punto los gobiernos deberían regular una tecnología que está remodelando el mundo.
En un discurso histórico dirigido a la Iglesia católica, el papa abogó por hacer que la IA sea más “respetuosa con el ser humano” y liberarla del control monopolístico, dejando de utilizarla para obtener beneficios geopolíticos o comerciales.
“Desarmar significa desacreditar la suposición de que el poder técnico confiere automáticamente el derecho a gobernar”, dijo el papa el lunes en su nueva encíclica a los fieles. “Desarmarse no significa rechazar la tecnología, sino impedir que domine a la humanidad”.
Ver más: El Papa publicará una encíclica sobre la IA junto con el cofundador de Anthropic
Al vadear tan públicamente sobre la necesidad de proteger a los seres humanos en la era de la IA, el primer papa estadounidense de la historia se ha puesto potencialmente en curso de colisión con el presidente estadounidense Donald Trump, que favorece la desregulación de la tecnología en rápida evolución para mantener una ventaja competitiva frente a China.
El papa, de 70 años, está sumando su voz al furioso debate sobre hasta qué punto deben limitarse los modelos de IA, en medio de temores sobre su potencial para causar estragos en el sistema bancario, seleccionar objetivos para ataques militares y, con el tiempo, sustituir a los humanos en vastas franjas de la toma de decisiones.
La publicación del documento llamado , que significa magnífica humanidad en latín, marca el acto de mayor trascendencia del pontífice desde que se convirtió en el jefe de los 1.400 millones de católicos del mundo hace un año. Las encíclicas, como se conoce a estas cartas, son una forma que tienen los papas de proporcionar orientación moral sobre los mayores retos de su tiempo, incluyendo cuestiones candentes como el cambio climático y la migración.
Matemático de formación, León también advirtió específicamente sobre los peligros de utilizar la informática en la guerra y perder de vista las consideraciones morales, diciendo que “ningún algoritmo puede hacer que la guerra sea moralmente aceptable”.
“La IA no elimina la inhumanidad intrínseca del conflicto, es más, solo puede provocar el conflicto más rápidamente y hacerlo más impersonal”, dijo el papa. Advirtió contra la posibilidad de que algunos “puedan considerar el conflicto armado como una forma eficaz de desviar la atención de los problemas domésticos y una herramienta cínica para gestionar las dificultades.”
Sus comentarios se producen cuando la presentación de Mythos, una herramienta de inteligencia artificial de Anthropic PBC capaz de identificar fallos desconocidos en los sistemas informáticos, ha desatado la ansiedad en todo el mundo durante los últimos meses.
Al dar la voz de alarma sobre los riesgos de la IA no regulada, resulta revelador que el Vaticano cursara una invitación al cofundador de Anthropic, Christopher Olah, experto en aprendizaje automático. El fabricante del popular chatbot Claude se ha enfrentado a la administración Trump por el uso de su tecnología para la guerra y la vigilancia.
El vicepresidente JD Vance, un católico converso cercano al multimillonario de Silicon Valley Peter Thiel, uno de los primeros inversores en OpenAI, insinuó la tensión que se está gestando. Recientemente, Leo y Trump discutieron sobre la oposición del papa a la guerra en Irán.
“Creo que cuando el líder de la mayor confesión cristiana del mundo habla sobre un tema como ese, sin duda va a tener cierta influencia, y estoy seguro de que contendrá muchas ideas”, dijo Vance en una rueda de prensa el 19 de mayo. “Con algunas de las cuales probablemente estaré de acuerdo, con otras puede que no”.
Thiel estuvo en Roma a principios de este año para unas muy publicitadas conferencias a puerta cerrada sobre el anticristo. En respuesta, el asesor del Vaticano, el padre Paolo Benanti, atacó las opiniones libertarias de Thiel en un artículo de opinión calificándolas de “acto sostenido de herejía”.
La Iglesia católica romana ha expresado cada vez más su preocupación por la IA, defendiendo que esta poderosa herramienta requiere normas que protejan la dignidad humana y el bien común.
Para León, su clara inspiración es el papa León XIII, que guió a la Iglesia durante la primera revolución industrial y escribió la encíclica. El actual papa no solo eligió Leo como nombre para honrar a su predecesor del siglo XIX, sino que está trazando una línea directa entre el trastorno que la producción en masa impulsada por las máquinas desató sobre los trabajadores de entonces y lo que la IA está haciendo con los trabajadores de hoy.
El papa “quiere asegurarse de que lo que ocurre con la IA no se basa sólo en la economía, no solo en lo ricos que pueden llegar a ser un puñado de multimillonarios, y de que hay guardarraíles sobre ella y sobre cómo se utiliza”, dijo en una entrevista el padre Thomas Reese, analista y erudito católico.
Ver más: ¿Qué dijo el papa León XIV sobre la IA? Su mensaje para los ejecutivos de Silicon Valley
Desde los informes de chatbots que dirigen a los usuarios hacia el suicidio hasta las predicciones apocalípticas de desempleo masivo, el tema de la IA es divisivo y emocional. Aun así, el estilo de Leo es más comedido que el del papa Francisco, que pronunció un histórico discurso ante los líderes del Grupo de los Siete en 2024 en el que les advertía de que no perdieran el control de la IA.
“Hoy, entre los bienes universalmente destinados a todos, hay que incluir también nuevas formas de propiedad, como las patentes, los algoritmos, las plataformas digitales, las infraestructuras tecnológicas y los datos”, escribió el papa.
El peligro, dice, es cuando la tecnología “empieza a dictar lo que importa y lo que puede desecharse”, reduciendo “a los seres humanos a meros engranajes de un sistema impulsado hacia una eficiencia cada vez mayor.”
Con la colaboración de Donato Paolo Mancini, Seth Fiegerman y Zoe Schneeweiss.
Lea más en Bloomberg.com
