(OSV News) -- El Papa León XIV hizo un llamado a la vigilancia durante su intervención en la conferencia de prensa del Vaticano del 25 de mayo para presentar su primera encíclica sobre la inteligencia artificial, y señaló que sus conversaciones con líderes del sector --incluidas "voces muy preocupantes" que alertaban sobre sistemas de armas autónomos que escapan al control humano efectivo-- le habían llevado a la convicción de que la IA "debe ser desarmada".
Hablando inmediatamente después de la promulgación de "Magnifica Humanitas: Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial", el Papa explicó que había consultado a científicos, ingenieros, responsables políticos, educadores y padres mientras trabajaba en la encíclica.
"'Magnifica Humanitas' nació de la escucha", dijo el Papa en la Sala del Sínodo de la Ciudad del Vaticano.
El Papa León describió cómo, durante el último año, había escuchado a entusiastas líderes tecnológicos, así como a "padres y maestros profundamente preocupados por el futuro de las nuevas generaciones".
"También me han llegado otras voces, muy inquietantes, sobre sistemas de armas cada vez más autónomos, prácticamente fuera de todo control humano" para controlarlos de manera efectiva, dijo.
El Papa añadió que también había escuchado relatos preocupantes sobre algoritmos que pueden bloquear el acceso a la atención médica, el empleo y la seguridad basándose en "datos viciados por prejuicios e injusticias".
"De esta escucha surgió una convicción inquietante expresada en 'Magnifica Humanitas': la inteligencia artificial debe ser desarmada", dijo el Papa León.
El Papa comparó la inteligencia artificial con la energía nuclear, afirmando que ambas deben servir al bien común en lugar de convertirse en instrumentos de dominación. Citó la primera carta de San Pablo a los Tesalonicenses --"No durmamos como los demás, sino velemos"-- como un llamado a la vigilancia.
El Papa León dedicó el capítulo final de "Magnifica Humanitas" a la IA en la guerra y a la necesidad de "las restricciones éticas más rigurosas" y de una construcción proactiva de la paz para frenar "la carrera armamentística tecnológica". En ese capítulo, el Papa León escribió que "hoy, más que nunca es importante reiterar la superación de la teoría de la 'guerra justa', invocada con demasiada frecuencia para justificar cualquier guerra, sin perjuicio del derecho a la legítima defensa, entendida en el sentido más estricto".
La presencia del Papa en la conferencia de prensa del Vaticano en la que se presentó la encíclica fue una novedad, al igual que la presencia del ejecutivo de tecnología de IA Christopher Olah, cofundador de Anthropic, la empresa de investigación y desarrollo de IA detrás del asistente de IA Claude.
Olah advirtió que "existe una posibilidad real de que la inteligencia artificial desplace el trabajo humano a una escala enorme". Subrayó la importancia de que personas sin los incentivos económicos de los ejecutivos tecnológicos presten mucha atención al desarrollo de la IA como "críticos sinceros y reflexivos".
El Papa agradeció a Olah por aceptar la invitación del Vaticano para participar en el lanzamiento de la encíclica.
"Qué gran signo de esperanza es que, con nuestras diferencias, podamos escucharnos unos a otros", dijo el Papa León, y agregó que tal intercambio "manifiesta claramente la gravedad del momento".
El Papa León señaló que desarmar la IA no es suficiente, sino que "debemos construir". Destacó la primera línea de su encíclica, en la que escribió que la humanidad se enfrenta hoy a "una elección decisiva: levantar una nueva torre de Babel o edificar la ciudad donde Dios y la humanidad habiten juntos".
En la conferencia de prensa, el Papa se basó en su experiencia misionera en Perú, recordando las inundaciones de 2017 que devastaron comunidades en el norte del país y el laborioso trabajo de reconstrucción que siguió.
"Reconstruir no significa simplemente reemplazar lo que ha sido destruido", dijo. "Significa reparar los lazos, restablecer la confianza y despertar la esperanza en el futuro".
Concluyó invitando tanto a los católicos como al público en general a abordar con seriedad los desafíos que plantea la IA, afirmando que la Iglesia aporta "una sabiduría sobre lo humano que nuestro tiempo necesita desesperadamente".
"Cada persona es única e insustituible", dijo; es "un sujeto libre e inteligente, dotado de conciencia, capaz de buscar a Dios, de servir a los demás y de cuidar de nuestra casa común".
