El encuentro que cambió la conversación sobre la IA ética y el futuro de la humanidad
Por Carlos Anaya
La Inteligencia Artificial dejó de ser un tema exclusivo de ingenieros y laboratorios tecnológicos. Hoy influye en la medicina, la educación, la economía, la política, la seguridad y hasta en la manera en que nos informamos. Ante una transformación de esta magnitud, la gran pregunta ya no es qué pueden hacer las máquinas, sino qué clase de humanidad queremos construir con ellas.
Ese fue precisamente el trasfondo del histórico encuentro celebrado durante julio 2026, en el Borgo Laudato Si’, en Castel Gandolfo, donde científicos, filósofos, economistas (Incluidos 30 ganadores del Premio Nobel) además de empresarios tecnológicos, representantes de organismos internacionales y el papa León XIV dialogaron sobre el futuro de la Inteligencia Artificial. Más que una reunión técnica, fue un ejercicio de reflexión sobre el papel de la persona humana en una era dominada por algoritmos. (Vatican News. 2026, julio 16).
La tecnología no basta
La primera encíclica de León XIV, Magnifica Humanitas, parte de una idea sencilla y profundamente actual: la tecnología nunca es neutral cuando afecta la vida de las personas.
El Papa plantea una imagen poderosa. La humanidad puede elegir entre construir una nueva Torre de Babel, basada en el poder y el dominio, o reconstruir Jerusalén mediante la cooperación y la responsabilidad compartida. La pregunta que formula resume todo el debate contemporáneo sobre la IA:
«¿Qué estamos construyendo?» (León XIV, 2026, n. 90). No se trata de estar a favor o en contra de la Inteligencia Artificial. Se trata de decidir si esta revolución tecnológica servirá para ampliar la dignidad humana o para concentrar aún más el poder en unas cuantas manos.
El riesgo de delegar nuestra humanidad
Uno de los temas más discutidos durante el encuentro fue el futuro del trabajo. La automatización ya no sustituye únicamente actividades repetitivas. Hoy redacta informes, analiza imágenes médicas, interpreta contratos, traduce idiomas, programa software y genera contenido creativo.
El problema no consiste únicamente en la posible desaparición de empleos. Existe un riesgo más sutil: que las personas conserven su puesto, pero dejen de ejercer plenamente su juicio crítico porque las decisiones comiencen a depender de sistemas automatizados.
León XIV advierte que: «No podemos considerar a la IA como moralmente neutra.» (León XIV, 2026, n. 104). Todo algoritmo refleja prioridades, criterios y decisiones humanas. Alguien decide qué datos utilizar. Alguien determina qué variables son importantes. Alguien define qué debe optimizar el sistema.
Por ello, la ética no puede incorporarse únicamente cuando una tecnología ya está funcionando. Debe formar parte de su diseño desde el inicio.
Esta idea coincide con la Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO, que exige transparencia, supervisión humana, responsabilidad y protección de los derechos fundamentales como condiciones indispensables para el desarrollo de sistemas inteligentes (UNESCO, 2021).
El trabajo sigue siendo para la persona
Hace más de cuarenta años, san Juan Pablo II escribió una frase que hoy adquiere una sorprendente actualidad: «El trabajo es para el hombre y no el hombre para el trabajo» (Laborem exercens, n. 6).
La Inteligencia Artificial puede aumentar la productividad, reducir errores y liberar tiempo para tareas creativas. Pero si las organizaciones terminan subordinando a las personas a los algoritmos, el progreso deja de ser auténticamente humano.
Como recuerda Magnifica Humanitas, las responsabilidades nunca pueden desaparecer detrás de un sistema automatizado. Siempre debe existir una persona capaz de responder ética y jurídicamente por las decisiones que afectan la vida de otros. (León XIV, 2026).
¿Quién gobierna la Inteligencia Artificial?
La IA también plantea un desafío político sin precedentes. Los algoritmos no conocen fronteras. Un modelo desarrollado en un país puede influir simultáneamente sobre millones de personas en todo el mundo.
Por ello, las Naciones Unidas sostienen que la Inteligencia Artificial requiere mecanismos internacionales de cooperación y gobernanza capaces de garantizar transparencia, inclusión y rendición de cuentas (United Nations, 2024).
León XIV coincide con esta preocupación al advertir sobre la creciente concentración del poder tecnológico: «Frente a esta concentración de poder en el mundo digital, los grandes principios de la Doctrina social se convierten en criterios para juzgar y discernir el nuevo escenario: la dignidad inalienable de la persona, el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad y la justicia social.» (León XIV, 2026, n. 96). La discusión ya no consiste únicamente en desarrollar modelos más potentes. Consiste en impedir que el control de esas tecnologías quede concentrado en unos cuantos actores económicos o geopolíticos.
Innovar también exige prudencia
León XIV no propone detener el desarrollo tecnológico. Por el contrario, reconoce que: «La innovación tecnológica puede ser, en cierto modo, una forma humana de participación en el acto divino de la creación.» (León XIV, 2026, n. 111).
Sin embargo, añade que toda innovación implica una responsabilidad ética proporcional. Esta visión coincide con iniciativas internacionales como la Rome Call for AI Ethics, impulsada por la Pontificia Academia para la Vida, que propone seis principios fundamentales para una Inteligencia Artificial responsable: transparencia, inclusión, responsabilidad, imparcialidad, fiabilidad y seguridad.
También converge con el AI Act de la Unión Europea, el primer marco jurídico integral para regular sistemas de IA según el nivel de riesgo que representan para las personas.
La innovación, por tanto, no debe medirse únicamente por su capacidad tecnológica, sino por su contribución al bien común.
Una inteligencia necesita sabiduría
El investigador Stuart Russell, una de las principales autoridades mundiales en Inteligencia Artificial, sostiene que el verdadero desafío no consiste en construir máquinas más inteligentes, sino en asegurar que sus objetivos permanezcan alineados con los valores humanos (Russell, 2019).
Décadas antes, el filósofo Hans Jonas ya había advertido que el enorme poder adquirido por la tecnología obligaba a ampliar nuestra responsabilidad hacia las generaciones futuras.
Su célebre principio continúa plenamente vigente: «Obra de tal modo que los efectos de tu acción sean compatibles con la permanencia de una vida humana auténtica sobre la Tierra.» (Jonas, 1979).
Ambas reflexiones convergen con la propuesta del Vaticano: la Inteligencia Artificial necesita límites éticos porque el poder tecnológico nunca sustituye la responsabilidad moral.
Una Civilización del Amor en la era digital
Lejos de presentar una visión pesimista, Magnifica Humanitas concluye con un mensaje profundamente esperanzador.
León XIV afirma: «También el tiempo de la IA puede ser un paso en el que el Espíritu haga madurar la civilización del amor en nuestras vidas.» (n. 245).
La afirmación resume el sentido de todo el documento. La Inteligencia Artificial puede convertirse en una herramienta extraordinaria para mejorar la salud, la educación, la investigación científica o la productividad. Pero también puede aumentar las desigualdades, concentrar el poder y debilitar la libertad humana. Todo dependerá de las decisiones que tomemos hoy.
La historia probablemente recordará esta época por el nacimiento de la Inteligencia Artificial. Pero juzgará nuestra generación por una pregunta mucho más sencilla: ¿Fuimos capaces de poner esa inteligencia al servicio de la dignidad humana? Porque, al final, el verdadero desafío no consiste en construir máquinas cada vez más inteligentes. Consiste en que nosotros no dejemos de ser profundamente humanos.
Te invitamos a ver el video de “Laicos en la Vida Pública” sobre el tema:
Así como la presentación:
Cuando se humaniza la tecnología – Google Drive
Referencias
Acemoglu, D., & Johnson, S. (2023). Power and Progress: Our Thousand-Year Struggle over Technology and Prosperity. PublicAffairs.
Poder y progreso por Daron Acemoglu & Simon Johnson | Grupo de Lectura Hachette
Benedicto XVI. (2009). Carta encíclica Caritas in veritate sobre el desarrollo humano integral en la caridad y en la verdad. Libreria Editrice Vaticana.
Caritas in veritate (29 de junio de 2009)
Dicasterio para la Doctrina de la Fe. (2024). Declaración Dignitas infinita sobre la dignidad humana. Libreria Editrice Vaticana.
Declaración Dignitas infinita sobre la dignidad humana (2 de abril de 2024)
European Parliament & Council of the European Union. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union.
Reglamento – UE – 2024/1689 – EN – EUR-Lex
Floridi, L. (2014). The Fourth Revolution: How the Infosphere Is Reshaping Human Reality. Oxford University Press.
La Cuarta Revolución – Luciano Floridi – Oxford University Press
Floridi, L., & Cowls, J. (2019). A unified framework of five principles for AI in society. Harvard Data Science Review, 1(1).
Un marco unificado de cinco principios para la IA en la sociedad · Número 1.1, verano 2019
Francisco. (2020). Carta encíclica Fratelli tutti sobre la fraternidad y la amistad social. Libreria Editrice Vaticana.
Fratelli tutti (3 de octubre de 2020)
High-Level Expert Group on Artificial Intelligence. (2019). Ethics Guidelines for Trustworthy AI. European Commission.
Directrices éticas para una IA confiable | Moldeando el futuro digital de Europa
IEEE. (2019). Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems (1st ed.).
IEEE SA – La Iniciativa Global 2.0 de IEEE sobre la Ética de los Sistemas Autónomos e Inteligentes
Jonas, H. (1979). El principio de responsabilidad. Un intento de ética para la civilización tecnológica. Insel Verlag.
Das Prinzip Verantwortung. Buch von Hans Jonas (Suhrkamp Verlag)
Jobin, A., Ienca, M., & Vayena, E. (2019). Artificial intelligence: The global landscape of ethics guidelines. Nature Machine Intelligence, 1(9), 389–399.
El panorama global de las directrices éticas en IA | Inteligencia Artificial de la Naturaleza
Juan Pablo II. (1981). Carta encíclica Laborem exercens sobre el trabajo humano. Libreria Editrice Vaticana.
Laborem Exercens (14 de septiembre de 1981)
León XIV. (2026). Carta encíclica Magnifica Humanitas. Sobre la salvaguardia de la persona humana en el tiempo de la inteligencia artificial. Libreria Editrice Vaticana.
Carta Encíclica de Su Santidad León XIV Magnifica Humanitas (15 de mayo de 2026)
National Institute of Standards and Technology. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). U.S. Department of Commerce.
Marco de Gestión de Riesgos con IA | NIST
Organisation for Economic Co-operation and Development. (2019). OECD Principles on Artificial Intelligence.
Resumen de principios de IA – OCDE. IA
Organización de las Naciones Unidas. (2024). Governing AI for Humanity: Final Report of the High-Level Advisory Body on Artificial Intelligence.
Órgano Asesor de IA | Naciones Unidas
Pontificia Academia para la Vida. (2020). Rome Call for AI Ethics.
Rome Call | ¿Qué pasa con la ética de la IA?
Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.
Compatibilidad humana de Stuart Russell: 9780525558637 | PenguinRandomHouse.com: Libros
UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. United Nations Educational, Scientific and Cultural Organization.
Recomendación sobre la ética de la inteligencia artificial – UNESCO Digital Library
Ética de la Inteligencia Artificial – IA | UNESCO
UNESCO. (2023). Guidance for Generative AI in Education and Research. United Nations Educational, Scientific and Cultural Organization.
Guía para el uso de IA generativa en educación e investigación – UNESCO Digital Library
Vatican News. (2026, 25 de mayo). La encíclica de León XIV: la IA sirva a la humanidad, no al poder de pocos.
La encíclica de León XIV: la IA sirva a la humanidad, no al poder de pocos – Vatican News
Vatican News. (2026, julio 16). Firmada la “Declaración de Roma”: la dignidad no es un algoritmo.
Firmada la “Declaración de Roma”: la dignidad no es un algoritmo – Vatican News