Expertos en IA, regulación europea y humanismo han evaluado el papel de la persona en el tiempo de la inteligencia artificial a partir de la reciente encíclica del Papa León XIV, en un encuentro “Magnífica Humanitas: humanismo integral e inteligencia artificial”, organizado por la Universidad Loyola y la Real Academia Sevillana de Buenas Letras.
Situar la dignidad humana, el bien común y el desarrollo integral de la persona en el centro del debate tecnológico sobre a inteligencia artificial (IA). Esta ha sido conclusión fundamental a la que han llegado los tres expertos en IA, regulación europea y humanismo, que se han reunido en la Real Academia Sevillana de Buenas Letras para evaluar el papel de la persona en el tiempo de la inteligencia artificial a partir de la reciente encíclica del Papa León XIV.
El encuentro “Magnífica Humanitas: humanismo integral e inteligencia artificial”, en el que han participado Vincenzo Cardarelli, asesor jurídico principal para la Transformación Digital, la Gobernanza de la IA y la Transparencia Algorítmica en el Centro Común de Investigación de la Comisión Europea en Sevilla; Manuel López Casquete de Prado, profesor de la Universidad Loyola y especialista en Pensamiento Social Cristiano; y Diego Canales Aguilera, director del Máster Universitario en Inteligencia Artificial de Loyola, ha planteado un diálogo sobre cómo la tecnología puede ponerse al servicio de la dignidad humana, la justicia y el bien común.
La conversación, moderada por Emma Camarero Calandria, profesora titular de la Universidad Loyola y directora del Servicio de Cultura, ha derivado en una reflexión sobre los impactos éticos, tecnológicos, políticos, sociales y culturales de la inteligencia artificial.
El encuentro, ha sido inaugurado por Fabio Gómez-Estern, rector de la Universidad Loyola y Pablo Gutiérrez-Alviz Conradi, director de la Real Academia Sevillana de Buenas Letras. El rector de Loyola ha analizado el papel del sistema universitario en el debate de la IA: “la universidad es uno de los lugares donde más cruces de caminos y dilemas se plantean sobre la IA porque tenemos que lidiar con el ahora y el futuro. Los tiempos cambian y la irrupción de la IA Generativa en el aula ha cambiado la metodología y aprendizaje de estudio”.
El rector de Loyola y el director de la Real Academia Sevillana de Buenas Letras inauguran el encuentro.
Orientar la inteligencia artificial al servicio de la dignidad humana
Durante su intervención, Manuel López Casquete, ha subrayado que “la inteligencia artificial no puede entenderse como una tecnología éticamente neutral”. A partir de la reciente encíclica del Papa León XIV, ha señalado que “el gran reto consiste en discernir en qué condiciones la IA puede ponerse al servicio del desarrollo humano integral y cuándo, por el contrario, puede convertirse en una amenaza para la dignidad de la persona”.
Ha planteado esta reflexión a través de dos imágenes simbólicas: Babel y Jerusalén. Babel representa el riesgo de una tecnología orientada al poder, la eficiencia o el interés particular, capaz de generar nuevas formas de deshumanización. Jerusalén, en cambio, simboliza una construcción corresponsable y al servicio del bien común, en la que usuarios, programadores, reguladores, instituciones y empresas tecnológicas tienen una responsabilidad concreta en la custodia de la dignidad humana.
En este sentido, ha defendido que “construir Jerusalén” implica orientar la inteligencia artificial al servicio de la dignidad humana, el bien común y la protección de los más frágiles. “Supone utilizar la tecnología para aliviar el sufrimiento, reducir desigualdades, favorecer el acceso de todos a sus beneficios y convertir la proximidad digital en una verdadera ocasión de encuentro y cuidado recíproco”.
Para ello, ha señalado la necesidad de avanzar en marcos normativos adecuados, sistemas de transparencia y rendición de cuentas, auditorías independientes, acceso equitativo a los datos y mecanismos que permitan controlar públicamente el uso de estas tecnologías. Asimismo, ha subrayado la importancia de educar a los usuarios para un uso responsable de la IA, proteger la dignidad del trabajo ante las transformaciones que ya se están produciendo y promover una cultura digital.
No todo paso por la IA Generativa
Por su parte, Diego Canales ha considerado que “la postura del Papa es muy aguda y refleja muy bien los retos y amenazas que representa la IA para nuestra sociedad y las personas. No habla de punto de vista técnico, pero ha sido muy certero, puesto que los retos que plantea son un buen punto de partida para la ética de la IA”.
Diego ha explicado que la IA Generativa sigue una carrera similar a la armamentística o espacial, que no beneficia a nadie, y es bastante insostenible ambiental y, probablemente, económicamente. El experto en IA de la Universidad Loyola ha aclarado que las aplicaciones más beneficiosas a nivel científico vienen de la IA no generativa. A su vez, los riesgos mayores y la «insostenibilidad» parte principalmente de la IA Generativa.
La inteligencia artificial desde el punto de vista normativo y regulatorio
Vincenzo Cardarelli ha señalado que los desafíos que plantea la encíclica coinciden profundamente con los que la Unión Europea viene trabajando desde 2017 y 2018, cuando comenzó a construir su política sobre IA desde una reflexión ética. “Nos preguntamos cuáles eran los valores que preservar y cómo podíamos seguir situando a la persona en el centro de cualquier sistema de gobernanza”, ha explicado.
También ha advertido de que el contexto ha cambiado, ya que el creciente peso económico de la IA y las tensiones geopolíticas han convertido esta tecnología en un elemento de competición estratégica. En este sentido, ha destacado el papel de Sevilla, a través del Centro Común de Investigación de la Comisión Europea, como espacio clave de reflexión sobre la IA, desde su dimensión medioambiental y económica hasta la gobernanza de los algoritmos y su aplicación en ámbitos como la educación.
“El Papa no habla de los riesgos del pasado mañana, sino de cosas que ocurren hoy. El llamamiento a la reflexión no podía ser más oportuno”, ha afirmado Cardarelli, quien ha defendido la importancia de que Europa siga avanzando en la prevención y regulación de los riesgos asociados a la inteligencia artificial.