La publicación de Magnifica Humanitas, la primera encíclica del Papa León XIV, ha abierto una reflexión global sobre el impacto de la inteligencia artificial en la vida humana. El documento aborda los desafíos éticos, sociales y educativos que plantea esta tecnología, advirtiendo sobre la necesidad de resguardar la dignidad de las personas, fortalecer el discernimiento y promover un desarrollo tecnológico que esté al servicio del bien común.

En un contexto marcado por la rápida expansión de herramientas basadas en inteligencia artificial, el Pontífice realiza un llamado a recuperar el valor de las humanidades, el pensamiento crítico y la formación ética. Sobre estos desafíos conversamos con Gabriela Arriagada, profesora asistente del Instituto de Éticas Aplicadas de la Pontificia Universidad Católica de Chile, quien analiza los principales mensajes de la encíclica y sus implicancias para el mundo educativo.

Gabriela Arriagada es licenciada en Filosofía por la Pontificia Universidad Católica de Chile, Master of Science en Filosofía y Ética por la Universidad de Edimburgo y PhD en Filosofía, especializada en ética aplicada a la inteligencia artificial, por la Universidad de Leeds (Inglaterra). 

-¿Qué le parece la oportunidad de esta encíclica y cuáles son los temas centrales a los que deberíamos prestar atención?

-Me parece fascinante. De hecho, conversaba con mis estudiantes y les decía que esta encíclica aborda precisamente las temáticas centrales en las que debemos fijarnos cuando hablamos de inteligencia artificial. El Papa realiza un paralelo muy interesante con la doctrina social de la Iglesia, que históricamente ha cuestionado los sistemas de producción y ha buscado promover formas más justas de organización social.

Lo que hace ahora es trasladar esa reflexión al análisis de la inteligencia artificial. Uno de los primeros aspectos que destaca es lo difícil que resulta definirla. Además, establece una distinción muy clara: la inteligencia artificial no posee inteligencia humana. Hay una frase que me parece particularmente potente: señala que la inteligencia artificial no tiene conciencia moral, no juzga el bien y el mal, no capta el sentido último de las situaciones ni asume el peso de las consecuencias. Ese mensaje es muy relevante porque nos recuerda que el impacto de esta tecnología depende, en última instancia, de las decisiones humanas.

-La encíclica reconoce que la IA puede ser una herramienta útil, pero al mismo tiempo releva el papel de la ética y las humanidades. ¿Por qué son tan importantes hoy?

-Porque el Papa establece una diferencia fundamental entre el aprendizaje automático de las máquinas y el crecimiento humano. Para él, educarse como persona no puede reducirse a eficiencia, optimización o procesamiento estadístico. El desarrollo humano implica libertad, fragilidad, diálogo, reflexión y construcción de sentido. Es un proceso de florecimiento personal. Desde esa perspectiva, el gran riesgo es que confundamos ambos procesos y terminemos sustituyendo aquello que es propiamente humano por mecanismos tecnológicos. Por eso advierte que una dependencia excesiva de la inteligencia artificial podría debilitar capacidades esenciales como el pensamiento crítico, la reflexión y la creatividad. Su llamado es claro: la tecnología debe estar al servicio de la formación humana y nunca reemplazar los procesos centrados en las personas.

Actualmente, Gabriela Arrigada es profesora asistente de Ética de la Inteligencia Artificial y Datos, con doble nombramiento en el Instituto de Éticas Aplicadas y el Instituto de Ingeniería Matemática y Computacional de la Pontificia Universidad Católica de Chile.

"La encíclica nos recuerda que el verdadero desafío no es competir con la inteligencia artificial, sino asegurar que su desarrollo fortalezca y no debilite nuestra humanidad”. Gabriela Arriagada.

-¿Existen evidencias de que esta preocupación ya se está manifestando en la educación?

-Sí. Hoy estamos comenzando a observar evidencia muy relevante. No solo estamos viendo fenómenos de dependencia hacia los grandes modelos de lenguaje, sino también ciertas deformaciones cognitivas. Por ejemplo, algunas investigaciones muestran que las personas comienzan a dudar de sus propios conocimientos cuando interactúan de manera excesiva con estas herramientas. Esto ocurre incluso entre expertos en determinadas áreas.

Estamos en un momento de incertidumbre y aprendizaje. Precisamente por eso resulta tan importante el llamado del Papa a reflexionar críticamente sobre el lugar que queremos que ocupe la inteligencia artificial en nuestras vidas y en nuestros sistemas educativos.

-La encíclica también habla de la necesidad de regular éticamente la inteligencia artificial. ¿Qué significa eso en la práctica?

-Regular éticamente significa que las normas no pueden diseñarse únicamente en beneficio de quienes concentran el poder tecnológico. Debemos ser capaces de analizar el ecosistema completo, comprender los contextos y establecer límites claros.

El Papa plantea que necesitamos pausas para reflexionar, contrastar evidencia y tomar decisiones responsables. No se trata de regular por regular, sino de preguntarnos qué tipo de desarrollo tecnológico queremos promover y cuáles son las líneas que no deberían cruzarse. Eso implica establecer marcos jurídicos adecuados, mecanismos independientes de supervisión y una verdadera voluntad política para proteger los derechos de las personas.

-¿Qué papel cumplen las instituciones educativas en este escenario?

-Un rol fundamental. La educación sigue siendo la herramienta más poderosa para preparar a las personas frente a estos desafíos. Desde el Instituto de Éticas Aplicadas hemos desarrollado diversas iniciativas vinculadas a la inteligencia artificial y la educación. Una de ellas son guías de recomendaciones ético-pedagógicas de libre acceso, orientadas a ayudar a los docentes a incorporar estas herramientas de manera reflexiva.

Lo importante es que la conversación no se reduzca a aspectos técnicos. También debemos preguntarnos qué objetivos de aprendizaje perseguimos, cómo promovemos la deliberación ética y cómo desarrollamos la capacidad de reflexión en nuestros estudiantes.

-La encíclica parece hacer un llamado especial a fortalecer las humanidades. ¿Por qué considera que son tan necesarias hoy?

-Porque las humanidades desarrollan justamente aquellas capacidades que la inteligencia artificial no puede reemplazar. Hablo del discernimiento, el juicio crítico, la contextualización, la capacidad de cuestionar y de analizar situaciones complejas desde distintas perspectivas. Hoy, incluso el mercado laboral está comenzando a valorar cada vez más estas competencias. Se necesitan personas capaces de identificar riesgos, comprender dilemas éticos y tomar decisiones considerando valores humanos, no solo datos.

La formación humanista permite aprender a trabajar con otros, dialogar, priorizar principios y comprender las consecuencias de nuestras acciones. Son habilidades esenciales en cualquier profesión y, probablemente, serán cada vez más importantes en un mundo atravesado por la inteligencia artificial.

-¿Cuál cree que es el principal mensaje que deja esta encíclica para el mundo educativo?

-Que no debemos perder de vista aquello que nos hace humanos. La inteligencia artificial puede ofrecer herramientas extraordinarias, pero no puede reemplazar nuestra capacidad de pensar, preguntar, dialogar y discernir. Por eso es tan importante que la educación ética y la formación humanista sean transversales desde los primeros años de escolaridad. Necesitamos que las futuras generaciones aprendan a utilizar estas tecnologías con criterio lógico, criterio ético y sentido de responsabilidad.