En conversación con Revista Educar, Álvaro Pezoa, profesor titular del ESE Business School de la Universidad de los Andes, PhD en Filosofía y Máster en Artes Liberales por la Universidad de Navarra, aborda las oportunidades y riesgos de estas tecnologías, explica por qué la inteligencia artificial no puede reemplazar dimensiones esenciales de la experiencia humana y analiza el llamado del Pontífice a fortalecer la educación, las Humanidades y la formación ética en un mundo cada vez más marcado por los algoritmos.

En Magnifica Humanitas, León XIV propone una mirada que pone en el centro la dignidad de la persona humana y el bien común, invitando a reflexionar sobre las oportunidades y riesgos que plantea esta tecnología. Para Álvaro Pezoa, se trata de una encíclica particularmente relevante porque aborda uno de los principales desafíos de nuestro tiempo desde una perspectiva profundamente humana y cristiana. 

–¿Qué le parece la oportunidad de esta encíclica, la primera del Papa León XIV?

–Me parece que no podía ser más oportuna. Estamos inmersos plenamente en lo que se ha llamado la revolución digital y en la concreta emergencia de la inteligencia artificial, especialmente en su modalidad generativa, de la cual conocemos modelos, algoritmos o plataformas como ChatGPT, Claude, Gemini y otras.

Creo que la oportunidad de esta encíclica tiene mucho que ver con el mismo nombre que eligió el Papa para su pontificado. León XIV ve claramente que estamos frente a una nueva realidad que nos obliga a discernir desde la tradición del pensamiento cristiano y desde la enseñanza evangélica que nos dejó Jesucristo.

Así como hace 135 años León XIII publicó Rerum Novarum, considerada la primera encíclica de la Doctrina Social de la Iglesia, para responder a los desafíos de la revolución industrial y a la llamada cuestión social, hoy León XIV se enfrenta a las nuevas realidades de nuestro tiempo: la revolución digital, la robótica y la inteligencia artificial.

Son las cosas nuevas de nuestra época y tenemos que reflexionar sobre ellas desde una visión cristiana. El Papa plantea que debemos hacerlo teniendo dos elementos siempre a la vista. Primero, la dignidad de la persona humana. Lo fundamental sigue siendo la centralidad de la persona y de su dignidad. Y segundo, el bien común de las sociedades y de los pueblos.

Toda la encíclica busca situar una visión analítica, crítica y propositiva respecto de la inteligencia artificial desde esa doble perspectiva. No se trata simplemente de preguntarse qué puede hacer esta tecnología o hasta dónde puede llegar su desarrollo, sino de preguntarse cómo impacta en la persona humana y cómo contribuye —o no— al bien común. Esa es la pregunta de fondo que atraviesa todo el documento. 

–El Papa plantea una alianza educativa entre la familia, la escuela, la comunidad y el Estado. ¿Qué importancia tiene esta propuesta?

–Es una reflexión muy interesante porque aparece precisamente cuando el Papa analiza aquellas áreas donde la inteligencia artificial ya tiene influencia y donde debemos procurar que esa influencia sea positiva.

Lo que plantea es que tenemos que hacer un discernimiento y ofrecer una educación y un acompañamiento a niños y jóvenes en el que participen las familias, los colegios, las escuelas y también la política. Tenemos que generar un contexto donde el uso de estas tecnologías favorezca el desarrollo de las personas de acuerdo con una recta comprensión de la antropología humana.

La familia sigue siendo el primer educador de los niños y jóvenes, pero también las instituciones educativas y la sociedad tienen una responsabilidad importante. Además, existen riesgos que no podemos ignorar. Uno de ellos es una cierta dependencia de una herramienta que está siempre disponible, responde rápidamente y parece ofrecer respuestas objetivas y contundentes.

Sin embargo, detrás de ella está la huella de quienes la desarrollaron. Existen personas, formas de comprender el mundo, maneras de entender a la persona humana e incluso determinadas ideologías. La inteligencia artificial no es neutra en ese sentido.

También puede multiplicar sesgos presentes en la información con la que trabaja. Sabemos que la inteligencia artificial generativa funciona sobre la base de grandes cantidades de datos, lo que conocemos como Big Data. A partir de esos datos se entrena y aprende.

Por eso puede transformarse en un instrumento de influencia positiva, pero también en una herramienta de dominio o manipulación si no existe un adecuado discernimiento. Ese es uno de los llamados más importantes que realiza la encíclica. 

"¿Queremos utilizar la inteligencia artificial bajo un paradigma tecnocrático orientado al poder y al control? ¿O queremos una sociedad donde cada persona cuente, donde la dignidad de cada uno sea considerada y donde el bien común sea el horizonte compartido? Ese es, para mí, el gran mensaje que atraviesa toda la encíclica”. -Álvaro Pezoa.

–La encíclica dedica un apartado a la verdad como bien común. ¿Cómo se educa en la era de la inteligencia artificial bajo esta mirada?

–El Papa es muy explícito en este punto. Por una parte, dice que hay que apoyar a los profesores y a quienes educan para que se actualicen permanentemente y aprendan a utilizar estas tecnologías para el bien.

La inteligencia artificial ofrece muchas potencialidades nuevas para la educación y para prácticamente todos los ámbitos de la actividad humana. Sería un error ignorarlas o actuar como si no existieran. Hay que aprender a utilizarlas y sacarles provecho. Pero, al mismo tiempo, el Papa insiste en que hay que enseñar a usar la inteligencia artificial.

Las familias y los educadores tienen el deber de ayudar a los jóvenes a comprender cuándo utilizar estas herramientas y cuándo no hacerlo. Y aquí aparece una idea central de la encíclica: la inteligencia artificial no busca la verdad. Hay que ayudar a los jóvenes a discernir lo que es verdadero y a desarrollar amor por la verdad.

Esto es muy importante, porque muchas veces se piensa que la inteligencia artificial entrega respuestas verdaderas. En realidad, lo que hace es ofrecer respuestas probabilísticas. Está orientada a identificar la respuesta más probable según los datos con los que fue entrenada, no necesariamente la respuesta verdadera.

La inteligencia artificial tampoco genera pensamiento crítico. Hay que ayudar a los jóvenes a elaborar sus propios discernimientos sobre principios y valores sólidos. Y tampoco genera auténtica comunidad. En ella no existe una dimensión ética viva, ni consideración por las fragilidades humanas, ni la necesidad propiamente humana de vivir en comunidad y cultivar la solidaridad para crecer como personas. Todas esas dimensiones siguen siendo profundamente humanas y constituyen una responsabilidad irrenunciable de la educación. 

–¿Cuáles son los principales riesgos que observa para la educación?

–Uno de los riesgos más importantes es el inmediatismo. La educación es un proceso arduo que requiere tiempo. Requiere persistencia, fortaleza y perseverancia. Sin embargo, la inteligencia artificial nos puede llevar a esperar que todo sea inmediato.

Eso es algo que ya vemos con frecuencia en niños y jóvenes. Existe el riesgo de debilitar virtudes fundamentales para el aprendizaje y para la formación del carácter.

También puede reducirse la capacidad de reflexión personal y el espíritu crítico frente a la realidad, a los conceptos, a las ideas, a las teorías y a las propuestas que recibimos. Muchas veces las respuestas llegan de manera casi automática y eso puede llevarnos a aceptar información sin analizarla suficientemente. Por eso es tan importante recordar que la inteligencia artificial no está orientada a la verdad. Lo que hace es entregar respuestas probabilísticas. Busca la respuesta más probable, no necesariamente la más verdadera.

En consecuencia, el pensamiento crítico, el discernimiento y la capacidad de reflexión personal se vuelven más importantes que nunca. 

–La encíclica parece realizar un llamado a fortalecer las Humanidades. ¿Por qué son tan importantes en este contexto?

–Porque siempre se ha entendido que una educación profunda está orientada a la búsqueda de la verdad, del bien y de la belleza. Estas tres dimensiones son fundamentales para la existencia humana y constituyen grandes orientaciones para todo proceso educativo.

El Papa nos recuerda que debemos enseñar a los jóvenes a pensar, a discernir lo que es bueno y lo que es malo y a desarrollar criterios para contemplar la realidad y reconocer aquello que es verdaderamente valioso. La Filosofía, las Artes, la Literatura y la Historia permiten comprender mejor a la persona humana, a la sociedad y a nosotros mismos. Son las disciplinas que entregan criterios para entender estas grandes realidades de la existencia humana. La inteligencia artificial sobresale en el cálculo rápido y en el manejo de grandes agregaciones de datos. En eso nos supera ampliamente y precisamente por eso constituye una herramienta tan poderosa.

Pero las demás dimensiones de la inteligencia humana y de la voluntad humana no están presentes en ella. Por eso debemos prestar una atención especial a las Humanidades. Son las que permiten desarrollar pensamiento crítico y dar un buen destino a la inteligencia artificial, evitando quedar atrapados o a merced de ella. Además, detrás de la inteligencia artificial existe una visión tecnológica y tecnocrática que, dejada a sí misma, puede resultar riesgosa. Si todo se observa únicamente desde el cálculo, el rendimiento o la eficiencia, terminamos cosificando a las personas y reduciéndolas a simples medios para obtener resultados. 

–Otra de las alertas que plantea León XIV tiene relación con los riesgos para la democracia. ¿Por qué le preocupa este tema?

–Es una preocupación muy presente en toda la encíclica. El Papa vuelve sobre ella varias veces porque considera que es uno de los desafíos más importantes. Estas tecnologías requieren enormes recursos económicos para ser desarrolladas y gran parte de ese desarrollo está concentrado en pocas empresas tecnológicas que poseen los recursos y el poder necesarios para impulsarlas.

Eso significa que estamos frente a una enorme concentración de poder. La inteligencia artificial puede transmitir sesgos discriminatorios. Puede generar condiciones extraordinarias para controlar la vida de las personas. Puede ayudar a alterar la verdad y amplificar fenómenos como las fake news. Si consumimos información falsa o distorsionada, si reproducimos sesgos presentes en los datos con los que operan los algoritmos o si disminuyen nuestros espacios de libertad y autonomía, entonces la calidad de la vida democrática puede verse afectada. Por eso el Papa alerta sobre estos posibles efectos y sobre la necesidad de enfrentarlos con responsabilidad. 

–¿Qué otras alertas le parecen especialmente relevantes?

–A mí me parece particularmente importante una idea que cruza toda la encíclica y que funciona como su hilo conductor. La pregunta de fondo es qué queremos hacer con la inteligencia artificial y cuáles son los fines últimos para los cuales queremos utilizarla.

El Papa plantea dos posibilidades simbólicas muy potentes. Por una parte aparece Babel. Una sociedad que se reafirma en su propio poder. Una cultura de la autosuficiencia, de la homogenización de las conductas y de la ilusión de que el ser humano puede bastarse completamente a sí mismo. Nunca la humanidad había tenido tanto poder sobre sí misma como hoy. Y la pregunta es qué vamos a hacer con ese poder.

Por otra parte aparece la imagen de Nehemías reconstruyendo Jerusalén. Una comunidad donde todos participan, colaboran y trabajan juntos. Una comunidad que reconoce sus fragilidades y busca construir un bien común. Entonces la pregunta es cuál de esos caminos queremos seguir. ¿Queremos utilizar la inteligencia artificial bajo un paradigma tecnocrático orientado al poder y al control? ¿O queremos una sociedad donde cada persona cuente, donde la dignidad de cada uno sea considerada y donde el bien común sea el horizonte compartido? Ese es, para mí, el gran mensaje que atraviesa toda la encíclica. 

–La encíclica ha generado interés incluso fuera del mundo católico. ¿Cómo interpreta esa recepción?

–Me parece muy significativo. Ha sido muy comentada y muy bien comentada por personas provenientes de ámbitos muy distintos, incluso por personas que no pertenecen al mundo católico. Eso demuestra que aborda cuestiones que preocupan a toda la sociedad. Por eso creo que estamos frente a un aporte enorme para la reflexión. Un aporte para las personas, para las familias, para los educadores, para los empresarios, para los gobernantes y para la sociedad en general. Es un documento muy bien fundamentado en la Doctrina Social de la Iglesia y que logra dialogar con desafíos absolutamente contemporáneos. 

–¿Qué invitación final haría a quienes trabajan en educación?

–Invitaría a todos a leer la encíclica con detenimiento y con pausa. Es un texto de enorme riqueza y profundidad. El Papa nos llama a pensar críticamente estas realidades y nos entrega muchos elementos para hacerlo. Además, nos recuerda que esta es una cuestión profundamente antropológica.

La pregunta de fondo es cómo debemos comprender al ser humano, qué cosas favorecen su desarrollo y cuáles pueden terminar dañándolo.