El Papa llamó a permanecer “profundamente humanos”: ¿qué quiere decir con esto?

En su primera encíclica, el Papa León XIV pone el foco en el avance tecnológico y la inteligencia artificial. En este contexto propone una dicotomía entre técnica y humanidad y llama a todo el mundo, no sólo a los fieles, a reconstruir los muros, esta vez no de Jerusalém, sino de la esencia humana.

“En la era de la inteligencia artificial, en la que la dignidad humana corre el riesgo de verse eclipsada por nuevas formas de deshumanización, tenemos el deber urgente de permanecer profundamente humanos (...)”, señala el pontífice en Magnifica Humanitas.

Cuando el Santo Padre plantea esto, tiene otra imagen bíblica que se contrapone a la de Nehemías llamando al pueblo a reconstruir el Gran Templo: la de la torre de Babel, un espacio con “una sola lengua, una sola tecnología, una sola dirección”.

¿Pero qué hay detrás de la idea del Papa de permanecer humanos frente a la imagen de la torre de Babel?

Una lectura humanista

“El humanismo es la clave para entender este texto del Papa”, explica a Página|12 Ernesto Manuel Román, filósofo, docente de la Universidad Nacional de Mar del Plata y becario doctoral del Conicet.

Esto es “pensar al humano como un ser limitado, como un ser interdependiente, como un ser que necesita constantemente del diálogo y que contiene una diversidad, una pluralidad interna”.

Según Román, quien también forma parte del proyecto Cultura Material, Agencia y Prácticas, el mensaje de León XIV trata de recuperar la dignidad de esa humanidad frente a la tecnología.

Esta postura se contrapone a una idea transhumanista y co-evolutiva, donde se piensa la tecnología en diálogo constante y al servicio del desarrollo del ser humano, no como elementos separables.

“La posición que defiende León XIV es una posición que entiende que el ser humano tiene una esencia. Esto se explica muy fácilmente a partir del relato del Génesis y del ser humano como imagen de Dios”, afirmó Román.

Y añadió: “La idea siempre es que el ser humano es algo antes de utilizar la técnica. La imagen que tiene León detrás es una donde hay una esencia humana que se vincula con la técnica”.

Entonces, en este contexto, seguir siendo profundamente humanos es custodiar esta esencia humana frente al nuevo peligro de la inteligencia artificial.

Los nuevos peligros de la inteligencia artificial

La pregunta que se abre, entonces, es cuáles son estos peligros que se avecinan, para el Papa, con la inteligencia artificial.

¿Es el fin de la humanidad con la creación de una Inteligencia Artificial General, son los algoritmos de las redes sociales o los chatbot?

El texto no parece estar sumido en una fe hacia las declaraciones realizadas desde Silicon Valley. Más bien mantiene un agnosticismo tecnológico que pone la lupa sobre los riesgos concretos y materiales de la IA, y no una distopía inminente.

Y algo de esto puede leerse cuando retoma la idea de Babel:

“Evitemos, por tanto, el ‘síndrome de Babel’: la idolatría del lucro que sacrifica a los débiles, la uniformidad que aplana las diferencias, la pretensión de un lenguaje único —incluso digital— capaz de traducirlo todo, incluso el misterio de la persona, en datos y rendimientos”.

La definición es más que sugestiva cuando se pone en contexto, con la lupa sobre empresas como Palantir en Estados Unidos, Reino Unido e Israel, o gobiernos como el chino, y el procesamiento de millones de datos de cada persona para llevar a cabo mecanismos de vigilancia predictiva masiva.

Y cuando en Argentina surgen iniciativas oficiales como la idea de lanzar un “gemelo digital” desde el Ministerio de Capital Humano, donde se promete una mayor eficiencia al otorgar a sistemas de inteligencia artificial los datos que el Estado tiene sobre cada individuo.

¿La encíclica es acaso una respuesta del Papa al discurso de las utopías tecno-libertarias que pretende barrer la política y la discusión por algoritmos empaquetados como neutrales?

La humanidad en discusión

Pero también hay otros riesgos, más filosóficos que se vinculan con el cuestionamiento de la esencia humana.

Román aportó a esta idea: “Yo veo en toda la historia de la modernidad un perpetuo cuestionamiento de lo humano”. Y señaló varios puntos que pusieron en fuerte cuestionamiento esto.

El nacimiento del humanismo en el Renacimiento; pero también Copérnico y el corrimiento del humano como eje; Darwin y su hallazgo sobre la evolución; e incluso el psicoanálisis y la revelación del inconsciente como elemento clave de la psicología de cada persona, fueron todos elementos rupturistas.

Lo que viene con la IA puede leerse en este sentido.

¿Qué queda del ser humano y su esencia si su vida entera se traduce en un valor que un algoritmo lanzó para terminar su crédito social?

Así, se abre el interrogante sobre qué queda de cada persona si sus palabras y obras de arte son indistinguibles de las realizadas por un bot de IA.

El libre albedrío se pone en jaque con algoritmos diseñados para cooptar la atención, generando una dependencia absoluta y robando horas y horas del día.

La publicidad microsegmentada dice qué comprar o a quién votar incluso, operando sobre miedos, deseos y pesares abre una inquietud existencial e inquietante.

“Entiendo que, en la perspectiva del Papa, hay que reivindicar que hay algo irreductible en lo humano. Hay un otro que no puedo anticipar, que no puedo predecir y con el cual me veo forzado a dialogar y a construir algo”, comentó Román.

Luego, añadió: “Pero no un proyecto, de alguna manera, megalómano, totalitario, de construir una nueva Torre de Babel”.

El proyecto es radicalmente distinto, explicó Román, y León no plantea la reconstrucción de un nuevo templo sagrado, sino de un perímetro, muros de contención