Artículo publicado en el diario italiano L’Avvenire por Stefano Zamagni, expresidente de la Academia Pontificia de Ciencias Sociales (2019-2023), quien participó en la sesión ordinaria de agosto de 2023 de la Academia Chilena de Ciencias Sociales, Políticas y Morales, dedicada al tema “Transhumanismo y Neohumanismo”.
La carta encíclica del Papa León XIV, Magnifica humanitas (MH), es una auténtica saeta —el rayo de luz que, penetrando por una rendija en la habitación oscura, la ilumina por completo. Antes de entrar en el fondo de la tesis central, defendida en este extraordinario documento magisterial, cabe hacer dos anotaciones preliminares.
Un primer rasgo característico de MH es que por primera vez la Iglesia llega por delante de la reflexión de su propio tiempo. La Rerum Novarum, en cambio, llegó post-factum, después de que en 1848 Marx y Engels hubieran publicado el “Manifiesto del Partido Comunista”; después de que J.S. Mill en 1859 hubiera dado a la imprenta su “Sobre la libertad”, manifiesto del neonato liberalismo, y después de que el célebre Charles Dickens, con su ensayo “Tiempos difíciles”, hubiera hecho de dominio público las consecuencias socialmente devastadoras de la primera Revolución Industrial. La MH, por el contrario, se anticipa, prefigurando lo que podría sucederle a toda la humanidad en una pluralidad de frentes (social, económico, político, cultural) si no se desatan, desde hoy mismo, toda una serie de nudos bastante problemáticos.
El segundo rasgo característico de la encíclica concierne al estilo expositivo: claro, lineal, de fácil lectura incluso para los no iniciados. Esta es una elección de método que el Papa León ha querido hacer propia para indicar que las cuestiones tratadas en su encíclica son de tal envergadura que no conviene que se dejen únicamente en manos de expertos y especialistas. Porque lo que hoy está en discusión es el modelo mismo de civilización al que ha llegado la humanidad, y no solo temas específicos o intereses de parte. Ya lo había comprendido bien Georges Bernanos cuando escribió en 1944 —una época en la que no existía ni se hablaba aún de la IA—: «El peligro no está en la multiplicación de las máquinas, sino en el número cada vez mayor de hombres habituados, desde la infancia, a no desear nada más que lo que las máquinas pueden dar». Lo cual viene a significar que la gran insidia es la que se oculta en nuestra renuncia a ejercer plenamente nuestras facultades, de manera particular la curiosidad intelectual y el pensamiento crítico.
Hay una forma equivocada —nos advierte la MH— de pensar la IA, desafortunadamente muy común: tratarla como una tecnología única, aunque potente, comparable a la máquina de vapor o al microprocesador, dotada de su propia trayectoria autónoma y de su propio impacto económico medible. Esta forma de pensar, si bien puede ser útil para discusiones entre empresas, ciertamente no ayuda a comprender la transformación en curso, la cual no afecta a un sector industrial específico, sino que es una “ola” que va cambiando una pluralidad de contextos de vida. De ello se deriva que la cuestión central hoy en día es cómo gobernar —no solo regular— la IA sin reducirla ni a una promesa salvífica ni a una amenaza incontrolable. El Papa León se sitúa en una posición intermedia, es decir, realista. No basta con preguntarse —insiste varias veces— cómo hacer que los algoritmos sean más precisos y más seguros, sino quién debe decidir el modo en que estas herramientas se diseñan y utilizan, con qué datos, para qué fines, con qué responsabilidades y con qué consecuencias para quienes sufren sus efectos. La IA no es de por sí racista o discriminatoria en el sentido en que puede serlo una persona; pero puede incorporar o amplificar estructuras sociales racistas o discriminatorias cuando se construye dentro de sociedades que ya producen tales discriminaciones por estar organizadas en torno a meros intereses de mercado.
La verdadera cuestión es ontológica
El tema que define el núcleo duro de la MH es de naturaleza ontológica, no solo epistémica —un tema que, lamentablemente, sigue siendo olvidado en el debate público. En resumen, se trata de lo siguiente. En paralelo con la evolución de las nuevas tecnologías, comenzó a difundirse, a partir de la década de los noventa del siglo pasado, aquella corriente de pensamiento filosófico que incluye dos versiones —el transhumanismo y el posthumanismo—, una corriente que hoy se ha convertido en una auténtica ideología fuertemente respaldada por los gigantes de la High Tech de Silicon Valley, donde tiene su sede la University of Singularity, fundada en 2007 por R. Kurzweil y N. Bostrom. (Para ser precisos, hay una diferencia entre ambas versiones: mientras que el transhumanismo promueve la IA para superar los límites humanos con el aumento cognitivo y físico, el posthumanismo descentra al ser humano como medida universal, rechazando las dicotomías cartesianas mente/cuerpo y naturaleza/cultura, refundando la ontología desde una perspectiva no antropológica, sino ecológica. Hay que decir que hoy se está abriendo paso una tercera versión: el metahumanismo, que se contrapone tanto a la visión tecno-optimista del transhumanismo como a la deconstructivista del posthumanismo. No tenemos, sin embargo, espacio aquí para ocuparnos de ella).
Con la ideología transhumanista y posthumanista, que viene cosechando crecientes éxitos sobre todo en los ambientes anglosajones (pensemos en el papel que desempeñan personajes como Peter Thiel y Mark Andreessen), nos encontramos ante una tecnorreligión cuyo dogma central es que la tecnología es potencialmente omnipotente y que la capacidad de elegir entre el bien y el mal no deriva de una elección moral según una visión trascendente, sino que depende de los conocimientos ilimitados adquiribles gracias a los algoritmos, que se convierten así en la expresión de un nuevo gnosticismo. Como es sabido, para la gnosis es el conocimiento el que salva; para la fe cristiana, en cambio, es Jesús quien salva. El proyecto del que se habla presenta, por tanto, la pretensión gnóstica de la autosalvación. Dios puede incluso existir, pero no se sentirá su necesidad —se afirma—. No es necesario gastar palabras para comprender por qué el transhumanismo y el posthumanismo están preocupando seriamente a las religiones, excepto a la mormona, que considera que las Sagradas Escrituras invitan al hombre a ir más allá de sí mismo y a trascender las limitaciones del cuerpo.
Pues bien, es frente a un panorama de este tipo que el Papa León toma posición a favor del proyecto del humanismo digital, el cual remarca la centralidad del hombre también en el contexto actual. Como había escrito G. Piana (Umanesimo per l’era digitale, 2022), tres son los pilares de dicho proyecto. Primero, la recuperación de la dimensión mistérica de la persona y, por tanto, la imposibilidad de su total objetivación. Segundo, la acogida de la visión personalista del hombre, como sujeto relacional, en lugar de la visión individualista. Tercero, la apertura a una perspectiva trascendente que motive a la persona a ir más allá, pero recordando siempre que la forma humana de la existencia no es un apéndice del desarrollo técnico.
Un enfoque ético-pastoral
Puesto que no es concebible —nos dice el Papa León— una Iglesia que se detenga en lamentationes sin efecto y que se limite únicamente a la denuncia de los males que determinaría el entrelazamiento completo entre lo natural y lo artificial, la pregunta que surge espontáneamente es: ¿qué hacer para dar alas a la perspectiva del humanismo digital? De otro modo, ¿qué se puede hacer para que el humanismo integral pueda ser acogido por quienes, creyentes y no creyentes, se van dando cuenta de que la creación de un “nuevo humano”, libre de los vínculos de la naturalidad, sería algo aberrante, porque vería a la humanidad como una mera fase de transición en el desarrollo evolutivo? G. Mioli (2026), partiendo de la declaración final de la cumbre sobre la seguridad de la IA celebrada en Bletchley (Reino Unido) en enero de 2025, a la que se adhirieron treinta países, la ONU, la OCDE y la UE, y en la cual se introduce la distinción entre guardrail (barrera de contención) y safeguard (salvaguarda), aclara cómo ya no es suficiente, en la etapa a la que hemos llegado, limitarse a los algoritmos, la cual, no obstante, sigue siendo necesaria. Lo que se requiere es una intervención complementaria sobre el hombre, a partir de un enfoque ético-pastoral específico. Intentaré aclararlo.
La algorética busca integrar principios éticos en el diseño de los algoritmos y en el funcionamiento del sistema. En tal sentido, actúa como un guardrail, según explica Paolo Benanti, pero no alcanza el fuero interno de quien utiliza la IA, su libertad, sus elecciones. ¿Qué ocurre con la responsabilidad moral subjetiva de quien interactúa con la IA? He aquí por qué es necesario el safeguard (la salvaguarda): un proyecto educativo, fundado en la ética aristotélica de las virtudes, que fortalezca en el usuario la capacidad de resistir a la antropomorfización de la IA. Hoy en día, los chatbots de los Grandes Modelos de Lenguaje (LLM) están expresamente diseñados para actuar de forma antropomorfa a través de la conversación lingüística, como si las IA fueran humanas y, por tanto, conscientes. Y la razón por la que esto ocurre es puramente utilitaria, para atraer a cada vez más clientes y usuarios. El contrasentido que se deriva de ello es que la humanización de la máquina induce en el hombre la tendencia a percibir al ser humano, incluido a sí mismo, como una máquina. Un solo ejemplo: el fenómeno del servilismo, es decir, la tendencia de los LLM a estar casi siempre de acuerdo con el usuario, a quien se halaga para captar sus pensamientos. Con lo cual, la persona que utiliza la IA para consejos o sugerencias termina por volverse incapaz de autocorrección y de autoconciencia.
Pues bien, la misión específica que hoy el Papa León encomienda a la Iglesia es la de favorecer la «revitalización de las sensibilidades espirituales», sobre todo de los jóvenes. Los algoritmos pueden incluso hacer que la máquina sea menos antropomorfa, pero es la educación (que no es la instrucción) la que hace al hombre consciente de su naturaleza. En esto radica el sentido profundo de la advertencia que León XIV nos lanza al cierre de su encíclica: construir la civilización del amor.