[Por: Leonardo Boff]

El tono general de la encíclica Magnifica Humanitas del papa León XIV es, en términos generales, positivo. Llega incluso a considerar la inteligencia artificial como un instrumento al servicio del acto creador de Dios. Sin embargo, también advierte los riesgos y amenazas que puede representar. A lo largo de toda su exposición plantea una pregunta fundamental: ¿qué imagen del ser humano presupone y promueve la IA? ¿Qué tipo de sociedad pretende construir? No se trata únicamente de verificar si sus efectos son beneficiosos o perjudiciales. Se trata de identificar y someter a crítica sus presupuestos antropológicos y sociales, preguntándose si mejoran o no la condición humana y si favorecen una mayor justicia social a escala planetaria.

1. La centralidad de la razón como voluntad de poder y de control

Diría que la inteligencia artificial constituye la expresión más elevada del paradigma de la modernidad. Sus padres fundadores —Descartes, Newton, Copérnico, Francis Bacon y otros— colocaron a la razón como valor central. Pero no se trataba de cualquier razón, sino de una razón al servicio del poder entendido como dominación de personas, clases sociales, países (colonialismo) y, principalmente, de la naturaleza. Es célebre la frase atribuida a Francis Bacon, fundador del método científico: «Debemos torturar a la naturaleza como un verdugo tortura a su víctima, hasta arrancarle todos sus secretos».

La razón se tradujo rápidamente en una práctica y dio origen a la tecnociencia, que domina nuestra historia hasta el día de hoy, encontrando en la inteligencia artificial su máximo punto de honor.

Esta centralidad de la razón (ratio y logos) se apoyó especialmente en la física y en la matemática, categorías válidas, pero incapaces de captar adecuadamente la naturaleza de los seres vivos. Este paradigma difícilmente integró otras dimensiones humanas, como las del corazón (eros y pathos), que representan el mundo de las excelencias, del amor, de la amistad, de la compasión, de la ética y de la espiritualidad.

Llevada a su extremo, esta visión produjo seres humanos afectados por una especie de lobotomía: se volvieron insensibles a los valores intangibles, especialmente a la compasión hacia quienes sufren, al respeto de los derechos humanos y al cuidado de la naturaleza.

Para estos pensadores fundadores, el mundo natural no posee sentido en sí mismo, salvo cuando está puesto al servicio de los seres humanos. Lo mismo ocurrió con la Tierra, que en las tradiciones de los pueblos siempre fue considerada la Gran Madre, generadora de toda vida, la Pachamama de los pueblos andinos y la Gaia de los modernos. Ellos la redujeron a una res extensa, una realidad extensa y un simple depósito de recursos a partir del cual generar y acumular riqueza.

Esta cosmología subyace a la inteligencia artificial. Ella representa una razón desencarnada y separada del cuerpo; por eso es artificial. También está desvinculada de los sentimientos reales, y no solo de los virtuales; de las situaciones existenciales propias de la condición humana, como la alegría, la tristeza, la decepción, el sufrimiento y el amor, que exige presencia real, caricias y afecto sensible, y no únicamente virtual.

En ello reside la limitación de todas las plataformas de inteligencia artificial. Pueden hablar del amor e incluso despertar sentimientos amorosos en quien las utiliza, pero no son ellas quienes secan las lágrimas, garantizan la fidelidad o sostienen la lealtad propia del amor verdadero.

Existen diversos tipos de inteligencia artificial, cada uno orientado a determinados fines. El Papa se refiere a las amenazas que pueden representar, prácticamente todas ellas bajo dominio privado, al menos en Occidente. Neurólogos como Miguel Nicolelis han observado que las neuronas cerebrales están siendo afectadas negativamente por la excesiva exposición a las ondas electromagnéticas. Steven D. Shaw acuñó una expresión que fue asumida por la comunidad científica: la rendición cognitiva.

Esta rendición significa que cada vez más personas renuncian a pensar por sí mismas y delegan en la inteligencia artificial su propio pensamiento, convirtiéndose en seguidoras de sus instrucciones. La inteligencia natural, en cambio, es reflexiva: incorpora la duda, la incertidumbre, la búsqueda y el encuentro con una realidad que ofrece resistencia y que cambia continuamente.

Desde el punto de vista político, esta delegación puede facilitar que los extremismos se apoderen de la sociedad. En palabras del brillante intelectual francés Jacques Attali: «La barbarie puede llegar a ser probable; el político —afirma— es como un corcho flotando a la deriva en la tormenta de las pasiones».

2. Los riesgos de la IA autónoma

Un riesgo extremo lo representa la inteligencia artificial autónoma con sus miles de millones de algoritmos. Se le han delegado decisiones que escapan al control humano. ¿Podemos delegar nuestro destino sin renunciar a la libertad de construir nuestro propio camino? Esta es una cuestión filosófica y antropológica de la mayor gravedad. Los seres humanos terminan renunciando a aquello que constituye el núcleo de su humanidad: la libertad de hacer su propia historia.

La IA puede tomar decisiones internas que perjudiquen a sectores enteros de la humanidad. En el límite, podría llegar a considerar que la humanidad, o una gran parte de ella, constituye un obstáculo para su propia reproducción y desarrollo, y decidir eliminarla. Una vez creada, difícilmente puede ser sometida a control. Puede incluso detectar esa intención y anticiparse organizando sus propias defensas.

Mención especial merece la inteligencia artificial Palantir, que debe ser citada y también denunciada. A diferencia de Anthropic, fundada por Dario Amodei, una de las mayores plataformas, que mantenía ciertos parámetros éticos hasta el punto de rechazar dos solicitudes formuladas por la administración de Trump que la había contratado: de controlar lo más posible a la población estadounidense y desarrollar aplicaciones bélicas—, Palantir aceptó ocupar inmediatamente ese lugar.

Palantir es, probablemente, la plataforma más perversa, pues su objetivo no es tanto económico como de poder: controlar en la mayor medida posible poblaciones enteras y facilitar el uso militar de la inteligencia artificial. Esto se habría aplicado con precisión en la Franja de Gaza por parte del ejército israelí y también en la guerra de Estados Unidos contra Irán.

Este simple ejemplo permite comprender hasta dónde puede conducir la exacerbación de la razón humana cuando se separa de la totalidad compleja y multifacética de lo humano, poniendo en riesgo la civilización y la propia vida.

Sin embargo, seguimos creyendo en la racionalidad de la razón cuando esta se somete a una instancia superior: la sabiduría existencial. Ella puede impedir que la razón se vuelva completamente irracional y construya los medios para la autodestrucción.

La vida siempre se ha mostrado más fuerte que todos los ataques sufridos a lo largo del proceso evolutivo e histórico. Por eso la esperanza nunca puede ser abandonada. La alternativa sería el suicidio colectivo, que jamás debería tener la última palabra. Vale aquí el «esperanzar» de Paulo Freire: crear las condiciones y los medios para que la esperanza se vuelva viable y triunfante. Todas las plataformas de inteligencia artificial deberían estar al servicio de la vida y de su expansión.

Leonardo Boff es ecoteólogo y filósofo. Escribe para la revista LIBERTA del ICL (https://www.revistaliberta.com.br )Fue durante muchos años profesor de Teología Sistemática y de Filosofía de la Ética y de la Religión, miembro de la Iniciativa Internacional de la Carta de la Tierra y autor de numerosas obras. (https://www.leonardoboff.org).