Un algoritmo decide lo que vemos, otro filtra lo que leemos y otros entran en los procesos que rigen el trabajo, la información y las elecciones colectivas. en la encíclica Humanidad magnífica. el primero firmado por el Papa León XIV y publicado el 25 de mayo, la inteligencia artificial no es vista como una tecnología más; es parte de la infraestructura invisible de nuestra vida cotidiana contemporánea.
Pero el texto no se concibe como una reflexión exclusivamente tecnológica. El Papa León XIV sitúa la cuestión de la IA dentro de la tradición de la doctrina social de la Iglesia Católica e invoca directamente, al tiempo que la actualiza, la cosas nuevas del Papa León XIII (publicado el 15 de mayo de 1891) en el año de su 135 aniversario. Esa encíclica abordó la cuestión del trabajo en el apogeo de la revolución industrial a finales del siglo XIX.
Si las “res novae” de aquella época eran las fábricas, el trabajo y el capitalismo industrial, hoy los nuevos problemas giran en torno a plataformas digitales, algoritmos, datos y sistemas de automatización que están remodelando el poder, la economía y las relaciones sociales. Por este motivo, la encíclica no se presenta como un texto técnico sobre innovación, sino más bien como un intento de interpretar la transformación digital a la luz de la dignidad humana y el bien común. La tecnología, escribe el Papa, no es mala en sí misma; al contrario, pertenece a la historia y a la creatividad humanas. Pero la situación actual es diferente tanto en escala como en profundidad: “Nunca la humanidad ha tenido tanto poder sobre sí misma”, observa el texto, describiendo tecnologías que ahora dan forma a los procesos de toma de decisiones, la imaginación colectiva y la vida social de una manera cada vez más generalizada.
Es desde este punto que Robert Francis Prevost decidió comenzar: desde la creciente concentración de poder ejercido a través de sistemas cada vez más opacos pero cada vez más decisivos, y desde la pregunta que recorre toda la encíclica: ¿Qué queda de la dignidad humana, la protección de la verdad, el trabajo, la justicia social y la paz cuando las decisiones se transfieren a la lógica algorítmica?
Tecnología de desarme
En la encíclica hay una expresión que se convierte en la clave para interpretar todo el escenario: “tecnología desarmada”. El significado está muy alejado de cualquier intento de frenar el desarrollo de la inteligencia artificial o de negar su impacto potencialmente transformador para siempre. Para Robert Francis Prevost, desarmar la IA significa evitar que se convierta en una forma de poder capaz de dominar la existencia humana.
Para León XIV, la cuestión no es, pues, la tecnología en sí, sino su organización y aplicación. La IA, escribe el Papa, es hoy parte de una carrera global hacia el “algoritmo de mayor rendimiento” y el “centro de datos más grande”, donde la ventaja competitiva también se vuelve geopolítica. En este contexto, unos pocos actores concentran infraestructura digital, datos y capacidad informática, lo que afecta la información, la economía e incluso la democracia.
Desarmar significa romper esta ecuación entre poder técnico y derecho a gobernar. “Como ocurre en cada gran punto de inflexión tecnológico, la IA tiende sobre todo a aumentar el poder de quienes ya poseen recursos económicos y acceso a los datos”, explica el pontífice.
En términos explícitos, la encíclica afirma que no basta simplemente con regular la tecnología: hay que arrebatársela a los monopolios, hacerla transparente y abierta a cuestionamientos, es decir, hacerla “habitable” por una pluralidad de actores. Sobre todo, se debe evitar que la IA se convierta en un instrumento de dominación económica, política o militar por parte de unos pocos elegidos. Esta no es una metáfora moral: es un llamado a evitar que la lógica de la competencia transforme una infraestructura compartida en un sistema de control.
La verdad dentro de los sistemas que seleccionan la realidad
Si la tecnología concentra el poder, uno de los primeros efectos concretos tiene que ver con la forma en que se forma la verdad colectiva. La encíclica aborda la cuestión de la desinformación, pero de una manera decididamente más profunda porque la realidad percibida, o más bien la experiencia, está cada vez más filtrada por sistemas que deciden qué mostrar y qué ocultar.
No se trata sólo de noticias falsas o contenidos falsos en diversas formas. El problema es que las plataformas y los algoritmos seleccionan información basándose en criterios para maximizar la atención y el compromiso. En otras palabras, lo que se hace visible no es necesariamente lo más cierto, sino lo que funciona mejor para generar reacciones. De esta manera, la verdad no desaparece, sino que se vuelve dependiente de sistemas opacos que influyen en las opiniones, percepciones y elecciones colectivas sin que siempre esté claro cómo.
