El Papa León XIV publicó el lunes su primera encíclica, denominada Humanidad magnífica sobre “salvaguardar a la persona humana en la época de la inteligencia artificial”. Y si bien la IA es el gancho, los problemas en los que Leo se centra son más antiguos y más generalizados: la desigualdad, la guerra, la erosión de la democracia y la concentración del poder en manos de aquellos a quienes no necesariamente les importa si la humanidad en general sigue siendo magnífica.
A lo largo del documento de 200 páginas, que el Papa presentó junto con el cofundador de Anthropic, Chris Olah, Leo sostiene que la tecnología construida y gobernada por una pequeña élite no puede, por definición, servir al bien común.
“Cuando ese poder se concentra en manos de unos pocos, tiende a volverse opaco y a evadir la supervisión pública, lo que aumenta el riesgo de formas distorsionadas de desarrollo que dan lugar a nuevas dependencias, exclusiones, manipulaciones y desigualdades”, escribe.
“De hecho, como ocurre con cada cambio tecnológico importante, la IA tiende a amplificar el poder de quienes ya poseen recursos económicos, experiencia y acceso a datos”, continúa la encíclica, destacando la preocupación de que las élites puedan usar su poder para “dar forma a patrones de información y consumo, influir en los procesos democráticos y dirigir la dinámica económica en su propio beneficio”.
La encíclica llega unos días después de que el presidente Donald Trump retrasara la firma de su orden ejecutiva sobre IA, que habría dado al gobierno supervisión sobre los nuevos modelos antes de su lanzamiento, supuestamente a instancias del inversor de capital de riesgo y ex zar de la IA de la Casa Blanca, David Sacks.
El Papa León pidió que AI se guíe por “criterios claros y una supervisión efectiva” basada en la participación de las comunidades que se verán afectadas por ella. Más concretamente, Leo pidió el fin de la carrera armamentista de la IA “para lograr algoritmos cada vez más potentes y conjuntos de datos más grandes” que las empresas y los países creen que “asegurarán el dominio geopolítico o comercial”.
“Desarmar significa desacreditar la suposición de que el poder técnico confiere automáticamente el derecho a gobernar”, escribió.
Una vez más, estas dinámicas son anteriores a la IA. La Rerum Novarum del Papa León XIII de 1891 abordó la misma concentración de poder durante la Revolución Industrial, pero no necesitamos mirar tan atrás. La adquisición de Twitter por parte de Elon Musk y el despliegue de la plataforma para ayudar a elegir a Trump; los cientos de millones que fluyen de las élites tecnológicas a los súper PAC para bloquear la regulación de la IA, el tipo de patrón que claramente inspiró el trabajo de León XIV.
El Papa llega a la misma conclusión a la que muchos han llegado: el poder y las capacidades surrealistas de la IA actual aumentan enormemente las apuestas.
Paolo Carozza, profesor de la Facultad de Derecho de Notre Dame, miembro de la Academia Pontificia de Ciencias Sociales y presidente de la Junta de Supervisión Meta, dijo a TechCrunch que la desinformación impulsada por la IA y los deepfakes han «corroído nuestra capacidad de reconocer lo que es verdad y lo que no es verdad, y eso realmente tiene consecuencias para la política democrática». La práctica de la industria tecnológica de «recolectar y manipular» datos humanos, añadió, plantea «desafíos fundamentales para la libertad cognitiva».
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
