El Papa León XIV advirtió sobre los riesgos de la IA y el poder tecnológico ilimitado en su primer documento papal importante publicado el lunes. Humanidad magnífica es el manifiesto del Papa sobre “salvaguardar a la persona humana en la época de la inteligencia artificial”, en el que analiza los peligros de la guerra impulsada por la IA, los efectos de la IA en el trabajo y la necesidad de nuevos marcos legales y éticos para gobernar la tecnología.
En su encíclica papal, una especie de carta abierta de la Iglesia Católica, el Papa León destacó la agitación económica y social que está creando la rápida adopción de la IA, con protecciones inadecuadas para las personas que amenazan la dignidad humana. Comparó la era actual de la IA con la Torre de Babel, diciendo que la sociedad debe «evitar el ‘síndrome de Babel'», que define como «la idolatría de las ganancias que sacrifica a los débiles, una uniformidad que neutraliza las diferencias y la pretensión de que un solo lenguaje -incluso uno digital- puede traducirlo todo, incluido el misterio de la persona, en datos y desempeño».
La carta del Papa León aborda áreas importantes de la vida moderna en las que la IA se ha arraigado profundamente: la pérdida de empleo y la mano de obra en general, la guerra impulsada por la IA y la exposición de los niños a herramientas y contenidos de la IA, entre otros temas. Por encima de todo, la encíclica pide que la dignidad de los seres humanos sea una parte central de la toma de decisiones y la gobernanza. La carta es un llamado al “discernimiento moral y social que salvaguarde la primacía de la persona humana, para garantizar que sea siempre la inteligencia humana, con su conciencia y su libertad, la que guíe las innovaciones técnicas y determine responsablemente su uso y sus límites”, escribe Leo.
La carta, que tiene más de 42.000 palabras, enmarca el llamado a “prudencia, evaluación rigurosa e incluso, en ocasiones, un ritmo más lento en la adopción de la IA” como “un ejercicio de cuidado responsable de la familia humana”. Entre algunas de las propuestas:
Los efectos de la IA en la humanidad han sido una cuestión definitoria para el Papa León: eligió su nombre papal en referencia a la revolución industrial, durante la cual su predecesor, el Papa León XIII, emitió su propia encíclica sobre la protección de los trabajadores en medio de los avances tecnológicos. El Papa Leo también ha estado interactuando con la industria de la inteligencia artificial: el cofundador de Anthropic, Christopher Olah, estuvo presente cuando el Papa presentó su encíclica el lunes. politico informó que representantes de Amazon, Meta y Google se reunieron con funcionarios del Vaticano antes de la publicación de la encíclica del lunes mientras la industria tecnológica intenta influir en las posiciones de la iglesia. (También hay un subconjunto que intenta darle una “píldora AGI” al Papa; Humanidad magnífica no menciona explícitamente la inteligencia artificial general).
La encíclica no es una objeción general a la IA. Más bien, el Papa León pide el “desarme” de la tecnología, tanto en el sentido militar como también en el sentido económico y social. La IA no debería utilizarse en una carrera para acumular poder o monopolizar la sociedad, afirma.
«Desarmar significa desacreditar la suposición de que el poder técnico confiere automáticamente el derecho a gobernar. Desarmar no significa rechazar la tecnología, sino impedir que domine a la humanidad».
