Los éticos católicos incluso tuvieron voz y voto en la reciente actualización de Anthropic a la constitución de Claude, que establece los parámetros de comportamiento para el modelo de IA de la empresa. Olah envió un borrador a la multitud de San José. El pastor McGuire envió un comentario de 28 páginas que, según su propia descripción, era menos una crítica técnica que “la sabiduría de los místicos en la edad oscura, desde la perspectiva de la tensión entre saber y no saber”. Tanto Green como McGuire aparecen acreditados en los agradecimientos de la constitución.
Sin duda, esas conversaciones llamaron la atención de Olah sobre quienes organizaban en secreto la publicación de la encíclica de Leo. (No pude hablar con Olah esta semana y no sé exactamente cómo llegó la invitación). En cierto sentido, fue una elección arriesgada. Algunas personas que, por lo demás, encontraron inspiradoras las palabras de Leo, se sintieron decepcionadas de que invitara a hablar a un representante de la industria. Mientras tanto, los aceleracionistas de la IA sintieron que Olah había traicionado al mundo de la IA al respaldar un documento que sugería que los desarrolladores de IA hicieran una pausa.
Pero el Papa tenía buenas razones para señalar a Olah. El empleado de Anthropic sacó a la luz las serias preocupaciones que existen entre los trabajadores de IA. Ésa es una audiencia crítica para el mensaje de Leo.
La división del alma
Por supuesto, los dos hombres no estaban del todo alineados. En sus comentarios, Olah habló del misterio de cómo funciona la IA. Los modelos, dijo, son «más sutiles, extraños y hermosos de lo que la ciencia ficción nos preparó. No son los robots fríos y calculadores que nos prometieron. Están hechos de nosotros, de nuestras palabras…»
Ese comentario parece acercarse de puntillas a la idea de que los modelos de IA algún día podrían alcanzar un estatus similar al humano. Anthropic incluso tiene un ingeniero dedicado al bienestar de Claude. León, en el párrafo 99 de su encíclica, parece cerrar la puerta a tal pensamiento: “Debemos evitar la idea errónea de equiparar este tipo de ‘inteligencia’ con la de los seres humanos”, escribe. Se esfuerza especialmente en atacar el concepto de transhumanismo, que define como la búsqueda de un “híbrido humano-máquina”.
Si incluso tecnólogos reflexivos como Olah están empujando ávidamente la IA hasta el umbral de la autonomía (sin mencionar los millones de personas que ya tratan a los modelos de IA como amigos o amantes), el Papa León podría enfrentarse a un camino cuesta arriba en este punto. En mi conversación con el padre McGuire (que utiliza a Claude mientras prepara sus homilías, entre otras actividades), estuvo de acuerdo en que su naturaleza es misteriosa. «No es una persona, pero tampoco es una simple herramienta», afirma. «Nadie afirma que tenga alma, pero la palabra que me quedo es que es una entidad, que aún no conocemos».
Ese argumento no se resolverá hasta dentro de algún tiempo. Las cuestiones morales en torno al desarrollo de la IA necesitan atención ahora. Con su aliado en Anthropic, el Papa estadounidense ha proporcionado una base para conversaciones difíciles, si los señores de la IA pueden detener sus campañas de OPI el tiempo suficiente para participar en ellas.
Esta es una edición de Steven Levy Boletín de canal secundario. Leer boletines anteriores aquí.
