El filósofo Nick Bostrom Recientemente publicó un artículo en el que postulaba que una pequeña posibilidad de que la IA aniquile a todos los humanos podría valer la pena, porque la IA avanzada podría aliviar a la humanidad de «su sentencia de muerte universal». Esa apuesta optimista es un gran salto con respecto a sus oscuras reflexiones anteriores sobre la IA, que lo convirtieron en un padrino fatal. Su libro de 2014 superinteligencia Fue un examen temprano del riesgo existencial de la IA. Un experimento mental memorable: una IA encargada de fabricar clips termina destruyendo a la humanidad porque todas esas personas necesitadas de recursos son un impedimento para la producción de clips. Su libro más reciente, Utopía profundarefleja un cambio en su enfoque. Bostrom, que dirige el Instituto para el Futuro de la Humanidad de Oxford, reflexiona sobre el “mundo resuelto” que surgirá si conseguimos que la IA sea correcta.
STEVE LEVY: Utopía profunda Es más optimista que su libro anterior. ¿Qué cambió para ti?
NICK BOSTROM: Me considero un optimista inquieto. Estoy muy entusiasmado con el potencial de mejorar radicalmente la vida humana y desbloquear posibilidades para nuestra civilización. Esto es consistente con la posibilidad real de que las cosas salgan mal.
Escribiste un artículo con un argumento sorprendente: dado que todos vamos a morir de todos modos, lo peor que puede pasar con la IA es que muramos antes. Pero si la IA funciona, podría prolongar nuestras vidas, tal vez indefinidamente.
Ese documento analiza explícitamente sólo un aspecto de esto. En cualquier artículo académico no se puede abordar la vida, el universo y el significado de todo. Así que analicemos este pequeño problema y tratemos de concretarlo.
Ese no es un problema menor.
Supongo que me han molestado algunos de los argumentos de los doomers que dicen que si construyes IA, vas a matarme a mí y a mis hijos y ¿cómo te atreves? Como el libro reciente Si alguien lo construye, todos mueren. Aún más probable es que si nadie ¡Si lo construyes, todos mueren! Ésa ha sido la experiencia durante los últimos 100.000 años.
Pero en el escenario más pesimista todo el mundo muere y no nace más gente. Gran diferencia.
Obviamente he estado muy preocupado por eso. Pero en este artículo, estoy analizando una pregunta diferente: ¿qué sería lo mejor para la población humana existente actualmente como usted y yo, nuestras familias y la gente de Bangladesh? Parece que nuestra esperanza de vida aumentaría si desarrollamos la IA, aunque sea bastante arriesgada.
En Utopía profunda especulas que la IA podría crear una abundancia increíble, hasta el punto de que la humanidad podría tener un gran problema para encontrar un propósito. Vivo en los Estados Unidos. Somos un país muy rico, pero nuestro gobierno, aparentemente con el apoyo del pueblo, tiene políticas que niegan servicios a los pobres y distribuyen recompensas a los ricos. Creo que incluso si la IA fuera capaz de proporcionar abundancia para todos, no la proporcionaríamos a todos.
Puede que tengas razón. Utopía profunda toma como punto de partida el postulado de que todo va extremadamente bien. Si hacemos un trabajo razonablemente bueno en materia de gobernanza, todos recibirán una parte. Existe una cuestión filosófica bastante profunda sobre cómo sería una buena vida humana en estas circunstancias ideales.
El significado de la vida es algo de lo que se escucha mucho en las películas de Woody Allen y tal vez en la comunidad de filósofos. Lo que más me preocupa es tener medios para sustentarse y participar en esta abundancia.
El libro no trata sólo de significado. Ese es uno entre un montón de valores diferentes que considera. Esta podría ser una maravillosa emancipación del trabajo pesado al que han sido sometidos los humanos. Si tienes que renunciar, digamos, a la mitad de tus horas de vigilia como adulto sólo para llegar a fin de mes, haciendo algún trabajo que no disfrutas y en el que no crees, esa es una condición triste. La sociedad está tan acostumbrada que hemos inventado todo tipo de racionalizaciones en torno a ello. Es como una forma parcial de esclavitud.
