Anthropic dice que la IA se está desarrollando tan rápidamente que la tendencia es hacia sistemas capaces de desarrollar sus propios sucesores. Aún no hemos llegado a ese punto, pero creen que esto “sucederá antes de lo que la mayoría de las instituciones están preparadas”. En su entrada de blog, Anthropic explicó que la IA autoconstruida podría «traer enormes beneficios al mundo» en los campos de la ciencia y la atención sanitaria, entre otros. Sin embargo, también puede “aumentar el riesgo de pérdida de control humano sobre el sistema de IA”. Entonces, ¿cómo puede la humanidad evitar que Skynet se convierta en realidad? Anthropic sostiene que la respuesta es una desaceleración global o una parada temporal en el desarrollo de la IA «para permitir que la estructura de la sociedad y la alineación de la investigación sigan el ritmo de los avances tecnológicos».
La compañía es uno de los nombres líderes en la carrera de la IA en la actualidad y, a diferencia de sus competidores que aún no han ganado dinero, se dice que está en camino de obtener ganancias en su primer trimestre. Recientemente presentaron la documentación ante la SEC para salir a bolsa, posiblemente antes de que termine el año. Como Diario de Wall Street Tenga en cuenta que los críticos argumentan que las advertencias de Anthropic sobre su propia tecnología son una estrategia de marketing, tal vez en un intento de hacer que parezca la menos terrible de todas las empresas de inteligencia artificial o hacer que parezca que su producto es el mejor que existe.
Los críticos señalan específicamente como ejemplo el lanzamiento limitado del modelo de inteligencia artificial de ciberseguridad Mythos. Anthropic dijo que puso Mythos a disposición de un grupo selecto de socios debido al daño potencial que podría causar su capacidad para identificar rápidamente vulnerabilidades si estuviera en las manos equivocadas. Pero muchos pensaron que era sólo una estratagema para exagerar el producto o encubrir el hecho de que Anthropic sólo quería venderlo a las empresas más grandes.
Pero vale la pena señalar que el asesoramiento de la empresa se basa en los hallazgos del Anthropic Institute, una división de investigación fundada en marzo. Anthropic dijo en ese momento que el papel de la agencia era «contarle al mundo» lo que había aprendido sobre los desafíos que surgen a medida que las empresas de IA desarrollan sistemas de IA más sofisticados. El instituto, junto con sus colaboradores, llevará a cabo una investigación sobre lo que se necesitaría para “construir un sistema que requiera desaceleraciones o pausas creíbles”.
Si las empresas de IA aceptan esta desaceleración, entonces debería haber un mecanismo que pueda verificar si realmente están deteniendo o desacelerando el desarrollo de la IA. De lo contrario, algunas personas podrían ser superiores a otras después de desarrollar su tecnología en secreto. “Una desaceleración o pausa significativa requeriría que muchos laboratorios con buenos recursos en la frontera o cerca de ella, en muchos países, aceptaran hacer una pausa en condiciones similares”, escribió Anthropic. «También requiere que cada parte pueda verificar que la otra parte realmente ha renunciado».
Sus sugerencias sólo se harán realidad si todas las empresas de IA del mundo pueden unirse y prometer detener el desarrollo de la IA por un tiempo. Anthropic dijo que no era imposible y citó el tratado sobre armas nucleares como ejemplo, aunque reconoció que el tratado había tardado décadas en elaborarse. No tenemos tanto tiempo, considerando que el desarrollo de la IA está avanzando muy rápidamente. La compañía planea mantener conversaciones con responsables políticos, investigadores y otras empresas de inteligencia artificial en los próximos meses sobre este tema y publicará los resultados de esas conversaciones.
