Esto es para garantizar el cumplimiento de las directivas gubernamentales que citan preocupaciones de seguridad nacional.
Anthroic ha desactivado el acceso de todos sus clientes a Fable 5 y Mythos 5 para garantizar el cumplimiento de las órdenes recibidas del gobierno el viernes 12 de junio. Todos los demás modelos y su chatbot Claude no se ven afectados. La compañía dijo en su anuncio que el gobierno de EE. UU. quiere suspender el acceso de todos los ciudadanos extranjeros a sus modelos de IA recientemente lanzados, ya sea que estén dentro o fuera de EE. UU. e incluso si son empleados de Anthropic, citando preocupaciones de seguridad nacional.
Si bien el gobierno de EE. UU. no detalló las preocupaciones, Anthropic cree que esto se debe a que el gobierno se enteró de los métodos de jailbreak de Fable 5. La compañía acaba de presentar su modelo Fable AI, diseñado para llevar al público muchas de las capacidades de Mythos, el 9 de junio. Si recuerda, Mythos es un modelo de ciberseguridad de última generación disponible solo para sus socios del Proyecto Glasswing. Las capacidades del Fable «superan» los modelos Anthropic anteriores lanzados. late Pokémon Rojo Fuego durante la prueba de la empresa, por ejemplo, mientras que Claude no logró vencerlo Pokémon Rojoel juego original en el que se basa.
Anthropic enumeró los pasos que está tomando para garantizar que Fable esté seguro en su puesto. Dijo que implementó fuertes salvaguardas para «reducir la posibilidad de que Fable sea utilizado indebidamente para tareas relacionadas con la ciberseguridad» y agregó que «las salvaguardas son tan fuertes que muchos usuarios se quejan de que son demasiado amplias». La compañía también explica que es imposible para cualquier proveedor garantizar una resistencia perfecta a los intentos de jailbreak, y cada modelo es vulnerable a los jailbreak creados específicamente para él. «Nuestro objetivo es hacer que las fugas sean estrechas (en el caso de las fugas no universales) o muy costosas de producir (en el caso de las fugas universales), y combinar esto con un seguimiento exhaustivo para detectar y detener rápidamente cualquier ataque exitoso», dijo sobre su estrategia de defensa.
Al parecer, el gobierno proporcionó a la empresa pruebas orales sobre una potencial fuga de prisión estrecha y no universal que la entidad anónima compartió con los funcionarios. Anthropic prometió proporcionar más detalles en las próximas 24 horas, pero aclaró que no está de acuerdo con que el potencial de jailbreak deba ser un motivo para retirar modelos comerciales.
«Como hemos declarado públicamente, creemos que los gobiernos deberían tener la capacidad de bloquear implementaciones inseguras, como parte de un proceso legal que sea transparente, justo, claro y basado en hechos técnicos», escribió Anthropic, que ha advertido abiertamente sobre la necesidad de una mayor supervisión de la IA. «Esta acción no cumple con esos principios».
