Los directores ejecutivos de Varias empresas importantes de inteligencia artificial están instando a los miembros del Congreso a adoptar nuevas leyes que dificulten que los malos actores desarrollen armas biológicas utilizando su tecnología.
Demis Hassabis de Google DeepMind, Sam Altman de OpenAI, Dario Amodei de Anthropic y Mustafa Suleyman de Microsoft AI se encuentran entre los firmantes de una carta pública que pide leyes que exijan a las empresas que venden ADN y ARN sintéticos examinar a los clientes y los pedidos para evitar el uso indebido de material genético.
Organizada por el independiente Instituto para el Progreso y la derechista Fundación para la Innovación Estadounidense, la carta reconoce que, dado el ritmo del desarrollo de la IA, “existe una posibilidad real de que las barreras de conocimiento que históricamente han impedido que los malos actores obtengan armas biológicas se erosionen significativamente”.
El científico Arthur Kornberg fue el primero en sintetizar con éxito el ADN en los años cincuenta. Ahora el proceso está automatizado y decenas de empresas de todo el mundo utilizan sintetizadores comerciales para “imprimir” y vender secuencias genéticas personalizadas que se utilizan para la investigación científica, el desarrollo de fármacos y el diagnóstico. Muchos proveedores venden sólo a investigadores calificados, empresas de biotecnología e instituciones educativas, pero no todos examinan a los clientes o las secuencias genéticas que solicitan.
En 2017, investigadores canadienses dieron la alarma cuando utilizaron ADN pedido por correo por valor de 100.000 dólares para reconstituir el virus extinto de la viruela equina. Los críticos dijeron que la misma metodología podría usarse para construir la viruela, un virus mortal y estrechamente relacionado. Desde entonces, la síntesis de genes no ha hecho más que abaratarse.
Combinado con los avances en IA, ahora es factible diseñar nuevas toxinas y patógenos peligrosos utilizando grandes modelos de lenguaje, aunque probablemente todavía se necesitaría cierta formación en biología para crear un virus funcional desde cero. Si bien los ataques bioterroristas han sido raros, tienen el potencial de causar víctimas masivas, pánico público y pérdidas económicas. Una preocupación importante es que un patógeno diseñado por IA pueda provocar, intencionalmente o no, una pandemia mundial.
«Las herramientas de inteligencia artificial permiten al usuario identificar muy rápidamente a dónde acudir para solicitar secuencias que no estarán sujetas a análisis», dice David Relman, microbiólogo y experto en bioseguridad de la Universidad de Stanford, quien firmó la carta. «Si se les solicita adecuadamente, también pueden indicarle cómo cambiar la naturaleza de su pedido, de modo que incluso aquellos que están realizando pruebas de detección sean mucho menos capaces de detectar qué es lo que está tratando de hacer».
Entre los firmantes se encuentran otros científicos, expertos en seguridad nacional y ejecutivos de las empresas de síntesis genética Twist Bioscience y Ansa Biotechnologies. Estas empresas son miembros del Consorcio Internacional de Síntesis Genética, que se formó en 2009 para implementar prácticas de detección voluntaria. Muchas empresas ya utilizan software para detectar pedidos en busca de «secuencias preocupantes» que pueden contribuir a la toxicidad o la capacidad de un organismo para causar enfermedades.
«Si tienes tecnología capaz de sintetizar ADN, entonces debes asegurarte de que se use de manera responsable, y parte de eso es asegurarte de que entiendes lo que estás haciendo y para quién lo estás haciendo», dice James Diggans, vicepresidente de políticas y bioseguridad de Twist Bioscience. La empresa apoya desde hace años la aplicación de normas formales.
Las directrices federales introducidas durante la administración de Biden exigían que los científicos y las empresas que reciben financiación federal solicitaran secuencias de genes sintéticos a proveedores que analizan las compras. Un proyecto de ley bipartidista presentado a principios de este año en el Senado requeriría que todos los proveedores de síntesis de genes que operan en los EE. UU. revisen los pedidos y los clientes en busca de malos actores o patógenos peligrosos.
Pero las herramientas de detección no son perfectas. El año pasado, investigadores de Microsoft publicaron un estudio que muestra que las herramientas de diseño de proteínas de IA fueron capaces de generar secuencias genéticas potencialmente peligrosas que pasaron desapercibidas para el software de detección de las empresas. Los modelos sugirieron nuevas secuencias de proteínas con estructuras similares a las que se sabe que son peligrosas.
Geoff Ralston, ex presidente de Y Combinator y socio de Safe AI Fund, cree que los laboratorios de IA con modelos biológicos deberían hacer su propio análisis de los usuarios.
«Debería ser muy difícil, si no imposible, pedirle a un modelo que te ayude a hacer algo inminentemente peligroso», dice Ralston, quien también firmó la carta.
Relman está de acuerdo en que las regulaciones sobre los procedimientos de detección son sólo una parte de la solución. “Dado que en algunos casos el control puede fallar, entonces debemos tener otros puntos de control”, afirma. «Ahí es donde las empresas de IA tendrán que dar un paso al frente».
