La casa de Illinois de Representantes aprobó un proyecto de ley el miércoles que exige que los laboratorios de inteligencia artificial de vanguardia como OpenAI, Anthropic y Google DeepMind hagan que un tercero audite sus prácticas de seguridad. Si se convierte en ley, los expertos en seguridad de la IA le dicen a WIRED que sería el principal control del país sobre el poder de las principales empresas de IA.
El proyecto de ley, SB 315, ahora se dirige al escritorio del gobernador JB Pritzker. En una publicación en las redes sociales el miércoles, Pritzker dijo que planea firmar el proyecto de ley, citando la necesidad de responsabilizar a las grandes tecnologías.
Dado que el Congreso aún no ha aprobado ninguna legislación significativa sobre seguridad de la IA, los legisladores estatales han dado un paso adelante felizmente en los últimos años para promover proyectos de ley que muestren a sus electores que están manteniendo a Silicon Valley bajo control. A medida que las herramientas de IA se vuelven cada vez más populares y las empresas que las respaldan se apresuran hacia OPI masivas, las encuestas muestran que los votantes estadounidenses buscan una mayor regulación de la IA.
Como resultado, los defensores de la seguridad y las empresas de tecnología se han centrado en las legislaturas estatales como el principal campo de batalla para debatir cómo deberían verse estas leyes. El jefe de asuntos globales de OpenAI, Chris Lehane, dijo a WIRED la semana pasada que la política de IA de la compañía ahora se orienta a aprobar una serie de leyes estatales similares.
California y Nueva York tienen actualmente las leyes de seguridad de IA más estrictas, lo que exige que las empresas de tecnología proporcionen información sobre modelos de barandillas y publiquen informes sobre incidentes de seguridad a medida que ocurren. El proyecto de ley de Illinois va un paso más allá y exige que auditores independientes verifiquen que un laboratorio de IA cumpla con sus propios estándares de seguridad. Anteriormente, ningún organismo independiente estaba obligado a responsabilizar a un laboratorio de IA de sus propias afirmaciones de seguridad.
«Estamos en una situación en la que las empresas de IA califican sus propios deberes», dice Scott Wisor, director de políticas de Secure AI Project, una organización sin fines de lucro que apoyó la SB 315. «Si la SB 315 se convirtiera en ley, Illinois requeriría un auditor independiente para verificar si los laboratorios de IA realmente cumplen con sus compromisos de seguridad».
Wisor dice que se espera que, según la SB 315, los laboratorios de IA puedan utilizar las cuatro grandes firmas de contabilidad y auditoría (Deloitte, EY, KPMG y PwC) para auditar sus prácticas de seguridad. También dice que es posible que los laboratorios de IA puedan recurrir a miembros del AI Evaluator Forum (una coalición de organizaciones de investigación más pequeñas, incluidas METR, Transluce y AVERI) para evaluar el cumplimiento de los estándares de seguridad.
El representante del estado de Illinois, Daniel Didech, patrocinador de la SB 315, le dice a WIRED que las legislaturas estatales están desempeñando un papel importante al dar forma a la política de inteligencia artificial de Estados Unidos y actuar como campo de pruebas para cualquier ley federal que pueda surgir en el futuro. «Leyes como ésta crean un mundo en el que es más probable que el gobierno federal apruebe algo», dice Didech.
Intereses corporativos
Illinois se ha convertido en un escenario importante en la lucha en curso por las leyes estatales de IA. OpenAI apoyó anteriormente un proyecto de ley en Illinois que permitiría a los laboratorios de IA eludir la responsabilidad si sus modelos causaran daños catastróficos. Sin embargo, Lehane ha dicho desde entonces que el apoyo general de la compañía al proyecto de ley fue un descuido y que nunca apoyó el escudo de responsabilidad en el proyecto de ley. Más recientemente, OpenAI respaldó la SB 315.
«La Asamblea General de Illinois ha demostrado un verdadero liderazgo bipartidista al promover la SB 315 y desarrollar un marco reflexivo para la seguridad fronteriza de la IA. A medida que los sistemas de IA se vuelven más capaces, las expectativas claras en torno a la seguridad, la transparencia, la notificación de incidentes y la rendición de cuentas son importantes», dice Lehane en una declaración a WIRED.
