Dos ex empleados de OpenAI y un grupo de organizaciones sin fines de lucro de seguridad de la IA advierten que el laboratorio de IA de Elon Musk, xAI, podría convertirse en un lastre para los posibles inversores en SpaceX, que se está preparando para presentar lo que se espera sea la oferta pública inicial más grande en la historia de Wall Street.
En una carta dirigida a los inversores publicada el martes, los ex empleados destacaron lo que describen como «riesgos sin precio» relacionados con xAI que podrían complicar los planes informados de SpaceX de recaudar hasta 75 mil millones de dólares como parte de su IPO. La valoración privada de la compañía de cohetes se disparó a más de 1 billón de dólares después de que adquirió xAI el año pasado. Musk afirmó que su compañía de cohetes podría lanzar centros de datos al espacio para su laboratorio de inteligencia artificial, pero los autores de la carta argumentan que el pobre historial de xAI en cuestiones de seguridad podría complicar la forma en que los inversores ven a la compañía combinada mientras se prepara para presentar su prospecto de oferta pública inicial.
Uno de los firmantes y coautores de la carta es una nueva organización sin fines de lucro llamada Guidelight AI Standards, que fue cofundada por el ex investigador de seguridad de OpenAI Steven Adler y el ex asesor de políticas de OpenAI Page Hedley. El grupo, que cuenta con el respaldo de donantes privados, tiene como objetivo mejorar las prácticas de seguridad de las empresas fronterizas de IA. También se sumaron otras organizaciones sin fines de lucro de seguridad de la IA, incluidas Legal Advocates for Safe Science and Technology, Encode AI y The Midas Project.
Hedley le dice a WIRED en una entrevista que cree que xAI tiene las peores prácticas de seguridad «casi en todos los ámbitos» en comparación con otros desarrolladores de IA de vanguardia, incluidos OpenAI, Google DeepMind y Anthropic. Como resultado, sostiene, SpaceX puede enfrentar un mayor riesgo de regulación y litigio que otros laboratorios de IA.
Los autores de la carta argumentan que SpaceX debería hacer varias revelaciones a los inversores, incluido si xAI tiene la intención de continuar desarrollando modelos de IA de vanguardia. SpaceX llegó recientemente a un acuerdo para vender una parte importante de su capacidad de GPU a Anthropic, y la carta afirma que el acuerdo «no deja claro si xAI sigue siendo un competidor de IA de frontera dentro de un holding más grande». Si xAI continúa desarrollando modelos de IA de vanguardia, los autores dicen que se le debería exigir que publique un plan de gobernanza y seguridad pública.
SpaceX y xAI no respondieron de inmediato a la solicitud de comentarios de WIRED.
La carta también describe ejemplos de cómo xAI no se ha mantenido al día con las prácticas de seguridad estándar de la industria, como la publicación de marcos detallados para mitigar los riesgos relacionados con el uso de sus modelos de IA en ataques cibernéticos. Los autores también describen incidentes de seguridad específicos en xAI que, según ellos, merecen un escrutinio adicional. Entre los más notables se incluye cuando el chatbot de IA insignia de xAI, Grok, mencionó espontáneamente el genocidio blanco en sus respuestas. En otro caso, xAI permitió a Grok generar miles de imágenes sexualizadas de mujeres y niños, que se difundieron ampliamente en la plataforma de redes sociales X de Musk. Este último caso llevó al menos a 37 fiscales generales de Estados Unidos a enviar una carta exigiendo que el laboratorio de inteligencia artificial de Musk tomara medidas para proteger a las mujeres y los niños en su plataforma.
Hedley dice que la cantidad de incidentes de seguridad que ha experimentado xAI y la atención regulatoria que recibieron está «muy desproporcionada con su participación de mercado». A medida que los legisladores se alarman cada vez más por las capacidades cibernéticas de los modelos avanzados de IA como Claude Mythos de Anthropic, es posible que haya nuevas regulaciones de seguridad en el horizonte. Según se informa, la administración Trump ya está sopesando una orden ejecutiva que daría a las agencias de inteligencia estadounidenses más supervisión sobre los modelos de IA.
“Se necesita una inversión seria para dominar [AI safety] riesgos, y parece que históricamente xAI no ha invertido lo suficiente aquí», dice Adler. La carta cita un informe del Washington Post que decía que xAI tenía sólo «dos o tres» personas trabajando en seguridad en enero. «Una pregunta que los inversores deberían hacerse es si xAI se queda en la frontera, ¿qué tan costoso podría ser, de hecho, gestionar estos riesgos? [risks] responsablemente? Si no lo hacen, ¿cuáles podrían ser las consecuencias?
