Un ex ingeniero de xAI de Elon Musk presentó una demanda contra la compañía y su matriz SpaceX alegando que fue despedido por expresar preocupaciones sobre la seguridad de la IA.
Devin Kim, quien dejó xAI en septiembre de 2025, presentó la demanda en un tribunal estatal de California el martes. La queja se produce días antes de que SpaceX se una a los mercados públicos en lo que se perfila como la IPO más grande de la historia.
Según la demanda, que TechCrunch ha visto, Kim se convirtió en una voz destacada a favor de la seguridad de la IA mientras trabajaba en Grok, el chatbot de IA de xAI. Supuestamente se quejó repetidamente de que xAI no priorizó la seguridad en el desarrollo de Grok, un producto que desde entonces ha sido criticado por una variedad de problemas de seguridad y comportamiento. En particular, a Kim le preocupaba la posibilidad de que Grok pudiera fomentar la discriminación y ayudar a difundir información sobre armas de destrucción masiva.
«Grok, por supuesto, le dio la razón al Sr. Kim al participar en demostraciones espectaculares de odio y vitriolo en línea, con el modelo comparándose con Hitler (‘MechaHitler’)», se lee en la demanda. «Tras la debacle de Hitler, el Sr. Kim trabajó para reevaluar el sesgo político y las tendencias discriminatorias de Grok».
Unos meses después de que Kim dejara xAI, Grok volvió a ser noticia cuando el chatbot se utilizó para inundar X (la plataforma de redes sociales de Musk que también cae bajo el paraguas de xAI) con imágenes sexuales no consensuadas.
La demanda también posiciona a Kim como un denunciante preocupado por el supuesto desprecio de xAI por la seguridad de la IA como «ilegal» en áreas como la regulación de Internet, la protección del consumidor y las prácticas comerciales desleales, y la regulación de armas y explosivos, entre otras.
xAI y SpaceX no respondieron de inmediato a las solicitudes de comentarios.
El enfoque de Kim en la seguridad de la IA es anterior a su tiempo en xAI. Mientras trabajaba en Scale AI, Kim trabajó en las primeras iniciativas de seguridad de la IA, como liderar un proyecto que produjo datos de entrenamiento para que la IA entrene a los sistemas para detectar contenido dañino y cumplir con las políticas de gobernanza. La semana pasada, el Centro para la Seguridad de la IA, una organización sin fines de lucro que se centra en los riesgos de la IA, nombró a Kim como su presidente.
Curiosamente, la demanda no implica al propio Musk como motivo de la falta de seguridad. Más bien, los abogados de Kim describen que Musk ordenó a xAI que siguiera la ley e implementara procesos de prueba y seguridad adecuados. En cambio, la afirmación se dirige al supervisor de Kim, el cofundador de xAI, Jimmy Ba, que dejó la empresa a principios de este año, diciendo que Ba ignoró las directivas de Musk y tomó represalias contra Kim por presionar para que se implementaran salvaguardias, en un esfuerzo por «silenciar sus repetidas quejas sobre la seguridad y los prejuicios de la IA».
La demanda retrata a Ba como alguien que se opuso vehementemente a las medidas de seguridad de la IA, supuestamente le dijo a Kim en un momento: «La IA nos matará a todos de todos modos», y que, en cambio, estaba impulsado por la misión de hacer de xAI el primero en alcanzar la superinteligencia.
«En un caso en agosto de 2025 o alrededor de esa fecha, el Sr. Ba intentó frustrar las normas de seguridad de la UE durante la publicación de Grok Code 1, tergiversando aspectos del modelo para evitar las pruebas requeridas legalmente», dice la denuncia. «El señor Ba indicó que preferiría lanzar un modelo inseguro que uno de bajo rendimiento. Al final, el señor Musk tuvo que intervenir».
Según la demanda, Kim tenía la intención de hacer una presentación de sus hallazgos la semana del 15 de septiembre de 2025, pero Ba lo convocó a una reunión y le dijo que debían “ir”. [their] caminos separados” sin proporcionar una razón satisfactoria.
TechCrunch se ha puesto en contacto con Ba para hacer comentarios.
Kim busca daños compensatorios y punitivos, así como una sentencia declarativa de que la conducta de xAI y SpaceX fue ilegal.
Cuando compra a través de enlaces en nuestros artículos, podemos ganar una pequeña comisión. Esto no afecta nuestra independencia editorial.
